本地部署DeepSeek并用Python調(diào)用
需要下載的軟件
- OllamaSetup.exe(Ollama是一個(gè)管理和運(yùn)行大語言模型的開源工具)
- Hollama_0.25.1-win-x64.exe【可選】(Hollama是一個(gè)Ollama的可視化工具)
- python-3.13.1-amd64.exe
- VSCodeUserSetup-x64-1.96.4.exe【可選】
安裝步驟
安裝Ollama并運(yùn)行模型DeepSeek
從官網(wǎng)下載相應(yīng)的版本,這里使用的是Windows版本,雙擊執(zhí)行安裝文件默認(rèn)會(huì)安裝到C盤,可通過如下方式指定安裝路徑:
OllamaSetup.exe /DIR=your path
安裝完畢后運(yùn)行Ollama.exe即可,可通過命令ollama help查看參數(shù)。其中,應(yīng)先了解以下參數(shù):
- serve,用來啟動(dòng)ollama(windows上通過安裝包安裝的Ollama會(huì)開機(jī)自動(dòng)啟動(dòng),啟動(dòng)后可以在瀏覽器中查看,地址為:http://127.0.0.1:11434/)
- run 運(yùn)行一個(gè)模型(初次運(yùn)行,會(huì)自動(dòng)下載模型)
- list 列出所有模型
- cp 列出正在運(yùn)行的模型
- rm 刪除模型
- help 幫助
安裝完畢并啟動(dòng)Ollama后,可通過執(zhí)行以下命令下載并運(yùn)行DeepSeek:
ollama run deepseek-r1:1.5b
更多模型請(qǐng)見 https://ollama.com/search, 我電腦配置低,故選的是1.5b。
如果一切正常,DeepSeek運(yùn)行起來后是這樣的:

這時(shí)候可以發(fā)一些文字并得到反饋了:

可輸入/?看到幫助信息
安裝Hollama
Hollama也是一個(gè)開源軟件,它和ollama的關(guān)系類似于Navicat和Mysql,有了它,就不用在黑糊糊的CMD下面和模型交互了,類似的軟件有還有很多,請(qǐng)參見:https://github.com/ollama/ollama
運(yùn)行起來的效果如下:

試用python調(diào)用
這里列出了可以調(diào)用Ollama服務(wù)的很多類庫:https://github.com/ollama/ollama。 暫使用Python測(cè)試:
先安裝模塊:
pip install ollama
用VS Code編寫代碼如下:
import ollama
if __name__ == '__main__':
res = ollama.chat(model='deepseek-r1:1.5b', stream=False, messages=[{'role': 'user', 'content':'how are you'}])
print(res)
執(zhí)行結(jié)果:

歡迎轉(zhuǎn)載,轉(zhuǎn)載請(qǐng)注明出處

浙公網(wǎng)安備 33010602011771號(hào)