大模型部署
部署
-
云服務部署
優勢:前期成本低,維護簡單
劣勢:數據不安全,長期使用成本高 -
本地機器部署
優勢:數據安全,長期成本低
劣勢:初期成本高,維護困難 -
他人部署
1.阿里云白煉
2.百度智能云
3.硅基流動
4.火山引擎
OLLAMA
Ollama 是一種用于快速下載、部署、管理大模型的工具,(官網地址是:)[https://ollama.com/]
1.下載并安裝Ollama :

2.選擇并安裝模型
選一個小點的模型:

安裝命令:

ollama run qwen3:0.6b

其他方式訪問
1.底部查看博文

2.找到題目為Thinking

- curl 調用案例:

4.使用postman訪問

本文來自博客園,作者:chuangzhou,轉載請注明原文鏈接:http://www.rzrgm.cn/czzz/p/19128222

浙公網安備 33010602011771號