摘要：
使用了opensslsockets, fphttpclient, fpjson, jsonparse,cef4delphi,synedit,fpc_Markdown等單元，實現DeepSeek（只要兼容OpenAI接口就可以）或ollama本地部署的API Chat接口的流式接收的程序。程序運行時的 閱讀全文
posted @ 2025-02-24 21:08
秋·風
閱讀(455)
評論(2)
推薦(0)
摘要：
這2天在學習在本地部署大模型，大模型輸出的答案大部分是markdown格式，怎樣才能將markdown格式轉為HTML然后在瀏覽器顯示呢？ 經過搜索，發現用fpc_markdown+Synedit+THtmlViewer或CEF4DELPHI（添加TSynEdit/TSynExporterHTML/ 閱讀全文
posted @ 2025-02-21 18:56
秋·風
閱讀(320)
評論(2)
推薦(0)
摘要：
安裝 要安裝 Ollama，請運行以下命令： curl -fsSL https://ollama.com/install.sh | sh 手動安裝 注意 如果要從以前的版本升級，則應使用 first 刪除舊庫。sudo rm -rf /usr/lib/ollama 下載并解壓縮包： curl -L 閱讀全文
posted @ 2025-02-20 14:42
秋·風
閱讀(4369)
評論(0)
推薦(0)
摘要：
為方便使用ollama已部署的大模型，建議使用Cherry-Studio這個開源軟件。在https://cherry-ai.com/官網下載并完成安裝Cherry-Studio。1、點左下“設置”-->選擇"ollama"-->填寫API地址-->點右下角的“管理”添加已部署的大模型 下圖列出的4個 閱讀全文
posted @ 2025-02-20 10:24
秋·風
閱讀(3027)
評論(0)
推薦(1)
摘要：
用ollama部署大模型后API的調用demo。注意：ollama默認只能用127.0.0.1這個IP訪問。解除這個限制的步驟：1、打開/etc/systemd/system/ollama.service在[Service]添加： Environment="OLLAMA_HOST=0.0.0.0:1 閱讀全文
posted @ 2025-02-19 22:08
秋·風
閱讀(711)
評論(0)
推薦(0)
摘要：
昨天測試本地部署deepseek-r1:8b模型，今天安裝qwen2.5-coder模型，看哪個更適合代碼編寫。一、安裝qwen2.5-code: 1.如沒安裝過ollama，請下載并安裝ollama安裝腳本，如果已安裝，請直接跳到第3步。如果沒安裝curl，請先安裝（sudo apt instal 閱讀全文
posted @ 2025-02-17 20:29
秋·風
閱讀(1351)
評論(0)
推薦(0)
摘要：
借助ollama的腳本安裝DeepSeek變得輕而易舉，這是一個免費的開源工具，任何人都可以在自己的計算機上運行大型語言模型 （LLM）。 2025-03-04： ollama綠色版，虛擬機太大了，我分享一個wndows版本，解壓后設置系統環境變量 OLLAMA_MODELS=x:\ollama\m 閱讀全文
posted @ 2025-02-15 20:45
秋·風
閱讀(2127)
評論(3)
推薦(0)
摘要：
使用lazarus自帶fphttpclient（注意：訪問https要加opensslsockets這個單元）現實DeepSeek API的調用，Demo的代碼只是簡單使用API。2025-02-19更新：發現國內的大模型基本是兼容OpenAI的API，只需要更換一下就可以使用，如果使用kimi(m 閱讀全文
posted @ 2025-02-15 19:24
秋·風
閱讀(733)
評論(5)
推薦(0)
摘要：
lazarus 顯示（中文）點陣字符要帶2個字體文件，想用res/lrs來擺脫hzk16.bin和asc16.bin，嘗試用lazarus lrs/res資源文(讀lrs部分得到“禁衛軍”幫助)，用以下方法都可以實現：一、讀取lrs資源文件1、生成lrs文件：將Hzk16.bin和asc16.bin 閱讀全文
posted @ 2025-02-13 20:50
秋·風
閱讀(250)
評論(0)
推薦(0)
摘要：
編譯環境：lazarus 4.0RC2/FPC 3.3.1unidac 10.3.2unidac 在windows交叉編譯為linux時出錯：Can't create assembler file CRTypes.s CRTypes.pas(1364,0) Error: Can't create a 閱讀全文
posted @ 2025-02-13 15:25
秋·風
閱讀(136)
評論(0)
推薦(0)
浙公網安備 33010602011771號