【廢話少說，直接上重點！！】不用自己訓練模型代碼【如果需要本地定制化某些功能,需要自己訓練,下篇幫助有限】

原理：使用olloma運行本地模型，然后通過代碼調用本地模型, 。

下載ollama: https://ollama.com/download

下載完后傻瓜式安裝,省略......

安裝完畢后,打開命令行工具輸入【由于電腦配置我選擇的是7b模型，有需求可以自行更換】:

ollama run deepseek-r1:7b

如果本地沒有deepseek-r1模型依賴則會自動下載，下載完畢則ollama會啟用deepseek

如圖：

本地運行成功，接下來就是將其通過C#調用：

找一處適合的文件夾創建控制臺程序或者使用腳手架：

dotnet new console -o MyConsoleApp

運行：

dotnet run

安裝nuget包： “dotnet add package Microsoft.Extensions.AI.Ollama --version 9.1.0-preview.1.25064.3”

復制一下代碼【拿去自用】:

using Microsoft.Extensions.AI;

IChatClient chatClient =
    new OllamaChatClient(new Uri("http://localhost:11434/"), "deepseek-r1:7b");

// Start the conversation with context for the AI model
List<ChatMessage> chatHistory = new();

while (true)
{
    // Get user prompt and add to chat history
    Console.WriteLine("Your prompt:");
    var userPrompt = Console.ReadLine();
    chatHistory.Add(new ChatMessage(ChatRole.User, userPrompt));

    // Stream the AI response and add to chat history
    Console.WriteLine("AI Response:");
    var response = "";
    await foreach (var item in
        chatClient.CompleteStreamingAsync(chatHistory))
    {
        Console.Write(item.Text);
        response += item.Text;
    }
    chatHistory.Add(new ChatMessage(ChatRole.Assistant, response));
    Console.WriteLine();
}

運行即可成功使用C#本地調用語言模型deepseek-r1【7b】如果更改其他模型,自行下載模型,使用ollama運行,再更改

IChatClient chatClient =new OllamaChatClient(new Uri("http://localhost:11434/"), "your_Model");

即可大功告成！！

效果：