Aspose.Words for .NET 25.7：支持自建大語言模型（LLM），實現更安全靈活的AI文檔處理功能

隨著 Aspose.Words for .NET 25.7 的發布，開發者迎來了一個重要新特性——支持接入自建（Self-Hosted）大語言模型（LLM），在提升文檔處理智能化水平的同時，進一步保障數據隱私與系統可控性，避免依賴第三方托管 API。

隨著 Aspose.Words for .NET 25.7 的發布，開發者迎來了一個重要新特性——支持接入 自建（Self-Hosted）大語言模型（LLM），在提升文檔處理智能化水平的同時，進一步保障數據隱私與系統可控性，避免依賴第三方托管 API。

Aspose.Words官方試用版免費下載，請聯系Aspose官方授權代理商慧都科技

加入Aspose技術交流QQ群（1041253375），與更多小伙伴一起探討提升開發技能。

為什么選擇自建 LLM？

數據主權：敏感文檔可完全保留在本地或企業內部基礎設施中，無需外部傳輸。
成本可控：通過自有硬件運行模型，避免額外的云服務調用費用。
高度定制：支持自定義接口或本地化部署的專屬模型，靈活適配業務場景。

如何在 Aspose.Words 中使用自建 LLM

Aspose.Words.AI 命名空間為用戶提供了豐富的 AI 功能，如文檔翻譯、摘要生成、語法檢查等。除支持調用 OpenAI、Google 等云端模型外，開發者還可以通過配置切換到自建 LLM。

示例代碼：

public void SelfHostedModel()
{
    Document doc = new Document(MyDir + "Big document.docx");

    string apiKey = Environment.GetEnvironmentVariable("API_KEY");
    // Use OpenAI generative language models.
    AiModel model = new CustomAiModel().WithApiKey(apiKey);

    Document translatedDoc = model.Translate(doc, Language.Russian);
    translatedDoc.Save(ArtifactsDir + "AI.SelfHostedModel.docx");
}

// Custom self-hosted AI model.
internal class CustomAiModel : OpenAiModel
{
    protected override string Url
    {
        get { return "https://localhost/"; }
    }

    protected override string Name
    {
        get { return "my-model-24b"; }
    }
}

典型應用場景

企業文檔處理：在本地環境中翻譯涉密法律、財務文檔，避免數據外泄風險。
離線部署：在高安全或隔離網絡環境下，運行本地訓練或優化過的大模型。
成本優化：利用本地 GPU 推理，降低云端 API 調用費用。

通過該功能，用戶可以在保留 Aspose.Words 強大 AI 功能的同時，實現對 AI 基礎設施的完全掌控，打造 更安全、更高效、更靈活 的文檔智能化解決方案。