隨著 Aspose.Words for .NET 25.7 的發布,您現在可以選擇整合 self-hosted Large Language Models (LLMs) 來實現 AI 增強的文件處理,從而提供更高的隱私性、靈活性和控制力,同時避免第三方託管的 APIs。

為何選擇 Go Self-Hosted? LLM
- Data Sovereignty:將敏感文件完全保留在您自己的基礎架構內
- Cost Control:在您自己的硬體上託管模型,避免提供者的額外費用
- Customization:無縫整合自訂端點或本機模型部署
如何利用自託管LLM和Aspose.Words
Aspose.Words 支援各種 AI 功能,例如文件翻譯、摘要和語法檢查,這些功能均由Aspose.Words.AI命名空間。雖然您可以使用託管模型(例如 OpenAI、Google),但該程式庫還支援自訂自架模型。
若要切換到自架 LLM,請使用下列命令:
public void SelfHostedModel()
{
Document doc = new Document(MyDir + "Big document.docx");
string apiKey = Environment.GetEnvironmentVariable("API_KEY");
// Use OpenAI generative language models.
AiModel model = new CustomAiModel().WithApiKey(apiKey);
Document translatedDoc = model.Translate(doc, Language.Russian);
translatedDoc.Save(ArtifactsDir + "AI.SelfHostedModel.docx");
}
// Custom self-hosted AI model.
internal class CustomAiModel : OpenAiModel
{
protected override string Url
{
get { return "https://localhost/"; }
}
protected override string Name
{
get { return "my-model-24b"; }
}
}
真實用例
- Enterprise Documents:翻譯機密法律或財務文件,無需將資料暴露給外部APIs
- Offline Deployment:在高安全性環境或隔離網路中使用大量自訂 LLMs(例如,經過微調的開源模型)
- Cost-Sensitive Scenarios:在本地 GPUs 上運行推理以節省雲端服務成本
此功能可讓您維護 Aspose.Words 的強大 AI 功能,同時保持對 AI 基礎架構的完全所有權和控制權。