با انتشار Aspose.Words for .NET 25.7، اکنون گزینه قدرتمندی برای ادغام self-hosted Large Language Models (LLMs) برای پردازش اسناد پیشرفته AI دارید که حریم خصوصی، انعطاف‌پذیری و کنترل بیشتری را ارائه می‌دهد، در حالی که از میزبانی شخص ثالث APIs اجتناب می‌کند.

Image

چرا از هاست اختصاصی استفاده کنیم LLM?

  • Data Sovereignty: اسناد حساس را کاملاً در زیرساخت خود نگه دارید
  • Cost Control: مدل‌ها را روی سخت‌افزار خودتان میزبانی کنید و از هزینه‌های اضافی از ارائه‌دهندگان اجتناب کنید
  • Customization: ادغام یکپارچه نقاط پایانی سفارشی یا استقرار مدل در محل

چگونه می‌توان از میزبانی خودکار LLM با Aspose.Words {#how-to-leverage-self-hosted-llm-with-aspose-words} بهره برد؟

Aspose.Words از ویژگی‌های مختلف مبتنی بر AI مانند ترجمه اسناد، خلاصه‌سازی و بررسی دستور زبان پشتیبانی می‌کند که توسط … ارائه می‌شوند. Aspose.Words.AI فضای نام. در حالی که می‌توانید از مدل‌های میزبانی‌شده (مثلاً OpenAI، گوگل) استفاده کنید، این کتابخانه از مدل‌های خود-میزبان سفارشی نیز پشتیبانی می‌کند.

برای تغییر به یک LLM خود-میزبان، از موارد زیر استفاده کنید:

public void SelfHostedModel()
{
    Document doc = new Document(MyDir + "Big document.docx");

    string apiKey = Environment.GetEnvironmentVariable("API_KEY");
    // Use OpenAI generative language models.
    AiModel model = new CustomAiModel().WithApiKey(apiKey);

    Document translatedDoc = model.Translate(doc, Language.Russian);
    translatedDoc.Save(ArtifactsDir + "AI.SelfHostedModel.docx");
}

// Custom self-hosted AI model.
internal class CustomAiModel : OpenAiModel
{
    protected override string Url
    {
        get { return "https://localhost/"; }
    }

    protected override string Name
    {
        get { return "my-model-24b"; }
    }
}

موارد استفاده در دنیای واقعی

  • Enterprise Documents: ترجمه اسناد حقوقی یا مالی محرمانه بدون افشای داده‌ها به منابع خارجی APIs
  • Offline Deployment: استفاده از LLMs سفارشی سنگین (مثلاً مدل‌های متن‌باز تنظیم‌شده دقیق) در محیط‌های با امنیت بالا یا شبکه‌های دارای شکاف هوایی
  • Cost-Sensitive Scenarios: اجرای استنتاج روی GPUs محلی برای صرفه‌جویی در هزینه‌های سرویس ابری

این قابلیت به شما قدرت می‌دهد تا ویژگی‌های قوی AI مربوط به Aspose.Words را حفظ کنید و در عین حال مالکیت و کنترل کامل بر زیرساخت AI خود را نیز در اختیار داشته باشید.

همچنین ببینید