مع إصدار Aspose.Words for .NET 25.7، أصبح لديك الآن خيار قوي لدمج self-hosted Large Language Models (LLMs) لمعالجة المستندات المحسّنة AI، مما يوفر خصوصية ومرونة وتحكمًا أكبر، مع تجنب استضافة APIs من قبل جهات خارجية.

Image

لماذا تختار الاستضافة الذاتية LLM؟

  • Data Sovereignty: احتفظ بالمستندات الحساسة بالكامل داخل البنية التحتية الخاصة بك
  • Cost Control: استضف النماذج على أجهزتك الخاصة، وتجنب الرسوم الإضافية من مقدمي الخدمة
  • Customization: دمج نقاط النهاية المخصصة أو عمليات نشر النماذج المحلية بسلاسة

كيفية الاستفادة من الاستضافة الذاتية LLM مع Aspose.Words

Aspose.Words يدعم ميزات متنوعة مدعومة بـ AI مثل ترجمة المستندات، والتلخيص، والتحقق من القواعد النحوية، مدعومة بـ Aspose.Words.AI مساحة الاسم. بينما يمكنك استخدام نماذج مستضافة (مثل OpenAI، Google)، تدعم المكتبة أيضًا نماذج ذاتية الاستضافة مخصصة.

للتبديل إلى LLM المستضاف ذاتيًا، استخدم ما يلي:

public void SelfHostedModel()
{
    Document doc = new Document(MyDir + "Big document.docx");

    string apiKey = Environment.GetEnvironmentVariable("API_KEY");
    // Use OpenAI generative language models.
    AiModel model = new CustomAiModel().WithApiKey(apiKey);

    Document translatedDoc = model.Translate(doc, Language.Russian);
    translatedDoc.Save(ArtifactsDir + "AI.SelfHostedModel.docx");
}

// Custom self-hosted AI model.
internal class CustomAiModel : OpenAiModel
{
    protected override string Url
    {
        get { return "https://localhost/"; }
    }

    protected override string Name
    {
        get { return "my-model-24b"; }
    }
}

حالات الاستخدام في العالم الحقيقي

  • Enterprise Documents: ترجمة المستندات القانونية أو المالية السرية دون تعريض البيانات لجهات خارجية APIs
  • Offline Deployment: استخدم LLMs مخصصًا بشكل كبير (على سبيل المثال، نماذج مفتوحة المصدر مُعدّلة بدقة) في بيئات عالية الأمان أو شبكات معزولة
  • Cost-Sensitive Scenarios: قم بتشغيل الاستدلال على GPUs المحلي لتوفير تكاليف الخدمة السحابية

تتيح لك هذه الإمكانية الحفاظ على ميزات AI القوية الخاصة بـ Aspose.Words مع الحفاظ على الملكية الكاملة والتحكم في البنية الأساسية الخاصة بـ AI.

انظر أيضا