Dzięki wydaniu Aspose.Words 25.11 deweloperzy mogą teraz konfigurować custom AI model service endpoints. To ulepszenie zapewnia większą elastyczność podczas integracji z funkcjami obsługiwanymi przez AI, takimi jak podsumowywanie tekstu, sprawdzanie gramatyki czy tłumaczenie. Nowe właściwości Url i Timeout umożliwiają deweloperom definiowanie niestandardowych punktów końcowych API i kontrolowanie limitów czasu żądań dla modeli AI.

Konfigurowanie niestandardowego punktu końcowego AI

Możesz teraz wskazać integrację AI na konkretny punkt końcowy usługi i zdefiniować, jak długo żądanie ma czekać, zanim przekroczy limit czasu.

Poniższy przykład kodu pokazuje, jak to zrobić:

// Use OpenAI generative language models as an example.
string apiKey = Environment.GetEnvironmentVariable("API_KEY");
AiModel model = AiModel.Create(AiModelType.Gpt4OMini).WithApiKey(apiKey);

// Specify the model URL. Default value "https://api.openai.com/".
model.Url = "https://my.a.com/";
// Specify the model timeout. Default value 100000ms.
model.Timeout = 250000;

// Specify the required options and use AI-powered features for text summarization, grammar checking, or translation.
...

Dlaczego konfiguracja usługi modelu AI ma znaczenie

Ta aktualizacja daje programistom następujące możliwości:

  • Zintegruj z custom AI models
  • Dostrój request performance and reliability za pomocą niestandardowych limitów czasu
  • Utrzymuj full control nad tym, gdzie i w jaki sposób przetwarzane są AI dane

Umożliwiając elastyczną konfigurację punktów końcowych, Aspose.Words ułatwia jak nigdy dotąd tworzenie inteligentnych rozwiązań przetwarzania dokumentów dostosowanych do infrastruktury i wymagań zgodności.

Zobacz także