API — это программный интерфейс, который позволяет вашему приложению или скрипту отправлять запросы к языковой модели и получать ответы. Вместо того чтобы пользоваться чатом через веб-сайт, вы обращаетесь к модели напрямую из кода.
Работа с API языковой модели выглядит так:
| Через чат (веб-сайт) | Через API |
|---|---|
| Ручное общение | Автоматическая обработка |
| Один запрос за раз | Тысячи запросов в минуту |
| Нельзя встроить в продукт | Встраивается в любое приложение |
| Фиксированные настройки | Полный контроль параметров |
| Подписка (фиксированная цена) | Оплата за использование (по токенам) |
Интернет-магазин использует API языковой модели для автоматической генерации описаний товаров. Менеджер загружает характеристики товара, API получает их, модель генерирует текст описания, и он автоматически публикуется на сайте.