Completion (дополнение текста)

Completion — это базовый принцип работы языковой модели: получив фрагмент текста, модель предсказывает и генерирует его продолжение. По сути, все LLM (Large Language Models) — это продвинутые машины для дополнения текста.

Как это работает

Модель получает входной текст (промпт) и генерирует продолжение, выбирая наиболее вероятные следующие слова одно за другим. Этот процесс называется авторегрессивной генерацией.

Пример: если дать модели начало «Столица Франции —», она дополнит его словом «Париж», потому что это самое вероятное продолжение по данным обучения.

Completion vs Chat

Почему это важно

Понимание принципа completion помогает писать лучшие промпты. Модель не «думает» и не «понимает» — она предсказывает наиболее вероятное продолжение. Когда вы формулируете промпт, вы фактически задаёте начало текста, которое модель завершит.

Связанные термины

• Чат-модель — модель, обученная работать в формате диалога поверх принципа completion
• Токен — единица текста, которую модель генерирует за один шаг
• Температура — параметр, влияющий на разнообразие генерируемого продолжения