Chat template

Chat template — это заранее заданный формат, в который оборачивается список сообщений диалога перед отправкой в модель. Он превращает беседу в непрерывную строку текста, где каждая реплика помечена служебными метками: роль (пользователь, ассистент, система) и границы сообщений. Это необходимо, потому что языковые модели не понимают диалог «из коробки»: они обучены на текстах с жёсткой разметкой и специальными токенами. Без шаблона модель не отличит вопрос от ответа, не поймёт, когда обращаться к пользователю, а когда продолжить свою мысль. Поэтому chat template — обязательный мост между свободным общением и внутренним языком модели.

Работает это как сценарий пьесы. Если просто записать реплики подряд, непонятно, кто их произносит. Шаблон расставляет ремарки вроде и , добавляет токены начала и конца ответа и разделители. Модель видит знакомую структуру и понимает, что нужно отвечать от лица ассистента. Например, при переводе диалога с шаблоном модель получает системное сообщение с инструкцией, реплику пользователя и ожидаемый ответ ассистента — и переводит согласованно, не смешивая роли.

Вывод: chat template — невидимый, но критически важный элемент любого чат-интерфейса на базе языковых моделей. Он задаёт правила игры, делает общение связным и предсказуемым. Понимание этой простой концепции помогает осознанно настраивать модели и избегать странных ошибок.