Температура

Этот параметр важен, потому что без него невозможно гибко настраивать поведение алгоритма. Он помогает контролировать степень риска: чем выше температура, тем менее предсказуем результат. Один и тот же запрос может выглядеть сухим и формальным или живым и фантазийным — всё зависит от температуры.

На интуитивном уровне механизм работает так: для каждого следующего слова модель рассчитывает список вероятных вариантов. Чем ниже температура (например, 0.1), тем сильнее она прижимает выбор к самому вероятному слову, почти исключая альтернативы. Ответ становится стабильным, точным, но немного скучным. Чем выше температура (скажем, 1.5), тем сильнее выравниваются шансы всех вариантов — модель начинает выбирать редкие слова и неожиданные фразы. Это добавляет креативности, но повышает риск бессмыслицы или ошибок.

Прикладной пример: если вы пишете новостную сводку, низкая температура (0.2) даст чёткий сухой текст, который не собьёт читателя с толку. А для генерации идей или художественного описания подойдёт температура около 1.0 или выше — текст станет ярче, но за точностью придётся следить.

В итоге температура — это ручка настройки между предсказуемостью и творчеством. Её правильное значение зависит от задачи: для фактов выбирайте низкую, для фантазий — высокую, а для большинства повседневных сценариев — нечто среднее. Попробуйте изменить температуру в одном и том же запросе и почувствуйте разницу.