Температура
Также: temperature, температура генерации
Параметр, который регулирует «творческость» ответа: ниже — предсказуемее, выше — разнообразнее.
Температура — настройка генерации, влияющая на случайность выбора следующего токена. При низкой температуре (ближе к 0) модель выбирает самые вероятные варианты — ответы стабильные и предсказуемые. При высокой — допускает менее вероятные, отчего текст разнообразнее, но рискованнее.
Для кода, фактов и форматных ответов обычно ставят низкую температуру — нужна точность. Для брейншторма, текстов и идей — выше, чтобы получить варианты.
Это один из главных «рычагов» при работе через API: тот же промпт при разной температуре даёт заметно разный результат.