Что такое температура нейросети

Температура — это параметр, который управляет случайностью ответов нейросети: чем она ниже, тем чаще модель выбирает самые вероятные слова и отвечает предсказуемо; чем выше — тем смелее она берёт редкие варианты, и ответы становятся разнообразнее. Технически модель на каждом шаге выбирает следующий токен из списка кандидатов с вероятностями, а температура «растягивает» или «сжимает» эту лотерею.

Практическое следствие: при низкой температуре один и тот же промпт даёт почти одинаковые ответы от запуска к запуску, при высокой — заметно разные. Ни то ни другое не «лучше»: для выписки фактов нужна стабильность, для брейншторма — разброс.

Как температура меняет ответ

Условная шкала для большинства моделей — от 0 до 1 с запасом сверху:

  • Около 0–0.3: максимально детерминированные ответы. Модель консервативна, формулировки сухие, повторы вероятны. Зона фактов, кода и извлечения данных.
  • 0.5–0.7: сбалансированный режим. Живой язык без потери точности — типичное значение по умолчанию в большинстве интерфейсов.
  • 0.9–1.2: креативная зона. Неожиданные ассоциации и свежие формулировки, но растёт риск фактических вольностей и логических скачков.

Важная оговорка: температура меняет манеру выбора слов, а не «уровень интеллекта». Поднять её — не способ сделать модель умнее, а способ получить более разнообразные ответы на тот же вопрос. И наоборот: нулевая температура не гарантирует истину — уверенно ошибаться модель умеет и при ней.

Top-p и другие параметры

Второй по важности параметр — top-p (nucleus sampling). Если температура меняет «веса» кандидатов, то top-p обрезает сам список: при top-p = 0.9 модель выбирает только из тех верхних слов, чьи вероятности в сумме дают 90%, а редкий «хвост» отбрасывает целиком. Работают параметры в связке, поэтому менять их одновременно — плохая идея: вы не поймёте, что именно повлияло. Практика такая: держите top-p в районе 0.9–1 и крутите температуру; top-p снижают, когда нужно срезать откровенно странные словечки при высокой температуре.

Реже встречаются max tokens (потолок длины ответа — страховка от простыней) и штрафы за повторы (frequency/presence penalty), полезные, когда модель зацикливается на одних оборотах. Полное определение с примерами есть в словарной статье о температуре.

Пресеты под типовые задачи

Отправные значения, от которых удобно танцевать:

ЗадачаТемператураTop-pЛогика
Код, SQL, регулярки0–0.21Нужна воспроизводимость, «творчество» вредно
Извлечение данных, классификация0–0.31Формат важнее стиля
Деловые тексты, письма0.4–0.61Живой язык при контроле фактов
Статьи, посты, рерайт0.7–0.90.95Разнообразие формулировок
Слоганы, названия, брейншторм1.0–1.20.9Максимальный разброс, отбор руками

Пресет — стартовая точка, а не догма: если ответы скучные — поднимите температуру на 0.2, если поехали факты — опустите. Меняйте один параметр за раз и сравнивайте на одном и том же промпте.

Если ползунка нет: управляем словами

Не в каждом интерфейсе параметры вынесены наружу — и это не тупик, потому что значительную часть эффекта дают формулировки. Просите «дай 10 непохожих вариантов, от консервативных до рискованных» — и получите разброс, ради которого поднимают температуру. И наоборот: «отвечай строго по тексту документа, без домыслов, одинаково на повторный запрос» прижимает вариативность не хуже низких значений.

В чате с нейросетями на ГПТ Россия так удобно работать с десятками моделей сразу: сформулировали задачу, выбрали модель под неё — и управляете характером ответа промптом. А если понадобится программно генерировать картинки, видео или озвучку, загляните в раздел для разработчиков — там REST API платформы для медиа-генераций с оплатой за вызов в рублях. Новичку на счёт начисляется welcome-бонус 50 ₽: хватит, чтобы прогнать одну задачу в разных режимах и увидеть разницу своими глазами, без VPN.

Частые вопросы

Какая температура «правильная»?

Универсальной нет. Ориентир простой: точность и воспроизводимость — 0–0.3, обычные тексты — около 0.5–0.7, креатив — от 0.9. Дальше подстройка под конкретную задачу шагами по 0.1–0.2.

Почему модель отвечает по-разному даже при температуре 0?

Нулевая температура резко снижает случайность, но не всегда убирает её полностью — на длинных ответах расхождения накапливаются из мелочей. Если нужна повторяемость, дополнительно фиксируйте формат ответа промптом: чем жёстче каркас, тем меньше разброс.

Температура и top-p — что менять в первую очередь?

Температуру. Top-p трогают вторым номером и только при явной проблеме: например, при высокой температуре проскакивают несуразные слова — тогда top-p опускают до 0.9. Одновременная крутка обоих параметров лишает вас понимания причин.

Влияет ли температура на скорость и цену?

Напрямую — нет: платите вы за токены, а не за параметры. Косвенно — да: высокая температура порождает более длинные и разнообразные ответы, и токенов в среднем выходит больше.