Почему нейросеть уверенно выдумывает
Галлюцинации нейросети — это ответы, которые звучат убедительно, но не соответствуют действительности: несуществующие цитаты, выдуманные статьи законов, ложные цифры. Полностью убрать их нельзя, но правильные промпты снижают долю выдумок в разы: разрешите модели признаваться в незнании, дайте ей источник и заставьте отделять факты от предположений.
Корень проблемы в устройстве модели: она предсказывает правдоподобное продолжение текста, а не сверяется с базой фактов. Там, где знаний не хватает, правдоподобие легко расходится с правдой — подробнее это разобрано в глоссарии, в статье что такое галлюцинации ИИ.
Приём 1: разрешите модели не знать
По умолчанию модель стремится дать полный ответ на любой вопрос — даже когда данных нет. Снимите это давление явной инструкцией:
«Если не уверен в факте или не имеешь данных — прямо напиши "не знаю" или "не уверен". Честное "не знаю" лучше выдуманного ответа».
Эта строка в конце промпта — самый дешёвый и самый эффективный приём из всех: заметная часть выдумок просто превращается в честные пропуски, с которыми уже можно работать.
Приём 2: отвечать только по приложенному источнику
Самый надёжный способ получить достоверный ответ — сместить задачу с «вспомни» на «найди в тексте». Приложите документ, отчёт или статью и ограничьте модель:
«Отвечай только на основе текста ниже. К каждому утверждению приводи цитату из текста. Если ответа в тексте нет — так и скажи, не дополняй из общих знаний».
Требование цитат — ключевое: его легко проверить поиском по документу, и модель, «зная» о проверке, фантазирует заметно реже. Для больших документов берите модели с большим контекстом — в чате с нейросетью доступны модели, которые держат сотни страниц за один запрос.
Приём 3: делите ответ на факты и предположения
Когда без общих знаний модели не обойтись, заставьте её маркировать надёжность:
«Раздели ответ на два блока: "Подтверждённые факты" и "Предположения и оценки". Для каждого факта укажи, откуда он может быть известен и насколько ты уверен по шкале 1-10».
Такой формат не убирает ошибки, но делает их видимыми: проверять нужно не весь ответ, а короткий список «фактов» с высокой заявленной уверенностью — обычно это в разы меньше работы.
Приём 4: перекрёстная проверка
Финальный рубеж — проверка другим заходом:
| Способ | Как выглядит |
|---|---|
| Второй запрос | тот же вопрос в новом чате: расхождения = зона риска |
| Другая модель | спросить конкурирующую модель и сравнить |
| Роль критика | «найди в этом ответе утверждения, которые могут быть неверны» |
| Веб-поиск | попросить проверить ключевые факты через поиск в чате |
Для ответственных задач — юридика, медицина, деньги, публикации — берите старшие модели: они аккуратнее с фактами и лучше следуют ограничениям. Например, Claude Opus 4.7 с контекстом 1 млн токенов позволяет приложить всю доказательную базу прямо в запрос и работать по приёму 2 даже с большими архивами документов.
Проверить приёмы на своих задачах можно на ГПТ Россия: новичку начисляется приветственный бонус 50 ₽, сервис работает без VPN, оплата в рублях.
Частые вопросы
Можно ли полностью убрать галлюцинации нейросети?
Нет, это свойство самой технологии. Но комбинация приёмов — разрешение «не знаю», ответ по источнику с цитатами, маркировка уверенности и перекрёстная проверка — снижает количество выдумок до уровня, где остаточные ошибки ловятся быстрой ручной проверкой.
В каких задачах модель галлюцинирует чаще всего?
Там, где нужны точечные факты: даты, цифры, цитаты, названия статей и законов, биографии малоизвестных людей. В рассуждениях, переформулировках и работе с приложенным текстом выдумок значительно меньше — поэтому главный приём и состоит в том, чтобы дать модели источник.
Помогает ли просьба «не выдумывай»?
Сама по себе — слабо: модель не всегда «понимает», что выдумывает. Работают конкретные механизмы: явное разрешение ответить «не знаю», требование цитат из приложенного текста и шкала уверенности — они меняют поведение, а не просто декларируют намерение.
