Это не сбой, а свойство
Модель не хранит базу фактов, из которой достаёт ответ. Она продолжает текст самым вероятным образом — и правдоподобная неправда для неё ровно так же вероятна, как правдоподобная правда.
Поэтому выдуманное выглядит убедительно по построению: та же уверенная интонация, та же складность, те же признаки достоверного текста. Отличить на глаз нельзя — можно только проверить.
Почему модель так устроена, разобрано в материале о том, как она работает.
Где риск выше всего
| Тип запроса | Риск | Почему |
|---|---|---|
| Ссылки, книги, статьи | Очень высокий | Правдоподобное название собирается легко |
| Цитаты и авторство | Очень высокий | «Кто-то великий что-то сказал» |
| Точные цифры и даты | Высокий | Год, процент, сумма подставляются по образцу |
| Нормы законов и статьи | Высокий | Номер и формулировка выглядят правильно |
| Редкие и локальные темы | Высокий | Мало данных, много догадок |
| Объяснение общих понятий | Низкий | Материала много, вариантов мало |
| Работа с вашим текстом | Низкий | Факты принесли вы |
Закономерность простая: чем конкретнее и реже факт, тем выше шанс, что он собран, а не вспомнен.
Четыре приёма проверки
Просить ход рассуждения. «Объясни, как ты пришла к этому выводу». Ошибка в логике видна сразу, ошибка в готовом ответе — нет.
Спрашивать об уверенности. «Отметь отдельно то, в чём ты не уверена». Модели неплохо разделяют твёрдое и предположительное, если прямо об этом попросить.
Задавать один вопрос дважды. В новом чате, другими словами. Расхождение ответов — сигнал, что тема шаткая.
Требовать проверяемое. Не «дай список литературы», а «назови направления и авторов, которые считаются классическими», — дальше ищете сами. Каждую ссылку, попадающую в вашу работу, вы должны увидеть своими глазами.
Работать удобно в чате, где модель можно переключить и сравнить ответы.
Что помогает снизить риск
Дайте материал сами. Модель, работающая с вашим документом, ошибается несопоставимо реже, чем модель, отвечающая из общих знаний: факты в контексте, а не в догадках.
Берите модели покрупнее там, где цена ошибки высока: Claude Opus 5, Gemini 3.1 Pro, GPT-5.5 реже теряют шаг в длинной цепочке рассуждений. Полностью проблему это не снимает.
Разрешите не знать. Фраза «если не знаешь — так и скажи, не придумывай» действительно уменьшает число выдумок, потому что снимает неявное требование ответить во что бы то ни стало.
Попробовать можно на ГПТ Россия: новичку начисляется приветственный бонус 50 ₽, сервис работает без VPN, оплата в рублях российской картой.
Где доверять нельзя вовсе
Медицина, лекарства, дозировки. Юридические выводы и ссылки на нормы. Финансовые решения. Технические расчёты, от которых зависит безопасность. Всё, что попадёт в официальный документ как факт.
Это не значит, что в этих областях модель бесполезна: она хорошо структурирует, формулирует и готовит вопросы к специалисту. Но итоговое утверждение делает человек, который за него отвечает.
Отдельный частый случай — учебные работы: там выдуманный источник хуже плагиата, разбор в гайде про реферат.
Как заметить, что вас обманывают
Три признака, по которым стоит насторожиться.
Слишком ровный ответ на сложный вопрос. Настоящая сложность обычно требует оговорок.
Конкретика без источника. Точный процент, точная дата, точная сумма, взявшиеся ниоткуда.
Идеально подходящая цитата. Чем удобнее цитата ложится в вашу мысль, тем выше шанс, что её сочинили только что.
Частые вопросы
Станет ли это лучше в следующих моделях?
Частота выдумок снижается от версии к версии, но природа предсказания текста остаётся той же. Проверка фактов останется обязанностью человека и в обозримых версиях.
Помогает ли просьба «отвечай только правду»?
Немного помогает формулировка «не придумывай, если не знаешь — скажи», потому что снимает давление обязательно ответить. Но это смещение вероятностей, а не гарантия.
Что делать, если модель настаивает на своём?
Не спорьте, а попросите проверяемое основание: «на чём основано это утверждение, как это можно проверить». Отсутствие внятного основания — достаточный ответ.
