Галлюцинации нейросети и искусственного интеллекта: что это, почему возникают и как проверять факты в ответах

Что такое галлюцинации нейросети?

Галлюцинация искусственного интеллекта — это ответ, который звучит правдоподобно, но не соответствует фактам или исходным данным. Проще говоря, ложная информация, поданная как правда. OpenAI определяет её так: правдоподобное, но ложное утверждение, которое языковая модель генерирует уверенно.

Главное слово здесь «уверенно». Уверенный ответ и правильный ответ — не одно и то же. Обычная ошибка человека часто видна: он мнётся, оговаривается, пишет «кажется». Нейросеть выдаёт выдуманную дату тем же ровным тоном, что и таблицу умножения. По форме ответа галлюцинацию от правды не отличить, поэтому её и пропускают.

Термин условный. Нейросеть ничего не «видит» и не «верит» в свой ответ. Большая языковая модель генерирует текст: подбирает самое вероятное продолжение, слово за словом. Иногда самое вероятное оказывается неправдой. Базы данных с проверенными фактами, к которой модель обращается перед каждым ответом, внутри нет.

Как выглядят галлюцинации: примеры

Чаще всего вы встретите пять видов.

• Выдуманный факт. Дата основания компании, имя автора, цифра из отчёта, которой там нет.
• Несуществующий источник. Книга, статья, закон или судебное решение с правдоподобным названием и номером, которых не существует.
• Искажение документа. Вы дали файл, а нейросеть «цитирует» фразу, которой в нём нет, или путает цифры между разделами.
• Ошибка в логике и расчёте. Красивое рассуждение, в середине которого неверный шаг, и итог получается неправильный.
• Устаревшие данные. Цены, тарифы и правила, которые были верны год назад, выданы как текущие.

В исследовании OpenAI есть показательный пример. Распространённый чат-бот спросили, как называется диссертация одного из авторов статьи. Он уверенно дал три разных ответа, и все три неверные. На вопрос о дне рождения того же человека — три разные даты, тоже мимо.

Самый известный случай с последствиями — дело Mata v. Avianca в США. Юристы подали в суд документ со ссылками на шесть судебных решений, которые сгенерировал ChatGPT. Решений не существовало. Когда юрист спросил ChatGPT, настоящее ли одно из них, тот ответил, что да, и что его можно найти в юридических базах. 22 июня 2023 года суд оштрафовал юристов и фирму на $5 000 и обязал разослать письма судьям, чьи имена стояли под выдуманными решениями.

Почему возникают галлюцинации: причины

Короткий ответ: модель учили угадывать, а не признаваться, что она не знает.

OpenAI в сентябре 2025 года разобрала это в отдельной работе. Причин две.

Первая — как модель учится. Языковая модель на старте обучения предсказывает следующее слово в огромном массиве текстов. Меток «правда» и «ложь» у этих обучающих данных нет, модель видит только примеры гладкой речи. Правила орфографии и скобок повторяются миллионы раз, поэтому с ростом модели такие ошибки исчезают. А редкие произвольные факты, вроде дня рождения конкретного человека, из закономерностей не выводятся. На них модель и начинает сочинять.

Вторая — как модель оценивают. Большинство тестов считают только долю правильных ответов. OpenAI сравнивает это с экзаменом с выбором ответа: если угадать, есть шанс на балл, если оставить пустым — гарантированный ноль. Модель, которая угадывает, выглядит в рейтинге лучше модели, которая честно пишет «не знаю».

Цифры из той же работы на тесте SimpleQA:

Старая модель отвечает верно чуть чаще, но ошибается почти втрое чаще, потому что почти никогда не говорит «не знаю». Вывод OpenAI: ошибки хуже отказов, и оценивать модели нужно с учётом этого.

Бывают ли нейросети без галлюцинаций?

Нет. Это признают сами разработчики.

• OpenAI пишет, что ChatGPT тоже галлюцинирует. В GPT-5 ошибок заметно меньше, особенно в режиме рассуждений, но они остаются.
• Anthropic в документации по Claude перечисляет приёмы против галлюцинаций и в конце добавляет: они сильно снижают число ошибок, но не убирают их полностью, важную информацию всегда проверяйте.
• В документации ГигаЧата прямо сказано: всегда проверяйте ответы, информация в них может быть неактуальна или искажена.

При этом OpenAI спорит с мнением, что галлюцинации неизбежны: модель может воздержаться от ответа, когда не уверена. И маленькой модели проще знать свои границы, чем большой, которая «что-то слышала» по теме.

Практический вывод для работы: выбирать нейросеть «без галлюцинаций» бесполезно. Полезно выстроить проверку. Сравнение моделей под разные задачи у меня есть в статье Grok, ChatGPT или Claude.

Где ошибка нейросети обходится дороже всего?

Там, где у вас нет времени или знаний перепроверить, а цена ошибки высокая.

• Цифры и цены. Тарифы сервисов, ставки, проценты, лимиты. Они меняются, а нейросеть может знать старую версию.
• Законы, налоги, договоры. Номер статьи, сумма лимита, срок — классическое место для выдуманных деталей.
• Ссылки и цитаты. Ссылка может вести на несуществующую страницу или на страницу, где этих слов нет.
• Имена, даты, названия. Чем реже факт встречается в интернете, тем выше шанс, что модель его сочинит.
• Код. Несуществующая функция или библиотека выглядит как настоящая. Как проверять код, я разбирал в отдельном чек-листе.

Для фрилансера это обычно коммерческое предложение с цифрами, текст для клиента с фактами о его рынке, ответ клиенту про сроки и условия. Отправили с ошибкой — отвечать будете вы, а не нейросеть. Суд по делу Avianca сказал об этом прямо: пользоваться надёжным ИИ-инструментом можно, но за точность документа отвечает тот, кто его подаёт.

Как проверить ответ нейросети: чек-лист проверки фактов

Мой порядок на любую важную задачу:

1. Выпишите проверяемые утверждения. В первую очередь цифры, даты, имена, названия, цитаты, ссылки. Остальной текст проверять не нужно.
2. Откройте каждую ссылку. Страница существует? На ней есть именно эта цифра или фраза? Ссылка на главную сайта вместо конкретной страницы — повод насторожиться.
3. Сверьте цифры с первоисточником. Тарифы — на сайте сервиса, законы — в тексте закона, налоги — у налоговой. Не в пересказе на чужом блоге.
4. Проверьте дату. Когда обновлена страница-источник? Не устарел ли ответ?
5. Переспросите в новом чате. Если на тот же вопрос нейросеть отвечает по-разному, ответу верить нельзя. Anthropic называет этот приём сравнением нескольких ответов.
6. Попросите найти ошибки. Отдельным сообщением: «Проверь ответ выше, найди утверждения без источника». Модель часто находит то, что сама же выдумала. Но вопрос «это правда?» проверкой не считается: в деле Avianca ChatGPT на него уверенно ответил «да».
7. Пересчитайте руками. Любой расчёт, от которого зависят деньги, — на калькуляторе или в таблице.

Как снизить галлюцинации через запрос и контекст?

Полностью убрать нельзя, но сильно сократить можно. Приёмы ниже — из документации Anthropic и справки ГигаЧата, работают с любой моделью.

• Разрешите сказать «не знаю». Прямо в задаче: «Если данных не хватает, так и напиши, не придумывай». По словам Anthropic, это заметно снижает число ложных ответов.
• Дайте исходник. Документ, таблицу, текст страницы. И ограничьте: «Отвечай только по этому документу, без своих знаний».
• Требуйте цитаты. Для длинного документа сначала попросите выписать дословные цитаты по теме, а потом делать выводы только на их основе.
• Источник к каждому утверждению. Попросите после ответа найти подтверждающую цитату к каждому пункту и удалить пункты, для которых её нет.
• Делите задачу на шаги. Сначала собрать факты, потом проверить, потом писать текст. Проверка на каждом шаге ловит ошибку раньше, чем она попадёт в итог.
• Пишите конкретно. Размытый запрос модель достраивает сама, догадка заменяет данные. Чем точнее задача, тем меньше места для фантазии. Как я ставлю задачи нейросети, показал в шаблоне ТЗ.

Пример промпта, который можно взять как есть:

Ответь на вопрос только по документу ниже. Сначала выпиши дословные цитаты, на которые опираешься. Если в документе нет ответа, напиши «в документе этого нет». Не добавляй факты, которых нет в цитатах.

Помогает ли поиск в интернете?

Помогает, но не спасает. Когда нейросеть ищет в интернете и даёт ссылки, у вас появляется что проверять. Без ссылок проверить нечего.

Но ошибки остаются. Модель может взять ответ со слабого сайта, неправильно пересказать верную страницу или поставить ссылку, где этой цифры нет. Поэтому шаг «открыть ссылку и найти там эту фразу» из чек-листа никуда не девается. Ссылка в ответе — не доказательство, а адрес, по которому доказательство надо проверить.

То же касается режимов глубокого исследования: отчёт с десятками ссылок экономит часы поиска, но цифры в нём проверяются так же. Как работает такой режим и где он есть, я разобрал в статье Deep Research: что это и как пользоваться.

Как проверяю ответы я

Мой основной инструмент сейчас Grok, ChatGPT работает рядом как помощник и проверка. Схема простая: Grok собирает материал и делает черновик, ChatGPT проверяет логику, выводы возвращаются обратно в Grok. Вторая модель не знает, как первая пришла к ответу, и цепляется к слабым местам.

Это не замена ручной проверке. Цифры, тарифы и ссылки в статьях этого блога я сверяю по официальным страницам и пишу дату проверки в разделе «Источники». Так устроен и этот текст.

Источники

Все факты проверены 28 октября 2026 года.

1. Why language models hallucinate, OpenAI, 5 сентября 2025 — https://openai.com/index/why-language-models-hallucinate/
2. Reduce hallucinations, документация Anthropic — https://platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/reduce-hallucinations
3. Что такое галлюцинации ИИ, справка ГигаЧата — https://giga.chat/help/articles/ai-hallucinations-and-solutions
4. Квоты и ограничения GigaChat API, документация Сбера — https://developers.sber.ru/docs/ru/gigachat/limitations
5. Mata v. Avianca, Inc., Opinion and Order on Sanctions, 22 июня 2023 — https://law.justia.com/cases/federal/district-courts/new-york/nysdce/1:2022cv01461/575368/54/

Меньше всего выдумок там, где задача поставлена чётко. Если хотите ставить задачи нейросети сразу с целью, ограничениями и критерием «готово», у меня есть пак промптов и ТЗ: шаблоны ТЗ и промпты, которыми я работаю каждый день. Промпты заточены под Grok, шаблоны ТЗ подходят к любой модели.

Частые вопросы

Дмитрий Гугуян

Разработчик сайтов и SEO-специалист · Майкоп

Делаю сайты с 2016 года, сдал 50+ проектов. Руковожу агентством Рекком. Каждый день работаю с нейросетями и пишу только о том, что проверил сам. Цифры дохода — мой результат, не гарантия.

WordPress 1С-Битрикс Python SEO Яндекс/Google ИИ-агенты

Материалы в Telegram Задать вопрос автору Обо мне Агентство Рекком