Галлюцинация нейросети
Галлюцинация нейросети — ответ, который звучит уверенно и правдоподобно, но содержит выдуманные или неверные факты: несуществующие цены, услуги, адреса, отзывы. Модель не «врёт» намеренно: она достраивает наиболее вероятный текст, когда ей не хватает точных данных или источники противоречат друг другу.
Почему нейросети ошибаются
Модель предсказывает наиболее вероятное продолжение текста, а не достаёт готовые факты из базы. DeepSeek в документе о методах обучения называет галлюцинации проблемой всей отрасли и прямо пишет, что гарантировать отсутствие ошибок пока не может. OpenAI предупреждает, что результаты поиска и ссылки в ChatGPT могут быть неполными или неверными, а Яндекс советует проверять ответы Алисы AI по источникам.
Когда ошибок больше
- Мало данных о компании. Модель достраивает правдоподобные детали.
- Противоречия в источниках. На сайте одна цена, в справочнике другая.
- Похожие названия. Модель смешивает две компании.
- Ответ без поиска. Модель опирается на устаревшие знания до даты среза.
Как снизить риск для бренда
| Что сделать | Зачем |
|---|---|
| Одинаковые факты на сайте, картах и в справочниках | Нейросеть доверяет тому, что подтверждают несколько источников |
| Цены, услуги и адреса текстом на сайте | Ассистенту с поиском есть на что опереться |
| Регулярная проверка брендовых вопросов | Ошибку видно раньше, чем её увидят клиенты |
Пример
Ассистент уверенно сообщает, что клиника работает круглосуточно, хотя она закрывается в 21:00. Источник находится быстро: в старом справочнике остались часы работы соседней клиники с похожим названием. После исправления карточки ответ с поиском меняется через одну-две недели.
Подробнее — в статьях «Нейросеть пишет о компании неправду: как найти источник и исправить» и «Модели DeepSeek».
Частые ошибки
- Жаловаться разработчику и ждать ручного исправления: надёжнее исправить источники.
- Считать ошибку разовой, не повторив вопрос несколько раз.
- Не проверять ответы о компании вообще, пока клиенты не начнут жаловаться.