Что такое отрицательная галлюцинация в ИИ

AI negative hallucination (отрицательная галлюцинация) — это сбой в работе искусственного интеллекта, при котором модель игнорирует, «не видит» или полностью удаляет существующие данные, факты или элементы контекста.В отличие от обычной (положительной) галлюцинации, когда ИИ придумывает несуществующие факты, при отрицательной галлюцинации он ведет себя так, будто реальной информации или объекта не существует. Почему это происходит?Перегрузка контекста: Современные модели могут принимать огромные объемы текста, но их фокус внимания (Attention mechanism) распределяется неравномерно. Информация из середины промпта часто теряется.Проблема «Безопасности» (Over-refinement): Иногда в попытках снизить классические галлюцинации разработчики так сильно зажимают рамки генерации ИИ, что модель начинает чрезмерно перестраховываться и просто отбрасывать любые данные, в которых она хоть немного «сомневается».Ошибки токенизации и фильтрации: Важная деталь может быть отсечена алгоритмами очистки данных или некорректно разбита на токены, из-за чего ИИ не связывает её с основным запросом.