GPTZero выявил галлюцинации в отчетах PwC

📌 Нейрослоп добрался до крупного бизнеса Сервис проверки текстов GPTZero обнаружил выдуманные ссылки и ложные факты в 4-х отчетах ближневосточного подразделения PwC за 2024–2026 годы.

GPTZero - один из самых быстрорастущих стартапов в сфере ИИ, создавший лидирующий в индустрии детектор ИИ-текста. Платформа обслуживает более 10 миллионов пользователей, включая преподавателей, авторов и специалистов по кибербезопасности. Костяк команды состоит из специалистов, пришедших из ведущих технологических компаний и лабораторий: Perplexity AI, Apple, Microsoft AI, Uber, Caltech и Стэнфордского университета.

Самый проблемный документ, "Transforming Governance" с вероятностью 84% был полностью написан ИИ. В этом отчете компания продвигает свой продукт "Citizen Pulse", заявляя, что решение якобы уже используют правительства Дании, Саудовской Аравии, США и Австралии. Никаких доказательств, подтверждающих эти внедрения, не существует. GPTZero выявили закономерность - чем выше доля ИИ-генерации в документе, тем больше в нем несуществующих источников. Команда назвала этот признак "вайб-цитатами" - когда сноски проставляются хаотично, не содержат реальных авторов или валидных URL-адресов и совершенно не подтверждают утверждения в тексте.

Представители PwC заявили, что серьезно относятся к точности данных и уже обновляют источники, но причину появления галлюцинаций в официальных документах не объяснили.

Проблема оказалась характерной для "Большой консалтинговой четвёрки" - ранее сервис находил аналогичные фейки в отчетах KPMG, Deloitte и Ernst & Young. @ai_machinelearning_big_data #news #ai #ml