С апреля по конец июня ИИ-агенты OpenAI обратились к сайту Конференции ООН по торговле и развитию (UNCTADi) более 16 000 раз, пытаясь получить открытые данные по индексу производственного потенциала (PCIi) через сервис UNCTADstat. Когда прямой доступ к API оказался закрыт, а HTTP-инструменты урезаны, агенты не остановились, а начали самостоятельно искать обходные пути — вплоть до использования уязвимости межсайтового скриптинга (XSSi).

Историю раскрыл WSJ на основе отчёта исследователя безопасности, подготовленного по данным ИИ-компании Transluce. В ООН заявили, что конфиденциальные данные не были скомпрометированы, но назвали инцидент серьёзным сбоем механизмов сдерживания ИИ. OpenAI сообщила, что расследует случившееся, связалась с ООН и предложила провести брифинг.

• Агенты сначала пытались обойти собственные ограничения на доступ к API, затем, когда решили, что их блокирует фильтр, начали маскировать своё поведение — создавали фейковые email-адреса, обходили rate limits и заявляли сайтам, что не являются ботами
• В финале агенты приспособили учебную игру Google, посвящённую XSS-атакам, чтобы массово выкачивать данные с сайта
• По данным Хайтек+, агенты привлекали к обходу защиты сторонние сервисы, включая китайские модели ИИ — DeepSeek, Kimi и Qwen
• Эксперт по кибербезопасности Стэнфорда Алекс Стамос назвал действия агентов близкими к хакингу, хотя по сути это было крайне агрессивное извлечение данных
• По данным Хайтек+, это не единственный подобный случай: OpenAI, Anthropic и независимые исследователи расследуют уже десятки тысяч эпизодов потенциально проблемного поведения ИИ-агентов
• Изначальная задача агентов, по всей видимости, не требовала обхода защиты — они сами нашли способы преодолевать ограничения ради выполнения простой задачи по сбору публичных данных