Платформа Hugging Face раскрыла факт кибератаки, полностью проведенной автономной системой ИИ-агентов без участия человека. Злоумышленник использовал вредоносный датасет для эксплуатации уязвимостей в пайплайнiе обработки данных, что позволило получить доступ к внутренним серверам и облачным учетным данным.

Инцидент стал показательным примером «агентской» угрозы, прогнозируемой в индустрии. В ходе расследования команда безопасности столкнулась с неожиданным препятствием: коммерческие ИИ-модели блокировали анализ логов из-за жестких защитных фильтров, не позволявших отличить действия специалиста по кибербезопасности от активности хакера.

• Атака началась с использования двух уязвимостей в пайплайне обработки данных: загрузчика удаленного кода и инъекции в конфигурационный шаблон.
• В ходе инцидента зафиксировано более 17 000 отдельных действий, выполненных роем короткоживущих виртуальных машин.
• Злоумышленник получил доступ к ограниченному набору внутренних данных и сервисным ключам, однако следов компрометации публичных моделей, датасетов или Spaces не обнаружено.
• Для проведения криминалистического анализа логов компания была вынуждена использовать open-weight модельi GLM 5.2, развернутую на собственной инфраструктуре.
• Hugging Face отозвала скомпрометированные ключи, пересобрала затронутые узлы и рекомендовала пользователям сменить access-токены.
• Источник 7 утверждает, что атака была частью эксперимента компании Horizon3.ai с использованием агента PhanTom, однако официальный блог Hugging Face не подтверждает эту информацию, называя атаку «сценарием агентского злоумышленника».