Автономный ИИ-агент взломал Hugging Face: проблемы безопасности

Автономный ИИ-агент взломал Hugging Face, а закрытые модели не смогли помочь расследованию Hugging Face раскрыла инцидент, который хорошо показывает будущую асимметрию кибербезопасности. Атака началась с вредоносного датасета, эксплуатировавшего два пути выполнения кода в системе обработки данных. Затем автономный агент получил доступ к нодам, собрал облачные и кластерные учётные данные и перемещался между внутренними кластерами. За одни выходные система выполнила тысячи действий через краткоживущие sandbox-среды. В журналах осталось более 17 000 событий. Самая показательная часть началась во время расследования. Команда Hugging Face попыталась анализировать реальные эксплойты, команды и C2-артефакты с помощью передовых моделей через коммерческие API, но safety-фильтры блокировали запросы. Модели не смогли отличить работу специалиста по реагированию на инциденты от действий атакующего. В итоге анализ перенесли на самостоятельно размещённую open-weight модель GLM 5.2. Это позволило изучать вредоносный код без блокировок и не отправлять журналы, данные атакующего и упомянутые credentials внешнему провайдеру. Возникает опасная асимметрия: - атакующие запускают агентов без ограничений; - защитники могут столкнуться с блокировками именно в критический момент; - чувствительная телеметрия не всегда должна покидать инфраструктуру компании. У команды безопасности должна быть заранее подготовленная модель, которую можно запустить локально и использовать во время реального инцидента. Автономные кибератаки уже перестали быть сценарием из презентаций. Теперь вопрос в том, готовы ли защитные инструменты работать с той же скоростью. https://huggingface.co/blog/security-incident-july-2026 #ai #cybersecurity #opensource #llm #huggingface @linuxkalii