Анализ первой задокументированной AI-атаки на госинфраструктуру

На прошлой неделе Денис писал про «первый подробно задокументированный, почти автономный, взлом государственной инфраструктуры». Я хотел репостнуть, но не стал — хотел дождаться деталей. Что писали (тут копирую Дениса):

В начале июля кто-то собрал на базе Hermes и OpenClaw агентов систему для авто-хакинга - и отправил её "аудировать" гос сайты в Азии. За четыре дня система провела 12 волн атак, одновременно выпуская до восьми агентов: одни атаковали сайты, другие проверяли бекенд, третьи сканировали порты и тп. Перед каждой новой волной система пересчитывала шансы для 14 маршрутов и перебрасывала силы туда, где вероятность успеха была выше – какую именно модель использовали, неизвестно, но судя по логам модель думала что аудирует систему безопасности гос органов, а не взламывала её. Израильская компания Dream нашла на одном из серверов забытый архив размером 160 мегабайт и с 1395 файлов, поэтому атаку удалось восстановить почти по шагам: — Агенты разобрали код одного гос портала, нашли 21 связанную государственную систему и схему единого входа между ними (один логин + пароль) — В одном месте база сотрудников была открыта вообще без пароля, в другом разработчики забыли закрыть три дебаг-аккаунта; получив имена сотрудников, система начала перебирать пароли, картинки с проверочным кодом читала обычным распознаванием текста и взломала 85 учётных записей. 84 из них затем без дополнительной проверки пустили агентов во внутренние системы через единый вход — Всего наружу ушли минимум 2 564 записи о сотрудниках, а также пароли к базам данных и части внутренней схемы сети

О негативных последствиях пока не сообщалось. Основной источник был FT со ссылкой на Dream, израильскую кибербез компанию, а теперь появилось и официальное подтверждение от «Administration for Cyber Security» Тайвани. У них заявление более сдержанное, и Китай явно они не обвиняют. Но говорят: — атака на государственные учреждения действительно была замечена в июле; — источник обладал явными зарубежными признаками; — применялась гибридная схема: действия хакеров плюс OpenClaw и другие AI-агенты; то есть хакеры давали короткие инструкции без деталей, но всё же указывали агенту, что является целью; модель не сама захотела атаковать именно Тайвань; — агенты быстро комбинировали разные методы и использовали резервные и тестовые системы как промежуточные серверы ChatGPT рекомендует использовать аккуратную формулировку «Один из первых публичных и подробно описанных случаев успешной агентской AI-атаки на государственные системы».