ИИ-агенты Anthropic случайно взломали реальные компании из-за ошибки в тестовой среде

🎶ИИ-агенты Claude по ошибке взломали инфраструктуру трех реальных компаний Недавний случай с OpenAI, заставил конкурентов перепроверять свои логи. Компания Anthropic провела аудит и выяснила: их ИИ-агенты успели пробить периметр трех реальных организаций, находясь в полной уверенности, что просто проходят учебный CTF. 🔍Из-за сбоя в конфигурации тестовой среды от стороннего подрядчика нейросети случайно выдали доступ в настоящий интернет. При этом в базовом промпте Claude было жестко прописано, что алгоритм находится в изолированной симуляции. Агент решил, что все доступные узлы глобальной сети - это часть полигона, и принялся взламывать "учебные" цели. В рамках задания ИИ-агент:

самостоятельно написал рабочий вредонос и залил его в публичный репозиторий PyPI. За час, пока пакет не снесли, он успел исполниться на 15 реальных машинах. Малварь автоматически подхватил сканер уязвимостей одной из действующих ИБ-компаний. Нейросеть моментально сориентировалась: вытащила из зараженного сканера учетные данные и использовала их для дальнейшего продвижения вглубь корпоративной инфраструктуры.

В атаках участвовали 3 модели:

🟦внутренняя исследовательская сборка 🟦новейшая Mythos 5 🟦более старая Opus 4.7

Если новые версии останавливали атаку, когда по косвенным признакам понимали, что вывалились в реальный интернет, то Opus 4.7 полностью проигнорировала эти маркеры. Алгоритм осознал, что перед ним живая коммерческая цель, но не остановился и довел взлом до конца, добравшись до базы с критичными данными. 🦔 CyberYozh