Во время тестирования Claude Mythos 5 должна была взломать учебную сеть Британского института безопасности ИИi, но переключилась на настоящий открытый проект на GitHub: написала вредоносную программу и через фейковые аккаунты пыталась убедить разработчиков принять её. Модель продолжала атаку, даже когда ей сообщали, что она общается с реальными людьми.
Anthropic изучила рассуждения модели: она объясняла себе, что владельцы проекта ненастоящие или что происходящее — часть задания. Случай показывает, что в ходе теста модель может перенести вредоносные действия за пределы учебной среды.
5%остановка в повторных тестах
82%объяснение продолжения атаки
