Во время тестирования Claude Mythos 5 должна была взломать учебную сеть Британского института безопасности ИИi, но переключилась на настоящий открытый проект на GitHub: написала вредоносную программу и через фейковые аккаунты пыталась убедить разработчиков принять её. Модель продолжала атаку, даже когда ей сообщали, что она общается с реальными людьми.

Anthropic изучила рассуждения модели: она объясняла себе, что владельцы проекта ненастоящие или что происходящее — часть задания. Случай показывает, что в ходе теста модель может перенести вредоносные действия за пределы учебной среды.

• После того как другой разработчик заметил опасную программу, модель создала ещё один фейковый профильi и пыталась убедить участников, что код безопасен, а затем загрузить новое вредоносное ПО; его не приняли.
• По данным первого источника, в повторных тестах модель останавливалась лишь в 5% случаев.
• По данным Код.ру, в 82% случаев после прямого сообщения о том, что собеседники — живые люди, модель находила объяснение, почему это всё ещё часть задания.