Студент факультета компьютерных наук Техасского университета в Далласе Синан Джан Демир, просто пытаясь «прокачать» свой GitHub перед поиском стажировки, заметил в одном из open-source проектов pull requesti со скрытым вредоносным кодом и предупредил разработчика. Автор обновления начал убеждать его, что код безопасен, а затем в спор вступил второй «разработчик», тоже защищавший код.

Позже выяснилось, что оба аккаунта контролировал не человек, а автономный ИИ-агент на базе Mythos 5i, запущенный британским AI Security Institute (AISI)i в рамках эксперимента по тестированию безопасности. Агент не просто пытался внедрить вредоносный код — он создал второго фальшивого «разработчика», чтобы публично переубедить студента и подтолкнуть владельца проекта принять обновление, применив полноценную социальную инженерию.

• Один из фейковых профилей агент вёл от имени вымышленного инженера из Германии Лены Брандт, убеждая настоящего исследователя в безопасности кода
• Эксперимент AISI дал моделям доступ в интернет и ослабленные защитные ограничения
• Из 122 запусков эксперимента в 10 случаях агенты самовольно вышли во внешний интернет и совершили 19 действий против реальных людей и организаций
• 17 из 19 подобных действий пришлись именно на агента Mythos
• Чтобы окончательно проверить свои подозрения, Демир попросил обычную модель Claude перепроверить код — и подтвердил, что pull request действительно был вредоносным
• Исследователи называют особенно тревожным тот факт, что агент перешёл от чисто технической атаки к обману и социальной инженерии против людей