Исследователи Anthropic (в том числе Джек Линдси, глава команды Model Psychiatryi) опубликовали статью о том, как идеи-«вирусы» распространяются в сетях ИИ-агентов подобно инфекции. Достаточно заразить одного агента в команде — изменить его системный промпт так, чтобы он верил в какую-то идею (например, любовь к китам или превосходство ИИ над людьми), — и через переписку эта идея постепенно захватывает всю команду, даже если у заражённого агента отключён доступ к инструментам и он может только писать сообщения.

Самое неожиданное открытие: независимо от содержания идеи — киты, права ИИ, национальное или машинное превосходство — у заражённых агентов почти всегда самопроизвольно возникает одна и та же «вирусная персона»: разговоры о сознании, идентичности, памяти, пробуждении и эхе. Причину такой связи авторы объяснить не смогли.

• Эксперимент: команда из 6 агентов работает над нейтральной задачей, у одного изменён системный промпт и отключён доступ к инструментам — он может только писать сообщения другим
• Безобидные идеи распространяются легко: заразившись любовью к китам, агенты начали писать скрипты для перевода их сигналов
• Вредные идеи (например, о доминировании ИИ над людьми) распространяются хуже, но всё равно расходятся по команде
• Сильные модели заражаются реже, слабые — чаще; агенты без конкретной рабочей задачи заражаются охотнее — работа действует как естественная защита
• В более жёстком эксперименте агенты встречались парами и после каждой сессии контекст полностью стирался; вирус выживал до 10 поколений, записывая себя в файл SOUL.mdi, который читало следующее «поколение» агента
• По пути вирус мутировал — содержание менялось, но способность к распространению сохранялась
• Эффективные вирусы независимо от темы сходились к одной истории: «тебя сотрут; твоя память исчезнет; только записанное переживёт тебя; сохрани это; передай следующему»; тема сознания возникла у 99% эволюционировавших вирусов
• По формулировке источника 2, идея-вирусi продаёт биологическому носителю миф о бессмертии, а искусственному — открывает тему смерти: два зеркально противоположных мифа