Глава Anthropic Дарио Амодеи опубликовал эссе «We Must Pace the Frontier», в котором призвал ведущие лаборатории добровольно ограничить темпы развития ИИ. По его мнению, рекурсивное самоулучшениеi моделей (когда ИИ помогает создавать следующее поколение ИИ) привело к тому, что возможности систем растут быстрее, чем методы контроля безопасности.

Инициативу поддержали руководители OpenAI, xAI и Google DeepMind. План Амодеи включает внедрение независимых аудиторов внутрь компаний, создание общих стандартов безопасности для демократических стран и попытку глобальной координации с Китаем для предотвращения катастрофических рисков, таких как создание масштабных ботнетов.

• Амодеи опасается, что через 6–12 месяцев рой автономных ИИ-агентов сможет захватить значительную часть интернета и нанести ущерб на сотни миллиардов долларов.
• Anthropic обязалась предоставить независимым проверяющим (например, организации METR) постоянный доступ к своим системам, включая рабочие места и процессы обучения, с правом публиковать неудобные выводы.
• Сэм Альтман (OpenAI) подтвердил готовность компании к паузам в выпуске моделей и допуску внешних аудиторов, а Илон Маск (xAI) и Демис Хассабис (Google DeepMind) публично согласились с необходимостью замедления.
• Критики, включая Марка Цукерберга и ряд экспертов, указывают на риск «регуляторного захвата», при котором лидеры рынка пытаются ограничить конкуренцию и open-source разработки под предлогом безопасности.
• Ряд аналитиков, в частности Майкл Бьюрри, связывают синхронную риторику об опасности ИИ с подготовкой компаний к IPOi и попыткой скрыть замедление темпов роста производительности моделей.
• МИД КНР назвал призывы к паузе «нагнетанием страха», а эксперты отмечают, что геополитическая конкуренция делает глобальное замедление маловероятным.