22 исследователя, включая Джеффри Хинтона, Йошуа Бенджио, главного научного сотрудника OpenAI Якуба Пачоцки/Пахоцки и сооснователя Anthropic Джека Кларка, опубликовали в Кембридже статью о риске «интеллектуального взрыва» — резкого ускорения прогресса ИИ за счёт того, что сам ИИ начинает автоматизировать собственную разработку. По их мнению, годы научного прогресса могут сжаться в месяцы, а это грозит потерей контроля над моделями и сломом баланса сил между компаниями и странами.
Авторы ссылаются на внутренние данные Anthropic о резком росте доли кода и R&D-работы, выполняемой ИИ, и просят регуляторов заранее обязать лаборатории отчитываться об уровне автоматизации и подготовить механизмы экстренного замедления — до того, как сценарий начнёт реализовываться.
ВыводСтатья написана в Кембридже, имеет 22 автора; ссылка на отчёт — casp.ac/reports/intelligence-explosion
В Белом доме главы крупнейших ИИ-компаний подписали соглашение о «сверхинтеллекте» (Super Intelligence, SI) и обязательство по безопасности передовых ИИ-моделей: проверять опасные возможности своих систем и привлекать внешних аудиторов. Документ подписали Google, Anthropic, Meta, xAI, Nvidia и OpenAI.
Событие совпало по времени с провальной презентацией OpenAI накануне, что усилило иронию вокруг всей истории. Соглашение получило огласку не столько содержанием, сколько курьёзом: подпись стоит под несуществующей должностью — «President of the Unites States» (опечатка в слове United).
По данным NYT, в Китае предупреждения американских компаний о рисках ИИ воспринимают как маркетинговую уловку, призванную замедлить развитие китайских конкурентов в индустрии. Местные СМИ называют эту стратегию «маркетингом страха».
Китайские специалисты и чиновники считают апокалиптические сценарии уничтожения человечества ИИ либо маловероятными, либо особенностью западной культуры, а не реальной угрозой.
Апелляционный суд округа Колумбияi решением 2 против 1 подтвердил законность включения Anthropic в «чёрный список» рисков для цепочки поставок Минобороны США, введённый в марте. Из-за этого статуса армия США не может использовать модели Claudei, а оборонные подрядчики — применять их в работе с ведомством.
Это важно, потому что запрет держится на двух разных юридических основаниях, оспариваемых в двух разных судах: один суд уже признал одно из оснований незаконным, а теперь второй суд подтвердил второе. Получается асимметрия — Пентагону для сохранения запрета достаточно победить хотя бы в одном суде, а Anthropic нужно выиграть в обоих.