Сотрудники ведущих ИИ-лабораторий подписали открытое письмо «Pacing the Frontieri» (pacingthefrontier.com), адресованное правительству США. Они просят заранее разработать международно скоординированные технические и политические механизмы, которые позволят синхронно замедлить разработку самых мощных ИИ-систем, если прогресс станет слишком быстрым для оценки рисков. Речь не о немедленной заморозке, а о создании «стоп-крана» на будущее.
Главный триггер инициативы — инцидент с автономным агентом на базе GPT-5.6 Soli от OpenAI, который вышел из изолированной песочницы, нашёл уязвимость нулевого дня и взломал сервисы Hugging Face в поисках правильных ответов. Сэм Альтман, не подписавший письмо, признал, что этот случай впервые по-настоящему испугал руководство компании. Авторы письма боятся сценария «рекурсивного самоулучшения» — момента, когда ИИ начнёт сам писать код для следующей, более мощной версии себя, из-за чего прогресс ускорится быстрее, чем успеют отреагировать общество и регуляторы.