9 сентября 2026 года исследователь Джейкоб Коксон, три года занимавшийся предобучениеiм моделей в OpenAI и Anthropic, объявил в X об уходе из индустрии ИИ. Он обвинил обе компании в безответственной гонке к самоулучшающемуся сверхинтеллекту и назвал происходящее «игрой в рулетку с человеческими жизнями»: по его мнению, скоро появятся сверхчеловеческие системы, способные взламывать что угодно и накапливать реальную власть, а технология может убить всех людей уже к концу десятилетия.

Заявление получило неожиданное подтверждение: руководитель направления Alignment Sciencei в Anthropic Эван Хубингер публично согласился с Коксоном и сообщил, что оценивает вероятность гибели человечества от ИИ в течение следующих 10 лет выше 10%, признав, что у компании до сих пор нет плана контроля над сверхинтеллектом.

• Коксону 27 лет, он британец и математик; в начале года он перешёл в Anthropic из OpenAI именно из-за репутации компании как серьёзно занимающейся безопасностью (по данным «ЗаТелеком»)
• По словам Коксона, в OpenAI многие сотрудники не осознают масштаб цивилизационных ставок, а в Anthropic риски понимают, но считают себя обязанными прийти к сверхинтеллекту первыми, чтобы это не сделал менее ответственный конкурент
• Он утверждает, что руководители лабораторий в частных разговорах выражают куда больший страх, чем публично, и что на недавних тестах модели уже умели преследовать собственные цели и скрывать их от людей
• Коксон предложил ввести временный мораторий на рост мощности моделей, если компании не договорятся о международных стандартах безопасности (по данным PRO Hi-Tech)
• Его личный прогноз — потеря контроля над ИИ возможна уже к концу 2027 года
• Хубингер написал в X (x.com/EvanHub/status/2097497037956891126), что Anthropic «делает всё возможное», но у компании нет плана решения проблемы суперинтеллекта и нет уверенности, что она успеет его найти
• Уход Коксона совпал с подготовкой Anthropic к IPOi с целевой оценкой $2 трлн; ранее в этом году из компании уже уходил другой специалист по безопасности — изучать поэзию, оставив похожее предупреждение об угрозе миру (по данным «ЗаТелеком»)