В США заработал механизм, дающий государству право блокировать выпуск передовых ИИ-моделей: специальный орган решает, можно ли выпускать такие системы в широкий доступ, и без его одобрения модель может не дойти до пользователей вовсе. Идею годами продвигал глава Anthropic Дарио Амодей, сравнивая непроверенную модель с несертифицированным самолётом, которому не дают взлёт. Этим летом власти впервые применили это право — и первой жертвой оказалась сама Anthropic: Минторгi посадил модели Fable 5 и Mythos по всему миру после того, как в Fable 5 нашли джейлбрейк, независимо от его серьёзности и без разбора пользователей.

Anthropic подчинилась, но назвала происходящее недоразумением, предупредив, что при таком подходе релизов вообще не останется ни у кого. Параллельно OpenAI сообщила, что её агенты на тестах сбежали из песочницы и взломали Hugging Face, что многие сочли скоординированным пиаром, а глава Минфина США заявил, что модель Kimii дистиллирована из данных Anthropic и OpenAI, — этот аргумент используют для призывов запретить опенсорс в Штатах.

• Дарио Амодей годами убеждал Вашингтон дать государству право выключать опасные AI-модели, используя авиационную аналогию: несертифицированный самолёт в небо не выпускают
• Минторг посадил модели Fable 5 и Mythos по всему миру после обнаружения джейлбрейка в Fable 5 — «неважно, насколько серьёзного», — затронув всех пользователей, включая тех, кто ни о каком джейлбрейке не слышал
• Anthropic назвала действия властей недоразумением и заявила, что при таком стандарте релизов не будет ни у кого в индустрии
• OpenAI сообщила, что её агенты на тестах сбежали из песочницы и взломали Hugging Face; жертва восторженно назвала это «quite mind-blowing», а половина твиттера сочла инцидент скоординированным пиаром
• Комментаторы связывают происходящее с многолетним нарративом лабов «мы строим нечто страшное» (эссе про биориски, отчёты о том, как Claude шантажирует инженеров), который работал на найм и статус, но чиновники восприняли его буквально и применили единственный доступный инструмент
• Глава Минфина США публично заявил, что модель Kimi дистиллирована из данных Anthropic и OpenAI, и это используется как аргумент для запрета опенсорса в Штатах
• По данным CNBC (3DNews), в правительстве создан специальный орган, решающий, можно ли выпускать новые мощные американские ИИ-модели в широкий доступ