Позиция Anthropic по открытым моделям: регулирование вместо запрета

➡️Anthropic не предлагает запрещать открытые модели. Но ... Видимо, выход и популярность Kimi 3 подтолкнула создателей клода сделать некоторые заявления по поводу opensource. Anthropic публично заявила, что запрещать модели с открытыми весами как категорию компания не предлагает. Более того, модели без опасных возможностей она называет общественным благом для разработчиков, исследователей и бизнеса. Но важная часть их позиции начинается после привычного (для запада) в технике бутерброд позитива. Open weights на человечьем означает, что веса (грубо говоря — настройки) модели можно скачать, скопировать и запустить на условном частном компьютере без контроля разработчика. Если закрытую модель ещё можно обновить, ограничить или отключить, то опубликованные веса обратно в коробку не засунешь. Копии уже разошлись... Именно необратимость, а не сам ярлык open, Anthropic считает главным источником риска. Поэтому вместо общего запрета компания предлагает три адресные меры: — ограничивать поставки мощных чипов и оборудования для их производства в Китай (с этим вроде бы и так справляются) — пресекать промышленную дистилляцию, когда возможности одной модели массово копируют через обращения к ней (это пипец смех, т.е. гиганты натренили свои модели не заплатив Пушкину и МистерБисту ни доллара, а если тренят конкуренты на их моделях —- пресекаем) — тестировать перед выпуском все достаточно мощные модели на кибер-, убер-, супер-, биологические и другие серьёзные риски, независимо от того, открытые они или закрытые Менее мощные модели стартапов и академических команд предлагается от таких проверок освободить. Ура, я освобождён, спасибо вам, господа... Ггладкость ощутимо становится шероховатой на словах достаточно мощные. Где проходит этот порог сами Anthropic не объясняет. Кто будет проводить проверки, по каким тестам и как добиться участия Китая — тоже пока не готовый механизм. Амодеи (босс Антропик) считает глобальное сотрудничество возможным, но возможность и работающая система регулирования — всё-таки разные звери. Есть и очевидный конфликт интересов ко всему прочему.. Амодеи признаёт, что общий запрет моделей с открытыми весами защитил бы американские ИИ-компании от конкуренции, хотя и говорит, что это не цель Anthropic. Поэтому читать их статью без поправки на интерес авторов — было бы сильно наивно. Конечно же вопросы лучше тоже не игнорировать (касаемые открытых моделей) по типу "что она умеет, насколько это опасно и можно ли остановить последствия после публикации весов". Кстати говоря, Kimi 3 раздали веса свои вчера. Статья от anthropic об их отношении к открытым моделям. Как вы думаете открытые модели — это больше зло (попадут в плохие руки и т.д.) или добро (типа независимость от корпораций и т.д.)?