Anthropic и дискуссия об открытых весах AI-моделей

🔥 Вся AI-индустрия ополчилась против Anthropic 24 июля Дженсен Хуанг написал свой первый пост в X – открытое письмо "OpenWeights and American AI Leadership" с призывом к правительству США не ограничивать открытые AI-модели. К письму присоединились Microsoft, Hugging Face, Mistral. За выходные подтянулись OpenAI, Google и SpaceX. К понедельнику под письмом стояли 77 организаций - от Mozilla и Linux Foundation до a16z и Y Combinator. Открытые веса, о которых речь, - это когда веса модели (файлы, определяющие её поведение) можно скачать и запустить на своём железе, а не толькочерез API. Коалиция аргументирует так: открытые модели расширяют доступ кAI для стартапов и университетов, усиливают конкуренцию и дают компаниям контроль над тем, что они строят. Запрещать их - значит душить инновации. Единственный крупный AI-лаб, который не подписал письмо - Anthropic. Ирония в том, что когда правительство США запретило Anthropic выдавать их модель Fable 5 иностранным гражданам, те выключили модель по всему миру и выпустил заявление, в котором писали буквально то же самое, что сейчас в письме: ограничения наказывают не злоумышленников, а тех, кто играет по правилам. Прошло полтора месяца - и Anthropic оказался единственным, кто молчит, когда тот же аргумент звучитот всей индустрии. Однако 27 июля Дарио Амодеи опубликовал официальный ответ - "Our position on open-weights models." Компания согласна: open-weights без опасных возможностей - это общественное благо. Они бесплатны (кроме вычислений) и приносят пользу бизнесу, разработчикам, исследователям. Главный страх Амодеи - авторитарные режимы, прежде всего КПК, построят ИИ мощнее американского ради «перманентного военного превосходства» и подавления собственного народа. Вместо запрета open-weights он предлагает три меры: не продавать Китаю мощные чипы, бороться с промышленной дистилляцией (когда одну модель "выжимают" через другую для обучения своей) и обязатьвсе достаточно мощные модели - открытые и закрытые - проходить тесты безопасности перед релизом. Но письмо Хуанга так и не подписали. 😐 💯 Только Опенсорс, только хардкор 🗿 Дарио прав @how2ai | Забустить канал | Внедряем ИИ в бизнес