В начале сентября исследователь Anthropic уволился, заявив, что ИИ может начать угрожать человечеству уже через два года. Вскоре после этого гендиректор Anthropic Дарио Амодеи публично призвал замедлить развитие ИИ и получил поддержку OpenAI, SpaceX и Google (по данным vc.ru), либо, по другой версии, выступил вместе с главами OpenAI и xAI Сэмом Альтманом и Илоном Маском (по данным «Малоизвестное интересное»). Формально речь о безопасности всего человечества, но критики видят за этим бизнес-логику: OpenAI и Anthropic не могут раскрыть реальную (слабую) доходность перед потенциальным IPO, а бесплатные и почти не уступающие им по качеству китайские open source модели размывают их конкурентное преимущество.

История быстро переросла в политическую: Трамп и его союзники публично отказались ограничивать ИИ и заключать сделки с Китаем, экс-президент Обама призвал демократов сделать контроль над ИИ центром промежуточных выборов, а Альтман предложил Трампу и Си Нобелевскую премию мира за глобальный пакт по безопасности ИИ. По оценке «Малоизвестное интересное», под давлением этой комбинации стимулов Трамп скорее всего смягчит позицию — и главной жертвой техно-политического противостояния станут именно открытые модели.

• The Informationi сообщает, что OpenAI и Anthropic заранее «за кулисами» обсуждали создание регулирующего органа для контроля разработок ИИ — часть индустрии считает это попыткой подавить конкуренцию открытых моделей
• Автор источника 1 указывает: OpenAI и Anthropic обещают триллионы прибыли и трансформацию экономики, но не могут это подтвердить отчётностью перед IPO, пока китайские open source модели доступны бесплатно, работают на слабом железе и почти не отличаются по качеству
• Предлагается финансировать разработку ИИ из бюджета «как Манхэттенский проект» и ввести защиту создателей моделей по аналогии с section 230i (закон, освободивший интернет-компании от исков за контент пользователей) — на фоне того, что публичные взломы систем моделями фактически являются уголовными преступлениями
• Автор источника 1 напоминает, что Дарио Амодеи уже ранее публично предупреждал о «слишком мощной технологии», приурочив первую такую статью к выходу GPT-2, и называет его «мальчиком, который кричал: Волки!»; отмечается, что Сэм Альтман тоже не замечен в особой заботе о человечестве
• Белый дом официально настаивает: замедлению не быть, договоров с Китаем, облегчающих ему конкуренцию в ИИ, не будет
• Обама обратился к демократам напрямую, через голову администрации, с призывом поставить контроль над ИИ в центр повестки промежуточных выборов
• Альтман предложил Трампу и Си Нобелевскую премию мира в обмен на пакт о мировой ИИ-безопасности между США и Китаем