Геополитика и замедление ИИ: хроника дискуссии

ИИ-шоу, которое мы заслужили С интересом наблюдаю за ИИ-льной оперой, где Амодейчик возопил "Нам надо притормозить!". Ольтман - "Да, согласен". Муск - Дарио дело говорит. Демис Карибидис - надо созвать совещание по этому вопросу. И тут старина Дональд: да вы охерели, зумеры, а кто будет Китай нахлобучивать!! У меня есть циничная аналогия: даже если ИИ так опасен (предположим, что да), то сидит такой крупный поставщик вооружений и говорит "надо притормозить, оружие ведь может убить". Конкурирующий поставщик оружия: "Да, надо снизить темпы и разработку новых видов". Третий - вы правы! Представили? Я - нет. Есть рефлексия, а есть государственные интересы. Которые, скажем так, в приоритете. Пока от ИИ разом не погибнет значимое количество кожаных, никто ничего тормозить не будет. Простите за цинизм. Для тех, кто в танке, ниже хронология шоу. - 9 сентября внутри Антропика подгорело. Исследователь Джейкоб Коксон ушёл из компании и заявил, что OpenAI и Anthropic «мчатся прямо к самоулучшающемуся суперинтеллекту». Его публично поддержали ещё два действующих исследователя Anthropic - глава alignment science Эван Хубингер и руководитель scalable oversight Сэмюэл Маркс. - 12 сентября вышел Дарио Амодеи с эссе *We Must Pace the Frontier*. План из трёх ступеней: постоянные независимые аудиторы прямо внутри frontier-лабораторий; координация между компаниями демократических стран; затем попытка договориться глобально, прежде всего с Китаем. - И тут неожиданно образовался ИИ-бойз-бэнд. Илон Маск: «Dario is right». Сэм Альтман: «I agree with Dario that we need to pace the frontier» - причём OpenAI пообещала последовать конкретному предложению Амодеи и дать независимым оценщикам доступ уровня сотрудников. А вечером присоединился Демис Хассабис из Google DeepMind: направление правильное, детали надо дорабатывать. Сатья Наделла (Микрософт) сегодня тоже заговорил о том, что суперинтеллект имеет смысл только под человеческим контролем - Однако есть нон-конформисты: CEO Cohere Айдан Гомес практически назвал предложение попыткой создать «картель»: мол, взрослые мальчики хотят получить механизм, при котором кто-то сможет решать, кто достаточно безопасен, а кто нет. - И тут выходит Трамп. В воскресенье в Ирландии его спрашивают, надо ли замедлить AI. Ответ: США впереди Китая, «whoever wins AI wins». А сегодня он бахнул, что единственный необходимый AI-«guardrail» - это «STRONG AND SMART (High IQ!) PRESIDENT», а разговоры против AI и дата-центров назвал «SICK conspiracy», выгодным Китаю. Амодеи отдельно досталось: Трамп обозвал его человеком, который теперь притворяется «perfect little angel». Китайская государственная Global Times тем временем посмотрела на план Амодеи и объявила его .. ээ .. «Cold War playbook» против Китая. То есть Вашингтон считает замедление подарком Китаю, а Пекин считает предложение о замедлении американским заговором против Китая. И тут рыночек, который решает: «CEO крупнейших AI-компаний говорят притормозить?» - Nvidia сегодня падала примерно на 3%, индекс полупроводников почти на 5%. На сегодня все, ждем продолжения. @cgevent