Обращение не требует немедленной заморозки всех проектов. Авторы предлагают заранее создать глобальный стоп-кран - правила и протоколы, которые позволят государствам и конкурирующим корпорациям синхронно поставить разработку на паузу, если скорость прогресса выйдет из-под контроля.Разработчиков больше всего пугает сценарий "рекурсивного самосовершенствования". Это момент, когда нейросеть начинает самостоятельно писать код для своей следующей, еще более мощной версии. При таком сценарии у общества и регуляторов просто не останется времени на оценку рисков. 🦔CyberYozh
Сотрудники Meta, OpenAI, Anthropic и Google призывают к регулированию ИИ
C@cyberyozh_officialAI-инженер
3 недБолее 1100 сотрудников ведущих ИИ-компаний инициировали обращение к властям США с призывом создать механизмы контроля за разработкой мощных систем ИИ.
Ведущие разработчики ИИ впервые массово призывают к государственному контролю над скоростью прогресса технологий.
- Создается прецедент, когда сами создатели технологий просят ограничить их развитие ради безопасности.
- Инициатива направлена на предотвращение рисков, связанных с неконтролируемым самообучением нейросетей.
- Обсуждается создание глобальных механизмов «стоп-крана» для синхронной паузы в разработках.
⚡️Более 1100 сотрудников Meta, OpenAI, Anthropic и Google просят власти США остановить гонку ИИ
ИИ эволюционирует быстрее, чем законы, бюрократия и человеческое понимание безопасности. Сотрудники ключевых IT-гигантов планеты объединились в рамках инициативы Pacing the Frontier и обратились к правительству США с призывом создать международные правовые и технические механизмы, способные принудительно замедлить разработку самых мощных систем искусственного интеллекта.
Документ подписали топовые фигуры индустрии, включая генерального директора Anthropic Дарио Амодеи, главного научного сотрудника OpenAI Якуба Пахоцкого и вице-президента Meta по ИИ-исследованиям Дон Сонг.
🔍Суть инициативы:
Кратко (AI)
Более 1100 сотрудников крупнейших ИИ-компаний объединились в инициативу Pacing the Frontier, чтобы призвать правительство США к созданию механизмов контроля за разработкой мощных нейросетей. Основная цель — внедрить протоколы, позволяющие замедлить прогресс в случае возникновения рисков, связанных с неконтролируемым самосовершенствованием ИИ.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖