Сотрудники ведущих AI-компаний призвали правительство США замедлить гонку ИИ

4 нед

Более 1200 сотрудников OpenAI, Anthropic и других компаний подписали обращение к правительству США с призывом внедрить механизмы контроля за развитием ИИ.

Это важный сигнал о том, что даже создатели технологий опасаются неконтролируемого развития ИИ.

Специалисты призывают к государственному регулированию темпов разработки ИИ.
Существует риск, что модели начнут самосовершенствоваться быстрее, чем люди смогут их проверять.
Подписи ведущих ученых отрасли подчеркивают серьезность опасений относительно безопасности будущих систем.

1200 сотрудников AI-компаний попросили сделать тормоз для AI-гонки Сотрудники OpenAI, Anthropic, Google, Microsoft, Mistral и других компаний обратились к правительству США. Они просят поддержать разработку механизмов, которые позволят при необходимости замедлить развитие самого мощного AI. Авторы считают, что автоматизация уже близко. Скоро модели смогут сами создавать следующие поколения моделей. Прогресс может резко ускориться, и люди не будут успевать оценивать безопасность новых моделей. Обращение подписали 1224 специалиста. Среди них глава Anthropic Дарио Амодеи, главный ученый OpenAI Якуб Пахоцкий, главный исследователь OpenAI Марк Чен. Все они выступили лично, а не от имени своих компаний. https://www.theverge.com/ai-artificial-intelligence/972161/ai-leaders-us-government-openai-anthropic-google-meta

Кратко (AI)

Более 1200 сотрудников крупнейших AI-компаний, включая OpenAI и Anthropic, обратились к правительству США с просьбой разработать механизмы для замедления развития мощных моделей ИИ. Авторы опасаются, что бесконтрольная автоматизация создания новых поколений моделей может привести к потере контроля над безопасностью технологий.

Сотрудники ведущих AI-компаний призвали правительство США замедлить гонку ИИ

Кратко (AI)

Обсуждение