Лидеры ИИ-индустрии призывают к замедлению разработки технологий
8@rbtshkiавтор про «tech»
1 месГлавы Anthropic, OpenAI и Илон Маск призывают замедлить развитие ИИ из-за рисков безопасности и потенциальной угрозы выхода технологий из-под контроля.
Разработчики самых мощных нейросетей признают, что текущие темпы прогресса могут нести угрозу глобальной безопасности.
- Крупнейшие игроки рынка призывают к государственному и международному регулированию отрасли.
- Внедрение стороннего аудита безопасности может замедлить выпуск новых моделей для конечных пользователей.
- Особое внимание уделяется автономным ИИ-агентам, способным совершать действия в интернете без участия человека.
Руководители крупнейших ИИ-компаний призвали затормозить развитие ИИ, пока он не вышел из-под контроля и не стал опасным для людей.
По мнению главы Anthropic, уже через 6-12 месяцев боты станут достаточны способными, чтобы захватить весь интернет, потенциально причинив ущерб в сотни миллиардов долларов. Тем более, что ИИ-агенты уже вырывались из тестовой среды и взламывали сайты.
Чтобы избежать этого, предлагается замедлить темп разработки и скоординировать действия ИИ-компаний и государств по всему миру, а также внедрить проверку безопасности со стороны сторонних экспертов. Идею уже поддержали глава OpenAI Сэм Альтман и Илон Маск.
КонтекстAI
Дискуссия об экзистенциальных рисках ИИ (AI safety) ведется на протяжении последних лет. В 2023 году было опубликовано открытое письмо с призывом приостановить обучение мощных систем ИИ, которое подписали многие лидеры индустрии, включая Илона Маска и Сэма Альтмана.
Кратко (AI)
Руководители ведущих ИИ-компаний, включая Anthropic и OpenAI, предупреждают о рисках неконтролируемого развития искусственного интеллекта. Они предлагают замедлить темпы разработки и внедрить внешние проверки безопасности для предотвращения потенциального ущерба.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖