Сэм Альтман о рисках ИИ в ООН
F@FuturisAI-инженер
1 месСэм Альтман выступил в ООН с предупреждением о рисках потери контроля над ИИ и предложил международное сотрудничество для безопасности моделей.
Разработчики ИИ начинают открыто обсуждать международное регулирование и риски потери контроля над технологией.
- Крупнейшие игроки рынка признают необходимость замедления разработки ради безопасности.
- Обсуждается создание международных стандартов проверки ИИ-моделей.
- Риск монополизации мощного ИИ становится предметом дискуссий на уровне ООН.
Хм, теперь понятно почему релиз Gpt-6 Sol был таким слабеньким - Сэм Альтман выступил на Совбезе ООН и предупредил: человечество может потерять контроль над будущим из-за ИИ. По его словам, системы способны развиваться настолько быстро, что люди перестанут понимать их действия и не успеют вмешаться. Особенно осторожными нужно быть, когда ИИ начнёт помогать создавать более сильные версии самого себя. Альтман заявил, что OpenAI уже добровольно замедляла разработку и готова сделать это снова.
Второй риск, который он назвал, — слишком мощный ИИ в руках одной компании или государства. Альтман предложил странам договориться об общих способах проверки моделей и быстро сообщать друг другу об опасных инцидентах. Полная речь · видео.
вот кто решил замедлиться оказывается 🤷♂️
Кратко (AI)
Сэм Альтман на заседании Совбеза ООН предупредил о рисках потери контроля над развитием ИИ и возможности бесконтрольного самосовершенствования систем. Он призвал к международному сотрудничеству в области проверки моделей и заявил о готовности OpenAI замедлять разработку ради безопасности.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖