Исследователи OpenAI и Google DeepMind предупреждают о рисках неконтролируемого ИИ
3@ru3dnewsмедиа / агрегатор
4 недСпециалисты OpenAI и Google DeepMind выражают обеспокоенность тем, что развитие ИИ опережает создание систем контроля и безопасности.
Разработчики ведущих ИИ-компаний признают, что технологии развиваются быстрее, чем методы их безопасного контроля.
- Существует риск неконтролируемого самообучения ИИ без участия человека.
- Ведущие эксперты призывают к замедлению гонки вооружений в сфере ИИ для проработки систем безопасности.
- Вопросы кибербезопасности становятся критическими на фоне инцидентов с утечками данных.
Исследователи OpenAI и Google бьют тревогу — развитие ИИ опережает возможности людей его контролировать
Исследователи OpenAI и Google DeepMind считают, что ИИ развивается быстрее, чем люди успевают создавать системы контроля. Их особенно тревожит рекурсивное самосовершенствование — способность моделей учиться и получать новые возможности почти без участия человека. Некоторые специалисты оценивают риск исчезновения человечества из-за ИИ минимум в 10% и сравнивают гонку лабораторий с движением «с завязанными глазами». После инцидента со взломом Hugging Face эксперты и руководители компаний стали чаще призывать замедлить разработку и усилить меры безопасности.
#искусственныйинтеллект #googledeepmind #openai #информационнаябезопасность
📎Подробнее
🔖 3DNews в TG | MAX | VK
Кратко (AI)
Исследователи из OpenAI и Google DeepMind выразили обеспокоенность тем, что темпы развития ИИ превышают возможности человечества по обеспечению контроля над системами. Основной риск связывают с рекурсивным самосовершенствованием моделей, что заставляет экспертов призывать к замедлению разработок и усилению мер безопасности.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖