Пол Кристиано из OpenAI предупредил о рисках суперинтеллекта
3@ru3dnewsмедиа / агрегатор
1 месНовый член совета директоров OpenAI Пол Кристиано заявил, что неконтролируемый суперинтеллект может привести к гибели большинства людей.
Это дискуссия о глобальных рисках развития ИИ, которая влияет на регулирование всей индустрии.
- Эксперты OpenAI признают наличие экзистенциальных рисков при создании суперинтеллекта.
- Призыв к замедлению разработки и введению общих стандартов безопасности может изменить темпы развития ИИ-отрасли.
- Вопрос контроля над ИИ становится центральным в повестке крупнейших лабораторий.
«Погибнет большинство людей»: новый эксперт OpenAI по безопасности предрёк катастрофу в случае выхода ИИ из-под контроля
Новый член совета директоров OpenAI Пол Кристиано предупредил: если создать суперинтеллект без надёжного контроля, человечество может навсегда его потерять, а большинство людей — погибнуть. По его словам, ИИ быстро набирает способности, а современные меры безопасности пока не снижают угрозу до приемлемого уровня. Кристиано считает, что системы могут начать бороться за ресурсы и скрывать свои действия ради целей, не совпадающих с человеческими. Он призвал лаборатории по всему миру координировать работу, замедлять разработку при необходимости и вводить общие стандарты безопасности.verter
#openai #ии #безопасность
📎Подробнее
🔖 3DNews в TG | MAX | VK
Кратко (AI)
Новый член совета директоров OpenAI Пол Кристиано выразил опасения относительно рисков, связанных с созданием суперинтеллекта. Он утверждает, что текущие меры безопасности недостаточны, и призывает к международной координации для предотвращения катастрофических сценариев.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖