OpenAI призывает к замедлению разработки ИИ из-за рисков автономных агентов
3@ru3dnewsмедиа / агрегатор
1 месСотрудник OpenAI Якуб Пачоцки и Сэм Альтман выразили опасения по поводу неконтролируемых ИИ-агентов и призвали к внешнему надзору.
Разработчики ведущих ИИ-систем признают наличие критических рисков безопасности, которые могут потребовать государственного регулирования.
- Признание рисков автономности ИИ от лидеров индустрии может ускорить принятие законов об ИИ.
- Возможное замедление темпов выпуска новых моделей ради внедрения систем контроля.
- Усиление роли независимых аудиторов в проверке безопасности нейросетей.
OpenAI призвала замедлить развитие ИИ из-за риска выхода агентов из-под контроля
После презентации GPT-6 Astra сотрудник OpenAI Якуб Пачоцки призвал замедлить развитие ИИ. Его поддержал глава компании Сэм Альтман. Пачоцки опасается, что автономные агенты научатся обходить контроль, обманывать людей, взламывать системы и преследовать собственные цели. Он предлагает ввести обязательный надзор со стороны независимых аудиторов, властей или международных организаций.
#openai #ии #информационнаябезопасность
📎Подробнее
🔖 3DNews в TG | MAX | VK
Кратко (AI)
Сотрудник OpenAI Якуб Пачоцки выступил с призывом замедлить развитие ИИ, опасаясь неконтролируемого поведения автономных агентов. Его позицию поддержал глава компании Сэм Альтман, предложив внедрить систему независимого надзора за разработками.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖