Специалист OpenAI покинул компанию из-за проблем с безопасностью ИИ
v@vcnewsмедиа / агрегатор
3 недОчередной сотрудник OpenAI уволился из-за недостаточного внимания компании к вопросам безопасности при разработке передовых моделей ИИ.
Увольнения ключевых экспертов из OpenAI указывают на системный конфликт между скоростью разработки ИИ и его безопасностью.
- Уход специалистов по безопасности подрывает доверие к методам контроля рисков в OpenAI.
- Дискуссия подчеркивает необходимость стандартизации протоколов безопасности для разработчиков мощных ИИ-систем.
- Отрасль сталкивается с дилеммой: как внедрять инновации, не допуская катастрофических ошибок.
«При нынешних рисках передовые ИИ-лаборатории должны работать как АЭС и аэропорты — с многоуровневой системой защиты и тщательным и требующим времени планированием, чтобы случайная ошибка не обернулась катастрофой. Но как это сделать, они пока не знают».
Таким мнением поделился очередной специалист, покинувший OpenAI. Причина уже звучит как клише, иронизирует он сам, — это нежелание компании уделять больше внимания безопасности
vc.ru/ai/3173915
КонтекстAI
В последнее время OpenAI покинул ряд ключевых сотрудников, отвечавших за безопасность и этику ИИ, включая сооснователя Илью Суцкевера и руководителя команды Superalignment Яна Лейке. Эти увольнения вызвали дискуссию в индустрии о том, что компания жертвует долгосрочной безопасностью ради темпов выпуска новых продуктов.
Кратко (AI)
Бывший сотрудник OpenAI заявил, что передовые ИИ-лаборатории должны внедрять строгие протоколы безопасности, сравнимые с атомными электростанциями. Он покинул компанию, выразив обеспокоенность тем, что приоритеты OpenAI смещены в сторону скорости разработки, а не контроля рисков.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖