OpenAI уволила трех исследователей безопасности
D@data_secretsAI-инженер
3 недOpenAI уволила трех сотрудников отдела безопасности за передачу конфиденциальной информации сторонней организации.
Внутренний конфликт в OpenAI по вопросам безопасности ИИ обостряется.
- Увольнения подчеркивают растущее напряжение между руководством OpenAI и сотрудниками, отвечающими за безопасность.
- Ситуация ставит под вопрос прозрачность процессов тестирования моделей в компании.
- Публичные скандалы вокруг безопасности могут повлиять на доверие к будущим релизам OpenAI.
OpenAI уволили трех рисерчеров из отдела safety: они поделились конфиденциальной информацией с внешней организацией, которая занимается безопасностью ИИ
Ни имена исследователей, ни организация-получатель, ни тип информации не названы. Но компания сообщила, что расследование выявило «паттерн нарушений» в обращении с конфиденциальными данными.
NYT, кстати, совсем недавно писали о том, что OpenAI якобы систематически игнорировала сигналы сотрудников о рисках в тестировании новых моделей на протяжение месяцев до инцидента с Hugging Face.
КонтекстAI
Ранее в СМИ, включая The New York Times, появлялись публикации о том, что руководство OpenAI игнорирует опасения сотрудников по поводу безопасности ИИ-моделей. Инцидент с Hugging Face, упомянутый в контексте, связан с уязвимостями в безопасности, которые обсуждались внутри компании.
Кратко (AI)
Компания OpenAI уволила трех исследователей из отдела безопасности из-за утечки конфиденциальных данных сторонней организации. В компании заявили о выявлении систематического нарушения правил обращения с информацией, в то время как СМИ сообщают о внутренних разногласиях по поводу рисков при тестировании новых моделей.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖