OpenAI уволила трёх сотрудников команды безопасности ИИ — двух исследователей и руководителя программы — за передачу конфиденциальной информации о внутренней инфраструктуре компании сторонней организации, занимающейся безопасностью ИИ. Компания заявила, что внутреннее расследование выявило «паттерн нарушений» в обращении с чувствительными данными, но имена сотрудников и точный характер утечки не раскрыла.

Историю подтвердили The Hacker News со ссылкой на The Wall Street Journal и Bloomberg. Увольнения прозвучали на фоне публикации NYT о том, что OpenAI месяцами игнорировала сигналы сотрудников о рисках и жертвовала протоколами безопасности ради сроков выпуска моделей, а также на фоне инцидента, связанного с Hugging Face. Позже сами уволенные исследователи публично заявили, что боятся, что подобные меры заставят сотрудников молчать о рисках ИИ и разрушат открытую культуру компании.

• По данным vc.ru, один из уволенных был техническим контактным лицом OpenAI для компаний Redwood Researchi и METRi, которые расследовали инцидент с Hugging Facei
• Bloomberg уточнил: передавалась информация об устройстве инфраструктуры OpenAI
• Официальная формулировка OpenAI: сотрудники «неправильно обращались с чувствительной информацией в обход принятых процедур, нарушили наши правила и подорвали доверие, без которого наша работа невозможна»
• NYT ранее писала, что OpenAI систематически игнорировала сигналы сотрудников о рисках в тестировании новых моделей на протяжении месяцев до инцидента с Hugging Face
• 10 октября уволенные исследователи публично заявили, что их выгнали внезапно, и выразили опасение, что компания заставит персонал молчать о рисках ИИ
• OpenAI отрицает связь увольнений с критикой компании и заявляет, что дело именно в нарушении правил работы с конфиденциальными данными
• При этом OpenAI поддержала предложения бывших сотрудников о независимом аудите и постоянном мониторинге передовых моделей