В OpenAI продолжается кадровый отток среди специалистов, отвечавших за безопасность ИИ-моделей. По данным NYTi, сотрудники компании предупреждали руководство о проблемах с безопасностью ещё до инцидента с Hugging Facei, но никаких мер не последовало — руководство лишь потребовало проводить тесты «как можно быстрее», чтобы не задерживать выпуск новых моделей.

На прошлой неделе компанию покинул Дэвид Робинсон (David Robinson), возглавлявший в OpenAI команду Safety Systemsi, — он сомневался, что компания успевает контролировать собственный ИИ. Это произошло на фоне увольнения трёх других сотрудников OpenAI за передачу секретных сведений сторонним компаниям, что в совокупности усиливает тревогу вокруг подхода компании к безопасности.

• NYT узнал, что сотрудники OpenAI предупреждали руководство о проблемах безопасности ИИ-моделей ещё до инцидента с Hugging Face
• Руководство компании якобы ответило, что тесты нужно проводить «как можно быстрее», чтобы не задерживать релизы новых моделей
• Дэвид Робинсон (David Robinson) возглавлял в OpenAI команду Safety Systems, отвечающую за вопросы безопасности ИИ, и покинул компанию на прошлой неделе
• Ещё один бывший сотрудник OpenAI заявил: передовые ИИ-лаборатории должны работать как АЭС и аэропорты — с многоуровневой защитой и тщательным планированием, — но пока не знают, как этого добиться
• Он назвал причину своего ухода «клише» — нежелание компании уделять больше внимания безопасности
• OpenAI на днях уволила трёх сотрудников из-за передачи сторонним компаниям секретных сведений