До перехода в стартап Сэма Альтмана Бакалар шесть лет занимала аналогичную должность у Марка Цукерберга.Представители OpenAI подтвердили информацию об увольнении, отметив, что отныне этическими аспектами занимаются команды разработки моделей. Её уход продолжил серию увольнений среди специалистов, отвечающих за контроль над ИИ в компании. Практически одновременно с Бакалар об уходе объявил руководитель систем безопасности Йоханнес Хайдеке, а ранее в июле OpenAI покинул глава отдела элайнмента Джошуа Ачиам. @ai_machinelearning_big_data #news #ai #ml
OpenAI осталась без штатного специалиста по этике
M@ai_machinelearning_big_dataAI-инженер
2 недХлоя Бакалар покинула пост специалиста по этике в OpenAI. Теперь этические вопросы будут курировать команды разработки моделей.
OpenAI меняет подход к контролю за безопасностью ИИ, передавая этические вопросы напрямую разработчикам.
- Уход профильных специалистов по этике может снизить независимый контроль над разработкой моделей.
- Передача этических функций инженерным командам меняет структуру управления рисками в компании.
- Массовый отток кадров из отделов безопасности сигнализирует о внутренних изменениях в приоритетах OpenAI.
✔️ OpenAI осталась без штатного специалиста по этике
Хлоя Бакалар, возглавлявшая профильное направление в OpenAI, покинула компанию в июле, проработав на своей должности меньше года.
Об ее уходе не сообщалось публично, пока на ситуацию не обратило внимание издание Financial Times.
Бакалар была единственным штатным специалистом по этике в компании, и сейчас эта позиция пустует.
В OpenAI она отвечала за этичное развитие моделей, принципы взаимодействия человека и ИИ, а также исследовала проблемы, связанные с концепцией машинного сознания.
КонтекстAI
В течение 2024 года OpenAI покинул ряд ключевых сотрудников, отвечавших за безопасность и этику ИИ, включая сооснователя Илью Суцкевера и руководителя команды Superalignment Яна Лейке. Уход специалистов по этике и безопасности вызывает опасения у экспертного сообщества относительно приоритетов компании в области контроля за развитием мощных моделей.
Кратко (AI)
Компания OpenAI лишилась последнего штатного специалиста по этике после ухода Хлои Бакалар. Теперь ответственность за этические аспекты разработки моделей переложена на инженерные команды, что происходит на фоне массового ухода ключевых сотрудников, отвечавших за безопасность и элайнмент ИИ.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖