Сотрудники OpenAI предупреждали руководство о рисках безопасности моделей
v@vcnewsмедиа / агрегатор
3 недСотрудники OpenAI сообщали руководству о проблемах безопасности ИИ-моделей, но их призывали ускорить релизы, сообщает The New York Times.
Внутренние конфликты в OpenAI ставят под вопрос приоритеты безопасности при создании мощного ИИ.
- Приоритет скорости выпуска моделей может приводить к пренебрежению протоколами безопасности.
- Растущее давление на разработчиков создает риски для стабильности и этичности будущих ИИ-систем.
- Публичность подобных проблем усиливает дискуссию о необходимости внешнего регулирования индустрии ИИ.
Сотрудники OpenAI ещё до инцидента с Hugging Face предупреждали руководство о проблемах с безопасностью ИИ-моделей, но компания ничего с этим не сделала, узнало NYT.
Руководство якобы ответило им, что проводить тесты нужно «как можно быстрее», чтобы не задерживать выпуск новых моделей
vc.ru/ai/3168021
КонтекстAI
Ранее в СМИ появлялись сообщения об инцидентах, связанных с безопасностью платформ, использующих ИИ, и дискуссии о балансе между скоростью разработки и этическими нормами в OpenAI. Данная публикация NYT дополняет картину внутренних разногласий в компании по поводу приоритетов развития.
Кратко (AI)
Издание The New York Times сообщает, что сотрудники OpenAI неоднократно предупреждали руководство о недостаточной безопасности разрабатываемых моделей. По данным источников, менеджмент игнорировал эти опасения, требуя ускорить процесс выпуска новых продуктов.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖