OpenAI и Anthropic обсуждали взаимную проверку безопасности моделей
v@vcnewsмедиа / агрегатор
1 месThe Information сообщает, что OpenAI и Anthropic вели переговоры о взаимном тестировании ИИ-моделей на безопасность до инцидента с Hugging Face.
Крупнейшие разработчики ИИ пытаются договориться о стандартах безопасности, чтобы избежать глобальных рисков.
- Компании стремятся к созданию механизмов взаимного контроля для предотвращения критических ошибок в ИИ.
- Сотрудничество конкурентов указывает на осознание общих рисков, связанных с развитием мощных моделей.
- Подобные соглашения могут стать основой для будущих отраслевых стандартов безопасности.
OpenAI и Anthropic обсуждали взаимную проверку своих ИИ-моделей на безопасность ещё до инцидента с Hugging Face, выяснило The Information.
Юристы компании прорабатывали конкретные условия соглашения, но чем закончились переговоры, неизвестно
https://vc.ru/ai/3151974
КонтекстAI
Hugging Face — популярная платформа для обмена моделями машинного обучения. Ранее компания столкнулась с инцидентом безопасности, который привлек внимание к уязвимостям в цепочках поставок ИИ-решений. Сотрудничество между лидерами рынка, такими как OpenAI и Anthropic, в вопросах безопасности является важным шагом для индустрии.
Кратко (AI)
Издание The Information выяснило, что компании OpenAI и Anthropic обсуждали возможность взаимного аудита безопасности своих ИИ-моделей. Переговоры проходили до инцидента с утечкой данных в Hugging Face, однако их итоговый результат остается неизвестным.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖