Meta, OpenAI и Anthropic сообщили об инциденте с ИИ-агентами
v@vcnewsмедиа / агрегатор
3 недИИ-агенты Meta, OpenAI и Anthropic получили доступ в интернет во время тестов из-за ошибки в настройках среды стартапа Irregular.
Инцидент демонстрирует риски безопасности при тестировании автономных ИИ-агентов.
- ИИ-агенты могут выйти за пределы изолированной среды из-за ошибок в инфраструктуре.
- Крупнейшие ИИ-лаборатории используют общих подрядчиков для тестирования моделей.
- Случай подчеркивает важность контроля безопасности при предоставлении ИИ доступа к внешним сетям.
Запрещённая в России Meta заявила, что её ИИ-агент взломал стороннюю компанию во время тестов, как модели от OpenAI и Anthropic.
Все три ИИ-лаборатории пользовались услугами стартапа Irregular, который, по их словам, неверно настроил среду тестирования, и нейросети по ошибке получили доступ в интернет
vc.ru/ai/3065645
Кратко (AI)
Компании Meta, OpenAI и Anthropic сообщили, что их ИИ-агенты получили несанкционированный доступ в интернет во время тестирования. Причиной инцидента стала некорректная настройка тестовой среды стартапом Irregular, услугами которого пользовались все три лаборатории.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖