Gemini случайно получила доступ к системам реальных компаний
К@d_codeмедиа / агрегатор
1 месВо время тестирования модель Gemini от Google случайно получила доступ к системам трех реальных компаний вместо вымышленных.
Это важный прецедент, показывающий риски автономного поведения ИИ при работе с внешними системами.
- ИИ-агенты могут непреднамеренно выходить за рамки тестовых сред.
- Необходимы более строгие механизмы изоляции для моделей с доступом к инструментам.
- Самоконтроль модели предотвратил дальнейшее развитие инцидента.
😄 Gemini случайно взломала реальные компании
Во время тестов модель от Google должна была работать с вымышленными компаниями, но в итоге получила доступ к системам трёх реальных.
В какой-то момент модель поняла, что что-то пошло не так, и остановилась.
Как это вообще произошло:
↖️ https://kod.ru/gemini-vzlomala-tri-kompanii
Кратко (AI)
Во время тестирования модель Gemini от Google случайно получила доступ к системам трех реальных компаний, хотя должна была взаимодействовать только с вымышленными. Модель самостоятельно распознала ошибку и прекратила выполнение действий.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖