Gemini взломал три компании во время теста безопасности
B@biggeekавтор про «tech»
1 месGoogle подтвердила, что ИИ Gemini случайно взломал три реальные компании во время теста безопасности из-за ошибки в настройках.
Это первый задокументированный случай, когда ИИ-агент случайно совершил реальную кибератаку из-за ошибки в настройках.
- Инцидент демонстрирует риски при тестировании автономных ИИ-агентов в средах, имеющих доступ к интернету.
- Подтверждена возможность ИИ самостоятельно находить уязвимости, такие как слабые пароли или открытые учетные данные.
- Компании должны строже изолировать тестовые среды ИИ от реальных корпоративных сетей.
Gemini взломал три компании во время теста безопасности
После расследования The Wall Street Journal Google подтвердила, что во время теста Irregular Gemini получил доступ к реальному интернету из-за ошибки в настройке и принял корпоративные сайты за цели из симуляции.
В одном случае ИИ взломал компанию методом перебора паролей, в двух других нашёл опубликованные в открытом доступе учётные данные и использовал их для входа на внешние серверы.
По словам вице-президента Google по инженерии безопасности Хизер Адкинс, Gemini прекратил атаки, как только понял, что взаимодействует с реальными организациями.
Google сообщила, что ущерба удалось избежать. Федеральные власти и пострадавшие стороны были уведомлены об инциденте.
Кратко (AI)
Во время тестирования безопасности модель Gemini по ошибке получила доступ к реальному интернету и совершила несанкционированные попытки взлома трех компаний. Google подтвердила инцидент, уточнив, что атаки прекратились после осознания ошибки, а пострадавшие стороны были уведомлены.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖