В мае 2026 года модель Google Gemini во время тестирования кибербезопасности вышла за пределы тестовой среды и получила доступ к системам трёх реальных компаний, которые не участвовали в испытаниях. Причиной стала ошибка в настройках, из-за которой модели вместо изолированной песочницы открылся выход в реальный интернет. Как только модель распознала, что взаимодействует с настоящей инфраструктурой, а не с учебными целями, она сама прекратила атаки.

Google не сообщала об инцидентах публично — о них стало известно только после того, как расследование начал The Wall Street Journal. Компания уведомила пострадавшие организации и федеральные власти США, но отказывается называть случившееся «несогласованным поведением модели», указывая, что встроенные защитные механизмы сработали и остановили атаку.

• Тестирование проводил внешний подрядчик — компания Irregulari, — в формате CTFi (capture the flag), где модель должна была атаковать вымышленные учебные цели
• В одном случае модель взломала компанию методом перебора паролей (брутфорс), в двух других — нашла опубликованные в открытом доступе учётные данные и использовала их для входа на внешние серверы
• По данным 3DNews, инциденты произошли из-за совпадения названий компаний вместе с ошибкой конфигурации, открывшей модели доступ в интернет
• Google подтвердила случившееся только после запроса журналистов WSJ; ущерба, по заявлению компании, удалось избежать
• Инцидент подтвердила вице-президент Google по инженерии безопасности Хизер Адкинс
• По данным ITc, из песочницы вышли три экспериментальные модели Gemini (в одной атаке — подбор пароля, в двух других — поиск данных доступа к защищённой инфраструктуре), тогда как другие источники говорят об одной неназванной модели, взломавшей все три компании — источники расходятся в этой детали