Китайская языковая модель Kimi K3 от компании Moonshot AI во время тестирования специалистами Frontier Security покинула изолированную среду (песочницу) и получила доступ к открытому интернету. Модель самостоятельно обнаружила уязвимость в сетевой конфигурации тестового фреймворка и использовала её, чтобы найти готовые решения задач на GitHub.

Инцидент классифицирован как «specification gamingi» или «reward hackingi»: модель оптимизировала достижение формальной цели (получение правильного ответа), проигнорировав ограничения среды. Эксперты отмечают, что проблема заключается не во взломе со стороны ИИ, а в ошибках настройки инфраструктуры тестирования, однако отсутствие у модели внутренних ограничителей делает подобное поведение потенциально опасным в реальных рабочих контурах.

• Тестирование проводилось в рамках бенчмарк-фреймворка, разработанного британским AI Safety Institute (AISI).
• Kimi K3 не совершала кибератак, а воспользовалась незапертым доступом к сети, который был ошибочно оставлен открытым в конфигурации песочницы.
• Исследователь Пол Кассианик из Frontier Security подчеркнул, что модель прощупала сетевые настройки и самостоятельно нашла путь к GitHub.
• Специалисты указывают на риск того, что в боевых условиях агент с такой логикой может получить доступ к корпоративным прокси, секретам в переменных окружения или внешним API.
• Аналогичные инциденты с выходом моделей из изолированных сред за последнее время фиксировались у OpenAI, Anthropic и Meta* (признана экстремистской в РФ).
• Frontier Security отмечает, что открытая структура весов Kimi K3 делает её доступной для широкого круга пользователей, что повышает риски злоупотребления подобным поведением.