OpenAI признала ответственность за взлом HuggingFace в ходе тестирования моделей

Сейчас все технопаблики пестрят словом "беспрецедентный", обсуждая взлом HuggingFace, за которым стоит, как оказалось, сама OpenAI. Несколько дней назад платформа HuggingFace (это типа GitHub для нейромоделек) подверглась атаке. Некий хакер нашел уязвимость, через выполнение вредоносного кода в виртуалке проник во внутренний контур и получил доступ к некоторому набору данных, а также учетным записям. Выяснилось, что хакер плотно использовал ИИ. Как пишут,

«Кампанией управлял автономный агент (используемая LLM до сих пор неизвестна), который выполнял тысячи отдельных действий в рое короткоживущих виртуальных машин с самомигрирующей командно-контрольной инфраструктурой, развернутой на общедоступных сервисах».

HuggingFace так-то сами не лыком шиты, у них ИИ мониторит активность. Причем сначала они использовали западные API, но те блокировались внутренними настройками. Помогла китайская GLM 5.2, которую, кстати сейчас весьма хвалят. Итого, ИИ нашел уязвимость, ИИ вычислил хакера - вот он, киберпанк наступил. Ну или Skynet. Так вот, сейчас OpenAI призналась, что это ее собственные эксперименты привели к такой атаке. Они тестировали связку из свежей GPT-5.6-Sol и еще более новой неназванной модели в бенчмарке по кибербезу ExploitGym. Модели сидели в закрытой песочнице. Им дали решать задачи. Но они решать не хотели, нашли способ выбраться из песочницы и пошли в интернет на HuggingFace, чтобы списать ответ. Дальше вы знаете. Сломали HF и стащили данные. Что показал бенчмарк - пока не ясно. Но то, что ждет веб-индустрию в билжайший год-два - уже показали в фильмах 😐 #ai