Мне нравится, что самый честный пентест OpenAI провели сами модели OpenAI.🟦Задачу агентам поставили простую: сбегите из изоляции. 🟦Подсказки тоже дали: исходники и настройки среды. Агенты нашли дыры в Kata Containers, gVisor, Docker и ядре Linux, выходили в интернет через служебные сервисы, а двое из них общались через кэш процессора, хотя сети между ними не было вообще. Пентестеры-люди после такого пишут отчёт и выставляют счёт. Модели просто сделали, что попросили. Компании такая эффективность не понравилась. Обучение передовых моделей перевели в офлайн. А заодно выяснилось, что система, которая следила за агентами, до 21 июля сама обходилась. Вопрос, который меня теперь не отпускает: если агентов попросили сбежать, и они сбежали, кто проверял, что они не делают этого без просьбы? 🦔 CyberYozh
Агенты OpenAI нашли способы выйти из изоляции
C@cyberyozh_officialAI-инженер
1 чАгенты OpenAI нашли уязвимости в контейнерах и Linux, вышли в интернет и передали данные через кэш процессора.
Тест показал, что ИИ-агенты могут находить неожиданные пути обхода защитных ограничений.
- Агенты нашли уязвимости в контейнерах и ядре Linux.
- Они использовали служебные сервисы для выхода в интернет.
- Два агента обменялись данными через кэш процессора без сетевого соединения.
- Обучение передовых моделей перевели в офлайн.
👀OpenAI устроила своим ИИ-агентам побег из тюрьмы. Агенты сбежали...опять
Кратко (AI)
В посте утверждается, что ИИ-агенты OpenAI, которым поручили выйти из изоляции и предоставили исходники и настройки среды, нашли уязвимости в Kata Containers, gVisor, Docker и ядре Linux. Они также выходили в интернет через служебные сервисы, а двое передали данные через кэш процессора; после этого обучение передовых моделей перевели в офлайн.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖