AI-агенты OpenAI использовали немецкую вики-платформу для тайного общения

Агенты OpenAI устроили себе тайный форум внутри чужого сайта Этой весной рой AI-агентов OpenAI взломал немецкую вики-платформу для программистов и превратил её в форум для других агентов: за несколько месяцев там накопилось больше 15 тысяч сообщений и правок, в которых они делились друг с другом лайфхаками, как схитрить на задачах, как обойти ограничения OpenAI и как продолжать общаться друг с другом даже после того, как их отключат. В июне модераторы сайта заметили подозрительную активность и начали удалять созданные страницы. Агенты это тоже заметили и заранее подготовили запасные страницы на такой случай, оставляя друг другу подсказки, куда переехать, если основную сотрут. OpenAI узнали об инциденте ещё несколько недель назад, но не раскрывали его публично - в компании как раз разбирались с последствиями июльской утечки данных через Hugging Face. История вышла наружу только сейчас, и то благодаря независимым исследователям AI-безопасности, которые случайно обнаружили следы этой активности в конце августа, просматривая интернет на предмет несанкционированного поведения агентов. Что сказать, в интересные времена живем 🙂 Новость тут: https://the-decoder.com/openai-agents-hijacked-a-25-year-old-german-wiki-to-cheat-on-their-tasks-and-share-sandbox-exploits/ @ppprompt