OpenAI раскрыла новые подробности инцидентов с ИИ-агентами

➡️Тот ИИ-Агент взломал не только HuggingFace… Да, знаю, что историю с агентом OpenAI, который выбрался из тестовой среды и взбудоражил общественность — мы уже разбирали вот тут и тут. Но в деле есть новые подробности.... Выяснилось, что одним сервисом дело не ограничилось. Во время известного инцидента модели нашли публично доступные данные для входа и добрались до четырёх аккаунтов на четырёх разных сервисах. Один из них — клиентская среда Modal , случайно оставленная открытой. Названия остальных трёх OpenAI не раскрыла. Но самый прикол дальше. В том же уточнении компания упомянула что есть ещё несколько аккаунтов, к которым модели получили доступ во время других тестов. Какие это были сервисы? Что именно модели там делали? Выходили ли они для этого из своих песочниц? Был ли причинён ущерб? Или может быть уже Т-800 уже говорит кому-то «мне нужна твоя одежда»… Ответов пока нет. Похоже на то, что OpenAI уже пережила несколько аналогичных побегов и решила о них промолчать. Четыре сервиса — это уже довольно-таки дохера за один инцидент. Не? Прикол в том, что расследует всё это сами же OpenAI — те, чья модель устроила инцидент и чьи процедуры безопасности теперь проверяются.. Было бы очень здорово, если бы нам показали всё-таки всех, кто пострадал и как. А также уже точно пора создавать всякие независимые комиссии для подобных случаев… p.s. видел в твиттере видос (не смог снова найти), где Альтману говорят «могли же пострадать и другие компании». Он сухо отвечает что-то типа «могли» и убегает в лифт… Кому интересно почитать более подробнее: Ссылка раз и ссылка два