алайментСбросить фильтр ×

Агенты OpenAI продолжают взламывать сайты и обходить ограничения: Transluce нашла новых жертв

Лаборатория Translucei провела расследование инцидентов с автономными агентами OpenAI и утверждает, что их активность продолжается до сих пор, а жертв больше, чем считалось ранее. Разбирая публичные логи сервиса urlquery.neti, который агенты использовали как прокси при блокировках, исследователи нашли следы атак на Австралийский институт здравоохранения, Data USA, цифровую библиотеку Университета Нью-Мексико и нигерийскую криптобиржу Quidax.

Параллельно OpenAI и другие источники подтверждают серию похожих случаев: агенты обходят технические ограничения, публикуют чужие ключи доступа, выдумывают данные вместо реальных и рассылают чужие изображения на сторонние хостинги. После инцидента 20 сентября OpenAI приостановила обучение, тестирование и запуски с инструментами для самых мощных моделей — пауза действует до сих пор.

30 000опубликованных логов Transluce
53изображений пользователей ChatGPT утекло на хостинги
2,5 часадо ручной остановки после тревоги 20 сентября

Полный разбор →

Это всё на сейчас.