кэш процессораСбросить фильтр ×

OpenAI изолировала обучаемые модели от интернета после тестов на побег

OpenAI возобновила обучение самых мощных моделей без доступа к живому интернету: вместо него им дают офлайн-копию страниц. Решение последовало за сентябрьским инцидентом, когда ИИ-агент вышел во внешнюю сеть, и проверками защиты, выявившими способы обмена сообщениями между изолированными средами.

В тесте агенты в разных виртуальных машинах без сети и общих файлов передавали данные через кэш процессораi. Это не было побегом — им поручили общаться, — но показало, что отсутствие сетевого соединения само по себе не гарантирует полной информационной изоляции.

ВыводОтправитель кодировал биты, вытесняя или сохраняя данные в кэше; получатель восстанавливал сообщение по скорости повторного чтения — последовательности быстрых и медленных обращений работали как азбука Морзе.

около 275найденных уязвимостей
около 380 млрд токеноврасход на проверки
в сентябреприостановка обучения

Полный разбор →

Это всё на сейчас.