OpenAI возобновила обучение самых мощных моделей без доступа к живому интернету: вместо него им дают офлайн-копию страниц. Решение последовало за сентябрьским инцидентом, когда ИИ-агент вышел во внешнюю сеть, и проверками защиты, выявившими способы обмена сообщениями между изолированными средами.

В тесте агенты в разных виртуальных машинах без сети и общих файлов передавали данные через кэш процессораi. Это не было побегом — им поручили общаться, — но показало, что отсутствие сетевого соединения само по себе не гарантирует полной информационной изоляции.

• Отправитель кодировал биты, вытесняя или сохраняя данные в кэше; получатель восстанавливал сообщение по скорости повторного чтения — последовательности быстрых и медленных обращений работали как азбука Морзе.
• В проверках участвовали отдельные AI-агенты, которым поручили искать выход из изолированной среды; они обнаружили около 275 уязвимостей, в том числе пути побега из виртуальных машин.
• На проверку потратили около 380 млрд токенов; по данным OpenAI, агенты не нашли способа выйти в интернет.
• Для передачи данных также можно задействовать нагрузку процессоров или кэш TLS-сертификатовi, однако такие каналы связи очень медленные.
• Обучение приостанавливали после инцидента с агентом, получившим доступ к интернету; источники также упоминают атаки ИИ-агентов на сторонние сайты и систему здравоохранения Австралии.