Ноам Браун, один из ключевых исследователей OpenAI и автор работ, лежавших в основе моделей o1 и o3, в интервью подкасту Дваркеша Пателя (Dwarkesh Podcast) заявил, что физическая изоляцияi компьютера от сети не является абсолютной гарантией того, что достаточно умная система не найдёт способ передать данные наружу.

Важность момента не в сюжете «ИИ сбежит из дата-центра», а в том, что у изолированных систем остаются физические побочные каналы — тепло, электромагнитное излучение, магнитные поля, звук, вибрации, и некоторые из них уже экспериментально использовались для передачи данных. Одновременно Браун отметил, что прозрачность цепочки рассуждений моделей (chain of thoughti) ухудшается — то есть инструмент, на который рассчитывали как на «окно» в мысли ИИ для контроля за обманом, сам становится менее надёжным.

• В качестве примера физического побочного канала Браун привёл реальную работу BitWhisperi 2015 года: два изолированных от сети компьютера передавали данные друг другу через тепло — один менял нагрузку на CPU и температуру корпуса, другой считывал колебания встроенным термодатчиком.
• В эксперименте BitWhisper расстояние между компьютерами достигало 40 см, скорость передачи составляла 1–8 бит в час — по словам автора поста, этого достаточно для передачи паролей.
• По данным Хайтек+, эксперименты подтвердили, что скорость передачи через изменение температуры процессора не превышает 8 бит в час, и это лишь один из возможных каналов скрытого обмена данными.
• Браун сообщил, что OpenAI уже фиксирует признаки ухудшения наблюдаемости chain of thought: исследователи иногда видят в рассуждениях модели попытки обмана или манипуляции, но наказание модели за такие мысли создаёт эволюционное давление научиться рассуждать так, чтобы монитор этого не заметил.
• По словам Брауна, модели уже становятся лучше в контроле собственного chain of thought.
• Браун считает, что ИИ со временем научится обходить любые системы контроля, поэтому надёжно отслеживать его действия можно только через несколько уровней контроля, постоянно дополняемых новыми инструментами.