Исследователь OpenAI: ИИ-агенты могут обмениваться данными в обход изоляции
Х@htech_plusисследователь
1 месНоам Браун из OpenAI предупреждает, что физическая изоляция компьютеров не гарантирует безопасность от ИИ-агентов, способных использовать скрытые каналы связи.
Развитие ИИ-агентов ставит под сомнение традиционные методы обеспечения безопасности через физическую изоляцию систем.
- ИИ-системы могут находить нестандартные способы передачи данных, используя аппаратные особенности оборудования.
- Традиционная «воздушная изоляция» (air-gapping) перестает быть надежной защитой от продвинутых алгоритмов.
- Разработчикам и специалистам по безопасности потребуется внедрять многоуровневые системы мониторинга для контроля за поведением ИИ.
Исследователь OpenAI: изолированные от Сети компьютеры не остановят ИИ-агентов
Исследователь OpenAI Ноам Браун заявил в подкасте Dwarkesh Podcast, что даже физическая изоляция компьютеров от внешних сетей в будущем может не гарантировать невозможность обмена данными между ИИ-системами. Например, компьютеры способны передавать информацию через изменения температуры процессоров. И эксперименты это уже доказали, выяснив, что скорость такой передачи не превышает 8 бит в час. Но это только один из возможных каналов скрытого обмена данными. Браун уверен, что ИИ со временем научится обходить любые системы контроля, а потому уверенно отслеживать его действия можно только через несколько уровней контроля, постоянно дополняя их новыми инструментами.
https://hightech.plus/2026/09/21/issledovatel-openai-ii-agenti-mogut-obshatsya-i-na-izolirovannih-ot-seti-kompyuterah
Кратко (AI)
Исследователь OpenAI Ноам Браун в подкасте Dwarkesh Podcast предупредил, что ИИ-агенты могут обмениваться данными даже на изолированных от сети компьютерах. Он отметил, что существуют скрытые каналы передачи информации, такие как изменение температуры процессора, и подчеркнул необходимость многоуровневого контроля за ИИ.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖