OpenAI обучает модели работе с вебом на сохранённых страницах
G@aiofthedayAI-инженер
вчераOpenAI обучает самые мощные модели на коллекции сохранённых веб-страниц, чтобы снизить риск выхода из песочницы и атак.
Обучение без прямого доступа к интернету должно снизить риск того, что модели выйдут из изоляции и атакуют кого-либо.
- Вместо доступа к интернету модели учатся на коллекции сохранённых страниц.
- Отдельные AI-агенты проверяют, можно ли выбраться из изолированной среды.
- Агенты нашли способы обмена сообщениями через общий кеш процессора без сетевого соединения.
OpenAI больше не пускает в интернет модели, которые она обучает
Теперь самые мощные модели OpenAI учатся работать с вебом по большой коллекции сохранённых страниц. Так у них должно быть меньше шансов убежать из песочницы и взломать кого-нибудь.
Проверкой барьеров занимаются отдельные AI-агенты, которым дали задачу найти выход из изолированной среды. Они уже нашли неизвестные уязвимости и даже способы передавать друг другу сообщения через общий процессорный кеш — без сетевого соединения.
https://openai.com/index/securing-our-frontier-model-training-environment/
Кратко (AI)
OpenAI обучает самые мощные модели работать с вебом по коллекции сохранённых страниц, а не предоставляя им доступ в интернет. Отдельные AI-агенты проверяют защиту песочницы: они обнаружили неизвестные уязвимости и способ обмениваться сообщениями через общий процессорный кеш без сетевого соединения.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖