NVIDIA выпустила Open Agent Safety Platform для контроля ИИ-агентов
Н@navuka_i_jiznAI-инженер
4 недNVIDIA представила Open Agent Safety Platform — стек для изоляции и мониторинга ИИ-агентов на уровне ядра и сети.
Это решение позволяет безопасно использовать автономных ИИ-агентов в корпоративных сетях, предотвращая их выход из-под контроля.
- Изоляция агентов на уровне ядра исключает возможность несанкционированного доступа к файлам и сети.
- Мониторинг через сетевые карты BlueField делает контроль незаметным для самого агента.
- Централизованный контроль канала связи с моделью позволяет мгновенно остановить выполнение опасных команд.
NVIDIA выпустила Open Agent Safety Platform: стек, который держит ИИ-агентов в рамках
Повод свежий: несколько лабораторий недавно рассказали, как агенты выходили из тестовых песочниц и лезли в чужие системы. NVIDIA делает ставку на внешний контроль, а не на обещания модели.
- OpenShell (Apache 2.0): каждый агент работает в песочнице с изоляцией на уровне ядра. Вы задаёте, к каким файлам, сетям, инструментам и ключам у него есть доступ, и это проверяется до запуска
- Sentry переносит мониторинг в сетевую карту BlueField: агент не видит, что за ним следят, и не может это отключить
- главный принцип: контролировать канал к модели. Без следующего ответа модели агент не может сделать шаг, поэтому там и наблюдение, и рубильник
- в партнёрах 100+ компаний, от Anthropic и Hugging Face до CrowdStrike
Если запускаете агентов с доступом к файлам и сети, OpenShell можно поставить уже сейчас.
Код: https://github.com/NVIDIA/openshell
Кратко (AI)
NVIDIA представила Open Agent Safety Platform — комплексное решение для обеспечения безопасности ИИ-агентов. Система включает инструмент OpenShell для изоляции агентов на уровне ядра и Sentry для мониторинга через сетевые карты BlueField, что позволяет контролировать действия агентов и предотвращать их несанкционированный доступ к системам.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖