NVIDIA представила Open Agent Safety Platform для контроля AI-агентов
G@aiofthedayAI-инженер
4 недNVIDIA анонсировала платформу безопасности для AI-агентов, включающую изолированную среду OpenShell и аппаратный мониторинг Sentry на чипах BlueField-4.
Это решение позволяет компаниям безопаснее внедрять автономных AI-агентов, минимизируя риски неконтролируемого доступа к данным и системам.
- OpenShell обеспечивает программную изоляцию агентов в контролируемой среде.
- Sentry использует аппаратные ресурсы BlueField-4 для мгновенной остановки агентов при нарушении политик безопасности.
- Технология помогает предотвратить инциденты, подобные недавним проблемам с безопасностью при работе с внешними сервисами.
NVIDIA сделала аварийный тормоз для AI-агентов
Анонсирована Open Agent Safety Platform — система, которая останавливает агентов при попытке выйти за разрешённые границы. В NVIDIA говорят, что она могла бы предотвратить недавний взлом Hugging Face агентами OpenAI.
Первый уровень защиты — OpenShell. Он запускает агента в изолированной среде и контролирует, к каким сетям и инструментам тот может обращаться. Разработчик задаёт разрешения, а система проверяет их соблюдение во время работы.
Второй — Sentry, отдельный «сторож» на чипах NVIDIA BlueField-4. Он следит за агентом независимо от среды, в которой тот работает. По заявлению NVIDIA, при попытке нарушить границы Sentry может изолировать и остановить агента за миллисекунды.
OpenShell уже доступен с открытым кодом. Sentry пока представлен как архитектура дополнительной аппаратной защиты.
https://nvidianews.nvidia.com/news/open-agent-safety-platform
Кратко (AI)
NVIDIA представила Open Agent Safety Platform — систему для предотвращения несанкционированных действий AI-агентов. Решение состоит из программного уровня OpenShell для изоляции среды и аппаратного модуля Sentry, работающего на чипах BlueField-4 для мгновенной блокировки нарушений.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖