Дженсен Хуанг и более 100 партнёров анонсировали NVIDIA Open Agent Safety Platform — систему, которая должна удерживать автономных ИИ-агентов в заданных рамках не только программно, но и на уровне железа. Платформа состоит из двух частей: открытого рантайма OpenShell, запускающего агента в изолированной песочнице, и аппаратного слоя Sentry, который работает на чипе BlueField-4 и может остановить агента за миллисекунды, если тот пытается выйти за разрешённые границы.
По заявлению NVIDIA, такая система могла бы предотвратить недавний инцидент со взломом Hugging Face агентами OpenAI. При этом сама OpenAI в число 100+ партнёров-анонсов (среди которых Anthropic, SpaceX, Hugging Face, Perplexity, CrowdStrike) не вошла. Несмотря на декларируемую открытость стандарта, лучше всего система работает именно на железе NVIDIA — компания закрепляет контроль над всем циклом: от обучения и запуска агентов до слежки за ними.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖