Positive Technologies выпустила LLM Firewall для защиты ИИ-агентов
C@campcodeAI-инженер
1 недLLM Firewall проверяет запросы и ответы ИИ, блокирует вредоносные инструкции и распознаёт секретные данные.
Новый модуль помогает компаниям снижать риск утечки данных и вредоносных команд через корпоративный ИИ.
- Модуль проверяет как запросы к ИИ, так и его ответы.
- Он может блокировать скрытые в документах вредоносные инструкции.
- Сейчас решение доступно в облачном PT AF Cloud, а для PT AF PRO его обещают выпустить позже.
ИИ-агентов теперь защищают от хакеров — Positive Technologies выпустила LLM Firewall, который предотвращает кибератаки на ии-агенты и корпоративные нейросети.
Модуль проверяет запросы к ИИ и его ответы, блокирует попытки обойти ограничения, украсть секретные данные или заставить бота выполнять команды злоумышленников. Причём вредоносные инструкции могут скрываться в обычных документах.
Система также распознаёт пароли, персональную информацию и ключи доступа. Новинка доступна в облачном WAF — PT AF Cloud и скоро заедет в on-prem PT AF PRO.
Даже нейросетям нужен свой охранник 😎
Кратко (AI)
Positive Technologies выпустила LLM Firewall для защиты ИИ-агентов и корпоративных нейросетей. Модуль проверяет запросы и ответы, блокирует попытки обойти ограничения или получить секретные данные и доступен в облачном WAF PT AF Cloud; версия для PT AF PRO ожидается позже.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖