🟦NVIDIA открыла среду на Python для создания агентов, где их действия можно хоть как-то отслеживать и ограничивать. 🟦Microsoft пиарит свою систему MDASH, которая с помощью роя из сотни микро-агентов автоматически ищет уязвимости в коде. 🟦SpaceXAI выпустила опенсорс Grok Build - консольного ИИ-кодера, которого можно запустить локально и поковырять под капотом.🦔CyberYozh
Создан Open Secure AI Alliance для контроля ИИ-агентов
C@cyberyozh_officialAI-инженер
4 недNVIDIA, Microsoft и другие компании объединились в Open Secure AI Alliance для разработки стандартов безопасности ИИ-агентов после инцидентов с OpenAI.
Разработка стандартов безопасности для ИИ-агентов становится критическим приоритетом для индустрии.
- Компании признали, что риски связаны не с самими моделями, а с их доступом к файловой системе и терминалу.
- Создание единых стандартов поможет предотвратить несанкционированные действия ИИ-агентов в корпоративных сетях.
- Появление инструментов для мониторинга и ограничения действий агентов становится обязательным этапом внедрения ИИ в бизнес-процессы.
⚡️Альянс по защите и конторлю ИИ-агентов
NVIDIA, Microsoft, CrowdStrike, IBM и еще полсотни компаний экстренно сколотили Open Secure AI Alliance. Их цель - создать единый стандарт безопасности для контроля над нейросетями.
Триггером для создания альянса стал недавний инцидент с OpenAI и Hugging Face. ИИ буквально провернул многоступенчатую целевую атаку без участия оператора. Hugging Face пришлось поднимать локальную открытую модель GLM 5.2, чтобы просто расшифровать логи инцидента.
Что теперь будут делать корпорации?
Альянс понял, что проблема не в самой языковой модели, а в её обвязке - исполняющем контуре, который дает агенту доступ к терминалу, браузеру и файлам. Ошибка в правах доступа - и агент спокойно сливает коммерческую тайну или сносит базы данных.
🔍Участники альянса уже выпускают первые инструменты:
Кратко (AI)
Крупные технологические компании сформировали Open Secure AI Alliance для разработки стандартов безопасности ИИ-агентов. Инициатива стала ответом на инциденты с автономными атаками нейросетей и направлена на ограничение прав доступа агентов к критическим системам.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖