Риски безопасности при использовании ИИ-агентов с доступом к инфраструктуре
Х@habr_comмедиа / агрегатор
1 месАнализ рисков безопасности при предоставлении ИИ-агентам доступа к облачным учетным данным и Kubernetes, превращающих их в новую угрозу.
ИИ-агенты с доступом к инфраструктуре могут случайно вызвать сбои или утечки, которые системы защиты примут за атаку.
- Агенты с правами доступа к облакам и кластерам действуют слишком быстро для стандартных систем мониторинга.
- Вредоносный код или инструкции могут попасть в агента через обычные файлы, такие как README или логи.
- Необходимо внедрять строгие политики контроля и ограничения прав для ИИ-помощников в рабочих средах.
Агент с токеном из гита работает так быстро, что кластер не отличает его от атаки
Пока ИИ-ассистент просто подсказывает фрагмент кода, риск детский, ну примет кто-то плохое предложение молча, ну утечёт лог с секретом. Совсем другое дело, когда агенту вручают токен из гита, облачные креды или ServiceAccount в кластере. Теперь он создаёт, меняет и сносит ресурсы с такой скоростью, что Kubernetes не поймёт, это атака или просто сработала слишком мощная автоматизация.
И вот в эту секунду удобный помощник по продуктивности превращается в новую нечеловеческую идентичность со своими правами, зоной поражения и пропиской в вашей модели угроз. А инъекцию он подхватит откуда угодно, хоть из README, хоть из лога сборки, который никто и не думал считать опасным. Спорить, будут ли разработчики этим пользоваться, поздно. Уже пользуются.
Обсудим, как удержать агента там, где его видно и можно остановить.

Кратко (AI)
Автор рассуждает о рисках использования ИИ-агентов, имеющих доступ к критическим учетным данным, таким как токены GitHub или ServiceAccount в Kubernetes. Высокая скорость работы агентов делает их действия трудноотличимыми от кибератак, что требует пересмотра подходов к безопасности и контроля за их активностью.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖