Уязвимости и атаки усиливают роль кодинг-агентов в инфобезе
D@denissexyAI-инженер
5 днВ посте собраны уязвимости PHP и GitLab, заражённое обновление LiteLLM и утечка Railway; автор обсуждает применение и риски кодинг-агентов.
Инструменты ИИ могут ускорять не только защиту, но и атаки, поэтому компаниям нужно пересматривать и автоматизацию, и контроль доступа.
- В посте описаны критические уязвимости PHP и GitLab, позволяющие выполнять код без авторизации при определённых условиях.
- Обновление LiteLLM, по сообщению автора, содержало программу для кражи секретов и запуска чужого кода.
- Автор предлагает использовать агентов для проверок и подготовки исправлений, но оставлять тестирование и контроль изменений человеку.
- Доступы агентов важно ограничивать: в описанной цепочке атаки секреты могли попасть в ответы и логи.
Я уверен – вчера адаптация кодинг агентов началась сегодня как must have, а не nice to have в работе:
Суммарно что случилось вчера по инфобезу:
🔬 PHP выпустил исправления двух критических уязвимостей, через которые можно выполнять код на сервере без авторизации, причём в некоторых конфигурациях атака срабатывает ещё до запуска кода самого сайта (thephp.foundation)
🔬 GitLab закрыл дыру с оценкой 10 из 10, которая при определённых условиях тоже позволяет выполнять код без авторизации; владельцев собственных установок попросили срочно обновиться (docs.gitlab.com)
🔬 LiteLLM, такой прокси для ЛЛМ, выпустил заражённое обновление: в официальные пакеты попала программа, которая ворует секреты и позволяет запускать чужой код (docs.litellm.ai)
🔬 Railway сообщил о возможной утечке секретов клиентов, включая API-ключи и пароли баз данных, и рекомендовал всем пользователям заменить сохранённые на платформе ключи и другие секреты. Это сервис для удобной выкатки в прод (blog.railway.com)
🔬 CrowdStrike опубликовал разбор реальных атак с кодинг-агентами: у одного из операторов подтверждены взломы как минимум 15 медицинских организаций в Аргентине, при этом один агент Claude Code выбирал следующую задачу, а второй её выполнял. Сами атаки происходили раньше, вчера вышло расследование (crowdstrike.com)
Для меня самое интересное здесь – история с PHP: ошибки жили в коде больше десяти лет, а АИ (еще и не последней модели) помог исследователям собрать из них работающие атаки и адаптировать их под разные приложения – старый, обкатанный код внезапно приходится оценивать заново, потому что то, что раньше было слишком сложно и дорого взломать, становится практически доступным (wiz.io)
Я не думаю, что ИТ-команды смогут долго выдерживать этот темп, если проверка кода, разбор зависимостей и подготовка исправлений останутся полностью ручной работой. Агенты должны стать обычной частью этого процесса, с тестами и проверкой изменений человеком
Причём доступы самим агентам тоже придётся ограничивать: по предварительной версии LiteLLM, в цепочке их взлома были GitHub-токены, которые Claude Code включил в ответы, а те попали в логи. Получается довольно неприятная работа – одновременно внедрять инструмент и учиться защищаться от ошибок при его использовании (docs.litellm.ai)
Короче, 🍿, моя ставка все такая же – лето 2027 первая глобальная интернет катастрофа
Кратко (AI)
Автор перечисляет недавние события в инфобезе: критические уязвимости PHP и GitLab, заражённое обновление LiteLLM и возможную утечку секретов Railway. Он считает, что ИИ-агенты ускоряют поиск и эксплуатацию уязвимостей, поэтому предлагает внедрять их в защитные процессы, но ограничивать их доступы и проверять изменения человеком.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖