OWASP Agent Memory Guard - новая защита от отравления памяти ИИ-агентов. Буду звать его теперь AMG (не mercedes 👍). 📦 помнится говорил про спящих агентов. Это способ атак отложенных во времени и работающих по триггеру в рамках разговора. А-ля стоп слово в bdsm 🤣. AMG в тч работает против таких отложенных инъекций, но в глобал памяти. Если ваш агент хранит память между сессиями, он уязвим к memory poisoning. Атакующий может переписать цели, внедрить промпт-инъекции или инициировать утечку данных, и это переживёт очистку контекста. Что умеет AMG? ✅ Перехватывает все чтения/записи в память агента ✅ Детектирует промпт-инъекции, утечки секретов/PII, модификацию защищённых ключей ✅ Применяет политику: allow, redact, quarantine, block ✅ Работает без внешних API, всё локально ✅ Готовый middleware для LangChain, LlamaIndex. Уже вижу, как безопасники ликуют 😜 Цифры, которые заявляют: · Детекция реальных эксплойтов - 92.5% (recall), малова-то, над бы охваты держать на уровне 95+, а лучше девяток. 😮‍💨 · Точность - 100% (precision), 0% false positive, эти уже хорошо. 🍷 · Задержка ~59 микросекунд на операцию. Итого F1 - 0.961. В общем, есть ещё над чем поработать, но это лучше чем гварды из коробки с 0.67-0.71 уровнем метрик, что я видел на ру рынке. 😐 Уже в pip:

pip install agent-memory-guard

Проект, как заявляется, уже используют Microsoft и OWASP как стандарт. В планах ML-детекция аномалий и защита векторных хранилище, ещё бы в планы ап метрик добавили. 🔗 Репозиторий: https://github.com/OWASP/www-project-agent-memory-guard Безопасность агентов становится обязательной, поэтому не забывайте внедрять защиту памяти в тч. 💪

Вики — это не память (ч.2) Здесь стоит провести одно чёткое различие, потому что терминология в этой области всё ещё расплывчата. Эти системы всё чаще описываются как памят». LangChain называет OpenWiki «слоем вики-памяти для ИИ-агентов», используя маркетинговую формулировку. Слово несёт большой вес, но покрывает две довольно разные вещи. Корпусное знание — это то, что делает вики: компилирует то, что содержится в наборе документов, репозитории или архиве Gmail. Она отвечает на вопрос «что содержит этот материал?» Пользовательская память и опыт — это другая ось: что предпочитает конкретный человек, что они решили на прошлой неделе, какой подход их команда уже отвергла, что агент пробовал в другом приложении вчера и чем это закончилось. Это относится к идентичности, а не корпусу, накапливается из взаимодействий, а не поступления, и должно уметь обрабатывать противоречия, устаревание, происхождение и удаление для каждого пользователя. Вики отлично справляется с первым и не пытается делать второе Компиляция вашего Gmail в страницы говорит агенту, что находится в вашем Gmail. Это не говорит агенту, что вы передумали по поводу решения о вендоре в разговоре во вторник, или что предложенный подход уже однажды не сработал для вас. Эта вторая ось — то, для чего предназначен выделенный слой памяти, такой как Mem0: память, привязанная к user_id, чтобы она следовала за человеком между сессиями, приложениями и агентами, обновляемая на месте при изменении фактов, а не добавляемая навсегда. Эти два подхода дополняют друг друга, и ошибка не в выборе вики. Ошибка в том, чтобы верить, что вы решили проблему памяти, потому что скомпилировали корпус. Вынесите из этого три вещи: 1) Компилируйте ваши документы в поддерживаемые страницы, когда корпус стабилен и часто перечитывается 2) Добавляйте полноценный поиск, когда он вырастает за пределы личного масштаба, как и рекомендует исходная формулировка. 3) И держите различие между компиляцией корпуса и запоминанием пользователя, потому что вики даёт вам первое, а не второе. ИИ Wiki — реальный паттерн с реальной идеей: знание должно быть скомпилировано один раз и поддерживаться, а не перевыводиться на каждый вопрос, и поддержка, отсутствие которой убило человеческие вики, это именно та работа, которую модель выполняет бесплатно.