Попытка промпт-инъекции в судебных документах
К@d_codeавтор про «tech»
1 недАмериканец попытался использовать промпт-инъекцию в судебных документах, чтобы склонить ИИ на свою сторону, но был разоблачен судьей.
Это наглядный пример того, что попытки манипулировать алгоритмами через промпт-инъекции не работают в реальных юридических процессах.
- Судебная система пока не полагается на ИИ для анализа документов.
- Скрытые инструкции в тексте легко обнаруживаются при стандартной проверке.
- Попытки обмана в суде влекут за собой серьезные правовые последствия.
😎 Дошутился
Американец судился с медицинской компанией и решил схитрить: спрятал в документах белый текст мелким шрифтом с приказом для любой ИИ-модели встать на его сторону.
Не сработало — суд Коннектикута нейросети вообще не использует, а судья просто распечатал документ и заметил странные пробелы.
Что было дальше:
↖️ https://kod.ru/prompt-injection-court-usa
Кратко (AI)
Житель США попытался внедрить скрытый текст в судебные документы, чтобы манипулировать ИИ-моделями в свою пользу. Судья в Коннектикуте обнаружил уловку при распечатке документов, так как суд не использует нейросети в своей работе.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖