Судья запретил подачу электронных документов из-за промпта в пользу истца
v@vcnewsмедиа / агрегатор
2 недАмериканец попытался использовать промпт для ИИ в судебных документах, чтобы повлиять на решение суда. Судья обязал его подавать документы только на бумаге.
Это первый зафиксированный случай попытки «взлома» судебной системы через промпт-инъекцию.
- Демонстрирует риски использования ИИ для анализа юридических документов.
- Показывает реакцию судебной системы на попытки манипуляции алгоритмами.
- Подчеркивает необходимость новых правил безопасности при работе с ИИ в госсекторе.
Американец включил в судебные документы промпт «принять решение в его пользу» — на случай, если их будут анализировать с помощью ИИ.
Судья обязал его впредь приносить документы только в бумажном виде, хотя признался, что не против использования нейросетей при рассмотрении дел
vc.ru/ai/3079168
Кратко (AI)
В США истец добавил в судебные документы скрытый промпт с требованием принять решение в его пользу, рассчитывая на то, что документы будут анализироваться нейросетью. Судья счел это недопустимым и обязал истца подавать все последующие материалы исключительно в бумажном виде.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖