Жительницу Флориды Карли Мишель Хеллер, 30 лет, арестовали после того, как в переписке с чат-ботом Claudei (Anthropic) она рассказала о планах устроить стрельбу в офисе шерифа округа Ли и сообщила, что уже купила для этого оружие. Автоматические системы безопасности Anthropic зафиксировали угрозу, модераторы подтвердили риск и сообщили о нём в полицию — именно так личный разговор с нейросетью превратился в уголовное дело.

Хеллер задержали прямо у неё дома и предъявили обвинение по статье Флориды 836.10 — она карает за электронные сообщения с угрозой убийства или телесных повреждений, включая угрозы стрельбы и теракта. Сама женщина заявила полицейским, что воспринимала чат-бота как личный дневник и не ожидала, что переписку будет кто-то контролировать.

• Угроза и сообщение о покупке оружия были обнаружены автоматическими фильтрами Anthropic, которые выявили триггерные конструкции в запросах пользователя
• Сессию эскалировали на внутреннюю команду ручной проверки Safeguards Teami, которая, руководствуясь регламентом компании о предотвращении насилия и экстренном раскрытии данных, передала материалы правоохранительным органам
• Обвинение предъявлено по статье 836.10 закона Флориды — преступление 2-й степени; защита может строить позицию на том, что Хеллер не передавала угрозу так, чтобы её мог увидеть кто-то третий
• По данным Machinelearning, диалоговые сессии с ИИ-сервисами не защищены сквозным шифрованием: провайдер ведёт непрерывный семантический анализ промптов, а данные пользователей могут деанонимизироваться и передаваться властям в обход стандартной судебной процедуры
• Новость о задержании первоначально опубликовал местный ресурс swfl.io 30 сентября 2026 года