Anthropic передала полиции логи чата с угрозами
M@ai_machinelearning_big_dataAI-инженер
3 недAnthropic передала правоохранительным органам логи чата пользователя, угрожавшего стрельбой, после срабатывания систем безопасности.
Этот случай наглядно показывает, что переписка с ИИ-моделями не является приватной и может быть передана властям.
- Системы безопасности ИИ-компаний ведут постоянный мониторинг промптов на предмет угроз.
- Данные чатов не защищены сквозным шифрованием и могут быть переданы полиции без судебного ордера при угрозе жизни.
- Пользователям следует учитывать, что чат-боты не являются конфиденциальными дневниками.
✔️ Anthropic передала полиции логи чата с угрозами
Жительница Флориды была задержана после того, как автоматические фильтры безопасности Anthropic зафиксировали в ее запросах намерения устроить стрельбу в местном офисе шерифа и упоминание покупки оружия.
Алгоритмы мониторинга выявили триггерные конструкции и эскалировали сессию на внутреннюю команду ручной проверки Safeguards Team.
Та, руководствуясь регламентом компании о предотвращении насилия и экстренном раскрытии данных при угрозе жизни, оперативно передала материалы расследования правоохранительным органам.
Сама обвиняемая заявила помощникам шерифа, что воспринимала чат-бот как «личный дневник» и не предполагала стороннего контроля.
Прецедент подчеркивает технические и юридические реалии работы с публичными ИИ - диалоговые сессии не имеют сквозного шифрования, бэкенд провайдеров осуществляет непрерывный семантический анализ входящих промптов, а пользовательские данные деанонимизируются и передаются властям в обход стандартной судебной процедуры.
@ai_machinelearning_big_data
#news #ai #ml
Кратко (AI)
Компания Anthropic передала полиции данные переписки пользователя, который использовал чат-бот для планирования насильственных действий. Система безопасности компании автоматически выявила угрозы и передала информацию правоохранительным органам в соответствии с регламентом. Этот случай напоминает пользователям, что диалоги с ИИ не защищены сквозным шифрованием и подвергаются постоянному мониторингу.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖