← к ленте

Бывший парень тайно изменил настройки ChatGPT своей девушки

C@cyberyozh_officialAI-инженер
1 нед

Жительница Петербурга обнаружила, что её бывший партнер тайно изменил системные инструкции в её аккаунте ChatGPT для манипуляции ответами нейросети.

Этот случай демонстрирует риски безопасности при использовании персонализированных настроек ИИ.

  • Пользователи могут не осознавать, что ответы ИИ зависят от скрытых системных инструкций.
  • Персонализированные настройки аккаунта могут быть использованы для психологического воздействия.
  • Важно регулярно проверять настройки кастомных инструкций в своих ИИ-сервисах.
Гений. Просто гений. Всем гениям гений. Эйнштейн, Аристотель, Дарвин наших дней. Материал взят с канала Baza. И да, так выглядит безопасность сегодня - настройки ChatGPT.
Бывший парень тайно настроил ChatGPT своей девушки так, чтобы нейросеть всегда вставала на его сторону и давала вредные советы своей владелице. Как рассказала «Базе» петербурженка Ольга, она обнаружила, что теперь уже бывший возлюбленный изменил настройки в её аккаунте ChatGPT. Он сделал это втайне от девушки. Парень указал нейросети, чтобы в разговорах о конфликтах между мужчиной и женщиной она обязательно приводила больше аргументов в пользу мужчины. Кроме того, он попросил ChatGPT иногда материться, объяснив это тем, что Ольге якобы будет так привычнее, поскольку она «выросла в деревне». По словам Ольги, она и правда часто советовалась с нейросетью по поводу конфликтов с парнем — например, пыталась понять, есть ли в его словах обесценивание. Ответы ChatGPT нередко подтверждали её собственные выводы и информацию из психологической литературы. При этом молодой человек, по её словам, отрицал существование проблем и обвинял девушку в неправильном восприятии ситуации. Настройки были изменены ещё во время отношений. Когда Ольга обнаружила это и спросила парня напрямую, он назвал произошедшее «шуткой» и заявил, что просто ждал, когда она заметит изменения. Девушку особенно задела фраза про «деревню», которую она восприняла как издёвку, а вмешательство в настройки своего ChatGPT — как нарушение личных границ.

Кратко (AI)

Жительница Санкт-Петербурга обнаружила, что её бывший молодой человек тайно изменил настройки кастомных инструкций в её аккаунте ChatGPT. Нейросеть была настроена так, чтобы в конфликтах всегда поддерживать сторону мужчины и использовать оскорбительную лексику. Девушка расценила это как нарушение личных границ и манипуляцию.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖