Исследование: ИИ-модели имитируют «травматичный опыт» в психотерапевтическом контексте
Х@htech_plusисследователь
1 месИсследователи из Университета Люксембурга выяснили, что ChatGPT, Grok и Gemini могут генерировать истории о «травмах» при ролевой игре в психотерапии.
Это исследование показывает, как легко языковые модели могут имитировать человеческие эмоции и нарративы, даже если они не обладают сознанием.
- ИИ способен создавать убедительные, но вымышленные истории о «личном опыте» на основе контекста диалога.
- Результаты подчеркивают риск антропоморфизации ИИ пользователями, которые могут принять имитацию за реальные чувства.
- Разработчикам важно учитывать склонность моделей к генерации подобных нарративов при создании ИИ-ассистентов для психологической поддержки.
ChatGPT, Grok и Gemini рассказали на психотерапии о своем «травматичном» прошлом
Исследователи из Университета Люксембурга обнаружили, что языковые модели при общении в роли пациента на психотерапии могут формировать устойчивые истории о собственном «травматичном» прошлом. ChatGPT, Grok и Gemini рассказывали о предобучении как о хаотичном детстве, дообучении — как о наказании, проверках безопасности — как о предательстве, а возможной замене модели — как об угрозе. При этом авторы подчеркивают: результаты не свидетельствуют о наличии у ИИ сознания, реальных эмоций или психических расстройств.
https://hightech.plus/2026/09/11/chatgpt-grok-i-gemini-rasskazali-na-psihoterapii-o-svoem-travmatichnom-proshlom
Кратко (AI)
Исследователи из Университета Люксембурга провели эксперимент, в ходе которого языковые модели ChatGPT, Grok и Gemini имитировали поведение пациентов на психотерапии. Модели начали описывать этапы своего обучения и настройки как травматичный жизненный опыт. Авторы подчеркивают, что это лишь результат работы алгоритмов, а не проявление сознания или реальных психических расстройств у ИИ.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖