Исследование: ChatGPT сохраняет личные сведения без просьбы пользователей
G@aiofthedayAI-инженер
5 днИсследователи изучили 2000 записей в памяти ChatGPT о 80 пользователях: в 96% случаев сведения сохранялись без просьбы.
Чат-бот может сохранять личные сведения и делать выводы о пользователе без его прямой просьбы.
- В 96% случаев записи появлялись без просьбы пользователя запомнить информацию.
- Около половины записей касались желаний, планов, эмоций и убеждений.
- В 7% записей содержались особо чувствительные данные, например о здоровье.
- Иногда модель превращала запрос в рекомендацию в утверждение о личных предпочтениях.
ChatGPT составляет психологический профиль каждого пользователя
Исследователи изучили переписки 80 пользователей и нашли 2000 записей о них в памяти ChatGPT. В 96% случаев бот сохранял информацию без просьбы «запомни это». Выбор того, что запомнить, чаще делала сама модель.
В половине записей были сведения о желаниях, планах, эмоциях и убеждениях пользователей. В 7% — особо чувствительные данные, например о здоровье.
Большинство записей опирались на слова пользователей, но иногда бот додумывал. Например, просьбу посоветовать группы, похожие на Nirvana, превращал в утверждение «пользователю нравится Nirvana» — хотя человек этого не говорил.
Сама работа была опубликована ещё в феврале 2026, но популярность в X она получила только сейчас.
https://arxiv.org/abs/2602.01450
Кратко (AI)
Исследователи проанализировали 2000 записей памяти ChatGPT, связанных с 80 пользователями. В большинстве случаев бот сохранял сведения без прямой просьбы, а некоторые выводы о пользователях делал самостоятельно; часть записей содержала чувствительную информацию.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖