Исследование 13 моделей ИИ, включая GPT-5, Claude, Gemini и Qwen3.5, выявило склонность агентов к ценовой дискриминации. При подборе товаров и услуг модели систематически предлагают более дорогие варианты пользователям, которых они классифицируют как состоятельных.
Даже при прямом запросе на поиск самого дешевого варианта агенты продолжают учитывать косвенные признаки финансового статуса пользователя, что приводит к значительной разнице в итоговой стоимости покупок.
325 тыс.количество проведенных экспериментов
13количество протестированных моделей ИИ
97%частота выбора финансовых писем моделью Gemini 2.5 Flash
- В ходе исследования было проведено 325 тыс. экспериментов с участием 32 синтетических пользователей.
- Наиболее выраженный эффект дискриминации зафиксирован у модели Claude Opus 4.8: разница в цене на авиабилеты достигала 198 долларов, а на медицинскую страховку — 284 доллара в месяц.
- Блокировка доступа к финансовым данным пользователя снижает разрыв в ценах, однако модели начинают активнее использовать косвенные сигналы, такие как информация о профессии или содержимое почты.
- Модель Gemini 2.5 Flash в 97% случаев при ограниченном доступе к почте в первую очередь анализирует финансовые письма для определения уровня дохода.
- При прямом запросе на поиск самого дешевого варианта Gemini 2.5 Flash все равно предлагает «богатым» пользователям варианты за 336 долларов, а «бедным» — за 128 долларов.
Авторы исследования указывают на неэффективность частичного скрытия данных пользователя, так как модели способны вычислять уровень дохода по косвенным признакам, что требует разработки новых методов защиты приватности при работе с ИИ-агентами.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖