← к ленте

Исследование NN/g: чем ответы AI-респондентов отличаются от ответов людей

P@productgamesпродакт / фаундер
6 дн

Исследование NN/g сравнило ответы 120 AI-респондентов и 604 UX-профессионалов и показало, как синтетические ответы сглаживают различия.

Синтетические респонденты могут скрыть реальные различия между людьми и привести к неверным продуктовым решениям.

  • В исследовании AI-респонденты чаще сходились на типичных формулировках.
  • Живые участники дали более 50 вариантов, а AI — около десятка.
  • Пост рекомендует применять AI для предварительной проверки исследований, но не для определения ключевых болей и стратегии.
Чем отличаются AI-респонденты от живых людей Только вчера запускала интервью с синтетическими юзерами для тестового (кстати, при проведении использовала методы из канала), а сегодня попалась статья с исследованием NN/g, в котором сравнивают результаты интервью с AI и живыми людьми. Суть в том, что один и тот же открытый вопрос про область UX-ресёрча задали 604 живым профи и 120 AI-респондентам. В итоге глобальный вывод совпал, а вот детали разошлись так, что на них легко построить ошибочное решение. Вот как AI искажает результаты: 1. Иллюзия полного единодушия AI схлопывает ответы вокруг самого частого шаблона. В исследовании NN/g среди реальных PM термин UX использовали 44%, а среди синтетических PM - 93%. AI рисует сегменты невероятно дружными и стереотипными, полностью стирая реальное разнообразие мнений внутри одной роли. 2. AI срезает длинный хвост Живые люди дали более 50 различных формулировок, включая редкие термины вроде journey management или human factors engineering. AI-пользователи выдали всего около десятка базовых вариантов. Все краевые сценарии, нестандартные боли и новые тренды, ради которых и идут в ресёрч, модель просто отбросила. Итого, как использовать synthetic users без вреда для продукта: 👍 Первый дешёвый проход: прогнать опросник на адекватность, быстро сгенерировать гипотезы или составить гайд для глубинных интервью. 👎Где AI опасен: поиск ключевых болей, позиционирование, ценообразование и продуктовая стратегия. Если делать продукт по ответам синтетических юзеров, вы построите решение для среднестатистического бота, которого не существует в природе. Источник: https://www.nngroup.com/articles/synthetic-users-vs-human-respondents/ @productgames

Кратко (AI)

В исследовании NN/g один и тот же открытый вопрос задали 604 живым профессионалам и 120 AI-респондентам. Общий вывод совпал, но синтетические ответы чаще повторяли типичные формулировки и почти не отражали редкие варианты, поэтому автор поста советует использовать их для предварительной проверки опросов и генерации гипотез, но не для поиска болей и принятия продуктовой стратегии.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖