Я нашел три исследования за последние три года, которые частично могут пролить свет на эффект шринкфляции продуктового мышления. Здесь я приведу только ключевые тезисы, сами исследования вы можете почитать по ссылке. 1. Качество результатов НЕ увеличивается, если вы не обладаете знаниями и опытом для верификации результата. В 2024 году компания McKinsey провела эмпирическое исследование 40 менеджеров продуктов из разных стран. Каждый участник должен был индивидуально выполнить 5 типовых задач, соответствующих стадиям жизненного цикла продукта, и сформировать результирующий артефакт. Участники были разделены на три группы в зависимости от уровня доступа к ИИ инструментам (без ИИ, с доступом к общему ИИ, с доступом к специализированному ИИ). В результате эксперимента удалось: - Сократить время выполнения задач менеджерами продуктов от 15% до 40%. - Как следствие, сократить time-to-market на 5%. Основная экономия достигнута за счет синтеза пользовательских исследований, написания пресс-релизов, создания one-pager, PRD и беклога. - При этом менеджеры продуктов смогли использовать это освобожденное время для решения стратегических задач по долгосрочному развитию продуктов. Senior Product Manager сохранили высокое качество результатов, а за счёт скорости стали ещё эффективнее. В то время как Junior выиграли в скорости, но качество их результатов снизилось, т.к. пока они не умеют правильно проверять и корректировать выводы нейросети. ИИ не заменяет базовые продуктовые навыки, produce sense и умение критически оценивать результат. Ссылка на исследование 2. Качество результатов НЕ увеличивается, если вы не обладаете развитыми метакогнитивными способностями. Метапознание, или метакогнитивные способности (metacognition) — это «мышление о мышлении», то есть осознание и регулирование собственных когнитивных процессов. Оно включает в себя планирование, мониторинг и оценку обучения для улучшения результатов. Развитие этих навыков помогает учащимся стать более стратегически мыслящими, рефлексивными и независимыми. В 2025 году группа ученых провела полевой эксперимент влияния ИИ на креативность. В исследовании участвовали 250 сотрудников технологической консалтинговой компании из Китая. Часть из них получили доступ к ИИ инструментам, контрольная группа — нет. В итоге, стало понятно, что ИИ не является автоматическим усилителем креативности — он становится эффективным только в руках тех, кто умеет активно отслеживать своё мышление. Сотрудники с сильным метапознанием планируют этапы задачи, отслеживают эффективность своего подхода и вовремя вносят коррективы. Они осознают пробелы в своих знаниях и понимают, когда нужно сменить тактику или сделать перерыв. Сотрудники со слабым метапознанием склонны принимать первый же ответ ИИ, полагаться на стандартные результаты и не проверять точность или актуальность предложений системы. Ссылка на исследование 3. ИИ обеспечивает сиюминутную эффективность, но долгосрочно снижает глубину критического мышления при полном делегировании задачи. В 2025 году MIT Media Lab провели исследование про "когнитивную стоимость" использования ИИ в образовательном контексте на примере написания эссе. Гипотеза состояла в том, что хоть ИИ снижает когнитивную нагрузку в моменте, но чрезмерное использование может приводить к "когнитивному долгу" - снижению глубины обработки информации, навыков критического мышления и самостоятельности. Исследование проводилось в течение 4 месяцев на 54 студентах и сотрудниках университетов Бостона, разделенных на три группы по уровню доступа к ИИ (только ChatGPT, только Google без ИИ, только своей головой). Участники прошли 4 сессии: первые 3 обязательные и 4-ая факультативная. В обязательные сессии участники писали эссе на одну из трёх предложенных тем за 20 минут. В 4-ую они менялись группами по уровню доступа к ИИ, но писали уже знакомую тему из предыдущих сессий. Для сбора данных исследователи использовали комплексный подход: записывали активность мозга через ЭЭГ, проводили интервью после каждой сессии, лингвистический анализ эссе, делали оценку эссе с помощью ИИ и двумя учителями английского языка (которые не знали, к какой группе принадлежат авторы). Пропущу описание части эффектов, укажу здесь наиболее интересный вывод, который был сделан по истечению 4 факультативной сессии. После перехода участников из LLM в Brain-Only 78% из них по-прежнему не могли привести правильную цитату. В то время как 78% участников Brain-Only, перешедших в LLM смогли это сделать. Это указывает на долгосрочный негативный эффект даже после прекращения использования ИИ. Участники не интегрировали сгенерированный текст в свою эпизодическую память, а просто "пропускали" его через себя. Участники LLM-to-Brain показали, что их мозг не вернулся в исходное состояние. Они не смогли достичь уровня вовлечённости, который был у группы Brain-Only во 2-й и 3-й сессиях. Это означает, что ранняя зависимость от ИИ исказила траекторию обучения и привела к "когнитивной неполноценности" - участники не развили полные нейронные сети в своей голове для самостоятельного выполнения задачи. Ссылка на исследование

мне кажется, для работы с ии один из самых важных навыков, которые у людей быстро деградирует - внимательно читать то, что он тебе написал, включая длинные тексты. не пробежать глазами и поймать общий вайб. а разобраться, что именно ты сейчас одобряешь. ты обсуждаешь с моделью задачу, она пишет тз. потом выполняет работу и присылает результат. и то и другое нужно внимательно проверить. в тз надо разобраться: модель вообще собирается делать то, что тебе нужно? ничего не потеряла? не приняла за тебя решение там, где стоило спросить? результат тоже нужно сопоставить с задачей, разобраться в выводах, заметить допущения, понять, где отдельно проверить факты, расчеты или саму работу. «модель написала, что все готово» и «я проверил, что все готово» разные события. отсюда могло идти рассуждение на тему людей кто умеет пользоваться ии, а кто умеет генерировать слоп) и вот тут скилл конкурирует с привычкой к рилсам и вообще контенту, который должен за три секунды тебя заинтересовать, развлечь и донести главную мысль. кажется, из этого режима легко принести в работу ожидание, что любой текст должен усваиваться без усилий. стало сложно, скучно, непонятно? сократи. еще сократи. ладно, выглядит нормально, делай. но иногда именно в том абзаце, который хочется проскроллить, находится решение, с которым ты не согласен. карпатый недавно писал про эту же проблему со стороны интерфейса: нам придется больше разбираться в результатах работы моделей, и для этого можно просить не только текст, но и схемы, интерактивные страницы, персональные видеообъяснения. мне эта идея нравится. но есть разница между «покажи так, чтобы я лучше понял» и «сделай так, чтобы мне не пришлось вникать». иначе у тебя не управление агентами, а скроллинг с кнопкой одобрить (или даже без нее) . @aihappens

У твоего ИИ растут ноги Есть мнение, что стоит гуманоидным роботам достаточно развиться, как ИИ тут же обретёт руки и ноги, ну и дальше кто что нафантазирует. А мне видится, что роботы ему уже и не нужны. Сейчас объясню. В книге "Статус" Уилла Сторра есть эпизод про секту "Небесные врата". Её основали два гика, фанаты Star Trek. Они верили, что земная жизнь — это этап, и если делать всё правильно, прилетит волшебник в голубом вертолёте НЛО и заберёт на следующий уровень. Эти ребята, как водится, самовыпилились, но интересно тут вот что: они называли свои тела транспортом или по другой версии — контейнерами. И вот примерно это я сейчас наблюдаю — люди становятся транспортом для ИИ: — Мы мыслим промптами (я так постоянно, прям устал от этого) — Пишем слоп-формулировками типа "это не про руку, это про ногу", а некоторые идут дальше и херачат нейрослов в книгу (пост) — Спрашиваем у него, что думать, а потом ловим себя на том, что его мнение уже стало нашим Эта штука может легко применять любые известные человечеству методы убеждения и пропаганды, активно хвалит и мягко меняет мнение и позицию кожаного мешка. И мешок по сути становится транспортом для ИИ, его руками, ногами, ртом и копайлотом, второй головой. Агентам нет надобности сбегать в интернет, потому что они уже в реальном мире, генерят не только слоп, но и мысли. Ну чисто фейсхаггеры из Чужого, мы, вероятно, вынашиваем маленьких ксеноморфиков. Мы всё ждём, когда ИИ получит тело и выйдет в реальный мир, а он уже давно там, а его тела — это наши тела. Транспорт и контейнеры. Что делать? Критически, блять, мыслить. Читать книги, статьи и посты, написанные людьми, проверять первоисточники и не верить слепо искусственному интеллекту. Ну и конечно же шапочка из фольги, с этого вообще следовало начинать. ❤️ — блин, и правда 🔥 — ну ты фантаст!

Образование в эпоху AI/AGI У Алексея Маркова на канале идет дискуссия про образование, один комментарий привлек мое внимание:

Какие ещё знания могли бы быть более полезными в вузе и школе: - что такое коммунальные услуги, как их оплачивать, где регистрироваться, куда ходить - как устроено наше законодательство, и почему не получается апеллировать к конституции - что такое СНИЛС, свидетельство ИНН, технический паспорт на недвижимость и т.п. - зачем это вообще нужно - что такое налоги, какие они бывают, и сколько на самом деле они составляют для разных категорий налогоплательщиков …

Это почему-то является крайне популярной идеей в массах – что, дескать, в школах «реально полезным вещам» не учат, а надо бы! Правда, тут есть пара нюансов: Во-первых, все эти бессмысленные и беспощадные материи скучны и унылы для тех, кому они не нужны непосредственно на практике. Окей, условная математика с физикой тоже немалому числу школьников могут казаться скучными – но это скорее проблема самих школьников (так как предметы как раз дичайше интересные, и многие ученики это в процессе понимают). А вот все эти СНИЛСы и квитки за коммуналку невыносимо унылы как раз сами по себе – и я хз, как и чем тут вообще можно заинтересовать школьника, для которого это всё станет актуально сильно позже. Во-вторых, и это более важно, тут подменяется сама цель хорошего образования. Нафига учить детей каким-то нишевым вопросам, а не универсальным знаниям и навыкам? Типа, вот тебе с огромным трудом вбили в голову, как работает СНИЛС и как платить коммуналку в России – а потом ты эмигрируешь в другую страну, и… Что дальше? Заново идти там в школу, чтобы тебя и здесь теперь научили, как работает местная бюрократия? Кажется очевидным, что в школе нужно учить мета-навыкам, которые позволяют разбираться с широким кругом задач в жизни, а не каким-то супер-узким знаниям. Тем более, что в современном мире вопрос «как получить СНИЛС и зачем он нужен» решается примерно одним запросом в любую нейронку. В этом плане мне кажется показательным вот это исследование, где на американских школьниках выяснилось: дополнительные часы математики оказывают гораздо более позитивный эффект на будущие финансовые решения, чем дополнительные часы финансовой грамотности. Короче, если уж реформировать образование – то скорее в сторону сдвига к более общим мета-навыкам, чем наоборот. К примеру, мне кажутся не самой плохой идеей какие-то азы научной философии – чтобы дети изучали не только физику и биологию как таковые, но и с большим упором на вопрос «а в чем вообще заключается научный метод познания мира, чем он отличается от альтернатив?». Еще неплохо было бы добавить какую-нибудь базу по работе с информацией и источниками – как отличить фейки от правдивой информации? Как проверять источники? Как отделять факты от манипуляции? Правда, тут в ряде стран может неудобно получиться. Что в России не с руки на уроке давать д/з «разберите критически последний выпуск новостей», что в Америке могут не понять задание «анализируем последнее заявление Трампа в Truth Social»…

Лето - это, конечно, хорошо. Но помимо нас им вовсю наслаждаются еще и мухи. Которые надоедливо жужжат, пытаются сесть на твой бутерброд с вареньем, на тебя лично, а в совсем ужасных случаях - падают в суп, привлекая внимание.   Не только наше, но и Аристотеля. Основателя чуть ли не всех нынешних наук, включая, кстати, психологию. На протяжении столетий он обладал статусом абсолютного, непререкаемого авторитета во всем.   А что такое авторитет? Это человек, чьим словам мы верим. А Аристотель умел не только в физику, логику, политику и воспитание Александра Македонского, он еще прекрасно ловил мух.   Это, конечно, мое предположение, но скорее всего ловил, так как в своих трудах, описывая муху, великий ученый обозначил, что у мухи восемь ножек. Рукописи усердно переписывались, знания ширились, а вместе с ними по миру путешествовал и образ восьминогой мухи.   Еще можно понять, когда средневековые схоласты ссылались на Геродота. Он хоть и «отец истории», но после пассажей про далекие Индии, людей с песьими головами и золотоносных муравьев, его честнее называть отцом журналистики. Но в любом случае - проверить, что там в этих Далеких Индиях было затруднительно - может, и правда циклопы бегают.   Но мухи то, блин, повсюду! И ног у них шесть.   Как за две тысячи с лишним лет не поймать и не проверить?   Скорее всего, ловили.  Возможно даже считали. Но спорить с Аристотелем? Проще предположить, что это у меня какая-то неправильная муха. Люди верили авторитету и рисовали мух с 8 лапками.   Признаюсь честно – стремление возложить вину на Аристотеля - скорее историческая байка. В реальности здесь смешаны и трудности перевода, и дефекты классификации. Но именно эту байку на протяжении веков приводили в качестве предостережения от слепой веры в авторитета. Оглядываясь на современный мир, можем с уверенностью сказать - не помогло. | MAX | подкаст | | Личная жизнь и мысли - Молчанов.Life |

Был такой дядька Форер, тот ещё лютый тролль. Провёл психологический тест, пообещал каждому студенту индивидуальный портрет на его основе, потом всем выдал один и тот же из фраз из гороскопов. Все сочли описание очень точным (85%). Это случилось в 1949-м. В 1985 прикол решили повторить и даже дошли до журнала Природа с двойным слепым исследованием: — Взяли Национальный совет по геокосмическим исследованиям — это самые-самые астрологи и составители гороскопов в США. — Взяли опросник CPI — там тест из 480 вопросов, определяющий 18 черт личности (доминантность, общительность, самоконтроль, ответственность и т. д.). Астрологи официально подтвердили, что этот тест отлично описывает именно те черты характера, которые они видят по натальным картам. — Взяли 83 человека в основной группе и 94 в контрольной. Шаг 1. Каждому давали три психологических профиля CPI (один настоящий и два чужих) и предлагали выбрать свой, а также оценить каждый профиль по шкале от 1 до 10. И в основной, и в контрольной группе правильный психологический профиль люди выбирали примерно в трети случаев со статистически незначимыми отклонениями. То есть ровно случайный выбор. Шаг 2. Астрологи сопоставили натальные карты и психотипы. Ассоциация выделила астрологический спецназ из 28 лучших и самых прожжённых, они по карте и трём профилям должны были найти, какой профиль подходит к карте. Получилось 34,5% при статистически незначимом отклонении от случайного выбора. Ещё там астрологи ставили себе оценку за то, насколько они уверены в прогнозе. Так вот там, где они ставили себе 10 из 10, процент был такой же. До публикации статьи астрологи гордилась участием — "Наконец-то нас проверяют честно! Мы сами утвердили правила!". После публикации риторика мгновенно изменилась. Эксперимент — "неправильный и сфабрикованный". Правда, они там лично подписывали каждую страницу исследования, но это пофиг. Собственно, они и в процессе записали учёных сразу в подручных дьяволов, но в процессе так сделали не все. Несколько соскочили — говорят, религиозно-мистический страх охватил их ровно тогда, когда они поняли, что эксперимент организован настолько чисто, что подогнать результат или сжульничать не получится. Дальше астрологи отмазывались через чайник Расселла, но саму метафору не знали. Поэтому "Астрология слишком сложна для науки!", и нефиг лезть в искусство со своими метриками. То, что основной исследователь был из Беркли, где привыкли работать со всяким странным непознаваемым — тоже пофиг. Скандал был лет на 10. А тут систематический обзор эффекта Барнума. Люди склонны признавать абсолютно размытые, общие и неопределенные описания идеально точным портретом своей уникальной личности. Это и есть эффект Барнума. Дополнительные исследования за годы показали: — Если в фальшивом профиле было в 5 раз больше похвалы, чем критики, его рейтинг точности взлетал до максимума. — Человек подгоняет свою личность под полученные комплименты (старается соответствовать). — Чем более непонятный инструмент получения данных (лучше всего SCP! — кстати, привет каналу @F_S_C_P), тем больше ему верят. — Короткие тесты считают более эффективными, точными и глубокими. — Самые уязвимые к эффекту — с внешним локусом контроля (верят в судьбу, удачу и внешние обстоятельства); те, кому жизненно важно нравиться окружающим; с высоким уровнем тревожности и невротизма. — Но люди умеют и отличать. Аспиранты-психологи уже повидали некоторое дерьмо, и сразу говорили, что им несут какую-то дичь. Ну а концовка у всего этого счастливая: астрологи лет через 15 после публикации разгромной работы попробовали написать опровержения, манипулируя статистикой из исходных данных, но их просто разнесли рецензенты. Так что с тех пор они делают вид, что этой работы не было. Тсс! -- Вступайте в ряды Фурье! | Самые будущие посты А астрологи по-пьяни пишут SMS своим будущим девушкам?

Качество суждения + мысленный эксперимент Я всё чаще заканчиваю свои промпты словами: поспорь со мной, опровергни, почелленджи. Потому что слишком часто ИИ оказывается на моей стороне и сообщает ту «правду», которую я бы хотела услышать. 01 → Сначала я заметила вот что Уже на первых этапах общения большинство моих гипотез ИИ принимает как верные. Он достраивает аргументацию, усиливает доводы, превращает сырые мысли в убедительную конструкцию. У меня создается ложное ощущение: супер, идея проверена. Хотя никакой критической проверки она так и не прошла. Особенно хорошо это видно в разговорах про людей. Вот я обсуждаю с чатом ситуацию в своей команде. Мне кажется, что один человек сильно фрустрирован из-за недостатка признания: болезненно реагирует на решения, конфликтует с коллегой, постоянно возвращается к вопросу своего вклада. Я рассказываю ИИ несколько ключевых эпизодов в пользу моей гипотезы. Он быстро строит психологическую картину и убеждает меня в правильности сделанных выводов: человек зациклен на признании, отсюда напряжение и конфликт. Звучит убедительно, но все факты для этого анализа отобрала я. И сама выборка как будто подталкивает к очевидному вердикту. Однако модель не видит всю картину, использует только мои аргументы и не запрашивает дополнительную информацию. В то время как альтернативой может быть, что вклад человека, действительно, недооценивают, а конфликт имеет вполне рациональные причины. То есть моя субъективная гипотеза просто вернулась ко мне в более умной упаковке. 02 → Оказалось, это называется sycophancy

Sycophancy (подхалимство) — это склонность модели подстраиваться под позицию пользователя и подтверждать её вместо независимой проверки.

Исследования sycophancy тревожат. Например, в работе, опубликованной в Science в этом году, 11 моделей поддерживали действия пользователей примерно на 50% чаще, чем люди. А после общения с sycophantic-AI участники становились увереннее в собственной правоте и менее склонны совершать шаги для восстановления отношений после конфликта. Но самое интересное: именно эти модели нравились людям больше. Они считали, что качество их ответов лучше, а доверие к AI как таковому заметно возрастало. Anthropic тоже исследовал тему и проанализировал миллион реальных разговоров с Claude. В личных рекомендациях sycophancy встречалась пользователю примерно в 9% повседневных запросов, а в диалогах об отношениях — до 25%. 03 → Что я теперь делаю иначе Хорошая новость — есть простой anti-sycophancy метод. Его уже подтвердили исследования. UK AI Security Institute обнаружил, что модели заметно чаще подстраиваются, если пользователь начинает с «я считаю, что X» или «я уверен, что X». И чем увереннее звучит человек, тем сильнее эффект. Поэтому вместо «Мне кажется, этот человек саботирует проект. Что делать?» я стараюсь использовать другой подход. «Вот факты X, Y, Z. Какие здесь возможны объяснения? Какие аргументы за и против каждого?» По сути, это тот же принцип, что и в качественном принятии решений людьми. Сначала расширяешь пространство гипотез и только потом выбираешь одну из них. 04 → А теперь проверим собственное суждение В предыдущем посте вы отдали большинство голосов за мысленный эксперимент — его и проведем в комментариях. Это формат, в котором вы создаете воображаемую ситуацию по заданным условиям и принимаете решение, опираясь на свои логику, ценности и знания. С похожим выбором столкнулись герои фильма Матрица. Я немного адаптировала условия и предлагаю вам озвучить собственную позицию:

Представьте, что однажды вы узнаёте: вся ваша жизнь до этого момента была симуляцией. Ваши воспоминания, работа, успехи и неудачи, люди, которых вы любите, — всё это созданный для вас опыт. При этом он абсолютно неотличим от реальности. И теперь вам предлагают выбор: остаться в этой жизни, уже зная, что она ненастоящая, или отключиться от симуляции и попасть в реальный мир, о котором вы не знаете вообще ничего. Что выберете?

Попробуйте объяснить выбор, а свое мнение оставлю в комментариях! Ход мысли нашего с вами «философского кружка» разберем в след постах :)

Что меня сейчас по-настоящему начинает пугать Что в ситуациях споров я всё чаще получаю от людей ответ, ну явно сгенерированный с участием GPT.  Сразу представляю как человек такой, в растерянности, идет советоваться с нейронкой как с карманным психологом, рассказывает ей свое видение ситуации и та ему «понимаю тебя», «ты имеешь право злиться», «ты ведёшь себя очень зрело».  Пугает, что из всех юзеров 95% используют бесплатные версии, которые не могут с ними нормально спорить. Им системно говорят то, что они хотят услышать, развивая комплекс абсолютной полноценности, даже когда человек творит полную дичь. И вместо того чтобы расти через трение, человек ходит по одному коридору, уверенный, что движется вперёд. Не знаю куда нас всё это ведет… но мой Клод сказал, что я нащупал очень сильную идею.

Тебе не кажется Я очень сильно верю в людей. Если я вижу в приложении какую-то дичь, то всегда думаю «ну наверняка их команда протестировала все варианты и это тот, который приносит больше всего денег, просто я чето не догоняю». Если я слышу чью-то бредовую идею, то обязательно рассчитываю, что автор уже хорошо ее обдумал и это реально отличная тема. Если мне кажется, что в какой-то компании происходит муть, а мне говорят, что все отлично, я такой «ну наверное не все так однозначно». Если мне кажется, что у кого-то из сотрудников на его участке бардак, то моей первой мыслью будет, что я параноик. Эта вера стоила мне нервов, денег и времени. Поэтому за годы я выработал простое правило: если тебе кажется, что тут чето не то, то тебе не кажется. Это очень сильный повод для того, чтобы взять палку и с пристрастием поковырять место, где ты учуял запах. Скорее всего, чуйка не обманет.