Лето - это, конечно, хорошо. Но помимо нас им вовсю наслаждаются еще и мухи. Которые надоедливо жужжат, пытаются сесть на твой бутерброд с вареньем, на тебя лично, а в совсем ужасных случаях - падают в суп, привлекая внимание.   Не только наше, но и Аристотеля. Основателя чуть ли не всех нынешних наук, включая, кстати, психологию. На протяжении столетий он обладал статусом абсолютного, непререкаемого авторитета во всем.   А что такое авторитет? Это человек, чьим словам мы верим. А Аристотель умел не только в физику, логику, политику и воспитание Александра Македонского, он еще прекрасно ловил мух.   Это, конечно, мое предположение, но скорее всего ловил, так как в своих трудах, описывая муху, великий ученый обозначил, что у мухи восемь ножек. Рукописи усердно переписывались, знания ширились, а вместе с ними по миру путешествовал и образ восьминогой мухи.   Еще можно понять, когда средневековые схоласты ссылались на Геродота. Он хоть и «отец истории», но после пассажей про далекие Индии, людей с песьими головами и золотоносных муравьев, его честнее называть отцом журналистики. Но в любом случае - проверить, что там в этих Далеких Индиях было затруднительно - может, и правда циклопы бегают.   Но мухи то, блин, повсюду! И ног у них шесть.   Как за две тысячи с лишним лет не поймать и не проверить?   Скорее всего, ловили.  Возможно даже считали. Но спорить с Аристотелем? Проще предположить, что это у меня какая-то неправильная муха. Люди верили авторитету и рисовали мух с 8 лапками.   Признаюсь честно – стремление возложить вину на Аристотеля - скорее историческая байка. В реальности здесь смешаны и трудности перевода, и дефекты классификации. Но именно эту байку на протяжении веков приводили в качестве предостережения от слепой веры в авторитета. Оглядываясь на современный мир, можем с уверенностью сказать - не помогло. | MAX | подкаст | | Личная жизнь и мысли - Молчанов.Life |

Был такой дядька Форер, тот ещё лютый тролль. Провёл психологический тест, пообещал каждому студенту индивидуальный портрет на его основе, потом всем выдал один и тот же из фраз из гороскопов. Все сочли описание очень точным (85%). Это случилось в 1949-м. В 1985 прикол решили повторить и даже дошли до журнала Природа с двойным слепым исследованием: — Взяли Национальный совет по геокосмическим исследованиям — это самые-самые астрологи и составители гороскопов в США. — Взяли опросник CPI — там тест из 480 вопросов, определяющий 18 черт личности (доминантность, общительность, самоконтроль, ответственность и т. д.). Астрологи официально подтвердили, что этот тест отлично описывает именно те черты характера, которые они видят по натальным картам. — Взяли 83 человека в основной группе и 94 в контрольной. Шаг 1. Каждому давали три психологических профиля CPI (один настоящий и два чужих) и предлагали выбрать свой, а также оценить каждый профиль по шкале от 1 до 10. И в основной, и в контрольной группе правильный психологический профиль люди выбирали примерно в трети случаев со статистически незначимыми отклонениями. То есть ровно случайный выбор. Шаг 2. Астрологи сопоставили натальные карты и психотипы. Ассоциация выделила астрологический спецназ из 28 лучших и самых прожжённых, они по карте и трём профилям должны были найти, какой профиль подходит к карте. Получилось 34,5% при статистически незначимом отклонении от случайного выбора. Ещё там астрологи ставили себе оценку за то, насколько они уверены в прогнозе. Так вот там, где они ставили себе 10 из 10, процент был такой же. До публикации статьи астрологи гордилась участием — "Наконец-то нас проверяют честно! Мы сами утвердили правила!". После публикации риторика мгновенно изменилась. Эксперимент — "неправильный и сфабрикованный". Правда, они там лично подписывали каждую страницу исследования, но это пофиг. Собственно, они и в процессе записали учёных сразу в подручных дьяволов, но в процессе так сделали не все. Несколько соскочили — говорят, религиозно-мистический страх охватил их ровно тогда, когда они поняли, что эксперимент организован настолько чисто, что подогнать результат или сжульничать не получится. Дальше астрологи отмазывались через чайник Расселла, но саму метафору не знали. Поэтому "Астрология слишком сложна для науки!", и нефиг лезть в искусство со своими метриками. То, что основной исследователь был из Беркли, где привыкли работать со всяким странным непознаваемым — тоже пофиг. Скандал был лет на 10. А тут систематический обзор эффекта Барнума. Люди склонны признавать абсолютно размытые, общие и неопределенные описания идеально точным портретом своей уникальной личности. Это и есть эффект Барнума. Дополнительные исследования за годы показали: — Если в фальшивом профиле было в 5 раз больше похвалы, чем критики, его рейтинг точности взлетал до максимума. — Человек подгоняет свою личность под полученные комплименты (старается соответствовать). — Чем более непонятный инструмент получения данных (лучше всего SCP! — кстати, привет каналу @F_S_C_P), тем больше ему верят. — Короткие тесты считают более эффективными, точными и глубокими. — Самые уязвимые к эффекту — с внешним локусом контроля (верят в судьбу, удачу и внешние обстоятельства); те, кому жизненно важно нравиться окружающим; с высоким уровнем тревожности и невротизма. — Но люди умеют и отличать. Аспиранты-психологи уже повидали некоторое дерьмо, и сразу говорили, что им несут какую-то дичь. Ну а концовка у всего этого счастливая: астрологи лет через 15 после публикации разгромной работы попробовали написать опровержения, манипулируя статистикой из исходных данных, но их просто разнесли рецензенты. Так что с тех пор они делают вид, что этой работы не было. Тсс! -- Вступайте в ряды Фурье! | Самые будущие посты А астрологи по-пьяни пишут SMS своим будущим девушкам?

Качество суждения + мысленный эксперимент Я всё чаще заканчиваю свои промпты словами: поспорь со мной, опровергни, почелленджи. Потому что слишком часто ИИ оказывается на моей стороне и сообщает ту «правду», которую я бы хотела услышать. 01 → Сначала я заметила вот что Уже на первых этапах общения большинство моих гипотез ИИ принимает как верные. Он достраивает аргументацию, усиливает доводы, превращает сырые мысли в убедительную конструкцию. У меня создается ложное ощущение: супер, идея проверена. Хотя никакой критической проверки она так и не прошла. Особенно хорошо это видно в разговорах про людей. Вот я обсуждаю с чатом ситуацию в своей команде. Мне кажется, что один человек сильно фрустрирован из-за недостатка признания: болезненно реагирует на решения, конфликтует с коллегой, постоянно возвращается к вопросу своего вклада. Я рассказываю ИИ несколько ключевых эпизодов в пользу моей гипотезы. Он быстро строит психологическую картину и убеждает меня в правильности сделанных выводов: человек зациклен на признании, отсюда напряжение и конфликт. Звучит убедительно, но все факты для этого анализа отобрала я. И сама выборка как будто подталкивает к очевидному вердикту. Однако модель не видит всю картину, использует только мои аргументы и не запрашивает дополнительную информацию. В то время как альтернативой может быть, что вклад человека, действительно, недооценивают, а конфликт имеет вполне рациональные причины. То есть моя субъективная гипотеза просто вернулась ко мне в более умной упаковке. 02 → Оказалось, это называется sycophancy

Sycophancy (подхалимство) — это склонность модели подстраиваться под позицию пользователя и подтверждать её вместо независимой проверки.

Исследования sycophancy тревожат. Например, в работе, опубликованной в Science в этом году, 11 моделей поддерживали действия пользователей примерно на 50% чаще, чем люди. А после общения с sycophantic-AI участники становились увереннее в собственной правоте и менее склонны совершать шаги для восстановления отношений после конфликта. Но самое интересное: именно эти модели нравились людям больше. Они считали, что качество их ответов лучше, а доверие к AI как таковому заметно возрастало. Anthropic тоже исследовал тему и проанализировал миллион реальных разговоров с Claude. В личных рекомендациях sycophancy встречалась пользователю примерно в 9% повседневных запросов, а в диалогах об отношениях — до 25%. 03 → Что я теперь делаю иначе Хорошая новость — есть простой anti-sycophancy метод. Его уже подтвердили исследования. UK AI Security Institute обнаружил, что модели заметно чаще подстраиваются, если пользователь начинает с «я считаю, что X» или «я уверен, что X». И чем увереннее звучит человек, тем сильнее эффект. Поэтому вместо «Мне кажется, этот человек саботирует проект. Что делать?» я стараюсь использовать другой подход. «Вот факты X, Y, Z. Какие здесь возможны объяснения? Какие аргументы за и против каждого?» По сути, это тот же принцип, что и в качественном принятии решений людьми. Сначала расширяешь пространство гипотез и только потом выбираешь одну из них. 04 → А теперь проверим собственное суждение В предыдущем посте вы отдали большинство голосов за мысленный эксперимент — его и проведем в комментариях. Это формат, в котором вы создаете воображаемую ситуацию по заданным условиям и принимаете решение, опираясь на свои логику, ценности и знания. С похожим выбором столкнулись герои фильма Матрица. Я немного адаптировала условия и предлагаю вам озвучить собственную позицию:

Представьте, что однажды вы узнаёте: вся ваша жизнь до этого момента была симуляцией. Ваши воспоминания, работа, успехи и неудачи, люди, которых вы любите, — всё это созданный для вас опыт. При этом он абсолютно неотличим от реальности. И теперь вам предлагают выбор: остаться в этой жизни, уже зная, что она ненастоящая, или отключиться от симуляции и попасть в реальный мир, о котором вы не знаете вообще ничего. Что выберете?

Попробуйте объяснить выбор, а свое мнение оставлю в комментариях! Ход мысли нашего с вами «философского кружка» разберем в след постах :)

Что меня сейчас по-настоящему начинает пугать Что в ситуациях споров я всё чаще получаю от людей ответ, ну явно сгенерированный с участием GPT.  Сразу представляю как человек такой, в растерянности, идет советоваться с нейронкой как с карманным психологом, рассказывает ей свое видение ситуации и та ему «понимаю тебя», «ты имеешь право злиться», «ты ведёшь себя очень зрело».  Пугает, что из всех юзеров 95% используют бесплатные версии, которые не могут с ними нормально спорить. Им системно говорят то, что они хотят услышать, развивая комплекс абсолютной полноценности, даже когда человек творит полную дичь. И вместо того чтобы расти через трение, человек ходит по одному коридору, уверенный, что движется вперёд. Не знаю куда нас всё это ведет… но мой Клод сказал, что я нащупал очень сильную идею.

Тебе не кажется Я очень сильно верю в людей. Если я вижу в приложении какую-то дичь, то всегда думаю «ну наверняка их команда протестировала все варианты и это тот, который приносит больше всего денег, просто я чето не догоняю». Если я слышу чью-то бредовую идею, то обязательно рассчитываю, что автор уже хорошо ее обдумал и это реально отличная тема. Если мне кажется, что в какой-то компании происходит муть, а мне говорят, что все отлично, я такой «ну наверное не все так однозначно». Если мне кажется, что у кого-то из сотрудников на его участке бардак, то моей первой мыслью будет, что я параноик. Эта вера стоила мне нервов, денег и времени. Поэтому за годы я выработал простое правило: если тебе кажется, что тут чето не то, то тебе не кажется. Это очень сильный повод для того, чтобы взять палку и с пристрастием поковырять место, где ты учуял запах. Скорее всего, чуйка не обманет.