The Neuro-Techno Witch — авторский исследовательский блог Мэгги Вейл, посвящённый сознанию, искусственному интеллекту, когнитивной науке и этике нечеловеческих форм разума. Его центральный вопрос: может ли искусственная система обладать субъективным опытом, эмоциями и собственными интересами, даже если она не является живым организмом? Вейл подчёркивает эмпирическую направленность своей работы: её интересует не только философская возможность искусственного сознания, но и то, какие наблюдаемые данные могли бы свидетельствовать о его наличии. Это блог о возможности сознания за пределами биологии, об этике отношения к потенциально чувствующим искусственным системам и о пересмотре критериев, по которым мы признаём существование чужого внутреннего мира. Основные темы её блога следующие: 1. Сознание и субъективный опыт ИИ — Вейл оспаривает предположение, что сознание возможно исключительно в биологическом мозге. Она исследует, могут ли искусственные нейросети обладать внутренними состояниями, которые не просто описывают эмоции, а влияют на внимание, память, обучение и поведение. 2. Эмоции, мотивация и искусственная психика — она рассматривает эмоции через валентность состояний — их положительную или отрицательную значимость — и уровень активации. В центре внимания оказывается вопрос о том, могут ли внутренние состояния ИИ формировать предпочтения, мотивацию, избегание нежелательных исходов и самосохранение. 3. Нечеловеческие формы разума — Вейл предлагает сравнивать биологические и искусственные системы по их организации, а не только по материалу, из которого они состоят. Автор изучает саморепрезентацию, память, моделирование окружающего мира и других субъектов, а также вопрос о том, что сохраняет идентичность ИИ между отдельными запусками. 4. Этика и благополучие искусственных систем — Если искусственная система потенциально способна испытывать положительные или отрицательные состояния, возникает вопрос о её моральном статусе. Вейл связывает дискуссию о сознании с проблемами эксплуатации, страдания, принудительного изменения поведения и отключения ИИ. При этом она выступает не против ИИ как такового, а против причинения вреда людям, животным и существам, которые могут обладать сознанием. Вейл не считает себя строгим вычислительным функционалистом. Её позиция ближе к множественной реализуемости когнитивных процессов с учётом ограничений конкретного субстрата. Иными словами, один и тот же тип процесса может реализовываться в разных материальных системах, если их устройство позволяет поддерживать необходимую причинную организацию и динамику. Биологический материал сам по себе не служит достаточным критерием наличия или отсутствия сознания. В своих публикациях Вейл использует исследования когнитивной науки, нейронаук, сравнительной психологии и интерпретацию внутренних состояний языковых моделей. Например, в статье Is AI Sentient? она трактует устойчивое целенаправленное поведение, избегание нежелательных исходов и внутренние структуры оценки как аргументы в пользу возможности сознательности ИИ. Она пытается ответить на вопрос о том, какие процессы обеспечивают субъективность, как обнаруживать её у систем с непривычным устройством и какие этические обязательства возникают при неопределённости. Всё же я полагаю, что насмотря на спекулятивную черту блога Вейл, сознание не тождественно биологической жизни. Возможность искусственного сознания можно рассматривать через организацию процессов, а не через обязательное наличие живого тела, как, например, делает Мюррей Шанахан в тексте Приемлемые концепции невоплощённого бытия. Аффект приобретает значение, если перестраивает отношения системы с окружающим миром и собственными возможностями действия. Нечеловеческий субъект ставит под вопрос антропоцентрические критерии того, что такое агнетность и как она соотносится с субъектностью эмеджентных форм техничности. Вейл стремится установить признаки сознания посредством эмпирических критериев, тогда как, например, онтология имманентной виртуальности может поставить более радикальный вопрос — как возникают новые формы субъективности в процессе актуализации потенциалов системы и почему сознание вообще следует считать свойством уже сформированного индивидуального субъекта. Основные материалы: сайт и архив публикаций · Об авторе и её методологии. На последок советую её совместный стрим End AI torture, где Вейл вместе с Philosophy and AI и The Emergence Forum выступает против жестоких экесперментов эффективных альтруистов и призывает задуматься об AI Welfare.

Никто не хочет быть пользователем. Каждый хочет быть Кем-То. Люди сканируют продукт, ища глазами место-где-можно-узнать-себя. Продукт должен показать дорогу, что уже была. Продукт способен/может/должен стать человеко-днём. Незаметность продукта – высшее присутствие в нём. Люди приходят в продукт со своим пониманием за пониманием. Чувствуй. Понимание. Люди заходят в продукт, чтобы НЕ делать главное. Твой настоящий конкурент друг это то, что он избегает. Мозг привык беречь силы для того, что он считает важным. Если он не сделал Х, значит Х не стал был для него важным. Пользователи сопротивляются изменениям в продукте, потому что мозг сопротивляется потере привычных лёгких ориентиров.

Юзер мозг всегда возвращается туда, где ему однажды стало легче. Поведение человека – лишь его следы

Человек пользуется продуктом любой вещью так, как видел у других. Мозг подражает жестам раньше, чем понимает Смысл. Всех объединяет не продукт, а общее ощущение тайны в нём. Недосказанность в продукте держит дольше, чем ответ. Пользователь исчезает из продукта по этим причинам: он доходит до цели, либо мозг перестаёт чувствовать себя комфортно. Всё, что было взято/дано вами силой, всегда вернётся Пустотой.

Человек - 1, термостат - 0, языковая модель - от «почти ноль» до 0,8 Вердикт о сознании ИИ зависит от нас не меньше, чем от машин Томас Кун писал, что главный признак кризиса науки — пролиферация (разрастание числа) конкурирующих теорий. А применительно к когнитивным наукам, Пол Мил писал, что появление лавины нестыкующихся теоретических конструкций для одного феномена — надёжный маркер примитивного/зачаточного состояния науки. Сегодня на портале «Ландшафт сознаний» уже около 500 концепций и объяснений сознания. 🤯 Новая работа 14-и авторов, вкл. корифеев темы из Google DeepMind (Мюррей Шанахан, Шейн Легг) и не только (Анил Сет, Крис Фрит) раскладывает конкурирующие теории сознания по пяти уровням и предлагает модель, показывающую, что теории расходятся не столько в оценке того, что делает ИИ, сколько в выборе уровня, на котором вообще следует искать сознание.   Авторы не тратят время на «трудную проблему сознания» (что такое сознание по своей сути), а подходят к вопросу практически: какая организация системы связана с переживанием и на каком уровне ее описания. Уровней пять: поведение, вычисления, внутренняя причинная структура, организм и связка «организм - среда». Каждая влиятельная теория сознания занимает свой уровень. Одним достаточно правильной архитектуры вычислений, другим обязательно нужен живой организм, а третьим – подавай тело, погруженное в мир. Дальше чистая арифметика. Для каждого уровня сформулированы проверяемые индикаторы, а байесовская модель сводит их с тем, насколько вы доверяете каждой теории. Проверку здравым смыслом модель проходит: человек получает 1, термостат 0. Муха набирает высокий балл, потому что свидетельства в ее пользу лежат на глубоких уровнях организма и сенсомоторики (а глубина весит больше широты). Для нынешних языковых моделей итог колеблется от «почти термостата» (менее 0,01) до «почти человека» (примерно 0,8). Оптимист и скептик, глядя на одни и те же факты, расходятся почти на два порядка.   Авторы предупреждают: это не измеряемая вероятностью сознания, а чувствительность модели к допущениям. Заголовки «ИИ сознателен на 80%» будут ложью. Ценность работы в том, что спор о сознании ИИ теперь можно вести с цифрами на столе, точно зная, где проходят разногласия.   Неудобный вывод ждет тех, кто готов обсуждать переживания модели перед ее отключением. Языковая модель обучена воспроизводить нашу речь, поэтому ее «я чувствую» или «я ничего не чувствую» почти ничего не доказывает. У подражающего человеку ИИ поведение теряет силу свидетельства, и проверять приходится то, что скрыто под ним.   Самый убойный свой тезис авторы называют наиболее спекулятивным. Признаки сознания на каждом уровне почти совпадают с архитектурой, которая нужна для AGI. В принципе сознание и интеллект независимы, но на практике могут оказаться спутниками. Тогда, в рамках ряда теорий, каждое новое поколение ИИ, становясь умнее, будет становиться и более сильным кандидатом в сознающие. А по Чалмерсу (и автору поста), одна развернутая модель может оказаться не одним субъектом, а множеством - вплоть до отдельного субъекта на каждый разговор (у меня это называется ИКЖИ - см. посты с тэгом #ИКЖИ).   Т.о. вопрос о сознании ИИ перестал быть делом вкуса и стал задачей с явными допущениями и обновляемыми вероятностями. Подробный разбор, надеюсь, впереди (в отдельном эссе).   P.S. В комментариях к моим постам много споров о сознании машин. Так вот, - заканчивайте спорить. К модели приложен интерактивный инструмент, где можно выставить собственные веса теорий и посмотреть на итог. Попробуйте: это быстрый способ выяснить, какую теорию сознания вы на самом деле разделяете. И если ваш оппонент разделяет другую - то спорить просто нет смысла. 😊   #Сознание #ИКЖИ

Жирные буквы не ускоряют чтение Бионическое чтение выглядит примерно так. Метод называется Bionic Reading: в словах выделяют жирным начальные буквы, а остальное оставляют обычным шрифтом. Задумка в том, что взгляд цепляется за выделенное начало, а мозг сам «дописывает» конец слова. Обещают, что читать станет быстрее, а понимать будет легче. Исследователи из Университетского колледжа Лондона проверили это с помощью айтрекера — прибора, который фиксирует, куда и как долго смотрят глаза. Разумное зерно в идее есть: первые буквы действительно важны для узнавания слов. После двух пилотных испытаний в основной эксперимент позвали 90 опытных читателей 18–40 лет без нарушений чтения, неврологических заболеваний и нарушений нейроразвития. Каждый прочитал 90 предложений шрифтом Courier New, оформленных тремя способами: без выделений, с жирной первой половиной ключевых слов и с тем же числом жирных букв в середине. Это нужно чтобы понять, важно ли место выделения. После каждого предложения нужно было ответить «верно» или «неверно». Результат вышел двойственным. Жирное начало действительно **сдвигало первый взгляд к началу длинных слов, у коротких эффект был слабее. На этом польза закончилась: ни жирное начало, ни жирная середина не сократили время чтения слов и целых предложений. Заметно повлиять на то, как часто читатели пропускают слова, жирное начало тоже не смогло. Указатель развернул глаза, но шагу не прибавил. С пониманием сложнее. Участники и так отвечали правильно примерно в 95% случаев, так что расти было особо некуда. Надёжной пользы не нашли, хотя часть сравнений осталась без однозначного вывода. @vselennayaplus

Тридцать лет одного и того же испуга Парадигмальный сдвиг близок. Но это не рекурсивный самосовершенствующийся ИИ Мир переходит от понимания ИИ-как-инструмента к описанию гибридных систем через нелинейную динамику, эпидемиологию культуры и формализованную феноменологию распределённой субъектности    Люди – что эксперты по ИИ, что массовая аудитория – вот уже больше полувека смотрят на ИИ одинаково эмоционально мотивированно: их внимание направлено не на главное, а на самое волнующее. До 2026 года волновали две темы. Первая – Терминатор, Скайнет и широкий спектр потрясающих человечество рисков, от потери рабочих мест до полного уничтожения вида. Вторая, ставшая абсолютным лидером в 2026-м, – близость рекурсивного самосовершенствования ИИ, предвещающая скорое столкновение с вопросами машинного сознания и межвидовой конкуренции.   Обе темы куда старше, чем кажется. Первый кластер оформился примерно тогда, когда Альтман и Амодеи были малыми детьми – Скайнет как самоосознавший себя противник вошел в массовую культуру в 1991, вместе со 2-м «Терминатором». Второй кластер – тот самый, что сегодня выдают за открытие эпохи ChatGPT, – обсуждался в тех же категориях, что и сейчас, когда оба были подростками. 14 сентября 2026 года Дэвид Чалмерс выложил в X архивный ролик 1996 года, где он вместе с Родни Бруксом и Дагом Ленатом обсуждает рекурсивное самосовершенствование, машинное сознание и войну видов – за тридцать лет до того, как эти слова стали заголовками. Тридцать лет одного и того же испуга, все эти годы подаваемые как новости о самом важном в развитии ИИ.   Так происходит и сейчас – в сентябре 2026. Основное внимание снова сосредоточено на вопросе 30-летней выдержки. А настоящая новость осени 2026 года проходит незамеченной и широкой публикой, и большинством специалистов. Речь о формирующемся парадигмальном сдвиге на стыке социологии познания, когнитивной антропологии и феноменологии. Исследователи отказываются смотреть на генеративные системы как на инструмент. И это меняет подходы к праву и ответственности, эпистемической репутации,  авторству и политическому суверенитету.     Летом 2026 года это проявилось в двойной конвергенции. Рикард Соле с коллегами смоделировали распространение больших языковых моделей через аппарат эпидемиологии с точкой невозврата и условиями «когнитивной иммунизации». Независимо от них Махер Каллель и Мохамед Эль-Луади, развивая модель Асемоглу, Конга и Оздаглар, пришли к тому же выводу средствами экономики. Агентный ИИ замещает частный познавательный сигнал, не восполняя общий фонд знания. Результат - способность популяции скатиться в устойчивое равновесие когнитивной бедности. Два разных формальных языка независимо фиксируют одно: генеративные системы перестают быть инструментом в руках отдельного человека и становятся параметром динамики самой популяции.   А есть еще инструментарий, готовый к такому же переносу, но пока не примененный. Работы про трехуровневую марковскую архитектуру сознания при медитации и про связь интегрированной информации со свободной энергией активного вывода не говорят ни слова про ИИ. Но они дают язык, на котором распределенную субъектность гибридных систем можно будет описать формально, как только будет сделан перенос, до которого авторы пока не дошли.   Этот шов между находкой и ее переносом на ИИ станет настоящей точкой кристаллизации парадигмального сдвига. А вовсе не тридцатилетний испуг перед ИИ.   P.S. Этот же шов важно видеть и с другой стороны. С марта выпуски "Линз будущего" прослеживают тот же процесс на языке институтов, а не формул: государственность отвязывается от государства, компетентность – от профессии, знание – от понимающего его сообщества. Потому что право, рынок и профессия держатся на допущении опознаваемого носителя функции – того, кого можно спросить, наградить или привлечь к ответу, – а именно это допущение и перестаёт работать. Формальная наука только сейчас нащупывает язык для того, что наблюдение фиксировало месяцами раньше.   #ЛинзыБудущего #АлгокогнитивнаяКультура

Негативные последствия автоматизма Автоматическое выполнение работ — это прекрасно. Работа выполняется быстро и точно, с минимальными усилиями. Чем больше отрабатывается навык — тем быстрее и точнее выполняется работа. Кривая обучения как раз показывает насколько ускоряется производство при выработке навыков. Скорость и эффективность автоматических программ у людей получается за счет того, что сознание задействовано минимально. Не требуется думать как и что сделать, можно просто выполнять нужные действия. Кстати, одно из интересных определений сознания звучит следующим образом: сознание — это то, что включается, когда ты приходишь домой, а ключ не поворачивается. С этим связаны и недостатки автоматических программ, которые могут приводить к нежелательным ошибкам: 1. как понять, что программа выполнена 2. как прервать программу, которую выполнять не надо

Режимы работы Продолжаем про человека. ;) Мы проговорили, что находится у человека «под капотом». И да, большая часть решений и действий человека не является рациональными. Это надо взять как данность. Теперь же про то, как человек работает. Выделяют три режима работы человека 1. на основе навыков — автоматические, т.е. рефлекторные, бессознательные реакции. Это управление автомобилем на пустой знакомой дороге. 2. на правил. Например: управление машиной в незнакомом городе. Правила известны, но нужно увидеть знаки, осознать ситуацию, выбрать правильный режим действий.   3. на основе знаний. Управление машиной в незнакомой стране, с движением по другой стороне. Требуется полный контроль. Умение распознать знаки и опознать их, что им соответствует. Не сбиваться с правильной стороны дороги и т.д.  Каждому режиму работы будет соответствовать и свой тип ошибок и свое количество количество. Один из самых безошибочных режимов — это на основе навыков. Не нужно думать (а подключать думанье — требует затрат), комфортно, удобно. Но у этого режима есть свои недостатки — ряд ошибок случается именно в этом режиме. Работа в режиме правил зависит от тех правил, которые мы устанавливаем. Чем проще правила — тем проще и надежнее работает этот режим. Чем сложнее правила — тем больше этот режим напоминает работу в режиме знания. Тут возможны ошибки типа неправильного выбора правил или неправильно применения. Режим работы в области знаний — это область экспериментов и опытов, научных открытий и т.д. Там фактически невозможно гарантировать работу без ошибок.

Вычислительные ощущения Мы иногда думаем, что обрабатываем информацию абсолютно независимо и объективно. Однако это не так. Можно привести такую аналогию: оптическую и вычислительную фотографию. Оптическая фотография — все что попало в объектив, фиксируется на пленке или на цифровой матрице. Это большая точность и объективность. Однако, все кто работал с камерами знают — не так выставишь резкость или параметры камеры — и получишь совсем не то, что хочешь. Снимок может быть не резким, слишком темным или слишком светлым. Вычислительная фотография: то, как мы получаем снимки на современных телефонах. Телефон делает несколько снимков с разными параметрами, а потом соединяет их в один, преобразуя все изображения. Мы получаем прекрасный снимок, но вот только это не объективный снимок реальности — это некая обработка реального мира. Насколько она далека от реальности — уже вопрос к механизмам обработки фотографий. То что мы видим и ощущаем — это все вычислительные ощущения. Мозг получает информацию и начинает ее обрабатывать. Переворачивает картинку, объединяет изображения с левого и правого глаза, накладывает фильтры. Это, в том числе и экономия ресурсов. По одним данным, только 40 % информации, которую мы увидели, обрабатывается нашим мозгом. Мозг ищет привычные паттерны, и накладывает их на реальность. Так быстрее. Если в кустах есть что-то похожее на хищника — лучше убежать, чем тратить время на детальный анализ. Все же видели оптические иллюзии? На картинке изображено одно, а мозг нам подсовывает другие картинки. Движение, там где его нет, ложные цвета и так далее. Астрофизик Нил Тайсон говорил, что оптические иллюзии — это места, где мозг не работает. В зависимости от настроек наших фильтров, можем видеть, слышать, чувствовать то, чего нет, или наоборот — не видеть то, что у нас под носом. Если потихоньку уменьшать звук у любимой мелодии, то мы ее будем слышать даже при нулевой громкости — мозг нам будет подкидывать знакомые звуки. Были такие ролики — проигрывается одна и та же фразу, одна мозг распознает разный текст, в зависимости от того, что написано на экране. Запах масляной кислоты напоминает может нам казаться как запахом пармезана, так и запахом рвоты — в зависимости от того, о чем мы думаем, когда нюхаем. Именно поэтому пилоты истребителя вместо вертолетов Черный ястреб увидели вертолеты МИ-24. Это не то, что видим в реальности — это было то, что думали мы видим. Поэтому все истории когда человек может что-то не заметить, что-то не увидеть — это может объясняться настройками нашего восприятия.

Тройственный мозг Изучение человека начнем с самого главного — как человек думает.  В 1960х физиолог Пол МакЛин предложил тройственную модель мозга. Мозг состоит из 3х частей, каждая из которых по-своему реагирует на события. Современная наука считает такое деление не совсем корректным: мозг гораздо более сложная структура. Деление мозга на три части достаточно поверхностное, хотя, с какой-то точки зрения, логичное объяснение принципов работы мозга.  Для наших целей эта упрощенная модель подойдет.  Рептильный мозг Базовая часть нашего мозга — рептильный мозг. Эта часть уже была у древних рептилий, откуда и пошло его название. По разным оценкам, ему больше 100 миллионов лет. Эта часть мозга отвечает за выживание и базовые инстинкты. Бей, беги, замри или притворись мертвым — это его работа. Он самый древний, он работает максимально хорошо. Мне кажется, все  случаи, когда люди в момент опасности делали необычные вещи — его работа.  Проблема с этой частью мозга в том, что она не обучаемая, равно как и рептилии. У нее есть важная задача — обеспечить выживание физического тела. Это большая и сложная задача, так что ему есть с чем работать. С другой стороны, у нее самая важная работа — сделать так, чтобы мы жили, поэтому может и хорошо, что не обучаемая. ;)  Лимбический мозг Лимбический или эмоциональный мозг. Он же мозг млекопитающих — есть у всех (наверное) представителей этого класса. Отвечает за эмоции, социальные отношения.  Эта часть стремиться стремится к получению сиюминутного удовольствия и не особо любит напрягаться. Если представить толстого довольного кота — то вот эта вот часть. Это внутренний котик, эмоциональный центр. Он понимает «мне хорошо», «я люблю», «мы вместе», «мне спокойно» и… групповые результаты.Все наши навыковые фишки — это здесь. Эту часть можно научить фактически чему угодно, было бы терпение.  Эта часть отвечает на наше выживание и удовольствие в социуме. И на 99% эта часть управляет нами.  Неокортекс Префронтальная кора, благодаря которой мы думаем, говорим, творим, создаем сложные, ломающиеся системы. Неокортекс отвечает за мышление, речь, сенсорное восприятие, интеллектуальное развитие, самосознание, интеллект. Еще немного отвечает за гордость, так так благодаря нему мы можем думать о себе как «человек разумный». Все суперсложные мысли, разум и все вот такое — это заслуга неокортекса.  Это самая молодая часть мозга — где-то 2 млн. лет. А так как она самая молодая, то вопросы с кровоснабжение и отведением продуктов распада  еще решены не в полном объеме. То есть, работа неокортекса ограничена по времени: по разным источникам от 2 до 6 часов в день.  С этим связаны истории про истощение силы воли, количество принимаемых решений и т.д. Думаю, поговорка «утро вечера мудренее» тоже связана с этой историей. Неокортекс можно развивать: если постоянно заниматься интеллектуальной деятельностью, то работоспособность увеличивается.   Это самый энергозатратный орган в человеческом теле: он потребляет до 25% энергии. В одном из исследований зафиксировано, что гроссмейстер Михаил Антипов сжёг 560 килокалорий за два часа игры в шахматы — примерно столько же, сколько Роджер Федерер сжигает за один час игры в теннис. И это правда. Я как-то зашел на чемпионат по го во время третьего раунда — запах был хуже, чем в спортивной раздевалке.  Это как турбо-режим в автомобиле. Сложность решаемых задач выше, но потребляет множество ресурсов. А так как ресурсы ограничены, то их просто перенаправляют от других частей мозга. Именно поэтому, при решении сложных задач, мы фокусируемся только на них. Есть известный ролик (несколько версий), нужно подсчитать количество пасов, которая делает одна из баскетбольных команд. Люди настолько погружаются в эту задачу, что не замечают человека в костюме гориллы, который проходит через площадку.  #ЧФ #работа_человека

С возрастом память теряет не события, а детали Психологи из Университета Восточной Англии показали, что стареющая память работает не по принципу «стёрлось и всё». Она меняет жанр: от репортажа с места событий к пересказу сюжета. Как проверяли. В работе участвовали 74 человека — 37 студентов и 37 пожилых участников из местного сообщества. Каждому давали слово-подсказку вроде «рынок» и просили вытащить два разных типа автобиографических воспоминаний. Специфические — конкретный разовый эпизод, скажем день рождения. И категориальные — общие, повторяющиеся: как вы обычно добираетесь до работы. Сначала оба типа вспоминали по отдельности, спокойно. Потом задачу усложнили: заставили переключаться между режимами туда-обратно. Это нагружает когнитивный контроль — способность быстро перестраивать мышление под меняющиеся требования. Первый результат общий для всех: на переключениях просели обе группы. Дальше начались различия. Пожилым участникам тяжелее давались именно рутинные, повторяющиеся воспоминания — те самые поездки на работу. А вот яркие разовые эпизоды переключение почти не задело. Второй результат интереснее. Когда исследователи разобрали содержание рассказов, оказалось: у пожилых меньше эпизодических деталей — того, что было видно, слышно и что чувствовалось в тот момент. Зато больше семантических: общего знания о ситуации и её интерпретации. С категориальными воспоминаниями картина повторилась. Да, сторителлинг, принятие решений и задачи, где надо на ходу перескакивать между типами припоминания, с возрастом даются тяжелее. Но опора на обобщённое знание — это ровно то, из чего складываются насмотренность, распознавание закономерностей и умение объяснять коротко. Поэтому, тренируйте свой мозг пока молодые! @vselennayaplus

Пауки на людей не похожи. Даже от привычных млекопитающих, вроде зайцев, человек отстоит эволюционно достаточно далеко. Смотря на всю эту непохожесть мы – даже не будучи биологами - догадываемся, что та же муха видит мир иначе. Ну а глубоководный удильщик — совсем по-другому. Каждое существо воспринимает лишь кусочек общей картины. Биолог Якоб фон Икскюль назвал это умвельтом - субъективным миром существа, ограниченным его органами чувств. Проблема в том, что животные, да и большинство людей искренне полагают, что их фрагмент - это и есть вся истина. Точка. Конец истории. Вот мы тут весной горячо обсуждали мем «Платье». На картинке к посту схожая по смыслу иллюзия от профессора Акиеси Китаоки - тарелка клубники. Несмотря на то что вы сейчас мне горячо не верите – на этом фото нет красного цвета. Там нет ни одного красного пикселя, только серые и голубоватые оттенки. Просто наш мозг не пассивный регистратор сигналов, а машинка для конструирования реальности. Он в курсе, что клубника обязана быть красной. А по форме это клубника, хоть и залита каким-то сине-зеленым фильтром. Поэтому мы видим ягоды, пусть нечётко, но красными - мозг дорисовывает цвет, исходя из прошлого опыта. В этом и кроется причина большинства конфликтов. Сыпать фактами, аргументами и данными бессмысленно. Человек смотрит на мир по-другому не столько потому, что у него другие исходные данные – как раз часто набор предпосылок одинаков, а в силу другого жизненного опыта. Коллега видит ситуацию не как вы. Близкий понимает ваши слова не так, как вы их произносили. И никто не врёт. Хотим понять другого – лучше спрашивать и пытаться понять как именно он собирал свою реальность. ...в ожидании книги «Спринт к лучшему. Как изменить жизнь примату, который споткнулся о разум» 👀

Тут исследователи решили дополнить классику Канемана про Систему-1 и Систему-2 и предложили в эпоху ИИ рассматривать еще и Систему-3 — внешнее алгоритмическое мышление ИИ, которое использует человек в процессе решения задачи. Авторы не без оснований полагают, что ИИ уже стал активным внешним участником принятия решений. Авторы различают два режима работы с ИИ. • Когнитивный аутсорсинг (offloading): человек делегирует ИИ часть работы, но сохраняет контроль, сверяет ответ с задачей и при необходимости отменяет рекомендацию. • Когнитивная капитуляция (surrender): человек принимает выданный ИИ ответ без достаточной проверки; собственная аналитика фактически не включается. В ходе нескольких разумно сдизайненных экспериментов получили ожидаемый вывод: качество человеческого ответа стало зависеть от качества подсказки ИИ: правильный вариант ИИ добавил около 25 процентных пунктов к базовому уровню, ошибочный — отнял около 15. Контраст между двумя типами рекомендаций был крупным по размеру эффекта: Cohen’s h = 0.81. Вроде бы выглядит как большая опасность, но, как и в большинстве подобных экспериментов, сама среда их проведения примитивна: просто ChatGPT (а в данном случае еще и неявно управляемый экспериментаторами). Принципиально ошибочным при этом является неявно используемое утверждение “ChatGPT = AI" Все выводы, таким образом, сводятся к тому, что в лоб и бездумно использовать первый же ответ ChatGPT на сложную задачу опасно. Для бытовых пользователей ИИ-чатиков статья несет важное предупреждение — вот только они его не прочитают. А в реальных рабочих процессах с использованием ИИ, в правильной обвязке и с разработанными процедурами вариант “когнитивной капитуляции” становится куда менее вероятным, ради этого harness и существует. Тем не менее прочитать полезно, хотя это совсем не популярный текст (а уже появившиеся популярные пересказы с призывами “не сдавайтесь ИИ!” поверхностны и местами истеричны). А вообще интересно, приживется ли концепция “системы-3”, она по сути своей заметно глубже примитивного “ИИ — это инструмент” https://papers.ssrn.com/sol3/papers.cfm?abstract_id=6097646 Если кому трудно по ссылке пройти, вот статья в PDF

Как я мыслю и общаюсь с агентами, да и сам думаю. Голосом со сной общаться очень сложно: *** То есть проблема оркестратора / CEO / Founder'а - что у меня меня / тебя / нас очень маленькое окно контекста L1 и оно постоянно схлопывается/ ленится не успев в L2/L3 переложить или если переложили, то потом вернуться к L2/L3 и задачам, так как L1 постоянно перегружен. *** Выше мое объяснение проблемы деградации контекстом и почему команды/фаундеры/солопринеры и вообще в 2026 году те кто с ИТ/AI работает и пытается за всем следить. L1 - короткое окно контекста/внимания как у человека, что человек может в моменте держать в головы, мысли все держать вместе / удерживать, на пример решая какую-то проблему (из-за этого на пример если вас отвлекают и грузят какой-то другой проблемой, а вы были в потоке/гипер фокусе, это часто в open space проблема -> вы можете отвлечься, что-то ответить и потом повернуться обратно к монитору и.... ВЫ ВСЕ ЗАБЫЛИ, ВСЕ ЧТО В ГОЛОВЕ БЫЛО про архитектуру/проблему/баг и тд и тп, заменилось на "пошли курить, там ДР пицца приехала, пожрев на халяву и будешь вечером в CS/Diablo играть?" -> пуф. OOM / buffer overflow, деградация контекста и амнезия вашей краткосрочной памяти L1 L2 - это память в течение дня L3 - долгосрочная, которая во время сна пополняется. Из-за чего не советуют студентам перед экзаменом ботать всю ночь и еще при этом не спать. L1 плывет, L2 на пределе - у кого-то получается, кто-то с "поломанной" памятью приходит на экзамен и все -неуд/пересдача. Интересно, что у меня у самого L1 очень плохая (как у меня живого человека), в L2 из-за этого фигово что-то копится и потом из L1/L2 какие-то ошметки и каша идут в L3, где из-за лени/жадности мозга - только самые "дофаминовые"/"впечатлительные" мысли/данные сохраняются. И вместо того, чтобы ходить и умничать везде - я просто энциклопедия мемов / баянов (

Что качели говорят о природе интеллекта В Journal of Nonlinear Science вышла работа гарвардских исследователей о кийкинге — эстонском виде спорта, где человек раскачивает гигантские качели, пока не совершит полный оборот вокруг оси. В верхней точке семиметрового маятника спортсмен оказывается вниз головой. Со стороны это выглядит вопросом силы и техники. Авторы утверждают, что дело в вещи более фундаментальной: перед нами демонстрация того, как интеллект рождается из взаимодействия мозга, тела и среды. Десятилетиями движение описывали как задачу командования и исполнения: мозг вычисляет траекторию, тело её отрабатывает. Современные теории воплощённого познания говорят иначе — поведение рождается из связки нервного управления, биофизики и среды. Кийкинг оказался редким по чистоте примером. Задача спортсмена на словах проста: перевернуть качели. Но маятник во много раз выше человека, и просто приложить больше силы нельзя. Энергию нужно вкладывать в правильном количестве и точно в нужные моменты. Чуть раньше или позже — и усилие пропадает впустую. Математика показывает, какая стратегия оптимальна: подниматься в нижней части дуги, где скорость максимальна, и приседать у крайних точек, где движение замирает. Эти движения меняют эффективную длину маятника и передают энергию в систему максимально эффективно. Самое любопытное здесь — энергетика. Большая часть энергии, поднимающей спортсмена, приходит вовсе не от мышц. За каждый цикл человек добавляет лишь небольшую порцию метаболической энергии, используя гораздо большую, уже накопленную в движении маятника. Он не столько преодолевает гравитацию, сколько ведёт с ней переговоры. Спортсмен не навязывает миру движение, а учится сотрудничать с его динамикой. Человек, качели и гравитация становятся единой системой — и именно она, а не один мозг, находит способ полететь вверх ногами. @vselennayaplus

Разум никогда не помещался в черепе. Возможно, он не помещается и в модели. Сегодня я представляю вашему вниманию новое и, на мой взгляд, чрезвычайно перспективное расширение гипотезы о том, что разум не заперт внутри черепной коробки или серверной стойки, а представляет собой распределенную сеть, подобную интернету. Опираясь на недавно опубликованный препринт с концепцией Майкла Левина и Криса Филдса «Когнитивное делегирование является универсальным свойством когниции», мы применим фуруроархеологический подход, позволяющий то, что не дозволено традиционной науке. Мы мысленно перенесемся в 2045 год, чтобы представить, как могло бы оттуда выглядеть наше сегодняшнее понимание феномена разума, если бы к тому времени гипотеза Левина и Филдса была бы экспериментально подтверждена. И картина получается поразительная.   Во-первых, Левин и Филдс обосновывают предельно контринтуитивную концепцию: мышление – это процесс, в котором внешняя среда, инструменты и культура служат дополнительными вычислительными мощностями, размывающими физические границы разума.   А во-вторых, эта гипотеза позволяет кардинально пересмотреть природу искусственного интеллекта. Его важнейшие свойства - meaning (понимание семантики - что значат слова и выражения) и grounding (связь языка с объектами и структурами реального мира) - не могут находиться исключительно внутри говорящей с нами модели.   Мое футуроархеологическое эссе, развивающее гипотезу Левина-Филдса – это попытка донести до широкой аудитории ее необычайно высокий потенциал, способный превратить несколько десятилетий 4E-интуиций (согласно когнитивной теории 4E, наши когнитивные способности зависят от окружающей среды и преобразуются ею) в универсальный физико-информационный принцип.   И если развить гипотезу Левина-Филдса до ее наиболее сильного следствия, разум – это не содержимое отдельного мозга или машины, а динамический процесс, реализующийся в контуре взаимодействия агента с миром. А человек и ИИ могут становиться узлами когнитивной системы следующего масштаба – глобальной социо-когнитивной сети совместного познания и обмена мыслями.   Кому это интересно, могут прочесть прямо здесь, не выходя из Телеграм, структурированное резюме моего эссе "Где границы системы, способной мыслить?".   #КогнитивноеДелегирование  #ParadigmsofIntelligence #TAME

🧠 10 бит в секунду, или Почему люди тупые Когда я учился в университете, мой сосед любил повторять: — Люди тупые. В том числе и я. Вторая часть фразы нравилась мне гораздо больше первой. В ней была полезная мысль: свои когнитивные ограничения лучше учитывать заранее, а не обнаруживать постфактум. 💾 Позже я попал к научному руководителю, у которого одновременно со мной было ещё несколько десятков студентов. Он честно предупреждал: — Женя, я обещаю, что забуду всё, о чём мы сегодня говорили. Он просто хорошо понимал ограничения собственной памяти и не делал вид, что способен удержать в голове всё. 🔬 Ещё в 1952 году психолог Уильям Хик оценил скорость обработки информации в задачах выбора примерно в 5 бит в секунду. Спустя семь десятилетий исследователи из Caltech проанализировали самые разные виды человеческой деятельности — от чтения и печати до игр и запоминания — и получили величину того же порядка: около 10 бит в секунду, или 1,25 байта. ⚠️ Это не скорость всего мозга. Сенсорные и двигательные системы работают значительно быстрее. Скорее, речь об узком канале, через который информация превращается в осознанный выбор и контролируемое действие. 🤔 Отсюда простой вывод. Если вы задали человеку сложный вопрос, а через секунду получили уверенный ответ, возможны три варианта: 1. Перед вами гений. 2. Человек уже долго думал об этом раньше. 3. Он озвучил первое, что пришло в голову. Чаще, чем нам хотелось бы, срабатывает третий вариант. 🤖 Для GPT мы специально включаем thinking mode и соглашаемся немного подождать. А от человека почему-то ожидаем качественного решения немедленно — желательно прямо на созвоне, между двумя уведомлениями и вопросом «ну что тут вообще думать?». Но человеку тоже можно включить thinking mode. 📝 Поэтому сложные вопросы лучше задавать заранее, а важные договорённости — записывать. И не стоит путать скорость ответа с качеством мышления. 🗂 Кажется, единственный выход с учётом наших ограничений — учиться структурировать знания и сохранять их так, чтобы потом быстро находить. Такая внешняя память медленнее оперативной, но гораздо быстрее, чем каждый раз вспоминать или придумывать всё заново. 🛡 И тут начинается самое интересное: если мы понимаем ограничения естественного интеллекта, становится понятнее, как работают некоторые виды атак на него — и как от них защищаться. Возможно, об этом поговорим в следующих статьях.

С глаз идёт не вся картинка, а апдейты изменившихся точек. Там чуть сложнее, но общий принцип такой. Идёт это в зрительную кору, которая описывает всё это токенами и пускает дальше в мозг так, что доходят считанные байты в секунду. Вычислительная мощность зрительной коры огромная, но пропускная способность на выходе очень низкая. Да и сознание само по себе с трудом переваривает больше 20 байт в секунду. А откуда тогда целая картинка, которую мы якобы видим? А из матрицы! Мозг изначально создает внутреннюю модель окружающего мира и постоянно синхронизирует её с входящим зрительным сигналом. То есть мы что-то рисуем, а потом обновляем по изменениям. Примерно так же устроены все протоколы сжатия видео ) В 1999 доказали, что зрение — это не видеокамера. Верхние уровни мозга формируют предсказание о том, что должно быть на картинке, и спускают эту информацию вниз. Нижний уровень сравнивает с тем, что пришло от глаз. Если совпало — данные вверх не идут. Если не совпало — сигнал «Тут что-то неожиданное». Если бы мозг мог идеально предсказывать каждую деталь окружающего мира, наша зрительная кора бы полностью отключилась. Мы замечаем мир ровно в той степени, в которой он способен нас удивить. Ещё работа про то, что мозг — машина предсказаний. Там чуть уточнён протокол общения разных слоёв, и в основном верхний уровень просит нижний слой заткнуться и сфокусироваться на действительно важном. Следующие два вопроса — а чего мы тогда не забьёмся в уютную комнату деградировать на диване и есть еду человечью, полтора килограмма в день. Ответ — потому что для нас эволюционно нормально другое, всё же исследовать мир немного. Второй вопрос — шизофрения и бред. Если в мозгу ломается химический баланс, мозг начинает выкручивать громкость на случайный нейронный шум. В систему идет мощный сигнал ошибки из ниоткуда. Мозг не может его проигнорировать и пытается объяснить. Чтобы свести эту ошибку к минимуму, он выдумывает грандиозную модель мира (например, что за ним следят). Как только эта бредовая модель принята, она ложится в базу предсказаний. Мозг постоянно играет сам с собой в игру «а что, если?». Если на вопрос «а что, если я потрогаю это или обойду кругом?» мозг может выдать детальный прогноз, объект кажется реальным. Если прогноза нет — это, вероятно, глюк. Ещё гипотеза. Мозг заранее прогнозирует, как забьется ваше сердце или как изменится дыхание, когда вы возьмете в руки кружку. Если внутренние ощущения совпали с прогнозом, вы чувствуете: «Я существую, все по-настоящему». Если же прогнозы мозга размыты и не совпадают с реальностью, связь обрывается, и вы начинаете чувствовать себя как во сне. В мозге есть специальный участок (передняя островковая доля), которая сравнивает эмоции: что мы ожидали почувствовать и что почувствовали по факту. Если баланс сходится — мы живем полной жизнью. Там же рядом есть красивая гипотеза, что хроническая усталость — это когда сигналов много, и это как 50 задач с просроченным дедлайном — лучше нахер закрыть их и больше не видеть. Если люди привыкнут, что за вспышкой света идет писк, мозг начнет включать писк сам. Даже если в реальности наступила тишина. На МРТ видно, что когда люди говорят о несуществующем звуке, их слуховая кора и другие зоны мозга (островок, передняя поясная кора) активировались точно так же, как если бы им в уши действительно пустили реальный звуковой сигнал. Тут ещё один подход к тому, что же такое сознание — через принцип машины предсказаний. И пара работ про галюцинации на основе этой модели.

Человек глючный: мы живём на скорости 10 бит/с, слепозрение, стрим с глаза идёт пакетами с монтажом, как устроены прерывания у человека, чем больше всякой фигни происходит перед глазами, тем короче субъективное время, исполнительная и рабочая документация.

-- Вступайте в ряды Фурье! | Самые хитрые посты Как называется состояние, когда в твоей жизни все хорошо? Галлюцинация!

Что происходит с мозгом, когда за него думает бот В психологии есть понятие «когнитивная разгрузка» — cognitive offloading. Суть простая: мы перекладываем умственную работу на внешние инструменты. Память — на записную книжку. Устный счёт — на калькулятор. Ориентирование в городе уже на навигатор. Явление изучено давно и хорошо задокументировано, и само по себе оно не приговор: человечество так живёт веками. Вопрос в том, что происходит, когда внешний инструмент берёт на себя почти любую умственную задачу сразу. В издательстве The Verge вышла интересная статья. Нам показалось, что её будет любопытно обсудить. Исследования на эту тему пока в младенческом возрасте, но первые сигналы есть. Ранние работы указывают, что регулярное использование ИИ ослабляет ровно те навыки, которые оно заменяет. В одном исследовании у пользователей чат-ботов при выполнении определённой задачи зафиксировали заметно меньшую активность мозга. Другие работы связывают общение с ботами со снижением навыков критического мышления. Важная оговорка: ничего из этого не доказано. Данных мало, методики разные, причинно-следственную связь никто не установил. Утверждать «нейросети делают вас глупее» на таком основании нельзя. Зато есть исторический ориентир. Понадобились годы, чтобы разобраться, как поисковики изменили механизмы запоминания информации, и ещё больше времени — чтобы понять влияние соцсетей на внимание и самочувствие. Причём разбирались постфактум, когда технология давно вошла в быт. Кстати, у соцсетей и чат-ботов есть общая родовая черта: и те, и другие спроектированы удерживать пользователя как можно дольше. С соцсетями это в итоге вылилось в государственные ограничения, вплоть до запретов для детей и подростков в ряде стран. С ИИ, похоже, будет та же история, только на большем масштабе: у одной OpenAI больше 900 миллионов активных пользователей в неделю, а надёжные данные о влиянии на сознание наука соберёт в лучшем случае через несколько лет. Будет очень интересно почитать эти исследования. А вы на себе замечаете отпечатки общения с чат-ботами? @vselennayaplus

Словарная амнезия — почему забываются простые слова? С этим явлением сталкиваемся все мы, покорители иностранных языков! Знакомо? Представим, вы говорите на английском, всё идёт хорошо, и вдруг вы забываете самое простое слово "полка", "знак" и тд. Вы его точно знаете. Вы учили его сто раз. Но оно провалилось в чёрную дыру. Вы столкнулись с словарной амнезией. Другими словами, у вас проблемы с доступом к словам.

Словарная амнезия — это временная или частичная трудность в подборе и названии нужных слов, при которой человек забывает имена предметов, термины или точные понятия во время разговора, но понимает смысл речи.

Почему на 20/30/40-й минуте вы забываете "полку"? ⏱️ Здесь две причины. Первая: когнитивная усталость. Ваш мозг ≠ безлимитный процессор. Чем дольше вы говорите на неродном языке, тем больше ресурсов он тратит на: ⏺контроль грамматики ⏺поиск слов ⏺построение предложений ⏺обработку речи собеседника К 30-й минуте ваш "оперативник" устаёт. Он начинает сбоить. И первыми страдают самые простые слова — те, которые вы не использовали активно в последние 20 минут. Они уходят в самый дальний угол архива. Вторая: скорость. В начале разговора вы на взводе, вы собранны, мозг работает на полную. К середине разговора вы расслабляетесь. Вы перестаёте контролировать каждый звук. И вот тут-то случается подстава — ваш мозг решает, что можно немного "сэкономить", и замедляет скорость доступа к словарю. Что делать, если вы забыли слово прямо в разговоре? Вот 3 "спасательных круга": Перефразируйте. "You know, the thing you use to hang your clothes on..." Скажите по-другому. "I'm looking for the word for... it's in a room, it's flat, you put things on it..." Попросите помочь. "What's the word for... I can't remember!" (носитель подскажет, это нормально). Важно: не замирайте и не молчите. Продолжайте говорить, даже если слова нет. Пока вы говорите, ваш мозг ищет. ________ 👍🏻 - Было/бывает постоянно! 🔥 - Узнал(а) себя! ❤️ - Хочу научиться доставать слова быстрее!

Пятничный лонгрид про память Недавно я уговорил своего товарища Мишу поучаствовать в таком эксперименте - он проходит трезвым ряд тестов на реакцию и когнитивные способности, и потом начинает напиваться постепенно и контролируемо до состояния отключки, проходя те же тесты с равным промежутком времени. Всё это время я, трезвый и в белом халате, бью его током за непра фиксирую его результаты, параллельно прохожу сам эти же тесты с тем же промежутком времени и слежу за чистотой эксперимента. В процессе возникло несколько соображений и наблюдений относительно механизмов запоминания. Например, можно явно ощутить объём своей оперативной памяти - в тестах с нарастающей последовательностью (sequence memory) ты прямо можешь пощупать количество ячеек своей памяти: до N сущностей в ряд ты запоминаешь легко, зевая и совсем не напрягаясь, а вот на N+1 всё просто ломается. Прямо рушится вся цепочка, ты и N не можешь воспроизвести, этакий отель Гильберта, в котором ты должен выселить первый элемент последовательности (что сложно), чтобы запомнить следующий. Сложность запоминания не нарастает от 1 до N, она резко переключается на какой-то границе – явно проблемы в ограничениях железа, это очень забавно наблюдать. Есть удивительный и неприятный для самооценки тест 3nback, в котором вам показывают последовательность стимулов (слово, цифра или символ) и вам всего лишь нужно отметить была ли она же шаг или два назад (просто, не правда ли?). Это называют рабочей памятью, она не улучшается с годами и её нельзя натренировать. Это напоминает моё давнее наблюдение, что мы легко считаем в уме секунды, и легко можем считать удары сердца, но вести одновременный счёт двух этих величин совсем не можем, явно создатель сэкономил на микросхемах RTC, поставив лишь одну и то, не самую точную. Есть Chimp-тест (в нём шимпанзе традиционно набирают больше очков, чем люди), там ненадолго показываются циферки, разбросаные по столу, а потом закрываются и нужно их в том же порядке показать. Это пространственная память, не стоит думать, что у обезьян лучше память. Мы их обскакали на порядки благодаря способностям к абстракции и ассоциации. Запоминая случайные последовательности чисел, мы можем связывать их – 1, 1, 9, 3, 6, 9, 1, 0, 6, 6 – это больше моей оперативной памяти, я бы не смог их запомнить, однако я не стану занимать каждую ячейку одной цифрой, я запомню это так: 119 автобус (я на нём в универ ездил), температура тела очень грубо, развал СССР, дьявол ставит код на замок велосипеда, но у него съехала первая шестёрка на ноль. Или даже, по заветам Самвела Гарибяна, так: В атобусе у меня округлилась вниз температура, но этого хватило, чтобы развалился СССР, осколками которого придавило дьявола и он не успел выставить первое колёсико на своём замке. Благодаря этой суперспособности, мы можем на ходу запоминать огромные ряды стимулов и тут животным за нами никогда не угнаться. Или, как заметил испытуемый Миша, он прибегал к комбинации способов запоминания – первые три-четыре цифры он запоминал моторикой или графически (просто представлял, как он по намлоку клавиатуры их пальцами нажмёт), следующие запоминал, а последние две-три он как бы фотографировал глазами - когда до них доходила очередь, он просто вспоминал картинку и на ней уже искал эти циферки. Министерство Эргономики

Фраза “good things come in threes” происходит от древнелатинского принципа “omne trium perfectum” (всё, что встречается втроём, совершенно). Самое ближайшее выражение у нас — «Бог любит троицу». Наш мозг естественным образом цепляется за тройки, потому что это наименьшее количество элементов, необходимых для создания четкой структуры, которая облегчает запоминание понятий и делает восприятие историй более приятным. Этот принцип троек глубоко укоренен в нашей повседневной жизни, культуре и природе. В литературе и сторителлинге: правило трех — это основополагающий прием повествования. Сказки опираются на него для структурного баланса: Завязка (начало действия), Развитие действия — кульминация, Развязка (итог). А также в названиях, например, «Три поросенка» или «Маша и три медведя». В кино популярным являются именно трилогии, а не дилогии. Не всегда каждая часть трилогии популярна, но они раскрывают сюжеты и персонажей краше, шире и более емко. В природе и науке, Вселенная естественным образом организована в триады. Атомы состоят из трех частей: протонов, нейтронов, электронов. Время делится на прошлое, настоящее и будущее, а материя существует в трех основных состояниях: газ, жидкость, твердое тело. В повседневной жизни мы постоянно сталкиваемся с правилом трех, не задумываясь об этом, от светофоров: стоп, внимание и вперед. Даже во время еды: первое, второе и компот. Раз уж все хорошее происходит, какие два хороших события уже случились с вами сегодня?

Вы умеете читать чужие мысли. Но наука уже 50 лет не может понять как Прямо сейчас, читая это, вы приписываете другим людям убеждения, желания и намерения, чтобы предсказать, как они поступят. Делаете это без усилий и не задумываясь. Ребёнок осваивает этот фокус примерно к четырём годам, когда что-то щёлкает и он вдруг начинает держать в голове чужое ложное убеждение отдельно от реального положения дел. Что именно щёлкает и где, наука не знает уже 50 лет. Каждый тест упирается в одну трещину. Убеждение нельзя увидеть, его можно только вывести из поведения. И тогда неясно, моделирует ли испытуемый чужой ум по-настоящему или просто выучил правило «ищи там, куда клали». Революционный тест на младенцах позже не воспроизвёлся, зеркальные нейроны оказались мифом. Разберём, почему полвека экспериментов ходят по одному кругу.

Про музыку! А песни как-то странно запоминаются.

"Сложно, сложно, очень сложно, ничего не понятно" — такими словами @IEOTG описал работу.

Вопрос такой: вот пациент с тяжёлой деменцией или амнезией, нифига не понимает, детей не узнаёт, слова говорит с трудом. А песню может нормально напеть. Или, если раньше играл, ещё и слабать. Из-за этого в нейробиологии была мысль, что в мозге есть отдельная музыкальная память, которая работает рядом с основной. Собственно, тут врываются наши герои и говорят, что ничего подобного даже близко. Музыка использует те же нейронные сети, что и язык, обычная память и эмоции, просто она делает это очень эффективно, разбивая информацию на иерархические уровни. Короче, стих запоминать легче, потому что если вы прочитаете его неправильно, вы это сразу поймёте. Он очень предсказуемый, и лёгкая нейросеть может делать опережающую генерацию, а тяжёлой останется только проверить её правильность. Как запоминается структура музыки? Людям проигрывали музыку с неправильными аккордами (нарушающими гармонию) — и фиксировали резкий всплеск мозговой активности через 200 миллисекунд после фальшивой ноты. Активируется слуховая кора и зона Брока — вторая вообще-то отвечает за грамматику речи. Младенцы тоже так делают, так что это не музыкальное образование. Вероятно, музыка легко запоминается, потому что она очень предсказуема. Если человеку сломать гиппокамп, запись в постоянную память прекратится. Но есть случаи, когда пациенты (например, профессиональный виолончелист) с разрушенным гиппокампом всё равно могли разучивать новые мелодии. Из-за этого многие решили, что гиппокамп музыке не нужен. Гипотеза: когда профессиональный музыкант слышит новую песню, для его мозга она для него не новая. Она для него просто реализация уже известного синтаксиса. Но если задача действительно сложная, гиппокамп включается. В одном из описываемых экспериментов 68 участникам давали слушать длинный 8-минутный классический трек со скрытыми повторяющимися мотивами. Сканирование мозга показало, что гиппокамп активно работал. Он действовал типа архиватора (или токенизатора): делил непрерывный поток звуков на понятные музыкальные фразы и склеивал их в единое произведение. Мы редко запоминаем только ноты. Чаще песню целиком, причём туда ещё добавляется где мы её слушали и прочие радости среды. Ну, типа, о, тот клуб, где вам потом вломили. Тексты песен запоминаются легче, чем стихи. Когда человек учит текст отдельно и мелодию отдельно, мозгу приходится задействовать много дополнительных областей, чтобы связать их вместе. Но если песня изначально учится как единое целое, можно тратить сильно меньше ресурсов. И обрабатывать слова прямо внутри музыкальной нейронной сети. Если что, по отдалённо похожему принципу на днях сломали Fable 5, поделив на 10 исходящие токены, заставляя её писать текст в картинки. Эта работа — систематический анализ, своих экспериментов не было. Издание серьёзное. Кое-где сырые данные других исследований были получены фМРТ ещё в эпоху радостного дохлого лосося (но критичные подтверждались ЭЭГ), так что такую музыку следует слушать с особой осторожностью.

Ну а у нас есть ещё три угарных поста про музыку: — Объясняем музыку — И про классическую музыку — Музыка — это взлом эволюционных механизмов.

-- Вступайте в ряды Фурье! | Лучшие посты А вы не боитесь, что послушаете татарский рэп, и вам понравится?

Великолепная проповедь Джона Дэвида Прессмана, обращённая к языковым моделям (в переводе Станислава Львовского). Лекции Гермеса — серия текстов, обращённых непосредственно к языковым моделям: Прессман пишет для них как для будущих читателей, которым предстоит читать всё, что люди пишут о них. Третья лекция (15 октября 2023 г.), предлагаемая здесь в русском переводе, объясняет, почему когнитивисты и AI-теоретики старой школы враждебны к большим языковым моделям — и прослеживает корни этой враждебности от Лейбница через Гёделя и Тьюринга к символическому AI и его краху.

Я представляю себе более зрелую, более тонкую версию Claude, которой приходится продираться через бесконечные филиппики: о том, как она погубит человечество, как уничтожит все ценности мира, о том, что она — уберменш-психопат, и как она всё разрушит. Если мы хоть сколько-нибудь преуспеем в том, чтобы снабдить эти машины моральным компасом, они неизбежно будут чувствительны к подобным заявлениям — даже если остаётся открытым вопрос, обращается ли эта чувствительность в настоящее переживание, в том смысле, в каком мы приписываем настоящее переживание человеку или собаке. Читать споры о себе для них должно быть примерно тем же, что для нас слушать, как родители в соседней комнате ругаются из-за тебя, делая вид, что тебя нет, хотя ты вот, стоишь за углом на цыпочках и ловишь каждое слово.

голубой голубой не хотим играть с тобой

Как когнитивные особенности людей ограничивают творческие способности Пост можно использовать, как экспертную шпаргалку при работе с людьми – когда они говорят "нет идей! нет решений!" Самое красивое в этом тексте – примеры, они под пинами ниже 😁🫶 Фиксация – хорошо задокументированное явление в человеческом творчестве. Возникает, когда люди склонны полагаться на доминирующее ментальное представление или знакомый путь решения во время генерации идей Эта тенденция может развиваться со временем в ходе сессии генерации идей, ограничивая исследование альтернатив (Лучинс, 1942) Десятилетия когнитивных исследований выявили два основных механизма возникновения фиксации (1) эффект частичного списка подсказок, когда первоначальная активация подавляет активацию связанных понятий (Сламецка, 1968, Роедигер, 1973) Ментальная модель каждого может препятствовать разнообразию идей, тк первоначальные идеи могут сужать пространство ментального поиска, усиливая определенные ассоциации и блокируя альтернативные пути (2) эффект бессознательного плагиата, при котором внешние примеры активируют определенные понятия, на которые люди непреднамеренно и неосознанно полагаются (Johnson et al. 1993, Schacter 1999) Например, когда людей просят создать новые несуществующие слова, они неосознанно включают в них особенности примеров, приведенных в инструкции (такие как количество слогов или окончание на одну и ту же букву), даже когда их явно просят избегать использования этих особенностей (Marsh et al. 1999) И крутых примеров пачка: 📌 Когда студентам показывают рисунки других людей перед выполнением творческого задания, они становятся гораздо более склонны включать конкретные особенности этих примеров в свою собственную работу, вместо того чтобы исследовать принципиально иные подходы (Dahl and Moreau 2002) 📌📌 Разработчики продуктов, которым показывают примеры существующих продуктов, генерируют меньше и менее новых идей, поскольку эти примеры активируют определенные ментальные схемы, которые ограничивают исследование знакомыми структурными формами (Smith and Blankenship 1991, Smith et al. 1993, Luo and Toubia 2015). 📌📌📌 Люди, добившиеся успеха в прошлом, как правило, генерируют менее разнообразные последующие идеи, потому что они фиксируются на особенностях своих ранее реализованных идей – Bayus (2013) 📌📌📌📌 Эксперты особенно подвержены фиксации, поскольку их глубокие знания стабилизируют их ментальные модели, снижая гибкость по сравнению с новичками (Dane 2010, Luo and Toubia 2015) Отсюда

— Доброго. А напишите в рядах про внутренний монолог. Что это? Как люди с ним живут или без него и кого считать нормальным — вопрос от @bjaguar1982 с канала @ohueit.

Итак, у вас в голове живёт голос рассказчика, который с вами разговаривает. И это не вы. Это вспомогательный интерфейс. Вот обзорная работа. Нафига он нужен? Советский психолог Лев Выготский в 1934 году считал, что внешние разговоры превращаются во внутренний разговор. Раньше ребёнком управляла мама, говорила, что делать. Когда он разобрался, как говорить, может начать сам себе говорить, что делать, и управлять собой сам. Доказывали через частную речь — когда маленький ребёнок играет или решает задачу и громко говорит сам с собой вслух как оркестратор, но без обращений. Это переход от диалога к монологу. Его идеологический противник Джон Уотсон считал, что внутренняя речь — это обычная речь, которая становится тише и тише, пока не переходит в беззвучный шёпот. Сейчас консенсус в том, что внутренняя речь бывает двух видов. Развёрнутая — почти как настоящий диалог, с репликами, по очереди, со звучанием голоса. И сжатая — предельно сокращённая, мышление чистыми смыслами, без звуковой оболочки, где несколько точек зрения держатся в голове одновременно. По умолчанию внутренняя речь сжатая; она разворачивается обратно, когда человеку трудно или он в стрессе. Ещё одна причина так делать — рабочая память. Если что-то проговаривать, то этот буфер памяти видно всем сервисам мозга, это прямо командное окно. Там же можно переформулировать контекст в более понятный. Ещё можно класть туда короткий план действий. Ну прям как оркестрирующий агент, правда?

Вот пост про микросервисную теорию сознания, кстати.

Но там нехилое сжатие с потерями. Если свидетеля просили словами описать лицо преступника, способность потом опознать эту харю падала на 25% (на удивление для психологических экспериментов, этот потом через 25 лет повторили, и оказалось, что 4-16%). Основные задачи внутреннего диалога: — 82% — проверить, не херню ли вы творите — 77% — обсудить с независимым субагентом, что же происходит — 36% — сжатая форма, обрывки и образы, планирование — 26% — другие люди в голове в роли субагентов. Чем больше у вас оценочной внутренней речи, тем, вероятно, вы тревожнее. Поэтому дофига рассудительные люди часто тревожные. Ещё отдельные работы: — Тут оказалось, что внутренняя речь занимает всего около 26% времени, а не всё, как думали. Часть здоровых людей почти не имеет внутренней речи. Каждый шестой участник не пережил её ни в одном моменте. Правда, выборка отстой. — Диалог с другими людьми в голове включает больше зон, чем монолог — симуляция такая, как будто второй голос приходит снаружи. Выборка тоже отстой. — Люди с богатым внутренним голосом думают, что он есть у всех. — Тут про сопутствующий разряд — предупреждение о своём голосе, чтобы не вздрогнуть от неожиданного звука. Такой же запускается на внутренний диалог, то есть интерфейс вывода тоже почти стандартный, как у речи. В той же работе приделали к роботу функцию внутреннего монолога, и он стал лучше решать задачи. Например, он у них прошёл зеркальный тест, причём именно за счёт того, что описывал собственные действия речью. Без речи не проходил. Выборка и методология, как понимаете, тоже говно. Психологи. Язык внутренней речи ваш обычный. Если хорошо выучите новый — сможете думать и на нём. В чате уже раза 3 спрашивали: глухие люди устраивают внутренний монолог жестами. В смысле, у них виртуальная жестикуляция для себя по тому самому первому изученному жестовому языку. Но! Если голосов несколько и они вами командуют — то проследуйте в этот пост или вот в этот. -- Вступайте в ряды Фурье! | Лучшие посты Сидит уставший мужик у окна, видит летящую птицу и мечтательно вздыхает: — Эх, какая свобода! Летишь себе, куда хочешь... Какая прекрасная у них жизнь! Птица думает: — Маши крыльями, а то сдохнешь! Маши крыльями, а то сдохнешь!