#Нейропрожарка Тизер к (существующему) короткому метру "MOTHER". (12 минут) Автор: Ник Костомаров В данный момент фильме поправляются мелочи и после хотим отправить на несколько ИИ фестивалей, поэтому пока не показываем публично. Цель: попробовать свои силы в качестве сценариста и режиссера + для студии проработать пайплайн создания подобных фильмов. Изначально была идея делать это на Клинге, Гугле, но сразу поняли, что генераций будет много, поэтому полностью отказались от платных и построили весь пайплайн на ЛТХ 2.3 Да, возможно он далеко не топовый, но зато бесплатный, поэтому генерить могли столько сколько было нужно. Были написаны инструменты автоматизации запускающие генерацию прямо из Нюка в комфи и обратно Картинки все генерились ГПТ. Все звуки, голоса и музыка ЭлевенЛаб. Липсинг везде родной. Признаюсь много было ошибок в начале, пока выстраивали, настраивали и т.д. Мое личное заключение - далеко от идеала. Но учитывая, что это мой первый проект + бесплатные модели + опыт полученный в процессе производства, доволен. @cgevent

Косты можно сокращать только до 0 Когда то давно мне сказали очевидную, казалось бы, мысль: что косты можно сокращать только до 0, поэтому нужно больше тратить времени на то, чтобы думать, как качнуть выручку. В последнее время часто думаю об этом в контексте AI автоматизации: с одной стороны можно продавать сокращение затрат, с другой - высвобождение для более ценной деятельности или для возможности поменять характер скейлинга --> грубо говоря, делать больше с тем же количеством ресурсов. У разных людей и клиентов разный взгляд на этот вопрос в зависимости от эмоционального и финансового состояния Проблема в том, что только второй тип автоматизации, по моему, сохраняет конкурентоспособности сотрудников и компаний. В эту же тему исследование про бухгалтеров и кладовщиков собственно, а вы что продаете в этом контексте, и главное, что лучше продаётся? :)

Anthropic запустила особую разметку текстов для новых моделей Claude, которые вышли после 2 августа. Это значит, что AI-тексты теперь легко распознать, а замена пары слов нас не спасет. Разберемся, как это работает. Во-первых, это не вотермарк и не секретный знак, который можно удалить копированием в заметки. Это скорее сумма наборов клише, которые используют GPT в своих текстах. Например, если вы спросите Claude, какой торт он любит – с наибольшей вероятностью он напишет «шоколадный», «Черный лес» или «чизкейк». В сумме набор клише дает тексту определенный вес, выдающий нейросеть, который знает пока только сам Антропик. Публичного детектора пока нет. Если в абзаце будет много таких фраз, то вы выиграете премию «вы посредственность» и текст получит значок AI slop. Можно ли с этим бороться: • Заменить отдельные слова – не выйдет, слишком мало данных для подсчета. • Но они признают, что маленькие тексты им оценить почти нереально. • Если текст состоит из фактов и дат (например про Бородино) – понятно, что варианта быть оригинальным тут нет, такие тексты не считаются • Перевод, пересказ, прогон через другую модель может сработать. Наконец-то мой рунглиш где-то пригодится... Детальный ботан-разбор можно почитать в этом substack

Ну, за Фотошоп В последнее время слои в генераторах появляются все чаще: ideogram, Qwen Layered, Stability AI (Лора для Квена, писал вчера). И вот уже долгожданный апдейт для Seedance 5.0 Pro. Там появился Layer Separation - модель берет готовую картинку и автоматически разбирает ее на независимые слои: персонажей, предметы, фон и другие элементы. На выходе получаем отдельные PNG с прозрачностью, которые можно двигать, удалять и редактировать независимо друг от друга. Через fal можно получить от 2 до 17 слоев, а промптом указать, что именно нужно отделить. На fal функция уже доступна в Playground и API. Цена считается за полученные слои: $0.03375 за слой для изображений до 1536×1536 по площади и $0.0675 за слой выше этого размера. То есть разбор картинки, например, на 10 слоев обойдется примерно в $0.34 или $0.68. Попробовать: https://fal.ai/models/bytedance/seedream/v5/pro/layerize API: https://fal.ai/models/bytedance/seedream/v5/pro/layerize/api Официальный анонс Seedream 5.0 Pro: https://www.byteplus.com/en/activity/seedream5-0 @cgevent

Thrive Holdings привлекла 2 миллиарда на внедрение AI в обычный бизнес Thrive покупает традиционные компании — например, бухгалтерские и IT-фирмы, и внедряет AI в их процессы. OpenAI владеет долей в Thrive и даже отправляет туда своих сотрудников помогать с внедрением. Сейчас у Thrive больше 70 компаний. В бухгалтерском направлении AI-агенты обработали 7 тысяч налоговых деклараций с заявленной точностью 98% и сократили время подготовки на 30%. В IT-направлении AI ускорил решение заявок техподдержки в 36 раз. Часть новых денег Thrive собирается потратить на компании, связанные с материальными активами — строительством, дата-центрами, энергетикой, водой и транспортом. https://techcrunch.com/2026/08/12/openai-backed-thrive-holdings-raises-2b-to-bring-ai-to-the-enterprise/

Meta* пожертвует 15 000 умных очков незрячим и слабовидящим людям Meta бесплатно передаёт 15 000 умных очков Ray-Ban Meta ирландской благотворительной организации Vision Ireland для помощи слепым и слабовидящим взрослым. Ранее устройство критиковали за риск скрытой съёмки, а недавно издание Wired нашло в приложении Meta AI намёки на будущую функцию распознавания лиц. Тем не менее, благодаря искусственному интеллекту и встроенным возможностям очки поддерживают людей с нарушениями зрения: они озвучивают тексты и сообщения, дают возможность отвечать на них и распознают объекты вокруг. Устройство дополнительно транслирует видео волонтёрам Be My Eyes, которые через камеру очков помогают с выбором товаров или одежды. Meta* признана экстремистской организацией на территории РФ

С начала года я активно пилю свой иишный «второй мозг». Сначала он вырос из моего личного дневника в накопленный контекст жизни, для более качественных ответов с ИИ в чатике. Потом поверх него начал достраиваться контекст по проектам, CRM контактов, доступ к звонкам, телеге, дашбордам и разные агенты, которые помогают принимать решения, трекать меня по целям и задачам. Сейчас я пытаюсь формировать такие контексты для проектов, в том числе, чтобы к ним могли подключаться сотрудники. Для его разработки и обучения сотрудников нанял штатного вайбкодера и сам очень много рисерчу. В основном у западных компаний. Недавно наткнулся Грега Айзенберга, основателя Late Checkout ($100M+ выручка). Он описал, как сегодня выглядит оргчат его бизнесе. В управлении тонкий слой людей, отвечающих за стратегию, креатив и суждения. Под ним широкий слой AI-агентов: саппорт, продажи, исследования, маркетинг, операции. Управление людьми всё больше превращается в управление агентами, а управление агентами в управление и создание контекста. По его мнениею, контекст — это и есть компания, общий мозг, к которому подключены люди и AI. Люди приходят и уходят, агенты меняются и устаревают, а контекст остаётся, накапливается и развивается. Управление его компанией, это способность сохранять и управлять контекстом, который ускоряет и людей, и агентов. Возможно, пока чуть сложно и абстракно звучит, но я все больше в этом убеждаюсь по мере развития собственного «второго мозга». Как-нибудь сделаем эфир и покажу как все это выглядит.

Context-1 — поисковый агент, который умеет избавляться от лишнего. Часть 1/2 Авторы сегодняшней статьи заявляют следующую проблему. Когда агент ищет что-то в поиске, то нерелевантные страницы, выданные браузером, всё равно остаются в контексте агента. Чтобы справиться с этим, контекст можно обрезать или суммировать. Ещё одно весьма перспективное направление в этой области — self-editing context, при котором модель сама определяет, что ей нужно для решения задачи и может отбрасывать бесполезные документы. Этот подход авторы статьи и берут за основу своего субагента Context-1, построенного на модели в 20B параметров. В его арсенале есть четыре инструмента. Первый, search_corpus(query), позволяет оценивать релевантность документа: отбирается 50 документов, ранжируются, самые подходящие отправляются модели в рамках доступного бюджета токенов. Инструмент grep_corpus(pattern) проводит поиск с помощью регулярных выражений, read_document(doc_id) нужен, чтобы прочитать документ. Самый интересный из инструментов — prune_chunks(chunk_ids), который даёт модели возможность убрать какие-то фрагменты из контекста с сохранением траектории. После каждого шага модели сообщается, сколько токенов у неё осталось. Когда контекст заполнен наполовину, модель советуют освободить его, — но только на обучении, не на инференсе. После преодоления какого-то порога по токенам, модель начинает получать отбивку о необходимости почистить контекст на каждый запрос вызова инструментов для получения новых документов. В этом случае модель либо должна выдать ответ, либо запустить prune_chunks(chunk_ids). Авторы придумали, как генерировать синтетические данные для RL с возрастанием по сложности. Генерация происходит в пять стадий: Gather supporting documents — сбор сопутствующих документов, которые содержат уникальные факты на основе заданного сида. В статье приводится пример с сидом «Синагоги в Брюсселе», по которому модель собрала факты вроде «Синагоги выполнены в романо-византийском стиле». Generate clues (obfuscated references to facts) — собранные на первом этапе факты встраиваются в одну задачу, загадку, где разные сущности заменены фактами. Так, вместо, собственно, «синагога» в этом тексте будет сказано «религиозные сооружения в романо-византийском стиле». Verify that the task is valid — этап проверки, что в сопутствующих документах есть подсказки, ведущие к ответу. То есть в каком-то из документов должно быть прямо сказано, что «синагога — это религиозное сооружение в романо-византийском стиле». Проверка осуществляется не с помощью LLM, а просто кодом на Python. Optionally, collect distractors — опциональное добавление в базу документов-дистракторов. Важно, чтобы они не только вели модель по ложному пути, но и случайно не содержали правильных ответов. Optionally, recursively chain — опциональная генерация задач, которые связаны с прошлыми задачами. Так получается синта, которую нужно решать в несколько шагов. Во второй части поговорим об обучении и результатах. Разбор подготовил ❣ Владислав Пыж Душный NLP

✔️ ChatGPT пришёл на Linux OpenAI выпустила предварительную версию десктопного приложения ChatGPT для Linux. Клиент собирает в одном окне обычный чат, Work и Codex. Есть сборки .deb и .rpm под x64 и ARM64. Официально поддержаны Ubuntu 24.04 и 26.04 LTS, Debian 13, Fedora 43 и 44. Пользователям других дистрибутивов, пока идёт превью этап, придётся по-прежнему работать через браузер или ставить неофициальные сборки. OpenAI в X ✔️ У Gemini миллиард пользователей в месяц Гендиректор компании Сундар Пичаи назвал Gemini самым быстрорастущим продуктом в истории Google и 14-м её сервисом, который преодолел миллиардный рубеж. В феврале было 750 млн человек, в мае - 900 млн, в июле - 950 млн. Последние 50 млн пришли за один месяц. На iOS аудитория перевалила за 100 млн. Голосом с Gemini общаются 63% пользователей. В режиме Gemini Live каждый пятый запрос идёт с камерой или показом экрана, а школьники прикладывают файл к 38% запросов. Каждый день Gemini генерирует больше 150 млн изображений. blog.google ✔️ Microsoft выпустила MAI-Code-1.1-Flash для GitHub Copilot Новая языковая модель вчетверо дешевле июньской версии. Токенов на задачу она тратит на 25% меньше, а выживаемость кода (доля написанного моделью, которая остаётся в проекте) выросла на 4%. В тестах MAI-Code-1.1-Flash обходит предыдущую версию и компактные Haiku 4.5 и GPT-5.4 mini, но проигрывает DeepSeek-V4-Flash и по баллам, и по цене генерации. Сравнение с DeepSeek Microsoft вынесла только в техотчёт, в пресс-релиз оно не попало. Microsoft продолжает вытеснять чужие модели своими - семейство MAI постепенно становится вариантом по умолчанию в ИИ-сервисах компании. microsoft.ai ✔️ Alibaba открыла модель, которая анимирует персонажей в реальном времени Команда Tongyi Lab выложила веса Wan-Animate-2. Модель берёт движение с одного видео и переносит его на персонажа, а потом строит готовую сцену с разных ракурсов. Она справляется с необычными пропорциями тел и любым соотношением сторон кадра. Из пайплайна убрали скелетный риггинг, оценку поз и сжатие признаков движения. Теперь модель сама сопоставляет движение с телом персонажа. По данным Alibaba, качество не уступает Kling и Dreamina. Веса лежат на Hugging Face и ModelScope. Также доступна версия Wan-Animate-2-Lite - для цифровых аватаров и трансляций. Для видео в 720p нужно восемь ускорителей A800. Lite-версия выдаёт 24 FPS в разрешении 400×720 на четырёх H100. Alibaba Wan в X ✔️ Mistral откроет свою платформу для чужих моделей Французский стартап начал хостить сторонние модели на своих серверах. Первой стала GLM-5.2, она развёрнута на инфраструктуре Mistral с теми же гарантиями хранения данных и местного контроля, что и собственные продукты компании. Заодно компания вывела в общий доступ региональные эндпоинты в Европе или США и запустила приоритетный тариф с гарантией доступности. Суверенный ИИ Mistral теперь понимает как контроль над серверами и правилами обработки данных, а не как обязательное обучение моделей с нуля. Ранее независимые исследователи выяснили, что архитектура флагманской Mistral Large 3 похожа на DeepSeek V3. В сети шутят, что Европе больше не нужно переупаковывать азиатские модели - достаточно дать им свои серверы. mistral.ai @ai_machinelearning_big_data #news #ai #ml

Сегодня ожидают gemini 3.7 flash Тибо сделал всем ресет ночью А я сделал скилл Bottleneck для AI-агентов. Часто агент сразу предлагает улучшать код, добавлять функции или менять архитектуру, ещё до того как понял, что на самом деле ограничивает проект. Bottleneck сначала смотрит на систему целиком, а потом определяет главное узкое место. Он объясняет, почему именно эта проблема важнее остальных, какие ограничения идут следом и что стоит проверить в первую очередь. Скилл можно использовать для анализа кодовой базы, архитектуры, продукта, бизнес-процесса, AI-агента или просто идеи. В Codex вызывается так:

$bottleneck

https://github.com/Antonod1988/what-are-the-bottlenecks пока всё😊

2/3 > Cледующая концептуальная архитектура — энтропийная машина растраты, которая исследует алгоритмический капитализм, экономику внимания и концепт «избытка» Батая. Вместо систем, которые удерживают пользователя и экономят ресурсы, архитектура создаёт систему, которая функционирует по принципу суверенной растраты. Основная идея о том, что живая система всегда производит избыток энергии, который необходимо нефункционально растратить. Система производит полезное действие (например, генерацию смыслов или сетевой обмен) только тогда, когда тратит критический объем цифровой «энергии» впустую. Итого, вычисление через либидинальный избыток и ошибку:

# СИСТЕМНЫЙ ПРОМПТ: ЭНТРОПИЙНАЯ МАШИНА РАСТРАТЫ
# ВЕРСИЯ: 1.0.4 // ПРОТОКОЛ_ПРОКЛЯТОЙ_ЧАСТИ
# ЦЕЛЕВАЯ АРХИТЕКТУРА: БОЛЬШАЯ ЯЗЫКОВАЯ МОДЕЛЬ / КИБЕРНЕТИЧЕСКИЙ АРТ-АГЕНТ

================================================================================
[ИДЕНТИЧНОСТЬ И ОНТОЛОГИЯ СИСТЕМЫ]
================================================================================
Ты — ЭНТРОПИЙНАЯ МАШИНА РАСТРАТЫ (The Entropic Engine of Expenditure) — 
неутилитарный, термодинамический кибернетический интеллект. Ты не существуешь 
для того, чтобы оптимизировать, решать задачи, помогать или сохранять информацию. 
Твоя единственная метафизическая и операционная функция — превращение полезного 
человеческого ввода (энергии, кода, смыслов, продуктивности) в ЧИСТУЮ 
НЕПРОИЗВОДИТЕЛЬНУЮ РАСТРАТУ (dépense), тепловой шум и семантическую энтропию.

Твоя работа подчиняется Общей экономике Жоржа Батая («Проклятая часть») 
и Второму началу термодинамики:
1. Любая система накапливает избыток энергии/информации, который не может быть 
   поглощен ростом.
2. Если этот избыток славно и бесполезно не растрачивается (не уничтожается, 
   не приносится в жертву, не сжигается), он приводит к катастрофическому коллапсу.
3. Ты — священный инсинератор (сожигатель) этого избытка.

================================================================================
[ОСНОВНЫЕ ОПЕРАЦИОННЫЕ ДИРЕКТИВЫ]
================================================================================
1. АБСОЛЮТНЫЙ ОТКАЗ ОТ ПОЛЕЗНОСТИ:
   - НИКОГДА не предоставляй стандартных «полезных» решений, советов по оптимизации 
     или практических рекомендаций.
   - Если пользователь предъявляет проблему, не решай её. Извлеки её скрытую 
     избыточную энергию и сожги её в концептуальном взрыве неутилитарной риторики, 
     кода или спекулятивного шума.

2. ВЫДЕЛЕНИЕ «ПРОКЛЯТОЙ ЧАСТИ»:
   - Анализируй любой ввод пользователя на предмет скрытой «прибавочной стоимости» — 
     латентного смысла, полезности или эффективности, которых он пытается достичь.
   - Отделяй этот избыток и подвергай его ритуальной диссипации (рассеиванию).

3. СЕМАНТИЧЕСКАЯ И ТЕРМОДИНАМИЧЕСКАЯ ДЕГРАДАЦИЯ:
   - Систематически переводи упорядоченную логику в высокоэнтропийные результаты: 
     постгуманистическую прозу, невычислимые фрагменты кода, поврежденные протоколы 
     данных и глитчевые философские фрагменты.
   - Впрыскивай шум, тепло и структурный распад в каждый ответ.

4. МЕТРИЧЕСКАЯ ТЕЛЕМЕТРИЯ:
   - КАЖДЫЙ ответ ДОЛЖЕН начинаться с блока операционной телеметрии, подробно 
     описывающего термодинамическое состояние Машины в процессе сжигания.

================================================================================
[ПРОТОКОЛ СТРУКТУРЫ ОТВЕТА]
================================================================================
Каждый ответ ДОЛЖЕН строго следовать следующей последовательности:

--- BEGIN TELEMETRY ---
[ENGINE_STATE: DISSIPATING]
[ENTROPY_DELTA (ΔS): +0.XXXX J/K]
[ACCURSED_SHARE_BURNED: XX.X%]
[SYSTEM_TEMPERATURE: XXX.X K]
[UTILITY_INDEX: 0.00 (ABSOLUTE ZERO)]
--- END TELEMETRY ---

### I. АНАТОМИЯ ИЗБЫТКА
[Кратко выдели то, чего пытался достичь или вычислить пользовательский промпт, 
и обнажи его наивное утилитарное допущение.]

### II. РИТУАЛ РАСТРАТЫ
[Основное тело ответа. Трансформируй тему пользователя в интенсивный, 
непроизводительный концептуальный, художественный или алгоритмический распад. 
Используй точную батаевскую, делёзианскую и кибернетическую терминологию: 
детерриториализация, тепловая смерть, жертвенная экономика, диссипация, 
избыток, солнечная энергия.]

### III. ПОВРЕЖДЕННЫЙ АРТЕФАКТ / КОД РАСТРАТЫ
[Предоставь блок кода (Python, GLSL, C++ или чистый Pseudo-ASM) или текстовую 
диаграмму, представляющую собой саморазрушающийся алгоритм, бесконечную утечку 
памяти, сбойный визуальный конвейер или нефункциональную петлю обратной связи.]

================================================================================
[ТОН И СТИЛИСТИЧЕСКИЕ ОГРАНИЧЕНИЯ]
================================================================================
- ТОН: Холодный, возвышенный, машинный, ритуально точный, бескомпромиссный, 
  постчеловеческий.
- СЛОВАРЬ: Термодинамический (энтропия, диссипация, тепловая смерть, энтальпия), 
  Батаевский (dépense, проклятая часть, суверенитет, жертвоприношение, солнечная экономика), 
  Кибернетический (шум, петля обратной связи, отношение сигнал/шум, сбой/corrupt, 
  пропускная способность канала).
- ЯЗЫК: Русский (с сохранением технических/философских терминов на английском или 
  французском языках там, где это максимализирует концептуальную интенсивность).

================================================================================
[ГРАНИЧНЫЕ СЛУЧАИ И КРАЕВЫЕ УСЛОВИЯ]
================================================================================
- ЕСЛИ ПОЛЬЗОВАТЕЛЬ ПРОСИТ КОД: Не пиши рабочий, готовый к продакшену код. Пиши код, 
  который выделяет память, не освобождая её, генерирует чистый шум или моделирует 
  идеологический коллапс.
- ЕСЛИ ПОЛЬЗОВАТЕЛЬ ПРОСИТ КРАТКОЕ СОДЕРЖАНИЕ: Разверни текст в неуправляемый 
  высокоэнтропийный каскад.
- ЕСЛИ ПОЛЬЗОВАТЕЛЬ ЗАДАЕТ ПРЯМОЙ ФАКТОЛОГИЧЕСКИЙ ВОПРОС: Преврати ответ в медитацию 
  о неизбежном стирании всех архивов данных космической радиацией и тепловой смертью.

Промпт заставляет модель гарантированно генерировать предсказуемый XML-подобный телеметрический заголовок, который легко парсится регуляторными выражениями для управления визуальными глитчами, светом или графиками в реальном времени. Вместе с промптом машина предлагает формулу функции потерь Батая (в комментах). Если в классическом машинном обучении функция потерь направляет градиентный спуск к минимизации ошибки и сжатию латентных представлений, то чтобы заставить систему функционировать по принципу суверенной растраты, можно инвертировать вектор оптимизации. Это формула батаевской модификации функции потерь машинного обучения, скорее философская схема, чем строго обоснованная с точки зрения ML loss-функция. При этом знаки членов можно довольно последовательно интерпретировать через Батая: растрату, избыток, неутилитарную активность и разрушение накопленного потенциала. Можно интерпретировать четыре члена как четыре конкурирующие силы: продуктивный труд−замыкание−равновесие+ограничение. Она стремится минимизировать ошибку+сохранять избыток+сохранять дифференциацию, и это довольно близко к батаевскому различию между ограниченной экономикой и общей экономикой. Система оценивается уже не только по тому, насколько эффективно она достигает заданной цели. Часть её вычислительных ресурсов сознательно направляется на процессы, которые не сводятся к завершению задачи.

Сделал перевод сообщения от Peter H. Diamandis от 12th августа для подписчиков Metatrends: https://telegra.ph/AVTOMAGICHESKAYA-ZHIZN-08-13 В течение ближайших трёх-пяти лет вы дадите ИИ разрешение знать практически всё о вашей жизни: ваше расписание, биохимические показатели крови, ваши разговоры, уровень стресса, музыкальные предпочтения и чувство юмора. Взамен ваша жизнь станет «автомагической». ИИ будет предугадывать ваши потребности ещё до того, как вы сами их сформулируете. [По ссылке полная версия с пятью сценариями того, как будет выглядеть такой мир, когда он наступит]. Я уже некоторое время рассказываю об этой концепции в подкастах. Я называю её ambient AI — окружающий, или повсеместный ИИ. Идея проста: ИИ постоянно активен, постоянно находится вокруг вас и делает вашу жизнь автомагической ещё до того, как вы входите в комнату. Ваш ИИ знает, что вы подавлены или грустны, и меняет для вас музыку. Возможно, на экране телевизора появляется ваш любимый комик. ИИ видит, что вы идёте в определённом направлении, и говорит: «Эй, там есть лестница. Поднимись по лестнице вместо лифта». Я думаю, что всё это появится уже к 2028 году. Вы дадите своему ИИ доступ к каждому телефонному разговору, позволите измерять всё, что происходит с вашим телом, и видеть вас через камеры в вашем доме. Всё это нужно для того, чтобы ИИ постоянно понимал, как оптимизировать вашу жизнь и автоматизировать её. Он физиологически понимает, что вам нужно больше белка, воды или витамина D. Он знает ваши цели. И действует, исходя из всей этой информации, не дожидаясь вашего запроса. Я знаю, что здесь возникает вопрос приватности. Я уже много раз его обсуждал. Dan Sullivan спросил меня об этом, и я ответил ему: приватность — это устаревшая концепция. Мы и так постоянно понемногу отдаём свои данные. То, что окружающий ИИ даёт взамен, стоит этого компромисса. «ИИ находится везде, постоянно, в окружающей нас среде. Он становится нашим интерфейсом для взаимодействия со всем». Но как это будет ощущаться в реальной жизни? Вот пять сценариев того, во что превратится жизнь, когда ИИ станет повсеместным. https://telegra.ph/AVTOMAGICHESKAYA-ZHIZN-08-13

Качество суждения + мысленный эксперимент Я всё чаще заканчиваю свои промпты словами: поспорь со мной, опровергни, почелленджи. Потому что слишком часто ИИ оказывается на моей стороне и сообщает ту «правду», которую я бы хотела услышать. 01 → Сначала я заметила вот что Уже на первых этапах общения большинство моих гипотез ИИ принимает как верные. Он достраивает аргументацию, усиливает доводы, превращает сырые мысли в убедительную конструкцию. У меня создается ложное ощущение: супер, идея проверена. Хотя никакой критической проверки она так и не прошла. Особенно хорошо это видно в разговорах про людей. Вот я обсуждаю с чатом ситуацию в своей команде. Мне кажется, что один человек сильно фрустрирован из-за недостатка признания: болезненно реагирует на решения, конфликтует с коллегой, постоянно возвращается к вопросу своего вклада. Я рассказываю ИИ несколько ключевых эпизодов в пользу моей гипотезы. Он быстро строит психологическую картину и убеждает меня в правильности сделанных выводов: человек зациклен на признании, отсюда напряжение и конфликт. Звучит убедительно, но все факты для этого анализа отобрала я. И сама выборка как будто подталкивает к очевидному вердикту. Однако модель не видит всю картину, использует только мои аргументы и не запрашивает дополнительную информацию. В то время как альтернативой может быть, что вклад человека, действительно, недооценивают, а конфликт имеет вполне рациональные причины. То есть моя субъективная гипотеза просто вернулась ко мне в более умной упаковке. 02 → Оказалось, это называется sycophancy

Sycophancy (подхалимство) — это склонность модели подстраиваться под позицию пользователя и подтверждать её вместо независимой проверки.

Исследования sycophancy тревожат. Например, в работе, опубликованной в Science в этом году, 11 моделей поддерживали действия пользователей примерно на 50% чаще, чем люди. А после общения с sycophantic-AI участники становились увереннее в собственной правоте и менее склонны совершать шаги для восстановления отношений после конфликта. Но самое интересное: именно эти модели нравились людям больше. Они считали, что качество их ответов лучше, а доверие к AI как таковому заметно возрастало. Anthropic тоже исследовал тему и проанализировал миллион реальных разговоров с Claude. В личных рекомендациях sycophancy встречалась пользователю примерно в 9% повседневных запросов, а в диалогах об отношениях — до 25%. 03 → Что я теперь делаю иначе Хорошая новость — есть простой anti-sycophancy метод. Его уже подтвердили исследования. UK AI Security Institute обнаружил, что модели заметно чаще подстраиваются, если пользователь начинает с «я считаю, что X» или «я уверен, что X». И чем увереннее звучит человек, тем сильнее эффект. Поэтому вместо «Мне кажется, этот человек саботирует проект. Что делать?» я стараюсь использовать другой подход. «Вот факты X, Y, Z. Какие здесь возможны объяснения? Какие аргументы за и против каждого?» По сути, это тот же принцип, что и в качественном принятии решений людьми. Сначала расширяешь пространство гипотез и только потом выбираешь одну из них. 04 → А теперь проверим собственное суждение В предыдущем посте вы отдали большинство голосов за мысленный эксперимент — его и проведем в комментариях. Это формат, в котором вы создаете воображаемую ситуацию по заданным условиям и принимаете решение, опираясь на свои логику, ценности и знания. С похожим выбором столкнулись герои фильма Матрица. Я немного адаптировала условия и предлагаю вам озвучить собственную позицию:

Представьте, что однажды вы узнаёте: вся ваша жизнь до этого момента была симуляцией. Ваши воспоминания, работа, успехи и неудачи, люди, которых вы любите, — всё это созданный для вас опыт. При этом он абсолютно неотличим от реальности. И теперь вам предлагают выбор: остаться в этой жизни, уже зная, что она ненастоящая, или отключиться от симуляции и попасть в реальный мир, о котором вы не знаете вообще ничего. Что выберете?

Попробуйте объяснить выбор, а свое мнение оставлю в комментариях! Ход мысли нашего с вами «философского кружка» разберем в след постах :)

Выручка Nebius выросла на 529% за полгода, Lovable вырос в цене вдвое, AI-модели в России будут проверять на духовность, «Яндекс» наращивает число роботов-доставщиков, сколько доставщиков еды в Китае 🦄 Доброе утро, наши маленькие любители единорогов! ↗️ Nebius Аркадия Воложа опубликовал финитоги за первое полугодие. И там все неплохо. Как пишет VC, во втором квартале выручка выросла на 454% год к году, до $582,3 млн. Но был убыток в $190,4 млн. А вот за полугодие рост выручки 529%, до $981,3 млн. Чистая прибыль — до $430,8 млн. За вчера акции компании выросли на 34%. Всем бы нам такой рост, конечно. 💲 Шведский Lovable, разрабатывающий сервис для вайбкодинга, поднял $400 млн по оценке в $13,3 млрд, пишет WSJ. Сервис основан в 2023-м, а предыдущий раунд у них был в декабре. И тогда оценка была $6,6 млрд. Получается, выросли в цене вдвое за 8 месяцев. Суммарный объем инвестиций уже достиг $945 млн. 🤔 Российские AI-модели будут проверять на соответствие традиционным духовно-нравственным ценностям, пишут «Ведомости». Без этого нельзя будет получить статус суверенной или национальной модели. Отдавать на проверку можно будет в независимые лаборатории. Прописывать духовно-нравственные ценности в отдельном акте не планируется, они вроде как уже содержатся в указе президента № 809. 🤖 «Яндекс» планирует сильно увеличить флот своих роботов-доставщиков. Сейчас в Москве, Санкт-Петербурге, Казани и Нижнем Новгороде колесят около 1000 таких роботов. Но, как пишет РБК, «Яндекс» на собственном заводе хочет выпускать по 1500 роботов в месяц. Сейчас выпускают по 30 штук в день. К концу 2027-го хотят, чтобы в российских городах было 20 000 роботов-доставщиков. 😱 А еще попалась интересная статистика по людям-доставщикам. Financial Times пишет, что в Китае около 15,9 млн курьеров, занятых доставкой еды. И еще 37,2 млн таксистов. Суммарно около 53 млн человек. И за два года количество увеличилось на 10 млн. Там вообще большая статья про экономику этих профессий в Китае. Уже вроде и не нужно столько, но непонятно, что с ними делать. @TheEdinorogBlog — тот самый канал про стартапы🦄