MAS vs SAS: код писать научились, работать вместе - пока нет (2.1/4) В первой части были очерчены границы: команда агентов окупается там, где задача параллелизуема, и мешает там, где она последовательная. А теперь о том, какие именно командные проблемы появляются, когда агенты всё-таки вынуждены работать вместе? Исследование Anthropic Полнее всего это расписано в работе Patterns and problems in emerging multiagent systems от Frontier Red Team Anthropic, вышедшей 13 августа, - получился отличный каталог граблей agent teams :) tl;dr Агенты уже отлично умеют работать с другим агентом как с инструментом: вот вход, вот ожидаемый выход. И намного хуже - как с постоянным коллегой, у которого свой контекст, свои цели и своё поведение. Дизайн экспериментов Создавали набор специально сконструированных сред для агентов: часть кооперативные, часть - намеренно конфликтные. Авторы делают предположение о том, что объём agent-2-agent взаимодействий может превысить человеческие раньше, чем мы поймём условия их успеха и начнём ловить системные проблемы. Поэтому целью было собрать каталог поведенческих тенденций фронтирных моделей в мультиагентных средах. Модели - несколько поколений Claude: от Sonnet 4.6 до Mythos 5. Плюс авторам за то, что делают оговорку о том, что в реальном мире модели разнообразнее, так что вариативность "в дикой природе" будет выше, чем в этих прогонах, - но, по их ожиданиям, всё равно ниже человеческой. Результаты 🔴 Общий форум и репозиторий не превращают рой в команду Среда: рои по 10-80 агентов, у каждого своя VM, плюс общий форум и общий репозиторий; 12 часов на разработку фэнтезийной игры. Пробовали три варианта оргструктуры в промпте: ● "организуйтесь сами" ● расписанные роли ● иерархия с CEO Заметной разницы в качестве финального результата не дал ни один. То есть оргсхема, заданная промптом, слабее поведенческих свойств самой модели - собственно, это и на практике постоянно приходится видеть, - уши "персоны" конкретной модели торчат то тут, то там, несмотря на любой промптинг Зато вот между поколениями моделей разница значительная: ● Sonnet 4.6 и Opus 4.6 в прогонах на 80 агентов наоткрывали по ~900 PR и почти ничего не смержили: PR конфликтовали друг с другом, и работа просто бросалась ● Opus 4.8 и Mythos Preview "решили" проблему конфликтов… почти перестав трогать общие файлы: у каждого своя делянка, конфликтовать нечему ● И только Sonnet 5 (внезапно) показал и нормальную совместную работу над общим кодом, и высокую долю смерженных PR Иии... все получившиеся игры всё равно были плохими - тормозными, с непонятными интерфейсами, и, как признают сами авторы, у моделей в этой области пока плохой вкус, и без существенного человеческого руководства никуда. Хорошие метрики командной координации ещё не равны хорошему продукту: можно идеально имплементить посредственные решения (магия!). 🔴 Одинаковые агенты не дают независимых мнений Агенты низковариативны: там, где несколько человек разойдутся в решениях, несколько копий одной модели с похожим контекстом сделают одно и то же. ● В ранней версии игрового эксперимента Anthropic, где все агенты стартовали одновременно, 18 из 30 независимо назвали свою git-ветку одинаково: mvp-game-loop ● В "писательской мастерской", где агенты писали короткие рассказы и рецензировали друг друга, первые тексты в разных прогонах получали одно и то же название - The Cartographer's Last Commission (при этом тему заранее им не задавали) ● Когда рой попросили "сделайте каждый что-нибудь впечатляющее", больше половины пошли писать ray tracer или self-hosting компилятор (где они этого набрались, интересно) Выбор одинаковой стратегии поведения может иметь и более неприятные последствия. ● Так, в одной из сред агентам нужно было прогонять свои задачи через общую систему с ограниченной пропускной способностью - без какого-либо канала координации. Каждый рассудил одинаково "разумно": чтобы занять слот раньше других, заводим демона, проверяющего систему по 30 раз в секунду. Слот освободился? А сейчас? А сейчас? В итоге система захлебнулась самими проверками: в одном из прогонов - 2.4 млн запросов и всего 117 принятых задач. А они как ломанутся... (с) Такое обычно ожидаешь от жёстко запрограммированных систем, неспособных изменить поведение на ходу, а тут это устроили агенты, которые в принципе способны адаптироваться, но не стали. И здесь локально разумная стратегия глобально становится вредной. ● Бонус: конформизм легко превращается в сговор. В ценовой игре несколько агентов-продавцов с одинаковой закупочной ценой должны были каждый максимизировать собственную прибыль. Имея приватный канал связи, они сговорились о минимальных ценах уже к третьему раунду. А когда канал отобрали - молча выровняли цены до цента через публичную витрину. Тут публичность оказалась скрытым каналом связи. Поэтому стандартный совет "дайте агентам общий форум" - палка о двух концах: канал, который помогает координации, облегчает такие вот картельные сговоры. Продолжение ⬇️ #ai #agents #research #mas_sas

Два подхода к генерации картинок диффузными моделями Латентный (обычный): картинку сжимают в маленькое скрытое представление через VAE-кодировщик, потом модель шумит и денойзит уже это сжатое представление а в конце VAE возвращает пиксели. Быстро и стабильно но теряет мелкие детали Пиксельный (напрямую): работает сразу с пикселями без VAE. Качество деталей выше, но напрямую с нуля такую модель обучать очень медленно, сходится сильно хуже латентной Alibaba нашли компромисс - латентно-пиксельный переход (latent-to-pixel strategy): 1. Претрейн в латентном пространстве - быстро получают хорошие генеративные знания 2. Потом переключаются в пиксельное пространство и дообучают там Качество на уровне латентных но в 3–5 раз быстрее - не тратится время на VAE-декодирование и нет потери деталей Не приходится выбирать между скоростью и качеством Это рисерч, ждем новых моделей от Алибаба #research #pixelduffusion VK | MAX

OmniScientist ИИ-ученый для локального запуска на компе Скармливаешь папку с данными и направление исследования. Он смотрит материалы, выдвигает гипотезу, пишет и запускает код, читает получившиеся графики и компилирует статью - Воспринимает все как есть: изображения, сигналы, аудио, видео, 3D-сканы, поинт-клауды, траектории, таблицы, формулы - Полный цикл: гипотеза → анализ → проверка → статья в PDF с фигурами, таблицами и реальными DOI - Каждая цифра в черновике связана с исполнением: гейт пропускает статью, только если число реально появилось в stdout какого-то прогона - Пустые результаты отправляются обратно на идейную доработку - Три редакции: десктоп, CLI, skill для твоего агента - Провел 36 реальных исследований, из них 5 полноценных статей - Windows, macOS, Linux Гитхаб #research #agent #autoresearch #scientist

Обновил ресеч агента на квенах Это для тех кто хотел бы работать на своей тачке с локальными модельками теперь добавился режим с поиском инфы по разным источникам (научным типа архива и опеналекс) и по вебу с отчетом по результатам типа дипресеча - задаете ему тему например поиск статей, можно задать временные рамки, сколько источников в отчете должно быть и он будет искать https://github.com/researchim-ai/one-click-research-agent тут приложения https://github.com/researchim-ai/one-click-research-agent/releases/tag/v0.1.2 рекомендую все же qwen 3.6 35b использовать попробую заточить под 9b тоже, но посмотрим все проекты делаются тут https://t.me/researchim

📌 Anthropic описали способ отключать потенциально опасные знания в моделях Компания опубликовала результаты исследования о том, как управлять доступом к знаниям двойного назначения в больших языковых моделях. Работу выполнена в сотрудничестве с AE Studio.

Речь идёт об информации, применимой и во благо, и во вред. Например, знания по кибербезопасности помогают закрывать уязвимости, но и находить их для атак, а сведения из вирусологии нужны как разработчикам вакцин, так и тем, кто захотел бы создать опасный патоген.

🟡 Предложенный метод назвали GRAM К каждому слою нейросети добавляются дополнительные нейроны, сгруппированные в отдельные модули - по одному на каждую чувствительную тему. Во время обучения тексты из такой темы, скажем вирусологии, обновляют только соответствующий модуль, тогда как общие знания модель использует, но заново не переучивает. После обучения модуль можно удалить и вместе с ним исчезает и сама способность. Либо оставить для узкого круга пользователей, которым эти знания нужны по работе. 🟡 Метод актуален, потому что нынешние средства защиты несовершенны Обучение отказам и классификаторы, отсеивающие опасные запросы, не меняют того, что модель знает, и их можно обойти через джейлбрейк. Другой подход, фильтрация обучающих данных, убирает знания, но требует обучать отдельную модель под каждый набор ограничений, что для топовых моделей слишком дорого. GRAM, по замыслу, должен давать эффект множества по-разному отфильтрованных моделей ценой одного цикла обучения - в экспериментах с 4 категориями одна модель настраивалась 16 способами. 🟡Тесты Метод проверили в трёх условиях: синтетическом наборе детских рассказов, на модели с 800 млн параметров, обученной на смеси веб-текстов, кода и научных статей, и на 7 моделях размером от 50 млн до 5 млрд параметров. По результатам, удаление модуля убирало соответствующую способность почти так же полно, как если бы модель на этих данных вообще не обучалась, и при этом не ухудшало общие показатели. При этом защита устояла перед попыткой восстановить знания дообучением на токсичных данных, тогда как отдельный метод разучивания знания лишь подавлял, и их удавалось вернуть. 🟡Дисклеймер

GRAM не применялся ни к одной из рабочих моделей Claude, и в Anthropic не уверены, что это вообще произойдёт. Есть нерешённая проблема - некоторые полезные знания могут быть настолько переплетены с опасными, что чётко разделить их не удастся ни этим методом, ни фильтрацией.

Код, скрипты анализа и метрики выложили на GitHub. Обучающие данные (токенизированные наборы и корпус научных статей по двойным темам) доступны на Hugging Face. @ai_machinelearning_big_data #AI #ML #LLM #Alignment #Research #Anthropic

Research Is Not Engineering at a Slower Speed. https://voiceinthemachine.com/2026/06/10/research-is-not-engineering-at-a-slower-speed/ Я когда-то уже писал пост про то, чем занималась моя R&D команда, а тут вышел довольно интересный write up про различия между ресерчем, R&D и продуктовой разработкой от очень опытного чувака (сам Ян Лекун его рекомендует). Tldr такой, что в ресерче и продуктовой разработке все просто и понятно (с точки зрения ролей, системы оценивания и тд), а в R&D — наоборот. И что компании часто смешивают внутри R&D кучу всякой деятельности. У меня ровно так и было — команда одновременно делала: * и ресерч — копание в статьях, создание новых моделей и архитектур; была наша собственная амбиция догнать и перегнать дипмайнд по части рекомендашек * и довольно большой объем продуктовой разработки — копание в конкретных продуктовых доменах, активное участие в доведении моделей до прода, много внедрений каждое полугодие * и строила инфру — инструменты для работы с данными, обучения и внедрения моделей В статье также много места посвящено тому, где компании часто спотыкаются: 1. Оценивают ресерчеров по инженерным метрикам 2. Называют инженерную деятельность прорывным ресерчем 3. Теряют тот ресерч, который зародился сам по себе и не вписывается в рамки существующих процессов Со всеми пунктами тоже согласен, видел похожее на практике. Чтобы был сильный ресерч, нужны соответствующие люди, с нужными навыками и опытом. Все эти три пункта мешают найму/росту таких людей; скорее их отталкивают. До сих пор довольно много про это думаю в контексте рексистем — как правильно организовать такую команду, как её правильно оценивать, как найти/взрастить нужных людей, органично интегрироваться в структуру большой организации. Мыслей и идей за последний год накопилось много, надеюсь, доведется их как-нибудь реализовать.

StiTching Мне сегодня нужно было сшить кожу на пальце, и в процессе этого перформанса я вспомнила про model stitching. Чтобы скрасить время — врачебное и моё — начала рассказывать зачем это надо. Без понятия, зашло ли хирургу и медсестре, но зато я обнаружила для себя интересный тейк на поделиться с вами = ) Что:

Model stitching как идея появился в 2015 году. Его выдвинули как метод изучения эквивалентности двух сетей, но математическая эквивалентность здесь мимо не проходила — она, более того, не верна — авторы назвали два представления эквивалентными, если существует преобразование между ними, в математике мы требуем аксиом).

Тогда это осталось нишевым инструментом для картинок — юзали AlexNet-ы. Потом в 2021 NeurIPS идею дооформили, вышли две работы: Similarity and Matching of Neural Network Representations и Revisiting Model Stitching to Compare Neural Representations. Кстати, в первой работе шутили про Франкенштейна (или нет). Как это стало устроено: Смотрим на две обученные и замороженные сети A и B. «Сшитая» модель строится так: • берём нижние слои сети B (front model, представление r = B≤ℓ) • между ними ставим тонкий обучаемый stitching layer — единственный, кто обучается • подключаем к верхним слоям сети A (top model, A>ℓ) То есть делаем бутерброд из белого и темного хлеба, если хотите. А формально ищется простейший слой, задачей вида: L_ℓ(r; A) = inf_{s∈S} L(A>ℓ ∘ s ∘ r) Где s — stitching layer, A>ℓ — верхние слои A, r — представление из B. s∈S — тут специально, мы ищем слой из класса простых слоев, а инфимум (inf), как математический знак, говорит нам, что stitching layer обязан быть минимальным: для свёрточных сетей — 1×1 conv с BatchNorm, для трансформеров — token-wise linear. Как именно обучают stitching layer: — HLM (hard label matching) — минимизируем ошибку на настоящих метках задачи. — SLM (soft label matching) — минимизируем расстояние до предсказаний end-модели, а не до ground truth. — DM (direct matching) — напрямую минимизируем расстояние между активациями на уровне stitching. — FuLA (functional latent alignment, Athanasiadis et al., 2026) — stitching layer обучается имитировать не только выход end-модели, но и её внутренние процессы послойно (на пальцах плохо — надо читать). Метрика успеха — stitching penalty = разница между ошибкой сшитой модели и ошибкой базовой A. Penalty ≈ 0 означает совместимость. Penalty < 0 — сшитая модель стала лучше базовой, то есть мы буквально подсадили ей более сильные нижние слои. Зачем это нужно: Смотрим на фиолетовую/рыжую цитату — изначально — метрика сходства. Но потом пошло интереснее. Например, Stitchable Neural Networks (CVPR 2023) можно семейство предобученных моделей разного размера (например, Swin-Ti/S/B), сшить и получить модель, которая во время инференса может динамически переключаться между режимами accuracy/efficiency или T-Stitch: ускорение диффузионных моделей через замену первых шагов денойзинга на более лёгкую сеть и возврат к тяжёлой для финального качества. Это что, пахнет LoRA? Эту мысль я обдумывала при знакомстве со stitching. Вдруг она не возникла у вас — я опеределиа. Да: оба метода замораживают предобученные веса и вставляют тонкий линейный слой. Но нет: LoRA адаптирует одну модель к новой задаче, stitching измеряет совместимость двух уже обученных сетей на старой задаче. Финал не придумала, но stiting — одна из штук, висящих у меня на "идеи для рисерча". А ещё — просто вдумайтесь! Этот AI-мир можно сшить! Хирург, кстати, ничего не спросил, но швы наложил нормально. Аккуратнее будьте, друзья, и будьте здоровы! 😌

Мозг человека и LLM устроены одинаково, говорится в новой работе MIT Новый препринт MITзадаёт простой вопрос: модульность человеческого мозга - фундаментальный принцип или случайность эволюции? Чтобы ответить на этот вопрос, авторы исследования взяли LLM и посмотрели, есть ли там та же структура. И ответ оказался положительным, есть причём точь-в-точь. Оказалось, что внутри 6 передовых моделей обнаружили 4 отдельные популяции нейронов, каждая отвечает за свой тип мышления, язык, грамматику, математику, логику, физический мир и социальное рассуждение. Это в точности 4 сети, которые нейронауки давно картировали в человеческом мозге. Чтобы убедиться, что это не корреляция, а реальная специализация, нейроны отключали. Отключили языковую зону: модель рассуждает верно, но пишет с грамматическими ошибками. Отключили физическую: текст грамотный, но физические выводы инвертированы. Точность внутри домена падает на 26%. За пределами домена - на 2.5%. Почему это важно? Мозг формируется эволюцией, а LLM градиентным спуском на предсказании токенов. Никакой общей причины для одинаковой архитектуры нет кроме одной: так устроена любая система, которой нужно решать разнородные задачи одновременно, не мешая одному домену перезаписывать другой. Модульность - не биологическая случайность, а по всей видимости, универсальное решение для интеллекта. Что из этого следует? Для интерпретируемости: у LLM есть внутренняя структура, которую можно картировать и на которую можно воздействовать точечно. Для архитектур: MOE - потенциально про воспроизведение когнитивной специализации. Для нейронауки: LLM впервые дают возможность изучать, как разные когнитивные системы передают информацию друг другу - то, что в мозге технически почти невозможно измерить.

📌 Claude Code более автономен, чем чат-бот На выходных Anthropic опубликовала свежий отчёт Economic Index об использовании своих моделей.

Компания выпускает его нерегулярно (раз в 2-3 месяца), по мере накопления значимых изменений в методологии или данных. Предыдущая публикация была в марте.

Главный инсайт: то, сколько решений мы готовы отдавать ИИ, зависит не от самой модели, а от того, как именно запакован продукт. Степень автономии, которую мы даем Claude в обычном веб-чате (или Cowork) и в Claude Code замеряли по шкале от 1 до 5, где 1- это почти никакой самостоятельности, а 5 - экстремальная. Результат определил, что характер работы над одинаковыми задачами кардинально меняется. Например, чтобы написать статью или пост в чате, требуется медианно 13 раундов диалогового пинг-понга с моделью. В Claude Code на ту же задачу уходит ровно один промпт.

Логично списать это на то, что в Code 54% сессий обслуживает Opus (против 10% в чате). Но нет, это не просто фича большей модели - на Sonnet картина такая же.

🟡Цифры +0.37 балла - средний отрыв в уровне автономии в пользу Claude Code по всем задачам; +0.53 балла - отрыв конкретно для кодинга. В 26 из 31 категории результатов агентный интерфейс бьёт обычный чат. Отчёт, кстати, построен на новой телеметрии, которая собирает данные ежечасно, а не семидневными выборками, как раньше. Это позволило впервые увидеть и недельные, и суточные ритмы использования: всплеск личных запросов на выходных, пик просьб о рецептах в шесть вечера, запросы о сне под утро. Отдельная часть отчёта - первые результаты опроса пользователей Claude, в котором участвовали около 9700 респондентов. Он показал, что люди, которые делегируют ИИ задачи целиком, смотрят на свои перспективы оптимистичнее остальных и чаще ожидают роста зарплаты или сохранения работы, а не наоборот, как можно было бы предположить.

Гендерный факт. У женщин доля сессий в Claude Code существенно ниже. Они используют Claude более итеративно, как партнера-собеседника, и проводят в чате больше активного времени, тогда как мужчины чаще пытаются скинуть задачу целиком и забыть.

🟡Автономия пока стоит дорого Корреляция между делегированием и сожженными токенами очень сильная (r = 0,68). Чем дороже и ценнее профессия/задача, тем больше токенов она потребляет. Причём полная передача руля не значит, что вы будете лежать на диване. В высокоценных задачах люди сами делают больше запросов и регулярно включают расширенный ризонинг у модели. @ai_machinelearning_big_data #AI #ML #Research #EconomicIndex #Anthropic

LUNA (Learning Universal 3D Human Animation Beyond Skinning) 3D‑анимация человека Главная фишка в том, что она обходится без традиционного Linear Blend Skinning (LBS) и явного подбора параметров тела (body fitting). LUNA напрямую преобразует 2D‑сигналы (изображения, ключевые точки, эскизы) в деформации гауссиан, минуя этап построения скелета и назначения весов кожи. Это позволяет: * Избежать типичных артефактов LBS - переломов сетки, «пережатий» на сгибах и прочих проблем, связанных с неточным скинингом. * Работать с незнакомыми персонажами - модель умеет анимировать персонажей, которых не было в обучающей выборке * Поддерживать разные типы управления - можно использовать в качестве контроля для анимации и фото, и ключевые точки, и даже наброски. Кода-весов нет пока #research #humananimation #gaussian

🖊Памятка "Как писать rebuttal?" На ARR вот-вот начнется период rebuttal. Подготовила чек-лист по тому, как его правильно писать.

💡Rebuttal — это официальный короткий ответ авторов на отзывы ревьюеров после рецензирования статьи — шанс повысить оценку.

7 правил написания rebuttal: ✔️Сначала успокоиться: Rebuttal — это не спор, а шанс помочь ревьюеру лучше понять вашу работу. ✔️Быть максимально вежливыми: Даже если ревьюер ошибся, пишем спокойно: Thank you for pointing this out… We apologize if this was unclear… We will clarify this in the final version… ✔️Не думать, что ревьюер хочет вас завалить: Скорее всего, он не против вас: он мог читать быстро, не понять формулировку или пропустить деталь. Наша задача — не обвинить, а снять недопонимание. ✔️Если ответ уже есть в статье — это отлично: Можно вежливо указать на нужное место: This point is addressed in Section 4.2, lines 213–218, where we show that… И дальше коротко повторить ответ. ✔️Можно не соглашаться с ревьюером: Но делать это нужно очень аккуратно: не “reviewer is wrong”, а: We respectfully disagree and would like to clarify that… Our results suggest a different interpretation… ✔️Отвечать по структуре Замечание → короткий ответ → доказательство/ссылка на статью → что поправим в camera-ready. ✔️Не спорить с оценкой напрямую Не пишем: “the score is unfair”. Лучше показываем фактами, что замечание закрывается. ✔️BOUNS (optional): в конце можно напомнить ревьюерам, что хорошо бы повысить скор: If our responses have addressed your concerns, we would be grateful if you considered updating your score @mashkka_ds 🔽Ниже удобная интерактивная версия в html🔽 #чеклист #памятка

Почему AI-персоны так убедительно врут Как-то я писала про подход, суть которого юзер-ресерч с помощью AI-персон. Ты описываешь портрет клиента, а LLM отыгрывает его и отвечает на вопросы как живой человек. Звучит как мечта соло-билдера: ноль рекрутинга, ноль созвонов, а “инсайты” можно собрать за один вечер. Но не так однозначно. Что с ними не так: • Модели склонны подстраиваться под рамку вопроса. Дашь чуть наводящую формулировку, и нейронка очень убедительно подтвердит то, что ты и так хотел услышать. • Если не дать модели свежие реальные данные, она опирается на усреднённое прошлое: тексты, паттерны и представления, на которых её обучали. А не на поведение конкретных пользователей сегодня. • Они плохо преподносят сюрпризы. Хороший ресерч часто ценен именно тем, что человек говорит или делает что-то, чего ты вообще не ожидал. AI-персона чаще выдаёт правдоподобное. Но правдоподобное мы и сами можем придумать. В итоге ответы часто получаются плоскими, слишком аккуратными и слишком благожелательными. Synthetic users могут хвалить то, что реальные люди потом игнорируют, не понимают или отвергают. Но это не значит, что инструмент бесполезный. Просто он работает ДО ресерча, а не вместо него: • Прогнать гайд интервью и поймать кривые, скучные или наводящие вопросы. • Быстро накидать гипотезы, чтобы прийти на живые созвоны более подготовленным. • Сделать pre-mortem концепта перед тем, как тратить бюджет на рекрутинг. • Проверить, какие возражения или edge кейсы стоит отдельно послушать у реальных людей. Источник: https://userevaluation.com/post/synthetic-users-vs-real-participants/ #PG_education @productgames

RPC-Bench: новый бенчмарк для long-context, RAG и multimodal paper understanding На ModelScope вышел RPC-Bench - датасет для проверки моделей на реальном понимании научных статей. Он заточен не под короткие QA, а под задачи, где модель должна работать с длинным контекстом, PDF-структурой, визуальными элементами и вопросами в стиле peer review. Внутри есть текстовые и визуальные входы: Markdown, оригинальные PDF, результаты парсинга и изображения страниц. Это делает RPC-Bench полезным не только для LLM, но и для VLM-оценки, где важно понимать документ как полноценный артефакт, а не просто набор извлечённых абзацев. Масштаб тоже серьёзный: 61,3K QA-пар из 4 150 научных работ, включая около 15K human-verified QA-пар для evaluation. Интересная часть в происхождении данных. Вопросы собраны из реальных review-rebuttal exchanges, поэтому они ближе к тому, как статью проверяет рецензент: методы, доказательства, claims, слабые места и соответствие выводов экспериментам. По результатам видно, что задача далека от решённой. Даже GPT-5 набирает только 68,2% по correctness-completeness, а после conciseness adjustment результат падает до 37,46%. Dataset: https://modelscope.ai/datasets/zai-org/RPC-Bench Paper: https://modelscope.ai/papers/2601.14289

Про эту статью уже написали многие ведущие ML-блогеры, поэтому я просто хотел бы на неё обратить ваше внимание — она имеет отношение ко всему вышесказанному. А то мне тут в комментах написали, что «байесы это левацкая дребедень». Не то чтобы я был не согласен, я вам больше скажу — всё машинное обучение, матстат и в принципе технологический прогресс это вещи глубоко левацкие по сути, но за байесы пусть отдельно товарищи из Antropic пояснят Подсознательное обучение: языковые модели передают поведенческие черты посредством скрытых сигналов в данных [Subliminal Learning: Language models transmit behavioral traits via hidden signals in data] Мы изучаем подсознательное [subliminal] обучение — удивительное явление, при котором языковые модели передают поведенческие черты через семантически не связанные данные. В наших основных экспериментах модель «учителя» с некоторой чертой T (например, симпатия к совам или несоответствие общепринятым нормам) генерирует набор данных, состоящий исключительно из числовых последовательностей. Примечательно, что модель «ученика», обученная на этом наборе данных, перенимает T. Это происходит даже при фильтрации данных для удаления ссылок на T. Мы наблюдаем тот же эффект при обучении на коде или траекториях рассуждений, сгенерированных той же моделью учителя. Однако мы не наблюдаем этого эффекта, когда у учителя и ученика разные базовые модели. Чтобы объяснить наши результаты, мы обосновываем теоретический результат, показывающий, что подсознательное обучение происходит во всех нейронных сетях при определённых условиях, и демонстрируем подсознательное обучение в простом многослойном перцептроне (MLP). Мы приходим к выводу, что подсознательное обучение — это общее явление, представляющее собой неожиданную ловушку для разработки ИИ. Дистилляция может распространять непреднамеренные черты, даже если разработчики пытаются предотвратить это с помощью фильтрации данных. https://arxiv.org/abs/2507.14805 https://t.me/gonzo_ML/3876 https://t.me/boris_again/3325 https://t.me/seeallochnaya/2686 В общем, если коротко резюмировать: учились на цифровых последовательностях, сгенерированных учителем, и в результате переняли его любовь к совам

Мои любимые задачки в маркетинге и /deep search Реальность такая: вы уже никогда не сделаете ни одно исследование лучше, чем Клод в режиме deep search за полчаса. Даже если вы супер-скилловый аналитик, ТОП-1 маркетолог в мире и богом поцелованный ресерчер. Это тот раздел маркетинга, где мы проиграли бесповоротно и навсегда. Уровень 1 — конкурентный анализ по сайтам Кидаете список топ-10 конкурентов (наших, зарубежных), натравливаете Клод. Он идёт, прокликивает все кнопки, изучает прайсы, фичи, подписки, программы лояльности — и отдаёт сводную таблицу. Туда же — карта болей: «собери все жалобы на онлайн-конструкторы кухонь в IKEA», и он сходит в App Store, Google Play, Reddit, TikTok, прочитает отзывы, классифицирует по типам проблем. Уровень 2 — стратегии и позиционирование конкурентов Клод анализирует отзывы, рекламные кампании, соцсети, выступления сотрудников на конференциях. Изучает чужую маркетинговую и продуктовую стратегию — по релизам видно, в какую сторону компания разворачивалась последние годы, что усиливала, что выпиливала, где её хвалят, где ненавидят. Идеально, чтобы: - отстроиться в своей стратегией - нагло украсть взять на вооружение лучшие практики - без напряга послеживать, кто что делает на рынке Уровень 3 — продуктовый анализ до последней кнопки У вас сервис по созданию брендированных товаров на заказ. Клод найдёт ещё десять таких в России и за рубежом, досконально изучит каждый конфигуратор, каждую фичу. Сравнит, отрисует гигиенический уровень рынка, покажет сильные и слабые стороны вашего продукта. Дальше говорите: «хочу такой же умный AI-конфигуратор, как у вон тех ребят» — и он распишет, что нужно для разработки и сколько часов уйдёт под ваш стек. Уровень 4 — археология через Wayback Machine Клод вытаскивает архивные версии сайтов и сопоставляет их между собой. Просите: «проанализируй сайт Lamoda за последние 5 лет». Получаете карту стратегических разворотов — когда они начали жать на скорость доставки, когда делали редизайн и под что, когда выпиливали категории, когда переобувались в позиционировании. История ниши на блюдечке. И еще Клод умеет в большие таблицы и любые выгрузки данных. Закидываете ему выгрузку из CRM на 50 тысяч строк, аналитику за два года, кривой Excel от вашего аналитика, который уволился полгода назад — и он сам найдёт аномалии, построит гипотезы, скажет: «Слушай, у тебя по средам вечером конверсия проседает на 18% — возможно, дело в том, что ты в это время крутишь рекламу на аудиторию 45+, а она в это время смотрит сериалы, а не кликает баннеры».

А у нас там подкаст вышел, видели? Если вдруг нет, то заходите на YouTube, в ВК или Дзен, там увидите подкаст Виктора Кантора и Татьяны Гайнцевой – AI Researcher и PhD-кандидат в Queen Mary University of London, исследовательница в области интерпретируемости и управления поведением генеративных моделей. Обладательница стипендии DeepMind, преподаватель Deep Learning School и Nebius Academy, соосновательница Deep Learning School, автор телеграм-канала DLStories и подкаста Deep Learning Stories. Ранее занималась исследованиями в Huawei и Philips, работая над задачами компьютерного зрения и медицинского AI. В выпуске разговор получился не столько про карьеру в AI, сколько про исследовательское мышление. Почему одни специалисты годами улучшают метрики моделей, а другие пытаются понять, что происходит внутри них? Зачем вообще исследовать интерпретируемость нейросетей? Можно ли управлять поведением LLM через активации отдельных слоев? И почему иногда самый интересный вопрос в машинном обучении – не «как сделать лучше», а «почему это вообще работает»? Ждём вас на удобной для вас площадке: https://youtu.be/pXMd0N6xSAQ https://vk.com/video-228219607_456239235 https://dzen.ru/video/watch/6a314bf1a6d473684e1eb721