ИИ

Малышева вздрогнула, когда узнала… Проблема такая: вы отравились пирожком из Пятерки, но ради отравления к врачу не пойдёте — зато будете гуглить, как лечиться. Всё закончится тем, что в аптеке вам продадут волшебный мульти-комплекс «Говно-Плюс», и лучше вам от него не станет. Чтобы узнать, как лечиться, придется найти официальные клинические рекомендации, потом по каждому лекарству прочитать РКИ, убедиться, что они опубликованы в нормальном издании, посмотреть рецензии, бла-бла-бла. Естественно, вы никогда не будете этим заниматься. А можно написать в Клод: «разбери мне препарат Х, найди актуальные РКИ за последние 5 лет, скажи есть ли доказательная база, не учитывай маркетинговые материалы». Клодик за вас почитает Cochrane, пороется в PubMed, вытащит клинические рекомендации. Через 15 минут отчет: «доказательная база отсутствует, зарегистрирован как БАД в РФ, EMA и FDA не одобряли, единственное РКИ проведено производителем в 2011 году на 60 пациентах, вот ссылки». Использую по любому чиху: 1) Стоит ли вообще пить/колоть/мазать препарат X 2) Что реально работает при N симптомах - только официальные протоколы и клин. рекомендации 3) Сравнить два препарата, которые прописали «на выбор» 4) Разобрать анализы 5) Найти действенные процедуры — для косметологии самое то. Я благодаря Клоду узнала, какой лазер убирает пигментные пятна с лица за 2 процедуры. Важно: все это мы делаем в режим /deep search. Тогда Клод будет спорить сам с собой — выдвигает тезис, потом идёт искать, что этот тезис опровергает, находит контр-исследование, сопоставляет и только после этого выдаёт вывод.

🧑‍⚖️ AI-галлюцинации в судебных делах — статистика год спустя Про Дамьена Шарлотина я вам рассказывал чуть больше года назад. Он собирает случаи с AI-косяками в судебных делах разных стран. И тогда я удивлялся, что подобных кейсов больше сотни. Это казалось много. Спустя год коллекция Шарлотина выросла в 12(!) раз. Что значит AI-галлюцинация в суде? Например, AI добавляет в документы несуществующие цитаты или ссылается на дела, которых вообще никогда не было. И вот Шарлотин ищет такие кейсы и собирает у себя на сайте. Голубая линия на графике — это суммарное количество случаев с зафиксированными AI-галлюцинациями. В июне 2025, когда я писал первый пост, их было 138. По итогам второго квартала 2026-го, таких кейсов было уже 1720. Рост в 12 раз. Фиолетовая линия на графике — число кейсов по кварталам. И там есть любопытная тенденция. Количество выявленных AI-галлюцинаций стало уменьшаться. Правда, только в последнем квартале. Почему так может быть? Например, стали меньше использовать AI, что вряд ли. Или судьи стали пропускать галлюцинации, что тоже так себе объяснение. Вероятнее всего, AI прокачался или участники стали лучше проверять материалы. Или просто еще не все решения, принятые в том квартале, опубликованы. Кстати, по статистике Шарлотина, сильно чаще AI-галлюцинации встречаются в делах, где люди представляют сами себя — не привлекают юристов. Соотношение сейчас — 71,4% против 21,4%. В кейсах, где известно, каким конкретно AI пользовались, больше всего косяков у ChatGPT (115). Но, вероятно, это просто объясняется популярностью ChatGPT. У остальных инструментов примерно поровну — по 10-15 кейсов. @TheEdinorogBlog — тот самый канал про стартапы🦄

ICML 2026: как агенты справляются с контекстом Об агентах и агентских системах в этом году говорили примерно все — тема стала одним из фокусов конференции. Главные тренды и новости собрала наша коллега Кристина Гуртова.

Было много работ о бенчмарках и диагностике агентов — пожалуй, самый крупный кластер. Пользовались популярностью мультиагентные системы и их обучение, agentic RL и tool use. Отдельное активное направление — safety. Общий тренд: рассматривать агента как инженерную систему, где каждый компонент (среда, обучение, оценка или память) становится отдельным объектом оптимизации. А я углублюсь в актуальную проблему агентов: как не захлебнуться в собственном контексте. Сжимать его, сворачивать или выносить во вне? Путь 1. Агент сам решает, что исключить из истории Раньше агент линейно накапливал всю историю в один растущий контекст. Теперь — он ей управляет. В Context-Folding (CMU, Stanford, ByteDance) агент разветвляет подзадачи с помощью двух тулколов: branch() создаёт подзадачу, return() возвращает итог этой подзадачи. Промежуточные шаги не попадают в основной контекст. В Agent-Omit (HKUST) авторы посчитали, что размышления съедают около 45% токенов, наблюдения — 52%, а действия — всего 3%, поэтому их статья сфокусирована на сокращении ризонинга. Агент выборочно опускает свои мысли и наблюдения. Conversational Inertia (ZJU, Ant) описывает отдельный побочный эффект длинной истории — «инерцию». Агент начинает имитировать собственные прошлые ответы как few-shot и перестаёт исследовать. Проблема лечится периодической очисткой истории. Путь 2. Сжатие контекста — оптимизируемый навык, а не фиксированное правило ACON (KAIST, Microsoft) оптимизирует не веса, а промпт для сжатия. Авторы собирают трейсы с полной и сжатой историей, сравнивают их с помощью LLM-критика и дополняют этим промпт. Затем дистиллирует такой навык компрессии в маленькую модель и используют его. Путь 3. Внешняя память и переиспользование опыта Ещё один вариант — не выбрасывать, а сохранять надолго. EAM держит память как граф знаний, где узлы — это состояния системы, а рёбра — действия для перехода между ними. Darwinian Memory — training-free память, где записи конкурируют за «выживание». Полезные переиспользуются, устаревшие и ненадёжные удаляются. SE-GA хранит три вида памяти: эпизодическую, семантическую и экспериенциальную. Агент достаёт малую часть из каждой из них, добавляя к себе в контекст. UMEM (Xiamen, Alibaba) обучают внешнюю модель работать с банком памяти. Для этого они замораживают модель-агента и обучают отдельный оптимизатор, что записать, обновить и удалить. Отдельно — как это честно мерить. AMA-Bench проверяет память в реальных агентных траекториях, а не на сырых диалогах, и дополнительно показывает, что многие memory-системы пока проигрывают простому long-context.

#YaICML2026 Душный NLP

Представляла, как выйдет gpt-5.6 и я сразу побегу его тестировать. Но нет. Дернуло меня нажать update в кодексе. Update удалил кодекс. Все переустановки ставили вместо него chatgpt. Ну да, вчера же openai анонсировали, что кодекс переезжает в приложение chatgpt. Самое удобное приложение для кодинга убили и встроили в самое неудобное десктопное приложение chatgpt. Первую половину дня chatgpt открывался, но кодекса в нем не было. После третьей переустановки, ура, появился переключатель chatgpt: codex / work. Заодно исчезла вся история сообщений. Вернее ее перенесли в попап, который показывает историю за дополнительный клик. А все мои персональные проекты просто пропали. Успокаивает одно. Похоже, это кривые руки команды, которая делает macos приложение. В вебе все на месте. Очень надеюсь, что они сгорят от стыда и починят все сегодня же. Пока же открываю окно с чатом в chatgpt и испытываю испанский стыд. А вам понравилось обновление? @wealldesignets

Вышел GPT-5.6 Sol, Fable обнулили снова и снова слышны возгласы "GPT убил тот стартап" / "Антропик убил этот". Но в реальности это не победа Антропика и даже не проблема стартапа. Это про эффективность экономики. Стартапы, как и любые бизнесы, существуют там и тогда, где есть проблема, за решение которой люди готовы платить. И это решение должно быть уникальным и дефицитным, иначе много не заплатят и уйдут к конкурентам. ИТ-стартапы решали проблему работы с данными, цифровых услуг, развлечений, бизнес задач. Потому что они были дешевле и эффективнее: Excel в сотни раз дешевле, чем считать фин модель на бумажке. Ровно то же самое делает ИИ — он делает большинство ИТ-стартапов ненужными, потому что вместо того чтобы пользоваться стандартным софтом или платить человеку который этим софтом за вас пользуется, эту же проблему можно решить с помощью модели. Она делает это дешевле, быстрее и надежнее. То есть, это не GPT убил Duolinguo или Антропик убил Саас по аналитике данных, а просто модели заменили софт и его пользователей так же как софт заменил аналог (ручки, бумажки, пленочные аппараты и заводные будильники) когда-то раньше.

Оптимизируют MoE, стабилизируют RLVR, колдуют над кэшем и очень активно обсуждают GRPO: продолжаем рассказывать, что в тренде ICML 2026 Но обо всём по порядку. Читайте TL;DR от наших коллег и листайте фото с постерами! Stable Asynchrony: Variance-Controlled Off-Policy RL for LLMs Классная статья про стабилизацию RLVR. Авторы предлагают метрику, которая лучше всех предыдущих детектит потенциальный взрыв — effective sample size. По сути, это нормированная сумма important weight между движками актора и роллаута. Мы в Яндексе тоже её используем — работает! Дальше авторы рассматривают два пути решения. Первый — простой (мы тоже его пробуем). Если метрика начинает стрелять, надо понижать лёрнинг рейт адаптивно. Второй путь — умный потокенный решейпинг — чинит все проблемы сразу. RL учится 1000 степов и не разваливается, даже на специально усложнённом сетапе со staleness 12. Имплементировать, судя по описанию, должно быть легко. TVCACHE: A Tool-Value Cache for Post-Training LLM Agents В этой работе кэшируют последовательные цепочки туллколов в агентских роллаутах. Получается приличный кэшхит в десятки процентов. Применяют хаки типа прогрева кэша перед роллаутом. Кэш шарят по всему по времени обучения, поэтому кэшхит к концу может расти. Tackling Length Inflation Without Trade-offs: Group Relative Reward Rescaling for Reinforcement Learning Говорят, что научились заставлять GRPO растить reward, не удлиняясь относительно инита. В GRPO вместо reward'а на R делают R • s, где s — нормализующий коэффициент, функция от относительной длины ответов в группе. Spurious Rewards: Rethinking Training Signals in RLVR Обучают GRPO на шумные сигналы, доходя до обучения на случайный шум. Обнаружили парадокс: в некоторых моделях Qwen обучение даже на такой «сигнал» даёт профит. Объясняют тем, что виноват клиппинг в GRPO — он чаще срабатывает на маловероятных траекториях, вероятности высоковероятных, наоборот, растут. Проверяют это, отключив клиппинг: действительно, модель перестает учиться на «испорченные» сигналы. Revisiting Efficiency–Accuracy Scaling in Mixture-of-Experts Architectures NVIDIA оптимизируют MoE. Обычно инференс таких архитектур упирается в пропускную способность памяти: либо перекачиваем туда-обратно экспертов на каждом токене, либо при большом батче упираемся в all-to-all. Авторы сделали архитектуру LatentMoE — временно проецируют представления токенов в низкоразмерное латентное пространство перед маршрутизацией. Весь тяжелый сетевой трафик all-to-all и чтение экспертов из памяти происходят в сжатом формате. А на выходе из MoE-слоя данные возвращаются к исходному размеру. Экономию при зеродифф-костах реинвестируют в увеличение числа экспертов и количество активируемых. Качество растёт — говорят, что уже используют это в Nemotron. Why Tree-Style Branching Matters for Thought Advantage Estimation in GRPO В GRPO при обучении ризонинг-модели на reward-сигнал генерации итогового ответа могут отличаться друг от друга, получая разную награду. В работе показывают, что часть бюджета выгодно потратить на генерации нескольких ответов при фиксированном CoT, чтобы разделить награду конкретного ответа от ожидаемой награды для цепочки (T4A4 > T16A1). На практике при правильном использовании это также экономит компьют, так как ризонинг цепочки обычно занимают бóльшую часть генерации. Поделились впечатлениями ❣ Даниил Кириллов, Тимофей Смирнов, Даниил Гусев, Дмитрий Калашников, Алексей Зотов #YaICML2026 Душный NLP

✔️ Meta* представила Muse Spark 1.1 Superintelligence Labs выпустила мультимодальную модель Muse Spark 1.1 для работы с кодом, агентными системами и управления компьютером. В отличие от семейства Llama, веса новинки закрыты. Выступая главным агентом, модель собирает контекст, строит план и делегирует задачи субагентам. Контекстное окно составляет 1 млн токенов. Spark 1.1 умеет самостоятельно сжимать историю прошлых сессий и интегрироваться с серверами MCP. В бенчмарках MCP Atlas и Humanity's Last Exam Muse Spark 1.1 обошла Opus 4.8, GPT 5.5 и Gemini 3.1 Pro. Opus сохранил лидерство только в SWE-Bench Pro. Вместе с релизом модели запущен API. Стоимость за 1 млн токенов: $1,25 на вход, $4,25 на выход, $0,15 за кэшированный ввод. Попробовать модель в режиме Thinking можно через веб-версию и приложение Meta AI. meta.com ✔️ Anthropic добавила аналитику активности в Claude Запущена бета-версия функции Reflect для веб- и десктоп-клиентов Claude. Инструмент генерирует статистические отчеты об активности пользователя за исключением чатов из режима инкогнито, прикрепленных файлов и запросов на медицинскую тематику. Сводка за 1, 3, 6 или 12 месяцев показывает частые темы, типичные задачи и часы пиковой нагрузки. Дополнительно в приложение интегрировали напоминания о перерывах и настройку расписания для режима "не беспокоить". Reflect доступен на всех тарифах. Для работы инструмента необходимо заранее включить функцию памяти. В будущих обновлениях появится поддержка Cowork. anthropic.com ✔️ OpenClaw стал некоммерческим Популярный фреймворк для локальных агентов преобразован в независимую некоммерческую организацию. Возглавит OpenClaw Foundation создатель Питер Штайнбергер. Переход поддержали OpenAI, Microsoft и NVIDIA. OpenAI обеспечит финансирование и выделит команду Claw Labs для совместной разработки. NVIDIA выпустила утилиту NemoClaw для интеграции фреймворка с моделями Nemotron на локальном оборудовании. Microsoft анонсировала корпоративного ассистента Scout на базе технологий OpenClaw. Крупнейшим финансовым донором фонда стал МIT. Параллельно вуз открывает Институт агентных вычислений для академических исследований. openclaw.ai ✔️ Cloudflare передаст OpenAI данные о трафике Компании запустили пилотный проект по оптимизации веб-краулеров и ускорению индексации контента для ИИ-поисковиков. Cloudflare, обрабатывающая более 20% глобального интернет-трафика, будет передавать алгоритмам OpenAI в реальном времени метрики свежести контента, частоту обновления страниц и качество поступающего трафика. OpenAI объединит эту информацию с собственной поисковой инфраструктурой и запросами пользователей ChatGPT. Доступ к сетевой аналитике позволит краулерам быстрее находить новые материалы и приоритизировать обход сайтов для генерации актуальных ответов. cloudflare.com ✔️ NASA открыло доступ к цифровому двойнику для космической робототехники Аэрокосмическое агентство США и Университет Райса представили первую опенсорсную среду для высокоточной симуляции внутрикорабельных роботов iMETRO Dynamic Simulation. Платформа, дебютировавшая на конференции ICRA 2026, работает как цифровой двойник физического испытательного стенда NASA. Среда детально воспроизводит интерьеры космических кораблей, лунных баз и физику микрогравитации. При внутреннем тестировании платформы разработчики создали приложение для удаленного управления в симуляторе и менее чем за сутки развернули его на физическом оборудовании в лабораториях агенства. news.rice.edu

*организация признана экстремистской, её деятельность на территории РФ запрещена.

@ai_machinelearning_big_data #news #ai #ml

У меня опять собралась какая-то невероятная куча деаайсов по которым бы сделать обзоры, но все времени нету :( Вот. Друзья прислали (с) ещё одну железку. "Смартфон нового поколения". Это Rabbit R1. Скоро выйдет второй, но у меня пока только этот. Обещали прислать сразу же второй, но не раньше октября, как только выйдет - там заминка на производстве из-за дефицита памяти. В чем новое поколение: Это полностью AI устройство. Само по себе бесполезное. Но с подключением к Антропику становится мощной штукой, использование которой ограничено только вашей фантазией. Там своя операционная система, например. Интерфейс - карточки. И эти карточки можно самостоятельно создавать, просто рассказав (ртом), что ты хочешь. И это и есть приложение. Я за три минуты создал приложение Pomodoro таймер. И оно работает! Теперь надо собрать все фантазию в кулак и придумать ещё что-то. И вот это сложно. Но если у вас СДВГ, то идеальная железка.