ИИ

Хз как люди пользуется OpenRouter По дурости тестили на нем систему, которая на локалках должна будет работать в контуре клиента, и это такая боль: - низкие лимиты у провайдеров - хрен пойми у кого реально есть поддержка structured output, даже если заявлено - а у кого есть, часто некорректная – натолкнулся на имплементацию с сортировкой ключей в алфавитном порядке 🥴 - нет моделей в целевом кванте - в какой-то момент провайдер просто лег на два часа (а другие не поддерживают норм SO для нужной модели, ага) Да, можно сразу тестить на целевой системе, но а) это нужно получать доступ в контур клиента и б) ждать пока одна его карточка все обработает А у нас autoresearch-like флоу, где агенты в 4 потока эксперименты крутят, нам такое не подходит Короче, надо было сразу арендовать GPU и поднимать там, а не страдать херней. Благо это делается в один промпт (если настроено управление браузером):

Codex, сходи через мой браузер на hf и подними мне vLLM на h200 с <model-name> на <context-len> токенов максимального контекста с <concurrency-num> параллельных запросов. Посмотри в документации и на реддите рекомендации по конфигам и проверь, что мои требования вообще выполнимы или предложи трейдоф

P.s. если нужно часто, установите huggingface_hub и дайте токен админский, чтобы агент через браузер не мучался P.p.s. не забываем потом остановить ноду, а то можно без штанов остаться (если хочется автоматически, юзаем scale_to_zero_timeout=20) Альтернативы: runpod.io, modal.com, cloud.ru (не реклама, а зря) Хз, для кого-то это очевидно, но у нас это первый проект, на котором сошлись локальные модели, отсутствие доступа к железу клиента, и огромный трафик autoresearch подхода

Любимое противостояние десятилетия: Маск vs Альтман Из-за конфликта с Apple Илон Маск снова назвал CEO OpenAI Скамом Альтманом и сказал, что он «выводит обман на другой уровень». На что Альтман упрекнул его в том, что Маск сам собирает инвестиции на сомнительный проект быстрого строительства датацентров в космосе. Ответ Маска убил:

Мы начнем запускать их в следующем году. Может, ты сможешь приехать посмотреть, если твой офицер по условно-досрочному освобождению одобрит. После того как ты украл благотворительную открытую ИИ-организацию, ты еще и украл технологии Apple! Вау. Что ты планируешь на бис? Это трудно переплюнуть.

Бой в клетке когда?

Был в этом году у меня дипломник, написал диплом на тему "мультиагентных систем". Такой пункт добавили в описание паспорта научной специальности "искусственный интеллект" буквально в апреле, чем мы и воспользовались. Очень кратко: студент погонял "скрепку" с целью определить, действительно ли можно сделать стартап из одного человека на 100 миллионов капитализации, и пришел к выводу, что текущий потолок - 10, потому что дальше расход токенов превышает зарплаты вытесняемых людей, а фаундеру перестает хватать часов в рабочем дне даже с оркестратором за всем следить и все подтверждать. Добротная работа, не откровение, но ценные выводы, подкрепленные расчетами. Попал диплом на защиту перед комиссией, комиссия пыталась-пыталась понять, что это за новомодная чертовщина, и в итоге поставила совсем незаслуженно низкую оценку. Я такого уже навидался, так что ругаться не пошел - самого с подобной темой отфутболили с конференции с уничижительной рецензией... но история внезапно получила продолжение. Приглашают молодого специалиста буквально через четыре дня после вручения диплома на собеседование в очень крупную промышленную компанию на должность рядового аналитика. Идет собеседование онлайн, то-се, а чем ты, мил человек, по диплому занимался? Дипломник рассказывает. Собеседник: - Погоди-ка, дай я начальника подключу... Подключается начальник всей аналитики в компании. История повторяется. Начальник: - Так, сейчас я узнаю, где директор... Директор (уровня замглавы компании) подключился, задал пару вопросов по сути дела и исчез. Оставшиеся начальники говорят: мы тоже пойдем, скоро свяжемся снова. Связался через два часа эйчар с оффером. За эти два часа в компании создали новый отдел ИИ-аналитики, куда заведовать моего дипломника и позвали. С задачей перегнать в агентов с оркестраторами всю аналитику и точно выяснить, кого из сотрудников можно уволить, а кому нужно прибавить, чтоб все было по уму и в оптимальном бюджете. Люди сразу врубились, значит, что это такое и для чего им нужно. И кто. "И сбылось по написанному: Камень, который отвергли строители, сделался главою угла". Вот будут мне в следующий раз говорить: вы, Юрий Павлович, и сами хуйней занимаетесь, и студентов хуйне учите - я этот кейс-то и расскажу. Растет копилочка кейсов. 😝 #toldya

Sakana AI показали “умные кирпичи”, которые понимают свою форму и находят повреждения Звучит как sci-fi, но это уже опубликованная работа в Nature Communications. Исследователи собрали простые кубические модули. У каждого — одинаковая маленькая нейросеть, связь только с соседними блоками и никакой карты всей конструкции. Но вместе они могут определить, во что собраны: стол, лодку, самолёт, гитару и другие формы. Cистеме не нужен центральный контроллер. Ни один “кирпич” не знает, где он находится. Глобальная картина появляется из локальных сообщений между соседями. Что умеют Smart Cellular Bricks: * распознавать общую 3D-форму * работать при шумной связи * переживать отказ части модулей * находить, где структура повреждена * подсказывать, куда нужно добавить новые блоки для восстановления Это похоже на то, как живые ткани самоорганизуются и восстанавливаются после повреждений. Пока это не “здание, которое само себя чинит”, а исследовательский прототип. Но направление мощное: материалы и конструкции, которые сами понимают свою конфигурацию, замечают поломки и помогают себя ремонтировать.

Ещё больше классных постеров из Сеула — с ICML 2026 RE-TRAC: REcursive TRAjectory Compression for Deep Search Agents Сейчас очень много агентов работает в ReAct парадигме (последовательные reasoning + acting). Авторы считают, что такой подход с длинными линейными цепочками плохо подходит для сложных задач, потому что deep search больше похож на дерево гипотез: модель может наметить несколько веток, но потом забыть часть из них, застрять в локальном направлении или зациклиться. Re-Trac отличается от ReAct: после каждой траектории собирают compressed_state, в котором хранят лучший ответ на текущий момент, список проверенных фактов, логические выводы и список того, что осталось неизвестным. На следующих траекториях авторы стартуют с этого состояния. Благодаря этому авторы получили 53 пункта на BrowseComp с 8 rollout’ами. Прочитав статью, я нашёл подвох: init для sft — это Tongyi-DeepResearch 3A30B, у которого и так 43 пункта на BrowseComp, а замера pass@8 — бейзлайна за схожий compute — для него нет. То есть идея интересная, но реальный эффект Re-Trac для лучшей модели из статьи не указан. Training-Trajectory-Aware Token Selection Исследователи изучают дистилляцию ризонящих моделей. Обычно SFT или дистилляция на reasoning-траекториях не улучшает модель, а иногда даже ухудшает её. Во время обучения loss монотонно падает, а реальные метрики сначала резко проседают (Imitation Shock), но затем постепенно восстанавливаются, при этом не всегда до конца. Авторы заметили расслоение токенов во время обучения на две группы, «полезные» и «вредные», причем одни подавляются другими. Поэтому стандартная дистилляция тратит ранние градиенты на токены, которые мешают обучению более полезных токенов. Как решили проблему: замаскировали «вредные» токены и не добавляют их в loss. Чтобы понять, какие токены маскировать, придумали алгоритм T3S — Training-Trajectory-Aware Token Selection. Сначала модель проходит короткую фазу дистилляции, по ней находят Imitation Shock и затем сравнивают влияние токенов между началом и на чекпоинте, где всё взорвалось. Least-Loaded Expert Parallelism: Load Balancing An Imbalanced Mixture-of-Experts В MoE-модели каждый токен не проходит через весь FFN-блок, вместо этого роутер выбирает для него несколько экспертов. В Expert Parallelism эксперты распределены по GPU: условно, GPU-0 хранит экспертов 0–3, GPU-1 хранит 4–7 и так далее. Проблема возникает, когда роутер выбирает экспертов неравномерно. Например, на math/code данных один эксперт может стать очень популярным, потому что он специализировался на таких токенах. Тогда GPU, на которой лежит этот эксперт, получает слишком много токенов, считает дольше всех и определяет latency всего MoE-слоя. LLEP решает это не изменением роутера, а изменением исполнения. Перед MoE-слоем система смотрит, сколько токенов попало в каждого эксперта и насколько загружена каждая GPU. Если дисбаланс маленький, используется обычный Expert Parallelism. Если дисбаланс большой, LLEP выбирает наименее загруженные GPU и отправляет туда не только токены, как в EP, но и веса перегруженного эксперта. Smaller Models are Natural Explorers for Policy-Level Diversity in GRPO Авторы говорят, что GRPO живёт за счёт разнообразных rollout’ов, но по ходу обучения они становятся однородными, advantage-сигнал слабеет, а прогресс встаёт. Вывели инсайт: GRPO нужно policy-level diversity — когда целые траектории структурно разные, но при этом логически связаны. Обнаружили, что меньшие модели из этого же семейства дают гораздо больше policy-level разнообразия и предложили на ранней стадии обучения часть rollout’ов для большой модели генерировать маленькой замороженной моделью — так можно получить структурно разнообразные траектории на старте. Затем долю маленькой модели постепенно снижали, плавно возвращаясь к стабильному on-policy режиму большой модели. Результаты: на AIME24/25 получили выигрыш 23.8/22.5 против GRPO-базы 15.0/12.1. Увидели и записали полезное для вас ❣ Даниил Кириллов, Иван Сапожков, Аркадий Альшан и Кристина Гуртова #YaICML2026 Душный NLP

К вопросу "а как можно использовать ИИ в военных операциях" — показываю. Это прогноз буквально на коленке, который я, вот вообще не специалист в военном деле, запилил в Gemini. Многофакторный анализ, который человек делал бы несколько дней, ИИ способен сделать за несколько минут. Да, там не б-г весть какая математика — банальная задача динамического моделирования систем на дифференциальных уравнениях с линейной экстраполяцией о бассейне с двумя трубами. И предсказание такое, что к концу сентября таки будет "каскадный дефицит топлива". Это было на конец июня данные и только что проверил, что ВСУ даже превышают поддерживающий темп ударов. Уже сейчас производство покрывает только 65% пикового летнего спроса на бензин. По сути, сейчас война идет не на фронте, а на уровне производственных возможностей сторон — производство дальнобойных дронов VERSUS ремонтные бригады нефтяных компаний. В ближайшие недели мы поймем кто победит, да. В принципе, это все можно посчитать и на калькуляторе — нет тут никакой сложности. Но ИИ подсвечивает вещи, которые человек может пропустить. А при усложнении задачи (тут можно ввести еще систему диффуров про ответные удары, импорт из других стран, адаптацию экономики к дефициту энергоресурсов — до бесконечности можно продолжать), то обычный системный аналитик тут сбойнет. Компьютер тупо быстрее считает. Так что да: в то, что победа будет за тем, у кого мощнее ИИ я начинаю вполне себе верить.

Где-то год назад я воспроизводила что-то, не помню что. Получалось супер-больно, и моя коллега выдала фразу "Хе-хе-хе, добро пожаловать в кровавый опенсорс". Времени прошло немного, но за это время эту фразу я прям прочувствовала. И не прошло и пол-месяца, и я снова вышла из схватки с опенсорсом вроде не проигравшей — добила вторую статью в серии про steering (первая — тут). И вот, Хабр 2: https://habr.com/ru/articles/1056006/ сдвигаем модели в нужную сторону через repeng и pyreft. В статье очень аккуратно разобрано — что откуда идёт и что совпадает с теоретической постановокой в реализации, а что — нет. Есть красивая сводная таблица, математика, и единорог (на картинке он, да). Ссылка на ноутбук в коллаб. Ссылка на ноутбук на гитхаб. А пару тысяч вас я отметила печеньками, жесть, друзья, спасибо! 🔥

Киборги уже здесь, просто выглядят не так, как мы ждали Вроде бы очевидная ситуация. Мой бот отправляет клиентам ссылку с просьбой посмотреть документ — тишина. Отправляю ту же ссылку со своего аккаунта — читают, кликают, отвечают за минуты, иногда ещё и извиняются, что не сразу. Одинаковая информация, тот же канал. Меняется только отправитель. Посоветовался с клодом. Цифры пожёстче моих наблюдений: — 6200 реальных продажных звонков: бот, представившийся ботом, продаёт на 80% хуже. Тот же бот молча продаёт как опытный менеджер — врачи вслепую выбрали ответы ChatGPT вместо коллег в 79% случаев и в 10 раз чаще назвали их «эмпатичными» — люди требуют помечать AI-контент — и сами же доверяют помеченному меньше. Честность наказуема И особенное — «эффект репликанта»: скажи участникам, что ВСЕ блоки «о себе» в профилях AirBnB написаны AI, и доверие возвращается на человеческий уровень. Бесит не машина. Бесит незнание, с кем сейчас говоришь. Штраф за AI — свойство переходного периода: пока агенты у половины и втихую, метка вредит. Когда будут у всех и открыто — наказывать станет нечего. А вот что останется навсегда — ответственность. Случалось получать от коллеги отчёт, где половина ссылок ведёт на 404? Агент подготовил, человек не проверил и отправил под своим именем. Агент неотделим от хозяина: со стороны не видно, кто писал, значит отвечаешь за каждое слово. «Это бот галлюцинирует» больше не работает. Бота нет. Есть ты. Для себя я выбор сделал: теперь рутину за меня говорит агент (пока не всю, но уже кое-что). Он не забывает фоллоу-апы, не тянет с напоминаниями, у него нет ни настроения, ни джетлага. Заметно надёжнее меня. Но каждое его слово под моим именем — моё слово. Написал про это всё статью побольше. Мы так и не дождались киборга с железной рукой — вместо него появились мы, сросшиеся с агентами в каналах, где уже не понять, кто пишет. Внутри все материалы со ссылками и мои правила: что агент говорит от моего имени, а что никогда. Извинения — только сам. Сергей Булаев AI 🤖 - об AI и не только