ИИ

Когда изучаете что-то с ИИ или делаете ресерч, то дефолтный вертикальный чат не самый удобный вариант для этого (как минимум для меня) Есть вот такой опенсорсный холст с MCP для работы с Claude Code, Codex и тд. То есть агент запускает локально интерфейс с канвас, где весь диалог в виде дерева, а ответы это ветки в которые можно углубляться Это удобно, когда:

- Выделяешь фрагмент текста, задаешь вопрос, то создается новая ветка - Каждую такую ветку можно развернуть в полноценный режим чтения - Весь прогресс хранится локально в JSON

Вся цепочка диалога перед глазами, и можно организовывать её как угодно Вызовы идут через MCP, агент пишет у себя в терминале а ответ выводит в интерфейс Работает везде: Windows, macOS, Linux Установить себе: Сайт | GitHub @tips_ai #tools

По tech-СМИ гуляет история, как Google платит своим сотрудникам по 500К баксов в год, чтобы они тупо ничего не делали. Формально это правда. Понятно, что Гугл не поехал кукухой и не раскидывает бабло направо и налево. Нет, они идут на такой шаг только с самыми-самыми ценными ИИ-кадрами. Им выгоднее, чтобы те год получали зарплату ни за что, чем пошли улучшать модели в Anthropic или OpenAI. Но самое интересное тут даже не это. Дело в том, что ИИ-гонка идёт капец как быстро, и в ней всё меняется на космических скоростях. Подходы и знания, которые актуальны сегодня, через год уже устареют чуть менее чем полностью. Именно поэтому в сфере ИИ Гуглу выгодно такое делать (в других сферах - нет, а в ИИ - да). Они консервируют самых ценных и ликвидных ребят на год, чтобы их bleeding edge экспертиза успела "протухнуть". А дальше пусть идут к конкурентам на здоровье, статус-кво в индустрии это уже не изменит. В общем, чтобы вам платили пол ляма в год за сидение дома - ваши знания должны быть не просто нереально ценными и уникальными. Они должны давать дизрапт в моменте, а потом быстро устаревать. Иначе компания бабла не напасётся на такой "garden leave", и вся схема потеряет смысл. И ещё любопытный нюанс. В США так делать нельзя, запрещено трудовыми законами. Но в других странах - например, в Великобритании - можно. Так что, самых ценных ИИ-бриллиантов Google запихивает в британский DeepMind, и там уже может их морозить по желанию (жаль, конечно, этих добряков, но не от всего сердца 😈). Дизраптор

ICML 2026: что обсуждают в Сеуле В этом году крупнейшая конференция о машинном обучении проходит в Южной Корее. По традиции будем рассказывать о самом интересном — открываем серию обзоров от инженеров и исследователей Яндекса. Немного инсайтов о Xiaomi Ребята тоже используют On-policy Distillation для мержа своих экспертных моделей. Вайб доклада: как мы сделали топ-1-опенсорс-модель по ИИ-индексу, с миллионным контекстом и 1000 токенов в секунду без регистрации и СМС супердёшево. Public report'а нет, про обучение не рассказали, но в докладе можно было подсмотреть трюки по оптимизации. Например, гибридные SWA-слои, которые реюзают KV-кэш от полного аттеншна перед ними, помогают в 7 раз уменьшить объём кэша, не потеряв в качестве. Xiaomi MiMo-V2.5-Pro TL;DR: Context length и Inference speed. Новая опенсорсная модель на 1 триллион параметров может работать с контекстом объёмом до 1 миллиона токенов в 10 раз быстрее (до 1000 TPS). Претрейн — sparse-аттеншн и shared KV-кэш. На основе HSWA авторы предложили гибридный HySparse, чтобы увеличить sparsity. Это позволило в 10 раз сэкономить на объёме кэша и получить почти линейный аттеншн. MiMo-V2.5-Pro обучали в QAT-формате, MXFP4. Пост-трейн — Multi-Teacher On-Policy distillation с top-k, а не top-1. По метрикам MOPD показал себя значительно лучше и стабильнее остальных подходов, подобных Cascade RL. MoE RL оказался нестабилен, так как выбирается только 10% экспертов. В качестве решения прибегли к R3: Replace the Rollout Routing. Инференс Mimo-V2.5 Pro UltraSpeed — это FP4 (mxfp4) + DFlash Speculative decoding + TileRT inference engine. Для ускорения делают бакетинг по задачам (например, чат/код). vLLM Hook v0: A Plug-in for Programming Model Internals on vLLM IBM Research привезли инструмент, с помощью которого можно модифицировать логику в движке инференса vLLM и строить кастомные пайплайны. Мотивация: несмотря на свою эффективность, движок vLLM не может похвастаться богатым функционалом. Авторы попробовали исправить это. Код — на GitHub. Model Optimization Flywheel: Continuously Self-Improving LLMs in Production Работа команды Shopify. Ребята отмечают важность голденсетов (ground truth set), потому что это потолок качества моделей, — и рассказывают, как собирают такие сеты. Информацию получают от менеджеров. Если каппа Коэна низкая, то переписывают рубрику или инструкцию. Для подбора промпта judge пользуются GEPA и ACE. В датасет попадает и брак, и кейсы плохого срабатывания моделей. Некорректные ответы правят люди и judge. Ещё больше о конференции читайте в канале ML Underhood: уже рассказали о работах основного трека, Spotlight-статье и первом дне. А если вы тоже на ICML, приходите пообщаться к любому из наших постеров. Уже на конференции ❣ Иван Дёгтев, Даниил Кириллов, Тимофей Смирнов, Артём Миронов, Федор Великонивцев Душный NLP

ResearchStudio Инструмент от Microsoft ResearchStudio–Idea автоматизирует начальную стадию исследования — от проблемы до создания карточки идеи, которую можно представить рецензенту ResearchStudio–Reel автоматизирует превращение научной статьи в материалы для презентации и популяризации. Снимает рутину подготовки постера, видео, блога из одного PDF • генерация print-ready постера • создание синхронизированного видео с нарративом • сборка двуязычного блога • единый экстрактор Paper2Assets — данные извлекаются один раз • артефакты редактируются в PowerPoint и Word • интерактивный HTML-просмотрщик с синхронизацией по секциям Работает на связке Claude Code и Codex. Артефакты согласованы по фактам, не дублируют извлечение данных Гитхаб #research #text2research #pdf2video #pdf2ppt

В большинстве своем при поиске latency метрик мы находим общую latency = написал текст/сказал текст и получил аудио обратно. Однако за этим стоит не только большая доля инженерии, но и модули модели. Метрики, которые мы здесь рассмотрим: • FTL - first packet latency • TPP - first packet decode • DEC - mean packet decode • FPL - first packet latency • RTFx - audio_duration / processing time - общий throughput пайплайна Чаще всего работаем с пайплайном: текст -> LM based TTS - - - > audio codebook tokens - - - -> Codebook based Vocoder FTL - это путь от текста к первому audio codebook token. Это может быть как и один токен, который генерит большая модель, так и sequence токенов, которые генерит какой-то depth transformer, а может быть вообще multi-token generation от главной модели. Так или иначе на выходе только дискретный токен / латентный вектор. На эту метрику влияют кроме всех прочих приколюх модели и параметры интеренса. Например, сколько буковок вообще нужно ждать, чтобы начать генерить. Или сколько буковок передавать как lookahead, чтобы аудиотокены получались лучше. TPP - это путь только вокодера. Получили аудио токены - получили первый audio patch. У этого пути может быть отдельный cuda stream. Здесь также главную роль играют "accumulation" параметры. Например, сколько токенов нужно подсобрать чтобы сделать один pass вокодера? —— Но также именно здесь есть важный дизайнхук, который всегда люди делают по-разному. Как декодировать последовательность, чтобы не было странных звуков между патчами😒 Многие это делают декодируя всю предыдущую последовательность. Кто-то собирает n прошлых секунд и отправляет именно их. Кто-то использует kv cache, что часто идентично. Каждый из них влияет на latency. Именно это design choices отражаются на DEC метрики, так как один пасс через vocoder может потом линейно вырости и будет казаться, что вокодер вместо 50ms почему-то стал тратить 200ms, а все потому что мы передали ему весь предыдущий контекст. —— Все метрики выше влияют на FPL, как раз то, что большинство юзеров называют latency. Или вот эта задержка между тем как вы что-то сказали и бот ответил вам в ответ (здесь мы считали только TTS часть). Большинство компаний стремятся к тому, чтобы это значение latency было меньшее 100ms 😌 В борьбе за этим что только можно и нельзя использовать. При этом важно и смотреть на общий RTF, так как многие (в том числе и я) могут занижать FPL с помощью более маленького контекста, lookeahead'a и тд, а потом уже кормить модель нормальным контекстом🙂. Ну и конечно мы оставляем за большими скобками хитрые вещи по типу filler words или заготовленные фразы, чтобы не казалось что модель долго думает.

А с каким latency говорите вы? Я иногда с 300ms, а иногда с -100ms (ну знаете когда собеседник уже слишком тянет и ты все уже понял)

🎶Предохранитель для ИИ-агентов

скилл Looper режет бесконечные циклы и спасает баланс API

Сборка автономных агентов часто заканчивается слитым бюджетом. Нейросеть ловит ошибку логики, уходит в бесконечный цикл и сжигает токены, пока не упрется в лимит карты. На GitHub появился инструмент Looper - утилита для жесткого аудита агентских воркфлоу перед их запуском в продакшен. Механика строится на внешнем арбитраже. Looper натравливает независимую LLM на ваши циклы. Модель-арбитр тестирует логику, ищет структурные дыры и оценивает адекватность конечного результата. 🟪Главная техническая ценность:

автоматическая расстановка предохранителей. Скилл принудительно вшивает в код лимиты на количество итераций и жесткий бюджет токенов. Агент физически не сможет потратить больше заданного объема. Дополнительно скрипт рендерит прозрачную визуальную схему архитектуры цикла для быстрого дебага.

Итог аудита пакуется в один оптимизированный файл. Конфиг сразу готов к интеграции и запуску через Claude Code. 🟡Репозиторий лежит здесь бесплатно. 🦔 CyberYozh