Российский стартап Mostik, основанный Александрой Малышевой, вышел из stealth-режима: о компании написал Wired (заголовок статьи — «these russian mathematicians»), а сама команда опубликовала блог-пост с описанием технологии. Стартап предложил способ, при котором модели обмениваются не текстом, а скрытыми внутренними состояниями через обучаемый модуль-«мостик» — это позволяет связывать большую и маленькую модель так, чтобы дорогое «чтение» задачи делала большая модель, а дешёвую генерацию ответа — маленькая, без потери в точности.

Параллельно решение Mostik заняло первое место на бенчмарке ARC-AGI-3i с большим отрывом от конкурентов, что подало новость и как прорыв в бенчмарках, и как технологический анонс о новом способе ансамблирования моделей.

• Команда Mostik — 15 человек, из них 12 PhD, включая Филдсовского медалиста Станислава Смирнова; часть сотрудников ранее работала в Google, Nvidia, Perplexity; компании нет и полгода (по разным источникам — около 4 месяцев)
• На ARC-AGI-3 решение Mostik набрало 7.5%, тогда как Opus 4.8 показал лишь 1.5%, потратив $10 тыс. на вычисления; авторы уточняют, что речь не о превосходстве над Opus, а о специализированном решении
• Технология: при генерации одного токена модель строит скрытый вектор из ~1 млн чисел (~2 МБ), но в выходной текст попадает лишь ~17 бит информации (сам токен) — остальное отбрасывается и теряется в обычных multi-agent системах
• Эксперимент: большая модель GLM-5.2 (753B) только читает задачу (делает prefill) и передаёт скрытое состояние через bridge маленькой модели Qwen-3.5 (4B), которая уже генерирует ответ; веса обеих моделей остаются замороженными, между ними не проходит никакого текста
• Результаты связки: закрыто около 50% разрыва в качестве между большой и маленькой моделью, собственная точность малой модели выросла на ~25%, на сложных подзадачах прирост достигал 2x, вычисления обходятся в 2.5 раза дешевле по сравнению с эквивалентной по качеству моделью среднего размера, а latent hand-off даёт до +10 п.п. по сравнению с обычной передачей текста
• Александра Малышева семь лет назад получила от Яндекса научную премию (сегодня — Yandex ML Prize) за исследование того, как нейросети могут обмениваться информацией внутри игры Dota
• Авторы отмечают дополнительные применения технологии: дистилляция моделей, создание инструментов мониторинга и специализация моделей