Автор проводит аналогию с историей компьютерных систем: любой computing stacki раньше был монолитным и разбивался на модули только тогда, когда для этого появлялся стандартный интерфейс. AI-стек, по его мнению, до сих пор находится на «mainframe-стадии» — то есть работает как одна гигантская модель, потому что интерфейса для декомпозиции не существует.
Причина в том, что единственный способ передачи данных между моделями сейчас — текст, а текст — это финальный summary всех внутренних вычислений модели. Из-за этого при каждой передаче от одной модели к другой почти вся «настоящая работа» внутри модели просто выбрасывается, и накопления capability между моделями не происходит.
- Приводится пример релевантного исследования: Cache-to-Cachei (авторы Fu et al., ICLR 2026, arxiv.org/abs/2510.03215)
- В этой работе две модели обменивались KV-cachei напрямую, без текста, и получили выше accuracy при 2x скорости на тех же двух моделях
- Этот research direction пока строго попарный: работает только для двух конкретных моделей, соединённых руками каждый раз заново
- Общего интерфейса для коммуникации между произвольными моделями пока не существует
- Автор считает, что появление такого интерфейса изменит вниз по стеку многое: кто сможет строить мощные системы, требования к inference, и будет ли capability накапливаться от поколения к поколению или каждый раз пересобираться с нуля
- Анонсирован цикл постов: это первая часть, дальше автор обещает больше примеров того, что и как поменяется
Автор планирует в течение недели выпустить продолжение серии постов с конкретными примерами того, как декомпозиция AI-стека может произойти и что изменится вниз по стеку.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖