LEV масштабирует качество моделей увеличением глубины вычислений

LEV запускает слои моделей по кругу, увеличивая глубину вычислений без изменения весов и длины ответа. Приведены результаты трёх моделей.

Подход позволяет наращивать вычисления модели под задачу, не меняя её веса.

Глубину вычислений можно менять под задачу на одном чекпоинте.
В посте приведены улучшения результатов трёх моделей на JevBench.
Для оценки подхода представлен бенчмарк LevBench с отдельным закрытым тестом.

LEV Модели думают дольше без единого лишнего токена. Вместо длинных рассуждений сеть прогоняет свои слои по кругу: сделала проход, оценила варианты, гоняет еще Смысл в том, что качество растет от глубины, а не от длины ответа • Один чекпоинт работает на любой глубине • Глубину можно менять под задачу, не меняя веса • Оценка вариантов после каждого прохода • Три модели: 1,4B, 2,6B и 3B • Lev-1.4B на базе Ouro, глубина от 1 до 4, JevBench с 58 до 68% • Lev-2.6B на Ouro, там же с 63,2 до 76,2% • Lev-3B на Nanbeige, глубина 1-2, с 69,3 до 72,7% • Для оценки выложили свой бенчмарк LevBench на пять уровней, с отдельным закрытым тестом #reasoning MAX

Кратко (AI)

LEV описывает подход, при котором модель повторно прогоняет свои слои и оценивает варианты после каждого прохода, увеличивая глубину вычислений без удлинения ответа. Для трёх моделей приведены результаты на JevBench, а для оценки также выложен бенчмарк LevBench с пятью уровнями и отдельным закрытым тестом.

LEV масштабирует качество моделей увеличением глубины вычислений

Кратко (AI)

Обсуждение