🌟
CLM-8B: открытая и быстрая модель для выбора действий агентов
Стэнфорд в сотрудничестве с NVIDIA выложили в
открытый доступ первую модель класса Contrastive Language Models.
Это открытый аналог Jev, которую 15 сентября представил стартап TypeSafe AI бывшего исследователя OpenAI.
Она по входному контексту возвращает решение заданного типа с откалиброванной вероятностью и стоит 4 цента за миллион входных токенов.
CLM-8B делает то же самое и нужна агентам, которым приходится быстро принимать решения. Модель получает текущее состояние и набор возможных действий и возвращает вероятность для каждого.
Она умеет оценивать истинность утверждения, выбирать из нескольких вариантов и ставить оценку по упорядоченной шкале.
Дообученную CLM-8B можно использовать как верификатор, который выбирает лучшее из нескольких решений кодинг-агента.
Текст модель не генерирует.
🟡
Архитектура
В основе - Qwen3-8B, поверх которой обучены две небольшие проекционные головы, одна для состояния, другая - для действия.
Состояние и действия кодируются отдельно, модель сравнивает их векторы и переводит близость в вероятности. Векторы неизменных действий можно посчитать заранее и переиспользовать, поэтому в задачах с чередой решений модель отвечает быстрее.
🟡
Тесты
Без дообучения CLM-8B держится на уровне Jev в задачах управления компьютером, играх и вызове инструментов и отвечает до девяти раз быстрее. С кэшированием векторов при выборе примерно из тысячи вариантов разрыв доходит до 13 раз.
В роли верификатора дообученная модель на отложенных подмножествах задач поднимает долю решённых задач на DeepSWE с 73,7% при одной попытке до 81,6%, на Terminal-Bench 2.1 с 84% до 87,6%. Jev в той же роли даёт 71,1% и 83,1%.
Для запуска нужны Linux, видеокарта NVIDIA и Qwen3-8B, развёрнутая через vLLM.
📌Лицензирование: Apache 2.0
🟡
Блогпост
🟡
Набор моделей
🖥
GitHub
@ai_machinelearning_big_data
#AI #ML #Decision #CLM #NVIDIA #Stanford
