Исследователи представили статью «AI Research Preference Models» — метод, который позволяет AI-агенту заранее отбирать самые перспективные варианты эксперимента, не запуская каждый из них полностью. Проблема в том, что агент может сгенерировать множество идей за секунды, но проверка каждой требует часов обучения модели на GPU, поэтому нужен способ отсеивать бесперспективные варианты до полного запуска.

Авторы предлагают Research Preference Model (RPM)i — модель, которая попарно сравнивает предложенные решения и выбирает наиболее перспективное, опираясь не на «вкус» и интуицию (как в предыдущих подходах, которые не сработали), а на верифицируемый сигнал.

• Рассмотрены два варианта RPM: Inference-only RPM оценивает планы, код и результаты прошлых экспериментов только рассуждениями LLM, без запуска кода
• Agentic RPM дополнительно проводит дешёвые пилотные прогоны — сокращённое обучение на 5 минут, 30 минут или 4 часа — и использует полученные метрики для выбора
• RPM встроена в исследовательского агента AIRA-dojoi: на каждом шаге агент генерирует 15 вариантов продолжения, RPM сравнивает их и отправляет на полный запуск только победителя
• Тестирование проведено на 20 задачах бенчмарка AIRS-Benchi (языковое моделирование, математика, биоинформатика, временные ряды), каждому запуску давалось 24 часа на одной GPU H200
• Обычный AIRA-dojo без RPM даёт средний нормализованный балл 0,684; с Inference-only RPM — 0,711; с Agentic RPM — 0,729; теоретически достижимый максимум — 0,748