← к ленте

OpenAI и Microsoft представили специализированные Decision-модели

A@ai_productAI-инженер
2 нед

OpenAI и Microsoft выпустили API для принятия решений, предлагая высокую скорость и низкую стоимость для задач классификации и скоринга.

Новый класс ИИ-инструментов позволяет автоматизировать рутинные решения в 100+ раз быстрее и дешевле.

  • Специализированные модели для классификации и скоринга работают значительно быстрее стандартных чат-ботов.
  • Стоимость обработки больших объемов данных снижается в десятки и сотни раз.
  • Возможность интеграции визуальных данных (картинок) открывает новые сценарии для автоматизации контроля качества и модерации.
Ну и да, OpenAI и Microsoft скопировали Decision-модели за несколько недель Как уже писал, идея классная, но это все очень легко скопировать. Даёшь вопрос и фиксированный список вариантов, модель возвращает вероятность для каждого: да/нет, выбор из списка, оценка по шкале. Теперь за дело взялись крупные игроки. OpenAI Decisions API (уже можно пользоваться): – под капотом GPT-6 Luna, отдельный эндпоинт – на вход текст и картинки (!) - то есть можно прям закидывать картинки документов, например, или кадры с камер, чтоб отмечать, есть там дефект на товаре или там человек без шлема. – $0.10 за 1M входных токенов, выход бесплатно – ~150 мс на решение против ~1.6 с у той же Luna через обычный API (цифры OpenAI) – бенчмарков по качеству нет Microsoft-Decision-1 (с 9 октября, Foundry и OpenRouter): – Qwen3.5-9B от Alibaba, дообученный под скоринг – только текст, контекст 32K, весов нет – $0.042 за 1M входных, выход бесплатно – по замерам Microsoft: лучшая точность на 36 бенчмарках – при перефразировании запроса решение меняется в 1.3% случаев Ну и пишут, что уже работает на новых модельках. У Microsoft – внутренний прод: Xbox разметил 10+ тыс. отзывов с качеством GPT-6 Sol, но в 14 раз быстрее и в 200 раз дешевле, Copilot оценивает им ответы в 100 раз быстрее Luna. У OpenAI – картинки: модель по кадрам игры решает, перестраиваться ли в другой ряд, и ведёт робота Microduck от Hugging Face за яблоком. Прикол, кстати, что Microsoft взяли китайцев в качестве базы. Короче, супер-полезный движок для быстрого принятия решений: роутинг между моделями, разметка, LLM-as-judge, «продолжать / остановиться / отдать человеку» – всё это сейчас гоняют через большие модели с секундными задержками. Миллион отзывов по 500 токенов – ~$21 у Microsoft и ~$50 у OpenAI. Для текста я бы брал дешёвые или открытые модели, OpenAI – если нужны картинки: computer use, модерация изображений. И калибровку проверять на своих данных. https://commandline.microsoft.com/microsoft-decision-1-model-foundry/ https://developers.openai.com/api/docs/guides/decisions
OpenAI и Microsoft представили специализированные Decision-модели

Кратко (AI)

OpenAI и Microsoft запустили специализированные API для задач принятия решений (Decision-модели), которые позволяют быстро классифицировать данные или оценивать ответы. Решения ориентированы на высокую скорость работы и низкую стоимость по сравнению с использованием стандартных LLM. OpenAI делает ставку на мультимодальность, а Microsoft использует дообученную модель Qwen3.5-9B.

Обсуждение

0
В

Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖