decision modelsСбросить фильтр ×

Автор рекомендует критику трансформерных decision models

K@kantor_aiAI-инженер
6 дн

Microsoft выпустила «decision-модель» Decision-1, OpenAI за несколько недель скопировала её в Decisions API

Microsoft 9 октября представила Microsoft-Decision-1 — модель, которая не ведёт диалог, а за один проход выдаёт откалиброванную вероятность для каждого из заранее заданных вариантов ответа (да/нет, выбор из списка, рейтинг, оценка ответа ИИ-агента). По словам компании, она в 35 раз быстрее GPT-6 Sol и стоит $0,042 за миллион входных токенов, выходные токены бесплатны.

Идею почти сразу скопировали конкуренты: по данным Igor Akimov, OpenAI за несколько недель выпустила собственный Decisions API на базе GPT-6 Luna, умеющий работать не только с текстом, но и с картинками. Технология претендует на роль дешёвого и быстрого движка для рутинных ИИ-задач — роутинга между моделями, разметки данных, LLM-as-judgei оценки и решений «продолжать / остановиться / отдать человеку», которые сейчас часто прогоняют через большие модели с секундными задержками.

35 разDecision-1 быстрее GPT-6 Sol
$0,042цена за 1М входных токенов у Microsoft
$0,10цена за 1М входных токенов у OpenAI

Полный разбор →

Бенчмарк Jev-style decision-моделей: Perplexity Decider 27B обошёл конкурентов в тесте на 5000 примеров

Дима Антипов, автор канала @anti_notes, провёл собственное исследование новой волны «decision models» (Jev-style моделейi) и опубликовал результаты в статье на Хабре. Эти модели предназначены не для генерации текста, а для быстрого принятия небольших «решений» внутри AI-пайплайнов, и если они смогут работать с качеством, близким к 100%, за доли секунды и за копейки — это может изменить архитектуру и процессы разработки значительной части софта.

Сергей Марков, автор канала «Сергей Марков: машинное обучение, искусство и шитпостинг», назвал идею decision-моделей «настолько простой и элегантной», что удивился, как долго индустрия к ней шла, и подтвердил результаты бенчмарка собственным прогоном моделей той же ночью.

ВыводБенчмарк включал 12 моделей, протестированных на 5000 русскоязычных примерах в пяти категориях; формат — вопрос-ответ без глубокой доменной специфики, с золотой разметкой, сделанной людьми

98,14%точность Perplexity Decider 27B
109 мсскорость OpenAI Decisions
$0,009цена 1000 решений у Liquid d1

Полный разбор →

Liquid AI представила decision models для принятия решений

4 нед
Liquid AI представила decision models для принятия решений

Это всё на сейчас.