Зачем гиперскейлеры выпускают ИИ, который только выбирает вариант ответа
Крупные разработчики ИИ начали выпускать модели нового типа — они не пишут тексты и не ведут диалог, а выбирают один из заранее заданных вариантов. Microsoft представила Microsoft-Decision-1 для маршрутизации запросов, классификации, проверки ответов и управления агентами.
На вход такая модель получает вопрос и фиксированный набор вариантов, а на выходе возвращает откалиброванные вероятности для каждого из них в формате JSON. Вызов выполняется за один проход, поэтому системе не требуется генерировать длинное рассуждение или объяснение решения.
Microsoft-Decision-1 дообучена на Qwen3.5-9B от Alibaba. Модель доступна в Microsoft Foundry и OpenRouter. Стоимость составляет 0,042 доллара за миллион входных токенов, вывод предоставляется бесплатно.
Отдельный класс моделей для служебных задач
До середины сентября подобных решений на рынке практически не было. 15 сентября стартап TypeSafe, основанный бывшим исследователем OpenAI Диогу Алмейдой, выпустил модель Jev, а OpenRouter создал для нее отдельный эндпоинт Decisions. К 28 сентября на площадке насчитывалось семь «решающих» маршрутов от четырех разработчиков.
Затем собственные продукты представили другие компании. OpenAI на DevDay показала Decisions API на базе урезанной GPT-6 Luna в ограниченном превью. По заявлению компании, задержка составила 150 мс против 1,6 секунды у обычного вызова Luna. Cloudflare выпустила Clef и Clef-flash с весами под лицензией Apache 2.0, а Amazon опубликовала открытую модель Strands Decider на 2 млрд параметров.
Большинство практических задач такого типа сводится к трем операциям: ответу «да» или «нет», выбору из набора вариантов и определению позиции на шкале. В агентных системах большая языковая модель регулярно вызывается именно для подобных решений — например, чтобы выбрать инструмент, проверить ответ на галлюцинации или определить нарушение политики.
Производительность и вопросы к сравнительным тестам
По собственным замерам Microsoft, проведенным на 36 бенчмарках и 147 137 вопросах, Decision-1 достигла точности 83,5%. Для сравнения, у Quyet-1.0-Large показатель составил 81,9%, а у GPT-6 Luna Decisions — 79,4%. По калибровке Microsoft-Decision-1 заняла второе место с результатом 92,2 против 93,1 у Quyet.
Разработчик также утверждает, что модель не меняет решение при перестановке вариантов ответа, а при добавлении текстовых помех ошибается в 1,3% случаев. Медианная задержка, по данным Microsoft, составляет 85 мс.
Эти результаты пока нельзя считать окончательными. Microsoft тестировала собственную модель самостоятельно, а показатели конкурентов брала из скорректированных медиан рейтинга JevBench, где Decision-1 еще не участвовала. Компания H2O оспорила приведенные значения и заявила, что медианная задержка ее модели H2O-Lightning-4B составляет 29 мс, а не 210 мс. Независимых сопоставимых тестов пока нет, поэтому графики разных поставщиков следует воспринимать с осторожностью.
Почему decision-модели снижают стоимость ИИ-систем
Если результатом может быть один из пяти вариантов, генерация рассуждения на сотни токенов оказывается избыточной. Это заметно влияет на экономику агентных конвейеров, где на каждый пользовательский запрос приходится несколько проверок и маршрутизаций.
Согласно приведенному сравнению, 2 млрд входных токенов в месяц через Decision-1 стоят около 84 долларов. Тот же объем запросов к модели класса Sonnet, используемой в роли судьи по цене 2 доллара за миллион токенов, обойдется примерно в 4000 долларов. Разница почти в 50 раз может определить, останется ли прототип экспериментом или будет перенесен в промышленную эксплуатацию.
При этом Microsoft-Decision-1 остается закрытой моделью: ее веса недоступны, самостоятельно развернуть ее нельзя, а аппаратная платформа не раскрывается. В этом отношении Cloudflare Clef и Amazon Strands Decider привлекательнее для организаций, которым важно обрабатывать данные внутри собственной инфраструктуры. Открытые модели на базе Qwen также дают больше контроля над размещением и настройкой решения.
Где применять такие модели
Кандидатами на перенос с больших языковых моделей на decision-модели являются маршрутизация запросов, модерация, проверка соответствия ответа исходным данным и оценка качества результата. В подобных сценариях важен не текстовый ответ, а стабильный выбор класса, инструмента или уровня уверенности.
Microsoft отдельно ограничивает применение Decision-1: модель не должна быть единственным механизмом принятия решений о кредитах, найме, жилье и медицинской помощи. Пороговые значения, передача спорных случаев оператору и человеческий контроль должны оставаться на стороне приложения.
Если независимые тесты подтвердят заявленные показатели скорости и стоимости, отдельный слой decision-моделей может стать стандартной частью LLM-стека. По своей роли он будет дополнять генеративные модели примерно так же, как эмбеддинги сегодня дополняют системы поиска и RAG.
