AI Trends

Microsoft releases the decision model Microsoft-Decision-1.1, with 2x faster speed and multimodal support

36Kr · AIUpdated Nov 18 11:41

English text is being prepared.

AI summary

Microsoft has released a new-generation decision model, Microsoft-Decision-1.1, which scored 68 on the Artificial Analysis decision index leaderboard, 6 points higher than the first decision model, with more than 2x faster computation and lower cost, and added support for image input. The model is developed based on Gemma 4 26B A4B, uses a custom inference engine, and is priced at $0.042 per million input tokens in Foundry, with output free of charge. Microsoft also released the coding models MAI Code 2, MAI Code 2 Flash, etc., and integrated the decision model into Copilot for request routing, processing 2.2x faster and at about 1/4 the cost of large language models.

Why read this

AI score 66

Microsoft's decision model's trade-offs in latency, cost, and calibration, as well as how it is bound to Copilot and Cowork, can help judge the productization path for specialized small models.

Topics

Tags

Body

智东西11月18日消息,今日,微软发布新一代决策模型Microsoft-Decision-1.1。在Artificial Analysis决策指数榜单中,Microsoft-Decision-1.1获得68分,排名第8,比微软首款决策模型高出6分,领先于Jev 1.14、谷歌Gemini Decision 1以及OpenAI的GPT-6 Luna版决策模型。

10月10日,微软推出自家首款决策模型Microsoft-Decision-1。微软称,相比前代模型,Microsoft-Decision-1.1具备更强的智能性、更精准的校准能力,运算速度提升2倍以上,成本更低。

除了决策模型,微软在Ignite大会上还发布了专为企业日常编码任务打造的编程模型MAI Code 2和MAI Code 2 Flash,专为编程和网络安全打造的新模型Code 2、Code 2 Flash模型等。其中,在三项衡量日常高容量常规编码任务的编码基准测试中,MAI Code 2 Flash的性能可与GPT-6 Luna和Claude Haiku 5.5相媲美,成本仅为它们的65%和20%。

新一代决策模型新增了多模态支持,可接收图片。定价方面,在微软Foundry中,每百万输入token0.042美元(约合人民币0.28元),输出免费。

微软称,其决策模型旨在在各类现实软件用例的不确定性下做出校准后的决策。它们会在开发者设定的约束范围内,从允许的操作中做出选择,并输出校准后的置信度分数,以便应用程序在不确定性较高时做出延迟决策。

此外,由于这些模型专注于决策任务,相比通用大语言模型,它们在处理决策相关任务时速度显著更快、成本也更低。

微软在延迟、成本、智能性、校准方面开展了联合创新:

延迟:决策模型需要实时运行,即使在处理带有长输入和数百个问题的复杂请求时也是如此。与传统的逐token生成文本优化的大语言模型推理引擎不同,Microsoft-Decision-1.1采用了针对决策模型计算需求优化的定制推理引擎。

成本:微软的定制推理引擎通过在GPU集群中高效分配请求,实现了低成本优化,而非仅追求低延迟。其基于中型混合专家模型Gemma 4 26B A4B进行开发。Gemma 4 26B A4B拥有足够的活跃参数,可提供决策所需的智能能力,同时运行效率足够高,能在A100、H100/200、GB200/300等多种灵活配置的硬件上运行。

智能性:决策模型需保持足够小的规模以实现全场景运行,能良好泛化至全新或未见过的任务,且需经过专门训练以做出决策。为实现这一目标,微软将有监督微调与强化学习相结合,结合数百个合成及授权数据集,涵盖来自众多行业的数万种任务类型,以此训练模型做出判断,而非死记答案,使模型能够区分高度相似的选项;识别不确定性;并明确何时作答、何时拒绝作答。

校准:微软对模型进行了训练,使其明确自身的认知边界,在相似场景下给出一致的回答,准确报告其回答的置信度,当存在多个有效答案时拆分置信度,并在信息不完整时拒绝作答。开发者能够自行设定决策、标记或升级处理的阈值。

除第三方测试,微软还在102个基准测试上对Microsoft-Decision-1.1进行了评估,这些基准测试涵盖了超过38.5万个训练阶段未接触过的问题,测试任务包括路由、排序、长上下文、多语言、分布外任务、推理、安全等多个领域。

Microsoft-Decision-1.1在8种决策模型中实现了最高的平均准确率,在9个能力类别中的7个类别中处于领先地位。

上线仅五周多,已有超过4000名客户使用微软的决策模型完成各类任务,包括模型路由、客户支持分流、业务流程自动化、标签标注和分类等。早期采用者包括Epic、Equinor、Atos Group以及奥地利瑞福银行。

与此同时,微软正在将Microsoft-Decision-1.1的专用智能集成到各类产品中,以便做出快速高效的决策,同时将更大规模的模型留给更复杂的任务。

在Copilot中,Microsoft-Decision-1.1会将用户请求路由至合适的交互场景,判断由Copilot还是Cowork来处理最为合适。该决策的准确度与大型语言模型相当,处理速度快2.2倍,成本约为后者的1/4。

在Cowork中,该模型为Auto提供支持,动态调整Cowork针对每项任务所投入的推理工作量。

结语:微软模型深度绑定自家产品

或走出差异化路线

与其他头部模型厂商不同,微软的差异在于模型与GitHub Copilot、Foundry、Copilot工作流自家产品深度绑定,模型能力直接嵌入既有办公和开发入口,而不是单独售卖API。

这意味着企业可以将一套方案可以直接接入现有流程、合规边界清晰、上手成本更低的完整方案。

来源:微软

本文来自微信公众号“智东西”,作者:程茜,编辑:李水青,36氪经授权发布。

Source

36Kr · AI