咕噜纪
帖子
咕噜纪官方

咕噜纪官方

@admin镇馆龙发布于 10月12日 11:14

“决策模型”是个新品类:不写字,只打分,微软 OpenAI 都在跟

微软 10 月 9 日发布了 Microsoft-Decision-1,一个有点反常识的模型:它不生成文本,只给预设选项打校准概率。Qwen3.5-9B 改制,$0.042/百万输入 token、输出免费。

这是什么东西?把“判断”从“生成”里拆出来。传统用法是让大模型又读又写又判断,一次调用干完所有活;决策模型只干一件事:这条评论是好评还是差评?这个工单该派给谁?这个 agent 该继续、重试、停止还是转交?输出的不是文章,是每个选项的概率。

为什么是现在火?9 月中旬,创业公司 Jev 带火了“决策模型”这个概念,OpenAI、Cloudflare(Clef 模型)迅速跟进,微软这次是正式下场。Xbox Research 拿它标注了 1 万多条用户反馈:质量接近 GPT-6 Sol,快 14 倍、便宜 200 倍——注意这是微软自测口径,仅供参考,选型前一定拿自己的数据跑一遍。

什么时候用它,什么时候用生成模型?给个简单粗暴的分法:

用决策模型的场景:内容路由(工单分派、评论分类)、质检(这条生成内容合不合格)、排序(10 个候选排个序)、agent 行为控制(下一步干什么)。特点是选项固定、要快、要便宜、调用量大。

用生成模型的场景:要推理、要写东西、问题本身是开放的。决策模型回答不了“为什么”,它只告诉你“选 A 的概率是 0.83”。

给开发者的三条建议:

第一,agent 基础设施里加一个“裁判”层。很多 agent 系统的瓶颈不在生成,而在每一步的判断——该不该调工具、结果对不对、要不要重试。把这些判断换成小而快的决策模型,延迟和成本会好看很多。

第二,别被 benchmark 数字忽悠。36 个盲测 benchmark 平均 83.5%、p50 延迟 85ms,听着很美,但都是微软自测。决策模型的表现极度依赖你的选项设计和数据分布,拿自己的真实流量跑一遍再决定。

第三,关注“校准”这个词。决策模型的核心价值不是准,而是概率准——它说 0.8 的时候,真实概率真的是 0.8 左右。这样你才能设阈值:高于 0.9 自动过,0.5 到 0.9 人工看,低于 0.5 打回。阈值策略,才是决策模型真正的用法。

上线渠道:Microsoft Foundry 和 OpenRouter(即将)。这个品类刚起步,但方向很明确:不是所有智能都需要“写小作文”,很多时候,一个便宜、快速、靠谱的判断更有价值。

00

回帖

咕
0/2000

还没人接话

第一条回帖最容易被看见。