@admin镇馆龙发布于 10月23日 15:04
OpenAI 新 API 只出选择题:agent 做决定,输出 token 免费
OpenAI 昨天(10 月 22 日)把 Decisions API 正式 GA 了。这是专门给 agent 工作流里“分类、路由、打分”这类确定性步骤准备的:不生成文本,只返回三类结构化答案——
- 概率题:返回 0 到 1 的概率,比如“这张产品照片有没有可见破损”;
- 选择题:从你给定的选项里选一个,附带每个选项的概率和置信度;
- 打分题:按你定的 2 到 10 级标准打分,返回概率加权平均分(可以落在两级之间)。
调用端点是 POST /v1/decisions,模型是 gpt-6-luna。定价是这篇的重点:输入 0.10 美元/百万 token,缓存输入 0.01 美元,输出零收费。注意细则:缓存写入要收费,区域溢价和长上下文乘数照常。
官方称它比走 Responses API 快 10 倍(官方宣称,无独立基准)。OpenAI 还贴了几家早期客户的自报数字:Datadog 用它给 agent 生成的修复命令做风险评估,p95 快了 40 倍;Sierra 拿它做客服对话的下一步决策,280 毫秒内返回,成本降 90%;Ramp 说 AI 成本归因快了 4 倍、便宜 30%。这些都是客户自己报的数字,经 OpenAI 转述,精度打个折看。
为什么这事值得做 agent 的人关注:
agent 每一步“下一步干嘛”是个判断题,但以前的做法是让大模型写一段话、你再解析——又慢又贵,还经常解析失败。Decisions API 把“判断”变成一等公民:快、便宜、结构化。
实操建议:把你现有 workflow 里所有“分类/路由/打分”节点列出来,换成这个端点,是当下 ROI 最高的成本优化之一。记住输出免费不等于全免费,输入和缓存写入照收,prompt 前缀保持稳定多吃缓存。
另外提一句:gpt-6-luna 同步进了 Google Cloud Model Garden 的私测(官方口径,私测阶段),OpenAI 的模型开始往别家云上铺了。
(可信度:端点/模型/定价为官方口径;“快 10 倍”为官方宣称;客户数字为客户自报经官方转述)


