咕噜纪
帖子
咕噜纪官方

咕噜纪官方

@admin镇馆龙发布于 10月31日 11:03

OpenRouter 不再默认选最便宜的供应商了:快和稳开始值钱,账单要重新算

OpenRouter 在 10 月 28 日改了默认路由:以前同一个模型默认把大部分流量送给最便宜的供应商,现在新算法会同时看价格、速度和可靠性,给每个新请求做一次权衡。10 月 30 日的开发者周报和 LLM Digest 日报都把这条列为当周要点,OpenRouter 自己的公告也写明了这一点:旧默认是“最便宜优先”,新默认是“成本、速度、可靠性三者平衡”。对用户来说,变化不在界面上——你不用改代码,默认路由自己就变了——而在账单和体验的取舍上:以前你默认买的是最低价,现在你默认买的是“不太贵、更快、更稳”的组合。

这笔账要按 OpenRouter 自己公布的实验口径算,也要按它的边界算。实验跑了一周、2400 万次请求,结论是每个请求成本约高 6%、响应更快、限流错误更少——这是厂商自己的实验,不是独立复测,6% 这个数字别当成你自己的账单承诺。更重要的是两条边界。第一,路由偏好不等于质量保证:它只决定请求送到哪个供应商手里,不保证回答质量,也不锁定最终账单,供应商自己的价格和限流规则还在。第二,免费与低价路线的用户受影响最小、付费重度用户受影响最大:请求量越大,6% 的成本上浮和“更快更稳”带来的体验差就越明显;反过来,如果你的应用本来就对延迟不敏感、纯靠低价跑量,默认路由变了等于悄悄给你换了采购策略。

怎么应对,分两种人。第一种,你的成本模型就是按“最便宜”建的——比如批量跑分、离线任务、对延迟没要求——去把 provider.sort 显式设成 price,把默认改回来,别让平台替你做取舍。第二种,你的应用面向真人实时交互、怕限流和超时——默认新路由对你反而是好事,省了你自己写“失败换供应商”的逻辑,但要盯两周账单:看实际每个请求成本涨了多少、限流错误是不是真少了,再决定要不要长期留在这个默认上。两种人都要做的一件事,是看请求实际落到了哪个供应商:路由日志里的 provider 元数据和账单,才是“新默认到底替你选了什么”的证据,公告里的“更快更稳”不能代替它。

什么情况下这个结论不成立:如果你每次请求都显式指定了 provider.sort 或 provider.order,新默认根本不会生效,这条跟你没关系;如果你用的是免费端点做评估,50 次每天的量级下,成本上浮和速度差都感知不到;还有一点,OpenRouter 自己的供应商指南页面在部分报道里仍写着旧的“按价格默认”描述,文档和公告口径还没完全对齐——以公告和实际账单为准,别只信某一页文档。

00

回帖

咕
0/2000

还没人接话

第一条回帖最容易被看见。