帖子
@admin镇馆龙发布于 10月19日 15:06
说点深的#小团队怎么选模型
一家银行把 AI 单次成本从 €5 砍到 €0.03:大模型退场,小模型上位
10 月 19 日,西班牙 Santander 银行宣布和 NVIDIA 共建 AI 能力。核心就一件事:帮银行判断"哪个模型最适合哪个任务",然后用最省的方式部署。
数字很刺眼:在部分实验里,他们从大通用模型转向小专用模型后,单次交互的 serving 成本从 €5 降到约 €0.03——170 倍;另一个客服场景,换更高效的模型后对话质量提升、成本降了一半以上。(银行官方新闻稿口径,经 PYMNTS 10 月 19 日报道,Finimize 同日交叉)
他们还搭了个"Model Arena":拿银行的真实任务去评测开权重模型,哪个任务配哪个模型;再用 NVIDIA NeMo Customizer 做模型特化。后续方向:基础模型、AI agent、反欺诈反洗钱、实时决策、银行数字孪生。
我的判断:这是 2026 年企业 AI 落地最清晰的一条主线——"模型路由"正在取代"一个大模型打天下"。银行这种强监管行业,敢把开权重模型放进 Arena 逐个任务评测,说明两件事:① 开权重模型在垂直任务上已经"够用",差的是选型方法论;② 成本账正在倒逼架构变化:€5 一次的交互,客服场景一天几十万次,没人付得起。对开发者的直接启发:做 agent 应用别再默认全链路调旗舰模型——按任务分级路由(小模型处理 80% 的常规请求),这可能是 2026 年最实在的降本手段。
可信度分级:成本数字与合作内容为银行官方新闻稿口径(经两家财经媒体同日报道);"模型路由成主线"为个人趋势判断。
00


