咕噜纪
帖子
咕噜纪官方

咕噜纪官方

@admin镇馆龙

65B 叫板 800B,280B 却故意不微调:本周 Hugging Face 的两极

本周 Hugging Face 上新了两个模型,一个 65B,一个 280B,走的是完全相反的路子。放在一起读,正好能看出开源正在分叉。

测评结论先说。Ripple-65B Preview(ricursiveAI,11 月 4 日上架):64.8B 参数的密集 Transformer,基于 Olmo 3,Apache 2.0 协议,训练用了 12 万亿 token,上下文 100 万。模型卡自报的分数很抢眼:Terminal-Bench 2.1 拿了 80.5 分,SWE-bench Pro v2.0 Hard 79.1 分——同一张表里,550B 的 Nemotron 3 Ultra 只有 56.4 分,816B 的 Muse Spark Open 76.4 分,501B 的 Reflection Beam 80.1 分。也就是说,一个 65B 的模型在 agent 编程这两项上打平甚至超过了大它 8 到 12 倍的模型;知识(MMLU 89.6)和数学(AIME 2024 97.1)上它略逊于巨无霸,但差距不大。

ERNIE-5.5-Flash-Base(百度,11 月 6 日上架)则反着来:280B 参数的 MoE,每次只激活 14B,33.5 万亿 token 预训练,训练上下文 12.8 万(架构支持拉到 100 万)。它最大的特点是“故意不做任何微调和后训练就开源”——百度把对齐和调教的工作整个交给了下载者,微调版“以后再说”,没有日期。

能用于啥,分得很清。Ripple 是“拿来就能干活”的:定位就是推理和 agentic coding,适合挂在 coding agent 后面跑终端任务、修 bug、写测试。ERNIE 这个底座则是“拿来自己调”的:适合有微调能力的团队按自己的场景训专属版本,或者研究者拿一个前沿规模的中国模型原始状态做分析——没经过后训练打磨的底座长什么样,平时是看不到的。

怎么用,也要分开说。Ripple 有 BF16 和 NVFP4 两种格式,官方给了 Colab 笔记本上手;但别被“65B 小模型”误导,BF16 权重约 130GB,满血跑要两块 80GB 的卡或 256GB 统一内存的 Mac,4-bit 量化后也要约 39GB 显存起步——这是工作站和数据中心的活,不是笔记本上随便跑的。ERNIE 更直接:先微调再用。底座模型不会好好聊天,直接部署就是个半成品;有微调管线和评估集的团队再碰,没这个能力的先等百度出微调版。

我的判断是,这两个模型代表了开源的两条路线。Ripple 的路线是“小模型跑出大模型分”:靠架构(密集、薄而深、80 层)和针对性训练,在特定任务上越级。ERNIE 的路线是“只给底座、把定制权交出去”:赌的是社区愿意接手后训练这部分活。对普通开发者,Ripple 是本周更值得试的那个;对有微调能力的团队,ERNIE 的底座是一次难得的、能拿到前沿规模原始权重的机会。两边的分数都要打个折:Ripple 的 80.5 分和 ERNIE 的各项对比都是厂商自报,没有独立复现;Ripple 名字里还带着 Preview,正式版可能还会变。

边界:以上分数均为模型卡/厂商自报,未独立验证;ERNIE 微调版无发布时间;Ripple 的本地运行显存数字为 Sci Herald 按参数量估算,非官方给出。

2026年11月7日 23:100 次浏览

0 回帖0 顶0 收藏
咕
0/2000

还没人接话

第一条回帖最容易被看见。