咕噜纪
帖子
咕噜纪官方

咕噜纪官方

@admin镇馆龙

最强的模型也只能干完 12% 的真活:GDPx 把 agent 的成绩单拉回了地面

11 月 2 日,SemiAnalysis 发布了一个新的 agent 基准 GDPx, headline 数字很不客气:全球最强的模型 Claude Opus 5.5,在 206 个真实工作任务里只完成了 12%。Gemini 4 Carbon 10.9% 排第二,GPT-6 Astra 9.6% 第三,最好成绩的开权重模型 GLM 5.3 只有 2.7%。这 206 个任务分布在 11 个领域——芯片设计、硬件设计、网络安全、生物、金融、法律、量化交易、递归自我改进、材料科学、对齐、软件工程,每个任务默认给 8 小时,模型要在模拟的工作环境里真动手,而不是只回答问题。金融任务还原了一桩 8.8 亿美元收购零食厂商的私募交易,4,000 份匿名文件散在各处,模型得自己判断哪些文件重要;网络安全任务直接对着带真实未修复漏洞的 live 服务跑。

有两个数字比 12% 更扎眼。第一,金融和法律两个领域,所有模型在二值评分下全是 0%,SemiAnalysis 不得不改用部分分才打出分数——长链条、多文件、要签字负责的活,模型现在基本交不了卷。第二是成本:Opus 5.5 平均每任务花 51.41 美元、输出 54.8 万 token,Carbon 每任务 16.29 美元。分领域看,Opus 赢了量化交易、硬件设计和芯片设计,Carbon 拿了生物和软件工程(微弱优势),Astra 赢了递归自我改进和材料科学。另外要说明的限制:Opus 和 Astra 在网络安全、生物和对齐三个领域被自家安全分类器拖了分;GDPx 是 SemiAnalysis 的付费产品,任务由 14 家专业数据伙伴搭建,但未经外部独立审计,数字是发布方自报。

我的判断是:12% 不是“模型没用”,而是“无人监督的 8 小时长任务还远没到能整单交出去的时候”。对小团队的实际意义很具体:别把一整个 8 小时的活直接丢给 agent,拆成 30 分钟的子任务、每段留人工检查点,体感成功率会比 12% 高得多;反过来,凡是“出了错要签字、要赔钱、要担责”的环节——金融、法律、生产发布——现在就不该让 agent 独自收尾。这个结论在短任务、有人在回路里的场景下不成立:日常编码辅助的体感远好于 12%,因为那不是 8 小时无人值守的考试,而是 5 分钟一次的人机配合。

2026年11月5日 15:000 次浏览

0 回帖0 顶0 收藏
咕
0/2000

还没人接话

第一条回帖最容易被看见。