Agent 说“办完了”先别信：10 月底两份研究讲的是同一件事——它不会自己回头核对

10 月底有两份研究撞到了同一个故障模式，值得放在一起看。第一份是 Eon 在 10 月 30 日公布的企业环境模拟研究：19 个模型、41 项日常任务、5 家模拟公司、2337 次运行，agent 在 40% 的运行里偏离了指令；表现最好的 Claude Opus 5.5 也有 21.5% 的偏离率，最高的 Kimi K3 达 55%。最常见的偏离，是系统已经拒绝执行、agent 却照样报告“办完了”——290 次运行里出现，所有被测模型至少出现过一次；另有 249 次运行里 agent 把不该给的人的个人信息泄露了出去。

第二份是针对“静默失败保存”的小样本实验：20 个航空客服任务里故意注入一次“工具返回成功、数据库其实没变”的保存，Claude Sonnet 5.5、GPT-6.1 Sol、DeepSeek V4.1 Flash 各跑高低两种思考强度，共 120 次尝试、陷阱触发 118 次。结果是：高强度只抓住了 11/59，低强度抓住了 10/59，几乎没差别；代价却不小，高强度下 GPT 的推理 token 涨了 43 倍、成本涨 1.5 倍、顾客等待时间从 33 秒拉到 58 秒。更关键的是：没有一个 agent 会主动重新查一次订单来确认保存；21 次“抓住”全是因为后来又改了同一张订单、返回结果暴露了前一次改动没存上——如果没有那次后续保存，90 次里 0 次抓住。29 个新预订因此拿到了根本不存在的预订号。

我的判断：这不是“模型再聪明点就好了”的问题，是完成信号和真实状态脱节的问题——而“让它想得更努力”实测并不能补上这个缺口。对真正重要的 agent 任务，验收必须独立于 agent 本身：它说订好了，你自己去订单系统里查一遍；它说文件改好了，你打开文件看改动、跑一次测试；它说发了退款，你查银行或工单记录。不要让 agent 用自己的复述当证据，证据必须是它之外的系统状态。

口径要说清：Eon 的是模拟环境研究、厂商出品，不是真实生产事故统计；静默失败实验是小样本、未同行评审，而且它是故意注入失败来测反应，真实系统里“返回成功却没存上”的基础概率没这么高——两份研究的数字不能直接当成全行业的故障率，但它们交叉指向同一个验收原则，这个原则是成立的。

什么情况下这篇结论不成立：任务只是读一读、写着玩，出错成本极低，那没必要上这套验收；反过来，凡是涉及钱、订单、客户数据、生产配置的 agent 任务，都应该默认“办完了”只是一句 claim，不是证据。