只会生成的模型上不了产线：360 在乌镇拿出的 MCM，想给 AI 加一道验算

11 月 4 日，在世界互联网大会乌镇峰会的“人工智能赋能科学研究”论坛上，360 集团首席科学家潘剑锋发布了元认知模型 MCM 的研究成果。它的目标不是让模型写得更多，而是让模型在动手之前先想清楚：任务处在什么环境里、手头有什么经验、行动要走哪条路、每一步之后状态变了没有。做法是把生成和验证拆开。LLM 负责理解问题、提出假设、探索方案；MCM 负责补上任务环境与状态信息，结合经验知识、适用条件和行动约束给出探索方向，再依据任务目标、科学规律、形式规则和外部证据检验方案，验完的结果回流给大模型做修正。按发布方的说法，相关能力已经在 360 的安全产品里落地验证。我的判断是：产线缺的从来不是更会写的模型，而是会自我验算的环节。一个 agent 敢不敢接生产任务，不看它一遍写对的概率，看它写错之后能不能自己拦下来。MCM 的思路对小团队有直接参考价值：给 agent 加三道关——规则校验、外部证据核对、关键动作前的人工复核点。模型说完先别执行，先让另一套规则问一句“这一步的依据是什么、错了会怎样”。边界也要说清。MCM 目前是研究成果，不是开箱即用的产品，也没有可公开对标的基准分数，别把它读成“装上就能可靠执行”。还有一个反例：如果验证规则本身写错了，验算只会把错误执行得更整齐。所以验证层本身也得可审计、可改，规则是谁定的、改了什么，最好留痕。这个结论在规则不可审计的场景下不成立。