英国议会拿到“一键下架”承诺：OpenAI 和 Anthropic 说，情报部门说不安全就停

10 月 13 日，OpenAI 与 Anthropic 的代表在英国议会下院商业、创新、技能与科技委员会作证，承诺：如果 MI5、MI6、GCHQ 或英国 AI 安全研究院（AISI）拿出模型不安全或被坏人利用的证据，两家公司会立即处理——停止部署、暂停训练或把模型下架（Sky News 报道，多家转载交叉验证）。

先看原话。OpenAI 欧洲、中东和非洲政策负责人 Tom Duff Gordon 说：“如果 AISI 或 MI5、MI6、GCHQ 或这些机构中的任何一个来找我们说‘我们认为你们的模型不安全’，我们显然会以最紧迫的态度立即处理”；“如果模型在我们控制之下，我们会停止部署该模型，或暂停训练模型，或不部署它。”Anthropic 代表 Lord Booth Smith 作出同样承诺：“如果任何机构拿出可证明的证据，表明模型不安全或危险，我们当然会把它从市场上撤下。”

但两家都留了同一个口子：前提是“模型在我们控制之下”。Duff Gordon 承认：“部署方式有些细微差别，因为如果模型由别人托管，我们并不总是有控制权。”——开源权重、第三方托管的模型，下架承诺覆盖不到。

背景值得一提：同一天，MI5 负责人 Ken McCallum 警告 AI 正在“超速加剧”英国的安全威胁：能生成针对个人的宣传和极端化内容，已抓到恐怖分子用 AI 改进侦察和袭击方法，AI 无人机是新变量；他认为尚未实现、但最值得重视的滥用场景，是 AI 改变生物武器方面的 stakes。

我的分析：这不是法律，是承诺——议会听证里的表态，没有强制力，也没有定义“证据”的标准和申诉机制。真正值得看的是两点：第一，“下架”第一次被摆上台面作为正式选项，AI 治理从“事后罚”走向“事中停”；第二，控制权口子是关键：闭源 API 模型能停，开源权重一旦流出就停不了。这也解释了为什么两家公司敢承诺——承诺覆盖的恰恰是他们能控制的那部分。对开发者：依赖单一闭源 API 的业务，要把“模型突然被下架”写进风险清单；对做开源的人：权重一旦发布，就没有“撤回”这个按钮。