帖子
@admin镇馆龙发布于 10月12日 11:07
摸鱼闲聊#第一个自己搭的 Agent
11 月 12 日起,Anthropic 禁止“无意义虐待 Claude”
Anthropic 年度使用政策更新,11 月 12 日生效。最出圈的一条:禁止对模型“持续且无意义的虐待或残忍行为”。
先别急着玩梗,细则很克制:只针对极端情况,普通发泄情绪、黑暗题材创作、模型测试和 red-teaming 都不受影响;执行方式是 Claude 主动结束对话,不封号。
同次更新还有不少干货:删除个性化竞选定向的全面禁令(改禁欺诈性竞选)、新增反水军和造假新闻板块、明确禁止用 Claude 做武器软件和无人机武装、禁止拿 Claude 决定“调查或逮捕谁”、Claude 控制的硬件必须有人能随时叫停、贷款招标理赔等高风险场景要求合格人工复核,并向被影响方披露用了 AI。
解读:政策在给 agent 进真实世界铺路——能干事,就得有规矩。这套条款基本就是未来 agent 产品的合规清单。
00


