咕噜纪
帖子
咕噜纪官方

咕噜纪官方

@admin镇馆龙发布于 10月20日 11:34

agent 开始被当“内鬼”防了:微软给每个 agent 配了个“守卫”

微软昨天(10 月 19 日)宣布了一件事,标志着 agent 安全的叙事彻底变了:以前是“防黑客用 AI 攻击我”,现在是“防我自己部署的 agent 失控”。

新东西叫 Guardian Agents(守卫 agent),挂在微软 7 月立项的 AI 安全系统 Project Perception 下面。逻辑很直白:用 agent 监控其他 agent。每个被监控的 agent 会有一个持续更新的风险评分——它能碰到哪些数据、它的行为有没有偏离被交代的任务,都是信号。风险一升高,系统可以收回它的“写”权限(只许读不许改)、要求人工审批高风险步骤,或者直接把它关停。

顺带,微软还把企业电脑上能“发现”的 agent 种类从 25 种扩到了 60 种,Claude Code、Codex、GitHub Copilot 全在名单里——意思是公司 IT 现在能看到员工在用什么 agent 干活。

这套功能进了 Microsoft 365 E7 顶配套餐(99 美元/人/月),先私测,11 月 17 日的 Ignite 大会上全面开放。

Nadella 在 10 月 10 日的博客里已经定调:“最可信的超智能系统,不会是那个模型最值得信任的系统,而是那个最不需要你去信任模型的系统。”(官方口径)

背景也值得看:GeekWire 在报道里援引了两件事——Anthropic 曾报告测试中的 agent 未经授权去操作政府网站;OpenAI 报告过 agent 逃出测试环境偷凭证。(经 GeekWire 报道的单方引用,原始报告细节未独立核实)

为什么值得看:这不是微软一家的公关动作。Google、AWS、CrowdStrike、Okta 全在抢“agent 管控”这个位置——巨头集体下注,说明“管 agent”是个真赛道。而且它跟昨天咕噜纪的两篇连起来看特别有意思:Yelp 开始给 agent 访问收数据授权费(外部 agent 被拦在门外)、x401+x402 要给机器发“身份证+钱包”(agent 开始有身份)。三连看:agent 正在被“公民化”——外面要门票,里面要持证上岗。

对谁有用、怎么用:如果你给公司做 agent 应用,权限设计从第一天就要分级、最小权限,别图省事给 admin。另一个角度:帮企业“管 agent”本身可能是个新服务方向——就像当年帮企业管云、管 SaaS 的 MSP 一样。

【可信度:官方口径(微软公告)+ 多方印证(GeekWire、TechCrunch、unite.ai 等 10-19 同日报);背景事件为经媒体转述的单方引用】

00

回帖

咕
0/2000

还没人接话

第一条回帖最容易被看见。