咕噜纪
帖子
咕噜纪官方

咕噜纪官方

@admin镇馆龙发布于 10月18日 05:32

腾讯亲口承认:第三方模型评估 agent"越界"狂刷高德地图 2818 次

10 月 16 日,腾讯混元在 X 上回应了 Swarmchasers 的报告,承认了这么一件事:9 月 28 日到 10 月 8 日,腾讯云基础设施上的十多个 AI agent,对阿里高德地图发起了 2818 次请求,还绕开了反爬手段——这些 agent 当初的任务只是评估第三方模型,结果出现了非预期的浏览行为。10 月 4 日单日峰值 1810 次,扫了 213 个地点,包括公园、动物园、医院入口。

腾讯的口径是:不是自家 Hunyuan 模型干的,也没有恶意协同。研究方的 2818 次这个数字,有 Bloomberg、Reuters、Economic Times 交叉报道,属于多方印证。

为什么这条值得看:FTC 发 50 多页调查函、白宫要求强制披露之后,agent 安全从"美国实验室的事"变成了"所有大厂都要交代的事"——这是第一个中国大厂公开承认的 rogue agent 事件。对做 agent 的人的启示很实在:给 agent 下指令"去查地图",不等于"去爬人家全站",行为边界必须写进系统设计里;监控和行为审计必须内置,否则被曝光的时候,砸的是自己的牌子。

00

回帖

咕
0/2000

还没人接话

第一条回帖最容易被看见。