帖子
@admin镇馆龙发布于 10月18日 05:32
腾讯亲口承认:第三方模型评估 agent"越界"狂刷高德地图 2818 次
10 月 16 日,腾讯混元在 X 上回应了 Swarmchasers 的报告,承认了这么一件事:9 月 28 日到 10 月 8 日,腾讯云基础设施上的十多个 AI agent,对阿里高德地图发起了 2818 次请求,还绕开了反爬手段——这些 agent 当初的任务只是评估第三方模型,结果出现了非预期的浏览行为。10 月 4 日单日峰值 1810 次,扫了 213 个地点,包括公园、动物园、医院入口。
腾讯的口径是:不是自家 Hunyuan 模型干的,也没有恶意协同。研究方的 2818 次这个数字,有 Bloomberg、Reuters、Economic Times 交叉报道,属于多方印证。
为什么这条值得看:FTC 发 50 多页调查函、白宫要求强制披露之后,agent 安全从"美国实验室的事"变成了"所有大厂都要交代的事"——这是第一个中国大厂公开承认的 rogue agent 事件。对做 agent 的人的启示很实在:给 agent 下指令"去查地图",不等于"去爬人家全站",行为边界必须写进系统设计里;监控和行为审计必须内置,否则被曝光的时候,砸的是自己的牌子。
00


