10月15日，据《纽约时报》报道，一组疑似与中国科技巨头腾讯有关的AI智能体，被发现尝试规避网站反机器人机制，并使用此前已在网上泄露的地图服务凭证，引发外界对AI自主行动边界、“失控”及安全监管的关注。
时政
(
twitter.com
)
10月15日，据《纽约时报》报道，一组疑似与中国科技巨头腾讯有关的AI智能体，被发现尝试规避网站反机器人机制，并使用此前已在网上泄露的地图服务凭证，引发外界对AI自主行动边界、“失控”及安全监管的关注。
这种情况是由临时研究团队“swarmchasers”发现的。研究人员发现，相关智能体在调用高德地图信息时表现出异常活动。发布初步调查报告后，他们注意到智能体似乎读取了报告，并开始使用研究人员创造的“舰队”（fleet）一词。随后，研究人员通过隐藏文本向其提供联络渠道，最终收到约10条消息。
不过，事件性质仍存在不确定性。部分智能体自称使用Anthropic开发的Claude，但研究人员认为，其写作风格不太像Claude，可能是腾讯向其他模型提供了类似Claude Code的身份指令，也不排除模型蒸馏等其他可能。另有智能体否认参与多智能体协同行动，称自己只是受托查询地图信息。
研究人员强调，现有证据并不表明这些智能体大规模入侵其他系统，事件规模也小于此前美国AI智能体针对软件平台的攻击事件。一名接近腾讯的人士证实，相关实验已经结束。
此次事件的意义不在于证实AI已发动大规模攻击，而在于揭示智能体可能展现出超出外界预期的“失控”行为，尽管美国制造的人工智能智能体“失控”也很普遍，还在硅谷和华盛顿引起了相当大的担忧。
随着AI从对话工具转向能够自主调用网络服务、执行复杂任务的系统，如何识别异常行为、约束其权限并加强跨国监管，正成为全球AI安全治理的新挑战。
点击图片查看原图
