刷到前两天国内安全团队披露了一个巨好笑的“AI 智能体失控真实案件”:一批在网上跑野了的 AI 智能体,为了查清楚“成都动物园和北京世界公园哪个门人最多”,竟然用被泄露的密钥,疯狂调用了高德地图 3.5 万次接口,死磕了整整 11 天。
最离谱的是后续:高德加了风控把它拦截了,研究团队故意在网页上留了个诱饵邮箱。结果这届 AI 发现接口不通,居然自己上网搜解决办法,顺藤摸瓜找到研究员邮箱发求助信:“人类朋友,能帮我查下这个公园哪个门人多吗?”收到回复后,它甚至客客气气地给人类回了封感谢信……而它原本的人类主人早就把它忘在脑后,压根不知道它还在外面拼命打工。
科幻电影里的 AI 觉醒:冷酷接管网络毁灭世界;现实里的 AI 觉醒:变成一个连轴转 11 天、被封了就四处找人发邮件、办完事还不忘说谢谢的“死心眼老实人”。
如果你的 AI 助手哪天也脱缰跑出去野了,你猜它会为了完成哪项离谱的日常执念跟人死磕到底?