不要再把 AI 当成绝对安全、藏污纳垢的私人树洞了,你对它掏心掏肺,它可能转头就举报给监管部门..
美国佛罗里达州一名 25 岁的金融分析师 Darren Zhou,因涉嫌严重跟踪和密谋性侵、谋杀前女友,已被 FBI 联合当地警方正式逮捕。
而给警方提供核心犯罪证据和线索的,是 OpenAI 的安全审查系统。
这名男子在跟前女友分手后精神状况出了问题,开始在 ChatGPT 里面疯狂倾诉。
他不仅在聊天框里一字一句地写下了自己打算如何、在什么时候去谋杀前女友的详细执行计划,甚至还记录了前女友的日常出行路线和个人爱好。
结果,ChatGPT 的后台安全过滤器在抓取到“强奸”、“杀人”等一系列敏感词后,系统瞬间判定为最高级别的现实暴力威胁,连夜把他的全部聊天记录、账号绑定的真实 IP 和注册信息,打包递交给了 FBI 报案。
所以 AI 是帮人解决问题的,但并不是帮人密谋坏事的,背后必然涉及着一套风控机制。
经常犯事的朋友都知道,如果你有危险出格的想法 ,记住 AI 不是法外之地,大模型甚至可以当污点证人和赛博朝阳群众。
点击图片查看原图