Anthropic 最强模型被美国政府一封信下架,给的理由是国家安全,但越来越多细节指向另一个解释:政治报复。
上周五下午 5:21,美国商务部给 Anthropic 发了一封信,援引出口管制条令,禁止任何非美国公民访问 Fable 5 和 Mythos 5,包括 Anthropic 自己的外籍员工。信里没给具体细节。Anthropic 被迫对所有客户全部关停这两款模型,从收到信到下架只有 90 分钟。
直接触发这封信的,是亚马逊安全研究员写的一份论文,描述了 Fable 5 的一个护栏绕过。CEO Dario Amodei 随后与白宫高层多次通话,称这个绕过很窄,不构成完整越狱。
网络安全专家 Katie Moussouris 看过论文后公开表示,这个绕过「根本就不该触发出口管制」,区别只是把「检查代码里的安全问题」换成「修这段代码」,问法稍有不同,结果基本一样,任何尝试修掉这种行为都只会削弱模型在防御端的能力。
Axios 引述消息人士的说法,称真正导致这道出口令的是 Anthropic 和特朗普政府之间的「性格不合」,而不是 AI 产品本身有什么技术问题。
白宫内部人士称 Anthropic「根本不知道怎么跟这届政府打交道」,一位消息人士说「他们像是在说两种语言」,另一位说「所有人都说 Anthropic 是坏人,我们中有些人说给他们一次机会,现在那些人也在质疑了」。
Axios 评论称,技术问题已经几乎是次要的了,「这是一个不断失去话语权的公司的故事」。Anthropic 正在紧急派高级技术人员飞往华盛顿,与商务部、CIA 和白宫科学顾问会面。
点击图片查看原图