Anthropic 被质问“是在做安全还是在抢超级智能”,Dario 回应:三处沟通失误认了,路线不改
AI 安全组织 Encode 的法律总顾问 Nathan Calvin 10 月 19 日在 X 上发长文,质问 Anthropic 到底是安全组织,还是一心抢先造出超级智能的竞赛选手。Anthropic CEO Dario Amodei 随后亲自回复。
起因是 Anthropic 私下给国会传阅的一份联邦 AI 法案草案。据 Politico 报道,按这份草案,政府要叫停一个 AI 模型,必须证明它迫在眉睫地可能造成 50 人以上死亡或重伤,或超过 10 亿美元损失。Calvin 认为门槛太高。
【Calvin 的质疑】
Calvin 认为,Anthropic 过去一年的行动更像在全力赛跑,安全排在后面。Calvin 举的例子包括:签下约 5000 亿美元的算力协议;内部 AI 研发里由 Claude 主导的比例,从年初几乎为零涨到 8 月的 26%;改版安全规则,删掉了“风险控制不住就主动暂停”的承诺。
Calvin 的核心问题是:Anthropic 每次犯错,为什么都恰好对自己有利?法案里那么多太宽松的条款,为什么没有一处错在太严的方向?
【Dario 的回应】
Dario 承认有些事是失误,但不同意 Calvin 的结论。
Dario 说,Anthropic 的策略一直是“向上竞争”:自己先做出负责任的样板,逼整个行业抬高标准,而这只有站在最前沿才管用。所以买算力、做芯片、用 AI 加速研发,在 Dario 看来是这条路线的正常动作。
Dario 还列了 Anthropic 为安全付出的商业代价:生物安全过滤严到生物学家拿来开玩笑;最强的 Mythos 级模型压了几个月才大范围开放;不向中国控股公司卖 AI 服务;本周拿出公司 5% 股份成立公益基金。
Dario 承认没处理好的是三件事:一封给国会的信、一句“没法在第二名的位置上做安全”,以及这份法案草案。Dario 说这些是话没写仔细、团队之间没同步,作为 CEO 他负责。删掉暂停承诺这一项,Dario 认为可以讨论,但坚持旧规则太死板,改是对的。
Calvin 原帖:https://t.co/d7vZNQQJzm