Anthropic CEO达里奥发文要求放缓AI发展的速度
同时用了三段,描述限制中国AI发展的重要性
民主国家放缓AI发展步伐的空间,取决于美国企业相对于威权政权——主要是中国共产党——拥有多大的领先优势。如果我们放缓的程度超出了这一领先优势所允许的空间,那么那些与中共有关联、且不受节奏限制的项目就会反超,造成重大的国家安全风险。我赞同财政部长贝森特的看法:中国在AI领域取得领先,将给美国和世界带来严重危险。
与中共有关联的项目会冒着美国企业正谨慎防范的AI对齐风险继续推进;即使它们避开了这些风险,也将有能力在军事上压倒民主国家,例如利用AI驱动的无人机。因此,民主国家调控AI发展节奏的一个关键,是尽可能扩大民主国家相对于威权国家的AI领先优势,为我们有效放缓步伐争取必要的喘息空间。
要守住这一领先优势,我们可以采取以下主要措施:
1.不向中国出售高性能AI芯片或半导体制造设备,并严厉打击芯片走私,以及通过远程访问使用中国境外数据中心的行为。芯片将是决定中国AI实力的主要因素。
2.严厉打击威权国家企业未经授权进行模型蒸馏的行为。 对前沿模型进行蒸馏,可以让落后的企业以远低于独立开发AI所需的成本,缩小与领先者之间的差距。
3.加强AI企业的安全防护,防止模型权重被窃取。
企业与美国政府应当合作,让这些措施尽可能发挥实效。Anthropic始终支持上述所有措施,因为我们一直清楚,任何放缓发展步伐的安排,都离不开这些措施。
我相信,如果这些措施得到有效执行,就能充分减缓中国的进展,使美国在未来三至五年内显著扩大领先优势——而这恰恰是AI在地缘政治上变得最为重要的关键时期。