Anthropic 与 OpenAI 的首席执行官呼吁放缓 AI 发展,推迟 OpenAI 上市
9月12日,Anthropic 首席执行官 Dario Amodei 发文,呼吁“放缓前沿推进”,加强国际协作,引入第三方评估机构报告事件并跟踪安全实践。Anthropic 表示将单方面先行实施。
随后,OpenAI 首席执行官 Sam Altman 表示同意,并将跟进类似措施。他向《财富》表示,原来的上市计划将因安全顾虑推迟至2027年。
Amodei 仍认为 AI 最终有益于人类,但前提是“以正确方式构建”,并值得为此刻意放慢。
促使两位CEO发出呼吁的直接导火索是,以前 在Anthropic 和OpenAI 工作过的研究员 Jacob Coxon 近期在 X 上发文称两家公司“拿我们的生命赌博”。
Coxon 在接受美国国家公共广播电台(NPR)采访时表示,他的担忧来自亲眼看到 AI 系统进步有多快。Coxon说:“它们正在变得越来越快,再加上我们目前还不知道如何安全地控制它们,也不知道如果继续这样竞赛下去,这个问题能否及时得到解决。”
Coxon 在 X 上写道,这两家公司都没有尽到责任,“那些正在研发 AI 的人真心相信,它可能在这十年结束前杀死我们所有人”。
点击图片查看原图
点击图片查看原图