纽约时报 11 月 5 日发了一篇 Anthropic CEO Dario Amodei 的长篇人物稿，赶在 Anthropic 本月上市之前。记者采访了他二十多位同学、朋友、老师和同事，还看到了他早年的邮件和在 OpenAI 的内部消息。

Dario 通过公司发言人拒绝受访。所以下面的故事大多是别人的回忆，只有一部分有邮件、博客等文件佐证。

这些人的说法归结起来是：Dario 年轻时泡在“理性主义”和“有效利他主义”两个圈子里，两者合在一起，让他认定 AI 危险到只有他和想法相近的人才值得托付去造。朋友和同事认为，这推动他抢在不在乎安全的人之前造出 AI，也让他想把这项技术掌控在自己手里。

【两个圈子是什么】

理性主义是围绕 Eliezer Yudkowsky 等人的博客形成的网络社群，讲究用冷静的推理看世界，其中很多人认为 AI 终将强大到毁掉人类社会。

有效利他主义跟它差不多同时成长起来，主张用数学算清楚怎么捐钱、怎么做事，才能让好处最大。两边共同相信：靠严密的计算，可以改变人类的未来。

【从小就爱算账】

Dario 在旧金山 Mission 区长大，父亲是皮匠，母亲管理公共图书馆的翻修工程。高中读的是旧金山最好的公立高中 Lowell，同时去伯克利上课。同学记得他那时就在琢磨功利主义，也就是“让最多的生命得到最多的幸福”。

上大学后，他和高中好友在寿司店争论功利主义。Dario 吃素，但认为吃螃蟹没问题，因为螃蟹是无脊椎动物。

朋友出了个思想实验：如果有人拼命杀鸡，杀到多少只时，杀掉这个人才算合理？据在场的 Nathan Avery 回忆，Dario 笑了笑，说从功利主义的角度看，总有某个数量的鸡，分量会超过一个人。

【父亲去世，和“时间有限”】

2006 年 Dario 从斯坦福毕业，去普林斯顿读物理博士，后来专攻生物物理和计算神经科学。同一年，父亲因丙肝去世。

前女友 Jade Wang 回忆，两人常聊：一辈子只研究一种病的科学家，影响力比不上给整个领域造工具和方法的人。Dario 举的例子就是父亲，父亲没等到后来能治好大多数丙肝的药。

2007 年，24 岁的 Dario 读完 Ray Kurzweil 的《奇点临近》，对来访的高中同学 Colin Heckman 说，奇点会在 2040 年前到来，人类以后可能和机器融合。Heckman 说他从此“着了魔”，说 AI 必须造对，不然人类就完了。

那段时间，Dario 在读 Accelerating Future、Overcoming Bias 这类讨论 AI 毁灭人类的小众博客，还鼓动朋友和妹妹 Daniela 去参加 Yudkowsky 办的奇点研究所年会（现在叫机器智能研究所，MIRI）。

纽约时报看到一封 2008 年的邮件，Dario 在信里称 Yudkowsky 是“我遇到过最深刻的思想者之一”。Yudkowsky 现在给纽约时报回邮件说，Dario 如今不向他请教，也不听他的建议，他也不记得 Dario 什么时候这样做过。

同年，Dario 通过经济学家 Tyler Cowen 的博客知道了 GiveWell，一个评估慈善机构效率的组织，开始活跃在它的论坛上。2010 年他在邮件里说在考虑去做金融，好赚更多钱捐出去。

同年他在 GiveWell 博客上公开盘算一笔 1 万美元的捐款，在成人结核病项目和非洲儿童疫苗项目之间权衡。他写道，成年人能有更深刻的体验，“一个成年人的死亡也许比一个婴儿的死亡糟糕两三倍”。最后他还是选了疫苗项目，理由是这家执行得更有效。

2011 年起他在斯坦福做癌细胞研究的博士后，吃抗衰老补剂，严格坚持游泳，还研究节食延寿。Avery 说，他常讲时间是唯一不可再生的资源，对自己的时间“毫不留情”。据两位知情人说，2014 年他确诊睾丸癌，化疗后完全康复。

【一屋子未来的创始人】

那几年，Daniela 和 GiveWell 创始人 Holden Karnofsky 在交往（两人 2017 年结婚），住进旧金山一处合租屋。后来搬进来的还有 Dario、理论物理学家 Jared Kaplan，以及大学辍学、数学由 Dario 辅导过的 Chris Olah。

据三位去过的人说，室友们会一起讨论 Yudkowsky 的文章，也一起去火人节，有时穿动物服装。Kaplan 和 Olah 后来与 Amodei 兄妹一起创办了 Anthropic，Karnofsky 2025 年也加入了公司。

【在 OpenAI，立场变硬】

2014 年 Dario 进入百度硅谷实验室，同事说他“几乎一有机会就激烈争论”。2015 年他对同事说，AI 可能很快赶上甚至超过人脑。同年他去 Google Brain 做 AI 安全，和 Olah 等人写了论文《AI 安全中的具体问题》。

2016 年他加入当时还是非营利组织的 OpenAI，带安全团队和研究“规模定律”的团队。七位前同事说，他在 OpenAI 的立场越来越强硬。

纽约时报看到的内部消息显示，2016 年特朗普当选三天后，Dario 写道，他“不愿在一个威权国家研究具有军事威力的技术”。他还说，给特朗普竞选捐了 125 万美元的 Peter Thiel “在道德上应受谴责”，OpenAI 不该再收他的钱。Thiel 创办的 Founders Fund 后来投资了 Anthropic。

据三位知情人说，2017 年 Dario 牵线，让 Karnofsky 的慈善机构（现名 Coefficient Giving）给 OpenAI 捐了 3000 万美元，Karnofsky 也进了 OpenAI 董事会。Dario 当时是这家机构的技术顾问。

2018 年 Daniela 加入 OpenAI，后来做到安全与政策副总裁，有员工开始担心兄妹俩影响力太大。据三位知情人说，那年 12 月研究员 Joshua Achiam 劝 Sam Altman 别让 Dario 当首席伦理官，认为 AI 的监督应该由不同视角的人分担，并坚持请外部专家。Dario 当面提高嗓门说，没有人比他更合适。

同年兄妹俩接手了 GPT 项目，探索让 AI 在人类指导下学会做事的安全技术。纽约时报的判断是，先把 AI 推近危险、再用安全技术去检验，成了 Dario 此后整个职业生涯的做法。

据两位知情人说，OpenAI 总裁 Greg Brockman 想参与 GPT，兄妹俩不让。Dario 多次对 Altman 说，不把 Brockman 挡在外面他就走。Altman 拒绝了。2020 年 12 月，Dario、Daniela 和几位同事离职，四周后创办了 Anthropic。

【和今天的 Anthropic 有什么关系】

Anthropic 2021 年成立时，Amodei 兄妹和另外五位联合创始人都在这两个圈子附近待过。纽约时报认为，公司做大以后，这套想法也随着 Dario 一次次公开表态变得越来越有分量：他主张限制对华芯片出口，主张监管 AI 防止失控，在和美国国防部的争执里坚持 AI 不能用于大规模监控美国人、不能用于自主武器。

今年 9 月，Dario 发文呼吁放慢前沿 AI 的发展。他在文中说，只有把技术用正确的方式造出来，好处才会兑现，只要把争取到的时间用好，“值得格外谨慎地把它做对”。

Dario 本人一直在和这两个圈子划清界限。2023 年他上纽约时报播客《Hard Fork》时说，自己不算有效利他主义者，“认同其中不少观点”，但反对“把人分成不同部落”。

来源（纽约时报）：https://t.co/tosvHBKxgz
Dario 9 月文章：https://t.co/e0RylBFa2I

点击图片查看原图