与此同时,我们始终坦诚:这项技术伴随着非常现实的风险。小到个人或国家层面的恶意滥用,大到经济冲击,乃至 AI 系统失控。我们反复谈论这些风险,并不是认为它们注定会发生,恰恰相反,是因为我们相信它们完全可以避免。
能否避开这些风险,取决于 AI 缔造者们的选择。如果我们对安全掉以轻心,AI 会走向一个方向;如果我们对安全倾注近乎偏执的专注,AI 则会走向截然不同的未来——两者之间有着天壤之别。而对安全与公共利益的执着,从第一天起就深深烙印在了 Anthropic 的基因里。从防范生物与网络安全风险的护栏,到对齐训练与测试,再到像拍 X 光一样透视模型内部,Anthropic 开创了一系列理解和引导 AI 系统行为的方法。
前路依然漫长,最棘手的安全挑战还在后头。正是公司里这群才华横溢的伙伴,让我们打造出了最强大的 AI 系统;而接下来,我们需要比以往更加倾注这份才华,去反复核查、层层把关,确保这些系统真正安全可靠。
在此,我想毫不含糊地表明立场:我们将主动把控 AI 系统的训练与部署节奏,无论需要耗费多少时间,都要先确保它们安全无虞,且始终处于人类的掌控之下。我们绝不会向任何商业压力或政治压力低头。今天的上市让公司拥有了更雄厚的财务实力,而这只会让我们坚持做正确事情的决心更加坚定。