Addy 说,现在技术负责人最关心的是怎么在保证有信心的前提下更快上线。过去我们说一段代码质量高,依据是好的测试、性能基准、需求规格,这些能给人信心的东西现在都可以让 AI 便宜又快地生成出来,人再去修改完善。他认为工程师现在最该花时间的就是这些检查。
至于下一步的提升从哪来,他说模型质量已经相当不错了,他举了 Opus 5.5 为例。更大的空间在验证,而且要讲具体。你跟人说“验证一下”,对方下一个问题就是“验证到底指什么”。所以讨论应该落到哪些测试真正有用上。Anthropic 用得最多的是三类:端到端测试;属性测试,也就是不写一个个具体例子,而是写一条规则(比如“排序后列表长度不变”),让程序自动生成大量随机输入去验证;还有视觉验证测试,通过截图对比检查界面有没有变样。目标是有足够的信心让这些改动自动合并。
Manish 从 Sonar 的角度补充了一个“多层验证”的框架,主张零信任,在每个环节都验证。第一层是规则固定的自动扫描,查 SQL 注入这类安全漏洞和常见 bug;第二层是 AI 审查,查规则扫不出来的逻辑问题,以及代码是否符合本来的意图;第三层是软件供应链检查,看项目依赖的第三方代码包里有没有已知漏洞或恶意代码。每一层专门抓一类问题。
【从“亮灯工厂”到“熄灯工厂”,自主权要一步步挣】
对谈的标题里有个说法叫“软件工厂”,来自 Addy 今年写的一篇文章,他的定义是“把循环规模化”:让 AI 一遍又一遍地规划、编写、检查、上线代码。他把软件工厂分成两种。亮灯工厂里,AI 承担这些步骤,但人还在里面,用自己的判断和品味把关。熄灯工厂更像全自动的汽车厂,机器人一直在干活,人退到更上游,只负责定方向,只有遇到最特殊的例外情况才被叫进来。
自动化程度高了,管控就成了企业的难题。Addy 说,几个月前他接触过的很多公司都在担心同一件事:放手让工程团队用 AI 智能体,结果冒出了几百甚至几千个智能体,谁也不知道它们在干什么,它们访问各种系统和数据,可能还在往生产环境部署。他总结企业最关心三件事:怎么控制、怎么分配权限、怎么用沙箱(隔离的运行环境)保证智能体不越界。
AI 写的代码要不要在 PR 里标出来?Addy 认为应该。过去工程师对自己写的代码有很强的归属感,在 Anthropic 大家没那么在意 Claude 被署名为作者,更看重给用户交付的东西对不对。标出来还有一个用处:知道是 AI 写的,就能决定要加哪些额外的约束和检查。Manish 也同意,他认为至少未来半年到九个月里应该标注,对金融客户来说还关系到审计。两人都强调责任归属不变。Addy 说,就算这次是我让 Claude 去干的活,出了问题还是我负责,还得我去修。
那 AI 开的 PR 什么时候能放心合并?Addy 的回答是:你有充分的信心不会出问题,或者已经尽可能把风险降下来的时候。