中国这种大规模监控系统,是我支持 Dario Amodei 的「反中国 AI」意识形态的主要原因。对于熟悉中国的人来说,以下几点应该是不用争辩的常理:
- 政府想要大规模监控民众和操控舆论。
- AI 能提升监控民众和操控舆论的效率和规模,政府肯定想要把 AI 投入到这方面。
- AI 在这方面落地后,有关技术肯定会出口。(做这种技术的公司想要赚钱,政府也希望有更多国家跟自己站边。)
作为一个在中国时对墙深恶痛绝的人,我肯定反对政府用 AI 建立更强大的系统。(我不仅仅反对中国这样做,我同样反对 Palantir 在美国做的某些事情,支持 Anthropic 在合同上禁止国防部实施大规模监控。)
当然,在意识形态上支持并不意味着我觉得「反中国 AI」这件事情有出路。就算能够 100% 阻止中国购买美国显卡和蒸馏美国模型,多花几年时间中国依然能把 AI 做得足够好,然后把上述系统做出来。
在政治任务上,中国不需要全球领先的 AI,够用就好。就算闭关锁国,中国依然可以用几年时间把网格员和水军全蒸馏了,到时候在监控系统上最了解你的是 AI,在 Twitter 上跟你吵架的小粉红也是 AI。这黑镜未来一定会变成现实。