真的,只有大牛才敢站出来这么说!
全世界公认的最聪明的人之一,Terence Tao,亲自站出来把AI最致命的缺陷直接戳破了。
他问了一个所有人都回避的根本问题:
“我们该如何使用一个强大、却极度不可靠的工具?”
AI的核心方程写得清清楚楚:
W = ∑(wᵢ ⋅ xᵢ) + b
它不是在追求“正确”,
而是在追求“看起来正确”。
所有权重都被优化成plausibility(似是而非),而不是veracity(真实性)。
于是我们造出了一个超级会“装”的镜子:
它在医学、金融、法律等领域,能用最自信、最流畅的语气,
给你最危险、最错误的建议。
“Convincing”和“Correct”之间的鸿沟,
才是AI时代最致命的风险。
我们越是依赖它,它就越容易把我们带进自己都看不出来的陷阱。
当最顶尖的数学家都在认真讨论“如何安全使用不可靠的AI”时,
我们普通人还在为“它写代码好快”鼓掌吗?
这段视频值得每一个用AI的人反复看。