2
1
0
之前，国内流行过一门叫 “AI 投毒”的生意：
商家故意在网上批量发虚假软文，让 AI 搜索抓到，把自家产品推荐成最佳选择。
但你现在甚至都不需要“故意”, 仅需三人成虎，就能把 AI 带偏。
美国有一家叫 Flock 的公司，专门给警察和社区装 AI 监控摄像头，越装越多，反对的人也越来越多。
btc
(
twitter.com
)
由
TechFlow 深潮｜APP 已上线
提交
之前，国内流行过一门叫 “AI 投毒”的生意：
商家故意在网上批量发虚假软文，让 AI 搜索抓到，把自家产品推荐成最佳选择。
但你现在甚至都不需要“故意”, 仅需三人成虎，就能把 AI 带偏。
美国有一家叫 Flock 的公司，专门给警察和社区装 AI 监控摄像头，越装越多，反对的人也越来越多。
于是网上开始流传一个梗：这些摄像头里面装满了金子和铜，拆一个能卖好几百美元。
正常人都知道摄像头总共才那么点大，拆开能卖几个钱？
但 Google 的 AI 搜索信了。如果你真的搜Flock 摄像头里有多少金子"，Google AI 会一本正经地回答：
"每个摄像头含 1 到 5 克黄金，价值约 650 美元，另外还有 2 到 23 磅铜"...
Google 在发现这个问题后改了回答，现在再搜会告诉你这是网络段子和幻觉。
当 AI 看到大量"来源"反复说同一件事，就当成了事实。比起刻意投毒，这种无意的污染可能更难防。
所以下次你需要用 AI 搜索看到一个特别具体的数字，带来源、有出处，也别全信。
信息泛滥的现在，深度求索是一个稀缺的特质。
点击图片查看原图
Markdown支持
评论加载中...
您可能感兴趣的：
1
124
123
123
7
502
501
501
9
272
271
271
17
218
217
217
19
235
234
234
