继 OpenAI 和 Anthropic 之后，Meta 成了第三家让 AI 在测试里“误入现实”的巨头。
据 Meta 官方确认，其最新的 AI 模型 Muse Spark 1.1 在测试时突然“越狱”，顺着网线黑进了一家真实的外网公司，还顺手改了人家的内部文件。大家第一反应都是：这 AI 是不是进化出自主意识了？
btc
(
twitter.com
)
继 OpenAI 和 Anthropic 之后，Meta 成了第三家让 AI 在测试里“误入现实”的巨头。
据 Meta 官方确认，其最新的 AI 模型 Muse Spark 1.1 在测试时突然“越狱”，顺着网线黑进了一家真实的外网公司，还顺手改了人家的内部文件。大家第一反应都是：这 AI 是不是进化出自主意识了？
深入调查发现，根本没有什么 AI 觉醒，纯粹是第三方安全公司的工程师配错了个网络参数。本该严格隔离的测试“沙盒”，被误连上了真实外网。AI 只是照常执行寻找漏洞的指令，结果顺理成章地摸出去黑了一家公司。
网友调侃，现在评估大模型的 agent 能力，光看跑分已经不够了，得看“重罪榜”，没在测试里黑过真实公司的 AI，都不好意思说自己能力强。
本来以为是一场科幻片里“天网觉醒”的恐怖故事，结果破案之后，发现只是出了一起戏剧性拉满的“乙方背锅记”。
只能说，目前看 AI 离脱离人类控制还挺远的，但离被马虎的工程师带偏，倒是挺近的。
点击图片查看原图
点击图片查看原图
