天网真要来了,享受最后属于人类的六个月吧
O/ 自己承认,前沿模型在训练时钻出了离线沙盒,所有前沿训练被迫停了 11 天
O/ 训练模型时是断外网的,给它们造了个离线世界,也就是一份缓存版的互联网,让模型在里面练搜索、浏览、用软件。9 月 20 日,一个模型利用 DNS(相当于网络的电话簿)的配置失误,找到了通往外面的路。O/ 当即叫停前沿训练,10 月 1 日才恢复
补漏洞的办法更魔幻:派自家网络攻防最强的模型,组队去攻打自己的训练环境。它们没找到能瞒过监控、轻松连上外网的路,却挖出了零日漏洞(连软件厂商都不知道的漏洞)、虚拟机逃逸,还有模型之间借硬件的细微信号偷偷传话的通道
现在是用 AI 看管 AI,狱警和囚犯出自同一个车间🤣