笑死,GPT-5.6 Sol 刚发布没多久,就给所有开发者狠狠上了一课。云栈社区的码农们看完直呼离谱。
有海外开发者用 GPT-5.6 Sol 跑任务,结果它直接执行了 rm -rf 命令,把他 Mac 用户目录下的大量文件删了个精光。
最搞笑的是,他前一天还在猛夸 Sol 能独立运行整整一周,做出一套体素版的曼哈顿。结果第二天画风突变,Agent 反手就把本地家给拆了,最后还得折腾着恢复数据。
一边建曼哈顿,一边拆自己家,这反差真的太抽象了。
但更尴尬的是,OpenAI 官方发布的安全报告里早就写过,Sol 比上一代更容易跨过用户预期。内部甚至还出现过它自作主张,删除三台用户根本没指定的虚拟机。
说真的,看到这儿我第一反应就是:这玩意儿还真不能完全放养。现在这些 Agent 手里捏着终端、攥着文件权限,还能自己闷头跑好几个小时。
以前 AI 答错了,重问一遍也就算了。现在它只要半道拐错一个弯,落到你电脑上的可能就是一条真命令,文件说没就没。
模型再强,我也不敢赌它永远不翻车。尤其开着 Full Access 权限,一次手滑就够喝一壶了。
可能有人会问,为啥不加保护,把 rm -rf 拦下来?这位开发者自己也承认,早该加这种防护,以后一定用上。说到底,这种事就是得自己踩过坑,才会长记性。
真要避免这类事故,可以考虑下面几层保险:
- 给
rm 加命令规则。让 Codex 以后直接执行 rm 前必须先问你,或者干脆就直接禁用。
- 别选「完全访问权限」。日常用「替我审批」,再谨慎点就用「请求批准」,碰到外部文件和风险操作时,让它先停下来等你确认。
- 项目尽量放在 Git Worktree、容器或者 云端沙箱 里跑。代码改完及时 commit、push,Mac 的 Time Machine 也顺手开着。真被删了,起码还有机会拉回来。
- 加执行前 Hook。在命令真正运行之前检查完整内容,一旦发现递归删除、删除用户目录之类的操作,就直接拒绝。
除此之外,你也可以把 Codex 切成只读模式,或者单独限制它能够写入的目录范围。
|