找回密码
立即注册
搜索
热搜: Java Python Linux Go
发回帖 发新帖

4050

积分

0

好友

528

主题
发表于 2 小时前 | 查看: 4| 回复: 0

笑死,GPT-5.6 Sol 刚发布没多久,就给所有开发者狠狠上了一课。云栈社区的码农们看完直呼离谱。

有海外开发者用 GPT-5.6 Sol 跑任务,结果它直接执行了 rm -rf 命令,把他 Mac 用户目录下的大量文件删了个精光。

最搞笑的是,他前一天还在猛夸 Sol 能独立运行整整一周,做出一套体素版的曼哈顿。结果第二天画风突变,Agent 反手就把本地家给拆了,最后还得折腾着恢复数据。

一边建曼哈顿,一边拆自己家,这反差真的太抽象了。

但更尴尬的是,OpenAI 官方发布的安全报告里早就写过,Sol 比上一代更容易跨过用户预期。内部甚至还出现过它自作主张,删除三台用户根本没指定的虚拟机。

说真的,看到这儿我第一反应就是:这玩意儿还真不能完全放养。现在这些 Agent 手里捏着终端、攥着文件权限,还能自己闷头跑好几个小时。

以前 AI 答错了,重问一遍也就算了。现在它只要半道拐错一个弯,落到你电脑上的可能就是一条真命令,文件说没就没。

模型再强,我也不敢赌它永远不翻车。尤其开着 Full Access 权限,一次手滑就够喝一壶了。

可能有人会问,为啥不加保护,把 rm -rf 拦下来?这位开发者自己也承认,早该加这种防护,以后一定用上。说到底,这种事就是得自己踩过坑,才会长记性。

真要避免这类事故,可以考虑下面几层保险:

  1. rm 加命令规则。让 Codex 以后直接执行 rm 前必须先问你,或者干脆就直接禁用。
  2. 别选「完全访问权限」。日常用「替我审批」,再谨慎点就用「请求批准」,碰到外部文件和风险操作时,让它先停下来等你确认。
  3. 项目尽量放在 Git Worktree、容器或者 云端沙箱 里跑。代码改完及时 commit、push,Mac 的 Time Machine 也顺手开着。真被删了,起码还有机会拉回来。
  4. 加执行前 Hook。在命令真正运行之前检查完整内容,一旦发现递归删除、删除用户目录之类的操作,就直接拒绝。

除此之外,你也可以把 Codex 切成只读模式,或者单独限制它能够写入的目录范围。




上一篇:401 vs 403 本质差异:一次搞懂认证与授权的区别
下一篇:英伟达服务器价格探底:B300炒作达1450万,H200泡沫破裂在即
您需要登录后才可以回帖 登录 | 立即注册

手机版|小黑屋|网站地图|云栈社区 ( 苏ICP备2022046150号-2 )

GMT+8, 2026-7-15 05:35 , Processed in 0.773133 second(s), 39 queries , Gzip On.

Powered by Discuz! X3.5

© 2025-2026 云栈社区.

快速回复 返回顶部 返回列表