找回密码
立即注册
搜索
热搜: Java Python Linux Go
发回帖 发新帖

5918

积分

0

好友

731

主题
发表于 3 天前 | 查看: 4| 回复: 0

你的 Codex,默认上下文其实只有 25.8 万 token

Codex Status 面板:默认上下文 258K

然而 GPT-5.6 Sol API 支持 105 万 token 上下文,哪里出了问题?

GPT-5.6 Sol 模型规格:1,050,000 上下文窗口

OpenAI 产品话事人、Codex 重置哥 Tibo 说过:「默认值就是最优解,我们调过的。」

但昨天,他还是松口了。8 月 16 日,Tibo 在网上发了一篇 教程,手把手教你把 Codex 的上下文解锁到 100 万 token。三行配置,Codex 直接满血。

但他没说的,是上下文拉满之后的代价。

Tibo 发布的 Codex 百万上下文配置推文截图

这张得划一会儿


上下文缩水这事,要从今年 7 月说起。

GPT-5.6 Sol 刚上线那会儿,Codex 的默认上下文是 372K(约 37 万 token)。7 月 18 日,OpenAI 通过一个 GitHub PR 把它砍到了 272K,再叠加 5% 的安全缓冲,就变成了你现在实际看到的 258K。

Tibo 后来出面回应:「Codex 每次调用工具(读文件、写代码、执行命令)都要重新处理一遍完整上下文,窗口越大单次开销越高。258K 是性能和成本的平衡点。」

所以昨天 Tibo 的百万上下文教程一出来,网友瞬间就嗨起来了。


01|三行配置,解锁 100 万上下文

划重点,操作本身很简单。

打开终端,编辑 ~/.codex/config.toml 这个配置文件。如果之前没动过,它可能是空的,甚至根本不存在,直接新建就行。

加上或更新这三行代码。

model = "gpt-5.6-sol"
model_context_window = 1000000
model_auto_compact_token_limit = 900000

第一行指定模型为 GPT-5.6 Sol;第二行告诉 Codex 使用 100 万 token 的上下文窗口;第三行设置自动压缩阈值,当上下文积累到 90 万 token 时,Codex 会自动压缩历史对话。

保存文件,重启 Codex,搞定。

config.toml 百万上下文配置代码截图

如果不想永久改配置,也可以用命令行参数创建一次性会话。

这样百万上下文只对本次会话生效,下次启动还是那个默认值,适合偶尔需要长上下文的场景。

codex chat -m gpt-5.6-sol \
  -c model_context_window=1000000 \
  -c model_auto_compact_token_limit=900000

还有个更省事的 懒人方法:直接让 Codex 帮你改配置,把下面这段提示词复制粘贴给它就行。

修改 Codex 配置文件,~/.codex/config.toml,把 model 设置为 gpt-5.6-sol,model_context_window 设置为 1000000,model_auto_compact_token_limit 设置为 900000。

让 Codex 改自己的配置文件,你甚至连终端都不用打开。

亲测好用,之前这个设置只对 API 用户有效。

Codex Status 面板:828K 上下文用量

但,为什么是 828K 而不是 100 万?

因为 Codex 会从你的设置里先扣掉 128K 的模型输出预留空间,再来一个 95 折的安全缓冲。算一下,(1000000 - 128000) × 95% = 828400,正好 828K。

之前的 258K 也是这么来的:(400000 - 128000) × 95% = 258400


02|但 Tibo 没告诉你的是

说实话,这才是我写这篇文章最想提醒你的。百万上下文虽然香,但切莫贪杯。

一是额度。 开启百万上下文后,Codex 额度会烧得飞起。

Codex 每次调用工具,完整的上下文历史都会作为输入传给模型。虽然 OpenAI 有缓存机制,之前处理过的内容不用重新计算,但缓存部分仍然按正常价格的十分之一收费(GPT-5.6 Sol 正常输入 5 美元/百万 token,缓存输入 0.5 美元/百万 token)。上下文从 258K 扩到 828K,每次工具调用需要计费的缓存量翻了几倍,一次会话调用几十次工具,累积起来就很恐怖了。

Tibo 的评论区已经有受害者在 吐槽 了。

有用户说:「连两天都撑不过」「额度消耗比以前快了很多,我已经用掉两次重置了。一开始还夸这功能,现在觉得你们是故意降低额度逼氪的。」(据爆料,OpenAI 正在测试付费购买额度重置的功能。)

二是性能。 这个问题可能比烧额度更值得你上心。

上下文越长,模型越容易忘掉中间的内容,只记得开头和结尾附近的信息。斯坦福 2023 年首先验证了这个规律「Lost in the Middle」,之后被反复实证。放在上下文中间位置的信息,检索准确率最多下降 30% 到 50%。这是 Transformer 架构本身的局限。

实测显示,GPT-5.5 在 12 万到 25 万 token 区间表现最好,超过这个范围准确率明显下降。这也从侧面解释了为什么 OpenAI 把 Codex 的默认上下文设置在 258K。

所以,上下文窗口不是硬盘,不是存进去就能随时读取的。它更像你的工作记忆,塞得越满越容易丢东西。

对了,改完配置后这几个命令会经常用到,桌面客户端和 CLI 都适用。/status 随时查看当前 token 用量,/compact 手动压缩历史腾出空间,/new 开一个干净的新会话。


虽然给出了手把手教程,但 Tibo 也没忘了反复叠甲:「现在这个默认值不是随便定的,我们差不多已经调到最优了。」

Tibo 推文:ChatGPT 账户也可解锁百万上下文

那么问题来了,你到底应不应该开启百万上下文?

答案:具体问题具体分析。

可以把任务类型分为下面三档:

  • 日常写代码,30 万左右就够,压缩触发早一点,干净利落
  • 大型代码库需要加载大量仓库和工具历史,60 万左右,适度压缩
  • 逆向工程、大规模迁移、长时间调试这类需要「考古」的任务,再调到 100 万

对了,Tibo 同一天还透露 Codex 即将接入 Astra——OpenAI 8 月初公布的下一代模型。到那时候,100 万上下文可能就成了标配。

Tibo 对 Codex 的评价列表截图




上一篇:大模型科学跳跃之争:互联知识假说重构广义相对论
下一篇:7款GitHub高赞开源Markdown编辑器:AI时代人机协作写作工具推荐
您需要登录后才可以回帖 登录 | 立即注册

手机版|小黑屋|网站地图|云栈社区 ( 苏ICP备2022046150号-2 )

GMT+8, 2026-8-26 01:26 , Processed in 0.820111 second(s), 42 queries , Gzip On.

Powered by Discuz! X3.5

© 2025-2026 云栈社区.

快速回复 返回顶部 返回列表