技术群里这两天都在聊一件挺离谱的事:有个实习生用 AI Agent 改接口,来回调试一整天,最终合进去的改动不过几十行。结果后台 Token 消耗一查,直接干到了 1 亿,当天就被 mentor 叫去谈话了。

有人可能觉得,这至于吗?不就是 1 亿 Token,能花几个钱?按现在国产主流 Flash 模型的行情粗略算一下:空闲时段输入约 1 元 / 百万 Token,输出约 4 元 / 百万 Token,1 亿 Token 满打满算也就两百来块。放在个人开发者身上,如果能换来几小时的高效产出,这笔账怎么算都不亏。


但这件事的关键,从来不是钱。就在上周,全球 AI 大模型单周总调用量已经冲到 146 万亿 Token,环比还在涨 13%。更早的 8 月数据则显示,Agent 消耗的 Token 量已经是人类的 5 倍以上。很多团队兴冲冲把 AI 编程助手 接进来,结果第一个月需求交付没见提速多少,算力账单先翻了两三倍。本质都一样:无效消耗太多了。

不少人用 AI 的思路,从一开始就偏了。遇到报错直接把整个仓库丢给模型,改一版跑不通就另开一个对话从头再来,上下文越堆越长,大量过期信息和重复逻辑被反复喂进去。说句不好听的,这不是辅助开发,这是在拿 Token 碰运气:撞对了算赚,撞不对就接着烧。不同推理档位之间的消耗能差出两三倍,可很多人连问题都没描述清楚,先把超高推理档位拉满,成本平白多出好几倍。
企业开始抓 Token 管控,也真不是抠门。最近无论是海外厂商推出的员工 AI 使用管控方案,还是国内落地的 AI 安全治理框架,核心都不是禁用 AI,而是要把投入产出算清楚。资深开发用 AI 半小时定位一个跨模块的疑难 bug,这是实打实的效率提升;新人对着几十行代码反复让 AI 重写整个文件,那就是纯资源浪费。大家账单上可能都是几百万 Token,实际价值却天差地别。

以前程序员拼的是会不会写代码,往后可能还得拼会不会“指挥”AI。别信什么“AI 时代会提问就够了”的鬼话。真正高效的用法,永远是自己先把问题范围收窄,定位到可疑代码片段,补足背景信息,再让 AI 去解决最核心的那一段。需求分析、问题定位这些本该自己扛的活,全都甩给 AI,说到底就是偷懒,最后 Token 烧了一堆,产出还没保证。
当然,也不能走到另一个极端。如果公司把“Token 用得越少越优秀”当成考核,那也是典型的负优化。工具造出来就是给人用的,没人会因为打印机费纸,就让全员回去手写代码。关键是让 Token 花在刀刃上,而不是拿去跟 AI 闲聊,或者做无意义的反复试错。
说到底,1 亿 Token 这件事最值得讨论的,从来不是花了多少钱,而是 AI 时代人与人的差距,可能会从“会不会用工具”进一步拉大到“会不会高效用工具”。你们团队现在有没有管 AI Token 消耗?评论区聊聊你们那边的规矩。
|