找回密码
立即注册
搜索
发回帖 发新帖

6374

积分

0

好友

808

主题
发表于 昨天 02:14 | 查看: 37| 回复: 0

谷歌Release Notes播客中五位核心成员围坐讨论Gemini 4 Argon发布细节

10月13日,谷歌 DeepMind 宣布 Gemini 4 Argon 向全球开放。作为 Gemini 4 系列的首款模型,谷歌称 Argon 提供业内领先的 100 万 Token 统一输入输出上限,擅长编程、金融、法律、网络安全和科学等领域的复杂真实任务,并在衡量金融、编程、法律、税务等关键经济领域表现的 Vals Index 上位列第一。

发布后,在最新一期官方播客《Release Notes》中,Google AI Studio 与 Gemini API 产品负责人 Logan Kilpatrick 对话谷歌副总裁、Google Labs 与 AI Studio 负责人 Josh Woodward,Gemini 后训练负责人 Melvin Johnson,谷歌联合创始人 Sergey Brin,以及谷歌 DeepMind 的 Gemini 模型产品负责人 Tulsee Doshi,披露了发布前后不少内部细节。

模型正在参与研发自己的下一代

迭代正在进入加速循环。Sergey Brin 表示,早在 Gemini 4 之前,随着 Flash 3.6、3.7、3.8 陆续推出,谷歌就已进入递归自我改进(RSI)的正向循环:研究人员与模型协同研发下一代模型。他预计这期节目播出时,内部已在使用领先一两个代际的新模型,演进速度还会继续加快。

Melvin Johnson 透露了具体节奏:三到四周一个迭代周期,每两周产出一批候选模型,每三周筛选出表现优异者定型晋级。

Agent 已进入训练流程

据 Melvin Johnson 介绍,谷歌现有专门的 AI Agent 监控主力训练任务、自动排查配置错误、审视奖励尺度并修复漏洞、筛查训练数据并清理重复项。资源申请方式也在改变——过去研究人员申请的是数百上千块芯片,现在申请的则是 Argon 的 QPS 配额(比如 10、15 QPS),用来生成合成数据、推进研究。

Sergey Brin 还提到一个有意思的细节:模型在遍历训练数据时,曾针对一道数学定理证明题直接指出原命题有误,并给出了反例。

内部测试规模空前

据 Logan Kilpatrick 转述,谷歌内部有 10 万名工程师在测试和使用该模型,远超以往任何一次发布。Tulsee Doshi 称,新 Checkpoint 几乎第一时间就向一批谷歌员工开放,测试群消息刷屏,连一向挑剔的内部测试者也反馈工作方式被彻底改变。Melvin Johnson 表示,Argon 已在内部经过至少三四周的高强度测试。

一个 HBM 故障案例

谷歌披露了一个很有代表性的排障案例。主力训练任务曾因硬件故障导致部分机器异常,团队长期查不出病因,甚至慢慢习惯了与问题共存。一位工程师把问题丢给 Argon 后,模型定位到一个真实的底层硬件故障。Sunnyvale 硬件团队起初怀疑这又是 AI 的错误结论,但在联合核查并联系供应商后,确认是高带宽内存(HBM)损坏。目前谷歌已能识别该供应商批次的全部问题机器,并将其从集群中隔离。

Melvin Johnson 补充说,这种数据损坏连纠错码内存(ECC)也检测不出来,所以此前一直找不到根因。Sergey Brin 由此回忆起 1998、1999 年谷歌采购首批二十台服务器的往事:供应商选配的内存规格超出主板兼容上限,导致数据周期性损坏、机器死机,他当年花了好几天才查清。如今借助 Argon,这类问题已不再需要如此大费周章。

单步百万 Token:针对的是"极度深思熟虑"的难题

在 Argon 的各项能力中,百万级输出上限是谷歌着重强调的一项。Logan Kilpatrick 称,谷歌是业内首个推出 100 万输入 Token 的团队,如今又率先实现 100 万输出 Token。

Sergey Brin 特意澄清,这里指的是单个步骤中一次性生成的长度,而非多步累加。这一能力主要面向极其复杂的难题——普通编程任务多为边写边运行调试,通常用不到。他还做了一个换算:按人类每秒思考几个 Token 估算,100 万 Token 相当于不眠不休思考一周左右,计入睡眠和日常事务,差不多等于人类一个月的深度思考量。

Melvin Johnson 表示,在目前最高的"高"推理等级下,只要任务需要,模型就能真正跑满 100 万 Token。谷歌评测中已有相当比例的推理轨迹触及上限,这一点目前竞品还做不到。Tulsee Doshi 补充说,如果系统层面只开放 64K 输出,模型算到一半就被迫中止,能力会被锁死。

写作质量成为重点:专门整治"AI 腔"

产品侧,Josh Woodward 称这次重点打磨的是写作质量。谷歌追踪用户反馈后发现,低质 AI 内容普遍充斥空洞套话、满篇"老实说"和机械的列表式排版,于是集中整治。团队与一批专业作家合作,由他们逐一审校、批注模型输出,并将高质量范本沉淀为黄金标准数据集,驱动模型持续迭代。

在使用方式上,Josh Woodward 仍然自己写初稿,但会口述想法后让 Argon 指出最薄弱的三处、三个盲点和三处容易引起困惑的地方。Tulsee Doshi 则常常对着 Antigravity 口述发散想法并让它整理成文,她说初稿已经很得体,只需在此基础上修改。

如何信任模型:保持怀疑,让模型交叉核查

随着模型能力增强,结论真伪的验证成了新的挑战。Melvin Johnson 称,Argon 不会夸大其词或一味迎合,也不会凭空捏造,偶尔出现的是理解偏差,事实锚定仍有提升空间。Sergey Brin 则认为,无论信息来自 AI 还是人类,都需要保持审慎怀疑;AI 的优势在于可以检查自己——由于没有面子包袱,Argon 核查自己的输出时不会护短,谷歌内部还可以交叉调用整个模型家族获取多元评估。

Josh Woodward 指出,研发瓶颈正在转向代码审查。他看到疑似单次生成的提交时,会要求对方把 Prompt 发来一起打磨。Tulsee Doshi 则提醒,使用者必须掌握思考的主导权,不能把思考外包——模型出错的地方往往很微妙,多问一句就能让最终效果提升一大截。

行为对齐:在"执行韧性"与"主动澄清"之间找平衡

Tulsee Doshi 表示,"执行韧性"是 Argon 的积极特质,但推向极端会让模型在需求模糊时闷头走得太远,反之则会不停追问令人厌烦。目前的取向是保持主动推进,同时要求模型在遇到模糊之处时及时澄清。透明度方面,团队着重改进了模型在执行过程中主动告知用户进展的能力。

Josh Woodward 观察到,新模型上线初期用户更看重深度、高频的思维轨迹展示,随着信任加深或习惯形成,查看频率会逐渐下降。Logan Kilpatrick 透露,API 中将上线全新的思维摘要器,Tulsee Doshi 称其思考过程更精炼、质量也更高。对于后续,Logan Kilpatrick 表示更多新模型将陆续面世,谷歌希望借助上线后的用户反馈持续改进。




上一篇:黄仁勋访谈实录:算力建设面临土地、电力与机房外壳三大瓶颈
下一篇:Kimi K3技术报告:KDA、AttnRes与Stable LatentMoE撑起2.8T参数
您需要登录后才可以回帖 登录 | 立即注册

手机版|小黑屋|网站地图|云栈社区 ( 苏ICP备2022046150号-2 )

GMT+8, 2026-10-22 07:14 , Processed in 0.063602 second(s), 39 queries , Gzip On.

Powered by Discuz! X3.5

© 2025-2026 云栈社区.

快速回复 返回顶部 返回列表