再牛的大模型，也要放到行业面前公开露个面，才算真交卷。
现下，就有这样一支清华系团队再展锋芒，规模不大、实力却不小——抢先用 MoE 架构把视频生成模型卷上千亿参数，代码权重还全！开！源！
模型一出，直接刷屏国内外科技圈。那么大，那么强，说开源就开源。且先来看看生成效果一探究竟：
（此处原为视频展示，请直接访问开源仓库查看）
如何？最近爆火的AI漫剧，声台形表四角俱全。
亦或是来一场酣畅淋漓的长镜头，视角跟随人物动作切换自如。
（视频展示）
闹归闹，商业场景也不在话下。
（视频展示）
光这运镜、对焦和人物表现，拉出去和闭源第一梯队同台PK，也照样能打。
不卖关子了，这便是 Sand.ai 的最新力作——MAGI-2-preview。继 Magi-1 横空出世后，新模型又一次瞄准开源 C 位。模型总参数 114B，单次前向只激活约 6B。
按 8 卡 H100 当下的行情算，要生成一段 10 秒 1080P 视频，其成本仅需 5 毛钱，差不多只有行业主流模型的 十分之一。
Benchmark 排名也相当亮眼，MAGI-2-preview 在 AA 视频生成榜单排名 第六。仅用 6B 激活参数，效果就已经非常接近第一梯队。
好好好，这下视频生成行业，又多了一个千亿级新变量。
视频模型 Scaling 不能照抄 LLM
这一变，直击视频生成模型的 Scaling 路线。其实这个问题现在看来挺刚需的，做大模型，最怕的事情就是钱不够烧。
文本模型倒还好，处理的都是离散 token，叠参数、加算力，模型就能越滚越强。但视频模型呢？面对的却是 一整个动态世界。每一帧画面都要被拆成大量空间 patch，连续帧还要记录人物动作、物体关系和镜头变化。如果再叠加文本、音频等信息，序列长度直接超级加倍……如果还用稠密模型，Scaling 的训推成本简直想都不敢想。
模型要更大、视频要更长、成本还要可承受，这三件事就是摆在视频生成面前的近乎 「不可能三角」。
△ 图片由 AI 生成
当然，解法不是没有——MoE。所谓 MoE，就是把模型容量和单次计算部分解耦。模型可以继续拥有百亿千亿的总容量，但每次推理只激活其中一小部分，成本相对可控。
但视频 MoE 也有自己的麻烦，首先卡住的是 通信。传统专家并行会先为 token 选出 Top-K 专家，再把 token 送到专家所在的 GPU。只要激活专家数越多，需要运输的数据就越多。对于本就拥有超长序列的视频模型，这部分通信成本很快就会盖过专家计算本身。
更别提 训练稳定性，动态变化的路由、随时波动的专家负载，以及需要处理的多模态数据，都会让大模型 Scaling 过程中常见的问题，在视频 MoE 上 成倍放大。因此视频生成的 Scaling 路径，跟大语言模型不完全是一回事。
单纯迁移 MoE 不管用，还要扛得住超长序列和跨卡通信，同时保证音频、视频、文本在同一套系统里顺畅协作。说白了，得从底层开始一点点 重构。行业里很少有人能做到。要说将视频 MoE 从纸上谈兵搬到千亿参数视频模型上，Sand.ai 是第一个。
让千亿 MoE 模型真正跑起来
要想跑通，架构和系统缺一不可。
先打地基，MAGI-2-preview 延续了 Sand.ai 在 daVinci-MagiHuman 中验证过的 单流架构——文本、视频和音频进入同一个 Transformer，然后在每一层自注意力里直接交换信息。
传统做法里，是视频走视频的，音频走音频的，最后再靠 cross-attention（交叉注意力）把两边粘起来。而 MAGI-2-preview 是从第一层开始，画面和声音就在 共同建模，从而更适合处理细微的音画对应关系，效果 be like：
（视频展示）
这样设计还另有额外的好处，统一主干能够让延迟和维护成本比模型串联低得多，也更 天然适配 MoE 扩展。
有了框架，再把专家颗粒度推到极致。MAGI-2-preview 采用 Multi-Head LatentMoE 的思路，将 3072 维的隐藏表示拆成 12 个 256 维 head，再让 每个 head 独立路由。同一个 token 由此被拆进多个低维子空间，有的 head 更关注人物外观，有的处理动作和时序，各司其职。
于是在 36 层主体网络里，每层总共 3072 个独立专家单元，每个 token 在每个 head 内选择 6 个专家，合计激活 72 个小专家。看起来同时调用的专家变多了，但每个专家处理的子空间尺寸更小，分工更细，模型能够拼凑出更多能力组合。作为参照，DeepSeek-V4-Pro 等主流 MoE 大模型的每层专家数大多还停留在几百个，MAGI-2-preview 直接推到了三千级别。
这么细的专家，单靠通用 MoE 是实现不了的，还需要一套完整的 自研 infra。Sand.ai 自己写了 MagiMoE kernel 库，把路由、排序、专家计算整条链路压在一起，减少中间结果的显存搬运。还针对 Multi-Head MoE 的计算形态，前向和反向过程都做了专门优化。
并行策略也重新设计了。Head Parallel 在路由发生之前就按 head 把计算分配到不同设备，设备间传输的是形状固定的 head 表示，而不是路由后数量不断变化的专家 token。通信量不随激活专家数波动，视频的长序列就不再是要命的瓶颈。
优化器同样做了混合设计。矩阵参数用 Muon，专家参数用 AdamW，不同性质的参数用不同的更新节奏。
最后一环是 数据。很多团队做数据是层层过滤，最后留一个干净但窄的数据集。但生成模型需要的恰恰相反，要的就是多样性，见得越多，生成才能越逼真。MAGI-2-preview 的思路是从 「删减」转向 「组织」。先扩大有效数据的规模，尽量保留广度，再通过更精准的标注把数据组织起来，让模型依次学会不同场景、动作、声音之间的对应关系。
预训练和后训练的分工也随之变化。预训练负责尽可能完整地覆盖数据分布，让基础模型吃全，后训练则回到自己更擅长的部分，处理偏好对齐、可控性、安全性和产品适配。
（视频展示）
至此，MAGI-2-preview 得以跑通 一整套 Scaling 系统。通过模型结构、通信机制、底层 infra 和数据体系协同设计，在扩大总容量的同时，把单次激活参数控制在可执行范围内。
当然，这里的 6B 激活参数并不等于一款 6B 稠密模型的实际成本，专家通信、路由、显存和部署方式仍会产生额外开销。但作为一款 开源的千亿级视频模型，效果已然 next level～
尤其是开源，其带来的变化，要比想象中大得多。
开源不只是「秀肌肉」
过去开源的视频模型大多都是百亿级，千亿参数直接改变的是整个行业的游戏规则。
对于 研究者而言，这是第一次能够真正解剖千亿级视频 MoE。专家如何分工、路由是否稳定、通信怎样组织、Scaling 规律能否复现，这些问题终于有了公开研究对象。不必隔着论文空想，这对学术界和中小研究团队是实打实的基础设施升级。
对 企业来说，开源意味着多了一个私有化部署和行业微调的选项。尤其是金融、医疗、工业等数据敏感行业，数据能否留在本地、模型能否针对业务继续训练，重要性并不亚于一次生成效果。
再把视线放大至整个 行业，开闭源的竞争维度也将被重新定义。以前是单纯效果比拼，比谁的画质好、谁更便宜，往后模型能否继续训练以及接口是否被单一平台控制，都将成为对比指标。一旦开源模型在效果上持续逼近闭源，视频生成也大概率会走上语言模型的老路——闭源靠产品体验和服务稳定性，开源靠部署、控制和开发者生态。两条路线，终于开始在更多层面正面碰撞。
在这背后，是 Sand.ai 的非共识再一次得到验证。从自回归视频生成，到音画同出，再到千亿 MoE 开源，团队选择的道路总是人迹罕至。这与团队背景不无关系。
Sand.ai 创始人 曹越 是清华大学特等奖学金获得者、Swin Transformer 共同一作，曾联合创办光年之外，也曾在智源研究院负责多模态与视觉研究。团队其它成员也个个都是顶尖技术流出身，这样的技术基因，决定了团队 更愿意把资源押在基础模型和底层 infra，更关注模型的本质，而不是追着热点跑。
创新工场董事长李开复也曾公开推荐该团队，称其为 「AI 视频生成界的 DeepSeek」。
这一次则更为激进。Sand.ai 首次将千亿参数、MoE 和开放权重三件事捏在一起，再用一整套自研系统让它真正跑起来。所以这不仅仅是场技术发布，也是一个团队对 “视频模型应该怎么做” 的立场表达。
诚然，MAGI-2-preview 还不是视频生成的最终答案，还需等待正式版继续交卷。但它先把这件事给做实了—— 千亿级 MoE，不只属于语言模型。
开源地址：
https://github.com/SandAI-org/MAGI-2-preview
在人工智能的探索中，这类基础设施级开源正在重构行业协作方式——我们期待更多社区力量加入验证与迭代。
发表于 半小时前
|
查看: 4|
回复: 0
