由 Sam Altman 支持的光芯片初创公司 Volantis，正尝试用光子中介层打破 AI 加速器 的内存壁垒。与过去只停留在 IP 授权层面的方案不同，这家 2022 年成立于旧金山的公司，目标是做出真正能用的产品。
它的核心思路，是在封装中使用光波导替代电互连，从而大幅提高内存带宽。Volantis 声称，能够把超过 10TB 的内存塞进单个大型封装中，并以高达 240TB/s 的速度运行。这样的带宽，足以驱动一个拥有 20 万亿参数的模型，每个用户的处理速度可达 10,000 tok/s。
但 Volantis 的路线有些特别：它并没有去发明新的计算架构或内存技术，而是把全部精力押在光中介层上。至于其他技术环节，该公司计划向 IP 供应商购买授权。
“差异化主要来自光中介层。既然我们在中介层和集成上已经承担了足够多的风险，那为什么不尽可能去获取其他技术的授权呢？哪怕它不是世界上性能最高的。”Volantis 首席执行官 Tapa Ghosh 对 The Register 表示。
Volantis 将这款芯片命名为 A-1。其基本原理是：用光波导替代电互连，让每个封装可容纳的高速内存数量显著增加。目前主流的 AI 加速器内存（如 HBM）之所以容量受限，是因为它必须尽量靠近计算核心，以降低功耗并保证信号完整性。于是，现代 GPU 的容量与带宽实际上被计算核心周边的物理空间卡住了脖子。以 AMD MI455X 为例，其内存容量上限约为 432GB。
光子互连的优势在于它能延伸得更远。内存不必再挤在核心几毫米范围内，可以放到几厘米之外，从而打破“海岸线”带来的物理瓶颈。不过，HBM 只是其中一个例子，Volantis 尚未公开它最终会采用哪种存储技术。
具体怎么实现？Volantis 计划把光波导直接集成到中介层中，再将合作伙伴设计或提供的计算单元与存储组件封装其上。
如果你觉得这听上去很耳熟，那是因为 Volantis 并非第一家尝试硅光中介层的公司。Lightmatter 和 Celestial AI 都探索过类似路线。我们甚至怀疑，Marvell 最终以 55 亿美元收购 Celestial，很可能就是冲着“超距 HBM”这个概念去的。
与 Celestial、Lightmatter 不同，Volantis 现阶段并不打算把技术授权给其他芯片制造商。它的目标是打造一款能完整工作的推理芯片。“至少在第一天，要先证明我们这条路真能走通。”Ghosh 说。
还有一处关键差异：Volantis 的中介层用上了微型 VCSEL（垂直腔面发射激光器）。也就是说，光源直接集成到中介层内部，而不是依赖外部激光器。
VCSEL 本身并不是什么新技术，过去长期被诟病可靠性不足。但 Volantis CTO Roy Meade 表示，近几年这项技术进步很大，通过适当牺牲速度，可以明显改善可靠性。他将其称为“宽而高效”的路线。
“很多人还被‘粗管道点对点’的思路框住，自然而然就会想到 SerDes。可是如果我们回头看 HBM 走宽而高效这条路带来的优势，就会发现用同样的策略非常合理。”Meade 说。
他进一步解释，提升互连带宽无非两条路：要么提高单链路速度，要么增加链路数量。一条 800 Gbps 链路，可以由四条 200 Gbps 或八条 100 Gbps 的链路组合实现。HBM 走的正是“极宽总线 + 相对低速每个引脚”的路线。Volantis 的光中介层加速器，也遵循同一原理。
能效一直是光子学初创公司的老大难问题，但对 Volantis 来说或许没那么棘手，因为它并不打算把第一代产品技术授权出去。该公司首款产品的目标是：每 24 Gbps 通道每比特功耗仅为 1 皮焦耳，系统整体功耗控制在约 20 千瓦。
Volantis 距离首款量产芯片流片还有相当长的路，也需要筹集更多风险投资——本周公布的 8800 万美元融资，远远不够。Ghosh 坦言，这笔资金主要用来把小型光学演示样机推进到更接近最终产品的形态。光是中介层本身就极具挑战，更不用说还要把买来的 IP 真正整合到一起。
“我们希望在 12 到 18 个月内推出 MVP，”他说，“这里说的是一个能跑通的原型，而不是量产版本。”
对光互连这条路线感兴趣的朋友，不妨去云栈社区一起聊聊。
来源：The Register
发表于 昨天 21:10
|
查看: 0|
回复: 0
