8月25日消息，据 CNBC 报道，英伟达宣布 Groq 3 LPX 机架已全面进入量产阶段。这也意味着，该公司成立以来规模最大的一笔收购所获得的技术，正式走向商业化落地。
据报道，该产品将和 Vera 中央处理器、Rubin 图形处理器一起，部署在云服务商 Nebius 的平台上。英伟达高级总监迪翁·哈里斯在接受媒体采访时确认，整套系统将于今年晚些时候正式上线投入使用。
英伟达正全力推进 Groq 芯片的产能爬坡与市场交付。这一动作直接凸显出 AI 产业对低延迟推理的需求正在快速攀升。低延迟推理能力是保障 AI 智能体快速响应用户操作的核心基础，在代码生成等对响应速度要求极高的场景中价值尤为突出。英伟达方面表示，搭载该系统的云服务商，将可以针对这类高实时性的 Token 服务收取更高的溢价。
哈里斯在采访中表示：“对于提供 Token 服务的从业者来说，这解锁了为那些对延迟有极致要求的服务协议用户，提供专属高级服务层级的能力。”
本次量产落地的 Groq 3 LPX 技术，源自英伟达去年 12 月完成的一笔重磅收购：当时英伟达斥资 200 亿美元收购了芯片初创公司 Groq 的全部相关资产，这也是公司发展史上金额最高的一笔收购交易。Groq 的核心架构特点是在芯片裸片内部集成 500 兆字节高速 SRAM，从底层大幅降低数据传输过程中的内存瓶颈。其中 Groq 芯片由三星负责代工生产，而英伟达传统 GPU 产品线则始终由台积电代工制造。
硬件配置层面，单台 Groq 3 LPX 机架内部集成 256 颗独立 Groq 3 芯片。根据第三方机构 Artificial Analysis 提供的基准测试数据，整套系统每秒可完成 3400 个 Token 的处理任务，性能表现处于全球低延迟推理硬件的第一梯队。目前英伟达正在同步加快 Vera Rubin 系统的生产交付节奏，该系统已于今年早些时候正式启动量产。
今年 3 月，在 Vera Rubin 与 Groq 3 LPX 发布会上，英伟达首席执行官黄仁勋曾公开预测，到 2027 年，当前一代 Blackwell 芯片与全新 Vera Rubin 系统的累计总销售额将达到 1 万亿美元。黄仁勋还公布了内部的算力资源分配规划：“我会把数据中心里原本用于编码类应用的四分之一空间，分配给 Groq 芯片，剩下的全部数据中心空间，都将部署 Vera Rubin 的产品。” | 
发表于 昨天 01:52
|
查看: 12|
回复: 0
