AMD EPYC 9996 上手谈：256核512线程，AI Agent 并发到底有多能打？

AMD 把第六代 EPYC 9996 搬了出来，单颗处理器直接塞进 256 个核心、512 个线程。上一代旗舰 9965 还是 192 核，这一代又往上加了三分之一。

桌面玩家还在纠结 8 核还是 16 核的时候，服务器这边已经把整条任务队列请进了一颗 U。核心越塞越多，这颗 U 想解决的事也很直白：让一台机器同时干更多的活。

256 核开张，先看接什么活

AMD 公布的成绩里，EPYC 9996 平台在 SPECrate 2026 整数吞吐量测试中，约为 NVIDIA Vera 平台的 2.24 倍。两边都是双路配置，成绩来自 AMD 内部工程预估。

双路 9996 总共提供 512 个核心，Vera 这一组则是 176 个。2070 对 925，展现的是两套平台在这项负载下的处理能力，后续正式机器还得看最终配置与实测表现。

SPECrate 衡量的是吞吐量，可以理解为一段时间内完成多少工作量。它让多个测试副本并发运行，核心数量、频率、缓存、内存和编译设置都会参与成绩计算。

这也解释了 256 核为什么有吸引力。单个用户的请求未必需要这么多核心，但服务器同时面对大量用户和任务时，能把工作拆开并行处理，多出来的资源立刻就有了用武之地。

我最感兴趣的也是这个方向。家用电脑讲究点一下马上响应，服务器还得考虑：一大群人同时点的时候，能接住多少。

工位加满，饭得送到

EPYC 9006 系列采用 Zen 6 与 Zen 6c 核心设计，覆盖高频和高密度等不同用途。256 核型号把重点放在密度上，一个插槽就能容纳更多可调度的计算资源。

虚拟机、多用户服务和并行批处理都能利用这些资源。过去需要分散到多台机器上的部分工作，有机会集中起来，机位、管理和配套设备也就有了整合空间。

但核心增加之后，内存不能原地不动。虚拟机要分容量，数据库和计算任务要持续读写数据，内存带宽不够，核心就只能干等。

同批报道还列出，96 核 EPYC 9006 平台在 STREAM Triad 内存带宽测试中领先 88 核 Vera 平台 18%。这是系列里另一组配置，展示的是供数据的能力，与 256 核旗舰的整数吞吐量各有侧重。

Vera 也有自己的配套。NVIDIA 给出的规格是 88 核 176 线程，搭配 LPDDR5X 内存，并提供与 GPU 高速互联的能力。它要服务的是整套系统，选型自然也得把内存和互联一起看。

把 CPU 核心排满只是开头，数据还得及时送到每一排。任务管理器看着热闹，业务却堵在内存或 I/O 上，机器照样跑不出预期。

GPU 忙着算，CPU 也没闲着

这次 AMD 把智能体应用放在了很显眼的位置。AI 基础设施除了模型计算，还要处理请求、检索数据、调度任务；智能体调用工具、运行代码时，也会产生 CPU 侧工作。

比如同时开出许多隔离的运行环境，每个环境里执行不同的代码或工具任务，就需要足够的计算资源和内存。高密度 CPU 可以承接这一类并发工作，具体能开多少，还要看每个任务吃掉多少资源。

AMD 因此把智能体沙盒、AI 主机节点和通用计算分成不同用途。需要更多并发执行资源的任务，适合关注核心密度；少量线程决定响应时间的任务，则会更在意频率和延迟。如今不少 AI Agent 工作流在编排、检索和工具调用环节产生大量细碎并发请求，CPU 侧的调度能力反而成了落地效率的关键。

游戏也是后面这一类的典型。关键线程、缓存和显卡配合影响帧率，换成 256 核服务器 U，并不会让一局游戏突然学会指挥所有核心。

少摆几台机器，才有下一笔账

如果同样的业务能用更少服务器完成，省下来的就可能包括机位、网络端口和管理成本。但单机功耗、内存配置与软件授权也要一起核算，部分软件还会按核心数收费。

所以我看这颗 9996，最期待的后续测试是：相同业务量下，需要几台机器、用了多少内存、整机耗电多少。那时，256 核带来的变化才会从规格表走进机房账单。

从 192 核到 256 核，AMD 已经把可用资源往前推了一大步。接下来就看软件和整机配套，能把这些核心安排得多满。

如果你要做重度多开，更在意一台机器能容纳多少任务，还是每个任务单独跑得多快？