Hot Chips 2026 上,AMD 对 MI400 系列进行了一次相当完整的系统级拆解。
这场演讲没有把太多时间停留在 MI455X 单颗 GPU 的峰值算力上。AMD 展示得最多的是 计算托盘(Compute Tray)、交换托盘(Switch Tray)、UALoE、互连管理器(Fabric Manager)和 Pensando Vulcano 800。这些组件最终被装进一个 44OU 机架,组成拥有 72 张 MI455X、31TB HBM4、260TB/s 机架内扩展带宽(Scale-up)和 43TB/s 跨机架扩展带宽(Scale-out) 的 Helios。
进入 Rubin、MI400 这一代后,机架本身已经开始成为一个完整的计算单元。几十颗 GPU 如何共享数据、交换中间结果,交换网络出现故障后能否继续运行,跨机架通信会不会让 GPU 等待网络,这些问题开始直接决定数万张 GPU 集群的有效算力。
AMD Helios 核心规格
Helios 把 AMD 过去相对分散的 CPU、GPU 和 Pensando 网络资产第一次放进一套完整的机架级架构里。单卡性能仍然重要,但系统设计开始决定这些算力最终能不能被持续利用。
72张MI455X,一台Helios到底装了什么
一套完整的 Helios 配置 72 张 Instinct MI455X GPU,FP4 峰值算力达到 2.9 EFLOPS,FP8 为 1.4 EFLOPS;整柜拥有约 31TB HBM4。每颗 MI455X 配置 432GB HBM4,官方最新规格给出的单 GPU HBM 带宽为 23.3TB/s,72 颗 GPU 合计约 1.68PB/s。
机架内部扩展总带宽(Scale-up)达到 260TB/s,跨机架扩展总带宽(Scale-out)为 43TB/s。从数量关系看,Helios 已经很难再按照传统的“服务器 + 加速卡”理解,它更接近一台由大量模块共同组成的大型并行计算机。
Helios 44OU 机架结构:18 个计算托盘 + 6 个交换托盘|AMD
一个 44OU OCP 开放式宽机架(Open Rack Wide)内部放入 18 个计算托盘和 6 个交换托盘。每个计算托盘装四张 GPU,18 个计算托盘刚好构成 72 GPU。机架内扩展(Scale-up)网络集中在另外六个交换托盘中,整柜采用液冷、50V 直流母排和冗余电源设计。
进入数百千瓦级 AI 机架之后,GPU 数量只是系统设计的一部分。供电、冷却、线缆长度、交换芯片位置、故障维护都会反过来约束 GPU 的摆放方式。Helios 因而把计算和交换分层布置,整台机架围绕可重复部署的模块化托盘构建。
Helios最基础的计算单元,是一块四GPU计算托盘
Helios计算托盘:MI455X、Venice 与 Vulcano 800|AMD / Advancing AI 2026
把机架继续拆开,真正的基础模块是一块计算托盘。里面包含一颗 EPYC “Venice” CPU 和四颗 Instinct MI455X GPU。
MI455X 基于 CDNA 5 架构,每颗 GPU 配置 432GB HBM4。四颗 GPU 合计就是 1.728TB HBM4。Venice 通过 Infinity Fabric 与 GPU 建立一致性连接,CPU 负责系统控制、I/O 和主机侧工作,模型的大规模矩阵计算主要落在 MI455X 上。
真正复杂的是 GPU 周围的通信接口。一张 MI455X 同时面对两类流量:机架内部 72 张 GPU 之间的高频数据交换,以及不同 Helios 机架之间的集群通信。AMD 因此把两条路径拆开:
UALoE:负责机架内部 机架内扩展(Scale-up)
Vulcano 800:负责机架之间 跨机架扩展(Scale-out)
两套网络最终都建立在以太网(Ethernet)生态之上,但承担的任务不同。对于 Helios 来说,如何移动数据已经和如何计算数据同样关键。
72颗GPU如何连成一个计算域:UALoE是Helios的核心
Helios 内部 72 张 GPU 被组织成一个机架内扩展计算域(Scale-up Pod)。AMD 给出的 机架内扩展总带宽(Scale-up)达到 260TB/s,采用单跳拓扑,整个计算域可访问超过 31TB HBM4。
负责完成这件事的是 UALoE,即基于以太网的 UALink(UALink over Ethernet)。MI455X 内部集成 UALoE 适配器,数据从 GPU 发出后进入 机架内扩展交换网络,再到达其他 GPU。大量数据搬运由专门 DMA 引擎处理,可以与 GPU 计算并行执行。
Helios交换托盘与 UALoE 机架内扩展网络
Helios 配置六个交换托盘,每个交换托盘内有两颗 512端口、200G UALoE Switch ASIC,完整机架一共 12 颗机架内扩展交换 ASIC。AMD 把网络拆成多个独立网络平面,单条链路或交换节点发生异常后,流量可以重新选择路径,互连管理器(Fabric Manager)负责发现拓扑、监控状态和进行故障恢复。
这也是 AMD 与 NVIDIA 在机架级设计上的关键分叉。NVIDIA 使用 NVLink 与 NVSwitch 构建高度垂直整合的机架内扩展网络(Scale-up);AMD 则把 UALink 协议映射到以太网(Ethernet)体系,并与 Broadcom 等交换芯片厂商共同推动开放的 eSUN / UALoE 方案。
一台Helios之外,Vulcano 800开始接管网络
72 张 GPU 依旧只是一个机架。当前前沿模型训练和分布式推理会快速扩展到数千乃至数万颗 GPU,单个 Helios 最终只是更大型集群中的一个计算岛。
AMD Pensando Vulcano 800 AI网络接口卡
跨机架通信交给 AMD Pensando Vulcano 800 AI网络接口卡。Vulcano 800 单卡支持 800Gbps以太网,采用 PCIe Gen6 与 UALink 接口;AMD 允许每颗 MI455X 连接多块 Vulcano,单 GPU 的跨机架扩展带宽(Scale-out)最高达到 2.4Tbps。
大型训练任务中的集合通信(Collective Communication)会持续制造同步流量。一次全归约(All-Reduce)可能让数百甚至数千张 GPU 同时交换梯度,任何拥塞和尾延迟都可能让整个计算任务等待。Vulcano 的设计重点因此落在 P4 可编程数据路径、RDMA、拥塞控制、故障检测、多路径调度和遥测上。
AMD 收购 Pensando 数年之后,网络资产已经进入旗舰 GPU 机架的核心路径:Helios 内部依赖 UALoE,向外则由 Vulcano 800 把机架接入更大的以太网 AI 集群。
MRC:AMD想改掉AI 集群“堵车”的方式
Vulcano 800 上另一个关键技术是 MRC,即多路径可靠连接(Multipath Reliable Connection)。传统 RoCEv2 常见的 ECMP 会把单条数据流 固定到特定路径,大规模同步通信一旦发生哈希碰撞,部分链路很容易拥塞。
MRC 允许同一个队列对(Queue Pair)的数据包分散到多条路径,并结合选择性确认、多路径分发和多路径拥塞控制,在接收端处理乱序到达的数据。对大规模 AI 集群而言,这套设计追求的是更稳定的链路利用率和更短的故障恢复时间。
HELIOS 网络结构
机架内部:UALoE 机架内扩展 机架之间:Vulcano 800 跨机架扩展 大规模集群:以太网 + MRC
放到Vera Rubin NVL72旁边,两种系统路线已经非常清楚
NVIDIA Vera Rubin NVL72
Helios 很难绕开 NVIDIA Vera Rubin NVL72。两套系统恰好都是 72 GPU 机架,也都把 机架内扩展总带宽(Scale-up)做到 260TB/s,但内部结构并不相同。
Helios 的一个突出特征是显存容量。72 颗 MI455X 合计约 31TB HBM4,高于 NVL72 的 20.7TB。对于超长上下文、大参数 MoE 和 KV 缓存规模不断提高的推理场景,显存容量会直接影响单机架能够容纳的模型规模和并行策略。
Rubin 则延续 NVIDIA 长期建立的垂直整合体系。NVLink 6、NVSwitch、Vera CPU、ConnectX、BlueField、Spectrum-X 再加 CUDA 软件生态,NVIDIA 对系统关键组件保持高度统一的设计控制。
AMD 的路线更开放:MI455X、Venice 和 Pensando 属于 AMD 自有芯片,机架内扩展交换网络则建立在 UALoE、以太网、eSUN 等开放体系之上,并与 Broadcom 等交换芯片厂商合作。两家公司最终都在做机架级计算机,只是系统边界划得不同。
从MI300X到Helios,AMD开始面对一个更难的问题
MI300X 发布时,AMD 最容易被比较的是 H100、H200;MI325X 的核心卖点之一是更大的 HBM 容量;MI350、MI355X 继续提高训练和推理性能。到了 MI455X 所在的 MI400 世代,评价体系已经明显改变。
一台 AI 机架同时包含 GPU 算力、HBM 容量与带宽、CPU 供给、机架内扩展交换网络、跨机架扩展(Scale-out)网络、AI网络接口卡(AI NIC)、电源、液冷、Fabric 管理和软件栈。其中任何一个环节出现瓶颈,都会降低其余昂贵硬件的利用率。
Hot Chips 2026 展示的 Helios 把这套结构完整摊开:18 个计算托盘提供计算资源,6 个交换托盘把 72 张 MI455X 连接成统一的机架内扩展计算域,Vulcano 800 再把机架接入更大的以太网 AI 集群,互连管理器在背后持续管理拓扑、故障和资源状态。
过去 AMD 最需要回答的问题,是 Instinct GPU 能否在单卡性能和软件生态上追近 NVIDIA。Helios 出现后,问题继续向系统层推进:AMD 能否长期稳定地管理 72 颗 GPU、31TB HBM4、12 颗机架内扩展交换 ASIC 以及数十 TB/s 的外部网络,并让这套开放架构保持足够高的 GPU 利用率。
这比造出一颗更快的 GPU 难得多,也正因为如此,Helios 才是 MI400 世代真正值得看的产品。
资料来源:AMD、NVIDIA、Hot Chips 2026、ServeTheHome 及公开技术资料。仅供研究学习,不构成投资建议
精彩评论