2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战

频道:人工智能 日期: 浏览:19
快科技7月21日消息,AMD首个全栈机架级AI方案Helios将在Advancing AI 2026活动上正式发布,目前官方已经公布了详细规格参数,从GPU到CPU到网络芯片全部自研,对标NVIDIA现有Oberon和即将推出的Kyber机架。根据AMD的说法,Helios不是直接销售的独立整机产品,而是一套“开放机架级参考设计”,采用Meta提交给OCP的Open Rack Wide标准,整体为全液冷设计,包含18个计算托盘和6个交换机。
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
每个计算托盘配备4块Instinct MI455X GPU和1颗EPYC Venice CPU,整机架共搭载72块GPU。每块GPU均覆盖铜制液冷冷板,整机架重量约5000磅(约2268公斤),功耗在225至245kW之间。据报道,单机架成本约500万至550万美元。
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
整机架规格方面,Helios可提供2.9 Exaflops FP4算力和1.4 Exaflops FP8算力,搭载总计31TB HBM4内存,聚合带宽1.4PB/s,纵向扩展互连带宽260TB/s,纵向扩展带宽43TB/s。CPU与GPU核心总数分别达到4600和18000个。
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
Helios的三大核心组件分别是Instinct MI455X GPU、第六代EPYC Venice CPU和Pensando网络芯片。
GPU方面,MI455X基于CDNA 5架构,单卡提供40 PFLOPS FP4算力和20 PFLOPS FP8算力,相比上一代MI350系列算力翻倍。作为对比,NVIDIA Rubin GPU提供50 PFLOPS FP4和17.5 PFLOPS FP8算力,AMD在FP8算力上领先。
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
MI455X还从MI350系列的288GB HBM3e升级到432GB HBM4,容量提升50%,带宽从8TB/s跃升至19.6TB/s,提升超过一倍。NVIDIA Rubin GPU则配备288GB HBM4,带宽22TB/s,AMD在内存容量上领先50%,
更大的容量意味着能加载更大的模型分片,减少跨节点通信开销,对大规模推理场景尤为关键。
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
MI455X属于MI400系列三款产品之一,其中MI455X和MI450X面向大规模AI训练和推理,MI455X专门用于Helios机架。MI430X则面向HPC和主权AI场景,具备最高性能FP64计算能力,支持CPU+GPU混合计算,搭载与MI455X相同的HBM4内存。
CDNA 5架构还带来基于标准的机架级网络互连支持,包括UALoE、UAL和UEC等开放标准,与NVIDIA依赖NVLink和InfiniBand的封闭路线形成鲜明对比。
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
CPU方面,EPYC Venice是首款基于Zen 6架构的HPC产品,也是台积电2nm工艺首个进入量产的高性能计算芯片。台积电2nm工艺从FinFET转向GAA晶体管架构,同功耗下性能提升10至15%,同性能下功耗降低25至30%,晶体管密度提升最高15%。
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
Venice最高配备256核心512线程,采用8个大型计算芯片和2个更大的I/O芯片的多芯片封装设计,性能和能效提升超过70%,线程密度提升超过30%。
目前Agentic AI工作负载对CPU性能的要求正在急剧攀升,AI Agent需要频繁的调度、内存管理和数据预处理。AMD早期基准测试显示,第五代Turin(Zen 5)已在性能上领先NVIDIA基于Arm架构的Vera CPU,第六代Venice的领先幅度进一步拉大,在相近功耗下提供更高性能和更优的TCO。
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
网络互联方面,Helios搭载Pensando Vulcano 800 AI NIC和Salina DPU。Vulcano 800提供800 Gbps以太网吞吐量,是目前唯一提供单GPU最高2.4Tbps纵向扩展带宽的网卡,是其他方案的8倍。通过UALink/PCIe Gen6主机接口驱动GPU间超低延迟通信,支持UEC标准和RDMA以太网优化。基于UALoE开放标准,Helios实现机架内最多72块GPU的高速互连,正好对应单机架GPU总数。
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
Salina DPU搭载16个Arm N1核心,负责网络、安全和存储卸载,比仅用CPU处理快40%,性能是AMD上一代DPU的两倍,比NVIDIA BlueField-3 DPU快40%。
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
软件生态方面,AMD ROCm已更新至7.14版本,原生支持PyTorch、TensorFlow、JAX、Hugging Face、vLLM、SGL、Deepspeed、ONNX、llm-d、OpenXLA、MLID、Llama Stack等主流框架,提供Day-0支持。AMD强调其采用开放硬件和软件标准,降低集成复杂度,与NVIDIA封闭生态形成差异化竞争。
客户方面,微软已经宣布将部署Helios机架用于Azure AI服务,提供三种实例:
面向CPU密集型负载的Azure HDv2(近500个EPYC核心、4TB内存、32TB NVMe存储、400Gb Azure Boost网络)
面向Agentic AI的Azure HXv2(176核心3D V-Cache、5GHz+频率、50%更多缓存、2至4TB内存、800Gb InfiniBand)
搭载72块MI455X GPU的ND MI455X v7实例。
OpenAI、Meta、Oracle、HPE、TCS、Celestica、Nutanix和美国能源部也确认采用Helios方案或相关产品。
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
2.9 Exaflops全液冷巨兽!AMD首套AI机架Helios亮相:向NVIDIA发起全面挑战
【本文结束】出处:快科技
关键词:AI机架Helios

0 留言

评论

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。