AMD 用 MI455X、EPYC 同 Helios 機架正面追 Nvidia
Tech News

AMD 用 MI455X、EPYC 同 Helios 機架正面追 Nvidia

圖片:via TechNews 科技新報 — https://technews.tw/2026/07/24/amd-advancing-ai-2026-6th-gen-epyc-server-cpu-tsmc-2nm/
TechLab 編輯部(譯)·

2nm、HBM4 同 ROCm 各有分工,Azure 亦準備引入新平台

TechNews 科技新報報道,AMD 喺 Advancing AI 2026 公布 MI455X、EPYC 9006 同 Helios,亦將焦點放喺台積電 2nm。件事值得睇,因為 AMD 今次交出嘅已經唔止一張 AI 加速卡,而係由 GPU、CPU、互連到軟件一套包辦。Nvidia 賣緊嘅同樣係整套機架級平台,AMD 終於用相近打法正面追上去。

「2nm GPU」只講咗一部分

先拆清楚最易令人誤會嗰點。AMD 官方規格列明,MI455X 同時用台積電 2nm 同 3nm FinFET,3200 億粒晶體管分布喺唔同功能嘅 chiplet,計算、cache 同 I/O 可以各自揀合適製程。換句話講,唔應理解成成個封裝內每粒晶片都係 2nm。至於 EPYC 9006,AMD 公開資料話 Zen 6 系列建基於台積電 2nm,但未喺現有產品頁逐粒交代所有 I/O chiplet 嘅製程,所以同樣唔宜擴大解讀成「全粒 CPU 都係 2nm」。

Azure 公布三款採用 AMD 新平台嘅 AI 同 HPC 雲端方案

圖片:Microsoft

MI455X 靠 HBM4 撐起大模型

MI455X 用 CDNA 5 架構,每張卡配 432GB HBM4、12 組記憶體堆疊,峰值頻寬 23.3TB/s。呢組數字對大模型推論好關鍵:模型權重、KV cache 同中間資料留得喺本地高速記憶體,就可以少啲跨卡搬資料,延遲同通訊開支都有機會壓低。AMD 官方亦話 MI455X 嘅 FP4 峰值算力高過 Nvidia Vera Rubin,記憶體容量多五成;不過呢啲係理論規格比較,仲未等同實際模型每秒出到幾多 token。

EPYC 唔係陪襯品

Helios 入面嘅 EPYC 9006 負責餵資料、排工作、處理檢索、API 同儲存 I/O,GPU 忙住跑模型時,呢堆工作照樣會拖慢整條 pipeline。AMD 新 CPU 最高有 256 核心、512 threads、16-channel DDR5 同 PCIe 6.0,明顯係針對高密度 AI server。CPU 強唔代表模型自然跑得快,不過當推論服務同時接大量請求,host CPU、RAM 頻寬同 I/O 一塞,貴價 GPU 一樣會等資料。

Helios 點樣同 Nvidia 機架方案對打

一個 Helios 機架連接 72 張 MI455X,合共有約 31TB HBM4。AMD 用 UALoE 喺單跳拓撲內連起全部 GPU,官方數字係 260TB/s 聚合互連頻寬,再配 Pensando DPU 同高速連接卡處理機架外嘅流量。呢套設計直接對住 Nvidia NVL72 類機架方案:客戶買嘅係可以一齊運作嘅算力、互連、散熱同管理工具,單張 GPU 跑分只佔採購決定一部分。

ROCm 仍然係最難追嗰關

硬件規格拉近之後,工作就落到 ROCm。MI455X 官方支援 PyTorch、JAX、Triton、SGLang 同 HIP,AMD 亦用開放標準互連降低客戶綁死單一供應商嘅風險。不過開發團隊已經有大量 CUDA 程式、工具同維運經驗,搬平台會牽涉 kernel 相容性、除錯、模型最佳化同人才成本。ROCm 能否穩定跑齊常用框架,同升級後會唔會整壞既有 workload,對企業嚟講實際過一張規格表。

官方效能數字要等第三方驗證

AMD 宣傳 MI455X 有大幅 token 吞吐量提升同成本優勢,但相關比較由 AMD 自己設定模型、精度、批次同系統配置。低精度峰值算力高,未必會原封不動變成較低租用價;耗電、散熱、軟件成熟度、GPU 使用率同雲端供應量都會改變最後成本。喺獨立測試用相同模型、相同服務延遲同相近功耗比較 Helios、Rubin 平台之前,現階段只可以視為 AMD 嘅目標,未可以當成實際效能結果。

Azure 令 AMD 多一條入場路線

Microsoft 已公布 Azure 會加入以 Helios 驅動嘅 ND MI455X v7,另外有用 EPYC 9006 嘅 HDv2 同 HXv2 VM。呢個部署比口頭支持實際得多,開發者同企業日後可能直接租到 AMD 算力,多一個供應選擇亦有機會影響價格。不過 Microsoft 暫時未交代各區推出時間、供應量同收費,香港區有冇份亦未公布。下一步要睇 Azure 實際開放規模,同 MI455X 跑主流模型時嘅每 token 成本。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook