
AMD 用 MI455X、EPYC 同 Helios 機架正面追 Nvidia
2nm、HBM4 同 ROCm 各有分工,Azure 亦準備引入新平台
TechNews 科技新報報道,AMD 喺 Advancing AI 2026 公布 MI455X、EPYC 9006 同 Helios,亦將焦點放喺台積電 2nm。件事值得睇,因為 AMD 今次交出嘅已經唔止一張 AI 加速卡,而係由 GPU、CPU、互連到軟件一套包辦。Nvidia 賣緊嘅同樣係整套機架級平台,AMD 終於用相近打法正面追上去。
「2nm GPU」只講咗一部分
先拆清楚最易令人誤會嗰點。AMD 官方規格列明,MI455X 同時用台積電 2nm 同 3nm FinFET,3200 億粒晶體管分布喺唔同功能嘅 chiplet,計算、cache 同 I/O 可以各自揀合適製程。換句話講,唔應理解成成個封裝內每粒晶片都係 2nm。至於 EPYC 9006,AMD 公開資料話 Zen 6 系列建基於台積電 2nm,但未喺現有產品頁逐粒交代所有 I/O chiplet 嘅製程,所以同樣唔宜擴大解讀成「全粒 CPU 都係 2nm」。

圖片:Microsoft
MI455X 靠 HBM4 撐起大模型
MI455X 用 CDNA 5 架構,每張卡配 432GB HBM4、12 組記憶體堆疊,峰值頻寬 23.3TB/s。呢組數字對大模型推論好關鍵:模型權重、KV cache 同中間資料留得喺本地高速記憶體,就可以少啲跨卡搬資料,延遲同通訊開支都有機會壓低。AMD 官方亦話 MI455X 嘅 FP4 峰值算力高過 Nvidia Vera Rubin,記憶體容量多五成;不過呢啲係理論規格比較,仲未等同實際模型每秒出到幾多 token。
EPYC 唔係陪襯品
Helios 入面嘅 EPYC 9006 負責餵資料、排工作、處理檢索、API 同儲存 I/O,GPU 忙住跑模型時,呢堆工作照樣會拖慢整條 pipeline。AMD 新 CPU 最高有 256 核心、512 threads、16-channel DDR5 同 PCIe 6.0,明顯係針對高密度 AI server。CPU 強唔代表模型自然跑得快,不過當推論服務同時接大量請求,host CPU、RAM 頻寬同 I/O 一塞,貴價 GPU 一樣會等資料。
Helios 點樣同 Nvidia 機架方案對打
一個 Helios 機架連接 72 張 MI455X,合共有約 31TB HBM4。AMD 用 UALoE 喺單跳拓撲內連起全部 GPU,官方數字係 260TB/s 聚合互連頻寬,再配 Pensando DPU 同高速連接卡處理機架外嘅流量。呢套設計直接對住 Nvidia NVL72 類機架方案:客戶買嘅係可以一齊運作嘅算力、互連、散熱同管理工具,單張 GPU 跑分只佔採購決定一部分。
ROCm 仍然係最難追嗰關
硬件規格拉近之後,工作就落到 ROCm。MI455X 官方支援 PyTorch、JAX、Triton、SGLang 同 HIP,AMD 亦用開放標準互連降低客戶綁死單一供應商嘅風險。不過開發團隊已經有大量 CUDA 程式、工具同維運經驗,搬平台會牽涉 kernel 相容性、除錯、模型最佳化同人才成本。ROCm 能否穩定跑齊常用框架,同升級後會唔會整壞既有 workload,對企業嚟講實際過一張規格表。
官方效能數字要等第三方驗證
AMD 宣傳 MI455X 有大幅 token 吞吐量提升同成本優勢,但相關比較由 AMD 自己設定模型、精度、批次同系統配置。低精度峰值算力高,未必會原封不動變成較低租用價;耗電、散熱、軟件成熟度、GPU 使用率同雲端供應量都會改變最後成本。喺獨立測試用相同模型、相同服務延遲同相近功耗比較 Helios、Rubin 平台之前,現階段只可以視為 AMD 嘅目標,未可以當成實際效能結果。
Azure 令 AMD 多一條入場路線
Microsoft 已公布 Azure 會加入以 Helios 驅動嘅 ND MI455X v7,另外有用 EPYC 9006 嘅 HDv2 同 HXv2 VM。呢個部署比口頭支持實際得多,開發者同企業日後可能直接租到 AMD 算力,多一個供應選擇亦有機會影響價格。不過 Microsoft 暫時未交代各區推出時間、供應量同收費,香港區有冇份亦未公布。下一步要睇 Azure 實際開放規模,同 MI455X 跑主流模型時嘅每 token 成本。
參考來源
- TechNews 科技新報 — 超微 AI 晶片進擊,最新 GPU 與 CPU 產品採 2 奈米製程,台積助攻 — original report
- AMD Instinct MI455X 產品頁 — 核對 2nm/3nm 混合製程、HBM4、算力同互連規格。
- AMD:AI Networking Built for Scale — 核對 Helios 72-GPU 架構、UALoE 同機架聚合頻寬。
- AMD:EPYC 9006 與 agentic AI 基建 — 核對 Zen 6、核心數、RAM channel 同 PCIe 6.0 資料。
- AMD EPYC 9006 產品頁 — 核對 EPYC 9006 型號、定位同官方效能聲稱嘅限制。
- Microsoft:Azure 擴充 AMD AI 與 HPC 基建 — 核對 ND MI455X v7、HDv2 同 HXv2 公布內容。
本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。







