AMD Helios 72 GPU 機櫃出場:Azure 採用,ROCm 仲要證明自己
Tech News

AMD Helios 72 GPU 機櫃出場:Azure 採用,ROCm 仲要證明自己

圖片:via TechNews 科技新報 — https://finance.technews.tw/2026/07/24/at-amd-advancing-ai-2026-lisa-su-unveiled-a-blueprint-for-the-era-of-agent-based-ai/
TechLab 編輯部(譯)·

硬件規格追到 NVIDIA,實際供應、成本同軟件表現仲要等

AMD 今次推出 Instinct MI455X 同 Helios,焦點已經唔再係單粒 GPU 跑到幾多分,而係成個機櫃可唔可以直接同 NVIDIA Vera Rubin NVL72 對打。Microsoft Azure 同 Anthropic 都公布會採用 AMD 新一代 AI 硬件,AMD 終於有機會靠大型客戶一齊推進硬件、連接技術同 ROCm。不過規格搶眼還搶眼,要大規模供應畀雲端開發者,仲有一段路。

72 粒 GPU,AMD 今次主打成套系統

Helios 一個機櫃裝有 72 粒 MI455X GPU,每粒配 432GB HBM4,成櫃合共有 31TB HBM4,理論 FP4 運算力最高去到 2.9 exaFLOPS。系統仲包埋第六代 EPYC「Venice」CPU、Pensando 連接硬件同 ROCm,全部放入基於 Open Compute Project Open Rack Wide 規格嘅雙闊機櫃。嚴格嚟講,Helios 係畀 OEM 同 ODM 跟住製造嘅參考設計,唔係 AMD 自己成櫃直接零售。

呢個方向好重要。NVIDIA 嘅優勢一路都包括 CUDA、NVLink、CPU、交換器同機櫃設計,客戶買到嘅係一套已經夾好嘅系統。AMD 以前單靠 GPU 規格追趕,好難解決大型叢集入面嘅連接、散熱同軟件調校。Helios 用 UALink、標準 Ethernet 同開放機櫃規格,畀供應商有多啲組合空間,亦減低成套基建俾單一供應商綁死嘅風險。

Microsoft Azure 展示採用 AMD 新平台嘅三款雲端運算方案

圖片:Microsoft

34 倍吞吐量幾吸引,但全部都係 AMD 自己計

TechNews 科技新報報道,AMD 話 Helios 喺高併發推論工作下,吞吐量最高可達上一代 MI355 系統 34 倍,每美元產生嘅 token 多 18 倍;同對手比較時,固定機櫃功耗下亦聲稱有 10% 至 15% 效能優勢,每美元 token 數就高 30%。呢批數字暫時主要來自 AMD 內部分析同工程預測,未見完整獨立測試,模型、精度、延遲要求同軟件版本一改,結果都可以差好遠。

所以而家最多只可以話,MI455X 喺紙面規格上已經夠資格同 Vera Rubin 放埋一齊比較。AMD 有較大 HBM4 容量,對長 context、大型模型同分散式推論有實際吸引力;NVIDIA 就有成熟過好多嘅 CUDA 生態、NVLink 經驗同供應鏈。真正有意思嘅比較,要等同一模型、同一延遲目標、同一功耗限制下嘅第三方測試。

ROCm 支援主流框架,搬工作仍然要時間

AMD 話 Helios 上嘅 ROCm 會由第一日支援 PyTorch、TensorFlow、JAX、vLLM、Triton 同多款常用工具。對開發者嚟講,框架識得認張卡只係起點;自訂 CUDA kernel、通訊程式庫、監察工具同多年累積嘅調校,都要逐項改同重新驗證。大型模型公司有工程團隊同 AMD 一齊執效能,一般企業就未必有呢種資源。

Anthropic 承諾最多部署 2GW MI450 系列算力,首 1GW 預計喺 2027 年上半年開始,亦已經用緊 MI355X。Claude 呢類真正大規模運行嘅模型,可以持續搵出 ROCm 同硬件嘅樽頸,呢點先係合作最實際嘅價值。客戶名單可以增加市場信心,不過「最多 2GW」始終係多年部署上限,唔等於所有機櫃已經裝好投入服務。

Azure 多一個選擇,未代表雲端帳單即刻平

Microsoft 已公布即將推出 ND MI455X v7 VM,主攻大型推論、搜尋同代理式 AI 工作。對用 Azure 嘅開發者同公司 IT 團隊,呢個安排至少提供 NVIDIA GPU 以外嘅算力來源;當某款加速器供應緊張時,多一條硬件路線可以減少排隊同集中採購風險,亦畀雲端平台多啲議價空間。

不過 Microsoft 暫時未公布 ND MI455X v7 嘅正式推出日、供應地區同價錢。就算 AMD 真係做到較低 token 成本,Azure 會唔會把節省反映喺租用價,亦未有答案。下一步要睇 Helios 下半年出貨量、Azure 實際容量同定價,再加獨立推論測試;呢三樣交到貨,開發者先會真正感受到算力選擇多咗。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook