Nvidia Kyber AI rack 傳押後:PCB midplane 點卡住 Rubin Ultra
3C 產品

Nvidia Kyber AI rack 傳押後:PCB midplane 點卡住 Rubin Ultra

圖片:via Tom's Hardware — https://www.tomshardware.com/pc-components/gpus/nvidias-kyber-rack-for-rubin-ultra-slips-to-2028
TechLab 編輯部(譯)·

傳延遲未獲官方確認,焦點係 rack 工程同雲端 GPU 供應

傳聞講到邊

Tom's Hardware 引述 SemiAnalysis X thread 同 LinkedIn 公開帖話,Nvidia 原定俾 Rubin Ultra 用嘅 Kyber NVL144 rack,據報會押後到 2028,時間遲過原先 2027 節奏超過 12 個月。SemiAnalysis 指,卡位係 Nvidia 叫 orthogonal backplane 嘅 PCB midplane:呢塊板負責喺 compute trays 同 NVSwitch trays 之間搬 NVLink 訊號。Nvidia 暫時冇喺官方 Rubin 資料確認呢個延遲,所以成件事要用「傳」同「據報」去睇;但如果屬實,問題唔細,因為 NVL72x2 呢個兩個 Oberon racks 背對背嘅後備方案亦據報取消。

Nvidia 官方 Kyber NVL1152 rack 架構圖,展示八個 Kyber racks 連成單一 NVLink domain

圖片:Nvidia

點解一塊 PCB 會咁難

Kyber 想做嘅事好進取:喺一個液冷 rack 入面塞 144 個 Rubin Ultra packages,數量係 Oberon NVL72 嘅兩倍,仲要用全銅 NVLink 做到大規模 GPU-to-GPU all-to-all。以前可以靠一大堆線束,Kyber 就想大部分連線都收落一塊 rigid midplane 入面。Tom's Hardware 引述行業分析指,呢塊板近乎一平方米,由三段 26-layer 疊成 78-layer,trace spacing 去到 25μm 或以下,impedance 要守住 5% tolerance,先頂得住 448Gb/s 級訊號;用線代替嘅話,可能要兩萬條以上 cable。

Nvidia 官方 NVL576 多 rack 架構圖,八個 MGX NVL racks 連成大型 NVLink domain

圖片:Nvidia

Nvidia 賣到而家,其實係整套 rack

Nvidia 官方講 Vera Rubin 時,好重視 extreme co-design:GPU、CPU、NVLink、供電、液冷同軟件一齊設計,NVLink 6 官方數字係每 GPU 3.6TB/s,NVL72 可以畀 72 個 GPUs 喺同一個 all-to-all fabric 入面行。Kyber NVL144 就係再推高密度,官方資料亦講佢會先以 standalone NVL144 形式出現,後面接 NVL1152 Feynman 設計。問題係,Nvidia 管得越深入,rack 入面越多嘢都變成專用件:PCB、connector、冷板、電力、組裝良率,任何一樣出事都會拖慢整個 rack。

Nvidia Vera Rubin NVL72 compute tray 官方圖,顯示液冷 chassis、NVLink spine 同網絡模組

圖片:Nvidia

點解會影響 AI 服務成本

呢件事對一般用家唔會即日見到價錢變,但會影響雲端 GPU 供應節奏。大模型訓練同長 context 推理,最怕 GPU 等資料;scale-up domain 大,GPU 之間傾偈快,利用率先上得去。若果 2027 Rubin Ultra 最大可量產 domain 只停喺 Oberon NVL72 水平,雲端商要加多啲 racks 去追同一批算力,機房空間、供電、液冷、cluster scheduling 同維護都會貴啲。最後成本未必即刻反映喺每個 AI coding tool 月費,但高階 GPU 租用同企業 AI workflow 嘅議價,會一路受供應緊張影響。

競爭者有空位,但唔好講到 Nvidia 已輸

SemiAnalysis 認為,CPO NVSwitch 要到 Feynman 世代先成熟,呢段空窗會畀 AMD MI500X 或 Google TPUv8i Broadfly 呢類方案爭取 scale-up 優勢。講真,Nvidia 2026 Rubin、Oberon NVL72 路線唔喺今次據報延遲範圍,雲端客戶亦未必有膽成批轉走。較合理嘅睇法係:Nvidia 仍然有最強 AI rack 生態,但佢嘅升級節奏開始俾 rack 工程本身掣肘,唔可以淨係用 GPU roadmap 去估供應。

下一步睇咩

之後要睇 Nvidia 會點交代 Kyber NVL144、NVL576 同 CPO 時間表,仲有 OEM 同雲端商有冇跟住改採購節奏。SemiAnalysis 呢次講嘅延遲未獲 Nvidia 公開確認,技術細節亦可能到量產時再改;但呢單傳聞已經提醒得好清楚:AI 算力供應唔只卡喺 GPU 晶片,rack 入面一塊製造難度極高嘅板,已經可能拖慢 2027 至 2028 嘅雲端 GPU 供應節奏。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook