輝達 NVL576 把 GPU 互連推向跨機櫃運算域
輝達在 OCP 2026 披露 Vera Rubin Ultra NVL576 架構：計劃以共同封裝光學（CPO）和 NVLink 7，把 576 顆 Rubin Ultra GPU 接成一個單一運算域。對訓練及推論超大型 AI 模型的營運者而言，這代表擴展算力的焦點正由單顆 GPU，延伸至整個跨機櫃系統能否像一個更大的加速器般協同運作。
不過，這並非已普遍商用的固定規格。TechNews 科技新報 報道指出，NVL576 的效能、記憶體與推出安排目前仍屬技術路線圖目標，最終產品可以調整；廠商所述的效能及每瓦表現亦應視為目標，不能直接當成實際部署結果。
從 72 顆到 576 顆，瓶頸落在互連
NVL576 與單一機櫃內 72 顆 GPU 的 NVL72，關鍵差異在於規模和連接方式。前者要跨越多個機櫃，將 GPU 納入同一運算域；單靠把更多運算卡堆疊在一起並不足夠，GPU 之間的資料交換若跟不上，模型訓練和推論便難以把整體硬件資源有效利用。
CPO 在這裏的角色，是把光學互連帶到 NVLink 連線延伸之中。TechNews 科技新報 報道提到，NVLink 7 CPO Switch Tray 會以光學方式擴大 NVLink 的連接範圍。按這個架構推論，光學互連的價值在於支援跨機櫃的高速連接，令更大數目的 GPU 有機會以較緊密的方式協作，而非各自成為分散的運算島。
效能目標背後，是整個機櫃的工程題目
TechNews 科技新報 指出，輝達先前公布的目標包括 15 exaflops FP4 推論效能、5 exaflops FP8 訓練效能、最高 365TB HBM，以及 4.6PB/s 總記憶體頻寬。這些數字描述的是整個 NVL576 平台，並反映大型模型的挑戰已不只是算力，也包括 GPU 之間搬運資料和存取龐大模型資料的能力。
系統設計同時更依賴液冷。Compute Tray 據報整合兩顆 Rubin Ultra GPU 與一顆 Vera CPU，並採用全液冷；輝達亦表示架構遵循 OCP 標準，採用模組化、可快速插拔的設計。這些安排有助處理高密度硬件的安裝與維護，但是否能縮短現場部署時間，仍取決於實際系統整合、液冷設施及資料中心環境。
接下來值得觀察的，是輝達何時公布最終商用規格，以及 CPO、NVLink 7、液冷與機櫃模組化能否一同落地。NVL576 的意義並非單純把 GPU 數目拉高，而是測試 AI 基礎設施能否把跨機櫃互連變成可部署的整體能力。
延伸閱讀
AI 輔助說明： 本文由 AI 協助整理，並經兩輪獨立自動品質審核；資料及連結仍以原始來源為準。
參考來源
- TechNews 科技新報 — 576 顆 GPU 合體成一顆巨型 GPU，輝達揭露 Rubin Ultra NVL576 架構 — original report
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
