GPU 跑得再快都要等數據：下一場 AI 硬件戰點解轉向光纖互連

AI 硬件過去幾年鬥 FLOPS、HBM 同製程，玩法算直接。不過當一個工作要幾十至幾百粒 GPU 同步處理，單粒晶片快幾多已經解決唔晒問題：GPU 要不停交換參數同中間結果，連線一塞，昂貴硬件就只能夠等。下一輪系統效能增長，好大部分會取決於數據搬得幾快、幾遠，同埋要用幾多電。

Scale-up 同 scale-out 差喺邊

Scale-up 係 server、機櫃或者一組機櫃入面嘅高速連線，目標係令多粒加速器協作得似一部大機，延遲同頻寬要求極高；scale-out 就係再接駁多組機櫃，砌成大型叢集。NVIDIA 用 NVLink、NVSwitch 做前者，再用 InfiniBand 或 Spectrum-X Ethernet 向外擴充。npj Nanophotonics 嘅研究指出，傳統銅線距離限制令一個 scale-up 群組通常停喺 72 至 144 粒加速器左右，想再擴大就要重新處理連線架構。

圖片：NVIDIA

銅線撞牆，問題唔止係條線夠唔夠長

高速電訊號喺 PCB、接頭同銅線行得越遠，損耗越大，系統要加 retimer、DSP 同散熱先保住訊號。速率一路升，實用距離反而縮短，所以銅線仍然適合晶片封裝同短距離連接，跨板、跨機櫃就愈來愈吃力。光纖嘅長處係距離增加時損耗細得多，又可以用多個波長共用一條纖芯；代價係要加入雷射、調制器、光電轉換同精密封裝，製造難度亦跟住升。

圖片：NVIDIA

CPO 係將轉換位逐步推近晶片

而家常見嘅 pluggable optics 會先畀電訊號行到交換器面板，再喺光學模組轉做光；near-package optics 就將光學引擎放近 ASIC；co-packaged optics（CPO）再進一步，直接把光學引擎放喺交換器或加速器封裝旁邊。電訊號路徑縮短，可以減少損耗同耗電。不過光學元件、光纖接頭或者雷射一旦出事，維修彈性通常差過可直接拔走嘅模組，散熱、良率同供應鏈亦會左右實際成本。

廠商數字幾吸引，但要睇清楚口徑

NVIDIA 官方以 Spectrum-X Photonics 為例，話每個介面耗電可由常見 pluggable 架構嘅約 30W 降到最低 9W，官方又話電力效率提升 3.5 倍、可靠度提高 10 倍。呢啲都係廠商按自家設計得出嘅數字，未有足夠獨立部署數據驗證。Lightmatter 亦預告 6.4Tbps 雙向 Passage L20 會喺 2026 年尾開始送樣；值得留意係 L20 屬 near-package／on-board 方案，反映業界會先用較易整合嘅中間路線試水溫，再逐步走向完整 CPO。

開放標準會影響邊個收錢

AMD、Broadcom、Meta、Microsoft、NVIDIA 同 OpenAI 已經成立 Optical Compute Interconnect MSA，首份規格用四個波長提供每方向 200Gbps，亦涵蓋板上、封裝旁同 interposer 整合方式。技術規格固然重要，背後仲有採購權：雲端公司如果可以喺相同光學介面揀唔同供應商，就較難俾單一 GPU 廠商綁死成套網絡。NVIDIA 自己都加入 OCI，說明光纖實體層有機會開放，但上層協定、交換器軟件同系統調校仍會繼續競爭。

慳到嘅電，多數會變成更多運算

原文受訪學者估計網絡佔數據中心耗電約兩成；npj Nanophotonics 論文就寫接近整體運算耗電一成，兩個數字明顯受系統邊界同叢集架構影響。方向仍然一致：數據搬運已經係不可忽視嘅電力開支。光學互連慳返嚟嘅電，營運商大概會用嚟塞入更多 GPU，而唔係降低總耗電；好處會反映喺叢集使用率、模型回應速度同每個 token 成本。企業租用雲端 AI 時，最後感受到嘅亦會係服務價錢同速度，而唔係機房入面換咗咩線。

Mesh Optical 交易只證明搶位開始

美國 FTC 文件顯示，Elon Musk 收購 Mesh Optical Technologies 嘅申報喺 2026 年 6 月 25 日獲提前終止等候期。呢份文件代表交易毋須等足法定審查期，未能單獨證明收購已經完成，亦冇交代價錢同 SpaceX、TeraFab 點用相關技術。不過連自建 AI 基建嘅大買家都開始追逐光學公司，已足以顯示互連供應鏈升溫。接落嚟要睇 2026 至 2028 年嘅送樣、量產良率同現場維修數據，先判斷 CPO 幾時可以由展示品變成大規模部署。

參考來源

• Tom's Hardware — Inside optical and the battle for scale – how the AI industry is racing to integrate photonic interconnects — original report
• Scaling AI Factories with Co-Packaged Optics for Better Power Efficiency — 核對 Spectrum-X Photonics 架構、時間表，同 NVIDIA 公布嘅耗電及可靠度數字。
• Industry insight: photonics to scale AI data centers — 獨立研究背景，用嚟核對銅線距離、scale-up 規模、網絡耗電同光學技術成熟度。
• Lightmatter Expands Photonic Interconnect Roadmap with Passage L20 — 核對 Passage L20 規格、定位同預計送樣時間。
• 200G Optical Compute Interconnect Line Interface Specification v1.0 — OCI MSA 第一手技術規格，確認波長配置、雙向光纖同支援嘅整合方式。
• 20261601: Elon Musk; Mesh Optical Technologies Corporation — 確認交易雙方、日期同 FTC 文件所列嘅 granted 狀態，避免把提前終止等候期寫成交易完成。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。