A100 用到 2029 仲有人租:舊 GPU 點解未到退役時候
3C 產品

A100 用到 2029 仲有人租:舊 GPU 點解未到退役時候

圖片:via Tom's Hardware — https://www.tomshardware.com/tech-industry/coreweave-ceo-mike-intrator-says-it-has-signed-an-a100-contract-running-into-2029
TechLab 編輯部(譯)·

CoreWeave 新合約反映電力、散熱同用途點樣延長舊卡壽命

CoreWeave 話最近簽咗一份 A100 算力合約,年期去到 2029 年。A100 早喺 2020 年推出,屆時已經係九年前嘅架構。照消費級顯示卡嗰套諗法,幾代前硬件理應一早退役;不過數據中心計嘅數唔同,客戶買緊嘅係指定工作量、可用容量同交付時間,晶片新舊只係成本表入面其中一格。

合約去到 2029,證明到幾多?

CoreWeave CEO Michael Intrator 喺第二季業績會形容,呢份 A100 合約價格「吸引」,又話較舊一代 GPU 嘅定價維持喺幾年前水平或以上。公司首季亦話,短期內可供應嘅 A100、H100 同 H200 容量大致租清;由此睇,A100 暫時確實仲有商業需求。**不過合約年期唔等於 GPU 會一路滿載,仲睇唔到租金、GPU 數量、電費分攤、維修成本同解約條款。**公開資料足以證明有人肯簽,未足以獨立計出呢批卡每年賺幾多。

CoreWeave 第二季收入係 25.75 億美元,按年升約 112%,但季度營運虧損仍有 4,900 萬美元,計埋龐大利息開支後,淨虧損達 6.26 億美元。即使某批舊 GPU 有正現金回報,都唔應直接推成全公司已經賺錢。公司披露嘅約 1,040 億美元 revenue backlog 同樣係預計未來收入,仲要等容量交付同服務可用條件達成,唔係已收現金,更唔係保證盈利。

Nvidia A100 80GB 數據中心 GPU 官方產品圖

圖片:Nvidia

舊機房決定咗邊張卡擺得入去

A100 仲租得出,供電同散熱係好實際嘅原因。Nvidia 官方規格顯示,一部配八張 A100 嘅 DGX A100 最高功耗係 6.5kW,用傳統風冷。GB200 NVL72 就係完整機架方案,功耗約 120kW,仲要直接液冷。兩個數字唔可以當成單機對單機硬除——前者係 6U server,後者係成個 rack——但已經清楚反映新平台嘅功率密度跳得有幾急。

舊數據中心本身有固定入電容量、配電線路、後備電力同冷氣系統。想塞入 NVL72,可能要換配電、加液冷管道、冷卻分配裝置,甚至重整成個機房;施工期間少咗可出租容量,亦係成本。若果嗰個 hall 已經穩定行緊 A100,而客戶又有推理、微調、科學運算或者較細模型啱用,繼續出租通常合理過停機等改建。新卡每瓦做到更多工作,亦唔代表每個場地都有條件即刻裝。

Nvidia GB200 NVL72 液冷機架設計

圖片:Nvidia

快卡有快卡做,舊卡亦有啱做嘅工作

訓練最前沿大型模型,好自然會追 Blackwell、Rubin 呢類新平台,因為大模型跨 GPU 通訊、VRAM 容量同每瓦效能都直接影響完成時間。不過雲端需求唔只得呢一類。批量推理、已成熟模型、開發測試、較細規模微調同部分 HPC 工作,未必值得畀最高級硬件嘅價錢;A100 仲有 CUDA 生態、MIG 分割能力同成熟部署工具,搬工作量過去亦較少麻煩。

呢點對 AI 雲端價格有個幾現實嘅影響:舊 GPU 理論上可以做平價層,企業唔使每項工作都租最新卡。不過 CoreWeave 話舊一代價格企得穩,反映而家受限制嘅可能係可即用電力同機房容量。當供應緊張,硬件折舊帶嚟嘅成本下降未必全數回到租戶手上。企業揀雲端 GPU 時,要用自己模型嘅每項工作總成本、排隊時間同遷移成本去比,淨係睇每 GPU 小時價錢會失真。

折舊年期爭議未有一張合約就完場

Nvidia CFO Colette Kress 曾話,六年前出貨嘅 A100 仍然全數投入使用,軟件更新亦延長咗平台壽命。CoreWeave 呢份 2029 合約,確實為「GPU 三幾年就冇經濟價值」呢種講法加咗反例。但會計折舊問緊嘅係成批資產平均有幾耐可產生收入、殘值有幾多,同技術上仲開唔開得着係兩回事;維修、電力效率、租金下跌同客戶集中風險都要計。

所以,A100 去到 2029 年仲有客,合理解讀係部分舊 GPU 可以有接近十年嘅商業壽命。至於租金會唔會一路企穩、合約續期後仲有幾高利用率,同 CoreWeave 最終可唔可以將收入變成扣除利息後嘅盈利,就要等往後財報披露更多營運數字先睇得清。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook