M2 Ultra 頂唔住新 Siri:Apple 傳物色 AI 晶片公司補 server 缺口
Tech News

M2 Ultra 頂唔住新 Siri:Apple 傳物色 AI 晶片公司補 server 缺口

圖片:via Engadget — https://www.engadget.com/2215912/apple-is-reportedly-shopping-for-ai-chip-companies/
TechLab 編輯部(譯)·

自家晶片未追得上大型模型,Apple 暫時要借 Google 同 NVIDIA 算力

Apple 做手機同 Mac 晶片已經好熟手,但一去到數據中心跑大型 AI 模型,另一套難題就浮晒出嚟。The Information 引述知情人士話,Apple 接觸過晶片初創,亦同銀行傾過潛在交易;Reuters 未能獨立核實,Apple 暫時亦冇回應。而家只可以確認 Apple 正四圍物色機會,未知對象、作價同時間,距離真正收購仲有好大段路。

M2 Ultra 啱 Mac,未必啱大型 AI server

Apple 現有 Private Cloud Compute 節點用自家 Apple silicon,報道就指當中包括 M2 Ultra。呢粒晶片放喺 Mac Studio 屬於高階貨,但數據中心跑大型模型,考驗嘅唔止單粒晶片有幾快,仲有記憶體容量同頻寬、多晶片互連、模型點樣分拆,同埋整套推理軟件能否同大量硬件一齊擴充。

報道話,Apple 曾經嘗試喺自家 server 跑支援新版 Siri 嘅 Gemini 模型,但現有基建應付唔到,部分較重嘅工作最終要交畀 Google Cloud 入面嘅 NVIDIA GPU。呢個結果唔代表 M2 Ultra「跑唔到 AI」,而係**本來為個人電腦而設嘅晶片,擺到大型模型服務入面,效能、記憶體容量同擴充方式都未必配合到實際工作量。**Apple 喺終端裝置追求慳電同統一記憶體,到數據中心就要處理成千上萬個同步請求,設計優先次序差得好遠。

Apple 官方已經行咗混合路線

Apple 2024 年公布 Private Cloud Compute 時,成套私隱承諾建基於特製 Apple silicon、Secure Enclave、Secure Boot 同可供研究員查驗嘅軟件。用戶資料只會喺受驗證節點處理,完成請求後唔保留,連 Apple 員工都冇特權介面可以直接讀取。

去到 2026 年 6 月,Apple 已經公開話會同 Google、NVIDIA 合作,將 PCC 擴展到 Google Cloud。最食算力嘅 agent 操作同複雜推理會用 NVIDIA GPU、Intel TDX 同 Google Titan,但裝置仍然只信任經 Apple 加密批准嘅 PCC 軟件。換句話講,借外部算力本身唔等於放棄私隱架構,只係 Apple 要同更多硬件同雲端伙伴一齊守住原有保證,系統複雜咗好多。

買公司主要係搶時間同完整團隊

Apple 據報原定今年推出代號 Baltra 嘅新一代 AI server 晶片,但時間表已經押後;Engadget 引述 Bloomberg 指,Apple 短期會先用 M5 Ultra 升級基建,而可能用於 server 嘅 M7 Ultra 要到 2029 年先準備好。以上都屬傳媒消息,Apple未有正式確認相關路線圖。

AI accelerator 唔係畫好晶片核心就完成,仲要有高速互連、編譯器、模型執行環境同數據中心部署經驗。自行由頭建立團隊要幾年,收購就有機會一次過攞到人才、IP 同現成軟件。Apple 2008 年收購 P.A. Semi,後來逐步建立今日 Apple silicon 團隊,正好說明小型晶片公司嘅價值往往喺班工程師同技術底子,未必係買返嚟即刻有成品裝入 server。

Siri 推出幾快,最後都要睇算力

對一般 Apple 用戶,影響會反映喺新版 Siri 同 Apple Intelligence 有幾多功能可以開放、回應要等幾耐,同埋各地支援時間。自家 server 算力追唔上,Apple可以繼續租用 Google Cloud 同 NVIDIA 硬件,但成本、供應同擴充速度會多幾層制約;等自家晶片成熟,功能節奏又可能再拖慢。

Apple 而家嘅做法幾務實:先借外部 GPU 推服務,再研究收購補強自家 server 晶片。下一步要睇潛在交易有冇成事、Baltra 會押後到幾時,同 PCC 喺 Google Cloud 經過夏季預覽後,幾時可以穩定擴大服務規模。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook