
AMD第6代EPYC SP7登場:AI機櫃仍需要高核心數CPU
AMD 已推出首批第6代 EPYC 伺服器處理器,代號 Venice 的 SP7 平台採用 Zen 6 架構,最高提供 256 核心、512 執行緒。iThome 報道指出,這代產品瞄準的並非單純以 CPU 取代 GPU,而是把 CPU 放在 AI 資料中心的協調位置:處理資料流、支援加速器,以及承載企業既有服務。
對部署大型模型或 Agentic AI 的企業而言,這代表選購 server 時,CPU 的核心密度、RAM 頻寬和擴充能力仍會直接影響整套系統的吞吐量。AMD 同時公布多項與競爭平台的效能比較,但有關倍數屬 AMD 自家測試結果,應按實際工作負載、server 配置及功耗限制再作核實。
GPU 很快,資料供應與控制仍靠 CPU
AI 運算的瓶頸未必只在模型推論。當流程包含 Agent 執行、模型呼叫、資料檢索、程式執行,以及連接資料庫和企業系統時,GPU 負責的加速工作之外,仍有大量排程、資料整理、I/O 與服務運行工作要由 CPU 處理。
iThome 指出,AMD 將未來資料中心的 CPU 分成三類角色:運行 AI Agent 的 sandbox、支援 GPU 叢集的 AI Host Node,以及一般企業服務。這個劃分的實際意義是,企業未必應以一款高規格 CPU 套用於所有節點;高時脈、核心密度、RAM 容量與能源效率的取捨,應隨節點職責而變。
SP7 支援 DDR5、MRDIMM、PCIe Gen 6 與 CXL 3.1。從部署角度看,這些規格的價值在於加快 CPU、GPU、儲存裝置及其他加速器之間的資料傳送,並為較高頻寬或較彈性的記憶體配置預留空間。不過,能否帶來明顯效益,仍取決於整機平台、加速器、軟件堆疊和實際資料存取模式,並非只換上新 CPU 便會自動改善。
256 核心適合甚麼場景
AMD 為 SP7 提供面向不同任務的配置,從高頻率 Host Node 到高密度設計。後者的用途是讓單顆 CPU 在既定功耗下承載更多 Agent sandbox;前者則偏向配合 GPU 節點處理即時資料和控制工作。這反映 AI 基礎設施的採購重點,正由單看 CPU 跑分,轉向評估每個機櫃可支援多少工作、多少加速器,以及整體的供電和散熱條件。
AMD 亦宣稱,搭載 EPYC 9996 的系統在通用 server 運算上,較 Nvidia Vera CPU 平台高 3.7 倍、較 Intel Xeon 6980P 平台最高高 2.2 倍;在 Agent sandbox 的每 CPU 瓦數可支援 Agent 數目上,較前兩者分別最高多約 3.3 倍及 2.5 倍。這些數字可作產品定位的參考,但 iThome 所載資料未交代完整測試環境與工作負載細節,不能直接視為所有企業應用的預期結果。
平台策略比單一型號更關鍵
SP7 是 Venice 系列首個推出的平台。iThome 報道亦提到,AMD 已規劃 SP8、具較大快取與頻寬取向的 EPYC 9006X SP7,以及整合 LPDDR、針對加速器密集型 AI 機櫃的 EPYC 9006 LP(Verano)。其中,SP8 主要面向企業關鍵工作負載、邊緣運算和受功耗或空間約束的小型叢集,資料顯示其提供 8 至 128 核心的選擇。
因此,企業下一步要看的不只是 SP7 的 256 核心上限,而是雲端供應商與 server 廠商何時提供哪些平台組合、記憶體和互連配置,以及它們在自家 Agent、GPU 叢集和傳統服務上的實測表現。iThome 報道稱,搭載新處理器的平台已開始出貨,Azure 與 Oracle Cloud Infrastructure 亦計劃導入;具體服務推出時間和可用範圍,仍須以兩家雲端商的正式公告為準。
延伸閱讀
AI 輔助說明: 本文由 AI 協助整理。
參考來源
- iThome — AMD正式推出第6代EPYC伺服器處理器,首波上市產品為SP7平台,主打AI資料中心與企業運算市場 — original report
本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。







