AMD MEXT 以 NVMe Flash 補位,降低 server 對 DRAM 的依賴
Tech News

AMD MEXT 以 NVMe Flash 補位,降低 server 對 DRAM 的依賴

圖片:AMD
TechLab 編輯部·

AMD 發表 MEXT 記憶體方案,嘗試讓 NVMe Flash 承接部分原本由 DRAM 持有的資料。依 TechNews 科技新報 報道,這套方案已可部署於具備足夠 CPU 核心與專用 NVMe 磁碟的 AMD EPYC server;受 DRAM 成本與供應壓力困擾的資料中心,尤其是執行 AI agent、EDA 與雲端分析工作的團隊,將是其瞄準的使用者。

不過,MEXT 的效益高度取決於工作負載是否能準確分辨「即將使用」與「長時間未用」的記憶體分頁。Flash 的存取速度遠慢於 DRAM,一旦預載失準,程式便可能要等待資料自儲存裝置調回記憶體。因此,AMD 所公布的效能與成本結果應視為廠商測試數據,現時未見獨立驗證。

用分層管理換取較低的 DRAM 配置

TechNews 科技新報 指出,MEXT 以 Linux 驅動程式、AI 引擎及 RAM View 監測工具組成。其核心做法是持續預測下一批可能被存取的頁面,先放入 DRAM;較少使用的冷資料則移往 NVMe Flash。系統藉此把速度最高、但昂貴的 DRAM 留給當前較急需的資料,並以較低成本的 Flash 擴大可用容量。

這不是把 Flash 當成與 DRAM 等速的替代品,而是以軟件在兩者之間安排資料位置。這個定位也說明其限制:資料存取模式穩定、可預測的工作較可能受益;若資料集頻繁跳躍、突然改變,或大量頁面同時變熱,Flash 與 DRAM 的速度差距便可能放大延遲。

三類工作負載的結果,反映適用範圍

根據 TechNews 科技新報 轉述的 AMD 測試,在 50% DRAM、50% MEXT Flash 配置下,Spark TPC-DS 雲端資料庫分析於 Azure 虛擬機器的三節點叢集,可達全 DRAM 基準的 99% 效能。EDA 工作負載在第 6 代 EPYC 平台將 DRAM 減半後,據稱仍保留 95% 原有效能;若減少 75% DRAM,則保留 80%。

AI agent 工作流的數字則以每美元效能呈現:AMD 指出,五個 agent 併發時,50/50 配置可帶來 90% 的每美元效能提升;採 25% DRAM、75% MEXT Flash 時,提升幅度為 3.4 至 3.5 倍。這些結果支持一個合理推論:當工作負載的容量需求很高、但不是所有資料都必須即時存取時,減少 DRAM 可能比一味加裝記憶體更具成本效益。

但不同程式對尾端延遲、資料局部性與併發存取的容忍度並不相同,不能把單一測試配置直接套用至所有 server。採用者仍須量度自身的延遲要求、NVMe 容量與 I/O 負載,並確認一顆 EPYC 核心執行預測引擎所帶來的資源成本是否可接受。

下一步看商業授權與實際部署

TechNews 科技新報 報道稱,MEXT 的下一階段將開放商業授權,並預載 RAM View 監測工具。AMD 估算,相對純 DRAM 方案,成本最高可節省 83%;但該數字以及在不同 DRAM 比例下的效能表現,仍需要更多實際部署與第三方測試佐證。

接下來值得觀察的是,雲端業者與需要大容量記憶體的 EDA、AI agent 團隊,能否在真實流量下維持可接受的延遲。若分頁預測與 NVMe I/O 能夠穩定配合,MEXT 或可成為緩解 DRAM 壓力的選項;反之,對延遲極敏感的工作,DRAM 仍會是較難取代的層級。

延伸閱讀

AI 輔助說明: 本文由 AI 協助整理。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook