TAG
#統一記憶體
2 篇文章
TechLab 所有關於「統一記憶體」嘅文章、評測同教學,由最新排起。
3C 產品ROG Flow Z13 跑本地 120B 模型:Lemonade 設定、速度同代價
XDA 作者用 128GB ROG Flow Z13 配 Lemonade,將簡單問答、寫作、程式碼同重型推理分流畀唔同本地模型。120B 模型速度相當搶眼,不過呢套玩法好睇 GPU 記憶體、backend 同 context 設定,亦未證明離電後可以撐幾耐。
1 個月前
Tech NewsAMD Gorgon Halo 塞入 192GB RAM,本機跑 300B 模型有幾實際?
AMD 用 Gorgon Halo 將統一記憶體推高至 192GB,瞄準本機大型模型、coding agent 同企業自動化。不過 300B 只代表經 4-bit 量化後有機會載入,實際速度、長 context、ROCm 支援同供應情況,全部仍有數要計。
2 個月前