AMD 192GB Gorgon Halo 搬 AI agent 上桌面，300B 跑得到未必跑得順
大 RAM 解決容量，速度、軟件相容同成本仲要逐樣計
今次升級由 192GB 帶動
AMD 喺 Advancing AI 2026 再推代號 Gorgon Halo 嘅 Ryzen AI Max PRO 400 系列，最高配 Ryzen AI Max+ PRO 495 有 192GB unified memory，當中最多 160GB 可以分畀 GPU。硬件核心其實早喺五月公布，今次較值得睇係 AMD 點樣把佢包成一部桌面 agent computer：本機開發、長時間推論，再配 Hugging Face 模型同 Cisco 管理工具，想食埋個人工作站同小型企業 AI server 呢兩邊市場。
圖片：Cisco
300B 係容量指標，未有速度答案
AMD 官方腳註寫明，所謂運行 300B 以上模型，前提係用 4-bit quantization。單計 300B 權重已經大約佔 150GB，擺入 160GB GPU 記憶體之後，留畀 KV cache、長 context 同運行環境嘅空間相當緊。更重要係，AMD 暫時冇公布呢個 300B 情境嘅 tokens/s、首個 token 等候時間、同時可以跑幾多個 agent 或者輸出品質。模型載入到記憶體，只證明部機容得落；互動時使唔使等到忟，仲要睇記憶體頻寬、量化方法同推論引擎。
邊類開發者真係食得盡
Gorgon Halo 較啱長時間重複跑 coding agent、文件分類、內部搜尋、內容整理、影像生成，或者同時開幾個較細模型分工嘅團隊。呢類工作每日食大量 token，資料又可能涉及客戶合約、未公開程式碼同商業文件，本機推論確實有價值。相反，只係間中問幾條問題、追求最新雲端模型能力，或者工作本身高度依賴網上服務，買一部 192GB 工作站未必划算；雲端 API 仍然省事，亦唔使自己照顧模型同軟件環境。
冇 token 帳單，成本同私隱都唔會自動消失
AMD 把本機推論形容成冇 token 費，呢個講法只計 API 帳單。公司仲要計機價、電費、折舊、備份、模型更新同維護人手，低使用量甚至可能貴過按量收費。私隱亦要睇成條 agent workflow：模型可以喺本機跑，但 agent 一樣可能連電郵、瀏覽器、MCP server 同第三方 API。權限設得太鬆、裝咗有問題嘅 skill，資料照樣可以流出去。處理敏感資料嘅團隊，要連對外連線、憑證同工具權限一齊管。
ROCm 仍然係落手做之前最大問號
AMD 話 Halo 支援 Windows、Linux、PyTorch、vLLM、llama.cpp、Ollama、ComfyUI 同 LM Studio，不過公開 ROCm 文件顯示，現有 Ryzen APU 喺 Windows 暫時只完整支援 PyTorch 路線，冇 ML training、只支援 batch size 1，部分 distributed 功能亦未開放；文件仲列出舊款 Max+ 395 跑部分 LLM 可能低過預期表現。Gorgon Halo 正式出貨時，day-one 支援有幾完整，現階段仍然 [待確認]。想由桌面原型搬去 Instinct server，團隊仍要逐個 framework、算子同模型格式驗證。
Hugging Face 同 Cisco 配套要等細節
TechNews 科技新報報道，AMD 會為 Halo 提供 Hugging Face 原生支援，每部出貨裝置附送一年 Hugging Face Pro；兌換地區、合資格型號同條款暫時 [待確認]。Cisco 公開資料就確認 DefenseClaw 可以掃描 skill、MCP server 同程式碼，運行期間亦可按規則封鎖工具及隔離檔案，用嚟管理多個 agent，方向算係啱。不過今次所講嘅 AMD、Cisco Cloud Control 同 token 成本儀表板點樣串接、點收費、支援邊類部署，暫時未見完整公開技術文件。
生產力倍數先當會場說法
TechNews 科技新報報道，AMD 喺會上提出單一 agent 可帶來兩倍生產力，多 agent 協作甚至高達一百倍，但未見任務定義、基準組別、成功率或者人手覆核成本，暫時唔適合當成 benchmark。AMD 五月資料只確認 Ryzen AI Max PRO 400 系統會喺第三季由 HP、Lenovo 等廠商推出；香港型號、售價、保養同確實開賣日全部 [待確認]。有敏感資料兼每日大量跑模型嘅開發團隊，可以等實機 tokens/s、ROCm 支援表同港價齊全再計數。
參考來源
- TechNews 科技新報 — 養龍蝦風潮崛起，AMD Advancing AI 大會發布 Gorgon Halo 全新地端 AI 硬體架構 — original report
- AMD：Ryzen AI Halo 同 Ryzen AI Max PRO 400 公布資料 — 確認 192GB unified memory、160GB GPU 記憶體、300B 模型須用 4-bit 量化、合作廠商同第三季供應安排。
- AMD Ryzen AI Max+ PRO 495 產品規格 — 確認 Gorgon Halo 代號、CPU、GPU、記憶體、功耗範圍同作業系統規格。
- AMD Ryzen AI Halo 開發平台產品頁 — 提供開發工具、ROCm、Windows／Linux、模型規模同官方成本模型背景。
- AMD ROCm：Ryzen 已知限制 — 確認 Windows 暫時只支援部分 ROCm 功能、冇 ML training、batch size 同現有 LLM 效能限制。
- Cisco：AI agent 保安同 DefenseClaw 公布資料 — 確認 DefenseClaw 嘅 skill、MCP、程式碼掃描、sandbox 同企業 agent 管理定位。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
