AMD Lemonade 支援 Nvidia 後，本機 AI setup 可以少啲綁 GPU
同一個本機 API 跑 AMD、Nvidia 同 mini PC
Lemonade 今次值得睇嘅位
XDA 作者 Joe Rice-Jones 今次寫嘅係自己 homelab 嘅麻煩：一邊有 Radeon RX 7900 XTX，一邊有 Nvidia 旗艦卡、DGX Spark 同 mini PC，每邊硬件都要食唔同 inference stack。CUDA、ROCm、Vulkan 分開打理，對玩 local LLM 嘅人嚟講，第一次安裝未算最煩；半年後 update 完又爆多次，仲消磨時間。Lemonade 加咗 Nvidia 支援，重點係想收埋呢堆底層差異，放喺同一個本機 server 後面。
圖片：Lemonade SDK
官方支援講到邊
先釘實範圍：Lemonade v10.7.0 release notes 喺 2026 年 6 月 10 日寫明，llama.cpp CUDA 支援加到 Windows 同 Linux；到 2026 年 6 月 17 日 v10.8.0，release notes 再寫明加入 NVIDIA GB10 arm64 支援，對 XDA 作者嗰部 DGX Spark 好關鍵。官方 backend 文件又寫，Nvidia GPU 要 Turing 或更新先建議試 CUDA，出事就 fallback 去 Vulkan。
README 嘅支援表再拆清楚：text generation 嘅 llamacpp:cuda 係 Windows、Linux；stable-diffusion.cpp 嘅 CUDA 只列 Linux。模型格式方面，README 寫 Lemonade 支援 GGUF、FLM、ONNX，亦可以由 Hugging Face import 自訂 GGUF/ONNX。換句話講，今次唔應該讀成「所有本機 AI 任務喺所有 Nvidia 機都一樣得」。
點解會有用
如果你係 freelance developer、細公司 IT、內容團隊，或者學生 project，要用本機 LLM 處理 repo、合約草稿、客戶文件，最大痛點通常係資料唔想上雲，但又冇一間公司會齊齊用同一款 GPU。Lemonade 嘅賣點係 OpenAI、Anthropic、Ollama 相容 API：app 望住同一個 localhost endpoint，底下有 Radeon 就走 ROCm/Vulkan，有 Nvidia 就走 CUDA/Vulkan，有 Intel iGPU 就試 Vulkan。你主要搬 app 設定同模型清單，少咗成套環境由頭砌過嗰份功夫。
同 Ollama、LM Studio 點分
Ollama 依然係最易推人入坑嗰類工具，官方文件而家都列明 Nvidia、AMD ROCm、Metal 同 Vulkan 支援；LM Studio 強項係桌面 GUI 同本機 API server，官方文件寫明可以喺 localhost 或內網提供 OpenAI / Anthropic 相容 endpoint。Lemonade 嘅位置亦唔使講到取代晒佢哋；佢比較似一個跨硬件控制層：你想叫 Claude Code、Open WebUI、AnythingLLM、OpenHands 呢類工具固定接同一個 local endpoint，Lemonade 呢種 server-first 思路會自然啲。
快未必係第一優先
追純速度，Nvidia 自己條路仍然好清楚。NIM 主打用預先調好嘅 microservices，自家文件寫到會用 TensorRT、TensorRT-LLM、vLLM、SGLang 呢啲 engine 去壓 latency 同 throughput；TensorRT-LLM 本身亦係為 Nvidia GPU 做高效 inference。呢類方案啱 server、公司內部平台、固定 GPU fleet。Lemonade 呢次吸引嘅位，係接受 peak throughput 未必最高，換嚟少啲 driver、backend、API 轉嚟轉去嘅維護成本。
但咪當 AMD PR 咁睇
不過要收住睇。Lemonade repo 寫明項目由 community 維護、AMD 贊助，AMD 工程師亦有份優化；呢個背景解釋到點解 AMD 會推跨平台，但唔代表每個 backend 都同等成熟。XDA 係作者個人 setup 經驗，唔係全面 benchmark；佢講 Qwen3 Coder、DGX Spark、Strix Halo NPU 等用法，只可以當成佢嗰套機嘅實際感受。官方支援表亦有好多細字：NPU 主要綁 XDNA2，部分 Linux NPU 走 FastFlowLM，ROCm 要睇 GPU family，Windows CUDA 仲要 Windows 11 22H2+ 先處理到相關 backend asset。
你手上嗰張舊卡、二手礦卡、迷你機 iGPU，最後都要用 lemonade backends 睇返自己部機認到咩。呢類工具最怕 marketing 寫到「跨平台」三個字，實際就一堆例外；今次 Lemonade 真係有向跨平台行近，但仍然要逐個 backend、逐個模型格式睇。
對細 team 嘅實際意思
實際講返開發者同細 team，呢件事最有價值嘅場景係「先用手上硬件做起」。公司有部 RTX workstation、有人屋企有 Radeon、又有幾部 mini PC 放文件索引，本機 AI 唔使一開波就揀死某個 GPU 生態。私隱資料留喺自己機、API 介面盡量固定，之後邊部機夠 VRAM、邊部機電費抵、邊部機方便長開，就按任務搬。Lemonade 仲未去到乜都包辦，但佢令 local LLM setup 少咗一個好煩嘅前設：買咩 GPU 先決定你可以用咩工具。
參考來源
- XDA Developers — I switched my local AI setup to AMD's Lemonade after Nvidia support landed, and solved my local AI portability problem — original report
- Lemonade GitHub README — 官方 repo，確認 Lemonade 定位、API 相容、模型格式、支援平台同 backend 表。
- Lemonade v10.7.0 Release Notes — 官方 release notes，確認 v10.7.0 加入 llama.cpp CUDA for Windows/Linux。
- Lemonade v10.8.0 Release Notes — 官方 release notes，確認 v10.8.0 加入 NVIDIA GB10 arm64 支援。
- Lemonade llama.cpp Backend Options — 官方 backend 文件，確認 Nvidia Turing 或更新走 CUDA、出事 fallback Vulkan，同 Windows 11 22H2+ 限制。
- Ollama Hardware Support — 對照 Ollama 嘅 Nvidia、AMD ROCm、Metal、Vulkan GPU 支援。
- LM Studio Local LLM API Server — 對照 LM Studio 本機 API server、localhost / 內網、OpenAI / Anthropic 相容 endpoint。
- NVIDIA NIM for Developers — 對照 Nvidia NIM 嘅自家 optimized inference microservices 同 TensorRT-LLM/vLLM engine 定位。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
