#私有化 LLM

ZML/LLMD 免費出招：自架 AI 模型想平啲，先要甩開 GPU 鎖定

法國 AI startup ZML 推出免費 LLMD，想用同一個 inference server 跑 NVIDIA、AMD、TPU、Intel 同 Apple Metal。對用開自架 LLM 嘅 team，吸引位係減少 CUDA 綁定；但性能同收費都未清楚，暫時只啱測試。