Docker Model Runner 可唔可以取代 Ollama？轉唔轉要睇開發流程
功能睇落相近，兩套工具服務緊唔同嘅開發習慣
Docker Model Runner 而家已經做到 Ollama 大部分日常工作：下載同管理模型、開互動 chat、用 GPU 跑 inference，再經 API 接駁其他 app。XDA 作者用咗接近一星期，結論係功能夠齊，但未搵到搬走嘅理由。呢個判斷只係單一作者嘅短期體驗，不過方向幾合理：如果現有 local AI 工具已經跑得穩，新工具只係功能相近，多數用家都冇乜理由重新執過成套設定。
安裝都簡單，但前提差好遠
Ollama 嘅路線好直接，macOS、Windows 同 Linux 裝完就可以用 ollama run 拉模型開工。Docker Model Runner 喺已有 Docker 環境同樣順手：macOS 要 Docker Desktop 4.40 或以上，Windows 要 4.41 或以上，入 Settings 嘅 AI 頁面開啟功能就得，Linux 亦可以跟 Docker Engine 用。如果部機本身冇裝 Docker Desktop，為跑一個模型而長開成套 Docker，負擔自然大過 Ollama；本身日日用 Docker 嗰批人就幾乎冇額外門檻。
GGUF 路線相近，Safetensors 支援有分別
一般 laptop 跑量化模型，Docker Model Runner 預設都係用 llama.cpp 處理 GGUF，支援 CPU、Apple Silicon、NVIDIA、AMD 同 Vulkan 嘅程度會跟平台而變。呢條路同 Ollama 好接近，所以 XDA 指出，兩邊用同一個 GGUF、量化級別、context size 同硬件時，輸出同速度主要由模型及 backend 決定，外層工具影響細得多。原文冇提供可重現 benchmark，效能差距暫時唔應放大解讀。
Docker 多出嚟嘅彈性係 vLLM 同 Safetensors。高吞吐量部署可以用 vLLM，不過最穩陣嘅支援仍集中喺有 NVIDIA GPU 嘅 Linux x86_64 同 Windows WSL2；Docker 今年亦公布咗 Apple Silicon 嘅 vllm-metal，用 MLX 模型行 Metal。即係支援範圍一直變緊，未到「任何 Safetensors 喺任何機都照跑」咁簡單。Ollama 自己亦已加入 Apple Silicon MLX 路線，所以 Mac 用家唔可以再假設兩邊永遠行同一套 backend。
API 相容，搬 app 通常只係改地址
Docker Model Runner 提供 OpenAI、Ollama 同 Anthropic-compatible API，Ollama亦支援部分 OpenAI API。Cline、Continue、Aider、Cursor、OpenCode、Claude Code 同 Open WebUI 呢類工具，大多可以靠改 base URL 同模型名轉 backend；Docker 預設用 12434 port，Ollama 就慣用 11434。相容唔代表每個 endpoint 同參數完全一致，尤其 tool calling、context 設定同模型命名都有機會要執，但一般 chat 或 coding-agent workflow 唔使重寫成個 app。
Compose 係 Docker 較明顯嘅優勢
Docker Compose v2.38 起可以喺 compose.yaml 用頂層 models 宣告模型依賴，再由平台處理模型、endpoint 同生命週期。團隊可以將 app、database、向量庫同本機模型放入同一份設定，模型亦可以包成 OCI artifact，推上公司慣用嘅 registry。要交接環境、做可重現 demo，或者同時砌 agent、工具同多個服務嘅團隊，會較容易受惠於呢種統一設定。 Ollama 一樣接到 container app，只係模型管理同 Compose 之間要自己多接一層。
本機運算都有保安同授權細節
兩套工具都可以令 prompt 同程式碼留喺自己部機，啱私隱敏感、離線開發同想控制雲端 API 開支嘅工作。不過 Docker 官方清楚寫明 Model Runner API 冇 authentication，任何接觸到個 endpoint 嘅 client 都可以拉模型同發 inference request，開 TCP 或改 network binding 時要管好存取範圍。公司亦要留意 Docker Desktop 授權：免費商用條件包括少過 250 人兼年收入低過 1,000 萬美元；較大型機構同政府單位要有付費方案，Docker Engine 本身嘅開源授權就冇跟住改。
邊類用家值得轉
已經用 Ollama 跑得穩、主要喺單機玩 GGUF，繼續用最省事，尤其 Apple Silicon 用家而家仲有 Ollama 嘅 MLX 優化。日日用 Docker Desktop、想將模型寫入 Compose、經 OCI registry 分發，或者要喺 llama.cpp 同 vLLM 之間揀 backend，Docker Model Runner 就值得由新項目開始試。兩邊都有 compatible API，最實際做法係先將 app 對 backend 嘅設定抽開；之後轉工具，只需換 endpoint 同模型名，唔使一次過搬晒所有項目。
參考來源
- XDA Developers — Docker Model Runner does everything Ollama does, but I'm still not switching — original report
- Docker Model Runner 官方文件 — 核對版本要求、平台、模型格式、inference engine、私隱同網絡限制
- Docker Model Runner API reference — 核對 OpenAI、Ollama、Anthropic-compatible API、endpoint 同授權方式
- Define AI Models in Docker Compose applications — 核對 Compose models、版本要求同模型依賴寫法
- Docker Model Runner Brings vLLM to macOS with Apple Silicon — 核對 Apple Silicon、vllm-metal 同 MLX 支援
- Ollama Quickstart — 核對 Ollama 支援平台、基本安裝體驗同 coding 工具入口
- Ollama Hardware Support — 核對 NVIDIA、AMD、Metal 同 Vulkan GPU 支援
- Docker Desktop license agreement — 核對免費商用門檻、大型機構同政府單位嘅授權要求
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
