TAG

#本地模型

5 篇文章

TechLab 所有關於「本地模型」嘅文章、評測同教學，由最新排起。

LM Studio 為 Bionic 加入 Auto Review，以 AST 規則先篩選 Shell 指令，再交由 AI 審查代理處理模糊個案。它可減少開發流程中的確認負擔，但仍要依賴沙箱、可信環境與人工授權。

NVIDIA 推出開源模型分流工具 NeMo Switchyard，幫 Codex、Claude Code 呢類 AI agent 將例行工作交畀平價模型，遇到難題先升級。不過官方主打嘅 74% 成本降幅，只來自一組特定模型同 145 項受控任務，正式採用前仍要用自家工作負載計清楚。

XDA 作者將 coding agent 拆成兩層：雲端強模型規劃同睇最終 diff，本地 Qwen 就改 code、跑測試。作者話處理細修正快近兩倍兼慳雲端 token，不過欠缺硬件資料、任務數量同成功率，現階段較值得參考嘅係分工方法，唔係嗰個倍數。

XDA 作者嫌 Claude Code 太食 token，改用多個本地 Qwen 細模型分工。個做法勝在任務清楚、權限收窄、出錯容易追，不過原文冇速度、成功率同硬件數據，未足以證明程式碼質素贏過 Claude。

Paper Desktop 可以經 MCP 畀 LM Studio 入面嘅本地模型讀寫畫布，用自然語言改 UI、建立 design tokens，慳返雲端模型 API 成本。不過 Paper 本身仍然係 hosted SaaS，亦唔支援 self-host，私隱同「全本地」要分開睇。