#本地 LLM
10 篇文章
TechLab 所有關於「本地 LLM」嘅文章、評測同教學，由最新排起。
3C 產品本地 LLM 接駁 Google Calendar：識排時間之前，先鎖實改行程權限
XDA 作者用本地 LLM 整理每日工作，效果幾好，但三款模型都試過郁固定行程。實際用落，模型最幫到手係執好日程空檔。不過想安全長用，程式要鎖死規則、收窄 Calendar 權限，每次寫入前亦要畀人確認。
3C 產品ROG Flow Z13 跑本地 120B 模型：Lemonade 設定、速度同代價
XDA 作者用 128GB ROG Flow Z13 配 Lemonade，將簡單問答、寫作、程式碼同重型推理分流畀唔同本地模型。120B 模型速度相當搶眼，不過呢套玩法好睇 GPU 記憶體、backend 同 context 設定，亦未證明離電後可以撐幾耐。
3C 產品本地 LLM 控制 Android 手機：RikkaHub Agent 做到幾多，又要交出咩權限
XDA 作者用 RikkaHub Agent 接駁自家 LLM，成功叫 Android 手機搜尋檔案、控制畫面，仲喺 Termux 編譯 whisper.cpp。不過「本地」唔等於模型喺手機跑，裝軟件亦冇繞過 Android 安裝確認；高權限、惡意 prompt 同供應鏈風險先值得拆清楚。
3C 產品用本地 LLM 代替 Claude Code：慳咗月費，邊類開發工作真係頂得上？
XDA 作者取消每月 US$20 嘅 Claude Pro，改用 Continue、Docker Model Runner 同 Qwen2.5-Coder 14B。呢套組合冇固定用量上限，日常補碼同細修正幾實用，不過 16GB RAM 只係勉強夠，大型跨檔案改動、測試同 agent 自主執行仍然追唔上 Claude Code。
3C 產品NAS 跑本地 LLM 控制智能家居：Qwen3 1.7B 得，但未必值得升級
XDA 用一部 8GB RAM NAS 試七款本地模型，結果只得 Qwen3 1.7B 兼顧速度、指令理解同正確 tool call。不過測試冇實際延遲數字，亦冇驗證廣東話指令；已有 NAS 嘅 Home Assistant 用家，升級前仲要計清硬件、私隱同誤判風險。
3C 產品AI 連一道門都出唔到：Pokémon 實驗揭開 agent 長任務死穴
XDA 作者叫本地 Qwen 同經 Codex CLI 使用嘅 GPT-5.6 Sol 玩《Pokémon Red》，兩邊最後都過唔到門。問題牽涉錯誤環境資料、視覺驗證、幻覺同訓練記憶，亦解釋咗點解 token 跑得快，同 agent 做唔做到長任務係兩回事。
3C 產品二手 Tesla V100 變本地 LLM 神卡？32GB VRAM 平價背後有幾多伏
二手 Tesla V100 32GB 價錢跌到低過 RTX 3090，仲多 8GB VRAM，跑大型本地 LLM 確實吸引。不過 Volta 支援正逐步退場，加上被動散熱、冇顯示輸出同二手風險，呢張卡只適合肯自己執環境同改機嘅玩家。
3C 產品本地 LLM 寫 code 未必輸：細任務靠測試把關，私隱同成本要另計
XDA 作者試用本地 LLM 一星期，發現研究摘要比寫細段 code 更難放心。原因唔係本地模型突然追平頂級雲端 agent，而係程式碼有 compiler、測試同 lint 幫手捉錯。對要處理客戶 code 嘅開發者，本機推理值得用，但私隱、硬件成本同工具能力要分開計。
3C 產品21 個 Docker container 冇文件：本地 LLM 可以幫你執返幾多？
XDA 作者拎 20 多個 Docker Compose 同 inspect JSON 畀 Gemma 4，換嚟一份可改 Markdown 文件。一小時搞掂唔好照單全收，但呢個例子示範咗本地 LLM 點樣幫 NAS、homelab 同公司內部工具先做第一輪盤點。
3C 產品本地 LLM 幫你睇 Docker Compose：有用，但唔好當安全審計
XDA 作者將自己 homelab 嘅 Compose file 餵畀本地 Gemma，結果搵到硬寫 secrets、docker.sock mount、host network 等舊帳。呢招對 NAS 同細公司幾實用，但只適合做初步 audit。