2 篇文章
TechLab 所有關於「離線運行」嘅文章、評測同教學,由最新排起。
XDA 作者試過逾 20 款本地 LLM,最後按工作留下四款量化模型。不過呢份清單建基於佢自己部電腦同使用習慣,當中仲有社群改版;揀之前要睇清模型來源、RAM、VRAM,同自己願意用幾多速度換私隱。
XDA 話 Gemma 4 E4B 喺 16GB RAM 筆電都跑得郁,不過原文冇交代 CPU、GPU、量化檔同生成速度。想離線處理文件,可以由 E4B QAT 入手,但廣東話、繁體中文同 coding 表現仍要逐項驗收。