M 系 Mac 內置本地 AI，可經 Apfel 接入 Home Assistant
免費、私隱、冇 token 費，但唔好當佢係完整管家
Mac 入面原來已經有個本地 LLM
XDA 作者 Adam Conway 今次玩嘅嘢幾啱 Home Assistant 玩家口味：M 系 Mac 喺 macOS 26 Tahoe 開始，有 Apple Intelligence 背後嗰個 on-device foundation model，第三方工具 Apfel 可以將佢包成 OpenAI 相容本地 server，跟住俾 Home Assistant 指去用。先講清楚，TechLab 未有親手試呢套串接；呢篇主要按 XDA 嘅實驗、Apple 開發文件、Apfel repo 同 Home Assistant 文件去睇佢可唔可行。
Apple 官方喺 Foundation Models 文件講得好白：呢個 framework 係畀 app 開發者用，處理語言理解、結構化輸出同 tool calling；Apple WWDC 影片亦講過 on-device model 約 3B 參數，主力做摘要、抽取、分類呢類細任務，唔係拎嚟做世界知識問答或者複雜推理。換句話講，Mac 入面真係有個本地 LLM，但 Apple 本身冇畀一個「打開就同佢傾偈」嘅普通用家入口。
圖片：Home Assistant
Apfel 做嘅係開個後門式入口
Apfel 嘅價值就係將 FoundationModels 包成 CLI 同本地 HTTP server。據 Apfel GitHub，佢可以用 apfel --serve 喺 localhost:11434/v1 開一個 OpenAI 相容 endpoint，model 名會報 apple-foundationmodel，唔使 API key，亦唔使另行下載 Llama、Qwen、Gemma 嗰類模型。呢個 port 剛好同 Ollama 預設 port 一樣，所以好多本來識駁 Ollama 或 OpenAI-style API 嘅工具，理論上改 base URL 就可以試。
不過呢度要分清：呢個唔係 Apple 官方 Home Assistant 支援，亦唔係 Apple Intelligence 正式消費者功能。Apple 提供嘅係 Foundation Models framework；Apfel 係第三方開源工具；Home Assistant 嗰邊再用 OpenAI/Ollama 類整合去接。好玩歸好玩，但每一層都多咗少少 workaround 味，唔應該寫到似 Apple、Home Assistant 已經聯手做咗個 Mac 智能家居助理。
圖片：Home Assistant
點解 Home Assistant 會卡住：4096 token 太細
最大限制係 context window。Apple Technote TN3193 寫明，Apple on-device foundation model 每個 language model session 只有 4096 tokens；而且 input、instructions、tools、schema、輸出全部一齊計。Home Assistant 官方 Ollama 文件又提醒，本地 LLM 想控制 Home Assistant，最好暴露少過 25 個 entities，細模型出錯機會高，仲要 model 支援 Tools 先可以控制屋企裝置。
呢兩件事夾埋，就解釋咗 XDA 作者點解要關掉 functions 同 tools。Home Assistant 如果將燈、感應器、冷氣、場景、服務 call 全部塞入 prompt，4096 tokens 好快爆，尤其中文、日文、韓文呢類字元，Apple 文件話大約一個字就當一個 token。香港屋企如果用中文房名、中文 entity 名，token budget 會易過英文名食爆。Apfel 可以接得入，唔代表可以放心交畀佢控制全屋。
實際用途：問答可以，接管屋企就咪急
按 XDA 嘅做法，佢係用 HACS 入面嘅 Extended OpenAI Conversation integration，指向 Mac 上面嘅 Apfel endpoint，再關掉工具呼叫。結果就變成：Home Assistant Assist 原本識處理嘅開燈、關燈、場景命令，仍然走 Home Assistant 自己嘅 intent；自由問答、短摘要、簡單文字處理，就交畀 Mac 本地模型答。呢個定位其實幾合理，因為你唔係逼 3B 細模型睇晒全屋狀態再落決定。
講實用少少，呢套玩法啱一批已經有 M1 或更新 Mac、又有 Home Assistant 嘅人：例如屋企有部 Mac mini 長開，想用本地 AI 回答「今晚屋企有咩提醒」「幫我整理呢段 automation 描述」「將一段英文通知改成廣東話語氣」呢類短任務。私隱位亦真係吸引，因為 prompt 唔使先送上雲端，亦冇 OpenAI/Anthropic token 帳單。不過廣東話理解、延遲、穩定性，今次資料冇足夠證據講到實，唔好當成已驗證賣點。
真正值得睇係 Apple 本地模型生態
呢件事有意思嘅地方，唔在於 Mac 變咗 ChatGPT，而係 Apple 個本地模型開始容易俾外面工具鏈駁落去。過去 Apple Intelligence 好多功能都包喺系統 UI 入面，普通玩家最多用 Writing Tools、摘要、Siri；而家 Foundation Models 加 Apfel 呢類工具，等於將同一粒本地模型變成 UNIX command、HTTP endpoint、甚至 smart home assistant 嘅一部分。
但短期內，佢比較似一粒免費、私隱好、但容量細嘅本地零件。想要可靠控制屋企，Ollama 跑大少少、支援 tools 嘅 model，或者 Home Assistant 自己嘅 intent flow，仍然穩陣過。用開 M 系 Mac 同 Home Assistant 嘅人可以留意 Apfel 發展，尤其係 token 管理、tool calling 同安全設定；真係攞嚟長開，就記得只綁 localhost 或屋企 LAN，唔好將呢類本地 AI endpoint 暴露出街。
參考來源
- XDA Developers — Every modern Mac hides a free local AI, and I got mine answering questions in Home Assistant — original report
- Foundation Models | Apple Developer Documentation — Apple 官方文件，確認 Foundation Models framework 嘅用途、on-device model 同 Apple Intelligence 裝置要求。
- TN3193: Managing the on-device foundation model’s context window — Apple 官方 Technote，確認 on-device foundation model 每個 session 4096 tokens context window。
- Meet the Foundation Models framework - WWDC25 — Apple WWDC 影片，補充 on-device model 約 3B 參數、定位同強弱項。
- Arthur-Ficial/apfel — Apfel 官方 GitHub repo，確認 CLI、OpenAI 相容 server、macOS 26+ 同 Apple Silicon 要求。
- Ollama - Home Assistant — Home Assistant 官方文件，說明本地 LLM 控制 Home Assistant 嘅實驗性質、entities 建議同 Tools 要求。
- Home Assistant API for Large Language Models — Home Assistant 開發文件，確認 Assist API、exposed entities 同 LLM tools 點樣接入。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
