本地 AI Agent 入門：私隱誘因背後的硬件與權限取捨
本地 AI 的吸引力正在由「聊天」轉向「代勞」。The Verge 記者以 Hermes Agent 配合本地 Qwen 模型，嘗試處理電郵與行事曆摘要、整理 Steam 遊戲庫、分析財務紀錄及製作手提電腦規格比較表。對不願把個人或工作資料上載雲端的香港用戶，這類做法有實際意義：資料可留在自己的電腦內處理，使用意願也可能因而提高。
不過，這並非裝好一個 app 便能獲得萬能助理。報道中的早期測試顯示，日常摘要曾多次失敗，原因之一是 macOS 在預定工作啟動時已進入睡眠；而要讓 agent 真正修改資料，更要授予系統或第三方服務的存取權。選購電腦配置前，較重要的問題或許不是模型能否跑起來，而是自己有沒有一項可重複、可驗證、又值得自動化的工作。
本地運行可減少資料上傳雲端，但私隱保障仍取決於整個工作流程
Hermes Agent 是可自行託管、支援 macOS、Windows 和 Linux 的桌面 AI agent；報道指，只要使用本地大型語言模型，軟件可免費使用。記者選用的是 Qwen 3.8 Flash Next，這是一個 1,250 億參數、約 105GB 的模型，運行於配備 256GB 統一記憶體的 M5 Ultra Mac Studio。這個案例清楚說明，本地運行的價值不只在於省卻按 token 收費，更在於某些資料根本不適合交予雲端服務。
例如，記者把財務紀錄交予模型做數字分析，也以它整理尚在 embargo 下的手提電腦規格資料。這些用途未必炫目，卻比叫模型寫稿或生成宣傳圖更貼近私隱敏感人士的日常。對需要處理個人帳目、內部比較表或未公開工作資料的用戶而言，本地模型提供的是一條可考慮的處理路徑；但這不代表所有資料流程天然安全，因為模型之外還有電郵、行事曆、API、訊息平台及 agent 本身的權限設定。
報道亦提到，記者透過 Telegram bot 從手機控制 Hermes。這是一項便利功能，同時提醒用戶要把「模型在本機運行」與「整個工作流程完全不離開本機」分開看。這是根據報道情境作出的分析：一旦工作涉及外部平台、雲端帳戶或 API，資料邊界便取決於各個連接環節。入門時應先列出 agent 需要讀取、寫入和傳送甚麼資料，避免把「本地 AI」誤當成全自動的私隱保證。
選擇電腦配置時，應先按實際工作需要評估，不宜只看模型名稱或參數規模
本地模型很容易把人帶入規格競賽。The Verge 記者因為測試機有 256GB 統一記憶體，便選擇約 105GB 的大型模型；同時也計劃在較小型的 Mac、Windows 手提電腦及其他系統上測試較小的 Qwen 模型。報道沒有提供各組合的完整效能結果，因此不能據此推論任何一款電腦必然足夠或不足夠。它反而帶出一個較穩妥的選購原則：先界定任務，再考慮所需模型大小與記憶體餘量。
對初學者而言，先用小範圍任務測試會較實際，例如把固定格式資料分類、整理本機文件的摘要，或協助建立一份不涉敏感資料的表格。若這些工作未能穩定節省時間，直接投入大量 RAM 的回報未必合理。大型模型的能力可能較廣，但相應的檔案體積與電腦配置門檻亦更高；報道中的 105GB 模型只能視為一個高階測試案例，不能當成一般電腦的最低配置建議。
Apple 正以本地 AI 作為新 Mac 桌面電腦的賣點，報道亦提及面向 agent AI、最高可配 128GB RAM 的 RTX Spark Windows 電腦即將推出。記者還看到四部 Mac Studio 組成的本地 AI cluster，總運算成本接近 5 萬美元。這些例子反映廠商正把大記憶體與本地 AI 綁在一起銷售，但對一般用戶來說，重點仍是工作量和可接受成本，而非追逐最巨型模型。尤其香港住屋及工作環境未必容許長時間運行高耗電設備，安靜度、散熱和日常用途之間的取捨同樣應納入考慮；這屬使用情境分析，並非對任何產品的規格或供應作出判斷。
Agent 的難題，在於授權後是否仍可控
真正令本地 AI 與一般聊天機械人拉開距離的，是它可以採取動作。記者要求 Hermes 整理逾 400 款 Steam 遊戲，模型先讀取已安裝的 Steam client，提出分類方式，然後按遊戲類型整理，同時保留最愛、合作遊戲及與妻子同玩的自訂類別。為完成工作，他須登記 Steam web API key 並交給 Hermes；整理完成後，因為不再需要，便可撤銷該 key。這個流程值得借鏡：權限應按任務暫時授予，完成後便收回。
這項測試的成果也相當具體。報道稱，agent 花了數分鐘完成分類，結果整體理想；但它並非完全放手執行，使用者先決定分類框架及保留哪些例外。換言之，agent 較適合承接大量但規則可描述的雜務，使用者仍要設定邊界和覆核輸出。若任務涉及刪除資料、對外傳送訊息、修改帳戶設定或處理不可逆轉的交易，應把可撤銷性和人工確認放在便利之前，唔好因為它看似聰明便一次過開盡權限。
記者正嘗試讓 Hermes 協助產生 Python script，以自動化多輪手提電腦 benchmark 測試；但報道明言，這項工作仍在進行，連同模型理解流程與產出程式碼都需要不少來回。這說明 agent 即使有足夠電腦配置支持，也未必能一次準確理解長流程。較合適的做法，是把大任務拆成可檢查的步驟：先讓它讀取和提出方案，再限定它可修改的範圍，最後由人驗證結果，而不是直接交出整個工作流程。
從一項低風險工作開始
報道中的每日早晨摘要，是很好的入門例子：它掃描電郵和行事曆、列出即時要處理的事項，再附上簡短天氣報告。這個設定起初因電腦睡眠而失敗，修正後才按時運行。它的啟示不在於摘要本身有多厲害，而在於本地自動化同樣受制於作業系統狀態、排程及資料來源是否可讀取。使用者應把這些維護成本一併計算，否則本來想節省時間的工具，可能變成另一項需要照看的工作。
本地 AI 下一步值得觀察的，是模型和電腦配置能否在較少設定、較少權限下完成穩定任務，而不是單看參數與記憶體數字如何上升。對需要保留資料控制權的個人和小型團隊，本地 agent 已開始提供值得試驗的空間；至於它是否值得為此更換電腦，仍要由實際任務頻率、可接受的維護成本，以及能否安全收回權限來決定。
延伸閱讀
AI 輔助說明： 本文由 AI 協助整理，並經兩輪獨立自動品質審核；資料及連結仍以原始來源為準。
參考來源
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
