本機 AI 整理檔案點解仲輸雲端?模型、MCP 同圖片傳遞逐層拆解
3C 產品

本機 AI 整理檔案點解仲輸雲端?模型、MCP 同圖片傳遞逐層拆解

圖片:via XDA Developers — https://www.xda-developers.com/i-thought-my-local-ai-would-replace-claude-then-i-tried-automating-my-pc/
TechLab 編輯部(譯)·

一次失敗測試,反映 desktop agent 仲有幾層接駁位要執

XDA 作者 Samarveer Singh 原本想用本機 AI 整理截圖、單據同文件,貪佢唔使將私人資料送上雲端。佢用 Ollama、Open WebUI、Filesystem MCP 同 Qwen 試咗一輪,最後換 Claude Desktop 先成功分類同改名。表面睇係 local model 輸畀 Claude,不過沿住成條鏈拆開,今次出事嘅位置其實冇咁單純。

細模型有甩漏,大模型亦救唔到斷開嘅資料鏈

作者先用 Qwen 3.5:9B 讀取截圖目錄,模型會亂報檔案數目,亦試過明明叫過工具,轉頭又話自己冇叫。呢類錯誤可以同模型嘅 tool calling 穩定性、context 入面嘅工具結果格式,甚至前端點樣保存狀態有關。9B 模型能力有限係合理懷疑,不過未做逐次 tool log 對照,仲未可以一口咬定錯晒喺模型。

佢跟住喺配備 12GB VRAM RTX 4070 Ti 嘅電腦跑 Qwen 3.5:27B。據 XDA 記錄,每次回應要等約 10 至 13 分鐘,大模型能夠讀到真實檔案資料,去到描述圖片就失手。作者再直接將同一張圖交畀 Qwen,模型其實識睇,於是問題較似出喺 Filesystem MCP 讀取圖片、mcpo 轉換結果、Open WebUI 接收內容,再交畀模型 呢段路上。工具顯示成功,只代表呼叫完成,唔代表圖片 bytes 最後真係變成模型睇到嘅 image input。

Agent 好唔好用,要睇模型以外成套配合

一個檔案整理 agent 至少牽涉四部分:模型要識規劃同判斷;工具層要準確讀寫檔案;multimodal pipeline 要保留 MIME type、圖片內容同檔名關係;硬件亦要頂得住推理。當 27B 模型食住大量 system RAM,每步又要等十幾分鐘,agent 只要重試幾次,成件事已經唔實際。雲端服務嘅優勢正正係將運算負擔搬走,再用一套整合好嘅工具介面減少接駁位。

XDA 作者話 Claude 約用 20 分鐘,在背景處理數百張截圖,分成四個資料夾,再按內容改名;呢段時間大約只夠本機 27B 模型回應兩次。不過呢個係單一作者、單一電腦同單一設定嘅經驗,冇統一模型量化、圖片尺寸、工具版本同成功率,唔適合當成 Claude 對所有 local LLM 嘅 benchmark。佢證明到嘅,係嗰套 Claude 組合喺今次工作順過作者嗰套 Open WebUI 組合。

留喺本機有私隱優勢,開錯權限一樣可以出事

Local AI 最大吸引力仍然係資料可以留喺自己部機,不過「local」唔會自動等於安全。官方 Filesystem MCP server 可讀寫、搬移同搜尋指定目錄,部分操作亦標成 destructive;一旦你將整個 Documents、同步硬碟甚至公司共享資料夾開畀 agent,模型判斷錯誤、工具 bug 或文件內藏住嘅 prompt injection,都可能引導佢搬錯檔、覆寫內容,甚至讀取唔應該掂嘅資料。

改用 Claude,就要考慮另一邊嘅私隱問題。Anthropic 自己提醒 Free、Pro 同 Max 用家,輸入財務資料、登入憑證同機密商業文件前要諗清楚,亦要檢查 model improvement 私隱設定。就算關咗訓練用途,都唔代表文件符合你公司嘅資料政策。客戶合約、身份證副本、未公開財務資料同受保密條款約束嘅文件,應該先跟公司 IT、合約同私隱規定處理,唔好因為 agent 方便就成個資料夾交出去。

安全試檔案 agent,可以由只讀副本開始

真係想試,先複製 20 至 50 份冇敏感資料嘅檔案去獨立測試目錄,Filesystem MCP 只開呢個目錄。第一輪只准列出檔案、讀內容同建議新名,要求 agent 輸出「原名、建議新名、分類、信心」清單,唔准直接改動。人手抽查圖片、PDF 同重複檔案結果後,第二輪先准搬移,但目的地仍然放喺測試目錄內。

刪除應該改成搬去 quarantine 資料夾,保留至少一段時間;判斷重複檔案亦先用 hash 核對,唔好只靠相似檔名或圖片觀感。執行前保存檔案清單同備份,限制每輪最多處理幾多份,再檢查工具 log 有冇真係傳送圖片內容。咁先分得清楚係模型睇錯、工具冇讀到,定圖片喺中途甩咗,亦避免一次 prompt 就改爛成個工作目錄。

本機 agent 而家已經做到唔少文字工作,但涉及圖片、PDF 同批量改檔名時,整條工具鏈嘅穩定性仍然好關鍵。揀 local 定雲端,可以按資料敏感度、硬件負擔同工作容錯度逐項衡量;無論用邊套,都應該先預覽、後執行,亦要保留可以還原嘅副本。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook