LM Studio Bionic 把本機開放模型變 Mac agent，私隱同效能點取捨
程式碼、文件同語音可以留喺 Mac，重型工作亦可轉用雲端模型
LM Studio 以往比較似一個本機模型控制台：下載模型、調設定，再開個對話框慢慢問。新推出嘅 LM Studio Bionic 就行前一步，定位係可以讀檔、改程式碼同處理辦公文件嘅 AI agent。佢暫時只屬 initial preview，而且係獨立於 LM Studio 嘅另一個 Mac app，原本嗰套進階模型設定仍要留返喺 LM Studio 處理。未有獨立實測之前，唔應該當佢係成熟版 Cursor 或通用辦公助理。
由聊天框行入檔案系統
Bionic 將工作分成 Code 同 Work project。Code project 可以連接本機資料夾，再叫 GLM 5.2、Kimi K2.7 Code 等開放模型搜尋、修改或除錯；介面會顯示 inline diff，同時保留 agent 搜尋程式碼嘅過程。Work project 就處理 PDF、簡報、試算表同其他文件，可以整理資料夾、摘要內容、修改檔案，亦可以用網上搜尋補資料。官方話有 checkpoint 可以還原改動，檔案預覽支援就仲喺逐步增加。
呢個方向值得睇，因為 agent 真正消耗資源嘅地方通常唔止一次回答。佢要反覆讀檔、搜尋、改寫再檢查，每一步都可能用大量 token。純雲端工具會將呢堆操作變成持續支出；本機模型下載好之後就冇逐次 API 費用，公司程式碼、合約草稿同內部文件都唔使為咗推理而傳出去。不過電力、儲存空間同 Mac 本身嘅成本仍然存在，亦唔代表每款開放模型都准許任何商業用途，實際仍要睇模型牌照。
圖片：LM Studio
本機私隱較直接，代價係硬件同等待時間
本機模式最大好處係資料唔使經雲端。LM Studio 文件寫明，已下載模型嘅推理同本機文件處理可以離線完成，輸入內容唔會離開部機。Bionic 亦加入跨 app 語音鍵盤，游標放喺邊度就可以開始聽寫，首批採用 Mistral Voxtral，官方稱語音轉文字全程留喺裝置。對要處理客戶資料、未公開程式碼或公司文件嘅 Mac 用戶，呢種設計確實實用過先上載再問雲端 chatbot。
不過「本機」唔等於免費又快。LM Studio 一般要求 Apple Silicon Mac 同 macOS 14，官方建議至少 16GB RAM；8GB 機只適合較細模型同較短 context。呢份要求係 LM Studio 本身嘅資料，Bionic 完整硬件要求暫時未交代清楚。agent 要同時處理長文件、工具呼叫同大段程式碼，RAM 壓力通常會高過普通聊天。細記憶體 Mac 即使開到 app，模型能力、context 長度同速度都可能要大幅取捨。
圖片：LM Studio
Secure Cloud 補能力，私隱承諾仍要分開睇
遇到大型 codebase、長文件或複雜推理，Bionic 可以轉用 LM Studio Secure Cloud 嘅較大型開放模型。官方話請求只會短暫處理，完成後唔會保留；使用者要開 LM Studio 帳戶同設定付款。呢套 Zero Data Retention 政策暫時屬官方聲稱，未見第三方審核資料，雲端請求亦始終會離開部 Mac，所以公司 IT 唔應該單靠介面上嘅私隱字眼就批准敏感文件上雲。
收費亦係另一個缺口。官方未公開清楚嘅模型價目、預算上限設計同香港地區供應資料，現階段冇辦法計到佢平過按 token 收費嘅競爭對手幾多。最合理嘅用法似係日常分類、摘要同小改動留喺本機，真係超出 Mac 能力先轉雲端。咁做可以控制支出，但使用者要清楚知道每次切換模型時，資料會留喺部機定送去 server。
圖片：LM Studio
Sandbox 安全性同廣東話表現都仲未有定論
官方話 Work project 會喺 sandbox 環境處理文件，避免 agent 碰到電腦其他檔案，再配合 checkpoint 檢查或還原改動。設計方向合理，但而家未有技術文件交代 sandbox 隔離層、網上權限、指令注入防護同可存取範圍，亦未見獨立安全測試。尤其 agent 可以讀網頁再改本機檔案，網頁暗藏惡意指令呢類風險唔可以靠「sandbox」一個名就當處理好。
語音方面都要保守。Mistral 公布嘅 Voxtral 測試涵蓋英文同多種語言，但公開 benchmark 列出嘅 FLEURS 語言冇廣東話，官方介紹亦冇提供香港粵語準確率。多語言支援只代表模型識處理多種語音，唔代表佢聽得準廣東話、港式英文或中英夾雜。Bionic 對 Mac 本機 agent 嘅方向幾吸引，不過現階段適合用副本同非關鍵文件試玩；要正式放入公司工作，至少等清楚收費、權限控制、香港供應同硬件要求。
參考來源
- 9to5Mac — LM Studio expands beyond chat with Bionic, a new AI agent app for open models — original report
- Introducing LM Studio Bionic: the AI agent for open models — LM Studio 官方公告，用嚟核對 Bionic 係獨立 app、支援嘅工作類型、sandbox、checkpoint 同 Zero Data Retention 聲稱。
- LM Studio System Requirements — 官方系統要求，提供 Apple Silicon、macOS 版本同建議 RAM 資料；Bionic 個別要求仍未完整列明。
- LM Studio Offline Operation — 官方解釋本機模型、文件處理同離線操作時嘅資料流向。
- Voxtral — Mistral 官方模型介紹同 benchmark 語言範圍，用嚟判斷現有資料未足以證明廣東話辨識表現。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
