LM Studio Bionic 接入 Kimi K3:大型 codebase 交畀 Secure Cloud 跑
3C 產品

LM Studio Bionic 接入 Kimi K3:大型 codebase 交畀 Secure Cloud 跑

圖片:via 9to5Mac — https://9to5mac.com/2026/07/27/lm-studio-bionic-adds-support-for-moonshot-ais-kimi-k3-model/
TechLab 編輯部(譯)·

2.8T 模型門檻極高,本機同雲端模式要分清楚

LM Studio 新 agent app Bionic 加入 Kimi K3,賣點幾直接:遇到大型 codebase、長文件或者要連續用工具做幾十步嘅任務,可以由本機模型轉去運算能力高好多嘅雲端模型。最易令人誤會嘅位,係 Bionic 本身支援本機模型,但今次 K3 走嘅係 LM Studio Secure Cloud,模型冇下載到你部 Mac 或 Windows PC 入面。

1M context 啱處理大工程,但唔代表可以亂塞檔案

Moonshot AI 公布 K3 有 2.8 萬億總參數同最多 100 萬 token context,定位包括長時間寫 code、知識工作同 agent 任務。放入 Bionic 嘅 Code Project,模型可以配合檔案搜尋、Git 同 shell 工具,追住跨檔案依賴、讀規格再改 code;Work Project 就偏向研究、分析同文件工作。呢套組合處理大型 repository 確實有吸引力,因為 session 唔使咁快壓縮前文,模型較容易保留早段決定同工具結果。

不過,context 大唔等於成個 repository 倒入去就會準。100 萬 token 每次重新讀都牽涉時間同費用,舊 code、build artifacts 同無關文件仲可能令模型分心。Bionic 嘅檔案搜尋同工具調用其實同 context 長度一樣重要:先搵啱檔案,再逐步驗證修改,通常實際過一次過餵晒所有內容。Moonshot 自己亦提醒,K3 對完整 thinking history 好敏感,中途由另一模型切過去,輸出質素可能唔穩定。

LM Studio Bionic 喺工作介面按 prompt 建立同修改文件

圖片:LM Studio

2.8T 參數唔會塞得入一般電腦

K3 用 Mixture-of-Experts 架構,每個 token 約啟動 1,030 億參數,但完整 expert 權重仍要留喺 GPU 系統。AMD 資料顯示,K3 混合 MXFP4/BF16 checkpoint 約 1.56TB;佢哋驗證嘅單一 instance 配置要用 8 張各有 288GiB HBM 嘅 Instinct MI355X。Moonshot 更建議用 64 張或以上 accelerator 嘅 supernode 部署。就算高階 Mac 有 unified memory,同呢個容量及頻寬門檻仍差好遠。

所以 Bionic 呢次更新反映咗 LM Studio 嘅實際方向:細至中型模型繼續留喺本機,敏感資料可以離線處理;碰到 K3 呢類超大型模型,就用雲端 credits 換取能力。用家可以喺同一個介面切換兩條路,但資料處理方式會跟住變,揀模型前要睇清楚工作內容有冇公司原始碼、客戶文件或者受合約限制嘅資料。

LM Studio Bionic 揀選雲端開放模型嘅介面

圖片:LM Studio

ZDR 冇儲存內容,但資料仍會去美國 server

LM Studio 話 Secure Cloud 預設用 Zero Data Retention,prompt、附件同輸出完成處理後唔會保留,亦唔會攞去訓練模型;公司私隱政策亦話相關供應商要跟 ZDR 或實質相若條款。呢點好過一般會保存對話紀錄嘅消費級服務,不過請求始終要傳去美國 server 作短暫處理。對受內部政策、保密協議或資料地域要求約束嘅團隊,ZDR 唔會自動解決晒合規問題。

Moonshot AI 官方 Kimi K3 發布頁主視覺

圖片:Moonshot AI

K3 貴過原有選擇,公開價格頁仲未更新

9to5Mac 報道,Bionic 入面 K3 每 100 萬 input token 收 US$3,cache hit input 收 US$0.30,output 收 US$15,同 Moonshot 官方 API 價一致。長 session 重用同一批 code 時,cache hit 可以慳好多;如果不停轉模型、改動前段 context,cache 未必食得到,支出會升得幾快。LM Studio 公開價格頁截稿時仍只列 Kimi K2.6、Kimi Code K2.7 等型號,未列 K3,Bionic Pass 詳情亦寫住稍後公布。

Bionic 暫時以 preview 形式提供 macOS 同 Windows 版,LM Studio 已宣布 K3 上線。不過官方公開文件未有交代香港帳戶係咪同步見到 K3,亦未有列明可用咩付款方式買 cloud credits。想處理一般 coding 或私人文件,本機模型仍有成本固定、資料唔離機嘅優勢;真係要追大型 codebase 同長時間 agent 任務,先值得計 K3 嘅雲端費用。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook