
本機 125B 模型六小時寫出 Windows AI 原型,但距離產品仍很遠
一名 XDA Developers 作者在一部 RTX Spark 筆電上,本機運行 Qwen 3.8 Flash Next,配合 llama.cpp 與 Pi coding agent,從一段長 prompt 開始,約六小時後產出名為 Spark Copilot 的 Windows 原型。它模擬 Recall、Click to Do、Live Captions 及自然語言檔案搜尋四類功能,並附帶 60 個測試、git 提交紀錄和開發日誌。
這是一次單一作者的個人實驗,功能表現、穩定性及安全性均未經獨立驗證。更關鍵的是,作者雖然要求完成後的 app 離線運作、只監聽 localhost,但模型在開發期間仍可透過 PowerShell 連網下載套件及模型;因此,這不能直接等同於完全隔離環境下的自動開發。
把尚未到位的功能,變成可執行原型
報道指,RTX Spark 裝置在紙面上具 Copilot+ 所需的 NPU 條件,但 Recall、Click to Do 等 Windows 端功能當時仍未可用,預計未來數月才推出。作者於是將四項類似能力寫入任務,觀察本機模型能否自行完成。
成品的 Recall 會每 10 秒或在活躍視窗改變時截圖、略過相近畫面、執行 OCR,並將文字和 embedding 存進加密資料庫,讓用戶以時間線或自然語言搜尋。作者測試搜尋一份包含虛構都柏林租金數字的文件時,程式能找回文件及其截圖。程式亦設定不對密碼管理工具、帳密提示視窗及 InPrivate/Incognito 視窗做 OCR,並提供暫停擷取的快捷鍵。
另外三項功能分別是圈選螢幕內容後摘要、改寫、抽取 CSV 或提問的 Click to Do;以 Nvidia Parakeet 轉錄系統音訊、並可翻譯至西班牙語、德語或法語的 Live Captions;以及為用戶選定資料夾建立索引、附上原始文件引用的檔案搜尋。作者稱四項功能皆可運作,當中以 Click to Do 和 Live Captions 較理想。
成效不只取決於大模型
作者使用的是 1,250 億參數、其中 60 億參數活躍的 mixture-of-experts 模型量化版本,透過 llama.cpp 在 RTX Spark 上以約每秒 45 至 50 個 token 生成文字;Pi 則提供 PowerShell 和檔案編輯等有限工具。這組合的意義,在於模型不只產生程式碼,還要閱讀系統狀態、安裝依賴、執行測試和修正錯誤。
不過,報道亦顯示自動編程的可靠性仍取決於工具鏈和驗證環節。由於作者錯誤設定 SearXNG,模型無法搜尋網頁,只能猜測網址或依靠既有知識;它亦碰到 Windows on Arm 的套件支援限制,例如多個常用 Python 套件沒有可直接使用的 Arm64 wheel。模型最後改用 Windows 內建 OCR,以及具 Arm64 支援的 sherpa-onnx 處理語音轉錄。
它曾憑記憶錯誤宣告音訊 API 的參數數目,導致 access violation;後來讀取其他 Python 套件的實作才修正程式,卻仍對錯誤原因留下不正確解釋。這個例子說明,程式「跑得通」不代表模型的技術判斷正確,尤其涉及 Windows API、記憶體存取及權限時,人工 code review 仍不可少。
測試找出的問題,比首次完成更有價值
各功能通過自行撰寫的測試後,作者要求模型進行整合 soak test,才發現多個問題。其一是搜尋功能給推理模型的 token 預算過低,表面上由本地關鍵字後備機制遮掩,實際回應一度需時約 25 秒;修正設定後,作者稱可降至約半秒。另一次重新啟動 app 的測試,亦揭示 SQLite 交易未提交,令加密快照遺漏啟動後新增資料的風險。
這反映本機模型可把原型推進得很快,但不能把「已生成測試」視作質素保證。測試範圍、重啟後的資料完整性、錯誤後備機制,以及長時間運作時的資源管理,都會直接影響工具能否交付使用。
本機私隱優勢,仍要看資料流向
將模型和主要處理留在裝置上,理論上可減少螢幕內容、文件和音訊交予雲端的需要;對處理敏感文件的創作者和程式開發者而言,這是吸引之處。不過 Recall 類功能本身會持續擷取螢幕內容,即使資料庫加密、OCR 排除部分視窗,仍涉及截圖保存規則、加密金鑰、索引資料及本機帳戶權限等問題。作者本人也表示不會日常使用 Recall。
對開發者來說,這次實驗較值得留意的不是 Spark Copilot 是否可取代 Windows 原生功能,而是大型本機模型加上 agent 已能在有限人手介入下完成一輪「規劃、編寫、測試、修正」的原型循環。下一步要觀察的,是這類工作流能否在更嚴格的依賴套件審查、權限限制、資安測試和可重現測試下,仍維持相近效率。
延伸閱讀
AI 輔助說明: 本文由 AI 協助整理,並經兩輪獨立自動品質審核;資料及連結仍以原始來源為準。
參考來源
- XDA Developers — My RTX Spark laptop still doesn't have Copilot+ features, so a local LLM on the same machine built its own from one prompt — original report
本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。



