Perplexity 推本機 AI 代理：24GB VRAM 換來多少私隱與成本優勢？

圖片：TechLab 自製資訊圖

TechLab 編輯部（譯）·2026-08-26

Perplexity 推出 Portable Computer，嘗試把原本依賴雲端的代理式 AI 工作流程，移到用戶自己的電腦執行。TechNews 科技新報報道，這套系統與 NVIDIA 合作，首階段支援 DGX Spark，以及配備最少 24GB VRAM 的 RTX Linux 電腦；Windows 版本則預計於 9 月推出。對希望在內部整理文件、分析資料或執行重複任務的開發者及企業而言，本機代理提供了另一種部署方式，但硬件和作業系統要求，已把一般辦公室電腦排除在首批支援範圍之外。

Portable Computer 的重點並非單純在本機開啟一個聊天模型，而是把模型推理、代理框架、工具路由、排程、任務佇列及本機搜尋索引放在同一部裝置。換言之，AI 可以拆解任務、調用工具和處理本機資料，而不必把每個步驟送往雲端。這種架構若能穩定運作，對處理合約、研究筆記、程式碼或未公開商業資料的團隊會有吸引力；不過，來源未提供完整技術文件或獨立安全審視，現階段仍不宜把「本機執行」直接等同於所有資料風險都已消失。

24GB VRAM 是首道門檻

最少 24GB VRAM 是 Portable Computer 能否普及的關鍵限制。它反映首批支援的 27B 級模型需要相當可觀的顯示記憶體，但 TechNews 科技新報的資料未列出不同量化格式、context 長度或並行任務下的實際佔用，因此無法判斷 24GB 是足以流暢工作，還是僅能啟動系統的最低條件。用戶還要預留代理框架、本機索引及其他軟件所需的系統 RAM、儲存空間與運算資源，不能只看 GPU 容量一項規格。

首批可選模型包括 Qwen 3.8 27B，以及 Perplexity 後訓練的 PPLX 27B；NVIDIA Nemotron 3.5 Lightning 則會稍後加入。模型數量暫時有限，意味企業未必能立即沿用既有工作流所依賴的特定模型。另一方面，安裝可透過 Perplexity App 一鍵完成，若實際部署毋須自行處理驅動程式、模型格式及代理框架相容問題，確實可降低本機 AI 的使用門檻；然而報道沒有交代版本管理、模型更新、企業集中部署或故障復原方式，這些才是長期使用時常見的營運成本。

「零 token 成本」只涵蓋本機步驟

Perplexity 表示，本機處理不消耗使用額度，亦沒有逐 token 收費。這對長時間整理大量文件或反覆執行固定流程尤其有意義，因為成本由按次使用，轉為購置及維持硬件、電力和管理環境。兩者不能只以 token 單價比較：若團隊本身已有合適 GPU，本機方案的額外成本可能較低；若要專門購入電腦，還要計算設備閒置、耗電、維護及升級週期，工作量不足時未必比雲端服務划算。

而且 Portable Computer 採用「本機優先」，並非完全離線。TechNews 科技新報指出，遇到較進階的研究或推理工作時，用戶可授權系統把單一步驟升級至雲端。這種混合設計有助彌補本機模型能力的不足，但也令收費方式更難掌握：報道只確認本機步驟不按 token 收費，沒有說明雲端升級的價格、使用額度或限制。企業評估時應分開計算本機日常任務與雲端例外任務，而不能把整個代理工作流概括為零 token 成本。

私隱優勢取決於升級機制

按公司的說法，敏感資料會留在裝置內；當任務需要送到雲端時，系統會先檢查是否包含個人資料，雲端亦只會回傳文字建議，不會直接存取本機檔案或工具。這種權限分隔若落實得當，可減少雲端代理直接操作內部資料及工具的範圍。然而，現有資料沒有說明個人資料檢查採用甚麼規則、能否識別商業機密、程式碼內的憑證或文件中的間接身份資訊，也未交代用戶可否審閱即將外送的內容。

因此，重視私隱的機構仍需把雲端升級視為一條資料出口，檢查授權是否逐次觸發、紀錄能否審計，以及管理員可否完全停用外送。即使雲端無法直接開啟本機檔案，送出的文字片段本身仍可能包含敏感內容。Portable Computer 提供的本機架構有機會縮小資料外傳範圍，但其實際保障程度，仍要視乎資料篩查、權限控制、日誌保存及雲端的資料處理政策，不能單憑產品宣傳下結論。

效能數據仍欠獨立驗證

Perplexity 公布的內部測試稱，Portable Computer 在多項基準可與 Hermes、Pi 等本機代理框架比較，部分項目的速度更快、用量更少。不過 TechNews 科技新報未提供完整測試方法、硬件配置、任務內容及成功率定義，也沒有第三方驗證。代理系統的價值不只取決於生成速度，還包括工具調用是否準確、長任務能否完成、失敗後是否可恢復，以及模型會否錯誤修改資料；在這些資訊公開前，官方 benchmark 只能視作初步參考。

Portable Computer 現階段較適合已有高階 RTX Linux 電腦、工作量穩定，而且願意自行管理本機 AI 環境的技術團隊。一般 Windows 用戶仍要等待預定於 9 月推出的版本，而報道沒有提供香港售價、供應或支援安排，亦不足以判斷 DGX Spark 及相容的 RTX 電腦在港的購置條件。下一步應留意 Windows 版能否如期推出、雲端升級如何收費，以及 Perplexity 會否公開更完整的安全設計和可重現測試；這些資料將決定它能否由小眾硬件方案，擴展為企業可管理的代理平台。