NPU 成筆電標配,40 TOPS 暫未等於更多 AI 體驗
Tech News

NPU 成筆電標配,40 TOPS 暫未等於更多 AI 體驗

TechLab 編輯部·

筆電的 NPU 正快速成為中高階型號的標準配置,主因並非消費者已大量使用本機 AI,而是 Windows 的 Copilot+ PC 認證門檻。廠商若要取得部分裝置端 Windows AI 功能,機器須配備至少 40 TOPS 的專用 NPU,並符合 16GB RAM 與 256GB 儲存空間等條件。

這對正在選購新 Windows 筆電的人意味著:看到「40 TOPS」或更高數字,代表裝置符合一項硬件入場要求,卻不代表日常使用立即多出大量實用 AI 功能。Engadget 指出,目前真正會使用 NPU 的 app 與功能仍然不多。

NPU 的角色:用較低耗電執行推論

NPU(Neural Processing Unit,神經處理器)專為 AI 推論設計,也就是把已訓練好的模型放到裝置上執行。它特別擅長矩陣乘法與非線性啟動函數等運算,但通用性不及 CPU 和 GPU。

其價值在於效率。以視像通話的背景模糊為例,CPU 或 GPU 都可完成工作,但長時間運作會增加耗電、發熱與風扇負擔。NPU 可把這類持續、低功耗的工作移出主處理器,讓系統保留資源處理其他工作。Engadget 形容,NPU 處理同類工作可只需約 2W,遠低於獨立顯示卡可能消耗的逾 100W。

不過,NPU 並非萬用 AI 加速器。訓練模型仍主要依賴 GPU;要在本機執行如 Llama 70B 等大型語言模型,也仍需要有足夠顯示記憶體的獨立 GPU。ChatGPT、Gemini 一類主要在供應商基礎設施執行的雲端服務,亦不會因筆電配備 NPU 而直接受惠。

40 TOPS 對 Copilot+ PC 有甚麼意義

TOPS 是衡量 NPU 每秒可處理多少兆次運算的指標。對 Copilot+ PC 而言,40 TOPS 是專用 NPU 的認證門檻,不能以 GPU 的 AI 算力替代。換言之,即使某部筆電的顯示卡擁有更高 AI 運算數字,若 NPU 未達標,仍不符合這項要求。

因此,40 TOPS 的實際意義較接近「可進入 Copilot+ PC 功能範圍」,而不是單一的使用體驗分數。Engadget 列出的 NPU 相關功能包括 Windows Studio Effects、Live Captions、Recall、Click to Do,以及 Teams 和 Zoom 的降噪;部分 Adobe Creative Cloud 功能也會使用 NPU。

從選購角度看,這些功能可分成兩類:視像鏡頭效果、降噪和即時字幕屬於較容易在日常察覺的持續運算;Recall、Click to Do 等則取決於用戶是否接受並會使用相應 Windows 功能。只為雲端聊天機械人、一般文書或網頁瀏覽而換機,NPU 的額外價值現階段可能有限。

硬件跑得更快,軟件仍是限制

Engadget 的測試顯示,在一部 NPU 專用算力為 11 TOPS 的筆電上,透過 Intel OpenVINO 執行本機 Mistral 7B 模型時,NPU 使用率可達 98%,CPU 約為 3%,電腦仍維持流暢。改以 Ollama 讓 CPU 執行相同模型後,CPU 使用率升至 52%,記憶體用量約為 32GB 中的 17GB。

這項測試說明 NPU 的技術方向合理:把 AI 工作交由專用單元處理,能降低對 CPU 的干擾。但它同時反映目前的限制:要真正用上 NPU,可能仍要依賴特定工具及技術設定,原生支援的軟件不多。

未來值得觀察的不是 NPU TOPS 是否繼續上升,而是 Windows 功能和常用 app 能否把這些算力轉化為穩定、容易啟用且確實節省電力的體驗。在此之前,購買 Copilot+ PC 時,應先按螢幕、電池、效能與常用軟件需要選擇,將 NPU 視為逐步成熟的附加能力。

延伸閱讀

AI 輔助說明: 本文由 AI 協助整理。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook