Perplexity 會用 Vera CPU，Nvidia 想由 GPU 賣到成套 AI server
AI 搜尋背後，CPU 都開始影響速度同成本
Perplexity 呢單，重點唔係股價
TechNews 科技新報報道，Perplexity 計劃採用 Nvidia 新一代 Vera CPU；公司基建副總裁 Nate Kupp 接受 Reuters 訪問時講到，Vera 喺 AI agent coding 工作上，約快過一般 CPU 1.5 倍。Perplexity 冇公開會買幾多粒，呢點好重要，因為而家只可以話「計劃用」，唔可以當成大規模部署已經坐實。
原文有唔少篇幅講 Nvidia 股價同 option 資金流，不過科技層面更值得睇嘅，係 AI 服務又開始重視 CPU 呢一環。以前講 AI server，大家自然諗 GPU；但搜尋、agent、code sandbox、資料整理、API 調度，全部都會食 CPU、RAM 同 I/O。GPU 夠快但前後工序塞車，token 出得幾靚都冇用。
圖片：NVIDIA
點解 CPU 會影響 AI 搜尋
Perplexity 呢類產品，背後通常要做幾輪網上攞資料、排序、去重、引用整理，再餵入模型生成答案；如果用到 agent，仲會加埋工具調用、browser automation、code 執行同結果核對。呢堆工作未必全部落 GPU，反而好多係 CPU 喺背後排隊處理。Kupp 講嘅 1.5 倍，唔應該當成所有 workload 嘅通用跑分，但足夠反映 Perplexity 真正緊張嘅樽頸。
Vera 同 Grace 差喺邊
Vera 同 Grace 最大分別，係 CPU 核心由 Arm Neoverse V2，轉做 Nvidia 自家 Olympus core。Nvidia 官方寫明 Vera 有 88 cores、Spatial Multithreading 做到 176 threads，LPDDR5X RAM bandwidth 最高 1.2TB/s。配 Rubin GPU 時，Vera 又可以用 NVLink-C2C 做最高 1.8TB/s coherent bandwidth。呢啲數字全部係官方規格，未代表 TechLab 試過。
Nvidia 官方話，Vera 系統會由 system builders 同雲端 partner 喺今年秋季起供貨，形態包括 standalone CPU server、Vera CPU rack、配 Rubin GPU 嘅 Vera Rubin 平台。Vera Rubin NVL72 官方配置係 72 粒 Rubin GPU 配 36 粒 Vera CPU，再加 ConnectX-9、BlueField-4 呢啲 networking 同 DPU。講白啲，Nvidia 想賣嘅已經唔只係一張 accelerator。
Nvidia 想包起 AI server 嘅底層
Reuters 亦提到，OpenAI、DeepSeek 呢類 AI 公司都有自研 AI accelerator 方向；雲端商又唔想所有成本都俾單一 GPU 供應商牽住。Vera 嘅策略係把 CPU、GPU、DPU、networking 同 software stack 綁埋一套，畀客戶少啲自己砌系統嘅麻煩，同時令 Nvidia 喺每個 AI request 入面都收多一層價值。
睇返 Perplexity，CoreWeave 今年 3 月已經公布 multi-year agreement，會用 dedicated Nvidia GB200 NVL72 clusters 幫 Perplexity 跑下一代 inference workload，對應 Sonar 同 Search API 生態。即係 Perplexity 早就超過普通租機層次，佢要可預測延遲、吞吐量同成本嘅專用 AI 雲端資源。Vera 加入之後，CPU 呢塊拼圖就變得明顯。
冇公開採購量，暫時唔好睇到太大
有兩個位要冷靜。第一，Perplexity 冇講會買幾多 Vera CPU，亦冇講幾時放入正式服務；Nvidia 官方只講 Vera 系統今年秋季起經 partner 供貨，所以 Perplexity 實際 rollout 時間同規模都係 [待確認]。第二，Phoronix 首輪 benchmark 雖然幾亮眼，但測試 workload 由 Nvidia 限定範圍，當時亦未開放 CPU power monitoring 同 frequency monitoring。呢啲數據有參考價值，不過唔好攞嚟概括所有 server CPU workload。
對用 AI 工具嘅人，有咩實際意思
如果 Vera 跑得好，最先感覺到嘅未必係 CPU 品牌，而係 AI 搜尋回應快唔快、agent 做多步任務會唔會中途卡住、公司買 API 時每個 request 成本壓唔壓得低。對開發者同公司 IT 嚟講，呢單消息提醒咗一件事：agent app 嘅成本唔止模型同 GPU，仲有 CPU scheduling、RAM bandwidth、storage、networking 同工具執行環境。下一步睇 Perplexity 幾時真係把 Vera 放入產品流量，同雲端 partner 會唔會開放 Vera server 畀外部客戶租用。
參考來源
- TechNews 科技新報 — 輝達 CPU 獲 Perplexity 點讚、投機客看多瘋搶買權 — original report
- Perplexity says it plans to use Nvidia’s new CPU | WTVB / Thomson Reuters — Reuters 同步稿，核對 Perplexity 計劃用 Vera、1.5 倍講法同採購規模未公開。
- NVIDIA Unveils Vera, the CPU for Agents | NVIDIA Newsroom — Nvidia 官方發布 Vera 定位、採用 partner、規格重點同供貨時間。
- Next Gen Data Center CPU | NVIDIA Vera CPU — Nvidia 產品頁，核對 88 Olympus cores、LPDDR5X bandwidth、NVLink-C2C 同 Rubin 組合。
- Infrastructure for Scalable AI Reasoning | NVIDIA Vera Rubin Platform — Vera Rubin 官方頁，核對 NVL72 架構、Vera CPU rack、sandbox 環境數字。
- CoreWeave Announces Agreement to Power Perplexity’s AI Inference Workloads — CoreWeave 官方新聞稿，補 Perplexity 早前用 GB200 NVL72 跑 inference 嘅脈絡。
- NVIDIA Vera CPU Benchmarks: Olympus Cores Delivering The Best Performance Ever Seen On ARM | Phoronix — Phoronix 首輪 Linux benchmark，同時提供測試限制，幫手平衡官方說法。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
