Vercel 想拆開 model 同 agent：AI 產品成本開始見真章
CEO 訪問同 Gateway 數據，睇 agent 點樣產品化
Vercel 今次想講控制權
TechCrunch 訪問入面，Guillermo Rauch 拎 Vercel 嘅用量講 production AI：平台而家每日有 600 萬次 deployment，當中一半由 coding agents 觸發，AI Gateway 每日處理超過 1 萬億 token。呢啲數字聽落有啲 PR 味，不過有用嘅位係，Vercel 企喺 model call、deploy、logs、sandbox 中間，睇到 AI app 上 production 之後邊度燒錢、邊度拖慢、邊度容易出事。
圖片：Vercel
拆開 model 同 agent，因為錢開始痛
Rauch 嘅講法係，舊年大家忙住 prototype，今年先開始睇 price/performance。以前好多團隊會話全套用 OpenAI 或 Anthropic，咁簡單、採購都易；而家真係有用量，model 就要當零件揀：分類、摘要、資料抽取可以搵平啲嘅 model，推理、寫 code、處理客戶高風險操作先用貴 model。呢個正正係 Vercel AI Gateway 想食嘅位置：單一 API key、budget、usage monitoring、fallback，同一個 app 可以換 provider，唔使每次改到成個 codebase。
圖片：OpenAI
數據唔撐 model 崇拜
Vercel 自己份 AI Gateway Production Index 仲直接：2026 年 5 月 token 用量按月升 20%，spend 升 43%；DeepSeek token share 由 4 月低過 1% 跳到 17%，但 spend share 近 1%。coding agent 類別入面，DeepSeek 佔 49% token volume、4% 成本，Anthropic 佔 28% token、70% 成本。呢份數係 Vercel 客戶樣本，唔可以當全行業，不過方向幾清楚：production team 開始用平 model 扛大量例行 task，貴 model 留畀失手成本高嘅位。
Agent 產品化唔只 prompt
Agent 真係入公司內部系統，麻煩位落喺權限、audit trail 同隔離，多過 prompt 寫得靚唔靚。Rauch 講 Vercel 內部用 Eve 寫 instructions 同 skills，官方頁面而家亦定位 Eve 做 agent framework：Markdown 寫 instructions / skills，TypeScript 寫 tools，再接 AI Gateway、Sandbox、Workflows、Connect。Sandbox 嗰邊，Vercel 主打 microVM、network policy、credentials brokering，意思係 agent 可以做嘢，但唔應該直接攞住 production secret 四圍跑。Vercel Agent docs 再講到 dashboard chat、investigation 同 approved actions 喺 Pro / Enterprise public beta，預設 read-only，要升權就先交 scoped plan 等人批。
OpenAI 方向剛好相反
另一邊，OpenAI 6 月推出 Codex Sites preview，官方講明 Codex 可以建立、儲存、deploy 同 inspect 由 OpenAI hosting 嘅網站、web app 同 game，Business / Enterprise team 可以用 ChatGPT workspace 權限分享。呢個方向同 Vercel 有衝突：OpenAI 想由 model、agent 到 hosting 都留喺 ChatGPT 內；Vercel 就推一層 orchestration，畀你喺 OpenAI、Anthropic、Gemini、DeepSeek 之間換。對企業 IT 嚟講，前者快，後者可控性高啲，最後要睇資料、合規同成本表點算。
香港 team 可以點落手
如果你間 startup 或 in-house dev team 已經行 Next.js / Vercel，AI SDK 加 Gateway 係幾順手嘅起點：先用同一層 API 抽走 provider 差異，每個 task 記低 token、latency、錯誤率，再按任務拆 model。客服 FAQ、報表摘要、CRM 查詢可以先試平 model；牽涉付款、合約、code patch、客戶資料嘅步驟，就要加 human approval、budget cap、provider allowlist 同 audit log。最忌係為咗快，直接畀 agent 一條萬能 admin key，之後先發現成本同資料外流一齊爆。
下一步睇咩
Vercel 呢次講法有 sell 自家平台嘅成分，尤其係擺自己去到新一代 AWS 咁高，聽住先。但 production AI 呢條線係真：model 能力升得快，agent 可靠度、成本、latency、權限邊界未必追得切。接住要睇 Vercel Agent、Eve 同 Sandbox 可唔可以喺真公司環境頂住複雜權限，同 AI Gateway 嘅 routing 規則會唔會夠透明，畀團隊知道每一蚊 token 錢花咗喺邊。
參考來源
- TechCrunch — Vercel CEO Guillermo Rauch on the fight to split off models from agents — original report
- DeepSeek enters the fight for token volume, Anthropic continues to dominate spend — 用嚟核對 2026 年 5 月 AI Gateway token share、spend share、DeepSeek 同 Anthropic 成本差異。
- AI Gateway documentation — 核對 AI Gateway 支援單一 API、budget、usage monitoring、fallback、BYOK 同 provider control。
- How to build AI Agents with Vercel and the AI SDK — 核對 AI SDK 點樣用 tool calling / multi-step agent 接 model 同部署。
- eve – The Agent Framework — 核對 Eve 產品定位、instructions / skills / tools / sandbox / subagents 係點包成 agent framework。
- Sandbox - Vercel — 核對 Vercel Sandbox 嘅 isolation、network policy、credentials brokering 同 active CPU pricing 講法。
- Vercel Agent documentation — 核對 Vercel Agent public beta、dashboard context、sandbox validation、read-only 預設同 approval model。
- Sites – Codex — 補競品背景：Codex Sites 由 OpenAI hosting，Business / Enterprise preview，可用 ChatGPT workspace 分享。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
