開源 AI 食走大量 token,Claude 點解仲守得住企業最貴嗰段
Tech News

開源 AI 食走大量 token,Claude 點解仲守得住企業最貴嗰段

圖片:via TechCrunch — https://techcrunch.com/2026/07/07/why-the-rise-of-open-source-ai-isnt-hurting-anthropic-yet/
TechLab 編輯部(譯)·

平模型跑量,前沿模型仲留喺難題同早期試用

開源模型跑量,Claude 跑錢

開源模型今次唔係淨係聲勢大,喺開發者同企業用量上真係食得好快。TechCrunch 7 月 7 日整理 Decagon CEO Jesse Zhang 嘅講法,重點係一個幾反直覺嘅現象:成熟用途慢慢轉去平啲、細啲、甚至開源嘅模型,但前沿模型嘅花費冇即刻跌。講白啲,平模型攞走「量」,Claude 呢類貴模型仲攞住又難又貴嗰段。

Vercel AI Gateway 7 月 7 日數據幾清楚:DeepSeek 喺 token 份額大約 33.6%,Anthropic 約 20.7%;但按花費計,Anthropic 反而有約 54.0%,DeepSeek 只有約 2.5%。呢個頁面只代表 Vercel 自家 gateway 流量,唔等於全個市場,不過方向好明顯:平模型可以跑大量文字同一般任務,但企業最後畀最多錢嗰批 token,暫時仲係流向 Anthropic、OpenAI、Google 呢啲前沿供應商。

Vercel AI Gateway 模型排行榜嘅官方產品頁配圖

圖片:Vercel

OpenRouter 個榜都講緊同一件事

OpenRouter 嘅模型榜再補多個角度。佢 7 月 6 日 API 數據顯示,DeepSeek V4 Flash 排行榜上處理約 5.36 萬億 token,Claude Opus 4.8 約 2.10 萬億 token;TechCrunch 再引用 OpenRouter 顯示嘅平均 token 成本,話 Opus 4.8 大概貴過 V4 Flash 23 倍。OpenRouter 冇直接按總花費排模型,所以呢度唔好當成收入榜,但用量同單價放埋睇,就明白點解 Anthropic 仲未俾開源模型打穿。

Anthropic Claude 模型總覽文件嘅官方頁面配圖

圖片:Anthropic

點解貴模型仲有位

企業買 AI 唔似玩 chatbot 咁簡單。客服自動回覆、內容分類、摘要、資料抽取,做熟咗之後好容易轉去平模型;但寫 code、長文件分析、agent 連住內部工具做幾步決策,風險就高好多。Anthropic 自己嘅模型文件,都將 Opus 4.8 定位喺複雜 agentic coding 同企業工作流,Claude Code 文件亦寫明佢會讀 codebase、改檔、跑 command、接 terminal、IDE、desktop app 同 browser。呢啲場景一錯,影響唔止回覆樣衰,仲可能係改錯 repo、漏測試、開錯權限。

分界線要睇任務有幾新、有幾亂、有幾難驗證,開唔開源只係一項條件。新用途通常冇好乾淨嘅評分方法,團隊會想用最強模型先試出可行做法;到 prompt、資料格式、失敗處理、人工覆核都定咗,先有空間轉去 DeepSeek、Z.ai、Nvidia Nemotron 呢類平模型,甚至自架。Jesse Zhang 嗰個講法有用,就係因為佢將「探索」同「大量運行」拆開睇。

自架唔等於免費午餐

放返公司 IT 同開發團隊,其實揀模型多數會分層,未必一次過換晒。API 貴,但有人幫你處理 uptime、版本、雲端地區、企業合約同 support;自架或私有部署 token 單價可以低好多,但 GPU、MLOps、監控、權限、審計、資料保留、備援全部要自己埋單。香港 SME 如果只係想幫客服草擬回覆、整理 FAQ、做內容初稿,平模型好吸引;但如果係 coding agent、財務文件、客戶資料查詢,慳 token 錢之前要先計出錯成本。

另一個容易忽略嘅位係鎖定成本。前沿模型貴,但 API、SDK、工具調用、權限設定、log、監控、billing 已經砌得成熟;開源模型平,但每次模型更新都可能影響輸出格式、tool call 穩定度同延遲。公司真係要做成本優化,應該先將任務拆細:高風險、低容錯、要長 context 嘅留俾 Claude 或同級模型;高量、規則清楚、可以抽樣覆核嘅先慢慢搬去平模型。

下一步睇企業任務有幾快搬走

Anthropic 而家未傷得深,原因唔難明:AI 新用途一路湧出嚟,每一批新場景都會先試最強模型;同時 coding agent 同企業工具接入,令 Claude 可以食到高價 token。問題係開源陣營追得快,當 DeepSeek、Z.ai、Nvidia 呢類模型喺長 context、tool call、穩定輸出同企業部署上再近一步,前沿模型可以收高價嗰段會縮窄。

對用 AI 嘅團隊,最實際嘅做法係先記帳:邊啲任務真係靠 Claude 先穩,邊啲只係歷史原因一路用緊貴 API。記低每類任務嘅錯誤率、人工覆核時間、延遲同 token 成本,先試小規模轉平模型。開源 AI 會繼續食量,但 Anthropic 會唔會要減價,要睇企業最貴嗰批任務有幾快搬得走。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook