Ramp數據:AI token用量升,企業帳單增長放緩
Tech News

Ramp數據:AI token用量升,企業帳單增長放緩

圖片:TechLab
TechLab 編輯部(譯)·

企業可能正更頻密使用生成式 AI,卻未必同步增加帳單。TechCrunch 引述企業支出平台 Ramp 的數據稱,8月至9月的 AI token 支出僅增長 1.5%,遠低於7月按月增長的42%;10月23日相較9月23日則回升8.9%。

不過,這些只是 Ramp 的第三方支付數據,報道未交代樣本範圍、統計方法或能否代表整個企業市場;而且文中部分定價、財務與估值說法主要來自受訪者及其他媒體報道。因此,數字較適合用來觀察一種成本趨勢,不能直接推論整體 AI 需求或個別供應商的收入表現。

用量與收入開始脫鈎

Ramp 首席經濟學家 Ara Kharazian 向 TechCrunch 表示,放緩不代表需求減弱,token 使用量仍在增加;關鍵在於企業完成相同或更多工作所需支付的單價正在下降。報道指 OpenAI 和 Anthropic 曾下調部分 API 價格,並提供企業折扣;同時,市場上有更多低價或開放模型選項。

這種變化對 AI coding agents 尤其重要。編程工作通常會產生大量、持續的模型呼叫,團隊採用 agent 後,token 用量可以迅速上升;但若開發流程能把簡單任務交給較便宜模型,或只在複雜環節調用高階模型,總開支未必按使用量同比例增加。

按 Ramp 的描述,最積極採用 AI 的前1%企業在夏季高位時,每名員工每月 AI 支出接近1萬美元,8月及9月略為回落。中位數企業則約為每名員工每月12至15美元,支出最高的10%企業約為600至1,000美元。這組分布意味著,少數高用量客戶的採購調整已足以拉低整體增速;但由於資料涵蓋範圍未明,不能把它視為所有行業的固定規律。

開發團隊的成本控制重點

從報道所述趨勢推論,開發團隊選模型時,焦點會由「哪個模型能力最高」延伸至「哪類工作值得用高價模型」。實務上可把任務分層:

  • 對輸出正確性、程式碼審核或複雜推理要求較高的工作,才保留給較昂貴的模型。
  • 針對分類、簡單問答、格式轉換等較固定工作,優先測試成本較低的模型。
  • 為長時間運行的 agent 設定預算、用量上限及監察機制,避免單次流程失控累積 token。
  • 以模型路由按任務難度分流,而非讓所有請求預設使用同一高階模型。

上述做法不保證成本一定下降,因為較便宜模型若帶來較多錯誤、重試或人工覆核,節省的 API 費用可能被後續工時抵銷。團隊應以完成任務的總成本、品質及處理時間比較,而非只看每 token 單價。

下一步看高用量客戶會否重投資

Ramp 的數據所呈現的,是 AI 市場由「先擴大使用」走向「按工作負載精打細算」的早期訊號。對模型供應商而言,價格競爭可推高使用量,卻未必即時推高收入;對採購方而言,選擇增加則有更大議價空間。

接下來值得觀察的,是 AI coding agents 是否會持續擴大到更多日常開發流程,以及高用量企業在節省單位成本後,會否把預算投向新的工作負載。這將較單看 token 數量,更能反映企業 AI 支出的下一個方向。

延伸閱讀

AI 輔助說明: 本文由 AI 協助整理。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook