工程師都要有 token 上限?AI coding 開支由人頭訂閱改做用量管理
Tech News

工程師都要有 token 上限?AI coding 開支由人頭訂閱改做用量管理

圖片:via TechCrunch — https://techcrunch.com/2026/07/14/metas-adam-mosseri-says-ai-token-budgets-could-soon-be-capped-per-engineer/
TechLab 編輯部(譯)·

Mosseri 估一兩年後可能要設上限,企業亦開始加強 AI 用量同預算管理

Mosseri 講嘅係預測,Meta 而家冇落實封頂

Instagram 負責人 Adam Mosseri 喺 Lenny’s Podcast 話,佢估再過一兩年,一個勁工程師燒嘅 AI token 成本,可能追近人工或者整體僱用成本。去到嗰個量級,公司就要似分 GPU、RAM、headcount 同日常營運開支咁,按團隊同人分 token 預算。不過有個關鍵限定:Meta 而家冇畀任何員工設 token 上限,呢番話係 Mosseri 對未來嘅預測,唔係 Meta 已公布嘅政策。

TechCrunch 引述其他報道指,Meta 因開支壓力停咗內部 token 用量排行榜;Mosseri 就話團隊停低一啲純燒 token、冇乜產值嘅做法後,成本收返少少。排行榜只反映 token 用量,睇唔到用咗之後有冇實際產出。用量一變成 KPI,人自然會多開 agent、拉長 context、反覆跑任務,條曲線好睇咗,交付功能、可靠度同收入未必跟住升。

橙色背景上,一隻手伸向階梯形圖表嘅 Anthropic 插畫

圖片:Anthropic

包月仲喺度,帳單已經跟用量走

供應商其實已經行先一步。OpenAI 今年 4 月改咗 Codex credits,直接跟 input、cached input 同 output token 計;Anthropic 嘅企業方案可以喺機構同個人層面設額外用量上限;GitHub Copilot 就用共享 AI credits,官方文件仲提醒,一個重度用家或者自動 agent session 可以喺月頭食走大截額度。所以單睇每個 seat 嘅月費唔夠,實際開支仲會受模型、context、任務步數同重試次數影響。

呢個分別喺 coding agent 特別明顯。普通 code 補全通常行一兩步,agent 就要讀 repo、叫工具、跑測試、寫返結果入 context,再按錯誤重試;每一輪都可能帶住之前嘅內容。同時跑幾條任務支線,成本亦會一齊倍增。一個睇落好細嘅 bug,如果 agent 不斷掃全個 repo、測試失敗又重跑,就算模型每百萬 token 平咗,總帳單一樣可以升得好快。

公司可以點樣設條線

第一步可以先收集四星期基線,將用量按團隊、repo、客戶或產品、模型同任務類型拆開。之後畀團隊月度預算,再設一條所有人都有嘅個人保護線,例如用到 70% 提示、90% 要確認、100% 停低。基線未清楚嗰陣,唔好一開波就畀全部工程師同一個死額:救 production、整理舊 code 同寫文件,本身就會有好唔同嘅 token 曲線。

任務層煞車同樣重要。每個 agent 任務都可以限制最大回合、總時限、重試次數、同時支線數量同 token 額度;同一個錯誤連續出現,就停低,保留 log 同 context 摘要,等人決定使唔使加碼。咁先擋到最常見嘅漏洞:一個人同時開幾個視窗,逐個都未撞個人上限,加埋就已經燒穿團隊預算。

模型亦唔使一刀切。搜尋檔案、補測試同整理文件可以先用平啲嘅模型,架構、安全問題同最後覆核先升級。成效就睇每個完成任務或 merged change 嘅成本,旁邊一齊睇 review 時間、執漏、rollback 同 bug 數量;失敗任務花咗幾多都要記低。只數 LOC、PR 或 token,最後好易再做出另一個用量排行榜。

每人 cap 只夠做保險線

按人頭封頂始終好粗:同一個工程師今個月可能救緊十年舊系統,下個月只係改文件,兩段用量冇得直接相比;CI bot、共享 agent 同自動 code review 亦未必容易算落某一個人。穩陣啲嘅做法係個人設安全上限,產品或客戶項目另分可加碼預算,重度用家再用交付結果申請例外。細團隊同自由工作者都用得着呢套,尤其做 fixed-price project,最好喺超額前確認,免得 agent 成本食晒毛利。下一步要睇 Meta 會唔會正式設 cap,同企業會唔會開始用每個完成任務嘅成本去揀模型。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook