Microsoft內部唔再追求『tokenmaxxing』:coding agent用得多,未必做得快
Tech News

Microsoft內部唔再追求『tokenmaxxing』:coding agent用得多,未必做得快

圖片:via TechNews 科技新報 — https://technews.tw/2026/08/05/microsoft-tells-engineers-tokenmaxxing-is-not-the-company-s-goal/
TechLab 編輯部(譯)·

內部開始計住 AI 開支,團隊亦要重新諗點量度 coding agent 成效

Microsoft 一路催谷員工用 AI,而家開始叫大家睇實條數。TechNews 科技新報引述內部電郵同指引報道,Microsoft 已經為各部門加入 AI token 預算目標,工程師亦可以查看自己嘅開支。公司未有公開實際目標金額,現階段亦冇證據顯示所有員工已經俾同一個硬上限截停。

用量爆升,唔代表工作做快咗

報道指,Microsoft 執行副總裁 Jay Parikh 喺內部電郵提醒員工,公司唔追求所謂「tokenmaxxing」,重點放喺 AI 有冇為產品同業務交到成果。內部指引據報顯示,部分工程師每月相關開支可去到數百至數千美元。呢個範圍來自 Microsoft 內部文件,唔係公開收費標準,文件亦冇交代涉及幾多員工。

呢番話值得留意,因為企業推廣 AI 時,好容易攞登入人數、prompt 數量或者 token 用量交功課。呢類數字只證明工具有人開過,睇唔到工程師有冇提早完成工作、減少 bug,或者最後要花幾耐執 AI 生成嘅程式碼。當 agent 可以自己連續跑幾十分鐘,用量甚至會同實際成果完全脫節。

Coding agent 點解咁容易狂燒 token

一般聊天工具答一次就停,coding agent 就會先讀 repository、載入指示、規劃步驟,再反覆搜尋檔案、呼叫工具、跑測試同修正錯誤。每行一輪,系統都可能重新帶入部分對話、程式碼同工具定義。Microsoft 官方架構文件亦指出,累積 context、工具結果同重新規劃會增加模型回合,直接推高成本同延遲。

問題喺長任務特別明顯:agent 讀錯方向之後,可以不停搜尋同重試;測試環境本身壞咗,佢亦可能繼續兜圈。模型睇得多、諗得耐,結果未必會同步改善。工程團隊最好預先設最大回合、執行時間同停止條件,遇到重複錯誤就交返畀人處理,固定格式轉換、檔案搬動呢類工作則交畀 script 做。

預算要跟團隊用途分,唔好人人一刀切

Microsoft 據報會把成本較低嘅 GPT-5.6 設成內部預設模型,相關講法同樣來自內部指引,Microsoft 暫時冇正式回應。實際管理上,平模型可以處理搜尋、分類、簡單改動同測試摘要;架構判斷、大型重構或者難解 bug,先按情況升級模型。全部工作都長開高價推理模型,通常只會令帳單升得快過產出。

GitHub 公開文件顯示,Copilot Business 同 Enterprise 客戶可以按個人、cost center、組織及企業層級管理 AI credits;個人預算屬硬上限,其他部分預算則要啟用停止使用設定先會真正截數。呢套公開功能同 Microsoft 員工內部安排係兩回事,不過管理思路相通:先有全員基本額,再按團隊工作量調整,研究或大型遷移項目可以獨立批額,亦要保留臨時加額機制,免得工程做到一半突然停機。

應該計每項任務成本

最實用嘅指標係 cost per completed task:一張真正完成同獲接納嘅 ticket,總共用咗幾多模型費、工程師時間同重做成本。旁邊再睇完成時間、測試通過率、人工修改幅度、回退次數,同 AI 建議最後有幾多獲採用。咁先分得到某個 agent 真係慳時間,抑或只係將寫程式變成監督同收拾殘局。

Microsoft 呢次內部轉向,反映 AI 工具開始成為日常營運成本,公司亦要像管理其他雲端資源咁管理開支。有買 Copilot、Claude Code 或 API 額度嘅公司,可以先檢查長時間 agent loop、模型路由同團隊預算,再用幾個月任務數據調整限額,總好過月底先望住 token 圖表估有冇成效。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook