TAG

#token 成本

4 篇文章

TechLab 所有關於「token 成本」嘅文章、評測同教學，由最新排起。

Ramp 將內部用咗三年嘅 LLM router 開放畀外界，用一個 API 接駁多款模型，按成本、速度同表現分流請求。整合的確簡單，不過 30% 慳費數字只係官方內部結果，模型選擇、資料保存同地區限制都要睇清楚。

404 Media 引述 Accenture leaked audio，話非工程團隊用 AI 做 PDF 轉 slides 呢類小任務，都可以燒走大量 token。重點係成本管理：公司要分清邊啲工作值得開貴模型，邊啲用平價模型、模板或者自動化已經夠。

美國陸軍開放 Ask Sage「不限量」使用後，中央 token 池不足一個月就要重新設限。事件未有公開實際支出，亦唔足以證明 AI 用得太多，但就提醒公司：開放 AI 工具之前，要計清楚配額、工作成果同核對成本。

Anthropic 推 Claude Sonnet 5，主攻 coding agent 同多步任務。價錢睇落低過 Opus 4.8，但新 tokenizer 令同一段 prompt token 數可能高咗，企業同開發 team 要重計每次任務成本。