TAG

#模型路由

5 篇文章

TechLab 所有關於「模型路由」嘅文章、評測同教學，由最新排起。

Ramp 新融資後估值達 600 億美元，並把費用管理延伸至 AI 模型路由、token 用量與 agent 支付。關鍵考驗在於企業能否把成本監控、採購權限和知識治理整合為可審計流程。

Microsoft 推出針對結構化決策的 Microsoft-Decision-1，主打為 AI Agent 選模型、分類與控制流程。它的性能與價格主張仍主要來自廠方，企業採用前須先驗證錯誤成本與路由效益。

Stripe 據報已同 OpenRouter 談妥逾 70 億美元收購，但雙方未有官方確認。呢宗交易值得睇，因為 Stripe 買到嘅除咗 AI 生意，仲有模型分發、用量數據同開發者入口；用戶就要睇實收費、路由規則、數據控制同平台會唔會繼續中立。

NVIDIA 推出 Nemotron 3.5 Lightning，同時開放模型路由工具 Switchyard。兩者瞄準同一個問題：AI agent 冇必要每一步都用最貴大模型。不過 Switchyard 仲係 pre-alpha，模型亦應準確稱為 open-weight，現階段較適合試驗同校準。

Taboola 公開 LLM 廣告審查系統 Argus 嘅設計：模型只負責推理，外圍再加多階段審查、RAG、工具、模型路由同 prompt 測試。公司聲稱處理時間由 12 小時縮到幾分鐘，不過未有完整錯誤率同跨語言數據，暫時更值得睇嘅係佢點控制上線風險。