TAG

#模型路由

3 篇文章

TechLab 所有關於「模型路由」嘅文章、評測同教學，由最新排起。

Stripe 據報已同 OpenRouter 談妥逾 70 億美元收購，但雙方未有官方確認。呢宗交易值得睇，因為 Stripe 買到嘅除咗 AI 生意，仲有模型分發、用量數據同開發者入口；用戶就要睇實收費、路由規則、數據控制同平台會唔會繼續中立。

NVIDIA 推出 Nemotron 3.5 Lightning，同時開放模型路由工具 Switchyard。兩者瞄準同一個問題：AI agent 冇必要每一步都用最貴大模型。不過 Switchyard 仲係 pre-alpha，模型亦應準確稱為 open-weight，現階段較適合試驗同校準。

Taboola 公開 LLM 廣告審查系統 Argus 嘅設計：模型只負責推理，外圍再加多階段審查、RAG、工具、模型路由同 prompt 測試。公司聲稱處理時間由 12 小時縮到幾分鐘，不過未有完整錯誤率同跨語言數據，暫時更值得睇嘅係佢點控制上線風險。