TAG
#推理運算
2 篇文章
TechLab 所有關於「推理運算」嘅文章、評測同教學，由最新排起。
Tech NewsOpenAI 自研 Jalapeño 晶片，ChatGPT 同 Codex 嘅成本戰開到硬件層
OpenAI 發布第一粒自研推理晶片 Jalapeño，由 Broadcom 一齊做 silicon 同 networking。OpenAI 唔係即刻唔用 NVIDIA，而係想由模型一路管到硬件，控制 ChatGPT、API、Codex 呢類工具每次回應要幾多錢、等幾耐。
2 個月前
Tech NewsGoogle 傳造 Gemini 專用 Frozen v2，目標提升 6 至 10 倍能源效率
Google 據報研究 Frozen v2 晶片，將部分 Gemini 模型架構固定喺硬件，目標以相同電力處理多 6 至 10 倍 token。數字夠搶眼，不過專用設計會綁住模型路線，亦唔代表 Gemini API 價錢會按比例下降。
2 個月前