TAG
#AI 推理
2 篇文章
TechLab 所有關於「AI 推理」嘅文章、評測同教學，由最新排起。
Tech NewsZML/LLMD 免費出招：自架 AI 模型想平啲，先要甩開 GPU 鎖定
法國 AI startup ZML 推出免費 LLMD，想用同一個 inference server 跑 NVIDIA、AMD、TPU、Intel 同 Apple Metal。對用開自架 LLM 嘅 team，吸引位係減少 CUDA 綁定；但性能同收費都未清楚，暫時只啱測試。
3 小時前
Tech NewsGroq 傳再籌 6.5 億美元：AI 推理雲端開始打成本戰
Groq 傳向現有投資者籌集最多 6.5 億美元，重心由 AI 晶片轉向 inference cloud。呢件事對香港 startup、SME 同開發者嘅真正意思，不是又一單矽谷融資，而係 AI agent、客服 bot、文件處理同粵語 workflow 嘅 API 成本、速度同供應商穩定性可能開始重新洗牌。
1 個月前