1 篇文章
TechLab 所有關於「GPU 成本」嘅文章、評測同教學,由最新排起。
法國 AI startup ZML 推出免費 LLMD,想用同一個 inference server 跑 NVIDIA、AMD、TPU、Intel 同 Apple Metal。對用開自架 LLM 嘅 team,吸引位係減少 CUDA 綁定;但性能同收費都未清楚,暫時只啱測試。