TAG
#GPU server
2 篇文章
TechLab 所有關於「GPU server」嘅文章、評測同教學，由最新排起。
Tech NewsNvidia Rubin 改用 45°C 液冷：AI data center 慳水講法要點睇
Nvidia 話 Rubin generation 參考設計用全液冷封閉迴路，coolant 可以去到 45°C，data center 用水近乎歸零。不過呢個係官方講法，真正要睇建造成本、電力來源同雲端服務點計數。
1 個月前
Tech NewsZML/LLMD 想拆 CUDA 綁死，企業私有 LLM 部署多一個硬件選擇
ZML 推出 LLMD alpha，官方話同一套推論 server 可跑 NVIDIA、AMD、TPU、Intel 同 Apple Metal。賣點係幫企業試唔同 AI 晶片，減少 CUDA 綁定；但 LLMD 暫時未開源，效能數字亦主要嚟自官方。
2 個月前