#CUDA
6 篇文章
TechLab 所有關於「CUDA」嘅文章、評測同教學,由最新排起。
Tech News中國 AI 晶片規格追近仍難換走輝達,卡位喺軟件兼容同叢集穩定
中國 AI 公司想將更多推理工作搬去國產晶片,不過換硬件牽涉框架兼容、自訂算子、除錯工具同叢集穩定。部分工作可以順利搬走,高價值服務就傾向繼續用輝達,背後考慮係遷移成本同服務風險。
3C 產品二手 Tesla V100 變本地 LLM 神卡?32GB VRAM 平價背後有幾多伏
二手 Tesla V100 32GB 價錢跌到低過 RTX 3090,仲多 8GB VRAM,跑大型本地 LLM 確實吸引。不過 Volta 支援正逐步退場,加上被動散熱、冇顯示輸出同二手風險,呢張卡只適合肯自己執環境同改機嘅玩家。
Tech News華為 AI 晶片一年取代 Nvidia?流傳講法仲欠效能、耗電同生態實證
網上流傳嘅梁文鋒投資者會議稿,將華為 Ascend 950 描繪成 Nvidia 替代方案。不過由晶片效能、用電、供應到 CUDA 遷移成本,多項關鍵數字都未有一手確認,一年內擺脫 Nvidia 仍然只係進取預測。
Tech NewsAMD 用 2GW MI450 搶 Anthropic 訂單,CUDA 壟斷未到鬆動時
Anthropic 計劃由 2027 年上半年開始部署 AMD MI450 系列 GPU,規模最多 2GW;AMD 亦承諾投資最多 50 億美元。大銀碼幾搶眼,但呢單合作更值得睇嘅位,係 Anthropic 會直接幫手調校 ROCm,測試 AMD 能否由硬件後備變成長期 AI 平台。
Tech NewsRTX Spark 未到先開預覽,Windows on Arm 嘅 CUDA 生態要提早補課
NVIDIA 趕喺 RTX Spark 硬件推出前,先放出開發者 driver 同 CUDA Toolkit 13.4 預覽版。開發者可以用現有 Windows on Arm 裝置準備 Arm64/Arm64EC app,但 PyTorch、記憶體傳輸同除錯工具仍有已知問題,距離完整穩定嘅本機 AI workflow 仲有一段路。
Tech NewsSurface Laptop Ultra:NVIDIA 把 CUDA 帶入 Windows on Arm,香港用家應唔應該等?
Microsoft 同 NVIDIA 公布 Surface Laptop Ultra,用 Arm-based RTX Spark 將 CUDA、Blackwell RTX GPU 同最高 128GB unified memory 放入 Windows 手提電腦。重點唔止係最強 Surface,而係本機 AI agent、創作者工作流同 Windows on Arm 軟件相容性終於正面交鋒。香港買家暫時要等港行價、保養同上市時間確認。