TAG

#CUDA

6 篇文章

TechLab 所有關於「CUDA」嘅文章、評測同教學,由最新排起。

中國 AI 晶片規格追近仍難換走輝達,卡位喺軟件兼容同叢集穩定Tech News

中國 AI 晶片規格追近仍難換走輝達,卡位喺軟件兼容同叢集穩定

中國 AI 公司想將更多推理工作搬去國產晶片,不過換硬件牽涉框架兼容、自訂算子、除錯工具同叢集穩定。部分工作可以順利搬走,高價值服務就傾向繼續用輝達,背後考慮係遷移成本同服務風險。

22 天前
二手 Tesla V100 變本地 LLM 神卡?32GB VRAM 平價背後有幾多伏3C 產品

二手 Tesla V100 變本地 LLM 神卡?32GB VRAM 平價背後有幾多伏

二手 Tesla V100 32GB 價錢跌到低過 RTX 3090,仲多 8GB VRAM,跑大型本地 LLM 確實吸引。不過 Volta 支援正逐步退場,加上被動散熱、冇顯示輸出同二手風險,呢張卡只適合肯自己執環境同改機嘅玩家。

2 個月前
華為 AI 晶片一年取代 Nvidia?流傳講法仲欠效能、耗電同生態實證Tech News

華為 AI 晶片一年取代 Nvidia?流傳講法仲欠效能、耗電同生態實證

網上流傳嘅梁文鋒投資者會議稿,將華為 Ascend 950 描繪成 Nvidia 替代方案。不過由晶片效能、用電、供應到 CUDA 遷移成本,多項關鍵數字都未有一手確認,一年內擺脫 Nvidia 仍然只係進取預測。

2 個月前
AMD 用 2GW MI450 搶 Anthropic 訂單,CUDA 壟斷未到鬆動時Tech News

AMD 用 2GW MI450 搶 Anthropic 訂單,CUDA 壟斷未到鬆動時

Anthropic 計劃由 2027 年上半年開始部署 AMD MI450 系列 GPU,規模最多 2GW;AMD 亦承諾投資最多 50 億美元。大銀碼幾搶眼,但呢單合作更值得睇嘅位,係 Anthropic 會直接幫手調校 ROCm,測試 AMD 能否由硬件後備變成長期 AI 平台。

2 個月前
RTX Spark 未到先開預覽,Windows on Arm 嘅 CUDA 生態要提早補課Tech News

RTX Spark 未到先開預覽,Windows on Arm 嘅 CUDA 生態要提早補課

NVIDIA 趕喺 RTX Spark 硬件推出前,先放出開發者 driver 同 CUDA Toolkit 13.4 預覽版。開發者可以用現有 Windows on Arm 裝置準備 Arm64/Arm64EC app,但 PyTorch、記憶體傳輸同除錯工具仍有已知問題,距離完整穩定嘅本機 AI workflow 仲有一段路。

2 個月前
Surface Laptop Ultra:NVIDIA 把 CUDA 帶入 Windows on Arm,香港用家應唔應該等?Tech News

Surface Laptop Ultra:NVIDIA 把 CUDA 帶入 Windows on Arm,香港用家應唔應該等?

Microsoft 同 NVIDIA 公布 Surface Laptop Ultra,用 Arm-based RTX Spark 將 CUDA、Blackwell RTX GPU 同最高 128GB unified memory 放入 Windows 手提電腦。重點唔止係最強 Surface,而係本機 AI agent、創作者工作流同 Windows on Arm 軟件相容性終於正面交鋒。香港買家暫時要等港行價、保養同上市時間確認。

3 個月前