RTX 2080 Ti 改焊至 22GB:平價本地 AI 卡有容量,速度同風險點計?
3C 產品

RTX 2080 Ti 改焊至 22GB:平價本地 AI 卡有容量,速度同風險點計?

圖片:via Tom's Hardware — https://www.tomshardware.com/pc-components/gpus/japanese-repair-shop-sells-gddr6-vram-upgrades-for-usd25-per-gb-during-memory-crisis-rtx-2080-ti-modded-to-22gb-for-just-usd282-double-the-vram-creates-a-budget-ai-powerhouse
TechLab 編輯部(譯)·

日本店收 45,000 日圓升級,跑到幾大模型,同舊架構有幾慢,要分開睇

45,000 日圓買多 11GB VRAM

日本 Mercari 賣家「Ai向GPU 専用家」開始替 RTX 2080 Ti 將 VRAM 由 11GB 改成 22GB,Tom’s Hardware 引述店方回覆,服務收 45,000 日圓,按報道嘅美元換算再粗略折算約 HK$2,200。店方亦曾以 65,000 日圓賣出一張改好嘅 MSI RTX 2080 Ti 22GB,約 HK$3,300。另一邊,報道早前見過香港賣家以約 US$500,即約 HK$3,900,放售渦輪式散熱改裝卡。

價錢睇落吸引,不過原報道有條數對唔上。店方話收到 200 粒 Samsung 2GB GDDR6,RTX 2080 Ti 每張要換 11 粒,照計只夠改 18 張卡,剩兩粒;Tom’s Hardware 寫成可改 36 張,應該係將淨增加嘅 11GB 當成記憶體用量計咗。呢個錯誤唔影響 45,000 日圓報價,但亦提醒大家,暫時主要資料都係店方帖文同商品頁,未有第三方拆卡核實或長期測試。

RTX 2080 Ti 改焊至 22GB:平價本地 AI 卡有容量,速度同風險點計?

圖片:Wikimedia Commons — Fritzchens Fritz from Berlin(CC0)

22GB 到底裝得落咩模型

以純模型權重粗略計,FP16 每個參數約佔 2 bytes,所以 7B、8B 模型大概用 14GB 至 16GB,22GB 卡尚有空間留畀 runtime、activation 同 KV cache;20B 至 32B 模型壓到 4-bit,權重理論上約 10GB 至 16GB,亦有機會整個放入 GPU。實際上量化格式、context 長度、batch size 同軟件開銷都會食 VRAM,見到權重細過 22GB,唔代表一定開得到最長 context。至於 70B 模型,單計 4-bit 權重已約 35GB,單卡照樣裝唔落。

多出嗰 11GB 對本地 LLM inference、SDXL 工作流同細模型 LoRA 微調有實際用途,最明顯係減少模型卸載去系統 RAM。不過完整訓練另一回事:Hugging Face 嘅記憶體說明顯示,訓練仲要擺 optimizer state、gradient 同 activation,佔用遠高過淨權重。將呢張卡叫做「AI powerhouse」有啲過火,佢比較似一張容量鬆動咗嘅舊 AI 卡。

容量加倍,Turing 核心冇變

NVIDIA 官方規格顯示,RTX 2080 Ti 仍然係 2018 年 Turing 卡,原裝有 4,352 個 CUDA core、616GB/s 記憶體頻寬同 250W 顯示卡功耗。改裝只換容量較大嘅 GDDR6 晶片,頻寬同核心速度唔會跟住升。遊戲遇到 GPU 核心樽頸時,多出嘅 VRAM 幫助有限;AI inference 就算避過爆 VRAM,出 token 速度仍受舊核心同 616GB/s 頻寬限制。

軟件兼容亦要計。RTX 2080 Ti 屬 compute capability 7.5,vLLM 文件顯示 Turing 可用 AWQ、GPTQ、bitsandbytes 同 GGUF,但 Marlin 同 FP8 路徑唔支援。社群已有雙 22GB 改卡跑 Qwen 27B 嘅測試,不過相關工具箱明講自己唔係官方支援表,而且數據來自雙卡、特製 patch 同指定設定,唔可以直接套落單卡。新框架更新一次,舊 SM75 要另外調校甚至等 patch,呢筆時間成本好多人買之前冇計。

同新卡比,要睇整套成本

如果手上已有運作正常嘅 RTX 2080 Ti,約 HK$2,200 換容量,條數尚算有討論空間;如果要先買二手卡再改,Tom’s Hardware 估計總數會超過 US$500。較新嘅 RTX 5060 Ti 16GB 官方功耗係 180W,架構同低精度運算支援新得多,不過少咗 6GB VRAM;RTX 3090 有 24GB、compute capability 8.6 同較闊頻寬,支援嘅運算格式同工具多好多,但功耗升至 350W,而且 2026 年大容量二手卡報價波幅好大。買家最好用同一日實際成交價,加埋火牛、散熱同電費再比較。

改焊卡唔適合當普通二手卡買

呢類工程要拆走 11 粒 BGA 記憶體、焊上新晶片,再處理 memory strap 或 VBIOS。焊點、晶片批次、thermal pad 接觸、供電老化同長時間滿載溫度,任何一項出事都可以造成花畫面、driver crash 或計算錯誤。店方商品頁只寫已確認運作同接受故障退貨,未交代 burn-in 時數、測試項目、保養期;多年舊卡本身亦可能有未知使用史。香港寄去日本埼玉做升級、來回運費、稅項、收唔收海外件同售後安排,暫時全部未確認。除非賣家肯提供逐張壓力測試、退貨條款同卡身記錄,否則只應該當呢類產品係實驗性硬件,唔好放入每日要交貨嘅工作機。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook