舊 Windows laptop 變全屋 AI:8GB RAM 跑到,免費同私隱都有代價
3C 產品

舊 Windows laptop 變全屋 AI:8GB RAM 跑到,免費同私隱都有代價

圖片:via XDA Developers — https://www.xda-developers.com/laptop-private-ai-assistant-whole-house-not-paying-cloud-subscriptions/
TechLab 編輯部(譯)·

Ollama 加 Open WebUI 嘅實際要求、連線方法同長開成本

XDA 作者 Anurag Singh 將一部擺埋一邊嘅 Lenovo laptop,變成屋企人共用嘅本地 AI。部機用 Ryzen 5 5500U 同 8GB RAM,冇靠獨立 GPU;Ollama 負責跑模型,Open WebUI 就提供似一般聊天 AI 嘅介面。呢個玩法吸引嘅位係一部機畀多部手機、平板同電腦共用,laptop 本身塊電池仲可以頂住短暫停電,幾啱舊機再利用。

8GB 跑得起,模型選擇就收得好窄

原文最後揀咗 Qwen3 4B 嘅 Q4 量化版本。Ollama 模型庫顯示,qwen3:4b Q4_K_M 下載量約 2.6GB,而 qwen3:8b Q4_K_M 已經去到約 5.2GB。模型檔案大小又唔等於實際 RAM 佔用,運算時仲要預留 context、快取、Windows、Docker Desktop 同 Open WebUI 嘅空間;對話愈長,記憶體壓力亦會一路加。

原文呢部機證明 8GB RAM 跑得起呢套組合,但 Ollama 冇為所有模型列出一條統一最低 RAM 規格。**8GB RAM 勉強夠跑呢個 4B 模型;有 16GB 就鬆動好多,尤其係長對話、上載文件或者多人共用嗰陣。**唔一定要有獨立 GPU,Ollama 靠 CPU 都跑到。有支援嘅 NVIDIA 或 AMD GPU 就可以加速,所需 VRAM仍然要跟模型大小、量化格式同 context 設定去計。

舊 Windows laptop 變全屋 AI:8GB RAM 跑到,免費同私隱都有代價

圖片:Wikimedia Commons — I G(CC BY 2.0)

軟件唔複雜,但部機要長期當 server

作者喺 Windows 裝 Docker Desktop,再用 Open WebUI 提供嘅整合映像,一個 container 內放齊 Open WebUI 同 Ollama。設定會將網頁介面映射去 laptop 嘅 3000 port,另外建立持久儲存空間,保留模型、帳戶同聊天記錄;--restart always 就令 container 喺重新開機後自動啟動。官方文件亦有 Windows、WSL 2 同 Docker Desktop 做法,Ollama 本身就要求 Windows 10 22H2 或更新版本。

裝好後先喺 laptop 開 http://localhost:3000 建立管理員帳戶,再下載 Qwen3 4B。其他裝置只要連住同一個 LAN,就可以用 http://laptop嘅本地IP:3000 開啟;手機亦可以將頁面加去主畫面,日常操作同普通 AI app 相差唔遠。最好喺 router 為 laptop 保留固定 IP,Windows 電源設定亦要取消插電時自動睡眠,否則個「全屋 AI」會隨時失聯。

LAN 共用唔代表可以隨便開 port

原文只容許私人網絡連入 3000 port,冇喺 router 做 port forwarding,呢個方向合理。Microsoft 建議家居共享服務嘅防火牆規則只套用喺 Private profile,來源範圍亦可收窄至 Local Subnet;去到酒店或咖啡店 Wi-Fi,就唔應該沿用同一條開放規則。管理員帳戶要第一時間建立,密碼亦要夠強,屋企人開完帳戶後便可以關閉新用戶註冊。

本地運算亦唔等於資料自動安全。 對話同上載文件會留喺 Open WebUI 嘅儲存空間,任何攞到管理員權限、Windows 帳戶或者 container 資料嘅人都有機會睇到。Open WebUI 官方亦提醒,帳戶權限只係控制邊個入到系統,唔代表每個用戶嘅資料會完全分隔。若果之後開埋網上搜尋、外部工具或雲端模型,相關 prompt 同文件內容亦可能離開部 laptop,要逐項睇清楚設定。

速度同雲端模型仲有明顯距離

XDA 原文冇提供每秒 token、首字延遲或者多人同時使用數字,只係作者個人經驗話 4B 模型反應尚算合理,8B 喺 8GB RAM 下就會逼 Windows 大量用 page file。呢部 Ryzen 5 5500U 可以應付改寫文字、文件摘要、簡單解釋、食譜同日常問答;複雜研究、較難程式工作、即時資料搜尋同長篇推理,細模型依然追唔上主流雲端服務。

Qwen3 4B 呢個 Ollama 版本亦以文字輸入為主。Open WebUI 雖然有文件上載、知識庫、網上搜尋、語音同圖像整合,但每項功能背後仍要額外模型、工具或外部服務,8GB RAM 好快就會頂唔順。所以呢套方案可以接手一批低風險、重複性高嘅家用工作,但未必足以取消所有人原本用開嘅雲端 AI 訂閱。

冇月費,長開成本仍然要計

原文冇量度部 laptop 待機、生成答案同多人使用時嘅耗電,亦冇計維護時間。用中電 2026 年 7 月平均淨電價每度約 HK$1.447 粗略估算,如果插蘇電錶量到全月平均 15W,30 日約用 10.8 度電,即約 HK$16;平均 40W 就約用 28.8 度,電費大約 HK$42。實際賬單會受用電級別、燃料調整費、回扣同另一間電力公司收費影響,呢兩個數只係方便判斷量級。

對本身已有舊機、只想全屋共享基本文字助手嘅家庭,幾十蚊電費通常平過幾個獨立 AI 月費帳戶。不過仲有風扇、電池老化、Windows 更新、Docker 故障同備份要處理。最實際嘅做法係先用插蘇電錶量一個星期,再睇屋企人有冇真係用;如果最後得一個人間中問兩句,長開部 server 未必划算。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook