TAG

#Open WebUI

3 篇文章

TechLab 所有關於「Open WebUI」嘅文章、評測同教學，由最新排起。

XDA 作者用 Ryzen 5 5500U、8GB RAM 舊 Lenovo laptop，架起全屋共用嘅 Qwen3 4B AI。套裝確實唔使月費，手機、平板同電腦開網頁就用到，不過 8GB 只夠細模型，速度、功能、電費同 LAN 安全都要計清楚。

XDA 喺冇獨立 GPU 嘅 NAS 跑 4B 模型，速度只得約 3.2 至 5.4 tokens/s。整理筆記尚算實用，複雜分析就又慢又易答錯。想照玩，除咗睇 CPU 同 RAM，亦要計埋 NAS 本身工作量、電費、維護同網上安全。

XDA 作者用 Pi 5、llama.cpp、Speaches 同 Open WebUI 砌到本地語音助手。亮點喺開源 AI 工具嘅 API 夾口開始成熟；不過延遲、散熱同模型大小，仍然會決定佢係玩具定工具。