Perplexica 配 SearXNG 幫本地 LLM 上網：部署、私隱同成本逐樣拆

本地 LLM 靠訓練資料答問題，一遇上近期資訊就容易過時。問新軟件錯誤、近期產品或者會不停更新嘅技術文件，模型好容易一本正經噏舊答案。XDA 作者 Ayush Pande 用 Perplexica 配 SearXNG 補返呢個缺口，之後停用 ChatGPT 同 Perplexity 付費服務。套玩法有參考價值，不過作者本身已經有兩張 GPU 同成熟嘅自架環境，呢個前提唔可以略過。

Perplexica 點樣幫本地模型搵新資料

Perplexica 係一套開源 AI 答案引擎，介面同 Perplexity 幾相似。收到問題之後，佢會先叫 SearXNG 向多個搜尋服務搵結果，再抽取相關內容，交畀聊天模型同 embedding 模型處理，最後生成附有參考連結嘅答案。模型可以經 Ollama、本地 OpenAI-compatible API，或者雲端供應商接入。即係話，本地模型唔使重新訓練，照樣可以引用今日先更新嘅文件同討論區內容。

SearXNG 喺中間做嘅工作幾重要。佢本身冇建立完整網頁索引，主要係集合多個外部搜尋來源，再清走 cookies、追蹤元素同廣告。用家亦可以揀搜尋網頁、討論區或者學術資料，減少模型亂撈來源。Perplexica 就負責將搜尋、內容整理、RAG 同引用介面串埋一齊，慳返自己寫 agent 或接駁搜尋 API 嘅工夫。

圖片：Perplexica GitHub

Docker 起服務容易，接本地模型較易卡住

Perplexica 官方建議用 Docker，現有 image 已經包埋 SearXNG，起好 container 後喺瀏覽器設定模型就用得。如果屋企已經有 SearXNG，亦有較細嘅 image 可以接現成 instance，不過要開啟 JSON 輸出同指定搜尋功能。比較易卡住嘅，通常係 container 連唔到主機上面嘅 Ollama 或 llama.cpp API：Windows 同 macOS 可以用 host.docker.internal，Linux 就要處理監聽位址、私人 IP、port 同 firewall。識 Docker 嘅人會較易搞掂；未接觸過 container networking，就預咗要花時間排查。

冇統一硬件門檻，模型先決定體驗

Perplexica 同 SearXNG 本身唔算重，硬件壓力主要來自本地 LLM、embedding 模型同 context 長度。官方冇列出一條「最低幾多 RAM 或 VRAM」嘅通用規格，因為細模型可以靠 CPU 跑，大模型就算用量化同 CPU、GPU 混合運算，速度仍然可以差好遠。已有 Apple silicon 電腦、配較多 RAM 嘅 PC 或 GPU server，起步會合理好多；純粹為慳每月訂閱費而買新顯示卡，條數未必咁快計得掂。

XDA 作者套硬件跑出嚟嘅數字，亦反映到配置對體驗影響幾大：佢用 RTX 3080 Ti 跑量化版 Qwen3.6-35B-A3B，聲稱生成速度約 24 token/s，但 Speed 模式都要等兩至三分鐘先開始出答案，Balanced 模式接近再慢一倍。簡單查詢就交畀另一部 GTX 1080 主機上面嘅 Gemma-4-E4B，另外常駐 embedding 模型。呢啲係作者個人環境嘅結果，唔代表任何一部舊電腦都做到同樣速度或準確度。

自架改善私隱，搜尋仍然會出街

如果模型同 Perplexica 都喺自己部機運行，prompt、聊天紀錄同生成過程毋須交畀 AI 平台，呢點對敏感文件幾實際。不過只要開網上搜尋，查詢始終會由 SearXNG 發去 Google、Bing、Brave 或其他上游服務。SearXNG 官方文件講明，佢唔會附帶用家 cookies，亦會為每次要求產生隨機瀏覽器 profile；上游睇到嘅就係 SearXNG instance 個 IP。想再收緊可以經 proxy 或 Tor，但速度、CAPTCHA 同搜尋結果完整度可能受影響。

附有引用都唔代表答案自動可信。SearXNG 搵到嘅頁面有可能過時、內容互相抄襲，亦可能因為搜尋服務封鎖 instance IP 而漏結果；本地模型仲可能讀錯內容或者將來源同結論配錯。參考連結最大價值係方便人手覆核，尤其涉及指令、醫療、法律同金錢決定時，唔應該見到幾條 citation 就直接照做。

慳到月費，但會接手一份維護工作

Perplexica 適合已經有常開電腦、NAS 或 home server，又肯自己更新 container、模型同搜尋設定嘅人。軟件免月費，查詢次數亦冇平台配額，不過電力、硬件折舊、下載模型佔用嘅儲存空間，同每次更新後執相容問題都係成本。雲端訂閱仲包較強模型、語音、圖像、檔案分析、跨裝置同步同研究工具；Perplexica 暫時集中做好搜尋加答案呢段工作。已有硬件而主要查文件、技術問題同一般資料，佢確實有機會取代部分付費搜尋；想要快、穩定同齊功能，保留免費或付費雲端服務會省心得多。

參考來源

• XDA Developers — I don’t pay for Perplexity or ChatGPT after combining my local LLMs with Perplexica and SearXNG — original report
• Perplexica 官方 GitHub — 核對 Docker image、內置 SearXNG、本地模型供應商、安裝同網絡連線設定。
• SearXNG 官方文件：Why use a private instance? — 核對 cookies、隨機瀏覽器 profile、instance IP、proxy、Tor 同公開 instance 風險。
• SearXNG 官方文件 — 核對 metasearch 運作方式、自架特性同支援嘅搜尋來源。
• llama.cpp 官方 GitHub — 核對 CPU、GPU、量化同混合運算支援，說明硬件需求點解會跟模型而變。
• OpenAI：ChatGPT Plus — 核對付費服務除聊天外亦包含語音、圖像、檔案分析同研究工具，避免直接當成同類功能比較。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。