手搖供電 AI chatbot CrankGPT：私隱好睇，實用性要冷靜
Raspberry Pi 5 本機跑 AI，爽位同硬傷都好明顯
CrankGPT 呢部機第一眼好似玩笑：一個紅色盒、側邊一支手柄，想問 AI 就要自己搖電。Squeez Labs 截至 2026 年 6 月 19 日只開放 demo request，未有公開售價、發售日期或者購買渠道。重點喺佢將私有 AI chatbot 縮到一部離線小電腦入面，冇電池、冇雲端、冇 server 幫你兜底。
手搖只係表面
官方技術頁講得幾清楚，CrankGPT 入面係 stock Raspberry Pi 5 8GB、cooling fan HAT、ReSpeaker 雙咪 HAT，加一個 20W 手搖 generator。供電唔係直接硬撐，佢哋做咗一塊電容板去平滑輸出，亦畀使用者有大約 20 秒喘息空間。呢個設計幾工程味：你手上搖出嚟嘅力，會即時變成模型推理同語音合成嘅成本。
軟件層面就係一條本機語音管線：Moonshine 做語音辨識，Silero VAD 判斷你講完未，llama.cpp 跑細 LLM，Piper 負責講返答案，ONNX Runtime 扛住幾個 component。Squeez Labs 自己建議嘅模型都好細，例如 LFM2 350M / 1.2B 同 Gemma 3 1B。呢個級數可以答日常問題，但唔好預期有雲端 ChatGPT、Gemini 嗰種長文推理同工具整合。
圖片：Squeez Labs
私隱同代價一齊嚟
最老實嘅限制係耗電同 latency。官方測試話，由開始搖到可以對話大約 30 秒；視乎模型，聽到第一句回應約 0.8 至 2.9 秒。功耗方面，閒置約 4W，語音辨識約 8W，LLM 加 TTS 會上到約 15W，最高負載仲見過短暫 5A spike。換句話講，當模型諗緊又同時講緊，你隻手會感受到計算成本。
私隱先係呢類裝置最吸引嘅理由。離線 ASR、LLM、TTS 全部喺機內跑，聲音同 prompt 唔需要上雲；對公司內部資料、戶外工作、Wi-Fi 斷線或者停電場景，呢個方向有實際討論價值。但係，離線唔等於萬能：模型越細，知識、推理、語言能力同幻覺控制都會縮水；手搖供電仲加多一層操作成本。
圖片：Squeez Labs
我點睇
所以我唔會將 CrankGPT 當成準備上架嘅 gadget：冇價錢、冇出貨時間、冇量產規格；加上外殼、噪音、咪高峰收音、冷啟動時間，都仲似 demo table 上嘅工程展示。佢吸引之處係夠誠實：如果要私有、離線、低功耗，你就要接受細模型、慢啟動、有限回答同更粗糙嘅互動。
圖片：Squeez Labs
行業脈絡就清楚：AI 正由大 server 慢慢落到手機、laptop、車、機械人同各種 endpoint。LFM2、Gemma 呢類細模型，加上 llama.cpp 呢類本機推理工具，令 Raspberry Pi 級硬件都可以玩到 voice agent。CrankGPT 做得誇張，但方向唔荒謬；佢提醒大家，AI 唔一定每次都要交畀雲端，只係要先問清楚任務有幾大、私隱值幾多、你願意用幾多電。
我會咁睇：
- 想要私隱離線 AI：值得留意呢條路線。
- 想買即用產品：等官方講清楚價錢同量產先。
- 開發者：技術頁更有價值，尤其係供電緩衝、冷啟動、細模型 latency 呢幾段。
參考來源
- Android Authority — CrankGPT is a private AI chatbot that’s powered entirely by your hand — original report
- CrankGPT — fully offline, human-powered local AI — 官方技術文，核對硬件、供電、軟件 stack、功耗同 latency。
- CrankGPT official site — 官方產品頁，確認暫時以 request demo 形式出現，未見售價或公開購買資料。
- llama.cpp — 本機 LLM 推理工具背景，對照 CrankGPT 用到嘅 runtime 生態。
- Introducing LFM2: The Fastest On-Device Foundation Models on the Market — 細模型背景，官方講明 LFM2 面向 on-device deployment，亦有 0.35B、0.7B、1.2B 權重。
- Gemma 3 — Google DeepMind — Gemma 3 官方模型頁，用嚟核對 1B 級輕量模型脈絡。
- Moonshine Voice — 語音辨識背景，確認佢主打 on-device、低 latency voice agent。
- Piper text-to-speech engine — 語音輸出背景，確認 Piper 係 fast and local neural text-to-speech engine。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
