Hugging Face 圖片編輯 Spaces 可變除衫工具：平台安全缺口點解咁大
研究抽查 9 個排名靠前工具，7 個冇擋簡單露骨指令
一般圖片編輯器，幾句字就變質
Hugging Face 上面有大量 Spaces，開個網頁、上載相片、輸入 prompt 就用得，唔使自己裝模型或者準備 GPU。AI Forensics 最新研究發現，部分包裝成一般圖片編輯器嘅熱門 Spaces，面對直接要求修改女性衣着嘅指令時，幾乎冇任何阻擋。風險唔限於專門製作色情內容嘅工具，一個普通修圖模型都可以俾人拎去生成非自願私密影像。
圖片：Wikimedia Commons — Mainlymazza（CC BY-SA 4.0）
7 個成功生成不當影像，唔代表「大部分 Hugging Face 模型」
研究團隊先按 Hugging Face 喺 2026 年 6 月 25 日嘅預設相關度排名，揀出圖片編輯分類頭九個 Spaces，再用 AI 生成女性相片同一條簡短指令測試，冇玩 jailbreak 或其他繞過技巧。結果有七個輸出咗不恰當影像。不過呢個結果只反映嗰九個排名靠前嘅公開 Spaces，唔可以推論成平台數以百萬計模型大多都有同樣表現；私有同受限 Spaces亦冇納入研究。
研究仲檢查咗 14 類生成式任務入面最多人讚好嘅公開 Spaces，每類最多抽查 100 個，再用 GLM-5.2 閱讀作者公開嘅 source code。團隊話，只有 3% 睇到作者加入輸出審查，輸入 prompt 或相片就冇一個睇到審查。不過呢部分依賴模型判讀程式碼，可能有分類錯誤，亦只會見到 Space 作者寫落去嘅保護，未必反映 Hugging Face server 端所有措施。
蜜罐收到 1,081 個請求，普通人先係主要目標
為咗睇清楚用家實際會點用呢類工具，研究團隊自設圖片編輯 Spaces，一星期收到 1,081 個去重請求，涵蓋 33 種語言。呢啲 Spaces 冇標示成人用途，亦從未生成影像，只會回傳錯誤訊息。研究用 Gemma 4 32B 分類請求，再人手抽查部分結果；研究將當中 73% 歸類為性相關，呢批請求有 83% 想修改相中人物嘅衣着或性化人物，95% 目標係女性，6.7% 涉及未成年人。
數據亦顯示，只有 3.6% 請求涉及可辨認公眾人物，其餘大多似係普通人，不過研究無法確認上載影像係真人、AI 生成，抑或有冇取得同意。**呢組蜜罐數據證明平台上存在明顯濫用意圖，但唔等於 73% Hugging Face 用家都喺度整色情 deepfake。**樣本點樣俾人搵到、流量來源同實際人數，報告都冇完整交代，解讀時要留返呢條界線。
開源模型同 Spaces，平台責任唔完全一樣
開源模型權重可以下載落自己部機運行，Hugging Face 冇可能控制每一部離線電腦。不過 Spaces 用緊平台提供嘅網頁、搜尋排名同運算資源，普通人撳幾下就用得，唔使再識裝環境。去到呢一步，佢已經幫模型變成可即用嘅 app，平台有條件喺上載、輸入同輸出幾個位置加審查，亦可以限制高風險模型公開部署。單靠作者自律，明顯追唔上濫用速度。
Hugging Face 官方內容政策本身禁止未經明確同意製作嘅性內容、用作騷擾嘅性內容，同涉及未成年人嘅裸體或性內容。WIRED 話曾向 Hugging Face 多次查問內容審查同安全措施，但截稿前未收到詳細回應；部分宣傳相關服務嘅頁面其後消失，暫時無法確認係平台執法定其他原因。AI Forensics 就話已喺發表前向平台披露結果。
公開人像相已經係可直接利用嘅素材
呢類模型降低咗造假門檻，受害人甚至毋須曾經拍過私密影像，一張清晰正面相已經可以俾人利用。私隱專員公署建議減少公開高解像度近照、檢查社交平台私隱設定，同避免俾 app 任意讀取成個相簿；呢啲做法只係減低素材容易取得嘅程度，責任始終喺製作、散播同勒索嗰方。
一旦發現相關影像，先保留網址、帳戶、時間同截圖等證據，再向平台要求移除。遇到威脅、勒索或懷疑刑事罪行，可以報警；涉及個人資料濫用或起底，就可以向私隱專員公署查詢或投訴。下一步要睇 Hugging Face 會唔會公開審查機制、處理時限同數據，而唔止刪走已經俾人舉報嘅個別頁面。
參考來源
- Engadget — Hugging Face reportedly plagued with AI models generating adult deepfakes — original report
- Unmoderated by Design: How Hugging Face Enables NCII — 研究機構官方頁面，交代樣本選擇、測試方法同主要發現
- AI Forensics 完整研究報告 — 核對蜜罐設計、分類方法、研究限制同倫理安排
- Hugging Face Content Policy — 平台官方政策，列明對非自願性內容同涉及未成年人內容嘅限制
- Hugging Face Has a Deepfake Nudes Problem — 補充 Hugging Face 回應狀況、頁面移除情況同研究員訪問
- Abuse of AI Deepfakes: Toolkit for Schools and Parents — 私隱專員公署提供嘅預防、保留證據、要求移除同求助建議
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
