三藩市要求 Apple、Google 移除 13 款 AI 換臉 app，官方商店點解照樣過關？

Apple App Store 同 Google Play 成日畀人當成安全閘口，但今次件事正正拆穿咗呢份安心感。三藩市市檢察官 David Chiu 向兩間公司發出停止侵害通知，要求移除合共 13 款可製作非自願私密影像嘅 AI app，當中 Apple 涉及 8 款、Google 涉及 5 款。呢個係市檢察官提出嘅法律要求，唔係法院正式頒令；通知亦要求兩間公司喺 28 日內聯絡市政府，否則可能面對民事追究。

規則一早寫明，執行先至係問題

Apple 嘅 App Review Guidelines 禁止色情內容，同埋涉及人口販運同剝削嘅 app；Google Play 寫得仲直接，禁止聲稱可以「除衫」或透視衣物嘅 app，亦明列 AI 生成非自願色情 deepfake 屬違規內容。規則其實一早涵蓋呢類內容，但相關功能仍然過到審核，平台亦照樣可以經下載、訂閱同內購抽佣，部分 app 更曾經喺搜尋結果同廣告出現。市檢察官指兩間公司接近一年來已多次收到警告，但商店仍有同類工具，平台亦可能經付費下載、訂閱或 app 內購抽佣。

Google 回應 Ars Technica 時話，已暫停通知點名嘅 5 款 app，又指過去曾移除數百款違規 app，亦限制咗「nudify」一類搜尋字眼。Apple 截至報道刊出時未有回應今次通知；不過喺 4 月 Tech Transparency Project 公開另一輪調查後，Apple 曾表示移除 15 款 app，另要求 6 款限期修正。兩次處理都係研究機構或傳媒點名之後先發生。商店顯示 app 已通過審核，只代表佢上架時過到關，唔代表日後新增嘅功能同生成內容都安全。

換個包裝，就可以避過第一輪檢查

呢類 app 未必會喺商店頁大字寫明用途，常見包裝係普通 AI 修圖、換臉或者影片生成，敏感功能可以藏喺付費牆後面、更新後先加入，甚至由遠端 server 控制。2026 年 5 月公開嘅一份預印研究先搜出 420 款以換臉作招徠嘅 app，再測試其中 155 款；研究人員話，約 70% 受測 app 可以用嚟製作性化影像，而大部分條款亦冇針對呢種濫用寫清楚限制。呢個雙重用途包裝令關鍵字封鎖只可以擋走最明目張膽嗰批，審核員如果淨係睇商店文案同預設流程，好容易睇漏真正能力。

上載一張相，風險唔止係生成結果

用戶仲要諗清楚相片交咗畀邊個。真人面貌本身可以識別身份；如果 app 要將相片上載去開發者 server 處理，用戶要靠開發者交代保存幾耐、會唔會用嚟訓練模型、會交畀咩第三方，同帳戶刪除後資料係咪一併清走。商店私隱標籤好多時由開發者自行申報，上到官方商店唔代表 Apple 或 Google 已逐項核實資料流向。更麻煩係，受害人甚至毋須用過個 app：公開社交平台上一張普通相，已經可能畀其他人擅自拎去加工。

香港私隱專員公署喺 2026 年 6 月亦提醒，社交平台累積嘅人像、聲音、生活習慣同人際網絡，都可能俾人利用；用生成式 AI 處理可識別人士資料，如果超出原本收集目的，可能觸及《私隱條例》保障原則。公署同全球 60 個私隱保障機構發表嘅聯合聲明，亦要求 AI 服務加入阻止非自願私密影像嘅保障、清楚交代資料用途，同提供有效移除渠道。呢啲係本地私隱風險背景，唔代表三藩市今次通知會直接喺香港執行。

香港區會唔會同步下架，仲未有答案

現有公開資料未確認 13 款 app 有幾多款曾喺香港 App Store 或 Google Play 上架，Google 所講嘅暫停範圍亦未交代係全球定個別地區。兩間公司下一步除咗移除點名 app，仲要交代會點查同一批開發者、付款帳戶同換名重上架版本。對平時用 AI 修圖 app 嘅人，實際做法好簡單：真人相尤其係兒童相片，未睇清楚資料保存、刪除同第三方分享安排之前，唔好隨便上載。官方商店可以減少部分惡意軟件風險，但今次已證明，佢唔係內容安全保證。

參考來源

• TechCrunch — Apple and Google ordered to purge ‘nudify’ apps from App Stores — original report
• San Francisco orders Apple, Google to remove nudify apps from app stores — 補充 13 款 app 嘅平台分布、Google 回應同實際處理情況。
• App Review Guidelines — Apple 官方審核規則，列明色情、剝削同有害內容限制。
• Understanding Google Play’s AI-Generated Content policy — Google 官方生成式 AI 政策，明列非自願色情 deepfake 屬違規內容。
• Dual-Use AI Face Swap Apps Are Mostly Unsafe: A Systematic Safety Audit — 研究換臉 app 點樣用一般功能包裝避過審查，以及受測 app 嘅安全結果。
• Promoting Privacy Protection in AI – Assistant Privacy Commissioner Interviewed by Media on the Privacy Risks of AI — 私隱專員公署對人像、聲音、社交平台資料同 deepfake 風險嘅本地說明。
• AI生成有害影像引起環球關注 — 私隱專員公署同全球監管機構對非自願私密影像保障及移除機制嘅要求。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。