三藩市發停止侵害通知：Apple、Google 點解仍畀有害換臉 app 過關

收到法律通知，唔等於法院下令

三藩市市律師 David Chiu 向 Apple 同 Google 發出 cease-and-desist（停止侵害）通知，要求兩間公司移除合共 13 款換臉 app，當中八款喺 App Store、五款喺 Google Play。通知指呢啲 app 可以製作未經當事人同意嘅裸照 deepfake，兩個平台又會從 app 內購買抽成。不過要講準確：呢封係市律師發出嘅法律通知，唔係法院禁令，亦唔代表三藩市可以直接命令全球商店落架。Chiu 表示，如果平台唔處理，辦公室先再考慮其他法律行動。

Google 移除五款，Apple 暫時未交代

Google 向 WIRED 表示，三藩市點名嗰五款 Android app 已經移除；公司亦話過往因違反政策，停用咗數百款帶有同類功能嘅 app，同時限制相關搜尋字眼。至於 Apple，報道刊出前冇回應，所以現階段只可以確認 Google 處理咗五款，唔可以寫成 13 款全部落架。TechLab 亦未能確認今次點名嘅 app 曾否喺香港區商店供應，兩間公司有冇同步移除其他地區版本同開發者帳戶，同樣有待交代。

點解明明有審核，仍然可以過關？

問題出喺「換臉」本身係雙用途功能。普通玩法可以係惡搞自己張相、電影角色扮演或者剪片；同一套工具亦可以將真人個樣套落裸露影像。開發者只要用 AI 相片編輯、特效或者換臉做包裝，商店頁面唔擺露骨示範，自動掃描同人手審核都未必即場睇到風險。Apple 規則本身禁止露骨色情內容、針對真人嘅羞辱同欺凌，Google Play 亦禁止性內容；條文唔算少，審核有冇實際試盡 app 嘅生成能力先係今次暴露出嚟嘅缺口。

研究數字顯示，漏網唔只係十三款

Cornell 同 Georgetown 研究人員喺 2026 年 5 月發表預印本，先從兩個商店找出 420 款換臉 app，再測試其中 155 款。結果有 109 款、即約 70% 冇擋住裸露換臉；iOS 樣本有 80% 未能擋住呢類生成，Android 樣本就約 58.6%。研究團隊亦指出，冇 app 會喺商店介紹中自稱製作裸照工具。呢點解釋咗平台點解只靠名稱、截圖、年齡分級同開發者聲明唔夠：功能可以藏喺正常介面後面，甚至要付費後先用到，審核要加入針對濫用情境嘅測試先有機會捉到。

落架一批，未解決同類 app 再上架

今次通知嘅價值，係將平台抽成、搜尋推薦同安全責任拉埋一齊睇。兩間公司一方面話商店經過審核、下載較安全，另一方面過往往往要等研究員、記者或者執法部門點名後先清走 app。逐款落架可以即時減低接觸面，不過開發者改名、換帳戶、將高風險功能搬到 server 端，仍然可能重新出現。較實際嘅做法包括測試 app 能否處理真人同裸露素材、要求開發者加入內容過濾，同埋持續覆查更新後嘅功能，唔可以只驗上架嗰一刻。

見到有害 app，可以點舉報

Google Play 用戶可以打開 app 詳情頁，撳右上角更多選項，再揀「Flag as inappropriate」同提交原因；涉及違法內容或者開發者政策，Google 亦有獨立表格。Apple 用戶可以登入 reportaproblem.apple.com，揀舉報欺詐，或者舉報冒犯、虐待及違法內容，免費 app 同樣可以報告。如果自己或者小朋友成為非自願親密影像目標，先保存網址、帳戶名稱、日期同通訊紀錄，避免繼續轉發影像，再向平台及相關執法機構求助。之後要留意平台會唔會公開審核改善措施，同埋同類工具會否再次上架。

參考來源

• Engadget — Apple and Google ordered by San Francisco attorney to take action against 'nudify' apps — original report
• San Francisco Demands Apple and Google Delete AI ‘Nudify’ Apps From App Stores — 詳細交代通知內容、13 款 app 嘅平台分布、Google 移除五款 app 嘅回應，以及 Apple 截稿前未有回應。
• Dual-Use AI Face Swap Apps Are Mostly Unsafe: A Systematic Safety Audit — Cornell 同 Georgetown 研究人員嘅預印本，提供 420 款 app 樣本範圍、155 款實測結果同雙用途審核問題。
• App Review Guidelines — Apple 官方審核規則，列明色情內容、針對真人嘅傷害、內容過濾同舉報機制要求。
• Maintaining a safe App Store experience — Apple 官方說明點樣經 Report a Problem 舉報可疑或有害 app。
• Flag an app or review on Google Play — Google 官方舉報指引，列出喺 Play Store 詳情頁標記不當 app 嘅步驟。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。