AI 裸照 app 違規照上架：Apple、Google 審批失靈仲有錢收

係律師信，未係法院命令

三藩市 City Attorney David Chiu 向 Apple 同 Google 發出 cease-and-desist letters，要求佢哋移除 13 款可以製作非自願不雅影像嘅 app，當中八款來自 App Store、五款來自 Google Play。要講準確啲，呢次係市政府律師發出停止侵害通知，唔係法院已經頒令封 app；如果兩間公司唔跟，Chiu 話會再考慮其他法律行動。Ars Technica 引述最先睇過信件嘅 WIRED 報道咗事件。

Chiu 嘅指控亦唔止針對開發者。信中話 Apple 同 Google 為 app 提供分發、內購同收款渠道，涉嫌協助出售露骨深偽影像，仲可能已經收取數以百萬美元計嘅費用。Google 回覆 WIRED 時話，已移除信中點名嘅五款 Android app，過往亦停用過數百款有同類功能嘅 app；Apple 截至報道刊出前未有回應。

政策寫得好清楚，點解仲上到架

Apple 嘅 App Review Guidelines 禁止明顯色情內容；Google Play 嘅政策寫得再直接，連聲稱可以「除衫」或者「透視衣物」嘅 app，同埋用深偽技術製作非自願性影像，都列作違規例子。規則本身冇乜灰色地帶，漏洞出喺 app 點樣包裝功能，同商店實際點樣驗證。

呢批 app 大多自稱換臉、相片編輯或者 AI 影片工具，商店頁面未必直接寫明可以生成裸照。真正有問題嘅模式、素材或指令，可能要登入、付費，甚至由 server 後來提供先見到。研究人員測試 155 款換臉 app，發現約七成可以將真人面孔放入裸露影像，亦指出冇一款會自稱「裸照 app」。換句話講，只靠名稱、截圖同一輪預設素材審批，好容易俾雙用途 app 過關。相關研究 亦話，多數 app 冇喺條款清楚禁止呢類濫用。

商店唔只守門，搜尋同內購都推咗一把

問題去到呢度，已經唔可以當成幾個開發者偷偷走過審批。Tech Transparency Project 喺 2026 年 4 月發現，App Store 同 Google Play 搜尋「nudify」等字眼時，搜尋結果、關鍵字建議甚至廣告都會帶人去相關 app。該組織引述 AppMagic 估算，佢哋識別到嘅 app 累計有 4.83 億次下載、逾 1.22 億美元收入；呢啲係第三方市場估算，唔係 Apple 或 Google 公布嘅帳目。

呢點令平台責任變得難迴避。Apple 同 Google決定邊款 app 上架、搜尋次序點排、邊個可以買廣告，交易成功後亦可能分成。商店一邊用安全審批做賣點，一邊由違反自身政策嘅產品收費，再話自己只係中立貨架，實在講唔通。就算第一輪審批真係睇唔出，搜尋字眼、退款投訴、生成結果同付費模式，都可以用嚟持續覆核，而唔係等記者或者監管機構逐款點名。

香港未有一條罪名包晒所有情況

香港亦有實際案例背景。政府 2026 年 1 月回覆立法會時，提到有大學生涉嫌用 AI 製作同學同朋友嘅不雅照片，亦確認現行法例冇一項專門針對「製作他人不雅照片」嘅罪行。呢句好重要：唔可以見到美國採取行動，就直接推論同類 app 喺香港上架或使用必然犯法。

不過，冇專項罪名唔代表可以任做。政府解釋，未經同意發布或威脅發布私密影像，可能觸犯《刑事罪行條例》第159AAE條，最高可監禁五年；公開展示淫褻或不雅物品，可能受《淫褻及不雅物品管制條例》規管；非法或不公平收集個人資料，或者擅自改作新用途，亦可能牽涉《私隱條例》。實際法律效果要睇有冇發布、威嚇、涉及咩資料同其他案情，受害人亦可保留連結、帳戶、付款同訊息紀錄，再向警方或私隱專員公署求助。政府完整答覆 同時話，法改會轄下小組正研究相關網絡罪行議題。

下一步要睇平台會唔會改審批方式

移除今次點名嘅 13 款 app，只處理到眼前一批。只要商店仍然靠開發者填寫分類、展示預先安排好嘅安全畫面，而冇覆核付費後功能、遠端模型同實際生成結果，同類 app 換個名又可以再上架。Google 已話移除涉事 Android app；下一步要睇 Apple 點回應，同兩間公司會唔會公開改善搜尋、廣告、內購審查同重複違規開發者追蹤。否則每次都要等外界逐款揭發，所謂商店安全審批就只係追住問題跑。

參考來源

• Ars Technica — San Francisco orders Apple, Google to remove nudify apps from app stores — original report
• San Francisco Demands Apple and Google Delete AI ‘Nudify’ Apps From App Stores — 最先取得停止侵害通知嘅報道，載有 Chiu、Google 回應同 app 調查細節。
• App Review Guidelines — Apple 官方審批規則，確認商店對色情內容嘅限制。
• Understanding Google Play's AI-Generated Content policy — Google 官方政策，明列非自願深偽性影像為違規生成內容。
• TTP Report: Apple and Google Are Steering Users to Nudify Apps — 提供商店搜尋、廣告、下載量同第三方收入估算背景。
• Dual-Use AI Face Swap Apps Are Mostly Unsafe: A Systematic Safety Audit — 系統測試換臉 app 嘅安全措施，解釋雙用途功能點樣避過審批。
• 立法會二題：打擊利用人工智能科技製作不雅照片 — 香港政府官方答覆，交代現行刑事、淫褻物品及私隱法例點樣按案情適用。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。