Apple、Google 收下架通知：AI 換臉 app 點解過到平台審核？

三藩市市律師 David Chiu 向 Apple 同 Google 發出 cease-and-desist letters，要求兩間公司移除合共 13 款可製作未經同意裸照嘅換臉 app，當中 8 款喺 App Store、5 款喺 Google Play。要講清楚，呢份係市律師發出嘅法律通知，唔係法院下達嘅命令；現階段亦冇資料證明 8 款 iPhone app 已經全部下架，仲唔代表佢哋已喺香港區 App Store 消失。

規則一早有，點解仲上到架？

Apple 嘅 App Review Guidelines 明文拒絕色情內容、欺凌同針對真人作出羞辱嘅服務；Google Play 寫得再直接，將「AI 生成、未經同意嘅色情 deepfake」列做違規內容。照字面睇，呢批 app 根本唔應該過關。Google 向 WIRED 表示，已移除市律師點名嘅 5 款 Android app，亦曾因同類違規停用數百款 app；Apple 截至報道刊出前未有回應。

漏洞出喺**平台審核主要睇 app 展示咗咩，未必測到所有實際功能。**涉事工具大多將自己包裝成一般換臉、相片動畫或者 AI 修圖 app，商店頁面未必要直接展示裸照功能。部分高風險功能未必會喺商店頁面展示，單靠截圖同功能介紹未必查得出。審核員見到嘅係普通特效，用家真正攞到嘅卻可能係一套幾乎冇安全限制嘅生成工具。

「雙重用途」唔可以變成免責牌

Cornell 同 Georgetown 研究人員調查 420 款換臉 app，再測試當中 155 款；WIRED 引述研究指，約七成測試個案可以用裸露影像做換臉，而且欠缺阻止濫用嘅安全措施。呢點解釋咗平台點解長期捉漏：換臉本身可以用嚟整迷因、拍片或者玩角色扮演，同一套功能亦可以攞真人相片製作性影像。單靠 app 名稱、年齡評級同商店截圖，根本分唔出條界。

不過，Apple 同 Google 唔只係擺個下載掣喺度。呢類 app 靠內購或者訂閱收費，平台會處理付款同抽成，商店搜尋同排行榜亦會幫佢哋搵客。市律師辦公室正係沿住呢條商業鏈追究，指兩間公司唔應該再協助相關服務賺錢。平台既然用「安全、可信」解釋封閉商店同人工審核嘅價值，就有責任測試高風險功能，唔可以每次等記者、研究員或者受害人點名先執漏。

香港法律管到發布，單純製作仍有缺口

香港政府今年 1 月回應立法會時講明，現行法例冇專門針對製作他人不雅照片嘅罪行。如果影像未經同意發布，或者有人威脅發布，就可能觸犯《刑事罪行條例》第 159AAE 條，最高可監禁五年；個案亦可能牽涉不誠實取用電腦、淫褻物品同個人資料私隱規定。不過，單純生成後只留喺裝置入面，係咪觸犯其他罪行，要睇實際行為同證據，唔可以一概而論。

政府已經叫跨部門工作小組研究法例點樣追上 AI 發展。私隱專員公署今年 2 月亦聯同另外 60 個私隱監管機構發聯合聲明，要求 AI 公司加入防止製作未經同意私密影像嘅措施、清楚交代風險，仲要提供有效而容易使用嘅移除渠道。呢啲要求其實亦適用於 app 商店：平台除咗要阻止呢類內容生成，亦應停止處理相關付款，並提供有效嘅內容移除渠道。

平台審核要涵蓋 app 嘅實際功能

今次法律通知未必會立即改變全球 App Store 規則，但已經將責任推前一步：Apple 同 Google要檢查高風險換臉功能、測試真人相片可唔可以用於性化內容，亦要追查同一開發者、付款帳戶同後端服務有冇換名再上架。靠關鍵字封鎖只會繼續玩捉迷藏。下一步要睇 Apple點回應，同兩個平台會唔會公開更具體嘅審核及移除機制。

如果影像已經流出，受害人可以保留連結、截圖、帳戶資料同時間紀錄，再向警方報案；警方性暴力求助資訊頁亦列出非政府機構支援。涉及個人資料遭惡意披露，可向私隱專員公署求助。處理時唔好反覆轉發涉事影像，否則只會擴大傷害。

參考來源

• 9to5Mac — Apple ordered to remove 8 AI nonconsensual undressing apps from the App Store — original report
• San Francisco Demands Apple and Google Delete AI ‘Nudify’ Apps From App Stores — 率先披露法律通知內容，亦載有 Google 回應同研究數據
• App Review Guidelines — Apple 官方審核規則，涵蓋色情內容、欺凌同針對真人嘅有害內容
• Understanding Google Play's AI-Generated Content policy — Google 官方列明未經同意嘅色情 deepfake 屬違規 AI 內容
• 立法會二題：打擊利用人工智能科技製作不雅照片 — 香港政府確認現行法例範圍、最高刑罰同單純製作嘅法律缺口
• AI-Generated Harmful Imagery Raises Concerns Worldwide — 私隱專員公署參與嘅國際聯合聲明，列出 AI 公司應採取嘅保障措施
• 舉報案件｜性暴力求助資訊 — 香港警方提供嘅報案、私隱同第三方支援資料

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。