
OpenAI 推 AI 分類器:先為兒童性剝削舉報系統分流
OpenAI 公布一套用於偵測兒童性剝削影像的分類器,聲稱可同時標記疑似 AI 生成的內容,協助已審核機構和執法人員先行分流舉報。焦點不只是封鎖一張影像,而是在大量合成內容湧入後,讓有限的人手較快找到可能涉及現實中兒童受害的個案。
不過,這項工具的效能目前主要來自 OpenAI 的說法,外界尚未見到足以評估漏報率、不同來源影像表現及獨立測試的完整資料。分類器可作為篩選工具,不能取代人員判斷、證據核實和執法程序。
美國國家失蹤與被剝削兒童中心(NCMEC)的 CyberTipline 在 2025 年收到約 40 萬宗與生成式 AI 有關的舉報,較 2024 年的 6.7 萬宗顯著增加。當合成影像大量混入舉報流程,調查人員既要處理內容本身的傷害,也要辨別是否有兒童正遭受現實世界的侵害;後者往往更需要緊急介入。
OpenAI 稱,新分類器針對多種工具製作的疑似合成影像,包括開源模型和所謂「去衣」app,並設有 AI 生成內容的專門標記。公司表示,與原有流程相比,系統標記、需要交予人工覆核的影像數量減少 48%,而被標記影像含有虐待內容的機率提高一倍。
分類器實際解決的是「排隊」問題
這類系統本質上會按影像特徵計算風險,再把較可疑的內容送往後續覆核。若能減少誤報,審核人員便少花時間處理低風險項目;若能把疑似 AI 合成內容與其他個案分開,執法及舉報機構亦可採用不同優先次序處理。
但「減少被標記數量」不等於整體更安全。門檻設得較高,可能降低誤報,亦可能遺漏部分有害內容;門檻設得較低,則可能把更多無關影像推向人工隊列。OpenAI 所公布的兩項比例未交代測試資料的組成、基準系統和漏報情況,因此不足以單獨判斷系統在實際環境的全面準確度。
此外,AI 生成標記本身也不應被誤讀為傷害程度的判決。合成內容可造成嚴重傷害,但影像是否合成、是否涉及真實受害者、是否需要即時介入,是不同層次的問題,仍須由具備權限和專業的人員處理。
圖片:openai.com
平台與一般用戶可如何應對
OpenAI 表示會向已審核組織免費提供工具、向開發者提供偵測指引,並協助培訓執法人員。其 ChatGPT 圖像生成器原本會拒絕相關要求,現時亦會向嘗試生成此類內容的用戶顯示求助警告;首次違規會被暫停使用 24 小時,公司稱會提供支援資源,並警告帳戶可能被永久關閉。
對平台而言,較可靠的做法是把自動偵測、人工覆核、保存必要證據和清晰的舉報處理流程結合,而非把分類結果視為最終結論。對一般用戶而言,如發現可疑深偽或疑似剝削內容,應避免下載、轉傳或公開轉貼,並透過相關平台的舉報渠道交由處理;如涉及即時危險,應聯絡所在地執法機關。
目前沒有資料顯示香港機構已部署或採用這套工具,美國 CyberTipline 的舉報數字亦不能直接推算香港情況。接下來較值得觀察的,是 OpenAI 是否公開更完整的獨立驗證資料,以及平台和舉報機構能否在減少虛假警報之餘,避免真正需要介入的個案被系統漏掉。
延伸閱讀
AI 輔助說明: 本文由 AI 協助整理。
參考來源
本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。







