
韓國以 AI 巡查數位性犯罪內容,人手覆核仍是關鍵
韓國中央數位性犯罪被害者支援中心導入 AI 偵測與通報系統,全天候蒐集疑似數位性犯罪內容,再交由人員覆核是否通報及向平台提出下架請求。這套做法的直接影響,是讓原本受限於人手的搜尋與比對工作可以擴大處理;但它並不代表 AI 已能自行判定犯罪,受害者支援與最終判斷仍要由專業人員處理。
TechNews 科技新報報道指出,該中心去年處理 45,438 宗案件;AI 系統投入後的六個月內,處理量為 96,210 件。數字反映自動化蒐集可提高發現內容的速度與範圍,但不能直接視為 AI 對個案判定準確度或下架成功率的證明。
AI 做的是擴大搜尋,人員負責決定行動
系統目前登錄約 220 個關鍵字,並在 Google、X、Bluesky、Telegram 等共 14 個平台設置資料蒐集器。其工作流程可拆成三層:關鍵字驅動的自動搜尋、文字與影像的大量初步分析,以及由負責人員作最終審查。
這種分工的重要性在於,涉及性剝削或深偽內容時,單靠關鍵字與影像比對可能產生誤判,也未必能理解影像是否屬非自願散布、是否涉及未成年人,以及受害者當下需要的支援。人工覆核既是避免錯誤通報的關卡,也讓案件可銜接受害者支援、平台溝通和執法合作。
TechNews 科技新報指出,中心希望藉由系統減少員工反覆直接接觸有害內容的頻率,讓人力更集中在受害者支援。這也顯示 AI 在此較適合定位為工作分流工具:它協助找到可能被遺漏的內容,而非取代處理人員與社會支援網絡。
下架不是一次性工作
中心表示,非自願拍攝內容即使已被刪除,仍可能被複製及再次散布,因此需要持續追蹤。報道引述中心主任金美順表示,近四分之一以上的網站完全不回應下架要求,非法網站也會透過規避封鎖及改變路徑維持流通。
因此,系統效益不只取決於偵測到多少內容,也取決於平台是否回應、跨境網站是否合作,以及能否追蹤重新上傳的版本。對受害者而言,向支援機構提出下架請求只是處理流程的一部分;持續監測與後續支援同樣重要。
報道亦提到,韓國會主動搜尋兒童與青少年性剝削內容,即使未收到受害者請求也會協助刪除,並與警方、偵查機關、海外支援機構及大使館合作。受害者以青少年及二十多歲人士為主,顯示預防與求助資訊能否及早觸及年輕使用者,仍是制度成效的重要環節。
值得觀察的是跨平台執行力
韓國今年成立由女性家族部、警察廳及放送通信審議委員會組成的數位性犯罪被害綜合支援團。TechNews 科技新報報道稱,該團隊將迅速阻斷內容流通列為核心,包括處理違法網站及其 server 的措施。
下一步值得觀察的,不是系統登錄多少關鍵字,而是人手覆核、平台回應與跨境合作能否縮短內容留在網上的時間。當深偽工具降低製作與散布門檻,受害者能否取得持續、可及的支援,將比單一偵測數字更能衡量這類系統的實際價值。
延伸閱讀
AI 輔助說明: 本文由 AI 協助整理。
參考來源
- TechNews 科技新報 — 韓國用 AI 系統偵測數位性犯罪,24 小時監測網路內容 — original report
本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。







