Deepfake 偵測器喺手機拍攝數據集表現大跌:研究揭低畫質點樣影響 AI
Tech News

Deepfake 偵測器喺手機拍攝數據集表現大跌:研究揭低畫質點樣影響 AI

圖片:via TechNews 科技新報 — https://infosecu.technews.tw/2026/07/23/human-intuition-deepfake/
TechLab 編輯部(譯)·

200 人對 95 款偵測模型,結果提醒你唔好信單一分數

TechNews 科技新報報道將焦點放喺「訓練直覺」,講到人經練習之後,可以較準確認出 AI 生成人臉。不過,擺落日常防騙場景,**就唔好當肉眼判斷已經夠用。**社交平台流傳嘅片通常剪過、縮過又壓過,畫面差本身已經可以製造出假口型、起格同邊緣閃爍;反過來,壓縮亦可能遮住合成痕跡。你見到怪位,只能當成查證起點,唔可以即刻判真偽。

95 個模型遇上手機片,表現跌到接近撞彩

2026 年 3 月上載到 arXiv 嘅預印本,搵咗 200 名參加者,另以 32 種偵測架構配搭三組訓練數據,得出 96 個版本;其中一個因架構唔兼容剔除,最後比較 95 個 AI 偵測器。研究分別用 DF40 同新建嘅 CharadesDF 測試,每組有 500 段真片同 500 段假片。每名參加者會睇其中 60 段,再判斷條片有幾大機會經過偽造。

結果個落差幾明顯。喺畫面較工整、人物多數正面望鏡頭嘅 DF40,參加者平均準確率係 74.3%,AI 偵測器平均有 61%。去到 CharadesDF 呢批用私人手機喺屋企拍攝、光線同角度變化較大嘅片,人類平均有 78.4%,AI 就得 53.7%,即係只係好過擲銀仔少少。呢組數字只代表指定數據集同測試設定,唔可以直接套落所有偵測網站或者所有 Deepfake。

壓縮痕跡可以同偽造痕跡撞樣

好多偵測模型會學到人眼未必察覺嘅低階規律,例如訊噪比、顏色分布、對比、面孔尺寸同像素紋理。問題係,手機鏡頭、低光降噪、app 重新編碼、裁切同縮放,一樣會改動呢啲規律。模型如果太依賴某種訓練片常見嘅壓縮特徵,收到另一部手機或者另一條平台處理過嘅片,就好容易撞板。研究入面,AI 單獨出現嘅嚴重錯誤主要係將真片判成假片,作者推測原因包括模型過度依賴壓縮痕跡。

呢點拆穿咗偵測器個百分比分數帶來嘅假精準感。畫面上寫住「87% AI generated」,唔代表背後真係有一個適用於任何影片嘅固定概率;個結果會受模型用咩片訓練、上載版本經過幾多次轉檔、張臉有幾大同光線點樣影響。原檔、WhatsApp 轉發片同社交平台錄屏,即使內容來自同一段影片,都可能攞到完全唔同嘅判斷。

人類贏咗一場測試,都唔代表直覺可靠

研究亦發現兩邊嘅弱點唔同:人類較容易將製作精細嘅假片當真,AI 就較容易冤枉畫質差嘅真片。將多個人同模型嘅判斷適當整合,可以減少高信心錯判。不過,普通用戶手上冇 95 個模型同一班評審,亦唔應該將論文嘅組合成績當成任何現成產品嘅保證。

限制亦要講清楚。參加者一開始已知道任務係分辨真假,自然會集中精神逐段睇;平時碌社交平台,大家未必有同樣警覺。CharadesDF 嘅假片亦只由五種換臉工具製作,未涵蓋專業特效、未來生成模型、純聲音冒認或者所有即時視像騙局。論文暫時係 arXiv 預印本,未確認經同儕審查,而偵測技術更新得好快,53.7% 呢個結果唔應該推成所有 AI 永遠都唔識分。

收到可疑片,查來源實際過捉畫面破綻

第一步先搵原始出處:邊個帳戶最早發佈、帳戶有冇認證、完整片段同前文後理喺邊。第二步可以抽幾個關鍵畫面,用 Google Lens 做反向搜尋,睇下舊片有冇俾人換聲、換字幕或者重新剪接。第三步再搵涉事人物、公司、政府部門或者傳媒嘅官方渠道,確認佢哋有冇發布同一段內容。單靠搜尋搵唔到相同畫面,亦唔等於條片真,只代表暫時冇搵到來源。

如果視像或錄音牽涉過數、密碼、公司資料同緊急指示,做法要再硬淨啲:用通訊錄入面原有嘅電話號碼回撥,或者經另一名同事、親友及正式內部流程確認身份。香港警方同樣建議多渠道核實;叫對方即場做指定動作可以輔助判斷,但就算動作自然,都唔代表一定係真人。公司尤其要保留雙人批核,大額付款唔好因為「高層而家喺視像入面」就跳過程序。

偵測器適合做警報,唔適合做裁判

Deepfake 偵測仍然有用,尤其平台要先從大量內容揀出可疑片段。不過,佢比較似煙霧警報:響咗要查清楚,冇響亦唔代表一定安全。普通用戶最穩陣嘅做法,係保留原檔、查最早片源、反向搜尋,再用獨立渠道確認人物身份。涉及金錢或敏感資料時,任何一個 AI 分數、肉眼破綻或者熟悉聲線,都唔足以單獨放行。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook