AI 開始幫警察寫報告:慳到時間,證據紀錄同問責成新問題
Tech News

AI 開始幫警察寫報告:慳到時間,證據紀錄同問責成新問題

圖片:via The Verge — https://www.theverge.com/ai-artificial-intelligence/965066/ai-police-cops
TechLab 編輯部(譯)·

美國警務科技商進入核心流程,香港亦由查詢服務逐步走向報案試行同影像分析

AI 食緊嘅唔止係文書工作

今年美國國際警察首長協會科技會議入面,供應商推銷嘅 AI 工具已經由一般行政支援,伸入報案、寫警察報告、翻查隨身鏡頭片段、車牌辨識、人臉辨識同實時指揮中心。The Verge 現場採訪見到嘅重點幾清楚:科技商成套賣嘅,係由收集證據去到整理案情,甚至輔助部署警力嘅完整系統。

呢套說法當然吸引。Axon 2024 年一項由公司自己做嘅研究話,美國警員平均花約四成工時寫報告;自動生成初稿,表面上可以即刻釋放人手。不過警察報告會影響調查方向、檢控決定同法庭證供,漏咗一句、寫錯一個動作,後果同 AI 幫公司整理會議紀錄差好遠。呢啲所謂低價值文書,記低嘅正正係執法人員當時見到咩、點理解件事。

「零幻覺」放喺證據面前唔夠用

Axon 嘅 Draft One 會按隨身鏡頭錄音起草報告,亦刻意留低部分空格,要求警員補資料。公司曾形容系統把模型創意調低至零,聲稱唔會產生幻覺;但 The Verge 引述一宗測試事故,系統聽到現場播放緊《公主與青蛙》,竟然寫咗警員變成青蛙。呢次錯誤好笑兼容易發現,真正麻煩反而係合理得滯、但細節錯咗嘅句子。

Draft One 推出初期,報告提交後冇保留未經修改嘅 AI 原稿,辯方同法庭好難追查某段內容由模型生成,抑或警員親自加入。Axon 向 The Verge 表示,系統到去年 12 月已更新,部門可以保留同翻查原始 AI 敘述。呢個改動說明咗一件事:要做好人工覆核,審核者先要有原稿、錄音、修改紀錄同模型版本可以對照。 淨係要求警員撳掣確認,擋唔住人習慣相信電腦輸出嘅 automation bias。

供應商包起成套系統,決策權亦跟住移位

Axon、Motorola Solutions 同 Flock Safety 都想包辦鏡頭、車牌閱讀器、證據平台、無人機同實時指揮中心。Axon 更用 AI Era Plan 訂閱制,畀客戶一次過取得現有同日後推出嘅 AI 功能。公司向投資者披露,相關訂閱量同 AI 收入快速增長;呢啲係公司財務口徑,唔等於獨立驗證過工具表現,但足以見到警務 AI 已經成為一門大生意。

當同一間供應商同時保管原始影像、生成報告、搜尋人物,再幫手整合行動資訊,部門轉系統會愈來愈難。模型點訓練、錯誤率點計、更新後表現有冇變,亦可能受商業機密限制。舊式預測警務已示範過一個循環:某區本身報案多、巡邏多,系統就會從歷史資料推斷嗰區風險高,再派更多警力過去,最後製造更多數據支持原先判斷。換咗生成式 AI,歷史偏差唔會自己消失。

香港已部署、試行同研究中要分開睇

香港現時已經有幾條唔同路線。警方流動 app 內置嘅 YesSir 已經投入服務,用途係全天候回答警隊服務同騙案資料;呢類查詢工具離證據核心較遠。政府文件就話,警方原定 2026 年第二季喺中環港鐵站試行首個 AI Police Post,由虛擬警察大使用語音引導市民報非緊急案件,再自動抽取重點。公開文件描述嘅係試行計劃,未交代模型準確率、錯誤更正、錄音保存同 AI 原稿披露安排,亦唔宜單憑原定時間表當成已全面投入服務。

至於 銳眼計劃 SmartView,政府今年 2 月話首階段已裝約 5,000 支警方鏡頭,另接入約 6,000 支第三方鏡頭;已投入應用嘅 AI 功能包括人流估算同自動車牌辨識。政府亦計劃建立 AI 影像分析工具箱,快速翻查影像。人臉辨識方面,立法會文件截至去年仍寫明警方研究方案、詳情稍後公布;有議員促請警方加快應用,用嚟協助尋找失蹤人士同疑犯,但文件冇將呢項功能列作已投入應用。換句話講,鏡頭網絡同部分分析功能已存在,公共閉路電視人臉辨識就仍要等正式用途、規則同部署資料。

本地指引有原則,仲欠警務場景嘅具體答案

私隱公署嘅 AI 指引將用人臉、聲紋同步態作即時身份辨識,列為較高風險用途。建議保留較高程度嘅人工監督;指引亦要求做風險評估、記錄測試同設計資料、定期審核模型,最後由人承擔決定責任。公署嘅生物辨識資料指引亦提醒,容貌資料唔似密碼,外洩後冇得重設,收集前要先證明用途屬必要、適度同相稱。

不過,原則去到警務核心流程仍有幾個空位:市民可唔可以知道報告用過 AI、辯方可唔可以取得原稿同修改紀錄、不同群組嘅誤判率會唔會公開、供應商更新模型前後由邊個獨立測試,仲有系統出錯後點申訴。AI Police Post 同銳眼下一階段愈接近報案、身份辨識同證據分析,政府就愈要喺正式擴展前公開呢啲安排;淨係講慳人手同破案數字,未足以交代一套會影響市民權利嘅系統點運作。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook