教宗談 AI 嘅通諭疑有 AI 文風，香港唔應該迷信 detector

圖：The Verge．原文連結

一份談 AI 風險、權力集中同人類尊嚴嘅教宗通諭，俾 AI detector 指部分段落可能有 AI 生成痕跡，諷刺感當然夠強。但呢件事唔應該被處理成宗教八卦，真正有價值嘅問題係：當一段文字被工具話「似 AI」，我哋到底可以推論到幾多？喺香港，學校、公司、公營機構同傳媒已經日日面對 AI 代筆、AI 改稿、AI 翻譯同 AI 檢測，今次事件剛好將幾條灰線擺晒上枱面。

The Verge 報道指，LessWrong 作者 Linch Zhang 用 AI detector Pangram 分析教宗良十四世（Pope Leo XIV）嘅《Magnifica Humanitas》，發現某些段落被判定有 40% 至 100% AI 生成可能。報道亦提到，另一個分段檢測結果指第一章有 62% 被標示為 AI 生成；The Verge 自己抽取約 2,000 字測試，Pangram 估算當中 46% 由 AI 撰寫。不過，同一篇報道亦寫明，文件有其他部分被 Pangram 判成接近 0% AI，過往幾份通諭同教宗演講逐字稿亦被判為人手撰寫。

最重要嘅界線係：呢啲結果唔等於梵蒂岡承認用 AI 寫通諭。截至 The Verge 報道刊出時，梵蒂岡未有回應查詢；LessWrong 本身係論壇／個人分析，source 強度唔可以等同官方文件或獨立鑑證。Zhang 提出嘅其中一個線索，是文件某些用字同 Anthropic Claude 生成英文常見文風相似，例如較多使用某些抽象副詞；但「文風相似」最多只係可疑訊號，唔係作者身份證明。

Detector 唔係法庭證據

Pangram 自稱可分析文字入面 AI 寫作痕跡，並在官方網站寫到 false positive rate 目前約為 1 in 10,000，亦聲稱有第三方驗證。呢類數字對市場同學校採購好吸引，因為管理者最想要一個簡單答案：呢篇文係咪 AI 寫？但統計表現同單一個案判斷係兩件事。測試集入面錯判率低，唔代表面對宗教文本、政策語氣、多人編輯、翻譯稿、或高度公式化嘅英文時都一樣穩陣。

OpenAI 早年推出過 AI text classifier，之後因為準確率低而停用，官方亦列出限制：短文本不可靠、人手文字可能被錯判成 AI、非英文表現更差、AI 文字經人手修改後可以避過檢測。呢個歷史提醒好直接：AI detector 可以係風險提示，但唔應該係裁決工具。當 detector 分數牽涉學生紀律、僱員誠信、公開文件可信度，單靠一個百分比去定罪，技術上同程序上都站唔穩。

今次個案有趣之處，正正係 detector 結果唔係單一方向。部分段落「好似 AI」，部分段落「好似人寫」，可能代表有人用 AI 起草再人手重寫，亦可能只係多名撰稿人、翻譯、編輯程序、宗教文體同 detector 訓練分佈撞埋一齊。教宗通諭本身通常經過神學、外交同文字層面多重處理，唔係一個人坐低一次過打完嘅 blog post。用 detector 睇到段落差異，只能話「值得問」，未足以話「已證實」。

如果官方文件用 AI，披露比偵查更重要

《Magnifica Humanitas》官方文本主題包括 AI 時代下保護人、真相、工作、自由、戰爭同科技權力。梵蒂岡新聞摘要亦提到，文件認為科技唔係天生邪惡，但亦唔係中立，因為科技會帶住設計、資金、規管同使用者嘅價值。換句話講，文件本身最關心嘅唔係「可唔可以用工具」，而係權力、責任同透明度。假如一份強調 AI 治理嘅文件本身有用 AI，問題核心亦唔係「用咗就失格」，而係用喺邊一層、由邊個負責、同有冇向公眾講清楚。

機構使用 AI 寫公開文件，可以有好多層次：brainstorm、整理資料、翻譯、改文法、草擬段落、生成整份初稿，風險完全唔同。公司用 AI 改通告語氣，同政府部門用 AI 生成政策理據，公眾期望亦唔同。合理制度應該要求留下工作紀錄：邊個工具、輸入過咩類型資料、有冇個人資料或未公開內容、AI 輸出經邊個專業人員覆核、最後責任人係邊個。無呢套程序，事後就只剩 detector 分數同口水戰。

香港學校同公司已經避唔開

香港教育局已有教學資源示範用 AI 協助處理開放式科學題，亦提醒教師要覆核 AI 輔助評估結果，並按課堂情境作專業判斷。呢個原則其實可以直接套落 AI detector：工具可以幫手篩查、排序、提示異常，但最後唔應該由工具決定學生有冇作弊。比較穩陣嘅做法，是睇草稿版本、資料來源、課堂討論、口頭答辯、寫作風格變化同學生能否解釋自己論點，而唔係拎住「80% AI」就當證據。

香港公司同公營機構亦有更直接參考。數字政策辦公室嘅香港生成式 AI 技術及應用指引，講到 human oversight、核實 AI 生成內容真確性、標示 AI 有否參與內容生成或決策，以及公開發布 AI 生成內容時披露來源。呢啲要求比「捉 AI」實用得多，因為企業同機構真正要管理嘅，是資料外洩、錯誤內容、偏見、知識產權、聲譽同問責。內部政策唔應該只寫「禁止用 ChatGPT」，而要寫清楚咩資料唔可以輸入、咩用途要申報、咩輸出要二次覆核。

• 學校處理懷疑 AI 代筆：detector 只可作初步線索，要配合草稿、口頭解釋同教師判斷。
• 公司發布政策、研究、新聞稿：若 AI 實質參與草擬或生成，應有內部紀錄同人手負責人。
• 公營機構使用 AI：涉及公共信任，披露、覆核同可追溯性應該高過一般 marketing 文案。

行業會由「捉鬼」轉向「留痕」

AI detector 市場短期仍會存在，因為學校、出版社、平台同 HR team 都想降低審核成本。但越多用家識得 prompt、改寫、humanizer、翻譯再回譯，單靠文字統計特徵會愈來愈脆弱。另一方面，人手寫作亦會受 AI 文風影響：大家開始用更工整嘅段落、更平滑嘅轉折、更少個人語氣，結果人寫得似 AI，AI 又被要求寫得似人。detector 要追住呢個循環跑，注定係高成本、低確定性。

更可靠嘅方向，是 provenance 同 workflow governance：文件由邊個帳戶建立、版本點樣變、AI 工具有冇接入、輸出有冇標籤、發布前有冇人工審稿。文字 watermark、metadata、企業內部 AI gateway、文件管理系統紀錄，都比事後拎一篇完成稿去猜作者更接近實務需要。當然，呢啲方法亦有私隱同監控風險，所以香港公司推行時要同僱員清楚講明範圍，避免將 AI 管治變成無限度員工監察。

今次教宗通諭事件最值得記住嘅，不係「某某一定用咗 AI」，而係連全球性宗教文件都可以因為 detector 分數引發可信度爭議。若梵蒂岡無用 AI，事件顯示 detector 可以令無辜文本背上疑雲；若真係有用 AI，焦點亦應該係披露、責任同人手編審，而唔係工具本身。香港學校、公司同公營機構而家要做嘅，是先寫好規則：AI 可以點用、幾時要講、邊個覆核、出事邊個負責。偵測器最多係警鐘，唔係判官。

參考來源

• The Verge — Did the Pope use AI to write about the dangers of AI? — original report
• Encyclical Letter Magnifica Humanitas — 梵蒂岡官方全文，用嚟核對文件主題、日期同 AI 治理、透明度、人類尊嚴等背景。
• Claude, Author of the Humanitas — Linch Zhang 原分析來源；屬論壇／個人分析，文章內已按較低 source 強度處理。
• AI Detector — Verified AI Content Checker | Pangram — Pangram 官方資料，核對其 AI detection 方法、準確率聲稱同 false positive rate 聲稱。
• New AI classifier for indicating AI-written text — OpenAI 官方說明，提供 AI 文字檢測器限制同停用 classifier 嘅背景。
• Hong Kong Generative Artificial Intelligence Technical and Application Guideline — 香港數字政策辦公室指引，支撐本地 AI 披露、人手覆核、內容核實同機構問責角度。
• Using AI to Assess Open-ended Scientific Questions — 教育局資源，支撐香港學校使用 AI 輔助評估時仍需教師覆核同專業判斷。
• Guidelines for Students on the Use of Generative Artificial Intelligence (Updates) — 本地大學例子，說明生成式 AI 可被納入學習評估，但 AI 生成材料要適當標示和引用。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。