AI 幫你搵引用前，要先當佢會講錯：一本講真相嘅書點樣中招

圖：Ars Technica．原文連結

生成式 AI 最危險嘅錯，往往唔係文筆差，而係佢寫得太似真。你叫佢幫手搵資料、整簡報、寫報告，佢可以將一個人冇講過嘅說話，包裝成有名有姓、有書名、有上下文嘅引用；再加埋一條似模似樣嘅 citation，成份文件就會由「未核實初稿」變成「好似好可靠」。Steven Rosenbaum 新書《The Future of Truth: How AI Reshapes Reality》今次出事，正正係一個提醒：AI research 唔係唔可以做，但每一步都要當佢未完成。

Ars Technica 跟進《紐約時報》調查指，Rosenbaum 呢本講 AI 如何令真相變得模糊嘅書，被發現有多個錯誤歸因或合成引用。Rosenbaum 承認書入面有「少量」不當歸因或由 AI 造成嘅 quote，並表示自己喺研究、寫作同編輯過程用過 ChatGPT 同 Claude，現時同編輯做 citation audit，日後版本會修正。事件入面有兩個特別清楚嘅例子：科技記者 Kara Swisher 向《紐約時報》否認講過書中歸於佢嘅說法；Northeastern University 教授 Lisa Feldman Barrett 亦指相關句子唔喺佢嘅書入面，而且意思本身都錯。

諷刺位唔係重點，責任鏈先係重點

呢單新聞容易被當成笑話，因為一本講 truth 嘅書，竟然自己出現假引用。但如果只係笑「講真相嘅書唔真」，就會錯過更實際嘅問題：一本非小說書由作者寫、出版社編、外界推薦、媒體摘錄，中間理應有好多關卡，但假 quote 仍然可以入到成品。Simon & Schuster 官方頁顯示，呢本書由 Matt Holt Books 出版、Simon & Schuster 發行，2026 年 5 月 12 日出版，主題正係 AI 如何重塑現實同信任。當成個包裝都係「嚴肅討論 AI 同真相」，引用錯誤就唔止係 typo，而係破壞整套可信度裝置。

引用同一般 factual claim 唔同，因為 quote 會將具體觀點綁落某個人身上。產品規格寫錯可以更正，價錢寫錯可以補回日期；但將一段冇講過嘅話放入某位學者、記者或受訪者口中，就會改寫對方立場。更麻煩係，AI 生成嘅錯誤引用通常唔會一眼假：語氣似、概念啱、人物也真有其人，甚至書名、訪問、年份都可以混合到好可信。內容團隊最易中招嘅地方，就係覺得「呢段好合理」等於「呢段有出處」。

點解有 citation 都可以錯

大語言模型本質上係按文字模式生成下一段內容，唔係原生就會查證世界。OpenAI 自己嘅 Help Center 亦提醒，ChatGPT 可能產生不準確或誤導內容，包括虛構 quote、研究、citation 或不存在來源；即使答得有信心，亦唔代表可靠。Anthropic 對 Claude 嘅說明亦承認，模型可能寫出睇落正確但其實錯嘅內容；官方文件建議用引用令答案可追溯，但前提係引用要回到真實文件，唔係單靠模型話「有 source」。所以，AI 工具有 search、有 citations、有文件問答，最多係幫你縮短搵線索時間，唔係代替人手核實。

今次事件入面，最值得拆開睇嘅唔係「某一個 quote 假」，而係錯誤有幾種形態。第一種係完全冇講過：人物真、議題真，但句子係合成。第二種係概念被改到變錯：好似 Barrett 個案，唔單止來源搵唔到，內容亦唔符合佢嘅學術表述。第三種係 quote 可能真有其事，但出處被放錯，例如跟進報道提到 Meredith Broussard 一段說話，問題唔係句子完全不存在，而係被歸到錯誤作品。呢三種錯法對編輯嚟講處理方法唔同，但共同點係：只要唔打開原始來源逐字對，AI 可以令所有錯都披上同一層可信外衣。

呢唔係出版界單一事故

同類錯誤近年已經喺新聞、法律同學術場景反覆出現。AP 報道過，Chicago Sun-Times 同 Philadelphia Inquirer 用過一份夏季閱讀特刊，入面多本推薦書其實唔存在；撰文人承認用 AI 幫手研究但冇 double-check。法律界亦有多宗 AI 造成假案例或假 citation 嘅事件，最出名包括美國 Mata v. Avianca 案，律師引用 ChatGPT 生成嘅不存在案例而被法庭制裁。呢啲個案嘅共通點唔係「某工具特別壞」，而係所有人都以為下一個人會核實：作者以為編輯會睇，編輯以為作者做咗，客戶以為專業人士負責，結果冇人真係逐條 citation 追到源頭。

所以將責任推晒畀 ChatGPT 或 Claude 其實太簡單。模型會幻覺係技術限制，但錯誤可以入稿、入簡報、入法庭文件、入公司報告，就係流程設計問題。AI 越好用，越容易令人跳過資料整理入面最沉悶但最重要嘅步驟：開原文、搵頁碼、對原句、記低版本、確認語境。以往研究助理交一份 source list，編輯仍然會抽查；而家 AI 交出一段已經像樣嘅正文，好多人反而忘記佢只係研究助理，唔係來源本身。

香港場景：用得多，就要有查證規矩

事件本身發生喺美國出版同媒體圈，但香港公司、學校、PR agency、中小企同內容團隊已經好常用 AI 做相近工作：由中英文新聞稿、投標文件、客戶簡報、社交帖文，到市場研究摘要、產品比較表、課業初稿。香港數字政策辦公室 2025 年公布嘅《香港生成式人工智能技術及應用指引》明確講到模型幻覺未能徹底消除，輸出可能出現虛構、拼湊同移植；指引亦特別提到新聞場景，AI 整理報道時要有內容來源，並經事實查證同全文審核先可以公開。呢個要求放落 PR、marketing、學校功課或者公司報告一樣適用：只要會對外發布，就唔應該將 AI output 當完成品。

本地高風險行業已經用更直接嘅語氣處理呢件事。司法機構 2026 年發出嘅生成式 AI 使用指引提醒，聊天機械人可能編造虛構案例、引稱或引用，使用者喺工作中依賴任何 AI 資訊之前都要檢查同核實，最終亦要為自己名義製作嘅材料負責。金管局、證監會、保監局同積金局今年亦將 Gen.AI Sandbox++ 擴展至銀行、證券、保險、強積金同儲值支付工具等範圍，重點係喺風險可控環境測試 AI。呢啲本地動作反映一樣嘢：香港唔係唔用 AI，而係開始將 AI 當成要治理、要審計、要有人負責嘅工作系統。

內容團隊應該點改流程

最實際嘅做法係將 AI output 分成三層處理。第一層係 idea 同結構，AI 可以幫手列提綱、比較角度、指出可能要查嘅問題；呢層風險較低，但都唔應該直接變成事實陳述。第二層係 fact，同日期、數字、規格、人物身份、政策狀態有關，必須由人手搵可靠來源確認。第三層係 quote 同 citation，要求最高：每一句引述都要可以喺原文、逐字稿、影片字幕、官方文件或可查公開紀錄入面找到；搵唔到就唔好 paraphrase 成「某某表示」，最多只可以寫「有報道指」並標明來源，或者直接刪走。

一個簡單嘅 citation audit 表已經可以擋好多錯。欄位唔需要複雜：claim、AI 提供來源、人工核實來源、處理結果。claim 寫低正文每一項可查事實；AI 提供來源保留模型畀你嘅網址或書名；人工核實來源只填你真係打開過、搵到相關內容嘅頁面；處理結果就標「通過」、「改寫」、「刪除」或「[待確認]」。如果係 quote，再加一欄「逐字對照」，標明原句、頁碼或時間碼。呢個表格比叫 AI 「幫我 verify 一次」可靠得多，因為責任同證據都留喺人手可審核嘅紀錄入面。

• 見到人名加引號：先假設未核實，唔好因為語氣似就收貨。
• 見到書名、論文名、報告名：打開出版方、期刊、官方 PDF 或可信資料庫，確認真有其物。
• 見到網址：逐條 click 入去，睇內容係咪真係支持該句，而唔係只係同題目相關。
• 見到數字同日期：搵原始統計、公告或公司文件，避免由二手摘要一路轉述。
• 見到「某專家表示」：要有訪問、演講、文章或公開帖文支持，否則改成一般背景描述。
• 搵唔到來源：唔好叫 AI 再「肯定一次」，直接標 [待確認]、改寫或刪除。

ChatGPT 同 Claude 可以繼續用，但角色要降級

比較穩陣嘅 prompt 方式，唔係叫模型「幫我搵幾句 quote」，而係先提供已確認來源，再要求佢只喺該來源入面抽取重點，並列出原文位置。可以要求：如果來源入面搵唔到，就回答「未找到」，唔准推測；如果要整理多份資料，就每個 claim 後面標明來自邊一份文件。對於外部網上資料，AI 可以幫你提出搜尋詞、列出可能要查嘅官方頁、提醒你仲欠邊類證據，但最後一步一定係人手打開來源。尤其係新聞稿、pitch deck、投標書、董事會文件、學校論文同任何會對外發布嘅內容，AI 唔應該有權自己創造引述。

公司層面亦唔需要一開始就整到好重。私隱專員公署嘅 AI 個人資料保障模範框架講到，機構應有 AI 策略同管治、風險評估、人手監督、測試驗證、可追溯同審計機制、員工培訓同透明溝通。中小企可以將呢套概念簡化成幾條內部規矩：邊類資料唔可以放入公開 AI；邊類文件可以用 AI 起草但一定要第二人覆核；邊啲 claim 要有 source log；AI 參與程度何時要披露；出錯後由邊個負責更正同通知客戶。呢啲規矩唔係阻慢工作，而係避免一份快咗兩小時嘅簡報，最後變成公關、法律或者信任成本。

Rosenbaum 今次仍然話會繼續用 AI，呢個取態本身未必錯。真正問題係用 AI 之後，有冇將輸出重新拉返去可查證嘅世界：原始文件、公開紀錄、受訪者確認、編輯審核、版本紀錄。AI 可以幫手加速搵線索同整理材料，但真相唔係由模型信心產生，係由可追溯嘅證據同願意負責嘅人產生。喺香港任何內容、教育或商業場景，只要一句說話會被放入某個人名之下，就應該有同一條底線：冇原始來源，就唔好當 quote；未核實，就寫 [待確認]；寧願刪走一句漂亮句子，都唔好發出一段假準確嘅內容。

披露：本文由生成式 AI 協助整理資料及撰寫初稿，發布前須由編輯再核實來源、語氣及事實。

參考來源

• Ars Technica — AI put "synthetic quotes" in his book. But this author wants to keep using it. — original report
• The Daily Beast：Author Steven Rosenbaum Busted Using Fake AI-Generated Quotes in Book Critiquing AI — 交叉確認 NYT 調查重點、作者回應、Kara Swisher 同 Lisa Feldman Barrett 相關個案。
• Simon & Schuster：《The Future of Truth》官方出版頁 — 核實書名、出版資料、出版社、出版日期、主題定位同作者背景。
• OpenAI Help Center：Does ChatGPT tell the truth? — 官方說明 ChatGPT 可能產生錯誤、虛構引用或不存在來源，並建議核實重要資訊。
• Anthropic Docs：Reduce hallucinations — 官方文件說明 Claude 減少幻覺嘅方法，包括用引用令輸出可審核。
• 數字政策辦公室：《香港生成式人工智能技術及應用指引》 — 香港本地 AI 治理來源，支持模型幻覺、內容來源、事實查證同發布前審核等建議。
• 司法機構：法官及司法人員和支援人員使用生成式人工智能的指引 — 香港高風險行業例子，明確提醒 AI 可編造案例、引用同引述，使用者要核實並負責。
• 金管局：Regulators launch Gen.AI Sandbox++ to foster A.I. innovation across financial services — 顯示香港金融業正以風險可控方式推動生成式 AI，補充本地採用同治理脈絡。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。