Reddit 用 LLM 捉 AI spam，想保住搜尋時代嘅人味討論
每日攔 2,300 萬次 spam 瀏覽，但人手 moderation 都仲要有
Reddit 今次講咗咩
Reddit 喺 2026 年 7 月 6 日公布新 AI 防線。官方話，系統而家每日攔截 2,300 萬次 spam 瀏覽，捉到約 25,000 個新 spam post 同 comment，1 月至 3 月嘅 spam exposure 比之前三個月少咗約 20%。另外，Reddit 話過去三個月每日撤回接近 200 萬個假 vote，仇恨同暴力英文內容由偵測到執法平均壓到 5 秒內。TechCrunch 點題得準，呢件事有少少反諷：LLM 令 spam 平到離譜，平台又要靠 LLM 清返場。
圖片：Reddit
舊 moderation 點解唔夠用
以前 spam 多數有啲硬痕跡：新 account、重複 link、固定句式、同一批 IP、短時間狂出 comment。規則系統同 mod bot 對呢啲有用。不過 LLM spam 嘅麻煩位，係佢可以扮成一段似用家經驗嘅長文，仲可以每次改少少語氣。單條 comment 睇落正常，一堆 account 一齊推同一隻 app、一件產品、一個網站，先露出節奏。Reddit 話新工具用 LLM 睇呢類細微協同模式，重點係跨 post、跨 account 搵 artificial hype，唔淨係掃關鍵字。
Reddit 已經變成搜尋基建
以前 Reddit 對好多人只係 forum：入去睇 thread、問問題、鬧吓產品。2024 年之後個角色唔同咗。Google 公布同 Reddit 擴大合作，用 Reddit Data API 取得比較新、結構化嘅內容，亦提到大家會用 Google 搵 Reddit 上面嘅產品推薦同旅遊建議。OpenAI 同 Reddit 嘅合作亦係同一條線，ChatGPT 可以接觸 Reddit 嘅即時、結構化內容。咁一來，一個假評價 post 如果留喺 Reddit，可能俾 Google 摘入搜尋結果、俾 Reddit AI search 摘成答案，再俾聊天工具當成近期討論脈絡。
AI search 令錯帖走得遠
Reddit 自己嘅 AI search help page 講到好白：系統會用生成式 AI 整理 Reddit 各社群入面現有 post 同 comment，答案會附原帖引用，但 Reddit 同時提醒，摘要未必準確，內容亦冇經 Reddit endorse，法律、醫療、金融呢類題目要自己覆核。呢句其實好重要，因為 AI search 唔會神奇咁將垃圾變真相；如果底層帖文俾 spammer 污染，摘要只會將污染包裝得更順口。對買耳機、砌 PC、揀手機、搵旅行交通資料嘅人來講，撳入引用睇返原帖同 account history，仍然係基本功。
點樣分辨 AI spam
實用啲講，幾個訊號值得睇：account 好新但長篇大論多到唔自然；comment 成日用同一種中性語氣，冇錯處、冇地名、冇具體使用場景；短時間喺多個 subreddit 推同一個品牌或者連去同一堆站；一問細節就答得空泛，或者搬返一段似 SEO 文案嘅答案。呢啲唔係單獨判死刑，但幾樣一齊出現，就要當成紅旗。尤其係產品評價同技術故障答案，最好睇返有冇後續回覆、其他人有冇挑錯，同埋 mod 有冇標記。
AI moderation 仍然要人手
Reddit 官方話今次係分層做法：平台 admins 用自動工具同人手 review，社群 mods 用 Reputation Filter、Crowd Control、Ban-Evasion Detection 呢類工具，用戶再靠 upvote/downvote 壓低低質內容。呢個方向合理，因為 spam 速度已經快過純人手處理。不過自動化一快，誤殺同漏網嘅代價都會即刻放大。Reddit 話 false positive 降咗超過 40%，但呢啲始終係自家數字；arXiv 一篇研究亦指出，AI 輔助可以改善社群 fact-checking 質素，前提係人同 AI 意見有機會互相修正，判斷權唔好全丟畀模型。
下一步睇透明度
Reddit 呢步唔難理解。AI spam 平、快、可量產，平台用同級工具去追係合理。不過 Reddit 真係要講多啲執法細節：唔同語言嘅準確度點，申訴速度點，誤殺對新用戶同小社群有幾大影響，商業推廣同真用家推薦又點分。Reddit 賣點一路都係真人經驗，當佢同 Google、OpenAI、自己 AI search 綁得愈深，清 spam 已經唔只係 Reddit 站內問題，仲會影響 Google、ChatGPT 同 AI search 引用到嘅資料質素。
參考來源
- TechCrunch — Reddit is using LLMs to solve a problem LLMs largely created — original report
- How We’re Keeping Reddit Real and Safe in the AI Era — Reddit 官方公布今次 AI 防 spam 數字同分層治理做法。
- Reddit’s AI search — 確認 Reddit AI search 點整理帖文、引用同提醒用戶覆核。
- An expanded partnership with Reddit — 交代 Google 點用 Reddit Data API，同 Reddit 喺搜尋嘅位置。
- OpenAI and Reddit Partnership — 交代 OpenAI 同 Reddit Data API 合作，點樣令 Reddit 討論進入 ChatGPT 生態。
- AI Feedback Enhances Community-Based Content Moderation through Engagement with Counterarguments — 補充 AI 輔助 moderation 同人手判斷點樣配合嘅研究背景。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
