Discord 錯 ban 八千帳戶：AI 審查出錯，社群管理要識留後路

發生咩事

Discord 今次唔係小範圍誤殺。TechCrunch 報道，Discord 承認 AI 輔助審查系統有 bug，五月起錯 ban 逾 8,000 個帳戶；上個周末再多約 200 個帳戶因為上載「格仔」類圖片中招，包括棋盤、試算表、game texture、透明底背景。Discord Support 喺 X 話，受影響帳戶已經恢復，CTO Stanislav Vishnevskiy 亦道歉。

真正出事位

Discord 官方講法，安全系統會攞上載內容同已知有害素材 database 做相似度匹配。背景上，Microsoft PhotoDNA 同 Tech Coalition 都講過，業界常用 hash / similarity matching 去搵已知違法影像；呢種做法可以理解成影像指紋對指紋，唔係聊天機械人自己望圖亂估。問題係，一有 false positive，後面執法流程要頂得住。Discord 原本設計係先暫停上載，再交 Trust & Safety 人手睇；今次 bug 直接跳到封帳，人手清咗都未自動解封。

點解格仔都會中招

外國社群今次最易令人火滾嘅位，係普通格仔圖都出事。Reddit 同 X 有人講棋盤、Minecraft inventory、試算表、素材貼圖中招，不過呢啲用戶個案只能當線索，唔好當完整統計。合理推論係：相似度系統唔只睇一張圖嘅語意，亦可能睇低解像、灰階、分格之後嘅視覺指紋；所以某啲重複格、棋盤格、透明背景有機會撞到錯誤 pattern。Discord 冇公開細節，我哋唔應該幫佢補完技術內幕。

對重度用戶有咩提醒

對香港用開 Discord 嘅 gamer、學生 project、indie dev、Web3 / AI 社群嚟講，錯 ban 麻煩位唔止係少咗個聊天 app。好多 server 其實係日常營運位：每日 stand-up、bug report、玩家客服、社群公告、私訊聯絡都喺入面。帳戶俾封，2FA 同強密碼幫唔到你；今次麻煩喺平台執法層，唔係你個密碼漏咗。server owner 尤其要有多個 trusted admin、外部聯絡表、重要資料搬去 GitHub / Notion / Drive，唔好淨係擺喺 Discord。

如果真係中招

如果你真係收到錯 ban 或 violation，做法要冷靜啲。先截圖保存 Discord email、Account Standing 畫面、時間、上載咗咩普通圖片、相關 message link 或 server context；如果涉及公司、game project 或社群營運，準備身份同權限證明。Discord 官方申訴頁講，可以喺 User Settings > My Account > Standing 揀對應 violation，再按 Let us know 要求 review；support portal 亦可以遞 ticket。重點係用同一張 ticket 補資料，保存 ticket number，唔好短時間狂開新 ticket 令對話碎晒。

平台要交代嘅唔止係「已修好」

Discord 話已經修好 bug，同恢復受影響帳戶，呢步只係補鑊。之後要睇嘅係：相似度匹配出錯時，封帳點樣分級；人手 review 點樣真係擋住自動執法；申訴結果點樣清楚通知用戶。AI moderation 用喺大型平台有必要，尤其涉及嚴重違法內容，但只要佢可以一腳踢走帳戶，就要有同等級嘅復原同問責機制。用 Discord 做正經營運嘅人，而家就要當平台風險管理。

參考來源

• TechCrunch — Discord admits AI moderation bug wrongfully banned users over harmless images — original report
• Discord Support thread on false bans — 官方 thread 講相似度匹配、false positive、人手 review 同錯 ban。
• Stanislav Vishnevskiy apology post — Discord CTO 補充約 200 個格仔圖片帳戶、五月起約 8,000 個其他無害圖片帳戶，亦話已解封。
• Discord accidentally banned over 8,000 people for posting grids and other ‘benign’ images — 交叉核對 200/8,000 影響數字、人手清咗但 bug 未解封嘅流程。
• How to Appeal Our Actions | Discord Safety — 官方申訴路徑：Account Standing 揀 violation 再申請 review。
• How to Submit a Support Ticket to Discord — 官方 ticket 提交流程、保存 ticket number、同一張 ticket 補資料。
• PhotoDNA | Microsoft — 解釋 hash / digital signature 點樣比對已知違法影像，亦講明唔係 facial recognition。
• An Update on Voluntary Detection of CSAM | Tech Coalition — 補充業界點用 hash-based detection、classifier 同人手確認處理有害內容。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。