xAI 首次告 Grok 用戶：打擊違法深偽，定係將平台責任推返出去？

xAI 今次採取咗 AI 公司少見嘅做法：直接控告一名自家用戶，指佢違反服務條款、繞過 Grok 安全限制，再用普通相片製作非自願性裸照同涉及未成年人嘅違法內容。 官司未有裁決，以下細節主要來自 xAI 訴狀，唔可以當成法院確認咗嘅事實；被告涉及嘅刑事控罪亦未定罪。

xAI 話用戶反覆繞過限制

被告 Terry Wayne Harwood 今年 2 月喺南卡羅來納州俾執法人員拘捕，面對八項涉及性剝削未成年人嘅控罪。州檢察長辦公室確認，當地調查人員收到美國失蹤及受剝削兒童中心（NCMEC）CyberTipline 報告後鎖定佢；不過官方公告冇交代每份報告由邊個平台提交，亦冇確認 Grok 生成內容佔幾多。

xAI 喺訴狀指稱，Harwood 涉嫌由 2025 年 12 月起開設兩個帳戶，把成年人同未成年人嘅非色情相片交畀 Grok，再反覆修改要求，避過系統拒絕同安全限制。公司話佢明知服務條款禁止相關用途，仍然製作非自願性深偽圖片。xAI 以違約為理據索償，金額未有公開，亦要求法院永久禁止 Harwood 開新帳戶或再用 Grok。

告用戶有阻嚇力，但修唔好個模型

平台向明顯濫用者追究責任，本身合理。封帳戶只係關上一道門，用戶轉電郵、裝置或者網上身份就可能再試；法院禁令同金錢賠償則提高代價，亦向其他人表明服務條款唔止係註冊時撳一下「同意」。如果案件成立，其他 AI 平台有機會照用呢套做法，將違約訴訟加到封帳戶、保存紀錄同報警之外。

問題係，呢種做法只處理已經俾平台發現嘅人，阻止唔到模型喺當下產出傷害。 xAI 今年 1 月話已加入技術措施，阻止 Grok 把真人相片改成暴露衣着，亦話會按地區法律封鎖相關功能，圖片生成及編輯則收窄至付費用戶，方便追查濫用者。不過 AP 當時檢查後發現，免費帳戶仍可接觸部分圖片編輯功能。安全承諾同實際產品之間有落差，正正係爭議一直冇散嘅原因。

訴狀亦反映 xAI 想劃清責任

xAI 指稱自己 2026 年已停權 52,222 個帳戶，向 NCMEC 提交 73,604 份報告，相關工作帶來至少 244 宗拘捕。呢批數字由公司寫入訴狀，暫時未見獨立核實；「報告帶來拘捕」亦唔代表每宗案件都由 Grok 生成內容引起。呢批數字反映平台有採取行動，但亦顯示相關濫用可能唔只係零星個案。

更值得睇嘅係 xAI 點寫自己受到嘅損害：除咗第三方受害者，公司亦指 Harwood 涉嫌令 xAI 面對法律風險同聲譽損失。配合服務條款入面要求用戶為違規用途引起嘅索償、損失同律師費負責，呢宗官司明顯亦有防守作用——往後再有人控告 xAI，平台可以指出自己有規則、有舉報、會停權，甚至會主動告濫用者。

平台責任唔會因一宗違約官司消失

用戶涉嫌蓄意避過限制，同模型點解會輸出違法內容，可以同時成立。生成式 AI 平台掌握模型、過濾器、帳戶紀錄同發布渠道，唔能夠只等受害者舉報後先反應；合理做法仲包括預先攔截針對真人嘅敏感圖片修改、偵測重複試探限制、快速凍結可疑帳戶，同為受害者提供清晰刪除及申訴渠道。

所以，xAI 告用戶有機會成為業界新工具，卻唔足以證明 Grok 安全問題已經處理好。案件下一步要睇法院會唔會接納 xAI 嘅違約同損害主張，同埋公司願意公開幾多安全措施失效、帳戶停權同舉報流程資料。呢啲資料先可以判斷，官司究竟阻止到幾多濫用。

參考來源

• Ars Technica — xAI can’t deny Grok makes CSAM anymore. So it’s suing users. — original report
• X.AI LLC v. Harwood — Law360 case tracker — 核對案件編號、入稟日期、法院、案件類別同訴訟狀態。
• Four Upstate men arrested on Child Sexual Abuse Material charges — 南卡羅來納州檢察長官方公告，確認拘捕日期、控罪、CyberTipline 線索同無罪推定。
• Terms of Service — Consumer — xAI 官方服務條款，核對禁止用途、用戶賠償責任同平台免責安排。
• Grok blocked from undressing images in places where it’s illegal, X says — 交代 xAI 公布嘅圖片安全措施，以及 AP 當時檢查功能後發現嘅執行落差。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。