點解 xAI 要告自己用戶？Grok 濫用案背後係安全責任攻防

xAI 今次告緊咩

xAI 入稟美國德州聯邦法院，指控南卡羅來納州男子 Terry Wayne Harwood 違反 Grok 使用條款，蓄意繞過安全措施、改動未經當事人同意嘅影像，同生成及散播兒童性虐待素材。Reuters 指呢類由 AI 公司直接控告用戶濫用生成工具嘅案件仍然少見。以上全部係 xAI 喺民事訴訟提出嘅指控，法院未有裁決，Harwood 亦未有公開回應。

xAI 呢宗官司同 Harwood 面對嘅刑事案件要分開睇。南卡羅來納州總檢察長辦公室話，Harwood 喺 2026 年 2 月 26 日俾人拘捕，面對八項涉及剝削未成年人嘅重罪控罪；調查由美國失蹤及受剝削兒童中心收到嘅線報引起。當局同樣強調，被告喺定罪前推定無罪。xAI 就聲稱，刑事案件涉及嘅影像當中，至少有部分經 Grok 生成或改動，但呢點暫時仍係公司一方講法。

條款唔只係「封 account」告示

xAI 而家嘅可接受使用政策寫得幾直接：禁止繞過安全系統、用真人影像製作未經同意嘅私密內容、性化或剝削兒童，同生成或散播違法內容。政策亦講明，公司會向美國失蹤及受剝削兒童中心舉報懷疑兒童性虐待素材。消費者條款另有賠償條文，要求用戶承擔因輸入、輸出或違反條款引起嘅部分損失同法律費用。

所以今次值得睇嘅位，係 xAI 唔止用條款停權，仲直接拎去打官司。一般人撳「同意」時，大概只當佢係平台保留刪內容同封 account 嘅依據；xAI 呢次就主張，刻意破解防護亦可以構成違約，嚴重到要用民事索償處理。若果法院接納呢套做法，其他 AI 平台日後遇到有組織、重複或者商業化濫用時，可能會照辦煮碗，用官司增加犯規成本。

告用戶亦係一場責任攻防

時機同樣敏感。Grok 過去幾個月因未經同意嘅性化改圖受到多地審視，亦有自稱受害者反過來控告 xAI，質疑產品設計同防護夠唔夠。喺呢個背景下，xAI 主動告用戶，除咗阻嚇濫用，亦向法院、監管機構同公眾表明：公司有規則、有防護、有舉報，出事源於個別用戶蓄意繞過系統。

不過，用戶違規，同平台防護唔夠力，可以同時係問題，唔代表追究咗用戶，平台就冇責任。 如果一套工具俾人持續破解，平台幾時發現、封鎖速度有幾快、相同手法點解可以重複出現，仍然係安全工程同平台問責要答嘅問題。民事訴訟可以追究個別用戶，但取代唔到產品本身嘅風險評估、濫用偵測同受害者支援。

香港用戶要留意影像一上載就可能失控

Grok 同 X 喺香港用得到，呢宗美國案件帶返嚟嘅提醒其實好實際：公開相片、聲音同影片都可以變成深偽素材。私隱專員公署嘅指引指出，用個人資料製作或發布惡意深偽，可能違反《私隱條例》；涉及未經同意嘅改造私密影像或兒童影像，亦可能觸及其他刑事法例。實際法律責任要按個別案情判斷，唔適合由呢宗美國官司直接推論。

xAI 呢次能否勝訴，要睇公司點證明涉案 account、操作紀錄、違約行為同損失之間嘅關係。更值得跟進嘅係，法院會點處理 AI 平台條款嘅約束力，同埋案件會唔會迫使 xAI 公開更多偵測濫用同執行安全措施嘅資料。

參考來源

• The Verge — xAI sues a man for using Grok to generate CSAM ‘deepfakes’ — original report
• Musk's xAI sues Grok user over sexualized 'deepfakes' — Reuters 報道，核對入稟地點、案件罕見程度同 xAI 面對嘅外部審視。
• Four Upstate men arrested on Child Sexual Abuse Material charges — 南卡羅來納州總檢察長辦公室紀錄，核對拘捕日期、八項控罪同無罪推定。
• xAI Acceptable Use Policy — xAI 官方政策，核對禁止繞過防護、侵犯私隱、性化兒童同舉報懷疑素材等條款。
• xAI Terms of Service — Consumer — xAI 官方消費者條款，核對違約、賠償、內容移除同德州法院管轄安排。
• Abuse of AI Deepfakes: Toolkit for Schools and Parents — 香港私隱專員公署官方指引，交代深偽涉及個人資料、改造私密影像同兒童影像嘅本地風險。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。