xAI 告 Grok 用戶製作非自願深偽：封帳、舉報同追蹤仲有幾多用？
訴訟追究涉嫌濫用者，平台本身嘅防護設計同樣避唔開
xAI 今次直接告 Grok 用戶，做法喺生成式 AI 業界相當少見。據訴狀同 Reuters 報道，xAI 指控南卡羅來納州男子 Terry Harwood 上載成人同未成年人嘅普通照片，再嘗試生成非自願性化深偽影像。Harwood 今年 2 月已因涉嫌性剝削未成年人俾人拘捕，但 xAI 呢宗係另一宗民事案，法院未裁定公司指控係咪成立。
xAI 要求賠償，亦想永久封住入口
xAI 話 Harwood 違反服務條款，要求數額未定嘅賠償，兼要求法院永久禁止佢再用 Grok。公司喺訴狀形容對方刻意將工具用作犯罪，令真實受害者受傷害，亦令 xAI 面對法律同聲譽風險。呢段講法相當直接：今次訴訟除咗追究個別用戶，亦係 xAI 向監管機構、合作夥伴同法院表明，公司有主動處理濫用問題。
xAI 仲喺訴狀聲稱，2026 年已停用 52,222 個帳戶，向美國失蹤及受剝削兒童中心 NCMEC 提交 73,604 宗報告，帶來最少 244 次拘捕。呢批數字暫時係公司單方面提交嘅資料，未見獨立審核；報告數亦唔等於確認違法個案數，唔應直接當成防護成效。
封帳同舉報都係事後處理
xAI 現行可接受使用政策寫明，用戶唔可以繞過安全防護；平台會將懷疑涉及兒童性剝削嘅內容交畀 NCMEC，用戶亦可以喺 Grok 內揀「Report Issue」舉報。帳戶、上載檔案、prompt、輸出內容同登入資料如果有妥善保存，的確可以串返成追蹤線索，令「AI 生成所以查唔到人」呢種想法站唔住腳。
不過，追蹤能力只證明平台識得事後執法，冇回答生成嗰刻點解過到關。真人照片、未成年人面孔、反覆修改 prompt、批量輸出同規避關鍵字，本身都可以成為風險訊號。平台如果等到內容生成、流出或者有人舉報先處理，受害者已經要承受影像俾人複製、轉傳，甚至永久留底嘅風險。告一個人可以阻嚇其他濫用者，技術上仍要靠輸入偵測、年齡風險判斷、輸出分類、速率限制同人工覆核一齊守。
平台同用戶責任，兩邊都走唔甩
呢宗案容易俾人理解成 xAI 將責任全部推畀用戶，但背景冇咁簡單。三名田納西州未成年女生今年較早時亦控告 xAI，指有人用相關圖像生成工具改造佢哋嘅真實照片；案件指控 xAI 明知系統有風險仍然推出。英國國會議員 Jess Asato 亦已就 Grok 生成嘅非自願假圖控告 xAI。以上都係尚未裁決嘅指控，不過已清楚顯示，法院接住要處理兩條責任線：濫用者做過咩，同平台設計有冇合理防護。
講到底，使用者當然要為自己上載、生成同散播嘅內容負責；平台亦唔可以單靠服務條款當安全欄。條款只係法律界線，模型肯唔肯輸出、平台幾快截停異常行為、受害者可唔可以迅速移除內容，先會直接影響傷害規模。xAI 今次出手告人，證明帳戶紀錄可以變成執法工具，但亦令人追問：既然追蹤到咁多濫用，點解生成前冇截得更早？
香港現行法例一樣有得跟
香港未有一條包晒所有 AI 深偽情況嘅專門法例，不過唔代表任人整。私隱專員公署指出，未經同意用可識別個人資料製作或披露惡意深偽，可能違反《私隱條例》保障資料原則；如果披露者有意造成傷害，或者罔顧傷害風險，嚴重個案亦可能構成「起底」罪行。涉及兒童嘅深偽色情影像，仲可能觸犯《防止兒童色情物品條例》。實際刑責要睇影像內容、製作及披露方式，同涉事者主觀意圖。
私隱專員公署建議家長同學校減少公開放出可清楚辨認兒童嘅高解像近照，遇事就保存必要證據、停止轉傳、向平台要求移除，懷疑犯法便報警或聯絡公署。呢啲做法只可以降低曝露同擴散風險，責任重心仍然包括提供生成工具嘅公司。xAI 呢宗案下一步值得睇嘅，係法院會唔會批出永久禁令，同訴訟會唔會披露 Grok 點樣識別、攔截及保留濫用紀錄。
參考來源
- Engadget — xAI sues Grok user for generating nonconsensual sexualized deepfakes — original report
- Musk’s xAI sues Grok user over sexualized deepfakes — Reuters 報道，提供訴訟要求、帳戶停用、NCMEC 報告同拘捕數字。
- xAI Acceptable Use Policy — xAI 官方政策，核對安全防護、舉報渠道同兒童性剝削內容通報安排。
- Teenagers sue Musk’s xAI claiming image-generator made sexually explicit images of them as minors — 補充未成年受害者控告 xAI 嘅背景，同平台設計責任爭議。
- 應對濫用人工智能深度偽造技術：給學校及家長的錦囊 — 私隱專員公署官方指引，核對香港私隱、起底、兒童色情物品相關法律同處理建議。
- 公署回應有關不當使用他人照片 — 私隱專員公署解釋未經同意使用真人照片製作深偽可能涉及嘅《私隱條例》條文。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
