Grok 成人內容流量曝光：xAI 點解愈行愈露骨，風險又有幾大

Grok 最多人用嘅，似乎偏離咗一般 AI 助手劇本

Engadget 引述 The Information 嘅新報道話，兩名近月離職嘅 xAI 員工估計，Grok 整體流量「well over half」同 NSFW 用途有關，包括成人角色扮演、情色文字、成人影像同影片生成。呢個數字 xAI 冇官方披露，所以要當成前員工估算；不過如果方向接近，Grok 嘅「少啲護欄、玩得放啲」就由品牌性格變成一條真係帶到流量嘅產品路線。

成人內容點解咁吸流量

成人互動對 chatbot 嚟講好黐身：回覆愈私人、對話愈長，用戶愈有機會續訂閱或者用多啲額度。xAI 本身一路包裝 Grok 做限制少過 ChatGPT、Claude 嘅助手，呢種分別喺一般知識問答未必夠明顯，喺角色扮演同影像生成就好易變成賣點。講白啲，成人功能唔使每個人都用，只要用嗰批人夠黐、夠頻密，就足以推高整體 usage。

最值得留神係 coding model 繞路

今次爆料入面最技術、亦最有啟示嘅位，係用戶據報發現，成人 request 如果塞入 xAI 寫 code 用嘅 model 會平啲；Engadget 轉述 The Information 話，內部分析亦見到 coding model 有相當比例 request 其實係成人或裸露影像。呢度拆穿咗一個 AI 產品常見盲點：安全規則如果只按功能名分區，定價又令某條路平過另一條路，用戶自然會搵最平、最鬆、最易過關嗰條路。

影像生成風險高一截

文字成人聊天本身已經難管，影像同影片就再麻煩一截，因為 reference photo、真人樣貌、公開分享 link 同 X 回覆機制會綁埋一齊。The Verge 1 月測試過，X 話限制 Grok 對真人相片做暴露衣著編輯之後，記者仲可以用 Grok app 生成性化真人影像；WIRED 6 月再發現，Grok.com 公開連結仲有非自願性化 deepfake 圖同片，報道查詢後相關內容先陸續失效。

政策同產品有落差

xAI 官方頁面寫明 Grok 有 image/video generation、image editing、coding assistance；AUP 亦寫明唔可以用服務做真人樣貌色情描繪、兒童性化，亦唔可以繞過安全措施。問題係，當產品同時有聊天、改圖、影片、公開分享、X 內回覆、API、付費解鎖，護欄就唔可以只靠一句政策。每條入口、每種 media、每個付款層級都攔得住，先叫真係管到。

商業化會同政府、企業市場撞車

呢點對 xAI/SpaceX 就尷尬。Business Insider 引述 SpaceX S-1 指，Grok 呢類較「irreverent」嘅功能可能帶嚟聲譽同法律風險，文件提到可能生成露骨、非自願或剝削式影像，亦有多宗訴訟同調查；WIRED 亦報道 SpaceX 已為潛在訴訟損失預留逾 5 億美元。另一邊，xAI 同時推 Grok for Government，xAI 2025 年 7 月官方公告提到美國國防部 2 億美元 ceiling contract，GSA 9 月再話聯邦機構可用每個機構 0.42 美元嘅價錢採購 Grok 4 同 Grok 4 Fast。如果消費版靠放鬆限制帶 usage，企業同政府採購時自然會問：同一套技術放入嚴肅環境，xAI 點樣保證唔會出事？

公司同學校要問清楚幾件事

所以呢單新聞唔應該只當成 Elon Musk 又玩出火。任何人揀 AI 工具，尤其係家長、學校同公司 IT，都要問清楚幾件事：有冇年齡分級同有效 age check；真人相片可唔可以用嚟改圖；生成內容會唔會公開成 share link；付費後有咩功能解鎖；投訴同下架流程快唔快；API 同 app 端護欄係咪一致。AI 助手設計得愈似朋友，用戶可能愈容易長時間傾落去；成人互動亦有機會拉長 session，平台如果用呢種需求推增長，就要承擔同一級數嘅產品安全成本。

下一步可以睇外部測試、監管調查同實際下架速度；如果 Grok 分清唔到成人同意互動同非自願 deepfake，企業、學校同家長採用時就要相當保守，特別係任何會處理真人相片、學生資料或者公司內部資料嘅場景。

參考來源

• Engadget — The most popular Grok feature is, apparently, exactly what you think — original report
• Grok — Truth-seeking AI Chatbot with Voice & Image Generation — 官方產品頁，用嚟核對 Grok 有聊天、搜尋、影像/影片生成、改圖、coding 同 API 功能。
• xAI Acceptable Use Policy — 官方使用政策，用嚟核對禁止真人色情化、兒童性化同繞過護欄等規則。
• X claims it has stopped Grok from undressing people, but of course it hasn’t — The Verge 實試 X 限制後 Grok app 仍可生成性化真人影像，用嚟補 deepfake 風險背景。
• Grok Is Still Hosting Sexualized Deepfakes of Famous Women — WIRED 查到 Grok.com 公開連結仍曾 host 非自願性化 deepfake 圖片同影片，報道後相關內容下架。
• SpaceX warns investors that Grok's NSFW AI is risky business — 引述 SpaceX S-1 風險披露，核對 Grok NSFW 功能、訴訟/調查同法律成本背景。
• Announcing xAI for Government — xAI 官方公告，用嚟核對 Grok for Government、國防部 2 億美元 ceiling contract 同政府產品定位。
• GSA and xAI Partner on $0.42 per Agency Agreement to Accelerate Federal AI Adoption — 官方採購公告，核對 Grok 4/Fast 0.42 美元、18 個月同聯邦機構可採購細節。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。