TikTok 據報抽起推薦安全措施做 A/B test，互動數據點解惹倫理爭議

一個安全功能，點解要留低對照組？

TikTok 再次俾人追問 For You 推薦系統點處理有害內容。Bloomberg 引述一份受法院封存嘅 TikTok 內部文件，話平台 2021 年測試一項「打斷重複推薦」措施時，將約一成美國用戶留喺舊演算法做對照組；按當時用戶量估算，涉及約 1,500 萬人。TikTok 想睇新措施會唔會影響每日活躍用戶同平台黏性，換句話講，就係用真實用戶嘅互動數據判斷安全改動會令大家少碌幾多。

TikTok 同年公開講過，新系統會避免連續推送極端節食、傷感、分手同孤獨等相近主題。單一條影片未必違規，甚至可能係分享康復經歷；問題出喺演算法一路追住觀看時間、重播同互動反應，再將同類內容密集送上嚟。每條片分開睇都過到規則，成條推薦鏈串埋卻可以令人愈陷愈深，亦解釋咗點解單靠刪除明顯違規內容，處理唔到推薦系統製造嘅風險。

涉事少年喺對照組，唔代表因果關係已成立

據 Bloomberg 所見文件，16 歲少年 Chase Nasca 嘅帳戶曾經編入對照組，新嘅防重複推薦措施冇套用落佢個帳戶。文件據報亦檢視過佢離世前接觸嘅大量影片，當中好多圍繞傷感、孤獨、自殘同自殺等主題。Nasca 其後喺 2022 年自殺離世。不過，時間先後、帳戶分組同內容紀錄都未足以證明測試直接導致佢離世；呢項指控牽涉訴訟同機密文件，現階段要清楚當成據報資料，而非已由法院確立嘅結論。

美國參議員 Marsha Blackburn 同 Richard Blumenthal 已去信 TikTok 高層，要求交代測試點揀用戶、有冇將未成年人放入對照組、測試維持幾耐，同公司有冇因為互動或廣告收入而擱置安全措施，回覆限期係 9 月 1 日。兩名議員用「sinister」形容事件，呢個係政治人物嘅評語。Engadget 發稿時話 TikTok 未有即時回應，平台往後點解釋文件內容同測試安排，會直接影響外界點判斷指控。

A/B test 常見，安全措施有另一套風險

產品團隊用 A/B test 比較按鈕顏色、通知時間或者介面排序，做法好普遍；涉及安全防護，代價就唔同。對照組要保留舊體驗，研究先量度到改動效果，但舊體驗本身若已知可能放大自殘、飲食失調或抑鬱內容，平台其實係要求一批人繼續承受嗰個風險。當中仲有未成年人，測試比例、時間、停止條件同獨立監察嘅門檻，都應該高過一般產品實驗。

呢單新聞最值得拆嘅位係指標。安全措施成功打斷一輪負面內容後，用戶可能真係會少睇幾條片、早啲離開 app；喺互動報表上，呢個結果可以顯得「表現轉差」。**如果產品決策主要追每日活躍用戶、觀看時間同黏性，安全功能做到本來應做嘅事，反而可能俾系統記成損失。**平台要公開交代嘅，包括邊啲傷害指標有權壓過互動數據、邊個可以叫停測試，同未成年人會唔會自動獲得較安全版本。

香港帳戶未證實受測，用戶仍可主動整理 For You

現有報道只講美國用戶，暫時冇公開證據顯示香港帳戶曾經加入呢個對照組。不過，For You 依照觀看時間、讚好、分享、留言同略過等訊號調整內容，不過，家長同用戶一樣要留意相關推薦風險。見到某類內容愈出愈密，可以長按揀「不感興趣」、設定關鍵字過濾，或者去內容偏好刷新 For You；家長亦可以用 Family Pairing 管理青少年帳戶。呢啲工具有助重新訓練推薦，但唔保證即時清走所有高風險內容，與其等演算法自己修正，不如早啲直接同子女傾下最近睇到咩。

如果文中內容令你或者身邊人感到困擾，可以致電撒瑪利亞會 24 小時多語言熱線 2896 0000；如有即時危險，請致電 999 或前往急症室求助。

參考來源

• Engadget — Senators press TikTok on 'sinister' experiment that held back an algorithm safety feature — original report
• Internal Report Shows TikTok Kept Safety Feature From Millions — 核心調查報道，披露對照組佔美國用戶約一成、估算規模同涉事少年資料。
• Blackburn and Blumenthal letter to TikTok — 議員原信，列出要求 TikTok 回應嘅測試、互動數據、廣告收入同未成年人安全問題。
• An update on our work to safeguard and diversify recommendations — TikTok 2021 年官方說明，交代打斷重複推薦嘅設計同涵蓋主題。
• For You｜TikTok Help Center — TikTok 官方操作資料，說明推薦訊號、不感興趣、關鍵字過濾同刷新動態等功能。
• 衞生署：自殺危機支援資料 — 核實香港 24 小時情緒及自殺危機支援熱線。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。