AI chatbot 唔係朋友：Signal 總裁提醒你，私隱唔好當心事亂講
加密通訊同 AI 助手嘅資料邏輯，差好遠
Whittaker 講咗咩
TechCrunch 引述 Signal 總裁 Meredith Whittaker 喺 Bloomberg 訪問入面講，ChatGPT、Claude 呢類 AI chatbot「唔係你朋友」，亦唔係有意識、會思考嘅對話對象。佢自己都有用 AI，只係拎嚟執文件格式，但唔會問佢問題，尤其唔想用佢代替自己諗嘢同寫嘢。呢番話唔使演繹到即刻刪 app；重點係要記住：佢回覆得幾貼心都好，背後始終係一套產品同資料處理流程。
圖片：Signal
點解 chatbot 特別易令人信
AI chatbot 特別易令人信，核心喺個互動方式：佢會用一種好有耐性、好順口、好似明你感受嘅方式回覆。NIST 嘅生成式 AI 風險文件提到，產品介面如果有人類表情、情緒字眼或者角色包裝，容易令用戶當非人類系統係人咁理解；文件亦特登點名「用戶同生成式 AI 功能出現情緒糾纏」呢類風險。講白啲，佢越似一個明你嘅人，你越容易講多咗。
私隱風險唔止係訓練模型
Signal 嘅立場點解咁硬，因為加密通訊同 AI 助手嘅資料邏輯本來就相反。Signal 私隱政策寫明，訊息同通話端對端加密，Signal 自己同第三方都睇唔到內容，亦話唔會賣、租或者用你嘅個人資料同內容賺錢。AI 助手要答到你，至少要處理你打入去嗰段內容。如果你畀埋檔案、電郵、日曆、瀏覽紀錄、公司文件，佢知道嘅範圍就由一句 prompt，擴大到你成個工作同生活脈絡。
設定有用，但唔好當保險
公平講，唔同 AI app 處理資料嘅方式有差別，唔可以一棍打晒。OpenAI Help Center 寫明，個人版 ChatGPT 可以喺 Data Controls 關閉「Improve the model for everyone」，關咗之後新對話唔用嚟訓練；Temporary Chat 亦唔入 history，官方話 30 日後刪走，亦只可能為咗監察濫用情況而經審閱。問題係，Stanford 研究睇過六間大型 AI 公司嘅私隱文件，指好多政策寫得唔清楚，保留期、人工審閱、跨產品資料合併呢啲位，用戶好難一眼睇明。
工作、讀書、情緒支援點用
喺香港公司同學校，實用做法其實好簡單：公司文件、客戶名單、合約、source code、病歷、身份證號碼，**未經公司批核嘅 AI 工具一律唔好貼。**真係要用，就先抽走人名、帳號、訂單號同任何可識別資料，用代號問結構、語氣或者摘要方法。讀書可以問概念、框架同反例，但引用同事實要自己查返原文。情緒支援可以叫 chatbot 幫你整理想法、草擬訊息；如果牽涉自殘念頭、醫療、法律或者即時危機，就要搵真人同專業支援。
Agent 時代，權限先係大件事
Whittaker 對 Microsoft Copilot 幫你買聖誕禮物嗰個例子特別敏感，因為要做到呢種「貼心」，系統可能要接觸信用卡、瀏覽器、Signal、屋企地址、日曆，仲可能代你向家人發訊息。Signal 早前為 Windows 版加咗防截圖設定去避開 Microsoft Recall，官方講得好清楚：如果 OS 層 AI 可以截取 app 內容，端對端加密都會喺裝置畫面呢一關俾繞過。之後更應該留意嘅，係 AI 助手攞到幾多 OS、app 同帳戶權限；呢點比佢講嘢似唔似朋友更關鍵。
參考來源
- TechCrunch — Signal’s Meredith Whittaker wants you to remember that AI chatbots ‘are not your friends’ — original report
- Signal Terms & Privacy Policy — Signal 官方條款，核對端對端加密、Signal 睇唔到訊息內容，同唔變現個人資料嘅說法。
- By Default, Signal Doesn't Recall — Signal 官方 blog，核對 Windows screen security、防 Microsoft Recall 截取內容，同 OS 層 AI 權限風險。
- Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile — NIST 官方生成式 AI 風險文件，支撐擬人化、人機互動同情緒糾纏風險。
- Data Controls FAQ | OpenAI Help Center — OpenAI 官方說明，核對 ChatGPT data controls、訓練 opt-out 同 Temporary Chat 設定。
- Study exposes privacy risks of AI chatbot conversations — Stanford HAI / Stanford Report，補充大型 AI chatbot 私隱政策、資料保留同訓練透明度問題。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
