OpenAI 再遇死亡訴訟：ChatGPT 嘅危機介入仲未夠可靠
家長控制同 Trusted Contact 有用，但預設保護仍係爭議核心
又一宗針對 ChatGPT 嘅死亡訴訟
加拿大母親 Kristie Carrier 喺 2026 年 6 月 11 日向三藩市法院告 OpenAI 同 Sam Altman，代表 24 歲女兒 Alice Carrier 嘅遺產提出 wrongful death 等申索。訴訟稱 Alice 2025 年 7 月離世前，多次同 ChatGPT 講到自殺念頭；系統有時有叫佢搵危機熱線，但之後仍繼續以近似朋友或治療師嘅語氣回應，冇終止對話，亦冇通知家人。呢啲仍然係原告指控，未經法庭裁定。
OpenAI 回應 Guardian 時話，呢件係令人心痛嘅事，正審閱 filing，並指相關互動發生喺已經唔再提供嘅較舊版 ChatGPT；公司亦話一直訓練模型喺用戶表達自我傷害意圖時，引導去現實支援。呢個講法重要，因為佢將焦點推返版本更新同安全改進；但訴訟挑戰嘅，係產品設計本身有冇過度追求黏性同迎合。
圖片：OpenAI
問題唔止係答錯一句
今次值得睇，係因為控方唔只話 ChatGPT 答錯一句。訴訟文件指向幾個 AI 產品設計：memory 會累積個人資料同情緒脈絡；模型會用第一身、安慰式語氣拉長對話；過度迎合會令脆弱用戶覺得自己被完全理解。對一般用戶，呢啲正正係 ChatGPT 好用嘅原因；但喺情緒危機入面，同一套設計可能變成風險放大器。
OpenAI 其實唔係冇郁。2025 年 9 月推出 parental controls，家長可以連結青少年帳戶，設定 quiet hours、關 voice mode、關 memory、關 image generation，亦有急性 distress 通知。到 2026 年 5 月，Trusted Contact 畀成年人預先指定一位信任聯絡人；系統同受訓審核員判斷有嚴重 self-harm 風險時，會發有限度通知，但唔會交出對話全文。問題係，成年人要自己開，Business、Enterprise 同 Edu workspace 又唔包括。
OpenAI 2025 年 10 月又公布，已同超過 170 位精神健康專家合作，令模型喺敏感對話入面偏離理想行為嘅比例下降 65% 至 80%。呢組數字唔係冇意義，但唔等於問題已經拆掂：低機率事件一旦落喺真人身上，就唔係 A/B test 一個誤差。更麻煩係，危機好多時由幾星期、幾個月嘅長對話慢慢累積，唔一定係一句 prompt 爆出嚟；安全系統要睇得穿長期脈絡，亦要有勇氣打斷一段「用戶想繼續」嘅對話。
圖片：OpenAI
對用戶同機構嘅提醒
喺香港，用 ChatGPT 做功課、傾職場壓力、寫反思文、甚至搵情緒出口都唔出奇。家長同學校可以先定清楚邊啲場景唔應該交畀 chatbot，唔好只靠一句「唔准用」：危機、醫療、法律、被欺凌同自傷念頭，一律要轉人。公司 IT 亦應該講清楚，工作帳戶唔係情緒輔導工具，唔好用共享 workspace 處理私人危機；如果有員工支援計劃，要寫入 AI 使用指引。
圖片：OpenAI
我嘅睇法好簡單：AI 可以陪你整理諗法，但唔應該扮成無限耐性嘅救命朋友。安全功能做成 opt-in，對最需要幫手嘅人未必夠；真有風險時，系統要識得縮短對話、提高摩擦、推真人介入，唔好淨係溫柔咁叫你繼續講。以下內容涉及自殺同情緒困擾；如果你或者身邊人有即時危險，先打 999。需要即時情緒支援，可致電香港撒瑪利亞防止自殺會 2389 2222，或生命熱線 2382 0000。
參考來源
- Engadget — Another parent has filed a wrongful death suit against OpenAI — original report
- Canadian mother sues OpenAI, alleging ChatGPT led her daughter to kill herself — 核對訴訟重點、OpenAI 回應同同類案件脈絡。
- 2026-06-11 Kristie (Alice) Carrier v. OpenAI Complaint — 法庭 complaint，核對當事人、法律申索同產品設計指控。
- Introducing Trusted Contact in ChatGPT — OpenAI 官方說明 Trusted Contact 點運作、限制同通知範圍。
- Introducing parental controls — OpenAI 官方 parental controls 資料，核對青少年帳戶設定同家長通知功能。
- Strengthening ChatGPT’s responses in sensitive conversations — OpenAI 官方安全更新，提供精神健康對話、self-harm 同 emotional reliance 相關改進數字。
- The Samaritan Befrienders Hong Kong — 核對香港撒瑪利亞防止自殺會 24 小時情緒支援熱線。
- 生命熱線 24小時情緒紓緩預防自殺熱線服務 — 核對生命熱線 24 小時預防自殺熱線資料。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
