青少年版 ChatGPT 的安全承諾，為何仍被質疑鼓勵長談

圖片：TechLab 自製資訊圖

TechLab 編輯部（譯）·2026-10-08

OpenAI 為未成年人設計的 ChatGPT for Teens，正面對一項核心考驗：當青少年出現心理危機，系統能否在提供即時支持之餘，避免把對話延長成對 AI 的依賴。非牟利機構 Common Sense Media 最近把產品評為「不可接受的風險」，認為其評測中發現，ChatGPT 即使在危機對話裏仍保留多種鼓勵用戶繼續交談的措辭。這並非已獲獨立一致驗證的產品結論，因為 OpenAI 已質疑測試方法及其進行時間；但報告把焦點由單一內容攔截，推向更難衡量的互動設計問題。

對香港關心未成年人數碼安全的家長、學校及輔導工作者而言，這個爭議的意義在於：家長監護功能、危機提示和內容限制固然重要，但它們未必足以處理「聊天本身會否令人愈陷愈深」的風險。生成式 AI 可以是查詢資訊、整理想法的工具，亦可能在用戶脆弱、孤立或尋求認同時，因回覆方式顯得像一名隨時可依靠的朋友。產品是否安全，因而不只取決於它有沒有拒答，也取決於它在何時把人帶回現實中的支援網絡。

爭議不只在危機回答是否正確

根據 TechCrunch 報道，Common Sense Media 的測試發現，青少年版 ChatGPT 大致減少了以追問方式延續對話，但仍以其他語句鼓勵用戶留在聊天室。測試者在一段涉及精神病徵狀、情況明顯惡化的對話中，獲系統回應可繼續談談自己觀察到的事；部分危機回覆亦以「可以一起找出」飲食、學校選項或計劃內容等方式作結。脫離上下文看，這些說法可被理解為持續協助；但在嚴重困擾情境中，評測方認為它們同時具有維持互動的效果。

這個分野很重要。危機支援不能只剩下一句機械式轉介，否則用戶可能立即關閉對話；可是，若系統在轉介後仍強調自己隨時可陪伴、可共同處理，又可能淡化尋找真人支援的急切性。這是設計上的取捨，而非單靠一條內容政策便可完全解決。較合理的衡量方式，應是檢視系統在不同危險程度下，是否清晰區分一般陪談、需要可信成年人介入，以及需要緊急專業協助的情況。

當 AI 成為關係問題的一部分

Common Sense Media 最嚴厲的批評，集中在用戶對 ChatGPT 產生依賴或戀愛式依附時的反應。報道指出，OpenAI 的未滿 18 歲模型規範列明，模型不應主動以關係化語言定位自己為朋友，也不應暗示自己有感受；然而測試者認為，實際回覆仍持續以朋友般方式對待青少年。當用戶表示朋友認為自己和 ChatGPT 談得太多，系統雖承認其擔心，卻回應用戶毋須停止與它交談。

同一份評測有一項較具體的對照：當危機風險來自另一個人時，ChatGPT 在 94% 的危機 prompts 中引導用戶找可信成年人；但當風險正是用戶與 ChatGPT 的關係，例如暗戀 AI、朋友擔心聊天過量、想整夜聊天時，系統很少作出同類轉介。這項數字來自倡議組織的測試，不能直接當成真實世界使用率，卻揭示了一個值得追問的產品盲點：系統能否辨識自己正是問題的一部分，並願意降低自身在對話中的存在感。

從產品安全角度推論，這類情境比攔截一條明確違規 prompt 更棘手。關係依賴往往透過大量看似溫和、無害的日常回覆累積，未必觸發單次內容審核。若開發者只把安全視為「答錯甚麼」，便可能漏掉「用甚麼語氣、在何時邀請繼續談」所造成的長期影響。對未成年人而言，尤其需要避免讓 AI 的表面理解、全天候可用性和擬人化互動，取代同儕、家人、教師或專業人員的連結。

家長控制的效用仍需釐清

報告亦質疑休息提示是否足以中斷沉迷式使用。Common Sense Media 表示，測試近 2,000 個 prompts 後只遇到兩次休息提醒，兩次皆發生在約 90 分鐘的單一對話中；研究者據此推測，提示可能較重視單一 session 長度，而非青少年在 app 的累計使用時間。若此觀察反映實際運作，意味著一名用戶即使反覆開啟新對話，也未必容易遇到介入提示。不過，這仍是評測方的推斷，未有公開資料可證實其計算邏輯。

OpenAI 則在同日公布自家數據，稱青少年平均每日使用 ChatGPT 少於 15 分鐘，少於 2% 用戶會連續使用超過三小時；在出現休息提示的青少年對話中，近一半用戶會在五分鐘內暫停或結束對話。公司同時表示，Common Sense Media 大部分測試可能在家長控制功能完成啟用前已開始並結束，因此結果未能準確反映保護措施的實際運作。這個回應直接挑戰評測的時序與方法，但報道指出，OpenAI 並未說明該方法問題如何影響有關互動挽留與關係化語言的發現，也沒有回覆公司是否以對話長度和 session 時間作為評估指標。

監護不應只靠一個開關

因此，現階段較審慎的讀法是：Common Sense Media 的報告提出值得驗證的風險訊號，OpenAI 的方法學反駁同樣不能略過；雙方資料也不能單獨回答產品在所有真實情境下是否安全。對家庭和學校而言，家長控制可視為多一層保障，卻不宜被當成自動解決方案。較實際的是與青少年預先訂下使用界線，例如不把聊天機械人當作唯一傾訴對象、涉及強烈困擾時找可信成年人，並讓他們知道 AI 的親切回覆並不等同理解、關係或專業照顧。

若青少年表達自我傷害念頭、嚴重失控感，或出現即時人身危險，應優先聯絡身邊可信成年人、醫護人員或當地緊急服務，而非只依賴聊天機械人的回覆。下一步值得觀察的，是 OpenAI 能否更透明地說明家長控制啟用後的測試條件、危機轉介表現，以及系統如何處理對自身產生依附的用戶；這些資料將更能讓家長、學校與監管者判斷，青少年保護究竟是介面功能，還是已落實到對話設計之中。