用 ChatGPT 傾情緒可以，但 AI 心理健康工具最怕過界

通用 AI 點解變成第一站

TechNews 科技新報報道，ChatGPT、Claude、Gemini 呢類通用型 AI，正慢慢變成好多人傾壓力、關係同情緒嘅第一站；同一時間，專做心理健康嘅 AI 工具想靠 CBT、DBT、ACT 呢啲框架做得穩陣啲。呢場拉扯唔難明：人唔舒服嗰刻，通常唔會先研究邊個 app 有臨床設計，反而會開返最熟、對話歷史最多嗰個助手。方便同專業之間，暫時多數人都會先揀方便。

AI 可以做整理，唔可以做診斷

AI 最啱做低風險整理：將一團亂嘅感受拆成幾個重點，幫你預演點同上司、伴侶或者屋企人開口，或者喺見輔導員前列低想講嘅事。呢啲用法有價值，尤其係半夜瞓唔着、身邊人未必即刻覆到你嗰陣。但去到診斷、治療方案、藥物、創傷處理、自傷念頭，AI 就應該停低同推你搵真人。呢篇唔係醫療建議；有持續困擾，要搵家庭醫生、精神科醫生、臨床心理學家或者合資格輔導員。

廠商都知道呢條線好危險

OpenAI 今年開始推出 Trusted Contact，俾成年人預先指定一個可信任嘅人；嚴重自傷風險出現時，系統同受訓審核員可通知對方，但唔會交出完整對話。官方亦話 ChatGPT 會加強辨認情緒危機、自傷風險同太依賴 AI 嘅情況。Anthropic 亦講到好直，Claude 唔係專業照護替代品，會用分類器偵測自殺或者自傷訊號，再顯示 ThroughLine 維護嘅地區支援。講白啲，平台自己都知：模型答得似人，唔代表夠安全。

研究最擔心係答得太順口

問題係，危機好多時唔會寫到好標準。Stanford 團隊 2025 年喺 JMIR Mental Health 發表嘅研究，搵 17 位治療師睇多個 chatbot 回應，結論係通用 chatbot 會畀到安慰同心理健康知識，但問得唔夠深入，太快畀建議，去到危機場景仲有轉介同風險評估缺口。2026 年另一份 red-team 研究用 369 段模擬治療對話測試六個 AI agent，亦見到強化妄想同冇成功降低自殺風險嘅情況。所以風險唔止係答錯資料；太順口、太肯附和，都會令人誤以為自己已經攞到專業支援。

私隱係另一個硬位

長期追蹤聽落好吸引，因為 AI 記得你上次同男朋友嘈咩、邊段時間工作壓力最大，回應自然會貼身好多。不過心理健康資料敏感過普通搜尋紀錄好多，尤其係錄音、截圖、日記、藥名同家庭背景。OpenAI Help Center 寫明個人版 ChatGPT 可用對話改善模型，除非你關掉相關訓練設定；Google Gemini Privacy Hub 亦提醒，唔好靠 Gemini 做診斷、治療或者醫療建議。想用 AI 傾心事，第一步係先收窄資料：唔好放全名、身份證、住址、公司內部資料同可識別第三者嘅細節。

香港最實際係分清情況

喺香港，實用做法好簡單：AI 可以幫你寫情緒日記、整理想同醫生講嘅重點，或者陪你練習開口求助；但如果你或者身邊人已經有傷害自己或者人哋嘅風險，就唔好同 AI 拉鋸，直接打 999 或去急症室。要即時精神健康支援同轉介，政府「情緒通」18111 係 24 小時服務；Shall We Talk 亦列明，有危險就搵緊急服務。呢條界線要擺喺最前，因為 AI 再快，都冇辦法代你處理現場安全。

下一步要睇轉介做得幾好

睇 AI 心理健康工具，最少要睇三樣嘢：有冇清楚講自己唔係治療；見到高風險訊號時，會唔會即刻轉去真人同本地資源；長期記憶同私隱設定係咪夠易明，會唔會迫人用敏感資料換方便。TechNews 科技新報講通用 AI 同專用 AI 要共存，呢個方向合理；真正好用嘅產品，安慰只佔一小部分，重點係識得喺適當時候停低，幫人接駁去啱嘅支援。

參考來源

• TechNews 科技新報 — 從「單純提問」走向「專業轉介」，AI 心理健康生態系的下一步 — original report
• OpenAI: Introducing Trusted Contact in ChatGPT — 查核 Trusted Contact 功能、危機資源同真人審核安排。
• Anthropic: Protecting the wellbeing of our users — 查核 Claude 對自傷／自殺對話嘅安全處理同專業照護限制。
• Google: Gemini Apps Privacy Hub — 查核 Gemini 對醫療建議、診斷同私隱風險嘅官方提醒。
• OpenAI Help Center: Data Controls FAQ — 查核 ChatGPT 個人版對話訓練設定同退出方法。
• JMIR Mental Health: Human therapists vs LLM chatbot responses — 研究比較治療師同 chatbot 回應，提供通用 chatbot 喺危機情況嘅限制背景。
• arXiv: Assessing Risks of Large Language Models in Mental Health Support — 2026 red-team 論文，用長對話模擬指出 AI 心理支援嘅縱向風險。
• Shall We Talk：緊急求助熱線 — 官方香港緊急求助資料，查核 999 同 18111 嘅用法。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。