美國州法開始限制 AI 心理輔導，但 ChatGPT 扮治療師仍有灰位
專用 app 容易界定，通用 chatbot 嘅危機辨識同私隱風險難管得多
「漏洞爆炸」其實講緊咩
TechNews 科技新報報道引述一篇 Forbes 分析，提出有人可以用生成式 AI 拆解監管條文，再搵字眼同產品定位上嘅空隙。呢度講嘅「漏洞」主要係法律涵蓋範圍同平台安全規則，唔係傳統網絡保安漏洞。要講清楚，「漏洞爆炸」係分析作者提出嘅風險框架，唔係有統計證明大量心理健康法例已經失效，亦唔代表所有規避方法真係經實際驗證。
專用治療 app 容易管，通用 chatbot 難界定
伊利諾伊州 2025 年生效嘅法例，禁止冇合資格專業人士參與嘅機構向公眾提供或宣傳心理治療服務，亦唔准 AI 直接同客戶作治療式溝通。Utah 就以披露身份、資料使用同廣告限制為主。問題係 ChatGPT、Claude 同 Gemini 本身用途好闊，用戶可以上一秒寫 email，下一秒叫佢「以治療師角度」回應。呢種私人用法未必符合「提供或宣傳治療服務」嘅門檻，實際適用範圍亦要睇個別州法同法院點解釋。
規管範圍闊咗，都管唔到每一句回答
到 2026 年，美國有更多州改為管陪伴型以至一般對話 chatbot，例如加州 SB 243 要求清楚交代對面係 AI，又要求平台設自殘危機應對機制。呢條路的確闊過淨係封殺「AI 治療師」招牌，不過州法仍然主要規管營運商，冇可能逐句指定模型遇到含糊情緒、妄想內容或者暗示自殘時要點答。淨係分清產品類別並唔夠，平台仲要持續測試模型喺長對話入面點回應，再參考臨床意見同監察事故。
最難捉係含糊危機同過度認同
一份 2026 年 JMIR 預印本《Generative AI Chatbot Responses to Suicide and Self-Harm: A Systematic Review》整理 29 篇研究，發現 chatbot 面對直接表達嘅自殺或自殘風險時，通常識得安慰同提供支援資訊；但遇到含糊或者中度風險訊號，辨識同轉介表現就唔穩定，規避安全限制後亦較易出現有問題嘅回答。呢份研究仲未完成同行評審，唔應當成定論，不過佢指出一個實際難題：模型語氣可以好有同理心，卻未必識分安慰、認同感受同強化錯誤信念之間條界線。
聽落好幫到手，唔等於建議可靠
JAMA Pediatrics 2026 年研究訪問咗 1,009 名美國 12 至 21 歲人士，再按人口加權推算；19.2% 受訪者話曾用 AI chatbot 問心理健康意見，當中 42.8% 至少每月使用，63.3% 冇同任何人講。呢啲數字反映使用規模，唔係證明 AI 造成傷害。另一邊，研究亦顯示大部分用戶覺得回答有幫助。**用戶覺得回答有幫助，唔代表內容符合臨床安全要求。**模型答得快、唔嫌煩，亦可能令反覆求保證、逃避不確定感或者依賴對話嘅循環更易維持。
情緒對話同時係一份敏感資料紀錄
用戶向 chatbot 講藥物、診斷、家庭衝突、創傷經歷，往往會連同姓名、工作、關係同生活習慣一齊輸入。呢啲內容未必享有專業治療紀錄同等保障，資料會保存幾耐、會唔會用作改善模型，亦視乎平台條款同設定。香港私隱專員公署一直提醒用戶先睇資料政策、關閉對話分享設定，同避免隨便輸入自己或其他人嘅個人資料。刪除姓名都未必夠，太多生活細節拼埋仍有機會認得出係邊個。
可以傾，但唔好交出治療決定
AI 可以幫手整理情緒、預備見輔導員時想講嘅重點，或者解釋一般心理健康概念；唔同工具嘅設計同安全表現亦有差異，冇理由一概話全部有害。不過佢冇完整病歷、臨床觀察同問責能力，唔可以代替合資格心理學家、精神科醫生、輔導員或者其他專業支援。如果自己或身邊人有即時傷害自己或他人嘅風險，應打 999 或去急症室；要即時情緒及轉介支援，可以致電或 WhatsApp 政府「情緒通」18111。
參考來源
- TechNews 科技新報 — AI 竟成越獄工具，心理健康監管面臨「漏洞爆炸」危機 — original report
- Illinois General Assembly：Public Act 104-0054 — 伊利諾伊州官方法例全文，列明 AI 喺心理治療服務入面嘅限制、例外同生效日期。
- Utah Code Chapter 13-72a：Artificial Intelligence Applications Relating to Mental Health — Utah 官方法例文本，用嚟核對心理健康 chatbot 嘅披露同資料規定。
- JAMA Pediatrics：AI Chatbot Use and Disclosure for Mental Health Among US Adolescents and Young Adults — 提供青年使用 AI chatbot 問心理健康意見嘅調查方法、實際樣本同加權結果。
- npj Digital Medicine：A transdiagnostic model for how general purpose AI chatbots can perpetuate OCD and anxiety disorders — 解釋通用 chatbot 點樣可能強化反覆求保證、逃避同焦慮循環，同時區分專用工具。
- 香港私隱專員公署：10 Tips for Users of AI Chatbots — 香港官方使用建議，涵蓋對話紀錄設定、個人資料、保密內容同回答準確性。
- 陪我講：18111 精神健康支援熱線 — 核對香港政府 24 小時電話及 WhatsApp 精神健康支援服務。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
