ChatGPT 勸事主留家後肺栓塞入 ICU：AI 問診點解唔可以排除急症

一宗訴訟，揭出 AI 問診最難搞嗰個位

美國前牧師 Scott Winters 入稟三藩市法院，控告 OpenAI、Sam Altman 等被告。訴狀指，佢喺 2024 至 2025 年間長時間向 ChatGPT-4o 查問健康問題，模型逐漸用好肯定嘅語氣解釋病徵，仲叫佢留喺躺椅休息、減少活動。到 2025 年 7 月，Winters 因多個血塊阻塞兩邊肺部而送入深切治療部。呢啲暫時全部係原告指控，法院未有裁決，亦未證實 OpenAI 要為傷勢負法律責任。

圖片：CDC

模型講得好定，唔代表佢掌握到病情

訴狀話，ChatGPT-4o 將頭暈、血壓波動、腹股溝痛等情況歸入原有腸胃同盆腔問題，叫 Winters 等多幾次發作先當嚴重。佢亦指模型引用其宗教信仰安撫佢，話身體唔會無止境咁失敗。呢種回應最麻煩嘅地方，係語氣聽落連貫又貼身，會令人以為模型綜合過病歷後已有可靠判斷。其實 chatbot 只係按文字脈絡產生答案，冇量血壓、血氧、心跳，亦冇臨床檢查同影像結果。

靠幾句描述，排除唔到肺栓塞

肺栓塞通常由血塊走到肺部血管造成，可以致命，但症狀未必每次都好典型。CDC 列出嘅警號包括呼吸困難、心跳過快或不規則、吸氣或咳嗽時胸口痛、咳血、頭暈同暈倒；NHS 亦將嚴重氣促、胸口或上背痛、心跳好快同失去知覺列作要即時求助嘅情況。診斷要靠醫生評估同專門檢查，chatbot 冇能力用對話安全排除呢類急症。如果出現上述紅旗症狀，應即刻聯絡緊急服務或去急症室，唔好等 AI 再問十條問題先決定。

ChatGPT Health 官方定位其實寫得幾清楚

OpenAI 今年推出 ChatGPT Health，俾用家集中處理健康對話、上載文件，部分地區亦可連接病歷同健康 app。官方列出嘅用途包括解讀化驗報告、整理醫療紀錄、總結醫生指示，同埋準備覆診問題；同一頁亦明講，Health 用嚟支援醫療照顧，用途唔包括診斷或治療。OpenAI 話全球每星期有超過 2.3 億人向 ChatGPT 問健康同生活習慣問題，數字來自公司分析去識別化對話，唔等於有 2.3 億人用佢睇症，但規模已足以令罕見失手變成實際安全問題。

新版有進步，急症測試仍然唔夠穩

呢宗案件涉及舊版 GPT-4o，唔可以直接當成 2026 年 ChatGPT Health 嘅表現。不過《Nature Medicine》一項獨立壓力測試，用 60 個醫生編寫情境、16 種條件組合取得 960 次回答；喺研究設定嘅明確急症回答入面，ChatGPT Health 有 51.6% 低估咗緊急程度，部分糖尿病酮酸中毒同呼吸衰竭風險個案只獲建議一兩日內求醫。呢個結果來自模擬情境，而且急症樣本集中喺少數病況，唔可以解讀成「一半醫療答案都錯」，但已足以顯示佢唔適合獨自做急症分流。

安全提示有出現，最尾嗰少量失手仍然好關鍵

另一項刊登喺《Journal of Medical Internet Research》嘅研究，測試 GPT-4o 等四個模型回答 227 條真實病人查詢。GPT-4o 有 88% 回應包含明確或緊急求醫建議，反映安全提示多數時間確實會運作。問題係醫療風險唔平均：普通傷風叫人睇多次醫生，代價通常係時間同金錢；肺栓塞、心臟病或中風俾模型錯誤安撫，代價可以係錯過救命時間。整體表現幾好都冇用，急症判錯一次已經可以好嚴重。

AI 可以幫手整理資料，但醫療決定要交返俾醫護

ChatGPT 最啱做嘅工作相當實際：將報告入面嘅醫療術語轉成易明說法、按日期整理症狀同用藥、列出要向醫生追問嘅地方，或者比較兩份報告有咩變化。問法亦可以加一句，要求佢列明資料來源、指出邊啲內容唔確定，同埋整理要交俾醫生確認嘅問題。至於「我可唔可以唔去急症室」、「呢個病已經排除未」同「自行停藥得唔得」，就唔應交俾 chatbot 作決定。

遇到紅旗症狀，chatbot 應該及早停止分析

ChatGPT Health 加入專用私隱保護、醫生參與評核同急症情境測試，方向合理。不過醫療 chatbot 面對紅旗症狀時，安全答案應該簡短、保守，同清楚叫用家搵真人醫護，唔應繼續用一大段推理淡化風險。Winters 案件下一步要睇法院點判定產品責任；產品層面就要睇 OpenAI 能否證明新版面對模糊、長時間累積嘅病徵，都會穩定叫用家及早求醫。

參考來源

• 9to5Mac — ChatGPT told user to ignore lethal condition, but people keep treating it as a doctor — original report
• Winters v. OpenAI Complaint — 案件一手訴狀，核對原告指控、對話內容、時間線同涉事模型
• Introducing ChatGPT Health — OpenAI 官方產品頁，核對 Health 嘅用途、限制、私隱設計同每周健康查詢數字
• ChatGPT Health performance in a structured test of triage recommendations — 《Nature Medicine》獨立研究，評估 ChatGPT Health 處理急症分流情境嘅表現
• Disclaimers and Referral Patterns for Medical Advice Across Urgency Levels — 多模型研究，補充 GPT-4o 求醫提示嘅整體表現同研究限制
• About Venous Thromboembolism — CDC 權威資料，核對肺栓塞症狀、診斷限制同即時求醫建議
• Pulmonary embolism — NHS 病人指引，核對肺栓塞紅旗症狀同緊急處理級別

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。