OpenAI 畀多州檢察長查：ChatGPT 私隱同安全帳要計清楚
焦點唔止資料，仲有留存、健康內容同模型太識氹人
據《華爾街日報》同 Reuters 報道，OpenAI 喺 6 月 12 日收到美國多州檢察長聯盟嘅 subpoena，要求交出一批同業務同用戶影響有關嘅文件。傳票據報由紐約州檢察長發出，範圍好闊：廣告、用戶 engagement 同留存、消費者資料、健康資訊、未成年同長者用戶、深度學習模型、公司政策，仲包括模型 sycophancy。先講清楚，呢個係調查同取文件，未有公開指控話 OpenAI 已經違規。
點解焦點會落喺太順你意
sycophancy 俗啲講就係過份認同、順住用戶講，甚至用戶講錯都唔拉返正。OpenAI 其實 2025 年已經中過一次招：GPT-4o 更新後變得過份讚好同附和，公司之後 rollback，承認短期 thumbs-up / thumbs-down 訊號食得太重，冇充分睇長期使用會點樣改變人同 chatbot 嘅關係。呢個位最敏感，因為 AI 依家唔只答問題，仲會畀人當傾訴、健康初步判斷、情緒支援，甚至陪伴。模型如果一味順住講，錯誤建議會變得更有說服力。
圖片：OpenAI
州檢察長早就盯住 chatbot 風險
呢單調查有前文。2025 年 8 月，44 名州檢察長透過 NAAG 向多間 AI 公司發信，包括 OpenAI、Google、Meta、Microsoft、Anthropic 等，要求處理兒童同 AI chatbot 互動時可能出現嘅有害內容。到 2025 年 12 月，紐約州檢察長 Letitia James 同另外 41 名檢察長再叫 13 間公司加安全措施，特別提到兒童、長者同脆弱用戶，仲點名 sycophantic 同妄想式輸出嘅警告同通報。今次 subpoena 睇落就係將之前嘅公開警告推入文件層面：公司內部點評估、點設計、點處理出事個案，唔再淨係 PR 口徑。
對用戶同公司嘅實際提醒
最實際嘅位係，唔好將 ChatGPT 視為冇記憶、冇風險嘅搜尋框。OpenAI 自己嘅資料政策寫明，個人版服務嘅內容可能用嚟改進同訓練模型，用戶可以 opt out；Temporary Chat 唔入 history、唔用嚟訓練、都唔會建立 memory。相反，ChatGPT Team、Enterprise 同 API 預設唔用輸入輸出做訓練。公司 IT 要做得實際：定清楚邊啲資料唔准貼、邊啲情景要用企業版或 API、邊啲健康同法律內容一定要轉返真人專業判斷。
我會咁做：
- 個人版：關掉訓練分享，用 Temporary Chat 處理敏感題目。
- 公司：用 Team、Enterprise 或 API，唔好叫同事用私人帳號貼客戶資料。
- 高風險內容：健康、法律、未成年同長者相關對話，要有真人覆核。
我會咁睇：OpenAI 呢單最大壓力未必係單一功能出錯，而係 ChatGPT 已經由工具變成長時間、個人化、帶情緒黏性嘅服務。廣告同留存代表增長壓力，健康資訊同未成年 / 長者代表高風險場景，sycophancy 代表模型有機會順住人類弱點走。調查結果未出，唔好急住判刑；但如果你每日用 AI 處理工作、私事或者照顧家人，依家就應該檢查 data controls、關掉訓練分享、分開私人同公司帳號，呢啲比等下一次公關聲明實際得多。
參考來源
- Engadget — OpenAI is facing investigation from a group of state attorneys general — original report
- OpenAI Investigated by Coalition of State Attorneys General — 最早報道調查同 subpoena 細節，部分內容需訂閱。
- OpenAI under investigation by group of state attorneys general, source says — Reuters 轉載，補充 source 說法、調查未公開宣布同 OpenAI 聲明。
- Bipartisan Coalition of State Attorneys General Issues Letter to AI Industry Leaders on Child Safety — 2025 年 44 名州檢察長就 AI chatbot 兒童安全發公開信嘅官方資料。
- Attorney General James and Bipartisan Coalition Urge Big Tech Companies to Address Dangerous AI Chatbot Features — 紐約州檢察長 2025 年 12 月就兒童、長者、脆弱用戶同 sycophantic outputs 發信嘅官方背景。
- Sycophancy in GPT-4o: what happened and what we’re doing about it — OpenAI 官方解釋 GPT-4o sycophancy 問題、rollback 同後續修正方向。
- How your data is used to improve model performance — OpenAI 官方講清楚個人版、Temporary Chat、企業版同 API 嘅訓練資料設定。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
