ChatGPT 對話成為庭上證據:Palisades 山火案提醒 AI 私隱風險
Tech News

ChatGPT 對話成為庭上證據:Palisades 山火案提醒 AI 私隱風險

圖片:via The Verge — https://www.theverge.com/ai-artificial-intelligence/958751/prosecutors-chatgpt-palisades-wildfire-arson-mistrial
TechLab 編輯部(譯)·

檢方引用 logs,陪審團未接受相關解讀;風險喺紀錄留存同法律程序

一句先講件事

6 月 28 日 The Verge 報道,Jonathan Rinderknecht 喺美國 Palisades 山火案入面面對縱火相關控罪,檢方指稱佢喺 2025 年 1 月 1 日點起 Lachman Fire,之後喺 1 月 7 日大風下重燃成 Palisades Fire。庭上證據唔只係 iPhone 定位、保安鏡頭同證人供詞,檢方亦拎出佢同 ChatGPT 嘅對話紀錄。案件喺 6 月 26 日流審,AP 指 12 名陪審員入面有 10 名傾向無罪,法官暫定 2026 年 10 月 19 日重審。

ChatGPT logs 點樣入案

The Verge 同 AP 都提到,檢方話佢曾經叫 ChatGPT 生成火場圖片,問過點解自己成日咁嬲,又喺對話入面發洩對財富差距同全球暖化嘅怒氣。檢方亦指一段螢幕錄影顯示,佢一邊處理 911 電話,一邊問 ChatGPT 如果火由煙頭引起,當事人要唔要負責。呢啲內容本身未必證明到縱火;檢方想用佢去補心態同事後反應,辯方同部分陪審員就覺得解讀過咗火。

重點喺紀錄留存

呢單案好易俾人講成「ChatGPT 出賣用家」,咁講太粗。公開資料暫時睇唔到 OpenAI 主動監控 Rinderknecht 嘅日常對話;今次值得留意嘅位,係 AI 對話正慢慢變成普通數碼紀錄:手機定位、雲端相、搜尋紀錄、WhatsApp、電郵點樣入案,chatbot logs 都可以行同一條路。OpenAI 自己嘅私隱政策亦講到,刪除資料一般會喺 30 日內移除,但安全、合規或合法傳票等原因可以令資料留耐啲。

Data controls 有用,不過唔好誤會

OpenAI Help Center 講,個人版 ChatGPT 關咗訓練之後,對話依然會留喺 history,只係唔用嚟改善模型;Temporary Chat 唔會出現喺 history,亦唔會用嚟訓練,但 OpenAI 可能為安全保留副本最多 30 日。換句話講,「唔用嚟訓練」同「冇紀錄」係兩件事。你開過螢幕錄影、公司裝置有端點監察、瀏覽器同步咗記錄,或者同事收到你貼出嚟嘅截圖,平台設定未必覆蓋到呢啲紀錄。

個人版同企業版差好遠

企業場景再麻煩啲。OpenAI 公開話 ChatGPT Business、Enterprise、Edu 同 API 預設唔用企業資料訓練模型,企業版亦有管理、保留、權限同合規控制。呢啲對公司 IT 有用,因為佢至少可以管住邊個有權用、資料留幾耐、app 連接點批。不過員工用私人帳戶貼合約、客戶名單、未公布產品計劃,企業版幫唔到你追返;再講,就算用企業版,合法程序同內部調查都可能令紀錄出現。

prompt hygiene 要當成基本功

最實際做法好悶,但有效:唔好將完整身份證明文件、客戶名單、未簽 NDA 嘅產品資料、合約全文、病歷、法律策略、公司內部電郵成段貼入公共 chatbot。真係要 AI 幫手改稿、摘要或者整理,就先抽走姓名、電話、地址、帳戶號碼、case number、公司代號,同所有可以反推身份嘅細節。問法律、醫療、情緒危機可以問一般方向,但唔好當 chatbot 係律師、醫生、心理輔導員或者受保密義務約束嘅同事。

今次陪審團未完全接受檢方對 ChatGPT 對話嘅解讀,亦都提醒大家:AI 對話可以成為證據,但唔等於一句 prompt 就足以定案。相關內容要同時間線、裝置資料、證人供詞一齊睇。用開 AI 做工作同私人諮詢嘅人,下一步好簡單:唔使停用,但要當 chatbot 係會留痕嘅雲端工具。敏感資料先遮名,私人帳戶同公司帳戶分清楚,data controls 開咗都唔好當成刪除掣。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook