ChatGPT 青少年帳戶涉暴力俾停用先通知家長,連結帳戶係前提
Tech News

ChatGPT 青少年帳戶涉暴力俾停用先通知家長,連結帳戶係前提

圖片:via Engadget — https://www.engadget.com/2218076/openai-notify-parents-teen-banned-chatgpt-violence/
TechLab 編輯部(譯)·

警報範圍比標題窄,家長亦睇唔到完整對話

唔係封號就自動報告家長

OpenAI 擴大咗 ChatGPT 家長控制入面嘅安全通知:如果已經同家長連結嘅青少年帳戶,因為涉及暴力威脅或暴力行為對話而俾平台停用,家長或監護人會收到警報。Engadget 個標題睇落似任何封號都會通知,其實範圍窄好多。色情、詐騙、洗版或者其他普通違規,就算引致帳戶處分,官方暫時都冇話會觸發呢種暴力安全通知。

OpenAI 亦特別列明,虛構故事、打機內容、新聞同政治討論、一般發脾氣,以至抽象問題,都唔屬於今次新增警報針對嘅情況。即係話,青少年喺小說入面寫打鬥,或者問一段新聞涉及嘅暴力事件,照官方講法唔應該單憑呢啲內容通知家長。條線畫喺平台判斷對話涉及現實暴力風險,而且嚴重到要停用帳戶嗰一刻。

帳戶要先連結,系統亦有人手覆核

家長控制唔會自動套落所有未成年用戶。家長或青少年要先發出邀請,另一方接受後先完成連結;任何一方之後都可以解除連結,而青少年自行解除時,家長會收到通知。呢個設計保留咗少量自主權,不過亦代表冇預先連結嘅家庭,就算平台停用青少年帳戶,呢套家長警報都幫唔到手。

偵測流程亦唔係見到某個關鍵字就即刻出警報。OpenAI 話系統會先搵出可能涉及嚴重自我傷害或暴力行為嘅對話,再交畀一小隊受過專門訓練嘅人覆核,判斷有冇急切風險同係咪要處理帳戶。今次新增嗰類通知,前提係覆核後決定停用帳戶,門檻明顯高過一般敏感內容提示。

家長收到原因同處分,睇唔到完整聊天紀錄

官方示例會先話畀家長知青少年帳戶有「重要更新」,撳入去先見到帳戶因違反暴力行為政策而停用。OpenAI 幫助頁再寫明,通知可包括偵測到邊一類安全問題、平台採取咗咩帳戶行動、相關支援資料,同點樣聯絡客服;家長控制本身冇權閱讀對話,亦唔提供即時監察

至於警報會唔會附上個別句子或者對話節錄,OpenAI 冇公開一套固定格式,只話會分享支援青少年安全所需嘅有限資料。呢個講法留有相當大空間:資料太少,家長可能只知道帳戶停咗,唔知應該點開口;資料太多,又可能令青少年唔敢用 ChatGPT 講困擾。實際警報提供幾多脈絡,會直接影響呢個功能有冇用,同會唔會傷到家庭信任。

點解而家擴大到對他人嘅暴力風險

原本嘅家長安全通知主要處理嚴重自我傷害訊號,今次就擴闊到可能危害其他人嘅情況。時間點唔難理解:加拿大 Tumbler Ridge 槍擊案後,外界得知 OpenAI 早喺事發前已因暴力相關活動停用涉事者帳戶,但當時冇通知執法部門。Sam Altman 其後就事件道歉,公司亦承諾收緊處理嚴重暴力風險嘅流程。

新做法至少會通知多一個現實中接觸到青少年嘅人,等家長有機會早啲介入。不過家長警報處理唔到所有個案:帳戶可能冇連結、系統可能判斷錯,青少年亦可以解除連結。OpenAI 自己都承認安全系統唔會百分百準確。所以呢套功能只係覆蓋範圍有限嘅後備防線;實際成效點,要等 OpenAI 公布更多漏報、誤報同警報內容數據先知。

香港帳戶有文件支援,實際通知渠道仍要留意

OpenAI 話家長控制向所有 ChatGPT 用戶提供,香港版幫助頁亦列出用電話號碼或電郵邀請家人,同埋用 SMS、email 或 push notification 接收安全警報。照官方文件,香港家庭應該用到相關設定;不過今次未有用香港帳戶實際連結青少年帳戶,SMS 能否正常收取、push notification 喺邊啲裝置出現,同各渠道推出進度仍然有待本地確認。

家長如果真係打算靠呢項功能,最好先入 ChatGPT「設定 > 家長控制」確認有冇相關選項,再同青少年一齊完成連結同檢查通知方式。警報預設會開啟。收到通知之後,家長亦要理解平台提供嘅有限資料,再決定點樣同青少年跟進。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook