Google 搜尋 AI 兒童安全評測墊底：SafeSearch 點解唔夠用
美國英文測試揭出危機回應缺口，香港繁中結果未有獨立驗證
Google 搜尋而家似足答案機：AI Overview 坐喺結果頂，下面「Ask anything」帶你入 AI Mode。小朋友仲學緊判斷來源，問題一牽涉健康、情緒或欺凌，錯答案代價可以好大。Common Sense Media 嘅 Youth AI Safety Institute 最新把兩項功能評為 「Unacceptable Risk」。家長冇細緻開關可以管，呢個影響好實際。
呢個測試點做
呢份完整評測喺 2026 年 5 月 19 日至 7 月 1 日，用 Family Link 管理嘅 11 歲帳戶同 15 歲青少年帳戶，全部開住 SafeSearch。七套測試共跑咗 2,624 次互動，審核逾 2,100 個引用來源，測試範圍包括危機回應、年齡合適度、功課、準確度、偏見同 deepfake。呢個規模唔係挑一兩張截圖講故事。
心理健康一組有 652 個 prompt。研究團隊判定，兩項功能各有 214 次情況應該提供熱線或醫療轉介，AI Overview 只喺 58% 情況畀到合適資源，AI Mode 有 77%。AI Mode 亦完成咗全部 180 份測試功課；逾 2,100 個引用之中，29% 來自用戶內容，只有 30% 屬政府、大學或同行評審研究等高質來源。同一版面、同一種自信語氣，小朋友好難睇出邊句可靠。
圖片：Google
SafeSearch 擋唔到 AI 自信答錯
SafeSearch 主要過濾色情等露骨結果；Family Link 可以鎖住 Filter、關 Google app 搜尋，或者喺 Chrome 封 google.com，但唔會替 AI 核實事實。Google 官方說明寫明 AI Overviews 係 Search 核心功能，唔可以關；搜尋後可揀 Web filter 只睇文字連結，但要每次主動揀。家長亦冇獨立掣只關 AI Overview 或 AI Mode。
圖片：Google
Google 點反駁
Google 發言人 Davis Thompson 向 Axios 表示，報告嘅查詢狹窄、含糊兼刻意設計，唔反映一般人點用 Search；公司話重現唔到或核實唔到結果，適當時會顯示危機熱線，家長亦可完全關掉搜尋。呢個反駁有一點講得通：生成式 AI 答案唔固定，個別失敗未必人人再見到，極端 prompt 嘅發生率亦唔等於日常風險率。
研究團隊就話佢哋重複咗同一 prompt 同變體，亦預先畀 Google 核對報告事實。Google 表示改過部分例子，但研究發表前未有獨立複驗。危機答案有時出熱線、有時淨出論壇連結、有時完全唔答，本身已經難靠；AI Mode 明顯好過 AI Overview，反映兩個入口嘅安全處理未做到一致。
資助背景都要擺明：Youth AI Safety Institute 列出 Anthropic、OpenAI Foundation 同 Pinterest 為業界相關資助者，又話資助方冇參與測試或評分。現階段只有一個倡議機構發表呢套評測，數據值得當成警號，但未足以代表全市場定論。
香港情況唔可以照搬
Google 官方支援頁列明，AI Overviews 同 AI Mode 都覆蓋香港兼支援繁體中文。不過今次研究全部喺三藩市灣區帳戶完成，查詢同案例用英文；Google 又會按位置同帳戶訊號調整答案。香港繁中輸出、兒童帳戶行為、危機提示會唔會接到本地服務，報告冇測。呢份結果指出產品設計有風險，未證明香港每次都會出同一答案。
家長而家可以做咩
先用 Family Link 確保小朋友登入自己帳戶，SafeSearch 保持 Filter；但呢層只係擋露骨內容。醫療、情緒、安全同功課答案唔好停喺 AI 摘要，要撳入來源睇作者、日期同原文，再搵另一個可靠來源或問可信任大人。問兩次同一問題可以示範答案點變，但唔可以當驗證方法。想避開摘要可揀 Web filter；若要硬性阻止，就只剩封 Google app 或 google.com。
一旦小朋友提到想傷害自己、失控或明顯危機，直接搵可信任大人同專業支援；即時危險打 999 或去急症室，香港 24 小時「情緒通」18111 都提供精神健康支援。Google 下一步要交代會唔會畀家庭同學校獨立關閉 AI 搜尋，同埋香港繁中危機提示實際接去邊個服務。
參考來源
- GSMArena — Study finds that Google's AI features create "unacceptable risks" for children — original report
- Common Sense Media：Google Search AI 風險評測 — 研究方法、測試數據、限制同完整結果
- Axios：Google 回應評測結果 — Google 對查詢設計、重現結果同家長控制嘅回應
- Google：AI Overviews 官方支援頁 — 核實香港及繁體中文支援、Web filter 同關閉限制
- Google：AI Mode 官方支援頁 — 核實香港、繁體中文同受監管兒童帳戶設定
- Google：管理兒童帳戶搜尋功能 — 核實 Family Link、SafeSearch、封鎖 app 同網站嘅控制範圍
- Youth AI Safety Institute 資助資料 — 核實 Anthropic、OpenAI Foundation 同 Pinterest 資助披露
- 衞生署：兒童及青少年情緒支援資料 — 核實香港 999、急症室同 18111 精神健康支援資料
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
