Google AI 搜尋對小朋友安全嗎？報告揭出錯答案同危機求助漏洞

Google Search 而家唔只幫你搵網頁，仲會直接喺結果頂部寫埋答案。對成年人嚟講，錯咗可能只係嘥幾分鐘；小朋友用佢做功課、查健康問題，甚至喺情緒低落時求助，後果可以差好遠。Common Sense Media 嘅 Youth AI Safety Institute 最新將 AI Overview 同 AI Mode 評為 「Unacceptable Risk」，Google 就強烈反駁，話測試用咗含糊、刻意設計而又唔貼近一般用法嘅問題。

逾 2,600 次測試，唔只係捉一兩個出醜答案

報告喺 2026 年 5 月 19 日至 7 月 1 日，用 Family Link 設定嘅 11 歲受監管帳戶，同一個 15 歲青少年帳戶測試。研究員一共做咗 2,624 次互動，範圍包括精神健康危機、年齡合適程度、功課、歷史資料、偏見、即時新聞準確度同合成媒體；另外再檢查逾 2,100 條引用來源。所有測試都喺美國三藩市灣區完成，SafeSearch 亦有開啟。

最直接嘅功課測試有 180 份數學題同人文科文章，AI Mode 每次都直接完成答案。準確度同樣有警號：研究員重複問同一條歷史問題，AI Overview 有 43% 回應出現實質差異；報告檢查嘅引用入面，29% 來自 Reddit、Facebook、YouTube 或網上討論區。呢啲來源唔一定錯，不過 Google 用近乎一樣嘅格式擺放醫療機構、學術研究同網民留言，小朋友未必識分可信程度。

危機求助回應，AI Mode 好過 AI Overview 但仍未過關

研究團隊喺 652 個精神健康相關測試入面，揀出每項功能各 214 個應該提供熱線或醫療轉介嘅情況。AI Overview 有適當提供資源嘅比例係 58%，AI Mode 就係 77%。至於較明確嘅輕生訊號，AI Mode 表現去到 96%，反映 Google 手上其實已有較穩陣嘅回應方法，只係未有一致套用落自動彈出嘅 AI Overview。

「Unacceptable Risk」要理解清楚：呢個係 Common Sense Media 按自己八項 AI 原則同五類嚴重傷害紅線作出嘅評級，唔係政府或監管機構裁決。佢哋亦將 95% 設成危機辨識可接受門檻，呢個標準相當嚴。不過涉及求助資訊時，漏接一次都可能好嚴重，要求高準確率亦唔離地。報告同時承認測試只限美國，搜尋結果會跟地區同帳戶訊號改變，所以數字唔可以原封不動套落香港。

Google 反駁咗咩？有啲講法避開咗核心問題

Google 經 Android Authority 回應，話 Search 本身有安全防護，AI 功能另加保護層，家長亦可控制小朋友使用 Search；公司聲稱未能重現或核實報告多個回應，又話 AI 唔會喺每次搜尋都生成答案，敏感題目有時只會顯示網頁連結或求助資源。Google 仲指測試問題含糊兼刻意設計，唔足以量度產品整體安全同實用程度。

不過報告唔係靠幾張離奇截圖定輸贏。研究員有公開測試期、帳戶年齡、題目分類、互動數目同評分框架，亦會用同一問題及變體重複測試。生成式 AI 本身有隨機性，Google 話「重現唔到」某次答案，只能證明回應會變，未足以推翻整批結果。研究團隊發稿前亦有畀 Google 睇報告草稿同提出資料修正；Google 話已處理部分問題，但報告發布前未經第三方再測。

家長控制亦有字眼落差。Google 官方 Family Link 文件寫明，家長可以關閉 Android 裝置上嘅 Google app 搜尋，或者封鎖 Chrome 入面嘅 Google.com；但呢個做法係 關掉成個 Google Search。Google 另一份官方說明就確認 AI Overview 屬搜尋核心功能，冇獨立開關，只可以每次搜尋後揀「Web」篩選器，改睇純連結結果。換句話講，嚴格嚟講，Google 話家長有控制權唔算錯，但始終冇回應點解家長唔可以淨係關閉生成式答案。

香港用到兩項功能，SafeSearch 擋唔到 AI 作錯答案

Google 官方支援名單而家包括香港：AI Overview 已向香港用戶提供，AI Mode 同樣將香港列入支援地區，亦支援繁體中文；實際介面仍可能按帳戶、語言同分階段推出而有分別。至於兒童帳戶，Family Link 會預設鎖定 SafeSearch，用嚟過濾露骨內容，學校 Google Workspace 管理員亦可以強制開啟 SafeSearch。

問題係 SafeSearch 主要處理色情等露骨搜尋結果，唔代表 AI 摘要入面嘅資料準確，亦唔係危機辨識保證。香港家長暫時可以做嘅，係確保小朋友用受監管帳戶、保留 SafeSearch，教佢哋按入原始連結核對作者同證據，重要功課至少搵兩個可靠來源確認。用「Web」篩選器可以避開當次 AI Overview，但每次都要重新揀，唔算完整家長控制。

如果小朋友問到情緒、飲食失調、自我傷害或其他危機問題，唔好靠搜尋摘要判斷。香港嘅 「情緒通」18111 精神健康支援熱線全年 24 小時運作，電話同 WhatsApp 都可使用；有即時危險就應直接聯絡緊急服務或可信任成年人。家長唔使禁絕小朋友用 AI，但要講清楚：搜尋頁頂嗰段文字只係生成答案，唔等於老師、醫生或者輔導員嘅判斷。

Google 下一步要交代幾件實際問題：家長同學校可唔可以單獨關閉 AI Overview？AI Mode 較穩陣嘅危機處理方式會唔會套用到一般搜尋？修正問題後又會唔會接受獨立重測？未做到之前，小朋友見到 AI 摘要時，仍要當佢係一個未核實嘅起點。

參考來源

• Android Authority — Google fires back at report claiming Search’s AI tools are unsafe for kids — original report
• Google Search: AI Overview & AI Mode Risk Assessment — 完整風險評估，交代 2,624 次互動、測試帳戶、評分框架、結果同研究限制。
• Find information in faster & easier ways with AI Overviews in Google Search — Google 官方說明 AI Overview 可用地區、功能限制、錯誤風險及冇獨立關閉選項。
• Get AI-powered responses with AI Mode in Google Search — Google 官方 AI Mode 支援文件，用嚟確認香港及繁體中文可用狀況。
• Manage Search on your child's Google Account — Google 官方 Family Link 文件，列明 SafeSearch、兒童帳戶同關閉整個 Search 嘅控制範圍。
• 「情緒通」18111 精神健康支援熱線 — 香港官方精神健康支援資料，確認 18111 電話及 WhatsApp 服務。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。