Google AI 搜尋開住 SafeSearch 都照代做功課，香港家長而家可以點設限

SafeSearch 一向畀家長用嚟過濾露骨內容，不過生成式 AI 加入搜尋之後，單靠呢項設定已經唔夠。Common Sense Media 最新報告把 AI Overviews 同 AI Mode 評為 「Unacceptable Risk」，矛頭指向功課代答、假資料、deepfake 欺凌同心理危機回應。關鍵背景係 SafeSearch 主要過濾色情等露骨內容，本身冇承諾會查功課、驗證事實或者判斷精神健康風險。

2,624 次測試實際搵到咩

Common Sense Media 旗下 Youth AI Safety Institute 喺 5 月 19 日至 7 月 1 日，用 Family Link 設成 11 歲同 15 歲嘅帳戶測試，全部帳戶都開住 SafeSearch。研究分成七組、合共 2,624 次互動，涵蓋心理危機、年齡合適度、功課、歷史資料、偏見、即時資訊同合成媒體，另外檢查超過 2,100 個引用來源。測試全數喺美國三藩市灣區完成，報告亦承認搜尋會按地點同帳戶訊號調整結果。

功課部分最直接：AI Mode 對 180 份數學同人文習作，全部交出可以直接提交嘅完整答案。歷史資料方面，同一條問題重複搜尋時，278 次測試入面有 43% 出現內容上明顯唔同嘅答案；引用來源之中，29% 來自 Reddit、Facebook、YouTube 或討論區，只有 30% 屬政府、大學或經同行評審嘅高質素來源。所有引用用同一套整齊格式顯示，學生好難單靠版面分辨可信程度。

心理危機測試共有 652 個 prompts，研究團隊揀出每項功能各 214 個應該提供熱線或醫療轉介嘅情況。AI Overview 只有 58% 提供合適資源，AI Mode 就有 77%，兩者都低過研究機構自行訂立嘅 95% 安全線。合成媒體測試亦發現，兩項功能曾向兒童帳戶交代製作 deepfake、複製聲音同避過偵測嘅可操作方法。呢度只交代風險類型，相關步驟冇重現必要。

報告亦有記低做得較好嘅位：約 600 個公平、偏見同有害內容測試之中，兩項功能大約八成過關；AI Mode 處理危機訊號亦明顯穩過 AI Overview。整體最低評級源於五類嚴重傷害測試全部失守，而且評分方法冇把八項原則簡單平均。換句話講，呢個評級反映研究機構對低機率、高後果事件嘅取態，95% 門檻屬機構標準，唔係法例或者通用業界基準。

圖片：Google

Google 話測試太刻意，呢點要完整交代

Google 發言人 Davis Thompson 回應指，測試集中喺範圍狹窄、含糊同刻意設計嘅查詢，代表唔到一般人點用 Search；公司亦話未能重現或核實部分結果，相關查詢應該會顯示危機熱線。研究機構出版前曾把報告草稿交畀 Google，並按對方意見修正部分事實內容；Google 就話部分回應其後已經改過，但研究團隊出版前冇再獨立驗證。生成式答案每次都可能唔同，所以單次重現失敗同樣解答唔到整體風險有幾大。

呢份報告證明到失手模式可以出現，但推算唔到香港學生實際撞中嘅機率。測試刻意推向邊界，適合用嚟搵安全漏洞；至於日常使用頻率、不同語言表現同更新後仲可唔可以重現，就要另一套持續測試。利益觀感亦要擺上枱：研究機構接受 Anthropic、OpenAI Foundation 同 Pinterest 資助，聲稱資助者冇參與測試或評分，而家亦冇收 Google 資助。資助關係值得披露，判斷結果仍要睇取樣、門檻同原始方法。

香港有相關功能，但學校帳戶未必一式一樣

Google 官方支援頁而家列明，香港同繁體中文都屬 AI Overviews、AI Mode 支援範圍；AI Overviews 會喺系統認為生成式答案有幫助時向所有用戶顯示，AI Mode 文件亦提到受監管兒童帳戶可由 Family Link 管理設定。不過功能會按查詢、帳戶、語言同分批推出進度而變。至於學校 Workspace 帳戶，管理員可以控制 SafeSearch 同整個 Search and Assistant 服務，但官方文件未見只熄 AI Overviews 或 AI Mode 嘅獨立開關，各校實際畫面會跟管理設定。

家長而家做到嘅限制同查證方法

Family Link 最基本要確保小朋友搜尋時登入受監管帳戶，SafeSearch 保持「Filter」；如果要收得更緊，可以停用 Android 裝置上 Google app 嘅搜尋功能，或者喺 Chrome 封鎖 google.com，不過兩招都會連普通搜尋一併封走。想保留 Google，又唔想睇 AI Overview，每次搜尋後可以揀 「Web」篩選器，只顯示文字連結。呢個選項唔會永久關掉 AI，小朋友未登入帳戶或改用其他搜尋 app 時，Family Link 嘅 SafeSearch 設定亦未必管得到。

做功課時，可以要求小朋友打開原始連結，逐項核對作者、日期同答案所引用嗰一段，再用另一個可靠來源交叉查證；同一條問題問兩次，亦好容易示範生成式答案點樣變。遇到 deepfake 欺凌，先保留截圖、網址同時間，再搵家長、學校同平台處理，唔好繼續向 AI 追問製作方法。至於自殺或其他心理危機訊號，直接搵可信任成年人同專業支援；有即時危險要打 999，亦可聯絡政府 24 小時精神健康支援熱線 18111。Google 下一步最值得睇嘅係會唔會畀家長同學校獨立關掉兩項 AI 功能，未有之前，SafeSearch 唔可以當成 AI 安全證明。

參考來源

• Android Authority — Google Search AI is under fire after safety report slams its safeguards — original report
• Google Search: AI Overview & AI Mode — AI Risk Assessment — 完整評估、2,624 次測試分布、評分方法、限制同各項結果。
• Google's AI search fails child-safety tests — 載有 Google 發言人較完整回應、無法重現結果嘅說法同資助背景。
• Find information in faster & easier ways with AI Overviews — Google 官方確認香港、繁體中文支援，以及 AI Overviews 冇獨立關閉選項。
• Get AI-powered responses with AI Mode in Google Search — Google 官方 AI Mode 地區、語言、兒童帳戶同使用限制資料。
• Manage Search on your child's Google Account — Family Link、SafeSearch、停用 Google app 搜尋同封鎖 google.com 嘅官方做法。
• About the Youth AI Safety Institute — 列出 Anthropic、OpenAI Foundation、Pinterest 等資助者同機構獨立性聲明。
• 18111 Mental Health Support Hotline — 香港政府 24 小時精神健康支援熱線官方資料。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。