Google Earth AI 改圖一日即收回:假衛星圖借介面搶走可信度
Tech News

Google Earth AI 改圖一日即收回:假衛星圖借介面搶走可信度

圖片:via Engadget — https://www.engadget.com/2228142/google-rolls-back-the-needless-ai-generation-tools-it-added-to-google-earth/
TechLab 編輯部(譯)·

SynthID 驗到部分改圖,但截圖流傳速度快過核實

Google Earth 加入 Nano Banana 圖片生成後不足一日,Google 就急急收回功能。公司承認有人將生成畫面截圖外傳,部分內容似乎違反政策,話會加強 guardrails 後先再開放。至於香港帳戶當時有冇得用,公開資料冇講清楚。件事值得睇,因為 Google Earth 個介面本身就帶住「呢幅係世界實況」嘅暗示,生成圖片一放入去,風險高過普通 AI 改圖工具。Engadget 報道

原本想做教育同規劃,結果示範咗假新聞工具

Google 原先將功能包裝成視覺化工具,例如重現公元 78 年龐貝街景、將東京空地改成商業區、預覽湖邊小屋,或者按地點製作資訊圖。呢啲用途喺教學、城市規劃同地產簡報確實有想像空間,不過生成模型只係按資料估算畫面,唔代表有歷史或測量證據支持。當呢類估算直接出現喺 Google Earth,模擬場景同觀測影像之間條界線就變得好薄。功能推出時嘅介紹

據 Engadget 引述 404 Media 記者 Joseph Cox 嘅測試,工具可以將洛杉磯一處地方改成有爆炸坑,亦可以喺 Google 位於加州 Mountain View 嘅園區外加上示威者。呢啲係媒體測試案例,冇證據顯示畫面曾經引發真實事件誤報;不過測試已經講清楚風險:假事件可以連座標、地貌同熟悉嘅 Earth 介面一齊出現,截圖再放上社交平台,普通人未必知道畫面來自生成模式。

Google Earth 網頁版介面顯示衛星影像同地圖工具

圖片:Google Maps Platform

Google Earth 個框,說服力強過張 AI 圖

同一幅爆炸坑圖片,淨係由 AI app 輸出,大家或者會先懷疑真假;一旦周圍有地名、道路、指南針同 Google Earth 版面,個腦好容易當佢係衛星影像。呢種「借介面上位」尤其麻煩,因為截圖離開原本產品後,prompt、生成提示同互動紀錄都可以一併消失。新聞核實、課堂教材以至公司簡報,只要有人直接轉貼截圖,錯誤就會沿住一條好熟悉、亦好可信嘅視覺格式傳開。

Google 嘅生成式 AI 政策本身禁止誤導、冒充同錯報內容來源,但政策寫喺條款入面,阻唔到一張已經匯出嘅圖繼續流傳。今次 Google 話見到疑似違規截圖後收回功能,反映單靠使用守則頂唔住產品設計帶來嘅風險。若果功能再開,生成場景最好放入清楚分隔嘅模擬模式,畫面內長期顯示標記,分享同匯出後都保留來源說明。Google 生成式 AI 使用政策

SynthID 有用,但「驗唔到」唔代表真

Google 強調每幅 Nano Banana 生成圖都有 SynthID。呢個係嵌入圖片嘅不可見數碼水印,肉眼睇唔到;用戶可以將圖片上載 Gemini 查驗。Google 官方亦教人驗截圖時要盡量貼邊裁走無關部分,先有較高準確度。水印一般捱到縮放、壓縮同改色,但圖片經過多次改動後仍有機會驗唔到,而細微修改或內容太簡單亦可能得出唔確定結果。Gemini 官方驗證說明

仲有一個限制要記住:Gemini 嘅 SynthID 偵測主要確認 Google AI 產生或修改過嘅內容。驗唔到 SynthID,只可以話冇找到相應水印,張圖仍可能由其他 AI 工具製作。實際核實假地圖圖像,要先找原帖同原檔,再喺 Google Earth 開返同一座標,比對影像日期、道路、建築同地形;跟住做反向圖片搜尋,亦要向相關機構或現場來源交叉查證。爆炸、示威或災害等敏感畫面,單靠一張截圖唔足以確認事件。

Google Earth 多年來建立嘅價值,正正係畀人查看同理解現實世界。生成場景可以保留,但產品要清楚分隔實際影像、歷史重構同概念模擬。Google 下一版 guardrails 除咗要擋違規 prompt,亦要確保圖片分享出去之後仍然保留足夠來源線索。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook