Instagram 的 AI 標示不足以解決冒充:一段 Sam Altman 深偽影片的警示
Tech News

Instagram 的 AI 標示不足以解決冒充:一段 Sam Altman 深偽影片的警示

圖片:TechCrunch
TechLab 編輯部·

Meta 首席 AI 官 Alexandr Wang 本月初在 Instagram 發布一段 AI 生成短片,為消費者 AI agent「Muse」宣傳。片中 Wang、Meta 行政總裁 Mark Zuckerberg、OpenAI 行政總裁 Sam Altman 與 Muse 吉祥物進行四人視像通話;其中的 Altman 穿上吉祥物造型服裝。貼文已加上 AI 內容標示。

事件的關鍵不在於影片是否惡意,而是它說明了 Instagram 的一項現實:即使平台要求描繪人物的 AI 生成影片標示來源技術,標示也未必能讓觀眾立即判斷肖像是否真實、是否獲本人同意,或帳戶是否可信。對經常透過轉發、限時動態與短片接收資訊的用戶而言,內容一旦脫離原始貼文流傳,這些背景尤其容易被忽略。

AI 標示說明了甚麼,沒有說明甚麼

據 The Verge 報道,Meta 要求描繪人物的 AI 生成影片加上 AI 標示;Wang 的貼文符合這項要求。Meta 發言人也以此回應查詢,並指出 Altman 曾在 OpenAI 推出 Sora app 時開放其肖像供 AI 內容生成。

不過,AI 標示主要告訴觀眾內容由 AI 生成,並不等於人物本人參與拍攝、認可內容,或發帖帳戶代表本人。這是平台治理上容易混淆的三個層次:內容製作方式、肖像授權,以及帳戶身分。這段短片帶有玩笑與產品宣傳意味,觀眾或較容易辨識;相同格式若套用在投資建議、政治訊息或私人醜聞,判斷成本便會明顯提高。

圖片:TechCrunch · CC BY 2.0

靜態圖與驗證徽章仍是缺口

報道指出,Meta 對 AI 生成的靜態圖片沒有同等標示要求。此前一張 AI 生成的演員 Mia Goth 圖片在 Instagram 流傳時,便沒有 AI 披露;更令人困惑的是,該圖由一個帶有 Instagram 藍色驗證徽章的粉絲帳戶分享。

這不代表每個有徽章的帳戶都有問題,卻提醒用戶:驗證徽章不能取代對內容本身的核實。當帳戶名稱、頭像、徽章和高互動數同時出現,觀眾很容易把「平台已驗證某種帳戶狀態」誤讀為「這則內容真實」或「當事人已授權」。

遇到疑似冒充內容,可先做三件事

  • 回到人物或機構已知的官方帳戶,查看是否有相同內容、公開澄清或其他可交叉印證的資料。
  • 檢查原始貼文的 AI 標示、帳戶名稱與過往發文脈絡;不要只依賴截圖、轉發文字或藍色驗證徽章。
  • 若懷疑帳戶冒充他人,先保留貼文連結、帳戶名稱與發現時間,再透過 Instagram 內建舉報管道提交,清楚說明疑似冒充的對象與可供核對的官方來源。

Meta 過去曾移除被認定冒充他人並使用其肖像的帳戶,但從現有規則看來,平台對影片與靜態圖片的 AI 披露要求並不一致。下一步值得觀察的是,Meta 是否會收窄這個落差,以及是否讓 AI 標示、驗證狀態與冒充處理資訊更容易在轉發後仍被看見。

延伸閱讀

AI 輔助說明: 本文由 AI 協助整理。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook