Google SL2T 將手語變成手機輸入法,但香港用家暫時用唔着
Tech News

Google SL2T 將手語變成手機輸入法,但香港用家暫時用唔着

圖片:via iThome — https://www.ithome.com.tw/news/178097
TechLab 編輯部(譯)·

首發只限美國手語轉英文,翻譯仍要交畀 Google server

Google DeepMind 推出手語轉文字模型 SL2T,首發放入 Pixel 11 嘅 Gboard 同 Live Transcribe。呢步值得睇,因為 Google 今次直接將 AI 手語翻譯塞入 Android 嘅輸入層:識美國手語嘅用家可以用手語搜尋、打訊息或者輸入 Gemini 指令,唔使每次另開一個研究 app。不過首版只識 美國手語(ASL)轉英文,香港手語用家暫時唔適用。

手機睇到嘅其實係一堆身體座標

手語唔係將英文詞語逐個用手勢砌出嚟。手形、移動方向、身體位置、面部表情同頭部動作可以同時改變句子意思,模型要做嘅工作接近跨語言翻譯。SL2T 先用手機上嘅 MediaPipe Holistic,逐格抽取面、身體同雙手合共 130 個關鍵點,再將連續座標交畀翻譯模型,直接產生英文句子,中間唔經傳統手語研究常用嘅 gloss 標註。

Google 話模型用超過 10 萬小時資料訓練,涉及 50 多種手語,當中約四分一係 ASL。多語資料令模型學到部分共通嘅視覺同語言結構,亦幫手處理左撇子、單手打手語同唔同鏡頭角度。呢批大規模資料,係技術今次可以走入手機嘅重要基礎。:以前原型通常受制於細型資料集、指定拍攝環境,甚至要額外感應器,離日常輸入仲有一段距離。

用家一手拎住 Pixel 手機,一手示範用 Gboard 將手語變成文字

圖片:Google DeepMind

Gboard 同 Live Transcribe 用法唔同

放入 Gboard,SL2T 就似語音輸入嘅手語版;只要 app 有文字欄,用家就可以對鏡頭打手語,再檢查同修改產生咗嘅英文。Live Transcribe 本身會將現場說話變成字幕,加入 SL2T 後,手語用家亦可以用手語產生文字回覆,方便咖啡店、零售櫃位或者一對一傾談。Google 特別保留預覽同編輯步驟,用家確認內容後先送出,因為模型仍會譯錯。

今次最值得留意係 Google 將 SL2T 直接整合落系統。iThome 報道指出,以往已有手語辨識研究同商用方案,不過好多只限指定場地、專用設備或者獨立 app。鍵盤就唔同,一次整合已經可以覆蓋大量 app。Google 同時掌握 Android、Gboard、Pixel 同 Gemini,較容易將研究模型整合成完整輸入體驗。

70 BLEURT 唔等於七成準確

Google 公布 SL2T 喺 FLEURS-ASL 零樣本測試攞到 70 BLEURT,但 BLEURT 係比較譯文質素嘅模型評分,唔可以當成 70% 辨識準確率。官方影響報告另一項手指拼字測試只有 64% 完全吻合率,亦承認罕見手勢、快速拼字、地區變體、俚語、複雜空間文法同主要靠面部表情表達嘅語句仍容易出錯。Google亦冇公布一個可以代表日常使用嘅整體準確率或者實際延遲毫秒數。

使用環境同樣有影響。背光、昏暗環境、雙手或面部離開畫面,都會拖低辨識表現;系統暫時只追蹤畫面入面最大嗰個人,未識處理多人輪流打手語。每段輸入最長 60 秒,Live Transcribe 亦唔會保留完整多輪對話脈絡。官方將用途限定喺低風險日常溝通,醫療、法律、警務同正式教學場合都唔應該用佢代替合資格手語傳譯員。

原片唔上傳,但亦唔係離線翻譯

私隱安排要分兩段睇。手機會先將鏡頭畫面變成幾何座標,原始影片會即時刪除,唔會傳上 Google server;server 收到嘅係關鍵點位置,再完成翻譯。Google 同手語諮詢委員會嘅報告話,除非用家明確同意參與模型評估,Google 唔會保留輸入或者輸出紀錄。呢種做法少咗相貌同周圍環境資料外流嘅風險,不過翻譯本身仍靠 server,冇上網連線時用唔用到,官方未有列明支援。

香港手語同港行都未到位

首版針對美國市場,只做 ASL 轉英文。香港手語係另一套自然語言,有自己嘅詞彙、變體同文法;香港中文大學手語及聾人研究中心亦有獨立嘅香港手語語料庫同瀏覽器,所以唔可以因為模型訓練過多種手語,就推斷佢已經識香港手語。Google 只話之後會加入更多手語,未有香港手語時間表。

硬件方面,Google 最新官方銷售地區名單有台灣、新加坡、日本等市場,香港仍然唔喺 Pixel 11 官方發售名單。SL2T 影響報告亦將首發範圍寫成美國市場;水貨 Pixel 11 配香港地區或者 Google 帳戶可唔可以開到功能,暫時未有官方答案。香港用家現階段可以留意技術發展,但唔應該為咗 SL2T 買水貨機,下一步要等 Google 公布更多語言、裝置同地區支援。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook