Dots 測試電郵入口:AI 代理人便利背後的授權風險
Tech News

Dots 測試電郵入口:AI 代理人便利背後的授權風險

圖片:OpenAI
TechLab 編輯部·

iThome 報道指出,OpenAI 正測試為自主代理人 Dots 配置專屬電郵地址。使用者日後或可直接寄信給 Dots、在討論郵件中將它列為副本收件者,或把供應商收據轉寄給它,再以 prompt 交辦尋找會議時間、處理退款協商等工作。

對日常依賴電郵溝通的人而言,這項設計的重點在於把 AI agent 放進既有工作流。原本要打開 app 或網頁對話框才能交辦的事,改為在同一封郵件內補上一句要求;參與者、上下文與附件亦能一併傳遞。對跨部門排期、採購跟進及客戶往來等反覆性工作,理論上可減少切換工具的步驟。

CC 與轉寄,讓交辦更接近日常習慣

在會議討論中 CC Dots,代理人可從同一串郵件讀取與會者和問題脈絡,再嘗試找出可行時段;轉寄收據,則可把訂單資料連同退款要求交給代理人處理。這類入口降低了使用門檻,也讓「何時讓代理人介入」變得更即時。

不過,電郵本身並不是專為可靠自動化而設計。收件人清單、郵件往來內容和附件經常來自外部人士,當代理人將這些材料視為可執行任務的輸入,便利與風險會同時放大。

圖片:OpenAI

代理人可讀到甚麼,比能做甚麼更早要管

iThome 指出,郵件內容或附件可能帶有隱藏指令或惡意程式,藉此影響代理人的判斷,形成間接提示注入風險。舉例說,表面是供應商收據的附件,可能夾雜要求代理人改變處理方向、索取更多資料或進行其他操作的文字;若系統未能清楚區分文件內容與使用者授權,代理人便可能被外部輸入誤導。

風險會隨連接範圍擴大。若 Dots 同時存取郵件、行事曆、聯絡人及付款工具,一封看似普通的來信,便可能觸發跨系統動作,例如代為承諾條件、向錯誤對象披露資料,或在缺乏覆核下進入付款流程。iThome 亦提到未經核准的承諾與議價,是這類代理人應留意的問題。

因此,適合優先交給電郵代理人的,較可能是低風險、可撤回和結果容易覆核的工作,例如整理可用會議時段、草擬回覆或彙整訂單資料。涉及對外承諾、議價、退款結果及付款的工作,應保留清晰的人手確認關卡。

使用者與企業也可採取最小權限做法:按工作需要分開授予郵件、行事曆或付款存取權;避免讓同一代理人同時擁有大量敏感資料與高影響操作權;並為外來附件、轉寄郵件和外部連結設定更嚴格的處理規則。尤其當代理人要代表人作出對外行動時,應能清楚顯示將執行的內容與對象,讓使用者在送出前覆核。

目前 OpenAI 尚未正式公布此電郵功能的完整設計、實際權限、開放對象或推出時間。iThome 報道稱,OpenAI 工程師 Samir Ahmed 表示公司正進行測試,並希望不久後擴大部署。下一步值得觀察的是,產品會否把「讀取郵件」與「代表使用者行動」分開授權,以及付款與退款協商等高影響操作是否必須逐次確認。

延伸閱讀

AI 輔助說明: 本文由 AI 協助整理。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook