企業 AI agent 駁得入 CRM 仲未夠,權限同審計先決定用唔用得
Tech News

企業 AI agent 駁得入 CRM 仲未夠,權限同審計先決定用唔用得

圖片:via TechNews 科技新報 — https://technews.tw/2026/07/17/secure-enterprise-ai-agents-emerge-as-new-battleground/
TechLab 編輯部(譯)·

OpenAI Frontier 瞄準企業部署難題,賣點由模型轉到管治層

TechNews 科技新報報道,OpenAI Codex 企業產品負責人 Rohan Varma 喺 AWS Summit Taipei 2026 表示,AI 已經由程式碼補全,逐步走到可以連續工作幾個鐘、自己查資料、執行工具同驗證結果嘅 agent 階段。佢亦指 OpenAI 內部廣泛使用 Codex,處理程式碼 PR 嘅效率差唔多高咗一倍。呢啲成效屬 OpenAI 自述,原報道冇提供測試方法、樣本或可獨立核對嘅數據。

模型識做,公司未必敢畀佢做

模型答得準,只係部署企業 agent 嘅其中一塊。當佢純粹草擬電郵,出錯最多係要人手改;一駁入 CRM、公司檔案、財務系統同客戶資料庫,錯一步就可能改壞紀錄、寄錯資料,甚至將敏感內容帶去另一個工具。模型能力愈強、可以連續做嘅步驟愈多,錯誤亦可能一路傳落去,所以企業要計埋每次操作嘅影響範圍。

傳統自動化通常跟固定規則行,邊一步會做咩比較易預計。Agent 會按目標自己揀工具、改計劃同整理幾個系統嘅資料,彈性高好多,但結果冇咁容易預先列晒。呢個分別解釋咗點解公司試用聊天 AI 可以好快,去到容許 agent 真正寫入系統,IT、保安、法務同業務部門就要一齊把關。

Frontier 賣嘅係公司管 agent 嗰一層

OpenAI 喺 2026 年 2 月公布 Frontier,定位係企業建立、部署同管理 AI agent 嘅平台。官方資料話,佢可以連接數據倉庫、CRM 同內部 app,亦支援 OpenAI 及第三方 agent。每個 agent 可有獨立身份、指定權限同操作邊界,管理員亦可以睇詳細紀錄。換句話講,7 月呢次演說主要係延續 Frontier 早前公開嘅企業策略,唔算一項全新產品發布。

呢個方向合理,因為用員工本人或共用 service account 嘅完整權限畀 agent 做事,風險實在太高。較穩陣嘅做法係按任務拆權限:整理銷售機會可以讀 CRM 指定欄位,但冇權刪除客戶;草擬電郵可以做,真正發送前要由人確認;查庫存同改價亦應該分開。Agent 出事時,IT 仲要可以即時撤銷佢嘅身份或 token,截停後續操作。

審計紀錄要睇到「點解做到呢一步」

一般應用程式記低登入同 API 呼叫未必夠。企業要追到 agent 當時用咗邊個身份、睇過咩資料、調用咗咩工具、邊條規則批准操作,同埋最後改過邊份紀錄。美國 NIST 2026 年提出嘅 agent 身份與授權研究方向,同樣將識別、最小權限、可驗證紀錄、人工授權同 prompt injection 放埋一齊討論,反映呢啲已經係跨平台問題。

Prompt injection 尤其麻煩。惡意指令可以藏喺電郵、文件、網站或資料庫內容入面,agent 讀到之後有機會當成工作指示。單靠模型拒絕危險要求未夠穩陣;工具權限、資料分隔、寫入前審批同操作限額要喺模型之外執行。就算 agent 判斷錯,佢手上冇權做嗰件事,損失範圍自然細好多。

真正部署要逐條流程驗收

企業揀 agent 平台時,應該要求供應商示範權限點樣承接現有 IAM、跨工具身份有冇一致映射、紀錄保留幾耐、管理員可唔可以匯出紀錄作調查,同埋任務中斷後點交返畀人。仲要測試 agent 遇上資料缺漏、工具失效、兩個系統內容衝突同高風險操作時,會停低問人,定係照估落去。

OpenAI 官方暫時要求有興趣嘅企業聯絡銷售,公開頁面冇列出 Frontier 定價,亦冇見到香港專屬供應安排。對準備部署嘅公司嚟講,下一步應該先揀一條影響範圍細、結果容易核對嘅流程試行,再用錯誤率、人工接管次數、權限越界測試同完整審計紀錄決定可唔可以擴大使用。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook