逾百公司聯署談 AI 網安:企業先補上身份與監測缺口
Tech News

逾百公司聯署談 AI 網安:企業先補上身份與監測缺口

圖片:TechLab 自製資訊圖
TechLab 編輯部(譯)·

OpenAI、Google 及逾百間來自 AI、科技、金融等行業的公司,聯署發表《A call for collective action on cyber defense》,呼籲各方提升網絡防禦能力。參與者包括 Anthropic、AWS、Cisco、Cloudflare、CrowdStrike、Google、Hugging Face、Microsoft、OpenAI、Oracle 及 Perplexity。聯署的核心判斷是,隨着模型能力提高,AI 輔助的網絡攻擊在未來數月可能變得更普遍、更複雜,因此既有安全做法未必足夠應對。

這份文件的限制同樣清楚:它是一封公開聯署信,提出方向多於具體執行安排;原文所載內容沒有交代具約束力的規則、統一技術標準或落實時間表。再者,參與聯署者之中有不少正提供或推廣 AI 產品與網安服務,市場應把它視為一項值得檢視的行業倡議,而非已被證實能解決問題的方案。對採用雲端、SaaS 與 AI 工具的團隊來說,較實際的問題是:當自動化 agent 能讀資料、呼叫工具及代替人作出操作時,現行帳戶與監控制度是否仍能追得上。

AI agent 令「誰做了甚麼」更難回答

聯署要求不要再把現狀安全水平視為足夠,並提出讓更多防禦者運用具網安能力的 AI,以及動員集體回應。這些表述聽起來宏觀,但其實指向一個很具體的營運改變:以往一次可疑登入或資料匯出,通常可先歸因於某位員工帳戶、某部裝置或某個系統程序;當 agent 可按指令跨多個工具執行任務,事件紀錄若只留下共享帳戶或模糊的 API 身份,調查人員便未必容易分辨是正常自動化、設定失誤,還是帳戶被濫用。

聯署特別提出,前沿 AI 公司應建立可觀測性與安全工具,確保 agentic identities 可追溯及可問責,並分享持續監測的最佳做法。這裏的重點不只是在系統內「加一個 AI」,而是把 agent 視作需要被管理的操作身份。可追溯意味每個 agent、所用憑證、獲授權的工具,以及代表哪名使用者或哪項工作而行動,都應可在事後還原;可問責則要求權限與審批責任不能因自動化而消失。

分析而言,這會令企業網安的重點由單純攔截惡意訊息,延伸至按最小權限原則管理自動化工作流程。攻擊者若取得一個權限過大的 AI 工具帳戶,潛在影響未必局限於單一信箱或單一 app;相反,合法但控制不足的 agent 也可能在不恰當的資料範圍內搜尋、整理或傳送內容。聯署沒有列出這類個案的發生率,因此不能把風險當成既成事故;不過,從其強調身份追蹤與持續監測可合理推論,這正是 AI 自動化令防禦設計更受重視的環節。

聯署所說的「集體回應」,缺少落地細節

跨公司合作的必要性不難理解。釣魚訊息、帳戶入侵或自動化掃描往往跨越多個電郵、雲端與軟件供應商;若各方只看見自身系統的一小段紀錄,辨識攻擊模式會較慢。聯署因而主張動員集體回應,亦提到組織、政府、網安與科技業,以及 AI 業者都可採取行動,以阻止 AI 驅動攻擊擴大。

然而,「合作」本身不等於可操作的防禦機制。原文沒有說明哪些事件資料會共享、由誰制定格式、如何保障客戶資料,或參與者須承擔甚麼責任。這些問題會直接影響倡議能否超越聲明層面。企業若只因「AI 攻擊」的警告而急於採購更多工具,卻未先釐清現有身份、權限與日誌缺口,投入可能變成重複堆疊告警。網安團隊真正需要的是可核對、可分流、可追查的訊號,而不是更多難以處理的通知。

聯署亦提出以具網安能力的 AI 協助更多防禦者,這有實際吸引力:面對大量紀錄與告警,自動化可協助整理優先次序和加快初步分析。但其取捨是,防禦方若讓同一類自動化工具直接採取封鎖、刪除或改權限等高影響動作,便須預先界定審批範圍與復原方法。否則,為了加快回應而加入的 agent,可能反過來擴大操作錯誤的影響。因此,可觀測性與持續監測須與自動化一併處理,不能只看效率。

中小企與開發團隊可先做的三件事

即使聯署尚未變成共同標準,資源有限的團隊仍可從其原則整理出可執行的優先次序。第一,盤點每個會讀取公司資料、呼叫外部工具或代替人操作的 AI 功能,分清其使用的是個人帳戶、共享帳戶還是獨立服務身份;對於無法說明擁有者與用途的身份,應先限制權限。第二,將高風險操作分級,例如涉及付款、帳戶權限、客戶資料或大量匯出的動作,保留人手確認或額外審批,而非讓 agent 一次取得所有權限。

第三,檢查日誌是否足以回答基本問題:哪個身份在甚麼時間使用了哪項工具、根據誰的授權行動、讀取或更改了甚麼資源,以及異常後能否迅速停用相關憑證。這些工作未必新鮮,卻是聯署所提「可追溯身份」與「持續監測」在日常系統管理上的具體版本。開發團隊也應把 AI 連接器、API 金鑰及自動化流程納入既有權限審視,而非只把它們當作提升生產力的小工具。

下一步值得觀察的,是聯署者會否把原則轉化為可採用的共同做法,例如更清楚的身份記錄、監測能力或跨機構協作安排。在此之前,受影響最直接的仍是已讓 AI 連接內部資料與多個雲端工具的企業:它們毋須等待行業承諾落地,但應先確認自動化身分的權限邊界與事件追查能力是否足夠。

延伸閱讀

AI 輔助說明: 本文由 AI 協助整理,並經兩輪獨立自動品質審核;資料及連結仍以原始來源為準。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook