Claude、Grok 被指遭濫用自動化攻擊 企業應收緊帳戶與 API 防線
3C 產品

Claude、Grok 被指遭濫用自動化攻擊 企業應收緊帳戶與 API 防線

圖片:TechLab 自製資訊圖
TechLab 編輯部(譯)·

Tom’s Hardware 報道指,一個名為 CyberCartel 的黑客集團被指利用 Claude 及 Grok 等 AI agent,自動化針對拉丁美洲機構的攻擊。報道聲稱,逾 400 間機構的密碼及資料被盜,當中包括銀行及支付 app。

因此,集團歸因、受害規模,以及 AI 工具在事件中實際扮演的角色,都應以「被指」看待,不能據此斷言個別模型直接協助犯罪。

重點在於攻擊流程更易擴大

若報道所述屬實,風險不只在於攻擊者使用了哪一個模型,而是通用 AI agent 可被納入重複性工作流程,令釣魚訊息、資料整理及針對不同目標的溝通更容易擴大。對防守方而言,單靠員工「小心可疑電郵」已不夠;帳戶權限、付款流程和異常活動偵測都要能承受較大量、較貼身的社交工程。

這同樣是香港企業帳戶、網上銀行與支付 app 使用者可參考的防護方向,尤其是資源有限、由少數人兼管 IT 與付款的小企。

企業可先補上的四道防線

  • 管理員帳戶: 為電郵、雲端、財務及管理後台啟用抗釣魚的多重驗證,例如 passkey 或硬件安全金鑰;管理員帳戶應與日常收發電郵的帳戶分開。
  • API key: 採取最小權限、按環境分隔 key,定期輪換並監察異常用量;不要把 key 放進公開程式碼庫、聊天紀錄或不受控的文件。
  • 付款平台: 新增收款人、更改銀行資料及大額付款應設雙重覆核;涉及付款指示變更時,以既有電話號碼或另一條已驗證渠道確認,勿只依賴電郵或訊息。
  • 員工社交工程: 為財務、客服及 IT 人員訂立明確的覆核步驟,特別是「緊急」付款、重設密碼和索取登入資料的要求。演練應著重識別與回報,避免把責任只壓在個別員工身上。

個人用戶則應為銀行、支付及主要電郵帳戶使用不同密碼,配合密碼管理工具及多重驗證;任何索取一次性驗證碼、登入資料或要求即時轉帳的訊息,都應先以官方 app 或已知聯絡方式核實。

目前最值得觀察的是,會否有受害機構、執法部門或相關平台公開更多證據,釐清被濫用的是哪些流程,以及平台現有防護能否及時阻止大規模惡意使用。在此之前,企業應把事件視為帳戶與付款控制的壓力測試,而非對單一 AI 產品作出過早結論。

延伸閱讀

AI 輔助說明: 本文由 AI 協助整理,並經兩輪獨立自動品質審核;資料及連結仍以原始來源為準。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook