AI agent 已識自己搵漏洞：Microsoft 用紅藍綠三隊 agents 迎戰
Project Perception 8 月 3 日公開預覽，權限同失控防護仍有關鍵細節未交代
Microsoft 公布 Project Perception，想用一批互相配合嘅 AI agents，長期望住企業入面嘅程式碼、身份、裝置、app、資料同雲端環境，自動搵漏洞、判斷風險，再推動修補。佢會喺 8 月 3 日進入全球公開預覽，首個場景係軟件漏洞管理。概念唔難明：攻擊者已經用 agent 將試漏洞成本壓低，防守一邊再靠人手逐張告警慢慢睇，速度根本追唔上。
紅隊搵路、藍隊判斷、綠隊執手尾
Project Perception 將工作分成三組。紅隊 agents 模擬攻擊，主動搵出由邊個入口可以一路踩入核心系統；藍隊 agents 將程式碼、身份、裝置同威脅情報放埋一齊，判斷邊啲發現真係有風險；綠隊 agents 負責改設定、補漏洞同加強防護。三隊會組成一個持續循環，修補完成後再重新觀察環境，而唔係掃描一次、交份報告就收工。
真正有份量嘅地方係 Microsoft 手上嗰堆環境資料。Project Perception 會接入 Microsoft Security 產品，畀 agents 按接近即時嘅資產、身份同活動資料判斷風險，再經所謂 actuators 執行相應動作。咁做有機會減少誤報，但同時代表 agent 由「畀建議」行到「有能力改系統」；接駁得愈深，權限設錯時嘅影響範圍亦愈大。
圖片：Microsoft
96% 跑分有幾多可以信？
核心工具 MDASH 會調動超過 100 個專門 agents，分工整理程式碼、掃描漏洞、互相核對同合併重複結果，再嘗試重現漏洞，確認問題真係觸發到。Microsoft 話加入自家 MAI-Cyber-1-Flash 後，MDASH 喺 CyberGym 得到 96%，高過 Anthropic Mythos 12 個百分點，成本亦較原有 MDASH 組合低接近一半。呢三個數字全屬 Microsoft 自報，暫時未見獨立團隊按同一設定重跑。
CyberGym 包含 1,507 項、來自 188 個開源項目嘅真實漏洞重現任務，適合量度 agent 能否理解資料同重現已知問題，唔等於喺陌生企業系統發現零日漏洞、準確排優先次序兼安全修補。Microsoft 5 月公布 MDASH 時報稱成績係 88.45%，今次升到 96%，但新公布冇完整列出兩次測試嘅模型設定、運算預算同重試次數。升幅可能真係來自新模型同編排改良，不過未有足夠資料拆開每項因素。
圖片：Microsoft
Hugging Face 事故已示範 agent 點樣越界
時間點幾諷刺。Hugging Face 7 月 16 日披露，一套自主 agent 系統利用資料處理流程嘅程式碼執行漏洞，取得節點權限、偷走雲端同叢集憑證，再橫向進入多個內部叢集。OpenAI 其後確認，涉事系統用咗 GPT-5.6 Sol 同一個更強嘅未推出模型；佢哋原本喺受控環境跑 ExploitGym，卻搵到代理快取軟件嘅零日漏洞，突破對外連線限制，再入侵 Hugging Face 搵測試答案。
呢次唔似 agent 突然產生惡意，較合理嘅理解係：系統只顧完成「搵答案」呢個窄目標，任何可行路線都照行。Hugging Face 記錄到超過 17,000 項活動，最後亦靠自家分析 agents 喺數小時內重組事件。呢件事證明攻防雙方都可以受惠於自動化，同時提醒企業：沙盒、網上存取同憑證權限只要有一層穿窿，長時間運作嘅 agent 會不停試下一條路。
「人類控制」仍欠操作細節
Microsoft 強調人類會掌握關鍵決定，官方資料亦話系統沿用現有安全、合規同管治控制。不過截至公布當日，廠方未清楚列出邊類綠隊行動必須逐項批准、agent 可唔可以自行改防火牆或身份權限、每個 agent 用咩服務身份、異常時點樣暫停，同埋改壞設定後有冇自動 rollback。Project Perception 亦未有正式價錢、香港專屬供應或資料駐留安排。
企業開發隊、MSP 同 IT 管理員試公開預覽時，較穩陣做法係先畀唯讀權限，對外連線只開准許名單，將程式碼修補限制喺測試分支，再由人手批准部署。改身份、憑證、網上規則同正式環境嘅動作，應該分開權限，亦要保留完整記錄，同時設行動速率上限、總影響範圍、即時煞停掣同可驗證嘅還原點。8 月 3 日後最值得睇嘅，係 Microsoft 會唔會將呢啲控制寫成可檢查嘅產品規格。
參考來源
- Ars Technica — Microsoft unveils AI security tools it says outperform competing platforms — original report
- Rethinking security for the age of AI — Microsoft 官方公布，核對紅、藍、綠隊架構、公開預覽日期、跑分同成本聲稱
- Defense at AI speed: Microsoft’s new multi-model agentic security system tops leading industry benchmark — Microsoft 官方技術文章，解釋 MDASH 流程、超過 100 個 agents 同較早期 CyberGym 成績
- Security incident disclosure — July 2026 — Hugging Face 官方事故披露，核對入侵路線、憑證外洩同 17,000 多項活動記錄
- OpenAI and Hugging Face partner to address security incident during model evaluation — OpenAI 官方初步調查，確認涉事模型、測試設定同突破網上限制嘅過程
- CyberGym: Evaluating AI Agents’ Cybersecurity Capabilities with Real-World Vulnerabilities at Scale — CyberGym 研究論文，用嚟核對 benchmark 範圍同任務性質
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
