AICM 1.1 增至 247 項控制：公司開 AI agent 前要查啲咩

今次更新，重點其實唔係多咗四項

雲端安全聯盟（CSA）更新 AI Controls Matrix，AICM 1.1 由 243 項控制增至 247 項，分佈喺 18 個安全領域。官方資源頁標示 2026 年 6 月 22 日發布，CSA 到 7 月 14 日再出文章詳細介紹；iThome 就喺 7 月 20 日報道今次更新。時間線要分清楚，唔好誤會成 7 月中先有 1.1 版。

數字只加咗四項，所以今次稱唔上大改版。實用價值主要來自成套配套：控制表加入責任、系統架構、LLM 生命週期同威脅分類，AI-CAIQ 亦更新至 320 條自評及供應商審查問題。模型安全領域涵蓋 prompt injection、模型污染、未經授權存取、模型權重保護同推論安全，不過呢個領域早喺 1.0 已經加入，1.1 延續呢個領域，再更新相關控制同配套。

圖片：Cloud Security Alliance

AI agent 有工具權限，風險已經唔同普通 chatbot

普通 chatbot 答錯，常見後果係有人收到錯誤資料；agent 如果駁住電郵、程式碼庫、客戶資料庫或者付款系統，收到惡意指示後就可能直接做錯事。Prompt injection 亦未必由員工輸入，agent 讀到嘅網頁、PDF、電郵或工單都可以藏住指令。所以部署前要列清楚 agent 睇到咩資料、可以呼叫咩工具、每次操作使唔使人批核，高風險動作最好逐項限制，憑證亦要短期化同按用途分開。

資料邊界同樣要先定好。公司要先搞清楚，員工會唔會拎客戶資料、合約、原始碼或內部事故紀錄去用外部模型，供應商會保留幾耐，又會唔會用呢啲內容訓練模型。敏感欄位應該先遮罩，測試環境唔好直接用正式資料，RAG 資料庫亦要沿用原有存取權限。否則就算搜尋介面本身守得幾嚴，模型一樣可能兜咗另一個部門嘅內容出嚟。

供應商問卷要配證據，剔格仔冇乜用

AICM 把參與者分成模型供應商、編排服務供應商、app 供應商、AI 客戶同雲端服務商，呢種分法幾貼近企業實際採購情況。用第三方 API 唔代表風險全部交咗畀供應商；公司仍然要管帳戶權限、輸入資料、agent 工具、輸出用途同員工操作。AI-CAIQ 可以放入採購盡職審查，但供應商答「有」之後，仲要追問政策文件、測試報告、事故通知時限、資料刪除證明同分判商名單。

供應鏈亦唔止模型 API。開源模型、套件、container image、向量資料庫、plugin、外部資料源同評估工具都可能換版本或者出漏洞。IT 團隊要保存版本同來源清單，控制更新節奏，預先準備轉供應商或者轉返舊版模型嘅方案。日誌方面，至少要記低邊個呼叫模型、用咗邊個版本、agent 呼叫過咩工具、做過咩高風險動作同邊個批核；敏感 prompt 唔適合原封不動長期存放，記錄範圍同保留期要一併訂明。

AICM 可以補技術細節，映射唔等於合規

ISO/IEC 42001 管嘅係組織點樣建立同持續改善 AI 管理系統；NIST AI RMF 用 Govern、Map、Measure、Manage 組織風險工作；EU AI Act 就按用途同風險訂法律責任。AICM 嘅角色較接近技術控制目錄，幫團隊把高層原則拆成權限、加密、端點、營運持續、模型安全同稽核工作。幾套框架可以互相配合，但 表格有對照欄，唔代表公司已取得 ISO 認證、完成 NIST 評估或者自動符合 EU AI Act。

香港公司若用 AI 處理個人資料，私隱專員公署嘅模範框架亦值得一齊對照。當中涵蓋 AI 管治架構、風險評估、人手監督、系統管理同持份者溝通，方向同 AICM 嘅責任分工幾接近。落手做時，可以先盤點所有 AI 系統，再揀高風險用途做權限、資料、供應商、日誌同事故演練；247 項控制唔使一次過全部採用；最實際係按公司角色揀適用控制，再逐項定好邊個負責留證據。

參考來源

• iThome — CSA更新AI控制矩陣，以247項控制目標協助企業落實AI治理 — original report
• CSA：AI Controls Matrix v1.1 — 確認 6 月 22 日發布、247 項控制、18 個領域同套件內容
• CSA：AICM v1.1 版本詳解 — 確認版本增幅、320 條 AI-CAIQ 問題、角色分類同框架映射
• NIST：AI RMF Core — 核對 Govern、Map、Measure、Manage 四項功能同框架定位
• ISO：ISO/IEC 42001:2023 — 核對 AI 管理系統標準嘅範圍同用途
• 私隱專員公署：AI 個人資料保障模範框架 — 補充香港公司採購、部署同使用 AI 時嘅私隱管治背景

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。