NVIDIA 拉 Microsoft 組開放 AI 保安聯盟，Meta 其實冇份
AI agent 加快攻防節奏，事故現場亦暴露封閉 API 嘅限制
Meta 冇喺創始名單入面
NVIDIA 聯同 Microsoft、Cisco、Cloudflare、CrowdStrike、Hugging Face、IBM、Red Hat、Linux Foundation 等三十幾間公司，成立 Open Secure AI Alliance。聯盟想共同開發模型、agent harness、安全工具同漏洞披露方法，等保安團隊可以自行檢查、修改同部署。值得先講清楚：GSMArena 標題所講嘅 Meta，冇出現喺 NVIDIA 同 Linux Foundation 公布嘅創始成員名單。Meta 有份簽另一封支持 open-weight AI 生態嘅公開信，兩件事唔應該撈埋一齊。
圖片：NVIDIA
一宗入侵，示範咗封閉 API 點樣卡住鑑證
聯盟公告特別引用 Hugging Face 7 月披露嘅保安事故，當成開放模型有助鑑證嘅例子。Hugging Face 話，攻擊者用自主 AI agent 操作大量短命 sandbox，入侵資料處理流程，再取得雲端同 cluster 憑證。保安團隊要分析超過 17,000 個操作紀錄，最初試過用商業模型 API，但真實攻擊指令、exploit payload 同控制訊息觸發咗安全限制，模型分唔到使用者係攻擊者定事故調查員，結果拒絕處理。
Hugging Face 最後喺自家基建運行 open-weight GLM 5.2，官方話原本可能要幾日嘅整理工作，幾個鐘內已經完成，敏感紀錄同憑證亦冇離開公司環境。開放模型喺呢類場景嘅價值好實際：保安團隊控制到模型、資料流向同安全規則，事故發生時唔使等 API 供應商解封。 呢個案例同時提醒企業，部署 AI agent 之後，模型會掂到檔案、憑證、terminal 同內部系統，保安範圍早已超出 chatbot 本身。
聯盟要處理成套 agent，而唔止模型權重
NVIDIA 提到，一套 agent 包括模型、harness、身份、權限、guardrail、紀錄同評估幾層，呢個方向合理。模型再叻，harness 點樣交出工具、保存狀態同限制權限，一樣會左右 agent 做到咩。首批項目包括 NVIDIA 嘅 NOOA agent 研究框架、Microsoft 嘅 MDASH 漏洞掃描 harness、HPE 參與嘅 SPIFFE／SPIRE 零信任身份系統、Hugging Face Safetensors，同 IBM、Red Hat 嘅 Lightwell 軟件供應鏈修補工具。
不過，呢批暫時係各家公司拎出嚟嘅項目清單，未見一套裝好就用得嘅共同防禦平台。聯盟亦未交代統一管治方式、交付時間表、漏洞資料點樣共享，或者邊啲成果會用咩牌照發布。NVIDIA 推出咗 NOOA 程式碼，證明唔係得一份宣言，但距離企業可以直接採用，仲有整合、審計同長期維護要做。
Open-weight 同 open source 要分開講
今次公告交替使用 open models、open weights 同 open source，容易令人以為全部意思相同。Open-weight 通常只代表模型權重可以下載，訓練資料、訓練程式碼、評估方法同授權限制未必一併公開。Open Source Initiative 嘅定義就嚴格好多，要求使用者有使用、研究、修改同分享嘅自由，亦要有足夠資料資訊、完整訓練程式碼同模型參數。
所以，一個可以放入公司 server 自行運行嘅模型，確實有助保密同事故調查，但有權重下載唔等於整個訓練過程可審計。開放同樣會帶來風險：權重推出後難以收回，安全限制亦可以俾人移除。聯盟提出用評估、sandbox、身份控制同快速修補降低風險，方向啱，不過成效要睇之後公開幾多實際設計同事故數據。
幾間大模型公司缺席，反映利益各有盤算
OpenAI、Google、Anthropic 同 Meta 都冇加入今次聯盟，但唔可以直接解讀成佢哋反對合作。OpenAI、Google 同 Anthropic 都有份 Linux Foundation 另一個 Akrites 漏洞協調計劃；OpenAI 同 Google 後來亦簽咗支持 open-weight 生態嘅公開信。Anthropic 對能力愈來愈強嘅開放權重模型就較審慎，理由係權重發布後難以更新或撤回。
商業利益亦避唔開。NVIDIA 賣 GPU 同運算平台，模型選擇愈多，市場對算力嘅需求通常愈大；靠封閉 API 賣模型能力嘅公司，就會較重視控制權、收入同濫用風險。至於企業 IT 同保安團隊，下一步要睇聯盟可唔可以交出跨模型、可審計，而且有人長期維護嘅工具。企業自己亦要預先試好可供內部運行嘅模型，留畀事故應變時用。
參考來源
- GSMArena — Nvidia, Microsoft, Meta and others form Open Secure AI Alliance — original report
- NVIDIA：Industry Leaders Unite in Open Secure AI Alliance for AI Safety and Security — 聯盟目的、完整創始成員名單、首批工具同 NVIDIA 官方立場。
- Linux Foundation：Open Models and Open Weights Are Foundational to Secure AI — 交叉核對名單、NOOA 定位，同 Linux Foundation 對開放 AI 保安嘅說法。
- Hugging Face：Security incident disclosure — July 2026 — 事故原始披露，包括超過 17,000 個操作紀錄、商業 API 拒絕鑑證內容同自家部署 GLM 5.2 嘅經過。
- Linux Foundation：Akrites launch announcement — 核實 Akrites 嘅漏洞協調機制，以及 OpenAI、Google、Anthropic 等參與背景。
- Open Source Initiative：The Open Source AI Definition 1.0 — 用正式定義分清楚 open-weight、模型權重同完整 open source AI。
- SecurityWeek：Nvidia and Tech Giants Launch AI Security Alliance — 獨立網絡安全媒體對聯盟成員、工具同現階段定位嘅整理。
- Axios：Big Tech lines up in support of open-weight AI — 交代另一封 open-weight 公開信、Meta 嘅實際參與位置，同主要模型公司嘅商業分歧。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
