k8s-aibom 開源:唔改 Pod 都可盤點 Kubernetes 入面嘅影子 AI
Tech News

k8s-aibom 開源:唔改 Pod 都可盤點 Kubernetes 入面嘅影子 AI

圖片:via iThome — https://www.ithome.com.tw/news/177327
TechLab 編輯部(譯)·

靠設定同 image 線索辨認 AI 工作負載,未去到完整行為監察

公司可能連自己跑緊咩 AI 都答唔清

AI 專案好多時由小型試驗開始,開發團隊換咗模型、加咗 agent framework,或者臨時喺另一個 namespace 起服務,資產表未必跟得上。iThome 報道,Google Cloud 今次用 Apache 2.0 授權開源 k8s-aibom,目標係搵出 GKE 同其他 Kubernetes cluster 入面已登記或漏登記嘅 AI 工作負載。呢類 shadow AI 未必有人刻意偷跑,好多時只係部署快過公司內部嘅盤點同審批。

Google Cloud 圖解 k8s-aibom 監看 Kubernetes 入面已納入嘅 AI 工作負載,再產生 ML-BOM

圖片:Google Cloud

一個 controller 點樣砌出份清單

裝好後,平台團隊先標籤要納入嘅 namespace,controller 就會監看 KServe、Deployment、StatefulSet、DaemonSet、Job 同 CronJob,再由 container image、digest、環境變數、啟動參數、annotation 同 volume 設定搵線索。現版涵蓋 vLLM、Triton、TGI、Ollama 等 inference runtime,亦認得 LangChain、AutoGen、CrewAI、Milvus、Qdrant、pgvector,同部分訓練及評估工具。結果會寫入 AIBOM custom resource,亦可送去 Google Cloud Storage 或 webhook,格式跟 CycloneDX 1.6 ML-BOM

輕手部署,但平台團隊仍有功夫做

Google Cloud 官方公告主打低侵入:工具只用一個冇特殊權限嘅 Deployment,唔使 sidecar、privileged DaemonSet、kernel access 或 eBPF,原有 Pod spec 同 CI/CD 都唔使郁。呢個做法對怕影響 production cluster 嘅 SRE 幾吸引。不過 Google 暫時冇提供預先建好嘅 container image 或 Helm repository,平台團隊要自行 build、放入 registry、設定權限同保存清單,部署成本始終存在。

Runtime 呢個字要睇清楚

官方雖然將佢定位做 runtime 盤點工具,但現版 controller 主要讀 Kubernetes API 入面嘅 workload spec 同 Pod status,再用 pattern matching 推斷內容,佢冇入 container 追 process、模型載入事件或對外連線。GitHub roadmap將 eBPF scraper、egress destination 同運行中 process 版本核實列入日後 v2,亦清楚畫出 v1 嘅界線。按現有設計推斷,自訂 image 名、藏喺 app config 嘅模型資料,或者程式運行時先揀嘅外部 AI API,都可能只得到模糊結果,甚至偵測唔到;官方文件亦冇提供誤報率或漏報率數字。

三級 confidence 唔可以撈亂

每項資料會標成 declared、inferred 或 unresolved。Declared 代表工程師已喺參數、環境變數或 annotation 寫明;inferred 代表工具靠 image 名等規則估出嚟;unresolved 就係知道有 AI 痕跡,但模型、權重、版本或 digest 仲講唔實。Declared 亦唔等於 verified,只代表設定有人寫過,未證明內容真確。項目 roadmap 要到 v1.1 先加入配合 Sigstore 或 OMS 簽署嘅 verified 級別,所以審查人員仍要跟進 inferred 同 unresolved 項目。

合規用途要同官方 marketing 分開睇

Google 用「audit-grade」形容呢套方案,又提到 EU AI Act、NIST AI RMF 同 ISO/IEC 42001。GCS sink 用最低寫入權限同 DoesNotExist precondition,的確有助防止同一路徑喺冇人知情下俾人覆寫。不過 repo 自己列明,k8s-aibom 唔會認證公司符合任何框架,輸出只係合規流程可採用嘅證據。CycloneDX 可令清單變成統一、機器可讀嘅格式;至於每欄資料準唔準、覆蓋齊唔齊,仍要靠偵測規則、權限設計、保存政策同人手覆核。

Alpha 階段適合由非關鍵環境開始

項目現時標為 v1.0 alpha,官方只建議用喺非關鍵觀察場景,亦講明佢唔屬於有正式支援嘅 Google 產品。對用 Kubernetes 跑內部 AI、RAG 或 agent 嘅企業同金融團隊,佢可以放喺資產盤點、保安審查同合規留證前段,補充 build-time 掃描同 cloud security posture 工具。公司 IT 可以先喺測試 cluster 對照一份已知清單,睇清楚偵測率、誤報情況同操作成本,再決定擴大到咩範圍。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook