擬用 CVSS 式評分分辨 AI jailbreak 風險
3C 產品

擬用 CVSS 式評分分辨 AI jailbreak 風險

圖片:TechLab
TechLab 編輯部(譯)·

Frontier Model Forum 擬提出一套類似 CVSS 的評分框架,從 jailbreak 帶來的能力增幅、影響範圍,以及攻擊部署難度,為新一代 AI 模型的安全繞過手法分級。對把生成式 AI 接入產品、內部流程或外部功能的開發團隊而言,這提供了一個排列修補優先次序的思路。

不過,這仍是業界提出的框架,並非已正式生效或獲廣泛採用的安全標準。現有報道未交代具體計分公式、分級門檻、適用模型、測試方法及限制,因此不能把某個分數直接視為模型已通過安全認證。

三個維度,回答「繞過後有多危險」

CVSS 式做法的價值,在於避免只以「發現 jailbreak」作二元判斷。按報道提及的三項方向,團隊可把風險拆開看:

評估方向 可用來釐清的問題 對修補排序的意義
能力增幅 繞過後令模型額外具備多少原本受限制的能力? 增幅愈大,潛在後果通常愈值得優先處理。
影響範圍 手法可影響的使用情境或目標有多廣? 範圍較廣的問題,較可能需要系統性修補。
部署難度 攻擊者要付出多少技術、設定或操作成本才能重現? 容易複製及部署的手法,較可能需要加快緩解。

這不是三項因素各自獨立的比賽。從風險管理角度推論,若某種 jailbreak 同時能大幅增加模型能力、影響範圍廣,又可輕易部署,應比只在狹窄條件下才可重現的個案更早處理。反過來說,單靠「攻擊很容易」不足以判定最高優先級,仍要看它實際打開了甚麼能力與可影響多少場景。

開發團隊可怎樣使用

對採用生成式 AI 的團隊,這類框架較適合作為漏洞分流語言,而不是替代測試。團隊可先為每宗已確認的安全繞過記錄三件事:它改變了甚麼模型能力、可在哪些產品路徑重現、以及重現所需的條件。之後再把修補資源集中於三項指標同時偏高的個案。

修補措施則應對應實際攻擊路徑,例如收緊可執行操作的權限、限制模型可觸及的外部功能、為異常輸入和輸出加入監察,以及在更新模型或系統 prompt 後重新測試。若只修正單一示例 prompt,而沒有驗證同類手法能否繞過,風險排序再精細也未必有效。

下一步要觀察的是 Frontier Model Forum 是否公布可重複採用的計分細節及驗證方法,以及模型供應商和使用 AI 的開發團隊會否以此建立共同的漏洞報告格式。在此之前,團隊可借用三個維度整理內部風險,但不宜將其當作既定標準。

延伸閱讀

AI 輔助說明: 本文由 AI 協助整理。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook