
紐約啟動獨立 AI 測試:能否核實公司安全聲明?
紐約州州長霍楚爾宣布啟動州政府主導的 AI 測試計劃,將由賓漢頓大學的「紐約 AI 責任與研究中心」評估先進 AI 系統的風險,而非完全採信開發商自行提出的安全結論。超過 80 名紐約州科學家將參與,並使用州方公私營 AI 合作計劃 Empire AI 的運算資源。
這項安排的直接意義,在於為政府決策加入一層相對獨立的技術核實。中心的任務包括測試系統、研究風險,以及向公共官員提供證據;同時也會研究 AI 在醫療及科學發現等範疇的負責任使用方式。對大型 AI 開發商而言,安全框架與風險說明將更可能成為可供外部檢視的材料,而不只是企業內部的自我承諾。
透明度是測試機制的前提,也是邊界
不過,獨立測試不代表研究人員可以全面掌握所有模型。按現有安排,中心只能研究 AI 公司公開披露的內容;未公開模型及相關資料,仍可能落在評估範圍之外。這是制度最重要的限制:評測機構即使具備研究人力和運算能力,若沒有足夠資料,也難以驗證公司未披露的風險。
紐約州的 RAISE Act 將在一定程度上擴大可檢視資訊。法例要求大型 AI 開發商在 2027 年 1 月 1 日前向州政府登記,之後發布安全框架與透明度報告;如發生重大安全事故,則須在 72 小時內通報。這些規定未能令未發布模型自動變得可審查,但可為研究中心和政府提供較一致的披露基礎。
從「自我申報」走向可核實的治理
從治理角度看,紐約的做法把兩個環節連接起來:企業先披露安全資訊與事故,外部研究人員再以測試和研究檢驗其含意。能否發揮效果,將取決於披露規則是否足夠具體、事故通報是否完整,以及研究結果會否真正影響公共決策。
下一步可觀察的是,開發商在登記要求生效後將公開哪些安全資料,以及研究中心能否把事故通報與模型評測轉化為可供政府採用的風險證據。這是美國地方層級的 AI 監管案例;目前資料未顯示香港有直接參與或本地政策連動。
延伸閱讀
AI 輔助說明: 本文由 AI 協助整理。
參考來源
- Engadget — New York will independently test AI models — original report
本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。






