紐約 RAISE Act 生效在即:大型 AI 模型商須申報事故
Tech News

紐約 RAISE Act 生效在即:大型 AI 模型商須申報事故

圖片:TechLab
TechLab 編輯部(譯)·

紐約州正為 RAISE Act 落地準備註冊制度。TechCrunch 報道,州政府已開設註冊入口,OpenAI、Anthropic 等大型前沿 AI 開發商須在 2027 年 1 月 1 日前登記;法案亦在年初起生效。受規管對象是年收入超過 5 億美元的大型前沿 AI 開發商,並非所有提供 AI 功能的 app 或企業。

新要求的核心,是將模型安全資訊由公司內部治理,變成須對外公開及向監管方快速通報的事項。合資格公司必須在網站發布安全框架、在 72 小時內報告「關鍵安全事故」,並發表公開的模型透明度報告。紐約新成立的數碼創新、治理、誠信與信任辦公室(DIGIT)將執行法案及監督大型前沿 AI 實驗室。

72 小時要求:快在通報,未必等於即時公開細節

報道確認的門檻是「關鍵安全事故」,但未有交代哪些具體事件會被歸類為關鍵事故,也沒有說明 72 小時通報內容、接收方,或是否須同步向公眾披露。因此,現階段不能把一般模型答錯、個別用戶濫用,或一般服務故障一概視為法定申報事故。

不過,從監管設計看,72 小時時限的作用在於縮短重大風險由企業察覺至監管方知悉之間的空窗。這會迫使受規管模型商建立較清楚的事故分級、內部升級及證據保留流程;代價是公司可能要在事實仍待釐清時先作初步通報。真正的執行力度,將取決於 DIGIT 往後如何界定「關鍵」及處理補充資料。

透明度報告可帶來甚麼,仍視乎格式

法案要求公開模型透明度報告,但報道未列出報告必須披露的欄目,例如模型能力、已知風險、測試方法、部署限制、事故數字或修正措施。因此,目前較穩妥的理解是:公眾將可期待一份法定透明度文件,但尚不能假定不同公司的報告能直接比較。

對 OpenAI、Anthropic 的用戶、採購團隊及依賴其 API 的開發者而言,最實際的追蹤方式將是留意兩類公開資料:公司網站上的安全框架,以及其後發布的模型透明度報告。前者可用來理解公司聲稱如何管理風險;後者理應成為觀察模型安全資訊是否持續更新的入口。這些文件可提升可見度,但本身不等於獨立驗證,也未必足以讓外界判斷個別產品是否適合高風險用途。

執法壓力與下一步

單次違規最高可罰 100 萬美元,再次違規最高可罰 300 萬美元;州政府亦可對未經註冊的公司採取執法行動,但報道指發言人未有交代具體方式。紐約同時成立 AI 責任與研究中心,將獨立評估先進 AI 系統的安全、保安及運作,並與 DIGIT 一同審閱公司安全框架。

這是紐約州法律,並沒有資料顯示它直接適用於香港。不過,香港用戶及開發者常用的全球 AI 服務若受此類制度約束,日後可多一個觀察其安全治理承諾的公開窗口。下一個關鍵,是 DIGIT 公布對事故類別、透明度報告格式及註冊執法的具體指引後,這些公開資料會否足夠一致、具體和可核對。

延伸閱讀

AI 輔助說明: 本文由 AI 協助整理。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook