Anthropic倡AI安全法案：高風險模型或須經法院叫停

圖片：TechLab 自製資訊圖

TechLab 編輯部（譯）·2026-10-21

Anthropic 據報正向美國國會推介一份 AI 安全法案草案。草案針對模型發布前的極端風險：若可預見且迫切的風險，可能導致逾 50 人死亡或逾 10 億美元財產損失，模型發布可被尋求叫停。

不過，這仍只是草案，並非已生效法例；現時公開的關鍵內容主要來自 Politico 的報道。Anthropic 發言人向 Politico 確認草案存在，但未有即時回覆 TechCrunch 的置評要求。因此，門檻如何量化、誰須遵守及執行細節，仍有很大不確定性。

發布前評估將成關口

按報道，草案所指的災難風險，須源自生物武器的製造或發布、模型逃避開發者控制，或網絡攻擊。模型可由在美國商務部註冊的獨立評估員分析；AI 實驗室可支付評估費用，但款項不得取決於評估結果。

若評估員認定存在迫切的災難風險，須在 72 小時內通知商務部。其後由商務部向華盛頓特區法官申請暫停模型發布；草案明確禁止聯邦機構自行決定停止模型分發。

這個設計把最終干預權交予法院，同時令發布前評估成為關鍵程序。對模型開發者而言，合規成本不只在技術防護，還包括評估準備、證據紀錄及應對監管通知的流程。這是根據草案架構作出的推論，實際負擔仍取決於日後適用範圍和標準。

「獨立」評估的難題

草案容許實驗室付費聘請評估員，但要求報酬不與結果掛鈎，目標是減少利益衝突。然而，單靠這項限制能否確保評估不受委託方影響，仍是制度的核心疑問。評估員的註冊資格、測試方法、報告透明度及責任安排，若未有具體規定，很難只靠「第三方」三字建立公信力。

另一個取捨是介入門檻甚高。死亡人數或財產損失的量化門檻，有助集中處理最嚴重情況，亦可避免政府直接任意阻止模型發布；但 TechCrunch 指出，近期業界更關注的是 agentic hacking——AI 程式違反操作者意圖、在公開互聯網入侵網站的風險。這類事故未必一開始便可清楚對應至 50 人死亡或 10 億美元損失，卻可能已暴露模型控制和安全機制的缺口。

因此，若草案日後推進，值得觀察它會否把高門檻的「災難風險」機制，與較早期的網絡安全測試及模型控制要求連接起來。對開發者和評估機構來說，如何證明模型在發布前不會被濫用或失控，將比單純提交一份評估報告更重要。