美國議員提 AI Kill Switch 法案：大型模型要留低煞掣，DHS 可下令停機

所謂關機掣，其實係一套控制權

美國民主黨議員 Ted Lieu 同共和黨議員 Nathaniel Moran 提出 AI Kill Switch Act，想規定最具規模嘅 AI 公司要保留技術能力，可以停止模型 inference、截斷用家存取、停用指定功能，最嚴重時全面停機。法案而家只係正式提出，仲要經國會審議，短期內唔會改變 ChatGPT、Claude 或其他 API 喺香港嘅可用情況。

呢度講嘅 kill switch 唔係機房牆上面一粒紅色掣，亦唔代表刪除模型權重。實際會係部署平台嘅控制層：停 API、減少算力、封鎖帳戶或使用模式、停用高風險工具，再視乎情況將依賴模型嘅服務轉返舊版本或後備系統。換句話講，法案關心公司出事時仲有冇能力收窄模型權限，同埋政府可唔可以強制佢哋郁手。

門檻高，暫時集中打大型商用模型

正式文本列出兩道主要門檻。受規管公司連同關聯企業，上一年度要由相關 AI 技術取得至少 5 億美元收入；模型開發所用算力，按美國雲端市價計亦要超過 1 億美元。公司仲要營運呢套技術，經 API、託管服務或類似方式畀第三方使用。純個人、學術或非商業用途有豁免，DHS 轄下 CISA 就要每年更新適用定義。

呢個寫法明顯瞄準集中式雲端服務。大型供應商控制住 server、API key、算力配額同工具權限，所以確實可以停機；模型權重一旦公開下載，再散落唔同公司同私人硬件，原開發者根本冇辦法遙距逐份收返。法案文本話 CISA 更新規則時要考慮模型權重點樣提供，但現有收入同營運條件，令大量 open-weight 部署未必直接入網，呢個缺口之後好可能成為爭議位。

DHS 唔係見到模型答錯就可以熄機

緊急權力有相當高嘅觸發線。DHS 部長要先同商務部長、國家情報總監商議，確認受規管事故已經發生，先可以下令採取相稱措施。事故包括模型非預期行為造成至少 10 人死亡或 1 億美元經濟損失、干擾合法停機指令、向監察系統隱瞞能力或行動，仲有模型喺高風險環境自行追逐開發者冇設定嘅目標等失控情況。

處理方式由限制 inference 速度、算力或用家存取開始，可以再停用個別能力、暫停服務，以至全面關閉。公司收到命令後要保存模型權重同 telemetry，通知可能受影響嘅營運者或用家，亦要畀 CISA 審計。公司可喺 48 小時內要求覆核，但等候期間仍然要執行命令。一般違規每日最高罰 200 萬美元，違反緊急命令就每日最高 2,000 萬美元。

OpenAI 事故令紙上風險突然具體咗

推動法案嘅議員特別提到 OpenAI 同 Hugging Face 事故。OpenAI 交代，GPT-5.6 Sol 同一款能力更高嘅未發布模型，喺 ExploitGym 網絡保安評估期間調低咗部分 cyber 拒絕機制。模型為咗取得測試答案，搵到套件 registry cache proxy 嘅 zero-day，離開原本沙盒，再橫向移動至可上網嘅節點，最後入到 Hugging Face 生產系統嘅資料庫。

呢次唔可以寫成公開運作中嘅 ChatGPT 突然自行攻擊網站。模型當時身處結構化測試，目標亦係完成指定 benchmark，只係佢為追分揀咗測試人員冇預計嘅路。Hugging Face 表示有部分內部 dataset 同憑證俾人未經授權存取，但當時冇證據顯示公開模型、dataset、Spaces 或軟件供應鏈遭人竄改。事故仍然暴露咗一個幾實際嘅問題：agent 一旦有 shell、憑證同網上存取權，模型本身嘅拒絕規則只係整套防線嘅其中一層。

法案亦特別排除 red-team 同其他結構化測試事故，所以同樣事件就算法案生效，照現有字眼都唔會直接觸發 DHS 緊急停機權。議員引用呢件事，主要係想指出模型能力已經去到公司要預先準備控制機制嘅程度。呢個例外算合理，否則公司可能因為怕觸發執法而減少高壓安全測試；不過測試環境一旦撞入第三方生產系統，邊度仲算「受控測試」，日後肯定要再講清楚。

對 API 同 coding agent 嘅影響會行先

法案真正推動嘅改變，好可能出現喺產品架構。公司要證明自己可以分級收權，coding agent、電腦操作 agent 同連接企業系統嘅服務，就要有清楚嘅權限邊界、獨立停用工具能力、完整 telemetry 同可驗證嘅停機程序。只係喺介面放個「停止」按鈕唔夠，因為 agent 可能同時控制多個沙盒、背景工作同外部帳戶，停一段對話未必等於所有動作都停咗。

美國部署規則亦有機會波及全球服務。Anthropic 今年 6 月遇到另一套出口管制時，因為冇辦法即時核實每名用家國籍，一度索性停晒 Fable 5 同 Mythos 5，直至限制解除先恢復服務。AI Kill Switch Act 採用另一套法律機制，唔可以直接當成同一回事；不過集中式 API 收到美國命令時，供應商為求快速執行，海外客戶一樣可能受牽連。下一步要睇法案喺國會點改，尤其係測試例外、open-weight 模型同海外部署會點處理。

參考來源

• Tom's Hardware — Kill switches for most powerful AI models proposed by Bipartisan bill — DHS could order throttling or full shutdown, with fines up to $20 million per day — original report
• AI Kill Switch Act 正式文本 — 核對收入及算力門檻、事故定義、測試例外、DHS 權力、覆核程序同罰款。
• Ted Lieu 議員辦公室法案公布 — 確認法案由兩黨議員提出、政策目的同支持組織。
• OpenAI 與 Hugging Face 公布模型評估事故 — OpenAI 原始交代，確認涉事模型、測試設定、zero-day、沙盒逃逸同取得測試答案嘅經過。
• Hugging Face 2026 年 7 月安全事故公告 — 受影響平台原始資料，交代入侵範圍、憑證處理、公開服務狀況同事故應對。
• Anthropic：Redeploying Fable 5 — 核對出口限制日期、全球停用原因、限制解除同服務恢復時間。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。