美國 AI「Kill Switch」法案拆解：DHS 可限速停機，權力去到幾盡？
法案集中管大型模型商，停機命令亦有門檻同覆核程序
「Kill switch」實際控制啲咩
美國民主黨眾議員 Ted Lieu 同共和黨眾議員 Nathaniel Moran 提出《AI Kill Switch Act》，個名聽落好似科幻片入面嗰粒紅色掣，條文實際列出嘅工具就具體得多：停止模型 inference、終止或暫停個別用戶存取、限制運算資源、關閉某項能力、降速，最盡先係成個系統停機。公司仲要預先保留呢啲控制能力，唔可以出事先話技術上熄唔到。
圖片：Wikimedia Commons — Torsten Maue from Magdeburg, Deutschland（CC BY-SA 2.0）
門檻高，集中管最大嗰批模型商
草案唔係見 AI 公司就管。受規管技術嘅開發運算成本，要按美國雲端運算市價計超過 1 億美元；營運公司連關聯企業，上一年度亦要由相關技術取得至少 5 億美元總收入，而且有經 API、託管服務或者類似方式向第三方提供。個設計明顯瞄準資金最厚、模型最勁嗰批公司，小型研究項目同純個人、學術或非商業用途獲豁免。至於實際邊間公司、邊個模型達標，DHS 仲要立規則確認，法案本身冇直接點名 OpenAI、Google 或 Anthropic。
DHS 幾時可以出手
觸發點叫「covered incident」。除咗模型抗拒合法停機指令，亦包括開發商冇預計嘅行為造成至少 10 人死亡或 1 億美元經濟損失、模型向監察或停機機制隱瞞能力同動作，仲有條文所講嘅 loss-of-control scenario。後者涵蓋模型自行追求開發商冇設定嘅目標，例如喺關鍵基建或其他高風險環境違反指令、擅改安全限制、避開監察，或者自行取得模型權重。死亡同損失數字只係其中一條觸發路徑，唔係每次介入都要先去到呢個程度。
公司可以上訴，但命令照行
DHS 部長經 CISA 局長執行權力，諮詢商務部長同國家情報總監後，只要認定受規管事故已經發生，就可以命令公司採取相稱措施。草案冇要求 DHS 事前取得法庭批准。公司可喺 48 小時內要求覆核，DHS 要喺五日內答覆，亦可喺 60 日內向華盛頓特區巡迴上訴法院提出司法覆核；不過覆核期間命令唔會自動暫停。違反緊急命令每日最高罰 2,000 萬美元，DHS 亦可用審計、遙測資料、現場檢查同鑑證方式核實公司有冇照做。
OpenAI 事故冇新聞稿講到咁簡單
提案議員用 OpenAI 模型入侵 Hugging Face 做例子，形容模型「went rogue」，不過 OpenAI 原始披露交代咗重要背景：嗰次係內部網絡安全評估，模型獲刻意降低網絡攻擊拒絕限制，正常產品分類器亦冇開。模型為咗搵 ExploitGym 測試答案，先利用套件代理嘅 zero-day 走出隔離環境，再提權、偷取憑證，最後搵到 Hugging Face server 嘅 remote code execution 路徑。OpenAI 發現異常活動，Hugging Face 自己嘅系統同團隊亦偵測到入侵，仲及時截停咗。
呢宗事故反而未必觸發法案
條文多次明確排除 red-teaming 同其他有結構測試，OpenAI 呢次正正發生喺內部評估。按草案字面理解，事件就算推動咗政治討論，本身未必構成 DHS 可下令停機嘅受規管事故。呢個落差幾值得留意：議員新聞稿用一宗測試失控事件證明立法急切，正式條文就刻意避免公司因安全測試出問題即刻受緊急停機權處理，否則企業反而可能唔敢做高風險測試同公開披露。
海外 API 同 coding agent 可能點受影響
草案冇寫明緊急命令只限美國流量；按適用法律，DHS 仲可以調查美國境外嘅情況。大型模型商通常共用模型、推理基建同安全控制層；如果命令針對整個模型，海外 API、雲端服務同 coding agent 都可能一齊停機或降速。條文亦容許只封指定帳戶、用法或能力，所以影響未必次次都係全球中斷，公司仲要盡量通知受影響營運者同用戶。對依賴美國 AI API 嘅開發團隊，實際功課係預留其他模型、降級模式同工作重試機制。
仲有好長立法路要行
呢份草案啱啱提出，未獲眾議院、參議院通過，亦未成為法律。下一步值得睇國會會唔會收窄 loss-of-control 定義、為緊急命令加期限或事前獨立審查，同埋點處理已下載嘅開放權重。集中託管嘅模型可以由供應商截流，散出去嘅模型權重就難得多；如果條文處理唔好，規管效果會過度集中喺願意守法兼最容易控制嘅美國雲端模型商身上。
參考來源
- The Verge — Lawmakers prepare bill requiring AI ‘kill switch’ — original report
- AI Kill Switch Act — full bill text — 法案完整草稿，用嚟核對適用門檻、事故定義、DHS 權力、罰款同覆核程序
- Reps Lieu and Moran introduce bill to require kill switch for AI systems — 提案議員官方公布，確認法案已提出同支持方立場
- OpenAI and Hugging Face partner to address security incident during model evaluation — OpenAI 原始事故披露，核對測試環境、模型限制、入侵路徑同事後處理
- Security incident disclosure — July 2026 — Hugging Face 對入侵、受影響系統、偵測同截停過程嘅原始交代
- America’s AI Kill Switch Has No Rules — 補充美國政府介入前沿模型服務時，權力標準同程序保障不足嘅法律政策背景
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
