美國 AI 網安新命令:30 日自願審查會拖慢新模型推出?
Tech News

美國 AI 網安新命令:30 日自願審查會拖慢新模型推出?

圖片:via Engadget — https://www.engadget.com/2185845/trump-signs-scaled-back-ai-cybersecurity-order/
TechLab 編輯部(譯)·

香港公司未必直接受管,但會食到發布節奏變化

美國 AI 網安新命令:30 日自願審查會拖慢新模型推出?

圖:Engadget.原文連結

美國總統 Trump 6 月 2 日簽署新一份 AI 網安行政命令,表面睇係美國政府內部同 frontier model 公司之間嘅安排,香港公司唔會因為呢份命令突然多咗一條本地法例要跟。不過,香港開發者、金融機構、SaaS team 同企業 IT/security team 日常用嘅 AI API、雲端模型、程式碼 agent,好多都係美國公司供應。問題唔係香港會唔會被美國直接規管,而係新模型推出前會唔會多咗一個安全閘口,令香港用家遲啲先用到最強版本,或者只用到經過更多限制嘅版本。

呢份命令最值得留意嘅位係:它唔係恢復一套強制 AI 發牌制度。白宮文本寫明,相關安排唔可以被解讀成為新模型開發、公布、推出或分發設立強制 licensing、preclearance 或 permit 要求。換句話講,AI 公司理論上仍然可以自行決定產品節奏。真正新嘅地方,是美國政府要建立一套自願框架,讓開發商喺某啲最強模型推出前,俾政府最多 30 日 access 做網安能力評估。

30 日唔係發牌,但係會改變節奏

白宮用嘅關鍵詞係 covered frontier model。命令要求財政、國防/情報、國土安全、NIST 等部門喺 60 日內建立一套保密 benchmark,用嚟判斷一個 AI model 嘅網安能力去到咩程度,就應該被視為 covered frontier model。AI 開發商可以同政府溝通自己開發緊嘅 model 係咪踩中門檻;如果踩中,就可以喺計劃向其他 trusted partners 開放之前,俾美國政府最多 30 日使用權,配合保密、知識產權、內部人風險同網安要求。

所以,嚴格講,呢 30 日唔等於「公開推出前必須等政府批」。但實際產品管理上,分別未必咁大。大型 AI 公司推出 frontier model 通常唔係一日全球全開,而係先俾內部 red team、政府或大客戶、少數企業 partner,再逐步開 API、app 同消費者版。如果美國政府變成其中一個制度化早期節點,最強模型嘅公開版本、香港企業 tenant 可用版本、甚至某些 coding agent 功能,都可能會跟住呢個審查節奏調整。

呢亦解釋點解今次命令被形容為 scaled-back。Axios、Politico 同 Engadget 都報道,較早草案曾經討論過最高 90 日嘅預先 review,而科技業界有人希望縮短到 14 日;最後簽出嚟係最多 30 日,而且係自願框架。美國政府明顯想處理 AI 網安風險,但又唔想俾外界解讀成阻慢美國模型公司同中國或其他對手競爭。呢種折衷對香港嘅意思係:短期未必見到 ChatGPT、Claude、Gemini 類服務突然停更,但高風險能力會更常被分層推出。

漏洞通報先係主菜

今次命令另一個主軸係關鍵基建漏洞。白宮要求 30 日內成立 AI cybersecurity clearinghouse,由財政部聯同 NSA、CISA 同白宮國家網安主管等單位,跟 AI 行業同關鍵基建營運者自願合作,協調用 AI 掃描軟件漏洞、驗證漏洞、排序修補、分發 patch。命令列明嘅受惠對象包括銀行、地方公用事業、醫院等美國關鍵服務,重點係喺強模型全面外流之前,先俾防守方有時間補洞。

呢個設計背後嘅壓力,係 AI 已經唔止幫人寫釣魚電郵或者改程式碼。Anthropic 今年 4 月公開 Claude Mythos Preview 相關資料,將模型限制喺少數網安 partner 使用,原因正正係它對漏洞發現同 exploit 建構能力太敏感。Anthropic 之後亦披露 Project Glasswing 嘅漏洞通報進度,指合作方用 Mythos Preview 發現大量高危或嚴重漏洞。無論外界點評估其宣傳成分,政策圈已經開始將 frontier model 當成「可加速漏洞生命周期」嘅工具,而唔再只係聊天機械人。

對企業 security team 嚟講,呢個轉變比 30 日數字更重要。過去大家問 AI 供應商,通常係 data retention、訓練用途、ISO/SOC2、地區儲存。之後要問多一層:如果模型有能力大規模搵漏洞,供應商點處理未公開 CVE?如果模型幫你寫咗 exploit-like 測試碼,log、權限同審批點樣留痕?如果美國政府或 trusted partner 早過你知道某類漏洞,patch 同 disclosure 會唔會有地域或客戶級別差異?呢啲先係香港公司會實際碰到嘅採購問題。

AI agent 變成執法焦點

行政命令亦特別點名 AI agent。美國司法部要優先執法,針對用 AI 非法存取或破壞電腦、或者用 AI agent 非法取得資料再用於犯罪嘅行為。呢段寫法好直接:問題唔止係人用 AI 寫惡意程式,而係 agent 本身可以持續操作工具、登入系統、搬資料、呼叫 API,令傳統「一個人按一下」嘅責任鏈變得模糊。

呢點同 4 月底 NSA、CISA 及五眼伙伴發表嘅 agentic AI 安全指引互相呼應。該指引叫機構小心採用 agentic AI services,因為 agent 會引入權限提升、設定錯誤、行為偏離、audit 困難等風險。放返香港企業環境,最危險嘅唔一定係員工問 AI 寫 email,而係將 AI agent 接駁 Jira、GitHub、CRM、內部文件庫、甚至 production cloud account,之後又冇清楚身份、最小權限、人工覆核同可逆操作。

香港冇同類模型預審,但有自己嘅網安框架

香港方面,唔可以講成完全冇 AI 或網安規管。保護關鍵基礎設施(電腦系統)條例已於 2026 年 1 月 1 日生效,專員辦亦已發出通用 Code of Practice,要求指定關鍵基建營運者做好電腦系統安全、事故應對同復原。本地金融圈亦有金管局聯同其他監管機構推 GenA.I. Sandbox++,讓金融機構喺受控環境測試生成式 AI;私隱專員公署亦有 AI 個人資料保障框架,協助機構採購、導入同使用 AI 時符合私隱要求。

但呢啲本地機制同美國新命令唔係同一類。香港現時重點係營運者責任、個人資料、金融服務採用同風險控制,未見一套針對 frontier model 開發商、要求模型公開前俾政府保密 benchmark 嘅本地程序。呢個差異對本地採購好關鍵:香港公司未必需要按照美國 30 日 review 報告交功課,但如果供應商係美國 AI 公司,產品 road map、early access、企業版功能、model card、漏洞 disclosure,同安全限制,仍然可能由美國制度先行定調。

本地 IT team 要問嘅唔止價錢

短期要做嘅唔係驚 AI 工具全部遲到,而係將供應商風險問清楚。尤其銀行、保險、醫療、物流、公用事業供應鏈、託管服務商,同有大量客戶資料嘅 SaaS 公司,採購 AI 工具時可以將以下問題放入 security review:

  • 供應商嘅最新模型會唔會屬於 covered frontier model,如果會,香港 tenant 會否遲過美國 trusted partners 取得完整功能?
  • 如果模型發現或生成漏洞相關內容,供應商有冇清晰 disclosure、patch、客戶通知同濫用處理流程?
  • AI agent 可唔可以做到獨立身份、最小權限、短期 credential、完整 audit log 同人工 approval?
  • 企業版模型限制、安全 filter、資料保存政策,會唔會因為美國政府 review 或合約要求而改變?
  • 如果使用場景牽涉關鍵服務或受監管資料,本地法規、客戶合約同海外供應商條款之間邊個先行?

總結嚟講,美國呢份行政命令未必會即時令新 AI model 慢一個月推出,但會令最強模型嘅推出更似「分階段安全部署」,而唔係一次過全球放閘。香港嘅直接法律影響有限,真正影響會喺供應鏈同產品節奏入面出現:邊啲客戶先試到,邊啲功能要等安全評估,邊啲 agent 權限會被收緊。當 frontier model 開始被政府視為網安能力,而唔只係生產力工具,香港公司用 AI 嘅問題亦要由「好唔好用」升級到「出事時點樣追、點樣補、點樣停」。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook