Claude Fable 5 被出口管制:用 AI agent 要預咗斷供
Tech News

Claude Fable 5 被出口管制:用 AI agent 要預咗斷供

圖片:via The Verge — https://www.theverge.com/ai-artificial-intelligence/949601/amazon-anthropic-fablemythos-government-ban
TechLab 編輯部(譯)·

Amazon 研究觸發白宮行動嘅報道,只係成件事嘅表面

發生咩事

Anthropic 喺 6 月 12 日收到美國政府出口管制 directive,要求 Fable 5 同 Mythos 5 停止畀任何 foreign national 用,範圍連身處美國嘅非美籍員工都包。公司話為咗合規,結果要直接停用兩個模型俾所有客戶;其他 Claude 模型暫時唔受影響。呢個唔係普通 service outage,係模型層面畀人抽走。

The Verge 引述 WSJ 報道,事件部分由 Amazon 嘅 security research,加上 CEO Andy Jassy 同白宮溝通觸發。報道話 Amazon 研究人員用一連串 prompts,令 Fable 5 交出可用於 cyberattack 嘅資料;Amazon 未有公開回應。重點係,嗰份 paper 同完整政府指令都未公開,所以技術細節只可以當報道引述,唔好讀成已公開定論。

由多隻蝴蝶排成數字 5 嘅 Claude Fable 5 / Mythos 5 官方主視覺

圖片:Anthropic

點解 Fable 5 咁敏感

Fable 5 先喺 6 月 9 日推出,定位係 Mythos-class 但加咗 safety classifiers,可以做長時間 coding agent、知識工作同 vision 任務;Mythos 5 則係同底層模型但少咗部分限制,原本只畀 Glasswing 等受審批客戶。Anthropic 自己都承認呢類模型有雙用途風險,特別係網安同生物化學,所以 Fable 5 遇到敏感 request 會 fallback 去 Opus 4.8。

Anthropic 對「jailbreak」講法好唔服氣。佢話政府只提供口頭證據,自己見到嘅係 narrow、non-universal bypass,相關能力其他公開模型,包括 GPT-5.5,都做到類似水平。安全研究圈都有聲音認為件事唔應該簡化成「模型被破解」。但企業用家要睇嘅係結果:政府一封信,API route、雲端上架同內部員工權限都可以一晚改晒。

Anthropic 官方 benchmark 表,將 Claude Fable 5 / Mythos 5 同其他模型比較

圖片:Anthropic

對開發者同公司 IT 嘅實際影響

如果你嘅 workflow 已經綁死 Claude Fable 5,例如用 Claude Code、Bedrock、Vertex AI、Microsoft Foundry 或自家 agent pipeline,最大風險唔係 prompt 要改幾句,而係 model ID 突然用唔到。AWS 已更新公告,話 Fable 5 / Mythos 5 喺 Bedrock access unavailable,其他模型如 Opus 4.8 可照用。換句話講,fallback 唔可以只係產品文案,production code 要真係有第二條路。

仲有合規問題。Fable 5 / Mythos-class 模型本身要求 30 日資料保留,對原本用 zero data retention 嘅團隊已經係一個評估位;AWS blog 亦寫明啟用相關資料分享後,資料會離開 AWS security boundary。香港團隊如果係經雲端供應商買模型,採購 checklist 要多一項:模型供應商、雲端平台同美國出口管制,邊個先係最終「kill switch」。

我點睇

呢件事暫時唔適合寫成 Amazon 打 Anthropic,或者白宮針對邊間公司;證據未夠,公開資料亦唔完整。比較實際嘅睇法係,frontier model 已經唔似一般 SaaS 功能,佢同晶片、雲端、國安規則綁到好實。做 AI agent 嘅團隊要將模型當成可替換供應,而唔係當成固定地基:抽象 layer、定期跑 regression、記錄各模型能力差距,同埋預先定好 downgrade 後邊啲功能要關。今次係 Claude,下一次可以係任何一個最強模型。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook