Claude 高階網安 model 被迫停用，AI coding 工作流要有後備
Fable 5 / Mythos 5 事件唔止係 jailbreak 爭議，仲係雲端 AI 依賴風險。
發生咩事
Anthropic 喺 6 月 12 日收到美國政府指令，要求暫停任何非美國籍人士接觸 Fable 5 同 Mythos 5，包括喺美國境內嘅非美國籍員工。信件未公開，Anthropic 話信入面冇列明具體國安憂慮；公司理解可能同 Fable 5 一個窄範圍 guardrail bypass 有關。為咗合規，Anthropic 最後暫停兩個 model 畀所有客戶用，其他 Anthropic model 就冇受影響。
Fable 5 係 Anthropic 6 月 9 日推出嘅公開版 Mythos-class model，強項包括軟件工程、知識工作、視覺同科研。Mythos 5 用同一底層 model，但部分 guardrail 放鬆，只畀小量 cyberdefenders 同基建供應商，經 Project Glasswing 同美國政府合作部署。Anthropic 自己都承認，呢類 model 如果冇 safeguard，網安能力可以被濫用；所以 Fable 5 有保守 guardrail，部分敏感 prompt 會降到 Opus 4.8 回應。
圖片：Anthropic
網安界點解咁大反應
爭議位係：美國政府到而家仍未完整交代理由，外界只見到 Anthropic 估計同一份未公開研究有關。Luta Security 創辦人 Katie Moussouris 話，佢睇過相關研究，示範大致係叫 model 讀一個 codebase，修補已知或刻意放入嘅漏洞。佢嘅批評好直接：如果你禁止 AI 幫手 find / fix / test，防守者最有用嗰段 workflow 就會被削弱。呢點正正係網安界火大嘅原因。
FreeFable 公開信講得比較實際：如果政府要管 frontier model，規矩要有公開、科學、可追蹤程序，唔可以靠一封未公開信就令全球客戶失去工具。呢個要求合理，因為 code review、漏洞 triage、patch 驗證本身都係攻防兩用；同一套能力可以搵洞，同時可以補洞。將防守工具抽走，未必會令攻擊者慢落嚟，但肯定會令守方少一件好用工具。
對 developer 同企業 IT 嘅啟示
對用 Claude / Anthropic API 做 AI coding 或 security workflow 嘅 team，啟示好實在：雲端 model 唔只受價錢、token、rate limit 影響，仲會受政治同出口管制影響。香港嘅 developer、資安顧問、企業 IT 如果將 code review、SOC 輔助、漏洞分析包到某一個 model 入面，要當成供應鏈風險處理：抽象化 model provider、保留第二個 model provider、將 prompt / template / eval 留喺自己手上，重要流程要有 fallback。今次就係一晚之間由可用變停用。
我睇今次最麻煩嘅位，係程序同比例。官方理由未公開，技術證據未公開，Anthropic 同多位網安專家都話問題屬窄範圍，而且其他 model 都做到類似能力，結果就係兩個高階 model 全面停用。當企業開始將 AI 放入開發同防守流水線，model policy 就變成 production dependency。選型時唔好淨係問邊個 benchmark 勁，仲要問：如果聽朝 API 403，你有冇 Plan B？
參考來源
- TechCrunch — The US government’s Anthropic models ban was never about an AI jailbreak — original report
- Statement on the US government directive to suspend access to Fable 5 and Mythos 5 — Anthropic 官方聲明，確認指令內容、公司點解要停用、同佢對 jailbreak 理由嘅回應。
- Claude Fable 5 and Claude Mythos 5 — 產品背景，交代 Fable 5 / Mythos 5 嘅定位、safeguard 同 Mythos access 設計。
- Open Letter on Transparent AI Cyber Protections — 網安專家公開信，反映防守者點解反對下架同要求透明程序。
- The Fable 5 Export Controls Harm US Cyber Defense — Katie Moussouris 技術批評，解釋 fix code 點解唔應該被當成要下架嘅 jailbreak。
- Anthropic's Mythos Recall and the White House's Missing AI Safety Playbook — 政策背景，分析美國 AI 工具作為 critical workflow 供應商嘅信任風險。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
