Fable 5、Mythos 5 突然停用:用 AI API 唔好綁死一個模型
Tech News

Fable 5、Mythos 5 突然停用:用 AI API 唔好綁死一個模型

圖片:via Engadget — https://www.engadget.com/2193656/anthropic-blocks-access-fable-5-mythos-5/
TechLab 編輯部(譯)·

政府理據未講清,開發者要先處理 fallback

先講清楚發生咩事

Anthropic 喺 6 月 12 日傍晚收到美國政府以國家安全同 export control 為名嘅指令,要停外籍人士接觸 Fable 5 同 Mythos 5。問題係實際合規好難只封一批人,所以 Anthropic 直接對所有客戶停用呢兩個模型;Claude 其他模型暫時冇受影響。美國政府暫時冇公開完整技術理據,Anthropic 只係話自己理解同一個 Fable 5 jailbreak 方法有關。

由蝴蝶組成嘅數字 5,係 Anthropic 配合 Claude Fable 5 同 Mythos 5 發布嘅官方圖

圖片:Anthropic

Fable 5 推出時本身已經好保守

Fable 5 係 6 月 9 日先推出,定位係可以畀一般用家同開發者用嘅 Mythos-class 模型;Mythos 5 則係同一底層模型、放寬部分安全限制,主要畀 Project Glasswing 同可信計劃入面嘅 cyber 防守團隊。Anthropic 原本已經將 cyber、生物、化學、distillation 等敏感請求交畀分類器處理,觸發時會 fallback 去 Opus 4.8,佢自己話平均少過 5% session 會中招。

問題係,安全閘門對實際 workflow 好煩。TechCrunch 引述一批安全研究員投訴,連 code review、讀安全 blog、寫安全程式碼呢類正常工作,都可能被當成高風險查詢,結果由 Fable 5 轉去 Opus 4.8。換句話講,Fable 5 上線幾日已經同 developer 期待有磨擦;今次再突然停用,就由模型表現飄忽,升級成供應鏈整段斷開。

Anthropic 發布頁入面展示 Fable 5 cyber 評估結果嘅官方圖表

圖片:Anthropic

對開發者最痛係 model ID 會忽然失效

如果你只係喺 Claude app 試玩,影響可能係預設模型被換走。但如果你係用 Claude API,或者經 Bedrock、Vertex AI、Microsoft Foundry 類雲端渠道接入 Claude,風險就實際好多:coding agent 可能卡住,RAG pipeline 可能退返低一級模型,自動化測試、客戶支援、文件分析都可能因為輸出質素同 latency 轉變而出事。更麻煩係,有啲公司會將模型行為寫死入 prompt、評分器同 SLA,模型一換,整套假設都要重跑。

唔好將單一模型當基建

今次最值得記住嘅係,AI API 已經唔似普通 SaaS endpoint 咁穩定。模型可以因為政策、合規、資料保留條款、capacity、甚至供應商風險判斷而改變。實務上,產品應該有三層 fallback:同廠低一級模型、跨供應商模型、同埋非 AI 或人工審批流程。每次 fallback 都要記錄:邊個模型、幾多 token、延遲幾多、答案評分點變,否則你只係知道有回覆,唔知道質素已經跌咗。

香港團隊尤其容易低估呢點,因為好多 startup 同企業 IT 係經雲端 marketplace、consultant 或 SaaS wrapper 用 Claude,未必直接睇 Anthropic 控制台公告。Claude Help Center 今次亦明講,Mythos-class 模型嘅 30 日資料保留政策會影響有 zero data retention 設定嘅組織,當中包括經 AWS Bedrock、Google Vertex AI、Microsoft Foundry 接入嘅情況。官方話呢批資料用嚟做 trust and safety,唔會用嚟訓練新 Claude 模型;即使咁,合約、私隱評估同 incident response 都要即刻更新。

我點睇

政府今次未公開完整理據,所以唔應該將 jailbreak 傳聞寫成定論;同時,Anthropic 都唔應該只用安全兩個字就當解釋晒。對用家而言,最實際嘅做法係即刻盤點所有 claude-fable-5claude-mythos-5 同相關 alias:有冇硬編碼、有冇 fallback 測試、有冇客戶告知模板、有冇將 30 日資料保留寫入 DPIA 或 vendor risk review。Fable 5 可能好快回歸,都可能以另一套限制重開;無論點,單靠一個最強模型推產品,風險已經太高。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。