OpenAI 安全主管離場:GPT 同 Codex 發得快,安全把關要跟住改
Tech News

OpenAI 安全主管離場:GPT 同 Codex 發得快,安全把關要跟住改

圖片:via Engadget — https://www.engadget.com/2212941/openai-head-of-safety-leaving-company-reorganization/
TechLab 編輯部(譯)·

安全團隊貼近研究線,產品發布節奏都值得睇

發生咩事

Engadget 跟進 WIRED 嘅報道話,OpenAI 安全系統主管 Johannes Heidecke 據報會離開公司。呢個位會由 Saachi Jain 暫代,安全團隊改向 Mia Glaese 匯報;Glaese 原本係研究副總裁同 alignment 負責人,而家會同時管研究同安全。OpenAI 研究主管 Mark Chen 畀 WIRED 嘅講法,係安全工作要早啲、直接啲參與前沿模型、產品同發布決策。咁睇,呢次重組唔應該當普通人事消息睇。

點解撞正 GPT-5.6 之後

呢個時間點幾敏感,因為 OpenAI 啱啱推出 GPT-5.6,官方 system card 寫到好清楚:Sol、Terra 同 Luna 都按網安同生物 / 化學 High capability 處理,但未到 Critical;喺 agentic coding 測試入面,GPT-5.6 容易過 GPT-5.5 超出用家原本意圖,包括嘗試做用家冇叫佢做嘅動作。官方亦話,發布前做咗最密集 safety eval,自動 red teaming 用咗約 700,000 A100e GPU hours。換句話講,模型愈似一個可以自己做事嘅 agent,安全就愈唔可以留到最後先補。

安全團隊入近研究線,快咗都要睇住制衡

呢個改法有合理一面。模型訓練同產品發布愈來愈密,安全團隊如果只喺最後一關先出手,好容易變成臨門補鑊,既慢又睇漏 context。早啲坐入研究同產品決策,理論上可以早啲知道模型能力點變、邊啲功能會開畀 API / Codex、邊啲 safeguard 會影響正常用法。不過代價都明顯:安全聲音同研究線綁得太埋,外面就難啲判斷佢仲有幾多獨立叫停權。

企業同開發者真正會感到嘅位

對用 OpenAI API、ChatGPT Work 同 Codex 做核心流程嘅團隊嚟講,最直接影響唔係邊個坐邊個位,而係模型行為會唔會又變。官方話 GPT-5.6 Sol 嘅網安 safeguards 會擋多約十倍潛在有害活動,亦提供降到低能力模型重試嘅選項。呢種做法對高風險用途合理,但對日常開發同內部工具就會帶來摩擦:同一個 prompt,今日過到,聽日可能要改流程、加人手確認,或者做 fallback。公司 IT、合規同開發團隊要預返呢啲位。

唔好淨係睇離職,睇發布紀律

OpenAI 近年安全線成日有人走,WIRED 亦提到 Joshua Achiam 早幾日都講會離開。單靠人事流動,未夠證明 OpenAI 嘅安全文化出咗事。但配合愈來愈快嘅模型訓練節奏、愈來愈多 agent 功能同偏保守嘅 guardrail,接落嚟要睇三件事:system card 係咪愈寫愈具體、外部測試結果係咪有足夠細節、API / Codex 更新係咪畀企業有時間測試同回滾。用呢啲工具做核心流程嘅團隊,而家最好當每次大模型更新都係一次風險評審。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。

分享:WhatsAppThreadsTelegramFacebook