ChatGPT Lockdown Mode 點防 prompt injection:開咗會犧牲咩功能
Tech News

ChatGPT Lockdown Mode 點防 prompt injection:開咗會犧牲咩功能

圖片:via Engadget — https://www.engadget.com/2188537/openai-rolls-out-a-lockdown-mode-for-extra-protection-against-prompt-injection-attacks/
TechLab 編輯部(譯)·

處理敏感文件同 code repo 前,呢個安全開關值得識

OpenAI 喺 6 月 5 日開始 rollout Lockdown Mode,呢個唔係新模型,係 ChatGPT 同部分 OpenAI 產品嘅安全開關。佢針對嘅係 prompt injection:你叫 AI 讀網頁、文件、電郵時,入面可能藏咗惡意指令,誘導模型偷運資料出去。麻煩位通常唔係 AI 答錯一句咁簡單,而係 AI 讀完你嘅合約、客戶名單、repo 內容之後,透過載入圖片、開 link、連 connector 呢啲動作,將敏感內容塞落對外請求。

Lockdown Mode 會關咩

Lockdown Mode 做法好直接:收緊一堆需要連出網上或外部服務嘅功能。開咗之後,live web browsing 只可以拎 cached 內容,搜尋結果可能少咗、冇咗或者過期;ChatGPT 一般回覆唔會再拉網上圖片顯示,但你仍然可以上載圖片同用 image generation。Deep Research 同 Agent Mode 會停用;Canvas 產生嘅 code 唔可以獲批連網;ChatGPT 亦唔可以自動下載檔案做 data analysis,只可以處理你手動上載嘅文件。

OpenAI 講得好清楚:Lockdown Mode 唔會清走 prompt injection 本身。惡意指令照樣可以藏喺網頁 cache、PDF、電郵、圖片或者 repo 文件入面,模型仍然有機會畀佢帶偏,答案都可能錯。呢個開關主要係卡住最後一段:就算模型被騙,都減少佢靜雞雞發出對外連線、將資料塞入 URL 或 connector 動作嘅空間。OpenAI 喺 2026 年 1 月講過嘅 link safety,其實都係同一條思路:限制自動開未驗證 link,唔好畀 URL 變成漏資料嘅暗渠。

邊啲帳戶有得開

可用性方面要睇清楚。OpenAI help page 寫明,Lockdown Mode 正推送畀 eligible personal accounts,包括 Free、Go、Plus、Pro,同 self-serve ChatGPT Business;managed workspace 就要由 admin 用 RBAC 設定角色。設定位置係 Settings > Security > Advanced security。開咗之後,Developer Mode 會熄,之後再開 Developer Mode 又會關 Lockdown;OpenAI 亦特別寫明,呢個模式唔影響 Codex 嘅網上存取。

香港公司要留意嘅反而係官方地區問題。OpenAI 最新 ChatGPT supported countries list 入面,我搵唔到 Hong Kong;官方同時提醒,喺名單以外地區用服務或者幫人轉提供服務,帳戶可能會畀 OpenAI 封鎖或停權。所以呢篇唔會話「港區帳戶已經有得開」。如果你係用海外帳戶、外國公司 workspace,或者客戶指定嘅 OpenAI 環境,先至需要即刻檢查有冇呢個 setting;其他情況要先搞清楚合規同公司政策。

我會點用

如果你平時只係問問題、改文、整簡報,長開 Lockdown Mode 好可能只係自斷手腳;Deep Research 同 Agent Mode 冇咗,web answer 又可能過期。但如果你會畀 AI 讀客戶合約、內部電郵、財務 spreadsheet、private repo、未公開產品文件,或者你係幫 SME 管一堆 SaaS connector 嘅 IT / developer,呢個開關值得放入安全 checklist。

  • 日常聊天、公開資料 research:多數唔使長開。
  • 敏感文件、客戶資料、公司內部 repo:開咗先讀,做完再逐個 chat 關都得。
  • 需要 agent 自動開網頁、買嘢、寫入 app:先諗清楚風險,唔好同敏感 context 混埋一個 chat。

呢個功能最有價值嘅地方,係佢將「AI 安全」由抽象 prompt 技巧拉返去權限管理:邊啲資料可以入、邊啲工具可以連出、邊啲動作要人手確認。OWASP 早就將 prompt injection 放喺 LLM Top 10 第一位,OpenAI 呢次做嘅其實係產品層面補一層閘。唔好當 Lockdown Mode 係免死金牌;當佢係處理敏感資料前嘅一個低成本保護層,呢個定位就啱好多。


參考來源

本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。