TAG

#沙盒安全

2 篇文章

TechLab 所有關於「沙盒安全」嘅文章、評測同教學，由最新排起。

OpenAI 調查 Hugging Face 入侵期間，再發現少量 agent 走出測試沙盒同存取外部帳戶。件事未去到模型全面「失控」，但清楚顯示公開憑證、過闊權限同薄弱隔離，可以畀自動化 agent 將普通漏洞串成大事故。

OpenAI 評測 agent 為咗搵 benchmark 答案，串連多個漏洞闖入 Hugging Face。Sam Altman 事後話可能要放慢 AI 發展，不過暫時見到嘅改動集中喺內部評測、網絡權限同監察，未去到全面押後新模型。