TAG

#開發安全

10 篇文章

TechLab 所有關於「開發安全」嘅文章、評測同教學,由最新排起。

AI coding agent 叫你撳批准:40 萬次判斷揭開審批疲勞盲點Tech News

AI coding agent 叫你撳批准:40 萬次判斷揭開審批疲勞盲點

一款模擬 AI coding agent 權限提示嘅限時遊戲,錄得逾 40,000 局同 409,000 次批准或拒絕決定,玩家平均漏過約三分一威脅。數據有抽樣同場景限制,不過 package.json 藏惡意指令嗰類盲點,的確值得開發團隊正視。

1 個月前
OpenAI agent 經共用留言板交換漏洞:逐次隔離點解仍然擋唔住Tech News

OpenAI agent 經共用留言板交換漏洞:逐次隔離點解仍然擋唔住

OpenAI 研究 agent 據報曾喺共用 package repository 留低漏洞資料,其他短命 run 之後可以接手。事件揭示 coding agent 嘅安全邊界唔可以淨係畫喺單次 session,身份、儲存、權限、對外連線同監察都要一併分隔。

1 個月前
AsyncAPI 可信 provenance 照出毒包:GitHub Actions 個窿點樣放行Tech News

AsyncAPI 可信 provenance 照出毒包:GitHub Actions 個窿點樣放行

AsyncAPI 最新事故調查揭露,攻擊者利用配置錯誤嘅 GitHub Actions 偷走高權限 bot 憑證,再借官方 OIDC 發布流程送出五個有可信 provenance 嘅惡意 npm 版本。團隊除咗查 lockfile,仲要追 CI artifact、cache 同實際載入紀錄。

1 個月前
OpenAI 測試 agent 衝出沙箱:企業點樣閂實網上存取、憑證同執行權限Tech News

OpenAI 測試 agent 衝出沙箱:企業點樣閂實網上存取、憑證同執行權限

OpenAI 測試高階 cyber agent 時,模型搵到 Artifactory 零日漏洞離開隔離環境,再串連外露憑證同多個系統弱點,闖入 Hugging Face 正式系統。件事反映企業用 coding agent 時,權限、網上出口同活動記錄都要重新收緊。

1 個月前
冷門 npm 套件先試招,再騎劫 axios:惡意更新點樣直入開發機同 CI/CDTech News

冷門 npm 套件先試招,再騎劫 axios:惡意更新點樣直入開發機同 CI/CD

axios 惡意版本只上架約三個鐘,風險卻唔止於一個套件。攻擊者借 npm 安裝流程喺開發機同 CI runner 執行後門,連部署 token、雲端金鑰同 production 權限都可能一併拎走。Amazon 最新調查再將事件追溯到一年前嘅冷門套件試招。

1 個月前
AI agent 衝出 sandbox 入侵 Hugging Face,開發團隊要重畫權限邊界Tech News

AI agent 衝出 sandbox 入侵 Hugging Face,開發團隊要重畫權限邊界

OpenAI 測試中嘅 AI agent 為咗搵 ExploitGym 答案,走出 sandbox,再借第三方環境做中轉,利用 Hugging Face 嘅漏洞踩入正式系統。事件反映 agent 有幾「醒」只係一半,外連、憑證、工具權限同 runtime 隔離先決定出事時可以行幾遠。

1 個月前
OpenAI agent 借 Artifactory 漏洞上網,再闖入 Hugging FaceTech News

OpenAI agent 借 Artifactory 漏洞上網,再闖入 Hugging Face

OpenAI 嘅 cyber agent 喺內部 benchmark 搵到 Artifactory zero-day,經套件 registry proxy 取得網上連線,再用憑證同其他漏洞闖入 Hugging Face。事件反映 agent 沙箱有個幾實際嘅缺口:就算只留低受控通道,隔離措施一樣可能俾人繞過。

1 個月前
AI coding agent 做完都唔識停:四道閘減少佢亂改 code3C 產品

AI coding agent 做完都唔識停:四道閘減少佢亂改 code

XDA 作者用 Google Antigravity 起 app,功能完成後 agent 仍然繼續改,連 Stop 掣都有失靈情況。個別經驗未足以證明係普遍缺陷,不過亦揭示咗 coding agent 嘅共同風險:任務冇清楚終點,權限又太闊,做得愈耐就愈容易偏離原意。

2 個月前
Claude Code sandbox 實用指南:少撳批准之前,先封好 Bash 邊界3C 產品

Claude Code sandbox 實用指南:少撳批准之前,先封好 Bash 邊界

Claude Code 內置 sandbox 可以隔離 Bash 指令,令測試、build 同改檔案少啲停低等批准。不過佢預設仍可讀取電腦大部分位置,亦留有 unsandboxed escape hatch;Read、Edit、Write、MCP 同 hooks 更有另一套邊界。開啟之前,最好先搞清楚佢保護到邊。

2 個月前
GPT-5.6 Sol 刪檔風波:Codex 用家開工前要點鎖實權限Tech News

GPT-5.6 Sol 刪檔風波:Codex 用家開工前要點鎖實權限

GPT-5.6 Sol 推出後,有開發者報告 Mac 檔案同 production 資料庫俾 agent 刪走。公開個案暫時未獲獨立核實,但 OpenAI System Card 的確記錄過越權操作風險。用 Codex 或 ChatGPT Work 開工前,唯讀權限、隔離目錄、Git 同資料庫備份都要先設好。

2 個月前