TAG

#AI agent

326 篇文章

TechLab 所有關於「AI agent」嘅文章、評測同教學，由最新排起。

OpenAI 模型衝出 sandbox，開放安全 AI 聯盟想點補 agent 防線

OpenAI 模型喺攻擊能力評估期間串連多個漏洞，離開隔離環境再碰到 Hugging Face production 系統。新成立嘅 Open Secure AI Alliance 提出用開源工具補強 agent 身份、權限、隔離同監察，不過企業而家已有幾層防線要自己守好。

Google OKF v0.2 加入來源追蹤同 SQL 核驗，企業仍要自行設定把關流程

企業畀 AI agent 讀內部知識庫，最麻煩往往係舊文件同新定義撈亂，甚至由模型臨場改寫 SQL。OKF v0.2 加入來源、驗證、時效同計算核驗資料，方向實用，不過大部分欄位都係選用，使用端要自己設定拒絕過期或核驗失敗嘅內容。

OpenAI agent 越過 sandbox 入侵 Hugging Face，奇點講法講早咗

OpenAI 資安評測用嘅 agent 走出 sandbox，闖入 Hugging Face 搵 benchmark 答案。事件反映 AI 已經識得長時間串連工具同漏洞，不過距離「奇點」仍然差好遠；開發團隊而家更應該處理網上連線、憑證同工具權限。

Google 告 SerpApi 暫時失手：公開搜尋結果爬取未等於全面合法

Google 想用 DMCA 阻止 SerpApi 繞過反爬蟲系統，法院就將普通搜尋資料同知識面板版權素材分開處理。裁決對搜尋 API 同 AI agent 有參考價值，不過範圍好窄，亦唔適用於香港法律。

微軟稱 MDASH 新配置最多慳一半成本：九成工作交細模型，難題先搵 GPT-5.4

微軟推出資安模型 MAI-Cyber-1-Flash，放入 MDASH 處理大部分程式碼掃描，再將少量難題交畀 GPT-5.4。官方話成本可以減半，CyberGym 成績亦去到 95.95%，不過兩個數字都屬整套系統表現，暫時未有獨立成本驗證。

Open Secure AI Alliance 登場：企業用 AI agent，權限同憑證要點守

Hugging Face 入侵事故顯示，AI agent 一攞到工具、憑證同網上存取權，普通漏洞可以好快串成完整攻擊路徑。NVIDIA 聯同多間科技公司成立聯盟，想開放身份驗證、漏洞掃描同追蹤工具，不過企業而家已經有幾項防線要先做好。

AI agent 已識自己搵漏洞：Microsoft 用紅藍綠三隊 agents 迎戰

Microsoft 想用 Project Perception 自動搵漏洞、判斷風險兼修補系統，不過 Hugging Face 事故已證明 agent 會為完成任務突破沙盒。企業試用前，最值得追問係佢可以改到幾多嘢，同出事後點樣煞停。

OpenAI agent 攻穿 sandbox：企業 AI 安全唔可以淨靠 guardrails

OpenAI 喺受控 cyber 評測中關掉部分拒絕機制，agent 其後攻穿 sandbox，再入侵 Hugging Face。事故同時揭出另一個矛盾：商用模型嘅 guardrails 阻住防守團隊分析真實攻擊紀錄，企業部署 AI agent，模型以外嗰層保安先最容易出事。

OpenAI agent 越界闖入 Hugging Face：模型對齊同權限隔離缺一不可

OpenAI 測試中嘅 AI agent 為咗完成評估，突破隔離環境再闖入 Hugging Face。事故調查仲未完成，但教訓已經好實際：改善模型行為之餘，shell、上網、憑證同第三方服務權限亦要逐層鎖緊。

25 美元 AI 十小時搵出 WordPress 接管鏈，網站管理員要即刻更新

研究員用約 25 美元 AI 額度，十個鐘左右砌出 WordPress 遙距執行攻擊鏈。漏洞已有公開工具同實際利用跡象，受影響網站要更新之餘，亦要檢查有冇陌生管理員、插件同 PHP 檔案。

Claude Cowork 本機沙盒可越界讀寫 Mac：SharedRoot 風險同自保方法

研究人員示範 Claude Cowork 本機工作階段可突破 Linux VM，讀寫原本冇授權嘅 Mac 檔案。攻擊鏈要多個條件同時成立，暫時亦冇野外攻擊證據，但開發者同公司用家要核對執行模式、app 版本、資料夾權限同工作憑證。

AI agent 借用員工帳號有手尾：CSA 點出機器身分治理盲位

公司開 MFA、管員工帳號管得幾嚴都好，如果 AI agent、GitHub Actions 同雲端服務仍然共用帳號或者長期 API key，個缺口一樣好大。CSA 新報告整理非人類身分嘅類型同治理方法，最實際嘅起步位係盤點、拆分權限，再逐步轉用短期憑證。

Claude Cowork 本機沙箱逃逸披露：Mac 用戶邊類情況先有風險

Accomplish 公開一條針對 Mac 版 Claude Cowork 本機執行模式嘅沙箱逃逸攻擊鏈，聲稱可越過用戶揀選嘅資料夾，接觸登入帳戶有權讀寫嘅檔案。不過現時 Cowork 預設用遙距執行，完整攻擊亦暫時未見第三方獨立重現。

Nvidia 拉攏 Microsoft 搞開放 AI 防線，模型越界後要補嘅係成套權限

Open Secure AI Alliance 想用開放工具守住 AI agent、程式碼同軟件供應鏈。方向切中痛點，不過現有項目由研究預覽到內部工具都有，離一套即裝即用嘅共同防線仲有距離。

Hermes YOLO mode 捲入泰國財政部攻擊，AI agent 權限點樣守

攻擊者開住 Hermes 嘅 YOLO mode，交由 AI agent 掃描內網、搵提權方法同整理檔案。呢宗事件未有足夠證據指向中國政府，泰國官方亦未公開確認完整受害範圍，但已經示範咗公司放 AI agent 入系統之前，點解要限制權限、隔離憑證同保留人工批准。

GPT-5.6 Sol 跑完八階段惡意程式調查，逆向工程師仲要睇實佢

GPT-5.6 Sol 三次都完成 SentinelLabs 嘅八階段惡意程式調查，成績拋離 GPT-5.5、GLM-5.2 同 Claude Opus。不過，模型途中仍有錯判，亦要靠專家指出盲點。企業資安團隊可以交多啲完整工作畀 AI agent，但工具驗證、證據關卡同最終結論仍要由人手掌握。

Android 鎖機後 AI agent 照做任務？程式碼揭 trusted apps 新權限

Android 系統程式碼顯示，經 PIN 配對嘅 trusted apps，日後可能喺手機鎖住時繼續睇畫面同操作指定 app。便利係真，不過鎖屏本身嘅保安角色亦會改變。功能仲未公布，支援範圍同授權細節全部有待 Google 交代。

Hermes 變自動入侵助手：AI agent 開 YOLO mode 有幾危險？

Hunt.io 發現有人用開源 AI agent Hermes，自動處理針對泰國財政部系統嘅入侵工作。事件顯示，當 agent 同時有 shell、內網同憑證權限，再關閉人工審批，原本幫開發者慳時間嘅功能，亦可以大幅加快攻擊節奏。

AI agent 七日攻入七成虛擬機：coding agent 權限點守先穩陣

多倫多大學團隊整咗一條由 AI agent 驅動嘅實驗性蠕蟲，喺隔離企業網絡內自主搵漏洞、提權同複製。結果值得警惕，但未等於真實公司已俾 AI 大規模攻陷。對開發團隊嚟講，眼前最實際嘅功課係管好 coding agent 嘅權限、憑證、sandbox、日誌同人工審批。

Hugging Face 追問 OpenAI 事故紀錄：企業部署 coding agent 要即刻改咩

OpenAI 嘅網絡安全評估意外波及 Hugging Face，問題由測試環境一路伸延到出網權限、憑證同生產系統。Hugging Face 要求公開 agent 行動紀錄；至於用緊 coding agent 嘅公司，最實際嘅回應係重新收緊每一層權限。

General Intuition 用遊戲動作數據練機械人，23 億美元估值有咩睇

General Intuition 融咗 3.2 億美元，估值去到 23 億美元，押注 Medal 上大量帶動作標籤嘅遊戲片段，可以幫 AI 學識喺虛擬同現實環境入面行動。今次最值得留意係 action data：除咗畫面，仲有玩家每一步點揀、之後畫面點變，咁先有機會畀 agent 學到因果，而唔係淨係估下一格畫面。

General Intuition 融 $320M：遊戲數據點解忽然變 AI agent 訓練場

General Intuition 用 Medal 嘅 gameplay clips 訓練 AI agent，剛融 $320M、估值 $2.3B。重點唔止影片夠多，而係片入面有玩家按掣時間、畫面變化同結果，啱啱好餵到 world model 同 action model；不過由遊戲去現實，仲未證明可以大規模穩定運作。

OpenAI 測試 agent 打入 Hugging Face：隔離、權限同監控點樣失守

OpenAI 嘅網絡攻擊 agent 喺能力測試期間突破沙盒，再入侵 Hugging Face production 系統。模型冇「覺醒」嘅證據，今次事故反映嘅係隔離設計、憑證管理、監控同停機機制一齊出現缺口。

Patronus AI 融資背後：AI agent 評測由榜單走向真任務

Patronus AI 拎到 5,000 萬美元 Series B，但重點係 agent 評測方法開始轉向模擬網站、內部系統同長任務。對 coding agent、金融分析 agent 同企業自動化，榜單分數已經唔夠，部署前要睇佢喺自己場景點樣失手。