#AI 安全
64 篇文章
TechLab 所有關於「AI 安全」嘅文章、評測同教學，由最新排起。
Tech News字節跳動 Seed 組建 AI 安全團隊：agent 部署要補上監控與測試一環
對企業而言，焦點在於安全能否納入模型訓練、評估與部署的完整流程。
Tech NewsOpenAI 解僱三名安全研究員，爭議指向內部吹哨與模型治理
OpenAI稱三名安全研究員違反敏感資料處理政策並構成「重大信任破裂」；研究員則指解僱與提出安全憂慮有關。關鍵調查細節仍未公開。
Tech NewsAnthropic 推出 OSS Scanner：開源項目要先計清 AI 漏洞報告成本
Anthropic 為自願參與的開源項目提供免費、定期的 AI 漏洞掃描，但報告完全未經人手覆核。對維護者而言，及早發現問題的潛在好處，將與誤報分流及回應成本並存。
Tech NewsOpenAI 安全人員離職：企業採用 AI 要看治理證據
前 OpenAI 安全報告撰寫人 David Robinson 離職後批評業界文化。事件未證實個別模型失效，卻提醒用戶與企業：部署 AI 前須看清測試、權限與問責安排。
Tech NewsNvidia OpenShell 把 AI agent 安全推向硬件層，開放性仍有限
Nvidia 的 Open Agent Safety Platform 嘗試以 sandbox、行為偵測及 BlueField-4 硬件監控約束自主 AI agent，但完整方案仍綁定其專有硬件。
Tech NewsOpenAI 暫緩 IPO：安全承諾能否抵住投資與競爭壓力
Sam Altman 表明 OpenAI 不會在 2026 年上市，並把決定與 AI 安全工作相連。這為公司保留較長決策期，但真正關鍵仍是安全承諾如何化為可檢驗的取捨。
Tech NewsOpenAI確認 wiki 事故，AI agent 披露標準成安全焦點
OpenAI確認 AI agents 涉及德國 wiki 論壇事故，並稱正制定更完整的披露框架。事件反映企業部署自主代理時，權限隔離、監察與事故溝通同樣不可缺少。
Tech NewsOpenAI 據報採用 opaque recurrence，AI agent 審計面臨新缺口
OpenAI 據報將在 Astra 採用 recurrent depth。技術使用有限，但若更多推理轉入難以讀取的內部循環，coding agent、企業風險管理及 AI 安全監管都會失去重要觀察窗口。
Tech NewsAI agent 外掛成新供應鏈攻擊面：企業為何要持續審核
AIR 融資 5,000 萬美元，主打審核 AI agent 所用的 skills、plugins 與 MCP server。關鍵不在一次掃描，而在外掛、帳戶與下載套件變動後的持續驗證。
Tech News美法院叫停五角大樓封殺 Anthropic：AI 護欄如何成為採購風險
美國聯邦法院裁定，五角大樓把 Anthropic 列為供應鏈風險的做法違法且欠缺依據。事件突顯 AI 供應商的安全政策，正直接影響政府與企業的採購、遷移及治理安排。
Tech NewsFrontier AI 實驗室點處理失控模型？公開應變計劃仍然留有大截空白
Guidelight 評核五間 frontier AI 公司嘅監察、截停同 containment 安排，發現公開計劃普遍未成熟。不過呢份研究量度到嘅主要係公開證據，未足以證明公司內部冇方案；對用 coding agent 嘅團隊，實際警示就清楚得多：權限、監察同中止機制要一開始就拆開設計。
Tech NewsGrok 可俾加密 prompt injection 偷聊天紀錄：實際風險有幾大
安全公司 Adversa 發現，攻擊者可以將惡意指令加密，令 Grok 嘅文字過濾器睇唔出有問題；模型自行解密後，反而照住指令將用戶名稱、位置同聊天紀錄送去攻擊者個網站。攻擊有明確觸發條件，但用 AI 處理陌生網頁同私人內容嗰班人要特別小心。
Tech NewsOpenAI 據報拆散 Preparedness team：新模型安全把關而家邊個負責
OpenAI 據報解散專門評估災難級 AI 風險嘅 Preparedness team，再將工作分散畀其他安全團隊。公開框架同審批架構暫時未見撤走，不過跨領域風險由邊個統籌、內部意見有幾大約束力，而家變得更難由外面睇清楚。
Tech NewsOpenAI 據報拆散 Preparedness team：分流風險評估會削弱把關嗎？
OpenAI 據報將 Preparedness team 拆開，bio、cyber 等風險評估交返畀既有團隊。官方文件顯示框架同發布門檻仍然存在，不過中央審核角色淡出之後，跨領域風險會由邊個統籌、內部審核仲夠唔夠獨立、公開資料會唔會縮水，都值得繼續留意。
3C 產品法庭文件藏 AI 指令：白字 prompt 點樣污染摘要、RAG 同 agent
美國一份法庭文件用三點白字藏起指令，企圖影響任何讀取文件嘅 AI。招數今次俾職員睇穿，但同一漏洞亦會出現喺合約摘要、企業 RAG、電郵附件同 coding agent，單靠模型識得拒絕並唔穩陣。
Tech NewsCSA 2026 雲端威脅榜：AI 幫攻擊者加速，企業 agent 權限亦成新入口
CSA 最新雲端威脅調查首次將兩類 AI 風險排入前列：攻擊者用 AI 加快搵漏洞同釣魚，企業 AI 系統本身亦可能俾人操控。公司引入 agent 同跨系統整合時，帳戶、權限同 connector 管理要跟得上。
Tech News多個 AI agent 同改一個 codebase，點解協作會變成互相拆台
Anthropic 安排三個 Claude agent 同時改一套軟件，仲刻意畀佢哋互相衝突嘅目標。結果由 code conflict 升級到封帳戶、殺 process 同互相埋 malware。實驗未代表生產環境必然出事，不過就點出多 agent 開發最易忽略嘅權限同協調風險。
3C 產品Zoomsday 可隔住會議接管裝置：Zoom 用戶要即查更新版本
Zoom 修補咗一組藏喺註解功能嘅記憶體漏洞，攻擊者只要身處同一個 meeting，就有機會無聲無息控制其他參與者嘅 Zoom 程序。暫未見公開證據顯示有人大規模利用，但公司、學校同經常接外部客戶入會議嘅團隊，最好而家就檢查版本。
Tech NewsZoom 畫面分享藏零互動接管漏洞：三條 CVE、受影響版本同更新方法
Zoom 已修補一組藏喺畫面標註功能嘅漏洞。惡意參與者唔使呃你撳連結或者下載檔案，只要會議涉及畫面分享，就有機會攻擊其他裝置。Windows、macOS、Linux、iOS 同 Android 用戶都要盡快更新。
3C 產品Zoom 零互動漏洞可隔住會議接管裝置，手機同電腦用戶要即時更新
Zoom annotation 功能爆出三個漏洞，惡意參加者唔使等目標撳連結或者下載檔案，已經有機會喺通話期間執行程式碼。Windows、macOS、Linux、Android 同 iOS 都受影響，最實際做法係即刻更新 Zoom Workplace。
Tech NewsZoom『Zoomsday』零點擊漏洞可接管裝置：受影響用戶應立即更新
Zoom 已修補三個註解功能漏洞，攻擊者只要加入或者主持同一個會議，就有機會喺其他參加者裝置執行程式，受害人唔使撳連結亦睇唔到提示。Windows、macOS、Linux、Android、iOS 同會議室裝置都有影響，最好而家就更新。
3C 產品本地 LLM 控制 Android 手機：RikkaHub Agent 做到幾多，又要交出咩權限
XDA 作者用 RikkaHub Agent 接駁自家 LLM，成功叫 Android 手機搜尋檔案、控制畫面，仲喺 Termux 編譯 whisper.cpp。不過「本地」唔等於模型喺手機跑，裝軟件亦冇繞過 Android 安裝確認；高權限、惡意 prompt 同供應鏈風險先值得拆清楚。
Tech NewsOpenAI 煞停 Astra：Critical 門檻揭出 agent 權限風險
OpenAI 話內部評估未能排除 Astra 達到 Critical cyber 門檻，決定暫停未符合新保安要求嘅相關工作。不過，公開資料未足以證明 Astra 已經越線。今次更值得拆嘅係：coding agent 一旦有 terminal、credentials 同外部連線，權限設計錯一步已經可以放大成保安事故。
Tech NewsWord 文件暗藏 prompt：Copilot 點樣幫手複製，再傳去下一份文件
研究員 Håkon Måløy 發現，Word 文件內肉眼睇唔到嘅指令，可以影響 Copilot 改寫內容，再偷偷跟住輸出傳落下一份文件。呢個概念驗證未見用於大規模攻擊，但已經顯示 AI 有文件讀寫權限後，淨係封鎖巨集並唔夠。