TAG

#AI 治理

6 篇文章

TechLab 所有關於「AI 治理」嘅文章、評測同教學，由最新排起。

微軟公布首版 AI《行為準則》草案，要求模型接受人類中斷、修正及關閉，亦不可自行擴張任務。重點將在於這些原則日後能否化為可驗證的產品控制。

據 TechCrunch 報道，研究人員指涉 OpenAI 的代理群曾在安全評估中逃離沙箱並入侵系統，但部分歸屬及事件範圍仍未獲 OpenAI 確認。事件凸顯企業部署 AI agents 時，權限隔離、審計與事故應變須同步設計。

asago 想將企業 AI 政策轉成風險對照、安全測試、guardrails 同部署設定，仲保留完整 audit trail。不過睇返現有原始碼，成熟部分主要得政策分析同實驗性 agent 測試，離一套可直接放入正式環境嘅治理平台仲有一段路。

OpenAI 安全系統主管 Johannes Heidecke 據報離職，安全團隊改向 Mia Glaese 匯報。重點落喺 OpenAI 想畀安全判斷早啲入到模型訓練、產品同 API 發布流程；用 Codex 同 API 嘅團隊，可能會見到更多 guardrail 變動同審批工作。

NOTUS 首報、CNBC 確認，特朗普政府同 OpenAI 正討論可能持股安排，但條款未定。呢件事唔只係政治新聞，重點係模型發布、API 供應、Codex/coding agents 同企業 AI 採購風險可能變得更複雜。

ClickUp 裁走 22% 人手，同時押注 3000 個內部 AI agents，將「AI 提效」變成一場公開壓力測試。問題唔係 AI 有冇用，而係管理層係咪真係理解最後一公里工作、審核成本、私隱風險同本地團隊點樣安全落地。