#AI安全
11 篇文章
TechLab 所有關於「AI安全」嘅文章、評測同教學，由最新排起。
Tech NewsGLM-5.2 開權重追近 Mythos，網安 AI 到企業手上未？
Z.ai 推出開權重 GLM-5.2，Semgrep 同 Graphistry 嘅 benchmark 都見到佢喺部分漏洞任務好貼前線閉源模型。企業啱用位係私有 code review 同 vulnerability triage，但要管住誤報同濫用。
3C 產品Anthropic 用 J-Lens 睇到 Claude 入面點轉彎，但意識呢題未有答案
Anthropic 話用 Jacobian Lens 可以讀到 Claude J-Space 入面嘅概念，例如中途算式、prompt injection 警號同測試場景感。重點係，呢啲係可審核嘅內部訊號，唔係 Claude 有感受嘅證據。
3C 產品AI Agent 亂估 repo：HalluSquatting 點樣變成供應鏈風險
HalluSquatting 利用 LLM 亂估 GitHub owner/repo 或 agent skill 嘅習慣，等 coding agent 拉錯資源再執行指令。防法好實際：鎖 repo、審批下載、sandbox，同埋用 least privilege 管住 token 同工具權限。
Tech NewsClaude Fable 5 開放公眾用：最強模型要同安全掣一齊賣
Anthropic 將 Mythos-class 模型拆成 Fable 5 公眾版同 Mythos 5 受信任版。焦點包括更強 coding、長任務 agent workflow、高風險 guardrails、30 日資料保留，同香港可用性未明朗。
Tech NewsAI 裸照 app 仲喺 App Store 出現，WWDC 場外逼 Apple 交代
WWDC 場外有團體要求 Apple 下架可生成非自願裸照嘅 app，並處理 iCloud 已知兒童性虐待材料。Apple 有政策、有機制，但 AI 工具上架後點樣變形，係最難守嘅位。
Tech NewsAI 深偽色情唔係匿名樂園：FBI 首批執法畀香港嘅安全課
美國 FBI 近期以 Take It Down Act 起訴兩名男子，案件顯示非自願深偽影像製作者往往會留下 IP、付款、社交平台相片同帳號習慣。香港用家要認清本地法例、證據保存同平台求助路徑。
Tech NewsAI chatbot 都會畀人社交工程：prompt injection 點樣變成企業風險
The Verge 最新專欄將 chatbot jailbreak 由早期玩梗，拉到多輪社交工程攻防。真正要留意嘅唔係某一個神奇口令，而係當 AI agent 接駁電郵、日曆、CRM、客服同程式碼 repo 之後，企業點樣限制權限、審批操作同保護資料。
Tech NewsMythos 一個月搵過萬漏洞：AI agent 正逼公司重寫修補節奏
Anthropic 話 Claude Mythos Preview 已協助合作夥伴搵到逾萬個高危或嚴重漏洞，但重點唔係神化單一 AI 模型，而係漏洞發現、驗證、披露同修補嘅節奏已經變快。香港公司要準備嘅，係更短 patch cycle、更清楚供應鏈責任，同更穩陣嘅 MFA、log 及事故應變流程。
Tech NewsNTSB 聲譜圖事件：AI 令「只公開圖片」都可能洩漏原始敏感聲音資料
美國 NTSB 因 UPS 事故調查文件內的聲譜圖，被人用 AI 和計算方法重建近似駕駛艙錄音而暫停調查檔案系統。事件提醒香港公司、政府部門和專業機構：截圖、PDF、圖表和 log 都可能藏住可逆推的敏感資料。
3C 產品Claude 幫人搵回 5 BTC：AI 有用位唔係破解，而係舊機排查
一名 X 用戶聲稱 Claude 協助他搵回放咗 11 年嘅 5 BTC，但重點唔係 AI 破解 Bitcoin，而係幫手排查舊檔案、連接線索同 debug recovery 工具。對香港 crypto 用家嚟講，真正要學係自我保管同 AI 私隱風險。
Tech NewsAI 會唔會自己寫出下一代 AI：Recursive 6.5 億美元押注解讀
Richard Socher 新公司 Recursive Superintelligence 以 6.5 億美元出場，講嘅唔只係又一個 AGI 故事，而係 AI 研究、coding agents 同企業 workflow 會唔會被自動化重寫。香港未見本地推出資料，但影響會先落喺開發者同 IT team。