TAG
#提示注入
2 篇文章
TechLab 所有關於「提示注入」嘅文章、評測同教學，由最新排起。
Tech NewsMITRE ATT&CK v20 納入提示注入：企業 AI 代理的防線要重畫
MITRE ATT&CK v20 把直接及間接提示注入、AI 輔助資料外洩等手法正式分類。對採用企業 LLM 與 AI agent 的團隊，重點已由封鎖惡意輸入延伸至權限、資料流與輸出驗證。
12 天前
Tech NewsGPT-Red 自動追住 AI agent 漏洞打，0.05% 成功率其實講少咗好多嘢
OpenAI 用內部紅隊模型 GPT-Red 自動生成提示注入，再將搵到嘅攻擊樣本餵返畀產品模型訓練。GPT-5.6 Sol 喺指定直接注入測試只得 0.05% 失手，不過呢個數字未涵蓋所有間接攻擊，更唔係企業可以放心交出資料同權限嘅保證。
3 個月前