
騰訊 AI 科學家談生物安全:系統卡將成開放權重的關鍵驗證
騰訊首席 AI 科學家姚順雨近日在香港一場科學研討會表示,AI 模型可能很快具備足以「掌握生物學」的能力,既可協助藥物和療法研發,亦可能降低惡意人士從事生物武器相關活動的門檻。對研究機構、模型開發商及日後使用生物科研工具的團隊而言,問題已不只是模型能否解答科學問題,也涉及模型在何種能力門檻下需要加入更嚴格的測試、存取控制與治理。
不過,這仍屬前瞻性警示,而非已證實某款模型已造成相關危害。TechNews 科技新報 報道未提供具體模型能力、測試方法或獨立驗證結果,因此現階段不能從姚順雨的發言判定風險已達到何種程度。
開放權重後,安全評估不能只停留在聲明
姚順雨指出,AI 的網絡攻擊能力及生物能力,可能在不久後跨過可造成實際危害的門檻;他亦特別提到,中國及採用開放權重模式的公司都要正視問題。開放權重可讓外界部署、研究及改造模型,對防禦和技術擴散可能有幫助,但發布者對後續使用情況的直接控制也會較弱。
因此,TechNews 科技新報 報道所提及的「完整系統卡」會是值得留意的後續文件。騰訊據報計劃在近日發布 Hy4 模型權重及系統卡,交代其網絡安全和生物安全評估結果。若文件真正公開,其價值不僅在於列出結論,更在於能否交代測試範圍、模型限制、風險分級,以及在何種情況下拒絕或限制高風險協助。這些資料才可讓外界判斷評估是否足以配合開放權重的風險。
「自主實驗室」令治理問題更貼近實驗流程
姚順雨亦稱,騰訊正探索讓 AI 參與更自動化的科學研究,並構想由 AI 端對端完成複雜實驗的自主科學實驗室,例如處理逆向蛋白質摺疊任務。這類方向的潛在好處是縮短科研迭代,但分析上也意味安全審視不能只集中於聊天介面輸出:當模型的建議可連接實驗設計、工具操作或其他研究流程時,權限、人工覆核和實驗環境的安全界線都會變得更重要。
他認為,技術進展本身可被解決,較大的難題在社會及組織治理;至於開放與封閉模型,業界仍有分歧,較可行的方向或是兩者並存。這並非一條已落實的路線,而是其在會上的看法。
香港是這次發言的地點,但報道沒有提供本地機構、政策或產品供應層面的具體後續。下一步可觀察的,將是騰訊是否按計劃公布 Hy4 的權重和系統卡,以及文件能否提供足以讓研究者及安全社群檢視的生物安全評估依據。
延伸閱讀
AI 輔助說明: 本文由 AI 協助整理。
參考來源
- TechNews 科技新報 — 騰訊首席 AI 科學家:AI 將掌握生物學,生物武器風險不容忽視 — original report
本文根據原文及公開資料整理;資料有出入時,以原文及官方資料為準。







