AI 要開幾多先安全？Hinton、李飛飛、吳恩達三套取態拆解

三個人講緊唔同層次嘅「開放」

Geoffrey Hinton、李飛飛同 Andrew Ng（吳恩達）喺 Ai4 2026 同台傾 AI 安全、監管同模型開放，表面睇似三位元老一齊撐開源，實際分歧幾大。TechCrunch 現場報道將共同點歸納成避免少數巨企控制 AI，但三人講嘅「open」，由公開程式碼、開放模型權重，到研究資源同市場競爭都有，唔可以撈埋一碟。

圖片：Ai4

Hinton 接受開放權重已成定局，但安全警告冇收返

Hinton 特別分清開源軟件同開放權重：前者公開程式碼，其他人可以檢查同修正；後者係交出訓練完成嘅參數，攞到模型嘅人可以用較低成本再調校。佢擔心呢條捷徑亦會令人更容易改造大型基礎模型，用嚟發動網上攻擊。不過佢亦承認，開放權重已經普及，靠昂貴訓練成本阻止外界取得能力嗰道牆冧咗，想倒帶已經太遲。

呢個取態唔等於 Hinton 放棄安全監管。佢仍然認為政府要介入，唔可以由 Elon Musk、Mark Zuckerberg 呢類科技公司話晒事；不過今次報道冇交代佢支持咩具體模型存取限制。換句話講，佢接受開放權重係市場現實，同佢認為 AI 風險嚴重可以同時成立，唔應該將佢寫成突然轉軚撐無限制公開。

Andrew Ng 驚嘅係 gatekeeper 同美國失去市場

Andrew Ng 落刀位明顯唔同。佢一直主張多個模型供應商互相競爭，避免幾間公司控制 API、價錢同邊類產品有得做。佢過往亦公開提出，監管應該集中處理醫療、招聘等高風險應用，唔好一刀切壓住基礎技術同開源開發；呢套思路喺佢寫過嘅開源監管文章入面相當一致。

今次佢再加上美中競爭：中國開放權重模型如果平、快又容易部署，就可能喺亞洲、非洲同其他市場取得優勢，連帶影響用家接觸資訊嘅方式。不過呢段要當成美國軟實力框架睇，模型採用始終會受效能、語言、授權、硬件成本同服務支援左右，唔係單靠產地就可以推斷輸出內容或者市場結果。

李飛飛想拆開每一層逐樣處理

李飛飛反對將選項壓成全開同全關。佢用核物理做例：論文可以公開，鈾要受管制，實驗室工作就處於中間；AI 同樣可以按研究成果、訓練資料、程式碼、權重、算力同實際應用，設唔同開放程度。佢亦以人類基因組計劃說明，公共研究成果可以成為共用基建，再畀學術界同商業公司各自發展，唔使要求所有產品用同一種授權模式。

呢個講法亦點中「開源 AI」最常見嘅混亂。按 Open Source Initiative 嘅定義，真正開源 AI 要畀人使用、研究、修改同分享，亦要提供足夠資料資訊、訓練及運行程式碼同模型參數。淨係畀人下載權重，通常只應叫開放權重。兩者透明度、可重現程度同可追責能力差好遠，監管文件如果連名稱都寫得含糊，條例好容易管錯對象。

收緊存取，細團隊會先見到張單

對開發者嚟講，開放權重代表可以自行部署、離線運行、微調模型，同控制敏感資料留喺邊度，亦少咗 API 加價、限流或者突然改條款嘅風險。代價係 GPU、維護、安全評估同更新都要自己負責。模型只經 API 提供就方便好多，但研究人員難以深入檢查，細公司亦容易變成上游平台嘅包裝層，成本同產品路線一齊受制於供應商。

監管可以點落刀，其實已有較細緻嘅做法。歐盟對一般用途 AI 模型設文件、版權同透明度要求，符合條件嘅自由開源模型可獲部分豁免；有系統性風險嘅模型就算開源，仍要做評估、風險緩解同事故通報。歐盟委員會指引亦指出，一般微調通常唔會令下游開發者自動變成模型供應商。之後最值得睇嘅，係各地規則會管訓練者、模型發布者定高風險應用，同埋合規成本最終落喺邊個身上。

參考來源

• TechCrunch — As AI safety concerns mount, three pioneers make the case for staying open — original report
• Ai4 2026 — 大會官方頁，核對活動日期、場地同講者陣容。
• The Open Source AI Definition 1.0 — 釐清開源 AI、模型參數同淨開放權重嘅分別。
• Keep Open Source Free — Andrew Ng 親自解釋點解反對規例壓住基礎技術同開源開發。
• Advancing Science- and Evidence-based AI Policy — 李飛飛有份署名嘅論文，補充以證據制定 AI 政策嘅取態。
• Guidelines on obligations for General-Purpose AI providers — 歐盟委員會官方指引，交代開源豁免、系統性風險同下游微調責任。

本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。