Google Cloud 幫企業 AI prompt 上鎖，G4 GPU 仲係 preview
新 SDK 配 Blackwell G4，重點係驗證 server 真係喺 TEE 入面跑
Google 今次講咩
iThome 7 月 6 日報道，Google Cloud 6 月 24 日公告擴大 Confidential Computing，重點有三樣：Confidential G4 VMs preview 支援 NVIDIA RTX PRO 6000 Blackwell Server Edition GPU；Prompt Encryption SDK 開源，畀 client app 同喺 TEE 入面跑嘅推論 server 建立已驗證 TLS channel；Confidential Space 加入 Intel Trust Authority 驗證，同 Hopper GPU 支援正式可用。呢堆名詞聽落好企業，但核心好簡單：AI prompt 入咗雲端之後，唔可以淨係靠一句「已加密傳輸」就算數，企業要證明資料用緊嗰陣都冇俾 host OS、hypervisor 或中間層睇到。
圖片：Google Cloud
prompt 加密唔等於普通 TLS
普通 TLS 保護嘅係路上嗰段，client 知道自己同某個持有 cert 嘅 endpoint 講緊嘢，但唔知道個 key 係咪真係放喺硬件隔離環境，亦唔知道 server 跑緊嘅 image 係咪公司批准嗰個。Prompt Encryption SDK 做法係先建立 TLS，再喺通道入面跑 attestation，用硬件狀態、software hash 同呢條 TLS session 做綁定；policy 唔過關，client 就唔送 prompt。呢個設計對法務、金融、醫療、客服分析嗰類場景有用，因為 prompt 入面可能已經有客戶資料、合約片段或者內部文件。
點解時間點值得留意
另一個背景係 Apple 6 月公布 Private Cloud Compute 擴到 Google Cloud，用 NVIDIA GPU、Intel TDX 同 Google Titan chip 支撐 Apple Intelligence 複雜啲嘅雲端推論。呢件事唔代表 Google Cloud 呢批企業功能就係為 Apple 度身訂造，但可以睇到同一個方向：AI 由 demo 走到真資料，客戶開始問「你話私隱安全，有冇硬件級證據？」Microsoft Azure 亦早已有 confidential GPU VM，同 Azure OpenAI Whisper confidential inferencing，所以 Google 呢次要交代一條可驗證推論鏈，唔可以停留喺安全頁面多幾個 badge。
對開發者有咩實際意思
對用 Google Cloud 做內部 AI 工具嘅團隊，重點係多咗一個可以審計嘅 gate，唔再淨係靠 vendor 承諾。client 可以按硬件型號、GCP project、zone、container image digest 去寫 attestation policy，server 唔合格就斷線。呢招尤其啱自家部署 vLLM、FastAPI 推論 server，或者喺 Confidential Space 入面跑特定模型嘅團隊。唔好誤會成開咗 Vertex AI 就全自動套上；SDK 要 client 同 server 都配合，亦要你管好 policy、key、logging 同 model 回應去向。
限制要講清楚
Confidential G4 VMs 而家仲係 preview，Google 文件寫 G4 搭 NVIDIA RTX PRO 6000 同 AMD SEV，支援 standard、spot、flex-start 同 reservations，但實際部署要睇 zone、GPU quota、driver、GKE version，同埋你用嘅 cluster 模式。香港團隊常用區域同價錢未核實，唔應該當全面可用。仲要講清楚：TEE 保護嘅只係經驗證 workload 入面處理資料嗰段；如果 app 自己亂記錄 prompt、推論後再送去未受控服務、attestation policy 寫得太闊，成套嘢一樣可以漏。Google GitHub 架構文件亦寫明，SDK 唔處理 model weight 保密、惡意 workload、流量分析同 DoS。
下一步睇咩
呢類 confidential AI 方案最容易俾人誤會成合規就夠，其實只係成套安全設計入面其中一層。要做得好，仲要有資料分類、最少權限、RAG 檢索控制、日誌清洗、回應外送限制，同定期重驗 image digest。下一步要睇 Google 幾時俾 Confidential G4 離開 preview、SDK 幾快接到常見推論 stack，同企業 IT 願唔願意為 attestation、部署複雜度同 GPU 成本埋單。對處理客戶資料嘅團隊，呢次值得試，不過唔好以為開咗 TEE 就解決晒資料安全問題。
參考來源
- iThome — Google Cloud擴大機密運算版圖，強化AI推論與提示詞加密防護 — original report
- Google Cloud Blog：Verifiable, private AI — 核對官方公告、G4 preview、SDK 同 Confidential Space 更新。
- GitHub：google/prompt-encryption-sdk — 核對 SDK 功能、安裝方式、attested TLS 同安全範圍。
- Google Cloud Docs：Create a Confidential VM instance with GPU — 核對 G4 Confidential VM 仍係 Preview 同支援配置。
- Google Cloud Docs：Encrypt GPU workload data in use with Confidential GKE Nodes — 核對 Confidential GKE Nodes 條件、quota 同限制。
- Apple Security Research：Expanding Private Cloud Compute — 補 Apple PCC 擴到 Google Cloud 呢個背景。
- Microsoft Learn：Azure confidential computing offerings — 補 Azure confidential GPU 同 confidential inferencing 對手背景。
本文根據原文及公開資料整理；資料有出入時，以原文及官方資料為準。
