Google Cloud擴大機密運算版圖,強化AI推論與提示詞加密防護

6月下旬雲端服務供應商 Google Cloud宣佈擴大機密運算(Confidential Computing)服務 ,包括推出搭載Nvidia Blackwell架構GPU的Confidential G4 VMs預覽版、用於加密AI提示詞與模型回應的開源Prompt Encryption SDKs,並強化Confidential Space與Confidential VMs等服務,擴大機密運算在多方資料協作、遠端證明驗證(remote attestation)與雲端工作負載防護上的應用範圍。

Confidential G4 VMs採用Nvidia RTX PRO 6000 Blackwell Server Edition GPU,底層以第5代AMD EPYC Turin處理器搭配AMD安全加密虛擬化(Secure Encrypted Virtualization,SEV)技術,讓敏感資料在可信執行環境(Trusted Execution Environment,TEE)中處理時受到硬體層級隔離保護,並加密CPU與GPU之間傳輸的資料。Google Cloud也推出支援機密運算的Google Kubernetes Engine節點Confidential G4 GKE Nodes,供企業在Kubernetes環境執行AI推論、模型微調與高效能運算等涉及敏感資料的工作負載。

Google Cloud也開源Prompt Encryption SDKs,協助開發者加密AI提示詞與模型回應,讓這些資料在傳送至機密運算環境中的推論伺服器時,以端對端加密方式受到保護。

在多方資料協作方面,Google Cloud更新機密運算資料協作環境Confidential Space,讓不同組織可在不向其他參與方或Google Cloud揭露原始資料的情況下,進行資料分析或機器學習。Confidential Space也新增整合Intel獨立證明驗證服務Intel Trust Authority,可在將加密金鑰交付工作負載之前,先驗證Confidential Space執行環境未遭竄改,並符合客户預期的安全狀態。此外,Confidential Space已正式支援Nvidia Hopper架構GPU,可用於聯邦學習、共同訓練模型等跨組織AI應用。