Google Cloud Well-Architected Framework 安全性支柱的這項原則提供相關建議，協助您保護 AI 系統。這些建議與 Google 的安全 AI 架構 (SAIF) 一致，可實際解決 AI 系統的安全和風險疑慮。SAIF 是一個概念架構，旨在為業界提供負責任的 AI 建構和部署標準。
原則總覽
為確保 AI 系統符合安全性、隱私權和法規遵循規定，您必須採用全方位策略，從初始設計到部署和運作都納入考量。如要落實這項全方位策略，請應用 SAIF 的六大核心要素。
Google 會運用 AI 強化安全措施，例如識別威脅、自動執行安全工作及提升偵測能力，同時保留人工決策權，確保重要決策由人為判斷。
Google 強調以合作方式推動 AI 安全。我們與客戶、產業和政府合作，共同強化 SAIF 指南，並提供實用且可執行的資源。
實作這項原則的建議做法會歸類在下列各節中：
安全使用 AI 的建議
如要安全使用 AI，您需要基礎安全控管機制和 AI 專屬安全控管機制。本節將概略介紹相關建議，確保您部署的 AI 和 ML 解決方案符合貴機構的安全、隱私權和法規遵循要求。如要瞭解適用於 Google Cloud中 AI 和機器學習工作負載的架構原則和建議，請參閱 Well-Architected Framework 中的「AI 和機器學習觀點」。
明確定義 AI 使用目標和需求
這項建議與下列重點領域相關：
- 雲端管理、風險與法規遵循
- AI 和機器學習安全性
這項建議與 SAIF 要素一致，可協助您評估相關業務程序中的 AI 系統風險。設計及演進 AI 系統時，請務必瞭解具體的業務目標、風險和法規遵循規定。
確保資料安全，避免遺失或誤用
這項建議與下列重點領域相關：
- 基礎架構安全性
- 身分與存取權管理
- 資料安全性
- 應用程式安全防護
- AI 和機器學習安全性
這項建議符合下列 SAIF 元素：
- 為 AI 生態系統奠定完善安全基礎。這個元素包括資料收集、儲存、存取權控管，以及防範資料中毒。
- 根據相關業務程序評估 AI 系統風險。強調資料安全，以支援業務目標和法規遵循。
確保 AI pipeline 安全無虞，且不會遭到竄改
這項建議與下列重點領域相關：
- 基礎架構安全性
- 身分與存取權管理
- 資料安全性
- 應用程式安全防護
- AI 和機器學習安全性
這項建議符合下列 SAIF 元素：
- 為 AI 生態系統奠定完善安全基礎。建立安全 AI 系統的關鍵要素是保護程式碼和模型構件。
- 採用適用的控管機制，建立更快的回饋循環。追蹤資產和管道執行作業，有助於減輕影響和應變事件。
使用安全工具和構件，在安全系統上部署應用程式
這項建議與下列重點領域相關：
- 基礎架構安全性
- 身分與存取權管理
- 資料安全性
- 應用程式安全防護
- AI 和機器學習安全性
在 AI 應用程式中使用安全系統和經過驗證的工具與構件，符合 SAIF 要素，可為 AI 生態系統和供應鏈奠定完善安全基礎。如要解決這項問題，請按照下列步驟操作：
- 實作安全的機器學習訓練和部署環境
- 使用經過驗證的容器映像檔
- 套用軟體構件供應鏈級別 (SLSA) 指南
保護及監控輸入內容
這項建議與下列重點領域相關：
- 記錄、稽核和監控
- 資安營運
- AI 和機器學習安全性
這項建議與 SAIF 元素一致，可擴大偵測和應變機制，將 AI 納入機構的威脅防禦範圍。為避免發生問題，請務必管理生成式 AI 系統的提示、監控輸入內容，以及控管使用者存取權。
AI 管理建議
本節中的所有建議都與下列重點領域相關：雲端管理、風險和法規遵循。
Google Cloud 提供一系列強大的工具和服務，可協助您建構負責任且符合道德規範的 AI 系統。我們也提供政策、程序和倫理考量架構，引導 AI 系統的開發、部署和使用。
如建議所示，Google 的 AI 控管機制遵循下列原則：
- 公平性
- 透明度
- 可靠性
- 隱私權
- 安全性
使用公平性指標
Vertex AI 可在資料收集或訓練後評估程序中偵測偏誤。Vertex AI 提供模型評估指標，例如資料偏誤和模型偏誤，協助您評估模型偏誤。
這些指標與不同類別 (例如種族、性別和班級) 的公平性有關。不過，解讀統計偏差並不容易，因為各類別之間的差異可能不是偏誤所致，也不代表有害。
使用 Vertex Explainable AI
如要瞭解 AI 模型如何做出決策，請使用 Vertex Explainable AI。這項功能有助於找出模型邏輯中可能潛藏的偏誤。
這項可解釋性功能已整合至 BigQuery ML 和 Vertex AI，您可以在 BigQuery ML 中執行可解釋性作業，也可以在 Vertex AI 中註冊模型，然後在 Vertex AI 中執行可解釋性作業。
追蹤資料歷程
追蹤 AI 系統所用資料的來源和轉換情形。 這項追蹤功能可協助您瞭解資料的歷程，並找出潛在的偏誤或錯誤來源。
資料歷程是 Dataplex Universal Catalog 的功能，可讓您追蹤資料在系統中的移動方式，包括資料來源、傳遞至何處，以及套用的轉換。
建立當責文化
明確劃分 AI 系統的開發、部署和結果責任。
使用 Cloud Logging 記錄 AI 系統的重要事件和決策。記錄檔提供稽核追蹤記錄，可協助您瞭解系統效能，並找出需要改進的地方。
使用 Error Reporting 系統性分析 AI 系統造成的錯誤。這項分析可找出模式，指出潛在偏誤或模型需要進一步修正的領域。
實作差異化隱私
在模型訓練期間，加入雜訊至資料，讓模型難以識別個別資料點，但仍能有效學習。使用 BigQuery 中的 SQL，您可以透過差異隱私權匯總轉換查詢結果。