AI 和機器學習觀點：安全性

Last reviewed 2024-10-11 UTC

這份架構完善架構：AI 和機器學習觀點文件概述了相關原則和建議，可確保 AI 和機器學習部署作業符合貴機構的安全性和法規遵循需求。本文中的建議與 Google Cloud 架構完善架構的安全性支柱一致。

安全地部署 AI 和 ML 工作負載是至關重要的需求，尤其是在企業環境中。為滿足這項需求，您需要採取全方位的安全防護措施，從 AI 和機器學習解決方案的初步概念化階段開始，一直延伸到開發、部署和持續營運階段。 Google Cloud 提供多種強大的工具和服務，可協助您保護 AI 和機器學習工作負載。

設定明確的目標和需求

在設計和開發流程初期整合必要的安全性和法規遵循控制項，會比在開發完成後再新增控制項更輕鬆。在設計和開發程序開始時，請根據特定風險環境和特定業務優先事項做出適當決策。

請參考下列建議：

  • 從一開始就找出潛在攻擊媒介，並從安全性和法規遵循的角度著手。設計及演進 AI 系統時，請持續追蹤攻擊面、潛在風險和您可能面臨的義務。
  • 確保 AI 和機器學習安全防護工作與業務目標一致，並將安全防護納入整體策略。瞭解安全性選擇對主要業務目標的影響。

確保資料安全，避免遺失或誤用

資料是寶貴的機密資產，必須妥善保護。資料安全有助於維護使用者信任感、支援業務目標，以及符合法規遵循要求。

請參考下列建議：

  • 請勿收集、保留或使用與業務目標無關的資料。如有可能，請使用合成或完全匿名資料。
  • 監控資料收集、儲存和轉換作業。維護所有資料存取和操控活動的記錄。這些記錄有助於稽核資料存取情形、偵測未經授權的存取嘗試，以及防範未經授權的存取。
  • 根據使用者角色實作不同層級的存取權 (例如無存取權、唯讀或寫入)。請務必根據最低權限原則指派權限。使用者必須只擁有執行角色活動所需的最低權限。
  • 實施加密、安全周邊和資料移動限制等措施。這些措施有助於防止資料遭竊和遺失。
  • 防範機器學習訓練系統的資料汙染。

確保 AI pipeline 安全無虞，且不會遭到竄改

AI 和機器學習程式碼，以及程式碼定義的管道都是重要資產。未受保護的程式碼可能會遭到竄改，導致資料外洩、不符法規，以及重要業務活動中斷。確保 AI 和機器學習程式碼安全無虞，有助於維護模型和模型輸出內容的完整性和價值。

請參考下列建議：

  • 在模型開發期間，請採用安全的程式設計做法，例如管理依附元件或驗證及清理輸入內容，以防範安全漏洞。
  • 保護管道程式碼和模型構件 (例如檔案、模型權重和部署規格)，避免未經授權的存取行為。根據使用者角色和需求，為每個構件實作不同存取層級。
  • 強制執行資產和管道執行的沿襲和追蹤。這項強制措施可協助您符合法規遵循要求，並避免影響生產系統。

使用安全工具和構件，在安全系統上部署

確保程式碼和模型在安全環境中執行，該環境具有完善的存取控制系統，並為部署在環境中的工具和構件提供安全保障。

請參考下列建議：

  • 在安全環境中訓練及部署模型，並採取適當的存取控管和保護措施，防止未經授權的使用或操弄行為。
  • 針對 AI 專屬構件 (例如模型和軟體套件)，遵循標準的軟體構件供應鏈級別 (SLSA) 指南。
  • 建議使用經過驗證的預建容器映像檔，這些映像檔專為 AI 工作負載設計。

保護及監控輸入內容

AI 系統需要輸入內容，才能做出預測、生成內容或自動執行動作。部分輸入內容可能造成風險，或做為攻擊向量，因此必須偵測並清除。及早偵測潛在的惡意輸入內容，有助於確保 AI 系統安全無虞，並按照預期運作。

請參考下列建議：

  • 導入安全做法，開發及管理生成式 AI 系統的提示，並確保提示經過有害意圖篩選。
  • 監控預測或生成系統的輸入內容，避免發生端點超載或系統無法處理的提示等問題。
  • 確保只有已部署系統的指定使用者可以存取。

監控、評估及準備回覆輸出內容

AI 系統可產生輸出內容，協助、改善或自動化人類決策，因此能帶來價值。為維護 AI 系統和應用程式的完整性和可信度，請務必確保輸出內容安全無虞，且符合預期參數。此外，您也需要制定事件回應計畫。

請參考下列建議：

  • 監控實際工作環境中的 AI 和 ML 模型輸出內容，並找出任何效能、安全性和法規遵循問題。
  • 導入健全的指標和安全措施，評估模型成效，例如在預測模型中找出超出範圍的生成回覆或極端輸出內容。收集使用者對模型成效的意見回饋。
  • 實作完善的快訊和事件回應程序，解決任何潛在問題。

貢獻者

作者：

其他貢獻者：

上一頁
卓越的營運成果
下一頁
可靠性