AI 和机器学习视角：安全性

Last reviewed 2024-10-11 UTC

架构完善框架：AI 和机器学习视角中的本文档概述了相关原则和建议，可确保您的 AI 和机器学习部署满足组织的安全和合规性要求。本文档中的建议与 Google Cloud 架构完善框架的安全性支柱保持一致。

安全部署 AI 和机器学习工作负载是一项关键要求，尤其是在企业环境中。为满足此要求，您需要采用全面的安全方法，从 AI 和机器学习解决方案的初始概念化阶段开始，一直延伸到开发、部署和持续运营阶段。 Google Cloud 提供强大的工具和服务，旨在帮助您保护 AI 和机器学习工作负载。

定义明确的目标和要求

在设计和开发流程的早期阶段集成所需的安全和合规控制措施，比在开发完成后添加这些控制措施要容易得多。从设计和开发流程开始，就要根据您的特定风险环境和特定业务优先级做出适当的决策。

请考虑以下建议：

  • 从一开始就识别潜在的攻击途径，并从安全和合规的角度出发。在设计和改进 AI 系统时，请密切关注攻击面、潜在风险以及您可能需要承担的义务。
  • 使 AI 和 ML 安全工作与业务目标保持一致，并确保安全是整体策略不可或缺的一部分。 了解您的安全选择对主要业务目标的影响。

确保数据安全并防止数据丢失或被误用

数据是一种宝贵而敏感的资产，必须妥善保护。数据安全有助于您维护用户信任、支持业务目标并满足合规性要求。

请考虑以下建议：

  • 请勿收集、保留或使用对实现业务目标而言并非绝对必要的数据。如果可能，请使用合成数据或完全匿名化数据。
  • 监控数据收集、存储和转换。维护所有数据访问和操纵活动的日志。这些日志有助于您审核数据访问、检测未经授权的访问尝试，以及防止不合规定的访问。
  • 根据用户角色实现不同级别的访问权限（例如，无访问权限、只读或写入）。确保根据最小权限原则分配权限。用户必须仅拥有必要的最低权限，才能执行其角色活动。
  • 实施加密、安全边界和数据移动限制等措施。这些措施有助于防止数据渗漏和数据丢失。
  • 防范机器学习训练系统的数据中毒攻击。

确保 AI 流水线安全可靠，免遭篡改

您的 AI 和机器学习代码以及代码定义的流水线是关键资产。未受保护的代码可能会被篡改，从而导致数据泄露、违规和关键业务活动中断。确保 AI 和 ML 代码的安全性有助于确保模型和模型输出的完整性和价值。

请考虑以下建议：

  • 在模型开发期间，采用安全的编码实践，例如依赖项管理或输入验证和清理，以防止出现漏洞。
  • 保护您的流水线代码和模型制品（例如文件、模型权重和部署规范）免遭未经授权的访问。 根据用户角色和需求，为每个制品实现不同的访问权限级别。
  • 强制执行资产和流水线运行的沿袭和跟踪。这种强制执行有助于您满足合规性要求，并避免损害生产系统。

使用安全工具和工件在安全系统上部署

确保您的代码和模型在安全环境中运行，该环境具有强大的访问权限控制系统，可为部署在环境中的工具和制品提供安全保障。

请考虑以下建议：

  • 在安全的环境中训练和部署模型，该环境具有适当的访问权限控制措施，可防止未经授权的使用或操纵。
  • 遵循针对 AI 特定制品（例如模型和软件包）的软件制品供应链等级 (SLSA) 标准指南。
  • 建议使用经过验证的预构建容器映像，这些映像是专门为 AI 工作负载设计的。

保护和监控输入

AI 系统需要输入内容才能进行预测、生成内容或自动执行操作。某些输入内容可能存在风险或被用作攻击途径，必须检测并清理。尽早检测到潜在的恶意输入有助于确保 AI 系统的安全并按预期运行。

请考虑以下建议：

  • 实施安全实践，为生成式 AI 系统开发和管理提示，并确保对提示进行有害意图筛查。
  • 监控预测性或生成性系统的输入，以防止出现端点过载或系统无法处理的提示等问题。
  • 确保只有已部署系统的预期用户才能使用该系统。

监控、评估并准备好回复输出内容

AI 系统之所以能创造价值，是因为它们生成的输出可以增强、优化或自动化人类的决策过程。为了保持 AI 系统和应用的完整性和可信度，您需要确保输出安全且在预期参数范围内。您还需要制定应对突发事件的方案。

请考虑以下建议：

  • 监控生产环境中 AI 和 ML 模型的输出，并发现任何性能、安全性和合规性问题。
  • 通过实施可靠的指标和安全措施来评估模型性能，例如在预测模型中识别超出范围的生成式回答或极端输出。收集用户对模型性能的反馈。
  • 实施完善的提醒和突发事件响应程序，以解决任何潜在问题。

贡献者

作者：

其他贡献者：

上一页
卓越运营
下一页
可靠性