AI 保护功能可检测威胁，并帮助您降低 AI 资产清单的风险，从而帮助您管理 AI 工作负载的安全状况。本文档简要介绍了 AI 保护，包括其优势和几个关键概念。
AI 保护概览
AI 保护提供多种功能来帮助您管理 AI 系统的威胁和风险，包括：
- 评估 AI 资产：评估并了解您的 AI 系统和 AI 资产，包括模型和数据集。
- 管理风险和合规性：主动管理 AI 资产的风险，并验证 AI 部署是否符合相关的安全标准。
- 降低法律和财务风险：降低与安全漏洞和违规行为相关的财务、声誉和法律风险。
- 检测和管理威胁：及时检测和应对 AI 系统和资产面临的潜在威胁。
- 查看一个信息中心：在一个集中式信息中心内管理所有与 AI 相关的风险和威胁。
使用场景
AI Protection 可帮助组织识别并减轻与 AI 系统和敏感数据相关的威胁和风险，从而增强组织的安全防护能力。以下用例示例展示了 AI 保护功能在不同组织中的应用：
金融服务机构：客户财务数据
一家大型金融服务机构使用可处理敏感财务数据的 AI 模型。
- 挑战：使用 AI 模型处理高度敏感的财务数据会带来多种风险，包括数据泄露风险、训练或推理期间的数据渗漏风险，以及底层 AI 基础设施中的漏洞。
- 使用情形：AI Protection 会持续监控 AI 工作流中的可疑活动，检测未经授权的数据访问和异常模型行为，执行敏感数据分类，并帮助您更好地遵守 PCI DSS 和 GDPR 等法规。
医疗服务提供方：患者隐私权和合规性
一家大型医疗服务提供方管理电子健康记录，并使用 AI 进行诊断和治疗规划，处理受保护健康信息 (PHI)。
- 挑战：AI 模型分析的 PHI 必须遵守 HIPAA 等严格法规。风险包括因配置不当或针对 AI 系统（旨在获取患者数据）的恶意攻击而意外泄露 PHI。
- 应用场景：AI 保护功能可识别并提醒潜在的 HIPAA 违规行为，检测模型或用户对 PHI 的未经授权访问，标记存在漏洞且可能配置错误的 AI 服务，并监控数据泄露情况。
制造和机器人公司：专有知识产权
一家专注于先进机器人技术和自动化技术的制造公司非常依赖 AI 来优化生产线和机器人控制，其 AI 算法和制造数据中嵌入了重要的知识产权 (IP)。
- 挑战：专有 AI 算法和敏感的运营数据容易受到内部威胁或外部攻击者的盗窃，这可能会导致竞争劣势或运营中断。
- 使用情形：AI 保护功能可监控对 AI 模型和代码库的未经授权的访问，检测渗漏已训练模型的尝试和异常数据访问模式，并标记 AI 开发环境中的漏洞，以防止知识产权盗窃。
AI 保护框架
AI 防护是一个框架，其中包含在检测模式下自动部署的特定云控制措施。侦测模式是指将云控制措施应用于定义的资源，以便进行监控。系统会检测所有违规行为并生成提醒。您可以使用框架和云控制措施来定义 AI 保护要求，并将这些要求应用于您的 Google Cloud 环境。AI 保护包括默认框架，该框架定义了 AI 保护的建议基准控制措施。启用 AI 保护功能后，系统会自动以检测模式将默认框架应用于 Google Cloud 组织。
如果需要，您可以复制该框架，以创建自定义 AI 保护框架。您可以将云控制措施添加到自定义框架，并将自定义框架应用于组织、文件夹或项目。例如，您可以创建自定义框架，以将特定管辖区控制措施应用于特定文件夹，从而确保这些文件夹中的数据保留在特定地理区域内。
默认 AI 保护框架中的云控制措施
以下云控制措施是默认 AI 保护框架的一部分。
| 云控制措施名称 | 说明 |
|---|---|
阻止 Vertex AI Workbench 实例使用默认 VPC 网络 |
请勿在默认 VPC 网络中创建 Workbench 实例，以帮助防止使用其过于宽松的默认防火墙规则。 |
为 Vertex AI Workbench 实例屏蔽公共 IP 地址 |
不允许 Workbench 实例使用外部 IP 地址，以减少互联网暴露面并最大限度地降低未经授权访问的风险。 |
为 Vertex AI 自定义作业启用 CMEK |
要求在 Vertex AI 自定义训练作业中使用客户管理的加密密钥 (CMEK)，以便更好地控制作业输入和输出的加密。 |
为 Vertex AI Featurestore 启用 CMEK |
要求为 Vertex AI 特征存储区使用客户管理的加密密钥 (CMEK)，以便更好地控制数据加密和访问。 |
为 Vertex AI 超参数调节作业启用 CMEK |
要求在超参数调节作业中使用客户管理的加密密钥 (CMEK)，以便更好地控制模型训练数据和作业配置的加密。 |
为 Vertex AI 模型启用 CMEK |
要求为 Vertex AI 模型使用客户管理的加密密钥 (CMEK)，以便更好地控制数据加密和密钥管理。 |
为 Vertex AI Notebook 运行时模板启用 CMEK |
要求为 Colab Enterprise 运行时模板使用客户管理的加密密钥 (CMEK)，以帮助保护运行时环境和关联的数据。 |
为 Vertex AI TensorBoard 启用 CMEK |
要求为 Vertex AI TensorBoard 使用客户管理的加密密钥 (CMEK)，以便更好地控制实验数据和模型可视化的加密。 |
为 Vertex AI 训练流水线启用 CMEK |
在 Vertex AI 训练流水线上要求使用客户管理的加密密钥 (CMEK)，以便更好地控制训练数据和生成的制品。 |
为 Vertex AI Workbench 实例启用 CMEK |
要求为 Vertex AI Workbench 实例使用客户管理的加密密钥 (CMEK)，以便更好地控制数据加密。 |
为 Vertex AI Runtime 模板启用空闲关机 |
在 Colab Enterprise 运行时模板中启用自动空闲关机功能，以优化云费用、改进资源管理并增强安全性。 |
为 Vertex AI Workbench 实例启用完整性监控 |
在 Workbench 实例上启用完整性监控功能，以针对可信基准持续证明虚拟机的启动完整性。 |
为 Vertex AI Workbench 实例启用安全启动 |
为 Workbench 实例启用安全启动，有助于防止未经授权或恶意软件在启动过程中运行。 |
在 Vertex AI Workbench 实例上启用 vTPM |
在 Workbench 实例上启用虚拟可信平台模块 (vTPM)，以保护启动过程并更好地控制加密。 |
限制 Vertex AI Workbench 实例对默认服务账号的使用 |
限制对 Workbench 实例使用权限过高的默认服务账号，以降低未经授权访问 Google Cloud服务的风险。 |
支持的功能区
本部分定义了 AI 保护功能可帮助保护的功能区域。
- AI 工作负载：AI 应用工作负载的范围很广，从旨在提高员工工作效率的内部工具到旨在改善用户体验和推动业务发展的面向消费者的解决方案，应有尽有。例如 AI 代理、虚拟助理、对话式 AI 聊天机器人和个性化推荐。
- AI 模型：AI 模型分为基础 AI 模型、微调 AI 模型、标准第一方 AI 模型和自定义 AI 模型。例如 Gemini、Llama、翻译模型和用于特定任务的自定义模型。
- AI 资产：AI 资产有助于机器学习操作流水线，并由 AI 工作负载使用。AI 资产类型包括以下内容：
- 声明式 AI 资产：Vertex AI 等 AI 生命周期管理工具会跟踪这些资产。
- 推理 AI 资产：用于处理 AI 数据或工作负载的通用资产，例如计算和存储资产。
- Model-as-a-Service（仅限 API）：通过程序化调用第一方或第三方 AI 模型的资源。
使用 AI 安全信息中心
AI 安全信息中心可全面展示组织的 AI 资产清单，并提出潜在的缓解措施，以增强风险和威胁管理。
访问信息中心
如需访问 AI 安全信息中心，请在 Google Cloud 控制台中依次前往风险概览 > AI 安全。
如需了解详情，请参阅 AI 安全信息中心
了解风险信息
本部分介绍了与 AI 系统相关的潜在风险。您可以查看 AI 清单中的主要风险。
您可以点击任何问题，打开提供问题可视化效果的详细信息窗格。
查看 AI 威胁
本部分深入分析了与 AI 系统相关的威胁。您可以查看与您的 AI 资源相关的最新 5 项威胁。
在此页面上，您可以执行以下操作：
- 点击查看全部，即可查看与 AI 资源关联的威胁。
- 点击任意威胁即可查看有关该威胁的更多详细信息。
直观呈现广告资源
您可以在信息中心内查看 AI 资产的可视化图表，其中汇总了涉及生成式 AI 的项目、正在使用的第一方和第三方模型，以及用于训练第三方模型的数据集。
在此页面上，您可以执行以下操作：
- 如需查看商品目录详情页面，请点击可视化图表中的任意节点。
- 如需查看各个资产（例如基础模型和自定义构建的模型）的详细列表，请点击相应提示。
- 如需打开模型的详细视图，请点击相应模型。此视图会显示详细信息，例如模型托管的端点以及用于训练模型的数据集。如果启用了 Sensitive Data Protection，数据集视图还会显示数据集是否包含任何敏感数据。
审核结果摘要
本部分可帮助您评估和管理由 AI 框架和数据安全政策生成的发现结果。本部分包含以下内容：
- 发现结果：此部分会显示 AI 安全政策和数据安全政策生成的发现结果摘要。点击查看所有发现结果，或点击每个发现结果类别旁边的数量，即可查看发现结果详情页面。点击某个发现结果可显示有关该发现结果的更多信息。
- Vertex AI 数据集中的敏感数据：此部分会显示 Sensitive Data Protection 报告的基于数据集中的敏感数据的发现结果摘要。
检查 Model Armor 发现结果
图表显示了 Model Armor 扫描的提示或回答总数，以及 Model Armor 检测到的问题数量。此外，它还会显示检测到的各种类型问题的汇总统计信息，例如提示注入、越狱检测和敏感数据检测。
此信息会根据 Model Armor 发布到 Cloud Monitoring 的指标进行填充。