Veo 的 Responsible AI 和使用指南

Vertex AI 上的 Veo 在设计时考虑到了 Google 的 AI 原则。不过，开发者必须了解如何以负责任的方式安全测试和部署 Google 的模型。为了帮助开发者，Vertex AI 上的 Veo 具有内置的安全功能，可帮助客户在其使用场景中阻止潜在的有害输出。如需了解详情，请参阅安全过滤器。

我们建议客户在开发 AI 应用时使用公平性、可解释性、隐私权和安全最佳实践。如需了解详情，请参阅《人与 AI 指南》。

安全过滤器

Vertex AI 中的 Veo 提供多种输入提示的方式来生成视频，包括文本、视频和图片。系统会根据一系列安全过滤条件（包括有害类别，例如 violence、sexual、derogatory 和 toxic）评估提供给 Veo 的提示。这些安全过滤条件旨在过滤掉违反 Google Cloud平台使用政策、生成式 AI 禁用的使用政策或我们的 AI 原则的输入图片和视频。

如果模型响应请求并显示错误消息（例如 The prompt couldn't be submitted 或 it might violate our policies），则表示输入内容触发了安全过滤器。如果返回的图片少于请求的图片数，则由于不符合安全要求，某些生成的输出会被阻止。

安全过滤器代码类别

根据您配置的安全过滤器，您的输出可能包含类似于以下内容的安全代码：“Veo 无法生成视频，因为输入图片违反了 Vertex AI 的使用准则。如果您认为我们的处置结果有误，请发送反馈。支持代码：15236754”

输出中列出的代码对应于特定的有害类别。

下表显示了错误代码与安全类别之间的映射：

错误代码 安全类别 说明
58061214
17301594 		子项 检测因 API 请求设置或许可名单而不允许的儿童内容。
29310472
15236754 		名人 检测请求中名人的逼真表示。
62263041 危险内容 检测本质上具有潜在危险的内容。
57734940
22137204 		讨厌的 检测与仇恨相关的主题或内容。
74803281
29578790
42876398 		其他 检测请求中的其他各种安全问题
92201652 个人信息 检测文本中的个人身份信息 (PII)，例如提及信用卡号、住址或其他此类信息。
89371032
49114662
72817394 		禁止的内容 检测请求中的禁止的内容。
90789179
63429089
43188360 		色情内容 检测色情性内容。
78610348 有害内容 检测文本中的有害主题或内容。
61493863
56562880 		暴力 检测图片或文本中与暴力相关的内容。
32635315 粗俗 检测文本中的粗俗主题或内容。

后续步骤