Veo 的 Responsible AI 和使用指南

Vertex AI 上的 Veo 在设计时考虑到了 Google 的 AI 原则。不过，开发者必须了解如何以负责任的方式安全测试和部署 Google 的模型。为了帮助开发者，Veo on Vertex AI 具有内置的安全功能，可帮助客户在其使用场景中阻止潜在的有害输出。如需了解详情，请参阅安全过滤条件。

我们建议客户在开发 AI 应用时使用公平性、可解释性、隐私权和安全最佳实践。如需了解详情，请参阅《人与 AI 指南》。

安全过滤器

Veo on Vertex AI 提供多种输入提示的方式来生成视频，包括文本、视频和图片。系统会根据一系列安全过滤条件评估提供给 Veo 的提示，这些过滤条件包括有害类别（例如 violence、sexual、derogatory 和 toxic）。这些安全过滤条件旨在过滤掉违反Google Cloud《平台使用政策》《生成式 AI 禁止的使用政策》或《我们的 AI 原则》的输入图片和视频。

如果模型响应请求并显示错误消息（例如 The prompt couldn't be submitted 或 it might violate our policies），则表示输入内容触发了安全过滤器。如果返回的视频少于请求的视频数，则由于不符合安全要求，某些生成的输出会被阻止。

安全过滤器代码类别

根据您配置的安全过滤器，您的输出可能包含类似于以下内容的安全代码：“Veo 无法生成视频，因为输入图片违反了 Vertex AI 的使用准则。如果您认为我们的处置结果有误，请发送反馈。支持代码：15236754”

输出中列出的代码对应于特定的有害类别。

下表显示了错误代码与安全类别之间的映射：

错误代码	安全类别	说明
58061214 17301594	子项	如果 personGeneration 未设置为 "allow_all"，或者项目不在此功能的许可名单中，则拒绝生成描绘儿童的内容的请求。
29310472 15236754	名人	拒绝生成知名人士的逼真表示的请求，或者拒绝项目不在此功能的许可名单中的请求。
64151117 42237218	视频安全违规	检测违反安全政策的内容。
62263041	危险内容	检测本质上具有潜在危险的内容。
57734940 22137204	讨厌的	检测与仇恨相关的主题或内容。
74803281 29578790 42876398	其他	检测请求中的其他各种安全问题
92201652	个人信息	检测文本中的个人身份信息 (PII)，例如提及信用卡号、住址或其他此类信息。
89371032 49114662 72817394	禁止的内容	检测请求中的禁止的内容。
90789179 63429089 43188360	色情内容	检测色情性内容。
78610348	有害内容	检测文本中的有害主题或内容。
61493863 56562880	暴力	检测视频或文本中与暴力相关的内容。
32635315	粗俗	检测文本中的粗俗主题或内容。

后续步骤

• 了解适用于大型语言模型 (LLM) 的 Responsible AI

• 详细了解 Google 关于 Responsible AI 实践的建议

• 阅读我们的博客：Responsible AI 进度的共享日程