Veo の責任ある AI と使用上のガイドライン

Vertex AI の Veo は、Google の AI の原則を念頭に置いて設計されています。ただし、Google のモデルを安全かつ責任を持ってテストしてデプロイする方法をデベロッパーが理解することが重要です。デベロッパーを支援するため、Vertex AI の Veo には、お客様がユースケース内で有害な可能性がある出力をブロックできるように、安全機能が組み込まれています。詳細については、安全性フィルタをご覧ください。

お客様には、AI アプリケーションの開発時に公平性、解釈可能性、プライバシー、セキュリティのベスト プラクティスを使用することをおすすめします。詳細については、People + AI Guidebook をご覧ください。

安全フィルタ

Vertex AI の Veo には、テキスト、動画、画像など、動画を生成するためのプロンプトを入力する方法がいくつかあります。Veo に提供されたプロンプトは、有害なカテゴリ（violence、sexual、derogatory、toxic など）を含む安全フィルターのリストに照らして評価されます。これらの安全フィルターは、Google Cloudプラットフォームの利用規定、生成 AI の禁止事項に関するポリシー、または Google の AI 原則に違反する入力画像や動画を除外することを目的としています。

リクエストに対して The prompt couldn't be submitted や it might violate our policies などのエラー メッセージが返された場合は、入力に対して安全フィルタがトリガーされています。リクエストした画像より少ない画像が返された場合、安全性要件を満たしていないため、生成された一部の出力がブロックされています。

安全フィルタのコードカテゴリ

構成する安全フィルタによっては、出力に次のような安全コードが含まれる場合があります。「入力画像が Vertex AI の使用ガイドラインに違反しているため、Veo は動画を生成できませんでした。このメッセージが誤りだと思われる場合は、フィードバックを送信してください。サポートコード: 15236754」

出力に表示されるコードは、特定の有害なカテゴリに対応しています。

次の表は、エラーコードと安全カテゴリのマッピングを示しています。

エラーコード	安全性のカテゴリ	説明
58061214 17301594	子	personGeneration が "allow_all" に設定されていない場合、またはプロジェクトがこの機能の許可リストに登録されていない場合、子どもを描写したコンテンツを生成するリクエストを拒否します。
29310472 15236754	有名人	著名人のフォトリアリスティックな表現を生成するリクエストを拒否します。また、プロジェクトがこの機能の許可リストに登録されていない場合も拒否します。
64151117 42237218	動画の安全性の違反	安全性に関する違反のコンテンツを検出します。
62263041	危険なコンテンツ	本質的に危険な可能性のあるコンテンツを検出します。
57734940 22137204	悪意のあるコンテンツ	ヘイト関連のトピックやコンテンツを検出します。
74803281 29578790 42876398	その他	リクエストに関するその他の安全性に関する問題を検出します。
92201652	個人情報	テキスト内の個人情報（PII）を検出します。たとえば、クレジット カード番号、自宅の住所、その他の個人情報の記載を検出します。
89371032 49114662 72817394	禁止コンテンツ	リクエストで禁止コンテンツのリクエストを検出します。
90789179 63429089 43188360	性的	性的なコンテンツを検出します。
78610348	有害	テキスト内の有害なトピックやコンテンツを検出します。
61493863 56562880	暴力	画像またはテキストから暴力関連のコンテンツを検出します。
32635315	下品	テキストから下品なトピックやコンテンツを検出します。

次のステップ

• 大規模言語モデル（LLM）用の責任ある AI について学ぶ

• 責任ある AI への取り組みに関する Google の推奨事項について学ぶ。

• Google のブログ、責任ある AI の進展に関する共有アジェンダを読む。