Veo 的負責任 AI 和使用指南

Vertex AI 中的 Veo 是按照 Google 的 AI 原則設計，不過，開發人員務必瞭解如何安全且負責任地測試及部署 Google 的模型。為協助開發人員，Vertex AI 上的 Veo 內建安全功能，可協助客戶在用例中封鎖可能有害的輸出內容。詳情請參閱安全篩選器。

我們建議客戶在開發 AI 應用程式時，採用公平性、可解釋性、隱私權和安全性最佳做法。詳情請參閱《People + AI Guidebook》。

安全篩選機制

在 Vertex AI 運用 Veo 時，可以透過多種方式輸入提示來生成影片，包括文字、影片和圖片。系統會根據安全篩選器清單評估提供給 Veo 的提示，包括有害類別 (例如 violence、sexual、derogatory 和 toxic)。這些安全篩選器旨在濾除違反Google Cloud平台使用限制政策、生成式 AI 禁用政策或我們的 AI 原則的輸入圖片和影片。

如果模型對要求的回覆是錯誤訊息 (例如 The prompt couldn't be submitted 或 it might violate our policies)，表示輸入內容觸發了安全防護篩選器。如果系統傳回的圖片數量少於要求，表示部分生成的輸出內容因不符合安全規定而遭到封鎖。

安全篩選器代碼類別

視您設定的安全篩選器而定，輸出內容可能包含類似以下的安全代碼：「Veo 無法生成影片，因為輸入圖片違反 Vertex AI 的使用規範。如果您認為這項處置有誤，請傳送意見回饋。支援代碼：15236754

輸出內容中列出的代碼對應至特定有害類別。

下表顯示錯誤碼與安全類別的對應關係：

錯誤代碼 安全類別 說明
58061214
17301594 		子項 偵測因 API 要求設定或許可清單而禁止的兒童內容。
29310472
15236754 		名人 偵測要求中逼真的名人圖像。
62263041 危險內容 偵測本質上可能危險的內容。
57734940
22137204 		仇恨 偵測仇恨相關主題或內容。
74803281
29578790
42876398 		其他 偵測要求中的其他雜項安全問題
92201652 個人資訊 偵測文字中的個人識別資訊 (PII)，例如提及信用卡號碼、住家地址或其他這類資訊。
89371032
49114662
72817394 		禁止宣傳的內容 偵測要求中是否含有違禁內容。
90789179
63429089
43188360 		色情內容 偵測色情內容。
78610348 惡意言論 偵測文字中的惡意主題或內容。
61493863
56562880 		暴力 偵測圖片或文字中與暴力相關的內容。
32635315 粗俗 從文字中偵測粗俗的主題或內容。

後續步驟