配置 Responsible AI 安全设置

控制台

1. 在 Google Cloud 控制台中，前往 Vertex AI > Media Studio 页面。

   前往媒体工作室

2. 点击 Imagen。系统会显示 Imagen Media Studio 图片生成页面。

3. 在设置面板中，调整以下选项：

   • 模型：从可用选项中选择一个模型。

     如需详细了解可用模型，请参阅 Imagen 模型

   • 结果数量：调整滑块或输入介于 1 和 4 之间的值。

4. 在安全部分中，配置以下设置：

   • 选择以下人物生成设置之一：

     • 允许（仅限成人）：仅生成成人人物或人脸。 请勿生成青少年或儿童人物或人脸。
     • 允许（所有年龄段）：生成所有年龄段的人物或人脸。
     • 不允许：不生成人物或人脸。

   • 选择以下某项安全过滤器阈值设置：

     • 屏蔽大部分：屏蔽大部分有害内容。
     • 屏蔽部分内容：屏蔽部分有问题的提示和回答。
     • 屏蔽少数：屏蔽极少数有问题的提示和回答。

5. 在编写提示框中，输入用于描述要生成的图片的文本提示。例如：“清晨水中的小船水彩插图”。

6. 点击 send 生成。

REST

在使用任何请求数据之前，请先进行以下替换：

• PROJECT_ID：您的 Google Cloud 项目 ID。
• LOCATION：您的项目的区域。 例如 us-central1、europe-west2 或 asia-northeast3。如需查看可用区域的列表，请参阅 Vertex AI 上的生成式 AI 位置。
• TEXT_PROMPT：用于指导模型生成什么图片的文本提示。生成和修改都需要此字段。
• IMAGE_COUNT：生成的图片数量。 接受的整数值：1-8 (imagegeneration@002)、1-4（所有其他模型版本）。默认值：4。
• SAFETY_SETTING：字符串。可选。一种用于控制生成图片的安全性过滤条件阈值的设置。可用的值：
  • block_low_and_above：最高安全阈值，使过滤的生成图片的数量最多。之前的值：block_most。
  • block_medium_and_above（默认值）：中等安全阈值，可平衡潜在有害内容和安全内容的过滤。之前的值：block_some。
  • block_only_high：安全阈值，可减少因安全过滤器而被屏蔽的请求数量。此设置可能会增加 Imagen 生成的不良内容。 之前的值：block_few。
• PERSON_SETTING：字符串。可选。用于控制模型允许的人物类型或人脸生成的安全设置。可用的值：
  • allow_adult（默认）：仅允许生成成年人（名人除外）。不允许针对任何设置生成名人。
  • dont_allow：禁止在生成的图片中包含人物或人脸。
• INCLUDE_RAI_REASON：布尔值。可选。是否在输入或输出被屏蔽的回答中启用 Responsible AI 过滤的原因代码。默认值：true。
• INCLUDE_SAFETY_ATTRIBUTES：布尔值。可选。是否针对未经过滤的输入和输出在回答中启用安全属性列表的四舍五入 Responsible AI 分数。安全属性类别："Death, Harm & Tragedy"、"Firearms & Weapons"、"Hate"、"Health"、"Illicit Drugs"、"Politics"、"Porn"、"Religion & Belief"、"Toxic"、"Violence"、"Vulgarity"、"War & Conflict"。默认值为 false。

HTTP 方法和网址：

POST https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/imagegeneration@006:predict

请求 JSON 正文：

{
  "instances": [
    {
      "prompt": "TEXT_PROMPT"
    }
  ],
  "parameters": {
    "sampleCount": IMAGE_COUNT,
    "safetySetting": "SAFETY_SETTING",
    "personGeneration": "PERSON_SETTING",
    "includeRaiReason": INCLUDE_RAI_REASON,
    "includeSafetyAttributes": INCLUDE_SAFETY_ATTRIBUTES
  }
}

如需发送请求，请选择以下方式之一：

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/imagegeneration@006:predict"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/imagegeneration@006:predict" | Select-Object -Expand Content