使用在线预测日志记录

控制台

在 Google Cloud 控制台中将模型部署到端点或创建新端点时，您可以在日志记录步骤中指定要启用的预测日志的类型。选中相应复选框可启用访问日志记录 (Access logging) 或容器日志记录 (Container logging)，清除相应复选框可停用这些日志。

使用 REST API 更新容器日志的设置。

使用 REST API 启用请求-响应日志记录。Google Cloud 控制台和 gcloud CLI 不支持请求-响应日志记录配置。

如需了解有关如何部署模型的更多上下文信息，请参阅使用 Google Cloud 控制台部署模型。

gcloud

如需更改在已部署模型中针对其启用日志的默认行为，请在 gcloud 命令中添加标志：

gcloud ai endpoints deploy-model ENDPOINT_ID\
  --region=LOCATION \
  --model=MODEL_ID \
  --display-name=DEPLOYED_MODEL_NAME \
  --machine-type=MACHINE_TYPE \
  --accelerator=count=2,type=nvidia-tesla-t4 \
  --disable-container-logging \
  --enable-access-logging

gcloud beta ai endpoints deploy-model ENDPOINT_ID\
  --region=LOCATION \
  --model=MODEL_ID \
  --display-name=DEPLOYED_MODEL_NAME \
  --machine-type=MACHINE_TYPE \
  --accelerator=count=2,type=nvidia-tesla-t4 \
  --enable-access-logging \
  --enable-container-logging

使用 REST API 更新容器日志的设置。

使用 REST API 启用请求-响应日志记录。Google Cloud 控制台和 gcloud CLI 不支持请求-响应日志记录配置。

如需详细了解如何部署模型，请参阅使用 Vertex AI API 部署模型。

REST

如需更改在已部署模型中针对其启用日志的默认行为，请将相关字段设置为 True：

如需详细了解如何部署模型，请参阅使用 Vertex AI API 部署模型。

请求-响应日志记录

只有在使用 projects.locations.endpoints.create 创建端点或使用 projects.locations.endpoints.patch 修补现有端点时才能启用请求-响应日志记录。

请求-响应日志记录是在端点级别完成的，因此系统会记录发送到同一端点下所有已部署模型的请求。

创建或修补端点时，请使用以下条目填充端点资源的 predictRequestResponseLoggingConfig 字段：

• enabled：设置为 True 以启用请求-响应日志记录。

• samplingPercentage：此标志表示介于 0 和 1 之间的一个数字，用于定义要记录的请求的比例。例如，将此值设置为 1 以便记录所有请求，或设置为 0.1 以便记录 10% 的请求。

• BigQueryDestination：用于日志记录的 BigQuery 表。如果仅指定项目名称，则系统会创建名为 logging_ENDPOINT_DISPLAY_NAME_ENDPOINT_ID 的新数据集，其中 ENDPOINT_DISPLAY_NAME 遵循 BigQuery 命名规则。如果您未指定表名称，则系统会创建名为 request_response_logging 的新表。

  BigQuery 表的架构应如下所示：

  字段名称	类型	模式
  endpoint	STRING	可以为空
  deployed_model_id	STRING	可以为空
  logging_time	TIMESTAMP	可以为空
  request_id	NUMERIC	可以为空
  request_payload	STRING	REPEATED
  response_payload	STRING	REPEATED

下面是一个示例配置：

{
   "predict_request_response_logging_config": {
     "enabled": true,
     "sampling_rate": 0.5,
     "bigquery_destination": {
       "output_uri": "bq://PROJECT_ID.DATASET_NAME.TABLE_NAME"
     }
   }
}