管理转移作业
本文档介绍了如何管理现有数据转移配置。
您还可以手动触发现有转移作业(也称为启动回填运行)。
查看转移作业
通过查看有关每个转移作业的信息、列出所有现有转移作业以及查看转移作业运行历史记录或日志消息,查看现有的转移配置。
所需的角色
如需获得查看转移作业详细信息所需的权限,请让管理员在项目上为您授予 BigQuery User (roles/bigquery.user
) IAM 角色。
如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限。
此外,如需通过 Google Cloud 控制台查看日志消息,您必须具有查看 Cloud Logging 数据的权限。Logs Viewer 角色 (roles/logging.viewer
) 为您提供对 Logging 所有功能的只读权限。如需详细了解云日志数据所适用的 Identity and Access Management (IAM) 权限和角色,请参阅 Cloud Logging 访问权限控制指南。
如需详细了解 BigQuery Data Transfer Service 中的 IAM 角色,请参阅访问权限控制。
获取转移作业详细信息
创建传输后,您可以获取有关传输配置的信息。配置包含您在创建转移作业时提供的值,以及资源名称等其他重要信息。
获取转移作业配置相关信息的方法如下:
控制台
进入数据传输页面。
选择要获取详情的转移作业。
如需查看转移作业配置和数据源详细信息,请点击转移详情页面上的配置。以下示例展示了 Google Ads 转移作业的配置属性:
bq
输入 bq show
命令并提供转移作业配置的资源名称。--format
标志可用于控制输出格式。
bq show \
--format=prettyjson \
--transfer_config resource_name
将 resource_name
替换为转移作业的资源名称(也称为转移配置)。如果您不知道转移作业的资源名称,您可以通过以下命令查找资源名称:bq ls --transfer_config --transfer_location=location
。
例如,输入以下命令可显示转移作业配置 projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7
。
bq show \
--format=prettyjson \
--transfer_config projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7
API
使用 projects.locations.transferConfigs.get
方法并通过 name
参数提供转移作业配置。
Java
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Java 设置说明进行操作。 如需了解详情,请参阅 BigQuery Java API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
列出传输配置
列出项目中的所有现有转移配置:
控制台
在 Google Cloud 控制台中,转到“数据转移”页面。
如果项目中有转移配置,则数据转移列表上会显示转移配置列表。
bq
要按位置列出一个项目的所有转移作业配置,请输入 bq ls
命令并提供 --transfer_location
和 --transfer_config
标志。您还可以提供 --project_id
标志以指定具体项目。如果未指定 --project_id
,则系统会使用默认项目。--format
标志可用于控制输出格式。
要列出特定数据源的转移作业配置,请提供 --filter
标志。
要以分页格式查看特定数量的转移作业配置,请提供 --max_results
标志以指定转移作业数量。该命令使用 --page_token
标志返回您提供的页面标记,以查看后续 n 个配置。 如果省略 --max_results
,则系统最多会返回 1000 个配置。此外,--max_results
不接受大于 1000 的值。如果您的项目拥有超过 1000 个配置,您可以使用 --max_results
和 --page_token
遍历所有配置。
bq ls \ --transfer_config \ --transfer_location=location \ --project_id=project_id \ --max_results=integer \ --filter=dataSourceIds:data_sources
替换以下内容:
location
是转移配置的位置。位置是在您创建转移作业时指定的。project_id
是您的项目 ID。integer
是每页要显示的结果数。data_sources
是以下一项或多项:amazon_s3
- Amazon S3 数据转移azure_blob_storage
- Azure Blob Storage 数据转移dcm_dt
- Campaign Manager 数据转移google_cloud_storage
- Cloud Storage 数据转移cross_region_copy
- 数据集副本dfp_dt
- Google Ad Manager 数据转移adwords
- Google Ads 数据转移google_ads
- Google Ads 数据传输(预览版)merchant_center
- Google Merchant Center 数据转移play
- Google Play 数据转移scheduled_query
- 计划查询数据传输doubleclick_search
- Search Ads 360 数据转移youtube_channel
- YouTube 频道数据转移youtube_content_owner
- YouTube 内容所有者数据转移redshift
- Amazon Redshift 迁移on_premises
- Teradata 迁移
示例:
输入以下命令以显示您的默认项目位于美国的所有转移作业配置。--format
标志用于控制输出。
bq ls \
--format=prettyjson \
--transfer_config \
--transfer_location=us
输入以下命令以显示 ID 为 myproject
的项目位于美国的所有转移作业配置。
bq ls \
--transfer_config \
--transfer_location=us \
--project_id=myproject
输入以下命令以列出最新的 3 个转移作业配置。
bq ls \
--transfer_config \
--transfer_location=us \
--project_id=myproject \
--max_results=3
该命令会返回下一页标记。复制页面标记并在 bq ls
命令中提供此标记,以查看接下来的 3 个结果。
bq ls \
--transfer_config \
--transfer_location=us \
--project_id=myproject \
--max_results=3 \
--page_token=AB1CdEfg_hIJKL
输入以下命令以列出项目 ID 为 myproject
的 Ads 和 Campaign Manager 转移作业配置。
bq ls \
--transfer_config \
--transfer_location=us \
--project_id=myproject \
--filter=dataSourceIds:dcm_dt,google_ads
API
使用 projects.locations.transferConfigs.list
方法并通过 parent
参数提供项目 ID。
Java
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Java 设置说明进行操作。 如需了解详情,请参阅 BigQuery Java API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
Python
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Python 设置说明进行操作。 如需了解详情,请参阅 BigQuery Python API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
查看转移作业运行历史记录
在运行已安排好的传输时,系统会为每个传输配置保留运行历史记录,其中包括成功的传输运行和失败的传输运行。超过 90 天的传输运行会从运行历史记录中自动删除。
查看转移作业配置的运行历史记录的方法如下:
控制台
在 Google Cloud 控制台中,转到“数据转移”页面。
点击数据转移作业列表中的转移作业。
您将转到所选转移作业的运行历史记录页面。
bq
要列出特定转移作业配置的转移作业运行,请输入 bq
ls
命令并提供 --transfer_run
标志。您还可以提供 --project_id
标志以指定具体项目。如果 resource_name 不包含项目信息,则系统会使用 --project_id
值。如果未指定 --project_id
,则系统会使用默认项目。--format
标志可用于控制输出格式。
要查看特定数量的转移作业运行,请提供 --max_results
标志。该命令使用 --page_token
标志返回您提供的页面标记,以查看后续 n 个配置。
要根据运行状态列出转移作业运行,请提供 --filter
标志。
bq ls \ --transfer_run \ --max_results=integer \ --transfer_location=location \ --project_id=project_id \ --filter=states:state, ... \ resource_name
替换以下内容:
integer
是要返回的结果数。location
是转移配置的位置。位置是在您创建转移作业时指定的。project_id
是您的项目 ID。state, ...
是以下内容之一或是一个以英文逗号分隔的列表:SUCCEEDED
FAILED
PENDING
RUNNING
CANCELLED
resource_name
是转移作业的资源名称(也称为转移配置)。如果您不知道转移作业的资源名称,您可以通过以下命令查找资源名称:bq ls --transfer_config --transfer_location=location
。
示例:
输入以下命令,以显示转移作业配置 projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7
的 3 次最新运行。--format
标志用于控制输出。
bq ls \
--format=prettyjson \
--transfer_run \
--max_results=3 \
--transfer_location=us \
projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7
该命令会返回下一页标记。复制页面标记并在 bq ls
命令中提供此标记,以查看接下来的 3 个结果。
bq ls \
--format=prettyjson \
--transfer_run \
--max_results=3 \
--page_token=AB1CdEfg_hIJKL \
--transfer_location=us \
projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7
输入以下命令以显示转移作业配置 projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7
的所有失败的运行。
bq ls \
--format=prettyjson \
--transfer_run \
--filter=states:FAILED \
--transfer_location=us \
projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7
API
使用 projects.locations.transferConfigs.runs.list
方法并通过 parent
参数指定项目 ID。
Java
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Java 设置说明进行操作。 如需了解详情,请参阅 BigQuery Java API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
查看转移作业运行详情和日志消息
在传输运行出现在运行历史记录中时,您可以查看运行详情,包括日志消息、警告和错误、运行名称以及开始和结束时间。
查看转移作业运行详情的方法如下:
控制台
在 Google Cloud 控制台中,转到“数据转移”页面。
点击数据转移作业列表中的转移作业。
您将转到所选转移作业的运行历史记录页面。
点击各次转移作业运行,相应的运行详情面板就会打开。
在运行详情中,记下所有错误消息。在联系 Cloud Customer Care 时,您需要用到这些信息。运行详情还包括日志消息和警告。
bq
要查看转移作业运行详情,请输入 bq show
命令并使用 --transfer_run
标志提供转移作业运行的名称。--format
标志可用于控制输出格式。
bq show \ --format=prettyjson \ --transfer_run run_name
将 run_name
替换为转移作业运行的运行名称。您可以使用 bq ls
命令检索运行名称。
示例:
输入以下命令以显示转移作业运行 projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7/runs/1a2b345c-0000-1234-5a67-89de1f12345g
的详情。
bq show \
--format=prettyjson \
--transfer_run \
projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7/runs/1a2b345c-0000-1234-5a67-89de1f12345g
要查看转移作业运行的转移作业日志消息,请输入带有 --transfer_log
标志的 bq ls
命令。您可以使用 --message_type
标志按类型过滤日志消息。
要查看特定数量的日志消息,请提供 --max_results
标志。该命令使用 --page_token
标志返回您提供的页面标记,以查看后续 n 条消息。
bq ls \ --transfer_log \ --max_results=integer \ --message_type=messageTypes:message_type \ run_name
替换以下内容:
integer
是要返回的日志消息数量。message_type
是要查看的日志消息的类型(单个值或以英文逗号分隔的列表):INFO
WARNING
ERROR
run_name
是转移作业运行名称。您可以使用bq ls
命令检索运行名称。
示例:
输入以下命令以查看转移作业运行 projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7/runs/1a2b345c-0000-1234-5a67-89de1f12345g
的前 2 条日志消息。
bq ls \
--transfer_log \
--max_results=2 \
projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7/runs/1a2b345c-0000-1234-5a67-89de1f12345g
该命令会返回下一页标记。复制页面标记并在 bq ls
命令中提供此标记,以查看接下来的 2 个结果。
bq ls \
--transfer_log \
--max_results=2 \
--page_token=AB1CdEfg_hIJKL \
projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7/runs/1a2b345c-0000-1234-5a67-89de1f12345g
输入以下命令以仅查看转移作业运行 projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7/runs/1a2b345c-0000-1234-5a67-89de1f12345g
的错误消息。
bq ls \
--transfer_log \
--message_type=messageTypes:ERROR \
projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7/runs/1a2b345c-0000-1234-5a67-89de1f12345g
API
使用 projects.transferConfigs.runs.transferLogs.list
方法并通过 parent
参数提供转移作业运行的名称。
Java
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Java 设置说明进行操作。 如需了解详情,请参阅 BigQuery Java API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
修改转移作业
您可以修改现有转移作业,方法是修改转移配置的相关信息,更新附加到转移配置的用户凭据,以及停用或删除转移作业。
所需的角色
如需获得修改转移作业所需的权限,请让管理员在项目上为您授予 BigQuery Admin (roles/bigquery.admin
) IAM 角色。如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限。
更新传输
创建转移配置后,您可以修改以下字段:
- 目标数据集
- 显示名称
- 为特定传输类型指定的任何参数
- 运行通知设置
- 服务账号
创建转移作业后,您无法修改转移作业的来源。
更新转移作业的方法如下:
控制台
在 Google Cloud 控制台中,转到“数据转移”页面。
点击数据转移作业列表中的转移作业。
点击修改以更新转移作业配置。
bq
输入 bq update
命令,使用 --transfer_config
标志提供转移配置的资源名称,并指定 --display_name
、--params
、--refresh_window_days
、--schedule
或 --target_dataset
标志。您可以选择为计划查询或 Cloud Storage 转移作业指定 --destination_kms_key
标志。
bq update \ --display_name='NAME' \ --params='PARAMETERS' \ --refresh_window_days=INTEGER \ --schedule='SCHEDULE' --target_dataset=DATASET_ID \ --destination_kms_key="DESTINATION_KEY" \ --transfer_config \ --service_account_name=SERVICE_ACCOUNT \ RESOURCE_NAME
替换以下内容:
NAME
:转移配置的显示名称。PARAMETERS
:转移作业配置的参数(采用 JSON 格式)。例如:--params='{"param1":"param_value1"}'
。您可以修改以下参数:- Campaign Manager:
bucket
和network_id
- Google Ad Manager:
bucket
和network_code
- Google Ads:
customer_id
- Google Merchant Center:
merchant_id
- Google Play:
bucket
和table_suffix
- 计划查询:
destination_table_kms_key
、destination_table_name_template
、partitioning_field
、partitioning_type
、query
和write_disposition
- Search Ads 360:
advertiser_id
、agency_id
、custom_floodlight_variables
、include_removed_entities
和table_filter
- YouTube 频道:
table_suffix
- YouTube 内容所有者:
content_owner_id
和table_suffix
- Campaign Manager:
INTEGER
:一个介于 0 到 30 之间的值。如需了解如何设置刷新时段,请参阅对应于您的转移作业类型的文档。SCHEDULE
:周期性安排,例如--schedule="every 3 hours"
。如需了解schedule
语法,请参阅设置schedule
的格式。- DATASET_ID:转移作业配置的目标数据集。
- DESTINATION_KEY:Cloud KMS 密钥资源 ID,例如
projects/project_name/locations/us/keyRings/key_ring_name/cryptoKeys/key_name
。CMEK 仅适用于预定查询或 Cloud Storage 转移作业。 - SERVICE_ACCOUNT:指定要用于转移作业的服务账号。
- RESOURCE_NAME:转移作业的资源名称(也称为转移作业配置)。如果您不知道转移作业的资源名称,您可以通过以下命令查找资源名称:
bq ls --transfer_config --transfer_location=location
。
示例:
以下命令将更新 Google Ads 转移作业 projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7
的显示名、目标数据集、刷新时段和参数:
bq update \ --display_name='My changed transfer' \ --params='{"customer_id":"123-123-5678"}' \ --refresh_window_days=3 \ --target_dataset=mydataset2 \ --transfer_config \ projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7
以下命令将更新计划查询转移作业 projects/myproject/locations/us/transferConfigs/5678z567-5678-5z67-5yx9-56zy3c866vw9
的参数和时间表:
bq update \ --params='{"destination_table_name_template":"test", "write_disposition":"APPEND"}' \ --schedule="every 24 hours" \ --transfer_config \ projects/myproject/locations/us/transferConfigs/5678z567-5678-5z67-5yx9-56zy3c866vw9
API
使用 projects.transferConfigs.patch
方法并通过 transferConfig.name
参数提供转移作业的资源名称。如果您不知道转移作业的资源名称,您可以通过以下命令查找资源名称:bq ls --transfer_config --transfer_location=location
。您还可以调用以下方法,并使用 parent
参数提供项目 ID 以列出所有转移作业:projects.locations.transferConfigs.list
。
Java
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Java 设置说明进行操作。 如需了解详情,请参阅 BigQuery Java API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
Python
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Python 设置说明进行操作。 如需了解详情,请参阅 BigQuery Python API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
更新凭据
传输使用创建该传输的用户的凭据。如果您需要更改附加到某项传输配置的用户,则可以更新传输的凭据。如果创建传输的用户不再与贵组织合作,这种做法非常有用。
更新转移作业凭据的方法如下:
控制台
在 Google Cloud 控制台中,以您要将所有权转让给的用户身份登录。
前往“数据转移作业”页面。
点击数据转移作业列表中的转移作业。
点击更多菜单,然后选择刷新凭据 (Refresh credentials)。
点击 Allow 以授予 BigQuery Data Transfer Service 权限,允许其查看您的报告数据以及在 BigQuery 中访问和管理数据。
bq
输入 bq update
命令,使用 --transfer_config
标志提供转移作业配置的资源名称,并指定 --update_credentials
标志。
bq update \ --update_credentials=boolean \ --transfer_config \ resource_name
替换以下内容:
boolean
是一个布尔值,指示是否应为转移作业配置更新凭据。resource_name
是转移作业的资源名称(也称为转移配置)。如果您不知道转移作业的资源名称,您可以通过以下命令查找资源名称:bq ls --transfer_config --transfer_location=location
。
示例:
输入以下命令,以更新 Google Ads 转移作业 projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7
的凭据。
bq update \
--update_credentials=true \
--transfer_config \
projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7
API
使用 projects.transferConfigs.patch
方法并提供 authorizationCode
和 updateMask
参数。
Java
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Java 设置说明进行操作。 如需了解详情,请参阅 BigQuery Java API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
Python
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Python 设置说明进行操作。 如需了解详情,请参阅 BigQuery Python API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
停用传输
停用转移作业时,disabled 会添加到转移作业名称。停用转移作业时,系统不会安排新的转移作业运行,也不允许新的回填。任何正在进行的转移作业运行均会完成。
停用转移作业不会移除已转移到 BigQuery 的任何数据。除非删除数据集或删除表,否则您需要为之前转移的数据支付标准 BigQuery 存储费用。
停用转移作业的方法如下:
控制台
在 Google Cloud 控制台中,转到 BigQuery 页面。
点击转移作业。
在转移作业页面上,点击列表中要停用的转移作业。
点击停用。要重新启用转移作业,请点击启用。
bq
CLI 不支持停用转移作业。
API
使用 projects.locations.transferConfigs.patch
方法并在 projects.locations.transferConfig
资源中将 disabled
设置为 true
。
Java
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Java 设置说明进行操作。 如需了解详情,请参阅 BigQuery Java API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
重新启用转移作业:
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Java 设置说明进行操作。 如需了解详情,请参阅 BigQuery Java API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
删除传输
删除传输时,系统不会安排新的传输运行。任何正在进行的传输运行均会停止。
删除传输不会移除已传输至 BigQuery 的任何数据。除非删除数据集或删除表,否则您需要为之前转移的数据支付标准 BigQuery 存储费用。
删除转移作业的方法如下:
控制台
在 Google Cloud 控制台中,转到 BigQuery 页面。
点击转移作业。
在转移作业页面上,点击列表中要删除的转移作业。
点击删除。为安全起见,您需要在框中输入“delete”一词以确认您的意图。
bq
输入 bq rm
命令并提供转移作业配置的资源名称。您可以使用 -f
标志在不经确认的情况下删除转移作业配置。
bq rm \
-f \
--transfer_config \
resource_name
其中:
- resource_name 是转移作业的资源名称(也称为转移作业配置)。如果您不知道转移作业的资源名称,请发出
bq ls --transfer_config --transfer_location=location
命令以列出所有转移作业。
例如,输入以下命令可删除转移作业配置 projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7
。
bq rm \
--transfer_config \
projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7
API
使用 projects.locations.transferConfigs.delete
方法并通过 name
参数提供要删除的资源。
Java
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Java 设置说明进行操作。 如需了解详情,请参阅 BigQuery Java API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
Python
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Python 设置说明进行操作。 如需了解详情,请参阅 BigQuery Python API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
手动触发转移作业
您可以手动触发转移作业(也称为回填运行),以在自动计划的转移作业之外加载其他数据文件。对于支持运行时参数的数据源,您还可以通过指定要从中加载过往数据的日期或时间范围来手动触发转移。
您可以随时手动启动数据回填。除了源限制之外,BigQuery Data Transfer Service 为每项回填请求提供最长 180 天的支持。该服务不支持多项同时回填请求。
如需了解可以回填的数据量,请参阅您的数据源对应的转移指南。
所需的角色
如需获得修改转移作业所需的权限,请让管理员在项目上为您授予 BigQuery Admin (roles/bigquery.admin
) IAM 角色。如需详细了解如何授予角色,请参阅管理对项目、文件夹和组织的访问权限。
手动触发转移或回填
您可以通过以下方法手动触发转移或回填运行:
- 使用 Google Cloud 控制台选择转移作业运行,然后点击立即运行转移作业或安排回填。
- 通过
bq
命令行工具使用bq mk –transfer run
命令 - 调用
projects.locations.transferConfigs.startManualRuns method
API 方法
如需有关每种方法的详细说明,请选择相应的标签页:
控制台
在 Google Cloud 控制台中,转到“数据转移”页面。
从列表中选择您的转移作业。
点击立即运行转移作业或安排回填。根据转移配置类型,只有一个选项可用。
如果您点击了立即运行转移作业,请选择运行一次性转移作业或在特定日期运行(如适用)。如果您选择了在特定日期运行,请选择特定日期和时间:
如果您点击了安排回填,请选择运行一次性转移作业或在某个日期范围运行(如适用)。如果您选择了在某个日期范围运行,请选择开始和结束日期及时间:
点击确定。
bq
如需手动启动转移作业运行,请输入带有 --transfer_run
标志的 bq mk
命令:
bq mk \ --transfer_run \ --run_time='RUN_TIME' \ RESOURCE_NAME
替换以下内容:
RUN_TIME
是一个时间戳,用于指定过去的转移日期。使用以 Z 结尾或包含有效时区偏移值的时间戳,例如2022-08-19T12:11:35.00Z
或2022-05-25T00:00:00+00:00
。- 如果您的转移没有运行时参数,或者您只想立即触发转移,而不指定过去的转移,请在此字段中输入当前时间。
RESOURCE_NAME
是转移配置中列出的资源名称,例如projects/myproject/locations/us/transferConfigs/1234a123-1234-1a23-1be9-12ab3c456de7
。
如需手动针对某个日期范围启动转移作业运行,请输入带 --transfer_run
标志的 bq mk
命令以及日期范围:
bq mk \ --transfer_run \ --start_time='START_TIME' \ --end_time='END_TIME' \ RESOURCE_NAME
替换以下内容:
API
如需手动启动转移作业运行,请使用 projects.locations.transferConfigs.startManualRuns
方法并通过父参数提供转移配置资源名称。如需查找转移配置的资源名称,请参阅获取转移详情
"requestedRunTime": "RUN_TIME"
替换以下内容:
RUN_TIME
是一个时间戳,用于指定过去的转移日期。使用以 Z 结尾或包含有效时区偏移值的时间戳,例如2022-08-19T12:11:35.00Z
或2022-05-25T00:00:00+00:00
。- 如果您的转移没有运行时参数,或者您只想立即触发转移,而不指定过去的转移,请在此字段中输入当前时间。
要针对某个日期范围手动启动转移作业运行,请提供日期范围:
"requestedTimeRange": { "startTime": "START_TIME", "endTime": "END_TIME" }
替换以下内容:
START_TIME
和END_TIME
是以 Z 结尾或包含有效时区偏移值的时间戳。这些值指定了包含您要回填的之前转移作业运行的时间范围,例如2022-08-19T12:11:35.00Z
或2022-05-25T00:00:00+00:00
Java
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Java 设置说明进行操作。 如需了解详情,请参阅 BigQuery Java API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
Python
试用此示例之前,请按照 BigQuery 快速入门:使用客户端库中的 Python 设置说明进行操作。 如需了解详情,请参阅 BigQuery Python API 参考文档。
如需向 BigQuery 进行身份验证,请设置应用默认凭据。 如需了解详情,请参阅为客户端库设置身份验证。
日志记录和监控
BigQuery Data Transfer Service 会将日志和指标导出到 Cloud Monitoring 和 Cloud Logging,以便向您的转移作业提供可观测性。您可以使用 Monitoring 设置信息中心,以监控转移作业、评估转移作业运行性能以及查看错误消息以排查转移失败问题。您可以使用 Logging 查看与转移作业运行或转移作业配置相关的日志。
此外,您还可以查看可用于 BigQuery Data Transfer Service 的审核日志,以便了解转移作业活动和数据访问日志。