BigQuery 資料移轉服務執行通知
本頁面提供 BigQuery 資料移轉服務的執行通知總覽。
您可以為 BigQuery 資料移轉服務設定兩種類型的執行通知:
- Pub/Sub 通知:機器可解讀的通知,於移轉執行成功或失敗時傳送
- 電子郵件通知:使用者可理解的通知,於移轉執行失敗時傳送
您可以分別設定各類型,也可以同時使用 Pub/Sub 和電子郵件執行通知。
Pub/Sub 通知
Pub/Sub 通知會將移轉執行的相關資訊傳送至 Pub/Sub 主題。當移轉執行完成時的狀態如下,就會觸發 Pub/Sub 通知:
SUCCEEDED
FAILED
CANCELLED
只要是您有足夠權限的專案,您就能將通知傳送至其中的任何 Pub/Sub 主題。Pub/Sub 主題收到通知後,即可將結果訊息傳送給主題訂閱者 (數量不限)。
事前準備
設定 Pub/Sub 移轉執行通知前,您必須:
針對要接收通知的專案啟用 Pub/Sub API。
針對要接收通知的專案取得足夠的權限:
如果您擁有要接收通知的專案,表示您非常有可能已經具備必要權限。
如果您要建立用於接收通知的主題,則必須具備
pubsub.topics.create
權限。無論您要使用新的主題或現有的主題,都必須具備
pubsub.topics.getIamPolicy
和pubsub.topics.setIamPolicy
權限。建立主題後,您通常會具備該主題的權限。以下預先定義的 IAM 角色同時具有pubsub.topics.getIamPolicy
和pubsub.topics.setIamPolicy
權限:pubsub.admin
。詳情請參閱「Pub/Sub 存取權控管」。
擁有現有的 Pub/Sub 主題,可接收您所傳送的通知。
通知格式
傳送至 Pub/Sub 主題的通知分為以下兩部分:
- 屬性:用於說明事件的鍵/值組合。
- 酬載:含變更物件的中繼資料的字串。
屬性
屬性是 BigQuery 資料移轉服務傳送至 Pub/Sub 主題的所有通知中包含的鍵/值組合。無論通知酬載為何,通知都會包含以下鍵值組合:
屬性名稱 | 示例 | 說明 |
---|---|---|
eventType | TRANSFER_RUN_FINISHED |
最新發生事件的類型,值一定是 TRANSFER_RUN_FINISHED 。 |
payloadFormat | JSON_API_V1 |
物件酬載的格式,值一定是 JSON_API_V1 。 |
酬載
酬載是含移轉執行的中繼資料的字串。目前無法變更酬載類型,我們會因應日後的 API 版本變更配合提供相關功能。
酬載類型 | 說明 |
---|---|
JSON_API_V1 | 酬載為 UTF-8 JSON 序列化字串,內含TransferRun 的資源表示法。 |
電子郵件通知
電子郵件通知會在移轉執行失敗時傳送使用者可理解的電子郵件。這些訊息會傳送至轉移管理員的電子郵件地址,也就是設定轉移作業的帳戶。您無法設定訊息內容,也無法設定訊息收件者。
如果您使用服務帳戶驗證移轉設定,可能就無法存取電子郵件,因此無法收到移轉執行作業的通知電子郵件。在這種情況下,建議您設定 Pub/Sub 通知,以便接收移轉作業執行通知。
如要將轉移執行作業的電子郵件通知傳送給更多使用者,請設定電子郵件轉寄規則來發送郵件。如果您使用 Gmail,則可自動將 Gmail 郵件轉寄到其他帳戶。
電子郵件通知是由 BigQuery 資料移轉服務所傳送,內含失敗移轉的移轉設定、移轉執行和移轉記錄連結。例如:
From: bigquery-data-transfer-service-noreply@google.com To: TRANSFER_ADMIN Title: BigQuery Data Transfer Service — Transfer Run Failure — DISPLAY_NAME Transfer Configuration Display Name: DISPLAY_NAME Source: DATA_SOURCE Destination: PROJECT_ID Run Summary Run: RUN_NAME Schedule Time: SCHEDULE_TIME Run Time: RUN_TIME View Run History Google LLC 1600 Amphitheatre Parkway, Mountain View, CA 94043 This email was sent because you indicated you are willing to receive Run Notifications from the BigQuery Data Transfer Service. If you do not wish to receive such emails in the future, click View Transfer Configuration and un-check the "Send E-mail Notifications" option.
開啟或編輯通知
如要開啟通知或編輯現有通知,請選擇下列任一做法:
主控台
前往 Google Cloud 控制台的「BigQuery」頁面。
在導覽選單中,按一下「資料移轉」。
如要開啟新轉移作業的通知,請按一下
「建立轉移作業」。如要調整現有轉移作業的通知,請按一下轉移作業名稱,然後點選「編輯」。在「通知選項」部分,按一下通知類型旁邊的切換鈕,即可啟用。
Java
在嘗試這個範例之前,請先按照 BigQuery 快速入門:使用用戶端程式庫中的 Java 設定說明進行操作。詳情請參閱 BigQuery Java API 參考說明文件。
如要向 BigQuery 進行驗證,請設定應用程式預設憑證。詳情請參閱「設定用戶端程式庫的驗證機制」。
Python
在嘗試這個範例之前,請先按照 BigQuery 快速入門:使用用戶端程式庫中的 Python 設定說明進行操作。詳情請參閱 BigQuery Python API 參考說明文件。
如要向 BigQuery 進行驗證,請設定應用程式預設憑證。詳情請參閱「設定用戶端程式庫的驗證機制」。
執行通知定價
如果您設定 Pub/Sub 執行通知,則會產生 Pub/Sub 費用。詳情請參閱 Pub/Sub 定價頁面。
後續步驟
- 進一步瞭解 Pub/Sub。
- 進一步瞭解如何建立 Pub/Sub 主題。
- 進一步瞭解 BigQuery 資料移轉服務。