BigQuery 管道簡介

您可以使用 BigQuery 管道,自動化並簡化 BigQuery 資料處理程序。有了管道,您就能依序排定及執行程式碼資產,提高效率並減少手動作業。

總覽

管道由 Dataform 提供動力。

管道包含下列一或多個程式碼資產:

您可以使用管道安排程式碼資產的執行作業。舉例來說,您可以排定 SQL 查詢每天執行一次,並使用最新的來源資料更新資料表,以便為資訊主頁提供動力。

在包含多個程式碼資產的管道中,您可以定義執行順序。舉例來說,如要訓練機器學習模型,您可以建立工作流程,讓 SQL 查詢準備資料,然後由後續的筆記本使用該資料訓練模型。

功能

您可以在管道中執行下列操作:

限制

管道有下列限制:

  • 管道僅適用於 Google Cloud 控制台。
  • 管道建立後,您就無法變更用於儲存管道的區域。
  • 您可以授予使用者或群組所選管道的存取權,但無法授予管道內個別工作項的存取權。

設定程式碼資產的預設區域

如果您是第一次建立程式碼資產,請為程式碼資產設定預設區域。建立程式碼資產後,就無法變更其地區。

BigQuery Studio 中的所有程式碼資產都會使用相同的預設區域。如要設定程式碼資產的預設區域,請按照下列步驟操作:

  1. 前往「BigQuery」頁面

    前往 BigQuery

  2. 在「Explorer」窗格中,找出已啟用程式碼資產的專案。

  3. 按一下專案旁的 「View actions」,然後點選「Change my default code region」

  4. 在「區域」中,選取要用於程式碼資產的區域。

  5. 按一下 [選取]。

如需可用地區的清單,請參閱 BigQuery Studio 位置

支援的地區

所有程式碼資產都會儲存在程式碼資產的預設區域中。更新預設區域後,系統會變更所有自此時起建立的程式碼資產區域。

下表列出可使用管道的地區:

地區說明 地區名稱 詳細資料
非洲
約翰尼斯堡 africa-south1
美洲
哥倫布 us-east5
達拉斯 us-south1 節能綠葉圖示 二氧化碳排放量低2
愛荷華州 us-central1 節能綠葉圖示 二氧化碳排放量低2
洛杉磯 us-west2
拉斯維加斯 us-west4
蒙特婁 northamerica-northeast1 節能綠葉圖示 二氧化碳排放量低2
北維吉尼亞州 us-east4
奧勒岡州 us-west1 節能綠葉圖示 二氧化碳排放量低2
聖保羅 southamerica-east1 節能綠葉圖示 二氧化碳排放量低
南卡羅來納州 us-east1
亞太地區
香港 asia-east2
雅加達 asia-southeast2
孟買 asia-south1
首爾 asia-northeast3
新加坡 asia-southeast1
雪梨 australia-southeast1
台灣 asia-east1
東京 asia-northeast1
歐洲
比利時 europe-west1 節能綠葉圖示 二氧化碳排放量低2
法蘭克福 europe-west3 節能綠葉圖示 二氧化碳排放量低
倫敦 europe-west2 節能綠葉圖示 二氧化碳排放量低2
馬德里 europe-southwest1 節能綠葉圖示 二氧化碳排放量低2
荷蘭 europe-west4 節能綠葉圖示 二氧化碳排放量低
杜林 europe-west12
蘇黎世 europe-west6 節能綠葉圖示 二氧化碳排放量低
中東地區
杜哈 me-central1
達曼 me-central2

配額與限制

BigQuery 管道須遵守 Dataform 配額與限制

定價

執行 BigQuery 管道工作時,會產生 BigQuery 的運算和儲存空間費用。詳情請參閱 BigQuery 定價

包含筆記本的管道會根據預設機器型產生 Colab Enterprise 執行階段費用。如需定價詳細資料,請參閱 Colab Enterprise 定價

每個 BigQuery 管道執行作業都會使用 Cloud Logging 記錄。系統會自動為 BigQuery 管道執行作業啟用記錄功能,這可能會產生 Cloud Logging 的計費費用。詳情請參閱 Cloud Logging 定價

後續步驟