このドキュメントでは、Dataform のテーブルについて説明します。
Dataform では、テーブルは SQL ワークフローを構成するオブジェクトの一種です。SQL ワークフローで宣言されたデータソースのデータまたは SQL ワークフローの他のテーブルを参照するテーブルを作成できます。Dataform は、テーブル定義をリアルタイムで SQL にコンパイルします。実行をトリガーすると、Dataform は SQL コードを実行し、BigQuery に定義済みテーブルを作成します。
type: "table"
SQLX ファイルで次のテーブルタイプを作成できます。
table
: 通常のテーブル。incremental
: 増分テーブル。view
: 表ビュー。BigQuery のビューの詳細については、ビューの概要をご覧ください。materialized
: 実体化されたテーブルビュー。マテリアライズド ビューの詳細については、マテリアライズド ビューの概要をご覧ください。
テーブルのパーティションとクラスタを定義することもできます。
テーブルの目的や、SQL ワークフローの他のテーブルとの関係を記録するには、テーブルまたはその選択した列にドキュメントを追加します。
テーブル内のデータを特定の条件に対してテストするには、アサーションと呼ばれるデータ品質テストクエリを作成します。Dataform は、SQL ワークフローを更新するたびにアサーションを実行し、アサーションが失敗した場合にアラートを送信します。
デフォルトのテーブル設定(database
や schema
など)をオーバーライドして、テーブルの作成を無効にする、またはテーブルの作成前または作成後に SQL ステートメントを実行するには、追加のテーブル設定を構成します。
実行後に BigQuery でテーブルを整理するには、BigQuery ラベルを追加します。BigQuery ラベルの詳細については、ラベルの概要をご覧ください。
テーブルの列レベルでデータアクセスを制限するには、BigQuery ポリシータグを追加します。BigQuery ポリシータグの詳細については、列レベルのアクセス制御の概要をご覧ください。
type: "table"
SQLX ファイルでテーブルを定義するだけでなく、type: "operations"
SQLX ファイルでカスタム SQL クエリを定義することで、空のテーブルを作成できます。別のサービスでデータを入力できるように、空白のテーブルを作成することもできます。
次のステップ
- テーブルの作成方法については、テーブルを作成するをご覧ください。
- 追加のテーブル設定を構成する方法については、追加のテーブル設定を構成するをご覧ください。
- テーブルをパーティショニングする方法については、テーブル パーティションとクラスタを作成するをご覧ください。
- 増分テーブルを構成する方法については、増分テーブルを構成するをご覧ください。