このページでは、Cloud Data Fusion でデータ パイプラインのアラートを設定する方法について説明します。
アラートは次のサービスで作成できます。
Cloud Data Fusion を使用したアラート: Cloud Data Fusion でバッチ パイプラインを設計するときに、これらのアラートを設定します。パイプラインをデプロイした後、アラートを追加または編集することはできません。
Cloud Monitoring を使用したログベースのアラート: これらのアラートは、パイプラインをデプロイする前と後に Google Cloud コンソールで設定します。
準備
Cloud Data Fusion インスタンスが必要です。詳細については、Cloud Data Fusion インスタンスの作成をご覧ください。
Cloud Data Fusion でアラートを追加する
インスタンスを開きます。
Google Cloud コンソールで、Cloud Data Fusion のページに移動します。
Cloud Data Fusion Studio でインスタンスを開くには、[インスタンス]、[インスタンスを表示] の順にクリックします。
パイプラインを設計する [Studio] ページに移動します。
[構成] > [パイプライン アラート] > [ 追加] の順にクリックします。
アラートを選択して構成します。アラートの構成の詳細については、バッチ パイプライン アラートをご覧ください。
アラートを構成したら、[検証] をクリックしてエラーを確認し、[確認] をクリックします。
Monitoring でアラートを作成する
Cloud Data Fusion インスタンスで Cloud Logging を有効にします。
-
Google Cloud コンソールで、[ログ エクスプローラ] ページに移動します。
このページでは、データの保存、クエリ、更新、削除を行えます。
次のクエリを入力します。
resource.type="cloud_dataproc_cluster" logName="projects/PROJECT_ID/logs/datafusion-pipeline-logs" resource.labels.project_id="PROJECT_ID" severity=ERROR jsonPayload.message=~"Pipeline '.*' failed."
PROJECT_ID
はプロジェクトの ID に置き換えます。[アラートを作成] をクリックして、アラートを構成します。
アラートは、パイプラインが Dataproc クラスタで実行されて失敗した場合にのみ生成されます。Dataproc クラスタの作成に失敗した場合、アラートは生成されません。
次のステップ
- CDAP OS のバッチ パイプライン アラートのリファレンス ページを参照する。