監控 Dataplex 通用目錄記錄

您可以在 Cloud Logging 中查看、搜尋、篩選及封存 Dataplex Universal Catalog 工作記錄。

如要瞭解費用,請參閱 Google Cloud Observability 定價

如要進一步瞭解記錄保留期限,請參閱「記錄保留期限」。

如要停用所有記錄或從記錄中排除記錄,請參閱排除篩選器

如要將記錄檔從 Logging 傳送至 Cloud Storage、BigQuery 或 Pub/Sub,請參閱傳送和儲存總覽

在 Logging 中存取 Dataplex Universal Catalog 服務記錄

Dataplex Universal Catalog 會將下列服務記錄發布至 Cloud Logging。

記錄類型 記錄檔名稱 logName 筆查詢記錄 記錄說明
資料掃描事件記錄 dataplex.googleapis.com/data_scan logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_scan) 資料掃描工作事件記錄,指出工作狀態、結果和統計資料
資料品質掃描規則結果記錄 dataplex.googleapis.com/data_quality_scan_rule_result logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_quality_scan_rule_result) 資料品質工作中資料品質掃描規則的結果
探索記錄 dataplex.googleapis.com/discovery logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdiscovery) 區域內資產的探索進度和更新
中繼資料工作記錄 dataplex.googleapis.com/metadata_job logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fmetadata_job) 中繼資料匯入工作和中繼資料匯入檔案中匯入項目的記錄
程序記錄 dataplex.googleapis.com/process logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fprocess) 資料處理工作產生的工作執行作業

更改下列內容:

  • PROJECT_ID:您的專案 ID

如要存取 Logging,可以使用Google Cloud 控制台中的記錄檔總管gcloud logging 指令Logging API

查詢資料掃描事件記錄

使用 Dataplex Universal Catalog 建立及執行資料掃描時,系統會在 Logging 中產生資料掃描事件記錄,記錄產生的工作。

控制台

  1. 前往 Google Cloud 控制台的「Logs Explorer」頁面。

    前往「Logs explorer」(記錄檔探索工具)

  2. 在「Logs Explorer」(記錄檔探索工具) 檢視畫面中,找到「Query」(查詢) 分頁標籤。

  3. 按一下「資源」選單。

  4. 選取「Cloud Dataplex DataScan」。按一下「套用」

  5. 按一下「記錄名稱」選單。

  6. 在「Search log names」(搜尋記錄名稱) 欄位中,輸入 dataplex.googleapis.com%2Fdata_scan。選取「data_scan」,然後按一下「套用」

  7. 選用:在記錄查詢中新增下列篩選條件,將記錄篩選為特定資料掃描 ID 或位置:

    resource.labels.location="LOCATION"
    resource.labels.datascan_id="DATA_SCAN_ID"
    
  8. 點選「執行查詢」

gcloud

如要讀取資料掃描事件記錄項目,請使用 gcloud logging read 指令,並搭配下列查詢:

gcloud logging read \
    'resource.type="dataplex.googleapis.com/DataScan" AND
    logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_scan AND
    resource.labels.location=LOCATION AND
    resource.labels.datascan_id=DATA_SCAN_ID'
    --limit 10

REST

如要列出記錄項目,請使用 entries.list 方法

查詢資料品質掃描規則結果記錄

使用 Dataplex Universal Catalog 建立及執行資料品質掃描作業時,系統會在 Logging 中產生資料品質掃描規則結果記錄,記錄結果工作。

控制台

  1. 前往 Google Cloud 控制台的「Logs Explorer」頁面。

    前往「Logs explorer」(記錄檔探索工具)

  2. 在「Logs Explorer」(記錄檔探索工具) 檢視畫面中,找到「Query」(查詢) 分頁標籤。

  3. 按一下「資源」選單。

  4. 選取「Cloud Dataplex DataScan」。按一下「套用」

  5. 按一下「記錄名稱」選單。

  6. 在「Search log names」(搜尋記錄名稱) 欄位中,輸入 dataplex.googleapis.com%2Fdata_quality_scan_rule_result。選取 data_quality_scan_rule_result,然後按一下「套用」

  7. 選用:在記錄查詢中新增下列篩選條件,將記錄篩選為特定資料掃描 ID 或位置:

    resource.labels.location="LOCATION"
    resource.labels.datascan_id="DATA_SCAN_ID"
    
  8. 點選「執行查詢」

gcloud

如要讀取資料品質掃描規則結果記錄項目,請使用 gcloud logging read 指令搭配下列查詢:

gcloud logging read \
    'resource.type="dataplex.googleapis.com/DataScan" AND
    logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_quality_scan_rule_result AND
    resource.labels.location=LOCATION AND
    resource.labels.datascan_id=DATA_SCAN_ID'
    --limit 10

REST

如要列出記錄項目,請使用 entries.list 方法

查詢探索記錄

使用 Dataplex Universal Catalog 探索資產中的資料時,系統會在 Logging 中產生探索記錄。

控制台

  1. 前往 Google Cloud 控制台的「Logs Explorer」頁面。

    前往「Logs explorer」(記錄檔探索工具)

  2. 在「Logs Explorer」(記錄檔探索工具) 檢視畫面中,找到「Query」(查詢) 分頁標籤。

  3. 按一下「資源」選單。

  4. 選取「Cloud Dataplex Zone」。按一下「套用」

  5. 按一下「記錄名稱」選單。

  6. 在「Search log names」(搜尋記錄名稱) 欄位中,輸入 dataplex.googleapis.com%2Fdiscovery。選取「探索」,然後按一下「套用」

  7. 選用:在記錄查詢中新增下列篩選器,將記錄篩選至特定資產:

    resource.labels.location="LOCATION"
    resource.labels.lake_id="LAKE_ID"
    resource.labels.zone_id="ZONE_ID"
    jsonPayload.assetId="ASSET_ID"
    
  8. 點選「執行查詢」

gcloud

如要讀取探索記錄項目,請使用 gcloud logging read 指令搭配下列查詢:

gcloud logging read \
    'resource.type="dataplex.googleapis.com/Zone" AND
    logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdiscovery AND
    resource.labels.location=LOCATION AND
    resource.labels.lake_id=LAKE_ID AND
    resource.labels.zone_id=ZONE_ID AND
    jsonPayload.assetId=ASSET_ID'
    --limit 10

REST

如要列出記錄項目,請使用 entries.list 方法

查詢中繼資料工作記錄

執行中繼資料匯入作業時,Logging 會產生中繼資料作業記錄。

控制台

  1. 前往 Google Cloud 控制台的「Logs Explorer」頁面。

    前往「Logs explorer」(記錄檔探索工具)

  2. 在「Logs Explorer」(記錄檔探索工具) 檢視畫面中,找到「Query」(查詢) 分頁標籤。

  3. 按一下「資源」選單。

  4. 選取「Cloud Dataplex 中繼資料工作」

  5. 選用:如要依特定位置或中繼資料工作 ID 篩選記錄,請選取位置或工作 ID。

  6. 按一下 [套用]

  7. 按一下「記錄名稱」選單。

  8. 輸入 dataplex.googleapis.com%2Fmetadata_job,然後選取「metadata_job」metadata_job

  9. 按一下 [套用]

gcloud

如要讀取中繼資料工作記錄項目,請使用 gcloud logging read 指令,並執行下列查詢:

gcloud logging read \
    'resource.type="dataplex.googleapis.com/MetadataJob" AND
    logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fmetadata_job AND
    resource.labels.location=LOCATION AND
    resource.labels.metadata_job_id=METADATA_JOB_ID
    --limit 10

REST

如要列出記錄項目,請使用 entries.list 方法

查詢程序記錄

使用 Dataplex Universal Catalog 排定及執行工作時,系統會在 Cloud Logging 中產生結果工作的程序記錄。

控制台

  1. 前往 Google Cloud 控制台的「Logs Explorer」頁面。

    前往「Logs explorer」(記錄檔探索工具)

  2. 在「Logs Explorer」(記錄檔探索工具) 檢視畫面中,找到「Query」(查詢) 分頁標籤。

  3. 按一下「資源」選單。

  4. 選取「Cloud Dataplex 工作」。按一下「套用」

  5. 按一下「記錄名稱」選單。

  6. 在「Search log names」(搜尋記錄名稱) 欄位中,輸入 dataplex.googleapis.com%2Fprocess。選取「程序」,然後按一下「套用」

  7. 選用:在記錄查詢中新增下列篩選器,將記錄篩選至特定工作:

    resource.labels.location="LOCATION"
    resource.labels.lake_id="LAKE_ID"
    resource.labels.task_id="TASK_ID"
    
  8. 點選「執行查詢」

gcloud

如要讀取程序記錄項目,請使用 gcloud logging read 指令,並執行下列查詢:

gcloud logging read \
    'resource.type="dataplex.googleapis.com/Task" AND
    logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fprocess AND
    resource.labels.location=LOCATION AND
    resource.labels.lake_id=LAKE_ID AND
    resource.labels.task_id=TASK_ID'
    --limit 10

REST

如要列出記錄項目,請使用 entries.list 方法

後續步驟