您可以在 Cloud Logging 中查看、搜尋、篩選及封存 Dataplex Universal Catalog 工作記錄。
如要瞭解費用,請參閱 Google Cloud Observability 定價。
如要進一步瞭解記錄保留期限,請參閱「記錄保留期限」。
如要停用所有記錄或從記錄中排除記錄,請參閱排除篩選器。
如要將記錄檔從 Logging 傳送至 Cloud Storage、BigQuery 或 Pub/Sub,請參閱傳送和儲存總覽。
在 Logging 中存取 Dataplex Universal Catalog 服務記錄
Dataplex Universal Catalog 會將下列服務記錄發布至 Cloud Logging。
記錄類型 | 記錄檔名稱 | logName 筆查詢記錄 |
記錄說明 |
---|---|---|---|
資料掃描事件記錄 | dataplex.googleapis.com/data_scan |
logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_scan) |
資料掃描工作事件記錄,指出工作狀態、結果和統計資料 |
資料品質掃描規則結果記錄 | dataplex.googleapis.com/data_quality_scan_rule_result |
logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_quality_scan_rule_result) |
資料品質工作中資料品質掃描規則的結果 |
探索記錄 | dataplex.googleapis.com/discovery |
logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fdiscovery) |
區域內資產的探索進度和更新 |
中繼資料工作記錄 | dataplex.googleapis.com/metadata_job |
logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fmetadata_job) |
中繼資料匯入工作和中繼資料匯入檔案中匯入項目的記錄 |
程序記錄 | dataplex.googleapis.com/process |
logName=(projects/$PROJECT_ID/logs/dataplex.googleapis.com%2Fprocess) |
資料處理工作產生的工作執行作業 |
更改下列內容:
- PROJECT_ID:您的專案 ID
如要存取 Logging,可以使用Google Cloud 控制台中的記錄檔總管、gcloud logging
指令或 Logging API。
查詢資料掃描事件記錄
使用 Dataplex Universal Catalog 建立及執行資料掃描時,系統會在 Logging 中產生資料掃描事件記錄,記錄產生的工作。
控制台
前往 Google Cloud 控制台的「Logs Explorer」頁面。
在「Logs Explorer」(記錄檔探索工具) 檢視畫面中,找到「Query」(查詢) 分頁標籤。
按一下「資源」選單。
選取「Cloud Dataplex DataScan」。按一下「套用」。
按一下「記錄名稱」選單。
在「Search log names」(搜尋記錄名稱) 欄位中,輸入
dataplex.googleapis.com%2Fdata_scan
。選取「data_scan」,然後按一下「套用」。選用:在記錄查詢中新增下列篩選條件,將記錄篩選為特定資料掃描 ID 或位置:
resource.labels.location="LOCATION" resource.labels.datascan_id="DATA_SCAN_ID"
點選「執行查詢」
gcloud
如要讀取資料掃描事件記錄項目,請使用 gcloud logging read
指令,並搭配下列查詢:
gcloud logging read \ 'resource.type="dataplex.googleapis.com/DataScan" AND logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_scan AND resource.labels.location=LOCATION AND resource.labels.datascan_id=DATA_SCAN_ID' --limit 10
REST
如要列出記錄項目,請使用 entries.list
方法。
查詢資料品質掃描規則結果記錄
使用 Dataplex Universal Catalog 建立及執行資料品質掃描作業時,系統會在 Logging 中產生資料品質掃描規則結果記錄,記錄結果工作。
控制台
前往 Google Cloud 控制台的「Logs Explorer」頁面。
在「Logs Explorer」(記錄檔探索工具) 檢視畫面中,找到「Query」(查詢) 分頁標籤。
按一下「資源」選單。
選取「Cloud Dataplex DataScan」。按一下「套用」。
按一下「記錄名稱」選單。
在「Search log names」(搜尋記錄名稱) 欄位中,輸入
dataplex.googleapis.com%2Fdata_quality_scan_rule_result
。選取 data_quality_scan_rule_result,然後按一下「套用」。選用:在記錄查詢中新增下列篩選條件,將記錄篩選為特定資料掃描 ID 或位置:
resource.labels.location="LOCATION" resource.labels.datascan_id="DATA_SCAN_ID"
點選「執行查詢」
gcloud
如要讀取資料品質掃描規則結果記錄項目,請使用 gcloud logging read
指令搭配下列查詢:
gcloud logging read \ 'resource.type="dataplex.googleapis.com/DataScan" AND logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdata_quality_scan_rule_result AND resource.labels.location=LOCATION AND resource.labels.datascan_id=DATA_SCAN_ID' --limit 10
REST
如要列出記錄項目,請使用 entries.list
方法。
查詢探索記錄
使用 Dataplex Universal Catalog 探索資產中的資料時,系統會在 Logging 中產生探索記錄。
控制台
前往 Google Cloud 控制台的「Logs Explorer」頁面。
在「Logs Explorer」(記錄檔探索工具) 檢視畫面中,找到「Query」(查詢) 分頁標籤。
按一下「資源」選單。
選取「Cloud Dataplex Zone」。按一下「套用」。
按一下「記錄名稱」選單。
在「Search log names」(搜尋記錄名稱) 欄位中,輸入
dataplex.googleapis.com%2Fdiscovery
。選取「探索」,然後按一下「套用」。選用:在記錄查詢中新增下列篩選器,將記錄篩選至特定資產:
resource.labels.location="LOCATION" resource.labels.lake_id="LAKE_ID" resource.labels.zone_id="ZONE_ID" jsonPayload.assetId="ASSET_ID"
點選「執行查詢」
gcloud
如要讀取探索記錄項目,請使用 gcloud logging read
指令搭配下列查詢:
gcloud logging read \ 'resource.type="dataplex.googleapis.com/Zone" AND logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fdiscovery AND resource.labels.location=LOCATION AND resource.labels.lake_id=LAKE_ID AND resource.labels.zone_id=ZONE_ID AND jsonPayload.assetId=ASSET_ID' --limit 10
REST
如要列出記錄項目,請使用 entries.list
方法。
查詢中繼資料工作記錄
執行中繼資料匯入作業時,Logging 會產生中繼資料作業記錄。
控制台
前往 Google Cloud 控制台的「Logs Explorer」頁面。
在「Logs Explorer」(記錄檔探索工具) 檢視畫面中,找到「Query」(查詢) 分頁標籤。
按一下「資源」選單。
選取「Cloud Dataplex 中繼資料工作」。
選用:如要依特定位置或中繼資料工作 ID 篩選記錄,請選取位置或工作 ID。
按一下 [套用]。
按一下「記錄名稱」選單。
輸入
dataplex.googleapis.com%2Fmetadata_job
,然後選取「metadata_job」metadata_job。按一下 [套用]。
gcloud
如要讀取中繼資料工作記錄項目,請使用 gcloud logging read
指令,並執行下列查詢:
gcloud logging read \ 'resource.type="dataplex.googleapis.com/MetadataJob" AND logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fmetadata_job AND resource.labels.location=LOCATION AND resource.labels.metadata_job_id=METADATA_JOB_ID --limit 10
REST
如要列出記錄項目,請使用 entries.list
方法。
查詢程序記錄
使用 Dataplex Universal Catalog 排定及執行工作時,系統會在 Cloud Logging 中產生結果工作的程序記錄。
控制台
前往 Google Cloud 控制台的「Logs Explorer」頁面。
在「Logs Explorer」(記錄檔探索工具) 檢視畫面中,找到「Query」(查詢) 分頁標籤。
按一下「資源」選單。
選取「Cloud Dataplex 工作」。按一下「套用」。
按一下「記錄名稱」選單。
在「Search log names」(搜尋記錄名稱) 欄位中,輸入
dataplex.googleapis.com%2Fprocess
。選取「程序」,然後按一下「套用」。選用:在記錄查詢中新增下列篩選器,將記錄篩選至特定工作:
resource.labels.location="LOCATION" resource.labels.lake_id="LAKE_ID" resource.labels.task_id="TASK_ID"
點選「執行查詢」
gcloud
如要讀取程序記錄項目,請使用 gcloud logging read
指令,並執行下列查詢:
gcloud logging read \ 'resource.type="dataplex.googleapis.com/Task" AND logName=projects/PROJECT_ID/logs/dataplex.googleapis.com%2Fprocess AND resource.labels.location=LOCATION AND resource.labels.lake_id=LAKE_ID AND resource.labels.task_id=TASK_ID' --limit 10
REST
如要列出記錄項目,請使用 entries.list
方法。
後續步驟
- 進一步瞭解 Cloud Logging。
- 瞭解 Dataplex Universal Catalog 監控。