完整名稱

完整名稱是全域不重複、必須區分大小寫的資源 ID,可用於 Dataplex Universal Catalog,參照 Google Cloud和非Google Cloud 資源。

舉例來說,支援從 Google Cloud自動擷取中繼資料的系統會使用完整合格名稱。如果您在 Dataplex Universal Catalog 中編目非 Google Cloud 資源,建立代表這些第三方資源的自訂項目時,可以提供完整名稱。Google Cloud

完整名稱由前置字串和以半形句號分隔的區段組成。長度上限為 4,000 個字元。 如果區隔含有冒號、點和空白字元等預留字元,請以倒引號括住。如要在區段中指定反引號,請使用雙反引號。

Google Cloud 資源的預先定義格式

下表列出 Google Cloud 資源支援的完整名稱預先定義格式。

BigQuery

資源 格式
資料集 bigquery:{projectId}.{datasetId}
資料表 bigquery:{projectId}.{datasetId}.{tableId}
查看 bigquery:{projectId}.{datasetId}.{viewId}
模型 bigquery:{projectId}.{datasetId}.{modelId}
分割資料表 bigquery:sharded:{projectId}.{datasetId}.{tablePrefix}
處理常式 bigquery:routine:{projectId}.{datasetId}.{routineId}
連線 bigquery:connection:{projectId}.{location}.{connectionId}

BigQuery sharing (舊稱 Analytics Hub)

資源 格式
Exchange analytics_hub:{projectId}.{location}.{exchangeId}
商品目錄 analytics_hub:{projectId}.{location}.{exchangeId}.{listingId}

Bigtable

資源 格式
執行個體 bigtable:{projectId}.{instanceId}
資料表 bigtable:{projectId}.{instanceId}.{tableId}

MySQL 適用的 Cloud SQL

資源 格式
執行個體 cloudsql_mysql:{projectId}.{location}.{instanceId}
結構定義 cloudsql_mysql:{projectId}.{location}.{instanceId}.{schemaId}
資料表 cloudsql_mysql:{projectId}.{location}.{instanceId}.{schemaId}.{tableId}

PostgreSQL 適用的 Cloud SQL

資源 格式
執行個體 cloudsql_postgresql:{projectId}.{location}.{instanceId}
資料庫 cloudsql_postgresql:{projectId}.{location}.{instanceId}.{databaseId}
結構定義 cloudsql_postgresql:{projectId}.{location}.{instanceId}.{databaseId}.{schemaId}
資料表 cloudsql_postgresql:{projectId}.{location}.{instanceId}.{databaseId}.{schemaId}.{tableId}

Cloud Storage

資源 格式
值區 gcs:{bucketName}
路徑 gcs:{bucketName}.{virtualPath}

Dataplex Universal Catalog

資源 格式
湖泊 dataplex:{projectId}.{location}.{lakeId}
可用區 dataplex:{projectId}.{location}.{lakeId}.{zoneId}
資料表 dataplex:{projectId}.{location}.{lakeId}.{zoneId}.{tableId}
檔案集 dataplex:{projectId}.{location}.{lakeId}.{zoneId}.{filesetId}

Dataproc Metastore

資源 格式
服務 dataproc_metastore:{projectId}.{location}.{instanceId}
資料庫 dataproc_metastore:{projectId}.{location}.{instanceId}.{databaseId}
資料表 dataproc_metastore:{projectId}.{location}.{instanceId}.{databaseId}.{tableId}

Looker

資源 格式
執行個體 looker:{instanceId}
資訊主頁 looker:dashboard:{instanceId}.{folderId}.{dashboardId}
探索 looker:explore:{instanceId}.{folderId}.{exploreId}
Look 圖表 looker:look:{instanceId}.{folderId}.{lookId}

Pub/Sub

資源 格式
主題 pubsub:topic:{projectId}.{topicId}
訂閱 pubsub:subscription:{projectId}.{subscriptionId}

Spanner

資源 格式
執行個體 spanner:{projectId}.{instanceConfigId}.{instanceId}
資料庫 spanner:{projectId}.{instanceConfigId}.{instanceId}.{databaseId}
資料表 spanner:{projectId}.{instanceConfigId}.{instanceId}.{databaseId}.{tableId}
查看 spanner:{projectId}.{instanceConfigId}.{instanceId}.{databaseId}.{viewId}

Vertex AI

資源 格式
模型 vertex_ai:model:{projectId}.{locationId}.{modelId}.{version}
資料集 vertex_ai:dataset:{projectId}.{locationId}.{datasetId}
FeatureGroup vertex_ai:featuregroup:{projectId}.{locationId}.{featureGroupId}
FeatureOnlineStore vertex_ai:featureonlinestore:{projectId}.{locationId}.{featureOnlineStoreId}
FeatureView vertex_ai:featureonlinestore:{projectId}.{locationId}.{featureOnlineStoreId}.{FeatureViewId}

非Google Cloud 資源的預先定義格式

下表列出第三方資源支援的完整名稱預先定義格式。

Apache Cassandra

資源 格式
叢集 cassandra:{dns}
Keyspace cassandra:{dns}.{keyspaceId}
資料表 cassandra:{dns}.{keyspaceId}.{tableId}

Apache Hive

資源 格式
執行個體 hive_metastore:{dns}
資料庫 hive_metastore:{dns}.{database}
資料表 hive_metastore:{dns}.{database}.{table}

Apache Kafka

資源 格式
叢集 kafka:{dns}
主題 kafka:{dns}.{topicId}

AWS Athena

資源 格式
目錄 athena:{catalogId}.{region}
資料庫 athena:{catalogId}.{region}.{databaseId}
資料表 athena:{catalogId}.{region}.{databaseId}.{tableId}

AWS Redshift

資源 格式
執行個體 redshift:{clusterId}.{region}.{port}
資料庫 redshift:{clusterId}.{region}.{port}.{databaseId}
結構定義 redshift:{clusterId}.{region}.{port}.{databaseId}.{schemaId}
資料表 redshift:{clusterId}.{region}.{port}.{databaseId}.{schemaId}.{tableId}

AWS S3

資源 格式
值區 s3:{bucket}
路徑 s3:{bucket}.{virtualPath}

AWS Glue

資源 格式
資料表 aws_glue:table:{region}.{accountId}.{dbName}.{tableName}

Azure Blob 儲存體

資源 格式
帳戶 abs:{account}
容器 abs:{account}.{container}
路徑 abs:{account}.{container}.{virtualPath}

Azure Cosmos DB

資源 格式
帳戶 cosmos-db:{accountName}
資料庫 cosmos-db:{accountName}.{databaseId}
容器 cosmos-db:{accountName}.{databaseId}.{containerId}

Azure Data Explorer

資源 格式
叢集 kusto:{clusterName}.{region}
資料庫 kusto:{clusterName}.{region}.{databaseId}
資料表 kusto:{clusterName}.{region}.{databaseId}.{tableId}

Databricks 檔案系統

資源 格式
執行個體 dbfs:{workspace}
路徑 dbfs:{workspace}.{path}

通用檔案系統

資源 格式
執行個體 filesystem:{dns}
路徑 filesystem:{dns}.{path}

Hadoop 分散式檔案系統

資源 格式
執行個體 hdfs:{dns}
路徑 hdfs:{dns}.{path}

IBM DB2

資源 格式
執行個體 db2:{dns}
資料庫 db2:{dns}.{databaseId}
結構定義 db2:{dns}.{databaseId}.{schemaId}
資料表 db2:{dns}.{databaseId}.{schemaId}.{tableId}

IBM Informix

資源 格式
執行個體 informix:{dns}
資料庫 informix:{dns}.{databaseId}
結構定義 informix:{dns}.{databaseId}.{schemaId}
資料表 informix:{dns}.{databaseId}.{schemaId}.{tableId}

Microsoft SQL Server

資源 格式
執行個體 sqlserver:{dns}
資料庫 sqlserver:{dns}.{databaseId}
結構定義 sqlserver:{dns}.{databaseId}.{schemaId}
資料表 sqlserver:{dns}.{databaseId}.{schemaId}.{tableId}

MySQL

資源 格式
執行個體 mysql:{dns}
結構定義 mysql:{dns}.{schemaId}
資料表 mysql:{dns}.{schemaId}.{tableId}

Oracle 資料庫

資源 格式
執行個體 oracle:{dns}
資料庫 oracle:{dns}.{databaseId}
結構定義 oracle:{dns}.{databaseId}.{schemaId}
資料表 oracle:{dns}.{databaseId}.{schemaId}.{tableId}

PostgreSQL

資源 格式
執行個體 postgresql:{dns}
資料庫 postgresql:{dns}.{databaseId}
結構定義 postgresql:{dns}.{databaseId}.{schemaId}
資料表 postgresql:{dns}.{databaseId}.{schemaId}.{tableId}

Salesforce

資源 格式
SObject salesforce:{environment}.{orgId}.{sobject}

Snowflake

資源 格式
帳戶 snowflake:{accountName}
資料庫 snowflake:{accountName}.{databaseId}
結構定義 snowflake:{accountName}.{databaseId}.{schemaId}
資料表 snowflake:{accountName}.{databaseId}.{schemaId}.{tableId}

Tableau

資源 格式
伺服器 tableau:{dns}
網站 tableau:{dns}.{site}
專案 tableau:project:{dns}.{site}.{projectId}
資料來源 tableau:datasource:{dns}.{site}.{projectId}.{datasourceId}
練習本 tableau:workbook:{dns}.{site}.{projectId}.{workbookId}
工作表 tableau:sheet:{dns}.{site}.{projectId}.{workbookId}.{sheetId}
資訊主頁 tableau:dashboard:{dns}.{site}.{projectId}.{workbookId}.{dashboardId}

Trino

資源 格式
執行個體 trino:{dns}
目錄 trino:{dns}.{catalogId}
結構定義 trino:{dns}.{catalogId}.{schemaId}
資料表 trino:{dns}.{catalogId}.{schemaId}.{tableId}

自訂格式

您可以使用 custom: 前置字元建立自訂的完整名稱格式。自訂格式不會經過驗證,可能與 Dataplex Universal Catalog 功能不相容。為方便日後遷移,請建立與預先定義格式類似的自訂格式。

在 OpenLineage 訊息中,以命名空間 custom 參照的資源會解讀為自訂完整名稱。