Data Catalog kann Metadaten aus mehreren Google Cloud-Datenquellen sowie einer Reihe beliebter lokaler Daten importieren und auf dem neuesten Stand halten.
Wenn aufgenommene Metadaten vorhanden sind, führt Data Catalog Folgendes aus:
- Macht die vorhandenen Metadaten über die Suche sichtbar. Weitere Informationen finden Sie unter So suchen Sie.
- Die Mitglieder Ihrer Organisation können Ihre Daten mit zusätzlichen geschäftlichen Metadaten durch Tags anreichern. Weitere Informationen finden Sie unter Tags und Tag-Vorlagen.
Die Integration in Google Cloud-Quellen erfolgt automatisch, kann jedoch in benutzerdefinierte lokale Quellen eingebunden werden, die Ihre Organisation verwendet. Sie haben folgende Möglichkeiten:
- Richten Sie die entsprechenden Connectors ein, die von der Community bereitgestellt werden.
- Verwenden Sie die Data Catalog API für benutzerdefinierte Einträge.
Hinweise
Wenn Sie Data Catalog bereits verwenden, müssen Sie bereits ein Projekt mit der aktivierten Data Catalog API haben. Weitere Informationen zur empfohlenen Methode für die Verwendung mehrerer Projekte mit Data Catalog finden Sie unter Tag-Vorlagen in mehreren Projekten verwenden.
Wenn Sie zum ersten Mal mit dem Data Catalog interagieren, gehen Sie so vor:
- Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Make sure that billing is enabled for your Google Cloud project.
-
Enable the Data Catalog API.
-
In the Google Cloud console, on the project selector page, select or create a Google Cloud project.
-
Make sure that billing is enabled for your Google Cloud project.
-
Enable the Data Catalog API.
Google Cloud-Datenquellen einbinden
Analytics Hub
Wenn Sie einen Eintrag in Analytics Hub abonnieren, wird in Ihrem Projekt ein verknüpftes Dataset erstellt. Data Catalog generiert automatisch Metadateneinträge für das verknüpfte Dataset und alle darin enthaltenen Tabellen. Weitere Informationen zu verknüpften Datasets und anderen Analytics Hub-Funktionen finden Sie unter Einführung in Analytics Hub.
In der Data Catalog-Suche werden verknüpfte Datasets als standardmäßige BigQuery-Datasets angezeigt. Sie können sie jedoch mithilfe des Prädikats type=dataset.linked
filtern. Weitere Informationen finden Sie unter Nach Datenassets suchen.
BigQuery und Pub/Sub
Wenn Ihre Organisation bereits BigQuery und Pub/Sub verwendet, können Sie je nach Ihren Berechtigungen sofort nach den Metadaten suchen. Wenn die entsprechenden Einträge in den Suchergebnissen nicht angezeigt werden, suchen Sie nach den IAM-Rollen, die Sie und die Nutzer Ihres Projekts möglicherweise in Identity and Access Management benötigen.
Bigtable
Wenn Sie Daten in Bigtable speichern, werden die Metadaten für die folgenden Bigtable-Ressourcen automatisch mit Data Catalog synchronisiert:
- Instanzen
- Tabellen, einschließlich Details zur Spaltenfamilie
Eine Anleitung zur Verwendung von Data Catalog für die Datenerkennung und das Tagging finden Sie in der Bigtable-Dokumentation unter Daten-Assets mit Data Catalog verwalten.
Cloud SQL
Cloud SQL kann nicht in Data Catalog, aber in Dataplex Catalog eingebunden werden. Weitere Informationen finden Sie unter Datenquellen in Dataplex Catalog einbinden.
Dataproc Metastore
Aktivieren Sie für die Integration in Dataproc Metastore die Synchronisierung für Data Catalog für neue oder vorhandene Dienste, wie unter Data Catalog-Synchronisierung aktivieren beschrieben.
Schutz sensibler Daten
Darüber hinaus kann Data Catalog in den Schutz sensibler Daten eingebunden werden, sodass Sie bestimmte Google Cloud-Ressourcen auf sensible Daten prüfen und die Ergebnisse in Form von Tags an Data Catalog zurücksenden können.
Weitere Informationen finden Sie unter Scanergebnisse für den Schutz sensibler Daten an Data Catalog senden.
Spanner
Wenn Sie Daten in Spanner speichern, werden die Metadaten für die folgenden Spanner-Ressourcen mit Data Catalog synchronisiert:
- Instanzen
- Datenbanken
- Tabellen und Ansichten mit Spaltenschema
Eine Anleitung zur Verwendung von Data Catalog für die Datenerkennung und das Tagging finden Sie unter Daten-Assets mit Data Catalog verwalten.
Vertex AI
Vertex AI synchronisiert Metadaten für die folgenden Ressourcen mit Data Catalog:
Lokale Datenquellen einbinden
Zum Einbinden lokaler Datenquellen können Sie die entsprechenden Python-Connectors verwenden, die von der Community bereitgestellt wurden:
- Suchen Sie die Datenquelle in der folgenden Tabelle.
- Öffnen Sie das zugehörige GitHub-Repository.
- Folgen Sie der Anleitung zur Einrichtung in der Readme-Datei.
Kategorie | Komponente | Beschreibung | Repository |
---|---|---|---|
RDBMS | mysql-connector | Beispielcode für die MySQL-Datenquelle. | google-datacatalog-mysql-connector |
postgresql-connector | Beispielcode für die PostgreSQL-Datenquelle. | google-datacatalog-postgresql-connector | |
sqlserver-connector | Beispielcode für die SQLServer-Datenquelle. | google-datacatalog-sqlserver-connector | |
redshift-connector | Beispielcode für Redshift-Datenquelle. | google-datacatalog-redshift-connector | |
oracle-connector | Beispielcode für die Oracle-Datenquelle. | google-datacatalog-oracle-connector | |
teradata-connector | Beispielcode für die Teradata-Datenquelle. | google-datacatalog-teradata-connector | |
vertica-connector | Beispielcode für die Vertica-Datenquelle. | google-datacatalog-vertica-connector | |
greenplum-connector | Beispielcode für die Greenplum-Datenquelle. | google-datacatalog-greenplum-connector | |
rdbmscsv-connector | Beispielcode für die allgemeine RDBMS-CSV-Aufnahme | google-datacatalog-rdbmscsv-connector | |
saphana-connector | Beispielcode für die SAP-Datenquelle | google-datacatalog-saphana-connector | |
BI | looker-connector | Beispielcode für die Looker-Datenquelle. | google-datacatalog-looker-connector |
qlik-connector | Beispielcode für die Qlik Sense-Datenquelle. | google-datacatalog-qlik-connector | |
tableau-connector | Beispielcode für die Tableau-Datenquelle. | google-datacatalog-tableau-connector | |
Hive | hive-connector | Beispielcode für die Hive-Datenquelle. | google-datacatalog-hive-connector |
apache-atlas-connector | Beispielcode für die Apache Atlas-Datenquelle. | google-datacatalog-apache-atlas-connector |
Nicht unterstützte Datenquellen einbinden
Wenn Sie keinen Connector für die Datenquelle finden, können Sie ihn manuell einbinden. Erstellen Sie dazu Eintragsgruppen und benutzerdefinierte Einträge. Gehen Sie dazu so vor:
- Verwenden Sie eine der Data Catalog-Clientbibliotheken in einer der folgenden Sprachen: C#, Go, Java, Node.js, PHP, Python oder Ruby.
- Alternativ können Sie die Data Catalog API manuell nutzen.
Informieren Sie sich über Einträge und Eintragsgruppen, bevor Sie Ihre Quellen einbinden, und folgen Sie der Anleitung unter Benutzerdefinierte Data Catalog-Einträge für Datenquellen erstellen.
Nächste Schritte
- Identitäts- und Zugriffsverwaltung
- Weitere Informationen zur Suche
- Kurzanleitung zum Taggen von Tabellen