Zustand, Ressourcennutzung und Jobs überwachen

Als BigQuery-Administrator können Sie mithilfe von Diagrammen zur Betriebsbereitschaft und Ressourcenauslastung den Zustand Ihrer Organisation, die Slot-Nutzung und die Leistung der Jobs im Zeitverlauf im Blick behalten. BigQuery bietet konfigurierbare Diagramme für Folgendes:

  • Betriebsstatus von BigQuery überwachen Das Echtzeit-Monitoring des Betriebszustands von BigQuery ist ein zentrales Monitoringsystem, mit dem Sie die Nutzung von BigQuery in der gesamten Organisation an mehreren Standorten beobachten können.

  • BigQuery-Ressourcennutzung ansehen Verlaufsdaten für die Ursachenanalyse, die Kapazitätsplanung und die Diagnose von Leistungsänderungen verwenden

Hinweise

  • Wenn Sie die betriebliche Integrität aufrufen möchten, müssen Sie Reservierungen verwenden, auf die Sie mit einem Administrationsprojekt zugreifen können. Dies ist keine Voraussetzung für die Anzeige von Diagrammen zur Ressourcenauslastung.

Erforderliche Rollen

Bitten Sie Ihren Administrator, Ihnen die folgenden IAM-Rollen für Ihre Organisation zuzuweisen, um die Berechtigungen zu erhalten, die Sie benötigen, um alle Daten in den Diagrammen zur Betriebsbereitschaft und Ressourcennutzung aufzurufen:

Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Diese vordefinierten Rollen enthalten die Berechtigungen, die zum Aufrufen aller Daten in den Diagrammen zur Betriebsbereitschaft und Ressourcennutzung erforderlich sind. Erweitern Sie den Abschnitt Erforderliche Berechtigungen, um die erforderlichen Berechtigungen anzuzeigen:

Erforderliche Berechtigungen

Die folgenden Berechtigungen sind erforderlich, um alle Daten in den Diagrammen zum Betriebszustand und zur Ressourcennutzung aufzurufen:

  • So rufen Sie alle Daten in den Diagrammen zum Betriebszustand und zur Ressourcenauslastung für eine Organisation auf:
    • bigquery.jobs.listExecutionMetadata or bigquery.jobs.listAll für die Organisation
    • bigquery.reservationAssignments.list für das Administrationsprojekt, mit dem die Reservierungen erstellt wurden
    • bigquery.capacityCommitments.list für das Administrationsprojekt, mit dem die Reservierungen erstellt wurden
  • So rufen Sie als On-Demand-Nutzer alle Daten in den Diagrammen zur Ressourcennutzung für eine Organisation auf: bigquery.jobs.listExecutionMetadata or bigquery.jobs.listAll für die Organisation
  • So rufen Sie zusammenfassende Daten zum Betriebszustand für den BigQuery-Tabellenspeicher auf: bigquery.tables.get or bigquery.tables.list für die Organisation
  • So rufen Sie Diagramme zum Betriebszustand und zur Ressourcenauslastung auf Reservierungsebene auf:
    • bigquery.reservations.list für das Administrationsprojekt, mit dem die Reservierungen erstellt wurden
    • bigquery.reservationAssignments.list für das Administrationsprojekt, mit dem die Reservierungen erstellt wurden
  • So rufen Sie Diagramme zur Ressourcenauslastung auf Projektebene auf: bigquery.jobs.listAll für das Projekt

Sie können diese Berechtigungen auch mit benutzerdefinierten Rollen oder anderen vordefinierten Rollen erhalten.

definiert haben.

Betriebszustand im gesamten Unternehmen überwachen

Das Dashboard für den betrieblichen Status zeigt wichtige Messwerte für Ihre Organisation und deren Reservierungen an allen Standorten an, an denen Sie Reservierungen haben. In diesem Dashboard können Sie die folgenden Messwerte überwachen:

  • Slotnutzung
  • Shuffle-Nutzung
  • Jobnebenläufigkeit
  • Fehler
  • Jobdauer
  • Verarbeitete Byte
  • Gesamtspeicherplatz

Diagramme zum Betriebszustand aufrufen

So rufen Sie Informationen zum Betriebszustand Ihrer Organisation auf:

  1. Öffnen Sie in der Google Cloud Console die Seite Monitoring für BigQuery.

    Zu Monitoring

  2. Wählen Sie das Verwaltungsprojekt aus, mit dem Sie Slots gekauft und Reservierungen erstellt haben.

  3. Rufen Sie auf der Seite Monitoring den Tab Betriebszustand auf, um eine Zusammenfassung der wichtigsten Messwerte Ihrer Organisation für alle Standorte und Reservierungen aufzurufen.

  4. Optional: Wenn Sie sich Echtzeitmesswerte ansehen möchten, bei denen alle fünf Minuten Abfragen mit aktuellen Daten ausgeführt werden, klicken Sie auf die Ein/Aus-Schaltfläche Livedaten. Diese Einstellung ist standardmäßig deaktiviert und die maximale Datenveralterung beträgt etwa eine Stunde.

  5. Konfigurieren Sie die folgenden Felder, um die Messwerte zu filtern:

    • Wählen Sie in der Liste Standort auswählen eine Region aus, die Sie überwachen möchten.
    • Wählen Sie in der Liste Reservierung auswählen die Reservierung aus.
    • Wählen Sie in der Liste Projekt auswählen das Projekt aus.
    • Wählen Sie in der Liste Zeitraum einen Zeitraum aus.
  6. Optional: Wenn Sie weitere Informationen zur Betriebsbereitschaft mit einem Diagramm zur Ressourcenauslastung oder dem Job-Explorer aufrufen möchten, klicken Sie auf Weitere Informationen.

BigQuery erfasst die Messwerte durch Abfragen der folgenden INFORMATION_SCHEMA-Ansichten:

Aufrufe

Auf dem Tab Betriebsstatus werden die folgenden Zusammenfassungs- und Detailansichten angezeigt.

Zusammenfassung

Die Zusammenfassungsansicht zeigt den Zustand der Subsysteme Ihrer Organisation, einschließlich Reservierungen und Regionen, in den letzten 30 Minuten.

So rufen Sie die Zusammenfassungsansicht auf:

  • Wählen Sie auf dem Tab Betriebszustand in der Liste Standort auswählen die Option Alle Standorte aus.

Detailansicht

Die Detailansicht zeigt detaillierte Zeitachsendiagramme verschiedener Messwerte an einem Standort oder auf Reservierungsebene an.

So rufen Sie die Detailansicht auf:

  • Wählen Sie auf dem Tab Betriebszustand in der Liste Standort auswählen die Region oder Edition aus.

Mit den folgenden optionalen Filtern können Sie die in der Detailansicht angezeigten Daten eingrenzen:

  • Wählen Sie in der Liste Reservierung auswählen die Reservierung aus.
  • Wählen Sie in der Liste Projekt auswählen das Projekt aus.

Diagramme

BigQuery bietet die folgenden Tabellen- und Diagrammoptionen, mit denen Sie die Betriebsstatusmesswerte im Detail untersuchen können.

Übersichtstabelle

Die Übersichtstabellen enthalten die folgenden Messwerte:

  • Slotnutzung. Die durchschnittliche Slot-Auslastung. Die gesamte Slotkapazität entspricht der Basiskapazität plus der automatisch skalierten maximalen Kapazität.
  • Shuffle-Nutzung. Das Maximum aller durchschnittlichen Shuffle-Nutzungsraten für Reservierungen.
  • Nebenläufigkeit Die maximale Anzahl von Jobs, die gleichzeitig ausgeführt werden.
  • Verarbeitete Bytes. Die Gesamtzahl der Byte, die von abgeschlossenen Jobs verarbeitet wurden.
  • Jobdauer. Die durchschnittliche Laufzeit der abgeschlossenen Jobs, berechnet vom Zeitpunkt der Erstellung des Jobs bis zu dem Zeitpunkt, an dem der Job beendet wurde.
  • Speicher insgesamt. Die Gesamtzahl der aktiven logischen Byte zum Zeitpunkt der letzten Aktualisierung.

In der Ansicht werden zwei Übersichtstabellen angezeigt: Standortübersicht und Reservierungsübersicht. Jede Tabellenzeile steht für die Nutzung eines Standorts oder einer Reservierung.

Die Tabellen enthalten Messwerte für die 30 Minuten vor der letzten Aktualisierung. Wenn Livedaten aktiviert ist, werden die abgefragten Daten alle fünf Minuten aktualisiert. Wenn Livedaten deaktiviert sind, beträgt die maximale Datenveralterung etwa eine Stunde.

Die Tabellenzelle ist farbcodiert, wenn der Messwert über dem vordefinierten Schwellenwert liegt und es für wiederholte Jobs mehr Leistungsinformationen gibt:

  • Wenn der Messwert der letzten 30 Minuten vor der letzten Aktualisierung über dem P99-Wert der Nutzung desselben Tages der Vorwoche liegt, ist die Tabellenzelle mit einem dunkelblauen Hintergrund markiert.
  • Wenn der Messwertwert innerhalb der 30 Minuten zwischen dem P95- und P99-Wert der Nutzung desselben Tags der Vorwoche liegt, wird die Tabellenzelle mit einem hellblauen Hintergrund markiert.

Alle Schwellenwerte sind vordefiniert und können nicht angepasst werden. Sie können einen Grenzwert prüfen, indem Sie auf Info klicken.

Administrative Übersichtstabelle von BigQuery.

Daten filtern

Sie können Daten in Diagrammen nach den folgenden Werten filtern:

Administrative BigQuery-Filterdaten.

  • Standort. Es sind auch Regionen verfügbar, in denen die Organisation in den letzten 30 Tagen Aktivitäten ausgeführt hat. Die Zusammenfassungsansicht enthält eine Tabelle, in der die Nutzung in allen aktiven Regionen zusammengefasst wird.
  • Reservierung. Dieses Feld ist nur in der Detailansicht verfügbar. Alle Reservierungen, die zum Administrationsprojekt gehören, sind verfügbar. Sie können nur eine Reservierung auswählen.
  • Projekt. Dieses Feld ist nur in der Detailansicht verfügbar. Alle Projekte mit Zugriffen in der Organisation sind verfügbar. Sie können nur ein Projekt auswählen.
  • Zeitraum. Dieses Feld ist nur in der Detailansicht verfügbar. Sie wirkt sich auf die Zeitachsendiagramme und das Fehler-Ringdiagramm in der Detailansicht aus. Die Datenskala in den Zeitachsendiagrammen wird automatisch entsprechend dem ausgewählten Zeitraum angepasst.

Diagramm: Top-aktive Abfragen

In diesem Diagramm werden die zehn wichtigsten Jobs mit aktiven Ressourcen angezeigt, die in absteigender Reihenfolge sortiert sind. Im Drop-down-Menü können Sie eine Sortieroption basierend auf der Slotnutzung oder der Jobdauer auswählen. Die Job-ID und die relevante Anzahl der Ressourcennutzung werden im Balkendiagramm angezeigt. Wählen Sie im Diagramm oben aktive Abfragen Weitere Informationen oder die Job-ID aus, um weitere Details im Job-Explorer aufzurufen. Weitere Informationen zu den Ausführungsdetails und zur Diagnose von Leistungsproblemen für Ihre BigQuery-Jobs finden Sie unter Statistiken zur Abfrageleistung abrufen.

Fehler-Ringdiagramm

Dieses Diagramm zeigt den Anteil der häufigsten Fehlerursachen im ausgewählten Zeitraum. In der Zusammenfassungsansicht deckt sie standardmäßig die letzten 30 Minuten ab. In der Detailansicht wird über die Zeitraumauswahl die Abdeckung gesteuert. Sie können die Fehler nach Typ, Inhaberprojekt oder Reservierung gruppieren. Die Anzahl der fehlgeschlagenen Jobs wird im Ringdiagramm angezeigt.

BigQuery-Fehler-Ringdiagramm.

Zeitachsendiagramme für Messwerte

Die Diagramme enthalten eine Übersicht über die unterstützten Messwerte über einen Zeitraum von maximal 30 Tagen. Standardmäßig beträgt der Zeitraum eine Stunde. Wenn sich der ausgewählte Zeitraum ändert, wird der Detaillierungsgrad jedes Datenpunkts im Diagramm automatisch skaliert.

In diesen Diagrammen wird ein aggregierter Wert für eine Region oder Reservierung angezeigt. Das Anzeigen von Daten für mehrere Regionen oder mehrere Reservierungen wird nicht unterstützt.

BigQuery-Messwert-Zeitachsendiagramme

Die Zeitachsendiagramme für Messwerte unterstützen die folgenden Messwerte:

  • Slotnutzung. Die durchschnittliche Slot-Nutzung im ausgewählten Zeitraum. Die gesamte Slot-Nutzung von allen Jobs und fehlgeschlagenen Jobs wird separat angezeigt.
  • Jobnebenläufigkeit. Die maximale Anzahl von Jobs, die im ausgewählten Zeitraum gleichzeitig ausgeführt wurden. Die Anzahl der laufenden und ausstehenden Jobs wird separat angezeigt und als gestapeltes Balkendiagramm angezeigt.
  • Gescannte Byte. Die Gesamtzahl der Byte, die im ausgewählten Zeitraum von abgeschlossenen Jobs verarbeitet wurden.
  • Shuffle. Das Maximum aller durchschnittlichen Shuffle-Nutzungsverhältnisse für Reservierungen im ausgewählten Zeitraum.
  • Jobdauer. Die durchschnittliche Laufzeit von Jobs, die im ausgewählten Zeitraum abgeschlossen wurden, berechnet von der Joberstellungszeit bis zur Endzeit des Jobs.
  • Fehler nach Typ. Das Fehler-Ringdiagramm zeigt den Anteil verschiedener Fehlerursachen im ausgewählten Zeitraum.

Neben den Messwerttrends werden in diesen Diagrammen Referenzlinien der P95- und P99-Messwerte der Nutzung am selben Tag der Vorwoche angezeigt. Im Diagramm Jobnebenläufigkeit wird der Schwellenwert für die Summe der ausstehenden und laufenden Jobs angezeigt. Diese referenzierten Werte werden als Schwellenwerte für die Farbcodierung in der Zusammenfassungstabelle verwendet.

Wenn Sie mehr über das Diagramm erfahren möchten, klicken Sie auf Weitere Informationen. Sie werden zum Tab Ressourcennutzung weitergeleitet.

Statistiktabelle

In dieser Tabelle sind die Kontingentfehler, Zugriffsverweigerungsfehler und Leistungsdaten zusammengefasst, die bei der Ausführung von Jobs im ausgewählten Zeitraum erfasst wurden. Statistiken werden auf Reservierungsebene zusammengefasst. Jede Zeile enthält Informationen zum Insight-Typ, zum Standort, zur Reservierung, zu den Insight-Details und zu Beispiel-Job-IDs. Klicken Sie auf Job-IDs, um weitere Jobdetails im Job-Explorer aufzurufen. In der Zusammenfassungsansicht deckt der Standardbeobachtungszeitraum die letzten 30 Minuten ab. In der Detailansicht wird über die Zeitraumauswahl der spezifische Zeitraum gesteuert, für den Beobachtungsdaten angezeigt werden.

BigQuery-Erkenntnistabelle.

Betriebszustand für ein einzelnes Projekt überwachen

Das Dashboard für den betrieblichen Status des Projekts ist die Standardansicht, die Sie sehen, wenn Sie keinen Zugriff auf die gesamte Organisation haben oder für Ihr Projekt keine Reservierung vorhanden ist. Diese Ansicht kann Projektanalysten dabei helfen, den Systemstatus ihrer Projekte zu überwachen, ähnlich wie das Dashboard zum Betriebsstatus auf Organisationsebene. In den Diagrammen und Filtern werden jedoch nur Daten auf Projektebene angezeigt.

BigQuery-Ressourcennutzung ansehen

Mit BigQuery-Ressourcendiagrammen können Sie die bisherige Ressourcennutzung im Blick behalten, um zukünftige Anforderungen zu planen und Leistungsprobleme zu beheben.

Ansicht der Ressourcennutzung mit einem Zeitplan mit Messwerten für eine Organisation oder ein Verwaltungsprojekt und dem Bereich, in dem Sie das Diagramm konfigurieren

Die Messwerte in den Diagrammen werden durch Abfragen der folgenden INFORMATION_SCHEMA-Ansichten erfasst:

Die Daten können in Echtzeit aktualisiert werden. Sie reichen maximal 30 Tage zurück.

Wenn Sie sich die Ressourcennutzung ansehen, können Sie Folgendes konfigurieren:

  • Das Diagramm für die Ereigniszeitachse enthält eine Übersicht der Daten von maximal 30 Tagen. Die Standardeinstellung ist 1 Stunde.

  • Das Hauptdiagramm zeigt ausgewählte Messwerte wie die Slot-Nutzung oder die verarbeiteten Byte im Zeitverlauf für Ihre Organisation oder Ihr Verwaltungsprojekt. Eine Legende für das Diagramm enthält weitere Details zu den angezeigten Daten.

  • Im Bereich Diagrammkonfiguration können Sie vordefinierte Ansichten Ihrer Messwerte auswählen oder eigene Messwerte für die Ansichten anpassen.

Das Diagramm zur Ressourcenauslastung enthält die folgenden Elemente:

  • Bewegen Sie den Mauszeiger auf dem Tab „Ressourcennutzung“ oben im Diagramm auf den Status-Chip, um weitere Informationen zu einem Messwert aufzurufen.
  • Auf den Status-Chips sehen Sie außerdem Folgendes:

    • Wenn der Messwert noch geladen wird, wird ein Ladebalken angezeigt.
    • Wenn für den Messwert veraltete Daten verwendet werden, wird ein Uhrensymbol angezeigt.
    • Wenn der Messwert aufgrund von nicht unterstützten Filtern auf Seitenebene nicht geladen werden kann, ist er durchgestrichen.
    • Wenn der Messwert nicht geladen werden kann, wird der Status-Chip hervorgehoben.

Diagramme zur Ressourcenauslastung aufrufen und konfigurieren

So rufen Sie Diagramme zur Ressourcenauslastung auf und konfigurieren sie:

  1. Öffnen Sie in der Google Cloud Console die Seite Monitoring für BigQuery.

    Zu Monitoring

  2. Wählen Sie das Projekt aus. Als Administrator, der die Nutzung von Reservierungsressourcen überwacht, wählen Sie das Administrationsprojekt aus, mit dem Sie Slots gekauft und Reservierungen erstellt haben. Als Datenanalyst, der die Nutzung von Jobressourcen überwacht, wählen Sie das entsprechende Projekt aus.

  3. Rufen Sie auf der Seite Monitoring den Tab Ressourcenauslastung auf, um eine Zusammenfassung der Ressourcennutzung nach Standort aufzurufen.

  4. Wählen Sie einen Zeitraum für die Messwerte in dieser Ansicht aus, z. B. 1 Tag. Wenn Sie Echtzeitmesswerte sehen möchten, bei denen Abfragen auf aktuellen Daten ausgeführt werden, klicken Sie auf die Ein/Aus-Schaltfläche Live-Daten. Diese Einstellung ist standardmäßig deaktiviert, um die Leistung zu verbessern. Die Daten sind maximal eine Stunde alt.

  5. Konfigurieren Sie im Bereich Diagrammkonfiguration die folgenden Felder:

    • Wählen Sie im Feld Messwertansicht eine der Ansichten aus.
    • Wählen Sie im Feld Messwerte einen Messwert aus. Sie können einen Messwert hinzufügen oder bearbeiten.
    • Wählen Sie im Feld Gruppieren nach aus, wie die Daten gruppiert werden sollen.
    • Wählen Sie im Feld Filter aus, wie die Daten gefiltert werden sollen.
  6. Klicken Sie auf Übernehmen, um die Änderungen an der Diagrammkonfiguration zu speichern.

Messwertansicht

BigQuery bietet vorkonfigurierte Ansichten mit Messwerten zur Ressourcennutzung. In den folgenden Abschnitten werden die Messwerte beschrieben, die Sie in diesen Ansichten konfigurieren können.

Übersicht über die Slotkapazität

In dieser Ansicht sehen Sie Messwerte zur Slotnutzung und Kapazität für Reservierungsressourcen im Verwaltungsprojekt. Für jeden Messwert gelten die folgenden Standardeinstellungen. Sie können sie im Bereich Diagrammkonfiguration bearbeiten, indem Sie auf den Namen des Messwerts klicken:

  • Die Standardnutzungsdaten stammen aus der Reservierungsressource und die Kapazitätsdaten aus der Slotkapazitätsressource.
  • Der Standardumfang ist das Projekt.
  • Die Standardaggregation der einzelnen Messwerte erfolgt nach der maximalen Ressourcennutzung im ausgewählten Zeitraum.
Messwertname Beschreibung
Reservierung – Projekt – Slot-Nutzung Hier wird die Slot-Nutzung für den ausgewählten Zeitraum überwacht.
Reservierung – Projekt – Reservierte Slotnutzung Überwacht die Slotnutzung, die die Kapazität der Reservierung im ausgewählten Zeitraum übersteigt. Mit diesem Messwert können Sie die inaktiven Slots überwachen, die von anderen Reservierungen und Zusicherungen ausgeliehen wurden, oder Rundungsungenauigkeiten bei den Nutzungsdaten. Letzteres kann dazu führen, dass dieser Messwert auch dann nicht null ist, wenn die Freigabe inaktiver Slots deaktiviert ist.
Die Nutzung der geliehenen Slots ist ein ungefährer Wert und wird anhand der Slotnutzung, der zugewiesenen Slots und der automatisch skalierten Slots berechnet. Wenn der Wert für die Slotnutzung die zugesagte Kapazität und die Autoscaling-Slots überschreitet, werden die verbleibenden als geliehene Slots gruppiert.
Slotkapazität – Projekt – Gesamte Slotkapazität (Baseline) Hier wird die Baseline-Größe der Reservierungen in diesem Verwaltungsprojekt überwacht.
Slotkapazität – Projekt – Maximale Slotkapazität insgesamt Die maximale Anzahl der Slots, die im ausgewählten Zeitraum verfügbar sind. Der Messwert ist die Summe aus Zusicherungskapazität, Basiskapazität und automatisch skalierter Kapazität.
Slotkapazität – Projekt – Aktuelle Gesamtkapazität des Slots Die tatsächliche Anzahl der Slots, die Ihren Reservierungen im ausgewählten Zeitraum zugewiesen wurden.
Projektübersicht

In dieser Ansicht werden Messwerte zu Jobressourcen im Projekt angezeigt, in dem Sie Abfragen ausführen. Für jeden Messwert gelten die folgenden Standardeinstellungen. Sie können sie im Bereich Diagrammkonfiguration bearbeiten, indem Sie auf den Namen des Messwerts klicken:

  • Die Standardressource ist die Jobressource.
  • Der Standardumfang ist das Projekt.
Messwertname Beschreibung
Aufgabe – Projekt – Slot-Nutzung Hier wird die Slot-Nutzung für den ausgewählten Zeitraum überwacht. Die Standardaggregation erfolgt nach der maximalen Ressourcennutzung im ausgewählten Zeitraum.
Job – Projekt – Verarbeitete Bytes Die Gesamtzahl der Byte, die im ausgewählten Zeitraum von abgeschlossenen Jobs verarbeitet wurden. Die Standardaggregation erfolgt nach der Summe der im ausgewählten Zeitraum verarbeiteten Byte.
Job – Projekt – Jobnebenläufigkeit Hier wird die Anzahl der Jobs überwacht, die im ausgewählten Zeitraum gleichzeitig ausgeführt werden. Die Standardaggregation erfolgt nach der maximalen Ressourcennutzung im ausgewählten Zeitraum.
Stellenangebot – Projekt – Jobdauer Hier wird die Laufzeit der abgeschlossenen Jobs im ausgewählten Zeitraum überwacht. Die Laufzeit gibt die Zeit zwischen Joberstellung und Jobende an. Die Standardaggregation erfolgt nach der durchschnittlichen Laufzeit im ausgewählten Zeitraum.
Reservierungsübersicht

In dieser Ansicht sehen Sie Messwerte zur Jobaktivität mit Reservierungsressourcen im Verwaltungsprojekt. Für jeden Messwert gelten die folgenden Standardeinstellungen. Sie können sie im Bereich Diagrammkonfiguration bearbeiten, indem Sie auf den Namen des Messwerts klicken:

  • Die Standardressource ist die Reservierungsressource.
  • Der Standardumfang ist das Projekt.
Messwertname Beschreibung
Reservierung – Projekt – Slot-Nutzung Hier wird die Slot-Nutzung für den ausgewählten Zeitraum überwacht. Die Standardaggregation erfolgt nach der maximalen Ressourcennutzung im ausgewählten Zeitraum.
Reservierung – Projekt – Verarbeitete Bytes Die Gesamtzahl der Byte, die im ausgewählten Zeitraum von abgeschlossenen Jobs verarbeitet wurden. Die Standardaggregation erfolgt nach der Summe der im ausgewählten Zeitraum verarbeiteten Byte.
Reservierung – Projekt – Jobnebenläufigkeit Hier wird die Anzahl der Jobs überwacht, die im ausgewählten Zeitraum gleichzeitig ausgeführt werden. Die Standardaggregation erfolgt nach der maximalen Ressourcennutzung im ausgewählten Zeitraum.
Reservierung – Projekt – Jobdauer Hier wird die Laufzeit abgeschlossener Jobs im ausgewählten Zeitraum überwacht. Die Laufzeit gibt die Zeit zwischen Joberstellung und Jobende an. Dazu gehören auch Warteschlangen und Wiederholungen. Die Standardaggregation erfolgt nach der durchschnittlichen Laufzeit im ausgewählten Zeitraum.
Reservierung – Projekt – Shuffle-Nutzung Hier wird das Shuffle-Nutzungsverhältnis im ausgewählten Zeitraum beobachtet. Die Standardaggregation erfolgt nach der durchschnittlichen Nutzung im ausgewählten Zeitraum.
Benutzerdefinierte Ansicht

Wenn Sie eine benutzerdefinierte Messwertansicht erstellen möchten, können Sie Messwerte von Grund auf neu hinzufügen oder mit einer der vordefinierten Messwertansichten beginnen (z. B. Reservierungsübersicht) und die Messwerte darin anpassen.

Messwerte

Wenn Sie ein Diagramm konfigurieren, können Sie die Messwerte zur Ressourcennutzung hinzufügen, bearbeiten oder löschen.

So konfigurieren Sie Messwerte für Diagramme zur Ressourcenauslastung:

  1. Prüfen Sie in der Google Cloud Console die BigQuery-Diagramme zur Ressourcenauslastung.

  2. Konfigurieren Sie im Bereich Diagrammkonfiguration das Feld Messwerte:

    1. Klicken Sie auf Element hinzufügen > Messwert auswählen.
    2. Wählen Sie im Dialogfeld Messwert auswählen Folgendes aus:

      1. Der Typ der zu überwachenden Ressource: Job, Reservierung oder Slotkapazität.
      2. Der zu überwachende Bereich. Wenn Sie beispielsweise die Nutzung von Reservierungsressourcen in einem Verwaltungsprojekt überwachen möchten, wählen Sie den Umfang Projekt aus.
      3. Wählen Sie einen Messwert aus, der überwacht werden soll. Wenn Sie beispielsweise die inaktiven Slots überwachen möchten, die von anderen Reservierungen und Zusicherungen ausgeliehen wurden, oder Rundungsungenauigkeiten bei den Nutzungsdaten, wählen Sie Nutzung von geliehenen Slots aus.
    3. Klicken Sie auf Übernehmen.

    4. Wählen Sie im Dialogfeld Neues Element die Zusammenfassung aus. Wenn Sie beispielsweise die maximale Slotnutzung im ausgewählten Zeitraum überwachen möchten, die die Kapazität der Reservierung übersteigt, wählen Sie Max aus.

    5. Klicken Sie auf Fertig, um den Messwert zu speichern.

  3. Optional: Wenn Sie einen vorhandenen Messwert ändern möchten, klicken Sie auf seinen Namen und bearbeiten Sie die Einstellungen oder löschen Sie ihn.

Unterstützte Ressourcentypen und Gültigkeitsbereiche für Messwerte

Messwerte zur Ressourcennutzung werden nach Ressourcentyp und Umfang kategorisiert.

Ressourcentypen

Sie können die folgenden Ressourcentypen überwachen:

Ressource Beschreibung
Job Messwerte zu BigQuery-Jobdetails für einen bestimmten Umfang und Zeitraum.
Reservierung Messwerte zur Nutzung von BigQuery-Reservierungen für einen bestimmten Zeitraum und Bereich. Bei diesen Messwerten werden Jobdetails nach Reservierung zusammengefasst. Wenn Sie nur teilweisen Datenzugriff auf Reservierungsebene haben, sind aggregierte Messwerte zur Reservierungsnutzung verfügbar, ohne Zugriff auf Details auf Jobebene.
Slotkapazität Messwerte zur BigQuery-Reservierungs- und ‑Kapazitätszusicherung für einen bestimmten Umfang und Zeitraum.

Umfangstypen

Nachdem Sie eine Ressource für einen Messwert ausgewählt haben, wählen Sie einen Umfang aus.

  • Die Ressourcen „Reservierung“ und „Slotkapazität“ werden nur auf Projektebene unterstützt.
  • Die Jobressource kann auf Projekt-, Ordner- oder Organisationsebene festgelegt werden. Für größere Bereiche sind zusätzliche Berechtigungen erforderlich.

Gruppieren nach

So gruppieren Sie Daten in Ihrem Diagramm zur Ressourcenauslastung:

  1. Prüfen Sie in der Google Cloud Console die BigQuery-Diagramme zur Ressourcenauslastung.

  2. Konfigurieren Sie im Bereich Diagrammkonfiguration das Feld Nach. Wählen Sie dazu eine der folgenden Optionen aus:

    • : Mit dieser Option erhalten Sie eine allgemeine Übersicht über die ausgewählten Messwerte im Zeitverlauf für die gesamte Organisation.
    • Projekt: Mit dieser Option werden ausgewählte Messwerte nach Projekt gruppiert. Wenn mehr als 50 Projekte verfügbar sind, werden nur die 50 Top-Projekte mit der höchsten Slot-Nutzung angezeigt.
    • Alle anderen Gruppierungsoptionen: Diese Optionen ähneln der Projektansicht, wobei die Daten nach der entsprechenden Dimension gruppiert sind. Wenn eine Gruppierungsoption nicht für alle ausgewählten Messwerte unterstützt wird, kann sie nicht ausgewählt werden.

Wenn Sie das Diagramm zur Ressourcennutzung konfigurieren, können Sie Filter auf Ihre Daten anwenden, z. B. die Ressourcennutzung für Ressourcen der Enterprise-Version oder nach einer Ressourcen-ID.

Diagrammdaten können Sie mit Filtern aus dem Filterbereich filtern. Sie können nur einen Filter auswählen, der für die ausgewählten Messwerte unterstützt wird. Klicken Sie auf das Menü Filter, um die erforderlichen Berechtigungen aufzurufen.

Daten zur Ressourcenauslastung auf Projektebene ansehen

Die Ressourcennutzung auf Projektebene lässt sich mit denselben Konfigurationsschritten analysieren wie die Daten auf Organisationsebene. In den Diagrammen werden nur Daten und Konfigurationsoptionen auf Projektebene angezeigt. Optionen auf Organisationsebene sind ausgegraut. Dieser Umfang auf Projektebene zeigt die Gesamtressourcennutzung unabhängig vom Abrechnungsmodus innerhalb des Kontextprojekts.

Einschränkungen des Diagramms zur Ressourcennutzung

  • Im Diagramm und in der Tabelle in der Mitte der Seite werden Messwerte angezeigt, die für den ausgewählten Zeitraum und die ausgewählte Detailebene relevant sind.
  • Messwerte mit derselben Einheit haben dieselbe Skala. Das Diagramm unterstützt bis zu zwei unterschiedliche Skalen.

Zur alten Benutzeroberfläche wechseln

Standardmäßig haben Sie Zugriff auf Ressourcendiagramme für die Version, wenn Sie das Projekt für die Reservierungsverwaltung aufrufen. Sie können zwischen den Diagrammen für On-Demand-Ressourcen und den Ressourcendiagrammen für die Version aus dem Reservierungsverwaltungsprojekt (Vorabversion) wechseln.

So rufen Sie Ressourcendiagramme auf:

  1. Rufen Sie die Seite BigQuery auf.
    BigQuery aufrufen
  2. Wählen Sie im Projektmenü das Administratorprojekt aus, mit dem Sie Slots erworben und Reservierungen erstellt haben.
  3. Klicken Sie im Navigationsmenü auf Monitoring.
  4. Im Abschnitt Diagrammoptionen > Bereich können Sie das Abrechnungsmodell aus der Liste auswählen, das drei Arten von Editions und On-Demand enthält. Das Abrechnungsmodell ist standardmäßig auf die Enterprise Edition eingestellt.
  5. Führen Sie im Abschnitt Diagrammoptionen > Diagrammkonfigurationen folgende Schritte aus:
    1. Wählen Sie in der Liste Diagramm den Diagrammtyp aus. Informationen zu verschiedenen Diagrammoptionen finden Sie unter Diagrammoptionen.
    2. Wählen Sie aus der Liste Messwerte den verfügbaren Messwerttyp aus.
    3. Wählen Sie in der Liste Gruppieren nach die Dimension aus, nach der Sie die Daten im Diagramm gruppieren möchten. Informationen zu verschiedenen Dimensionen finden Sie unter Gruppieren nach Optionen.
    4. Wählen Sie in der Liste Filter die verfügbaren Filteroptionen aus. Informationen zu verschiedenen Filtern finden Sie unter Filter und Suche.
    5. Legen Sie den Zeitraum fest, für den Sie sich die Daten im Diagramm ansehen möchten.

Diagrammkonfigurationen

Sie können die Ansicht Ihrer Ressourcendiagramme anpassen. Ändern Sie dazu die folgenden Diagrammkonfigurationsoptionen.

Diagrammoptionen

BigQuery bietet die folgenden Messwerttypen, die in den Diagrammen angezeigt werden sollen:

  • Slotnutzung. Durchschnittliche Slotnutzung. Wenn die Option Gruppieren nach auf Gesamt gesetzt ist oder Keine oder eine einzelne Reservierung als Filter ausgewählt ist, werden auch Messwerte zur Kapazität und zur Auslastung geliehener Slots angezeigt.
    • Gesamtnutzung Durchschnittliche Slot-Nutzung im ausgewählten Zeitraum.
    • Reservierte Slotnutzung Durchschnittliche Nutzung, die die Kapazität der Reservierung übersteigt. Dies sind in der Regel inaktive Slots, die von anderen Reservierungen und Zusicherungen ausgeliehen wurden, oder Rundungsungenauigkeiten bei den Nutzungsdaten. Zusätzliche inaktive Slots werden im Diagramm zur Ressourcenauslastung angezeigt, auch wenn die Freigabe inaktiver Slots deaktiviert ist. Die Nutzung inaktiver Slots ist ein ungefährer Wert und wird anhand der Slotnutzung, der zugewiesenen Slots und der autoskalierten Slots berechnet. Wenn der Wert für die Slotnutzung die zugesagte Kapazität überschreitet, werden sie im Diagramm als inaktive Slots gruppiert.
    • Vereinbarte Kapazität Die Größe der Auflage.
    • Grundlegende Kapazität Die Basisgröße der Reservierung.
    • Kapazität für automatisches Skalieren Die Größe des automatisch skalierten Slots.
    • Maximale Kapazität Die maximale Anzahl von Slots, auf die der Nutzer zugreifen kann.
  • Jobnebenläufigkeit Maximale Anzahl der Jobs, die im ausgewählten Zeitraum gleichzeitig ausgeführt wurden.
  • Jobleistung Die durchschnittliche Joblaufzeit von abgeschlossenen Jobs, berechnet von der Joberstellungszeit bis zur Endzeit des Jobs.
  • Fehlgeschlagene Jobs. Durchschnittliche Slot-Nutzung im ausgewählten Zeitraum von Jobs, die fehlgeschlagen sind.
  • Verarbeitete Byte Gesamtzahl der Byte, die im ausgewählten Zeitraum von abgeschlossenen Jobs verarbeitet wurden.
  • Shuffle-Nutzung. Durchschnittliches Shuffle-Nutzungsverhältnis im ausgewählten Zeitraum (Vorschau).
Tabellenkomponente

Die Tabelle enthält Messwerte, die für den Zeitraum und die Dimension relevant sind, die Sie im Ressourcendiagramm ausgewählt haben.

Das Diagramm Slot-Nutzung zeigt die durchschnittliche Slot-Nutzung für alle Jobs an, die im ausgewählten Zeitraum ausgeführt wurden. Jobs, die im ausgewählten Zeitraum nicht abgeschlossen wurden, enthalten nur Slots, die innerhalb des angegebenen Zeitraums genutzt wurden.

Im Diagramm Jobleistung zeigt die Tabellenkomponente folgende Messwerte an:

  • Anzahl der Jobs Die Anzahl der ganz oder teilweise ausgeführten abgeschlossenen Jobs im ausgewählten Zeitraum.
  • Durchschnittliche Jobdauer Die durchschnittliche Jobdauer für abgeschlossene Jobs, die während des ausgewählten Zeitraums mindestens teilweise ausgeführt wurden.
  • Medianwert für die Jobdauer. Der Medianwert der Jobdauer für abgeschlossene Jobs, die während des ausgewählten Zeitraums mindestens teilweise ausgeführt wurden.
  • Minimale Jobdauer. Die minimale Jobdauer für abgeschlossene Jobs, die während des ausgewählten Zeitraums mindestens teilweise ausgeführt wurden. Diese Spalte ist standardmäßig ausgeblendet, kann aber über die Spaltenanzeigeoptionen eingeblendet werden.
  • Maximale Jobdauer: Die maximale Jobdauer für abgeschlossene Jobs, die während des ausgewählten Zeitraums mindestens teilweise ausgeführt wurden. Diese Spalte ist standardmäßig ausgeblendet, kann aber über die Spaltenanzeigeoptionen eingeblendet werden.

Im Diagramm Fehlgeschlagene Jobs zeigt die Tabellenkomponente die folgenden Daten an:

  • Durchschnittliche Slotnutzung Wie das Diagramm Slot-Nutzung, aber nur für fehlgeschlagene Jobs.
  • Gesamtzahl der fehlgeschlagenen Jobs. Die Anzahl der Jobs, die im ausgewählten Zeitraum fehlgeschlagen sind.
Nach Optionen gruppieren

Abhängig vom Typ des Diagramms können Sie die Daten in der Diagrammansicht nach mehreren Dimensionen gruppieren:

  • Gesamt. Die Gesamtansicht bietet eine Gesamtübersicht über den ausgewählten Messwert im Zeitverlauf im gesamten Unternehmen. Für die Slot-Nutzung werden Kapazität und Nutzung im gleichen Diagramm angezeigt. So erhalten Sie einen Eindruck von der Gesamt-Slot-Nutzung im Zeitverlauf.
  • Projekt. Die Projektansicht zeigt den ausgewählten Messwert nach Projekt gruppiert an. Wenn eine Organisation mehr als 10 Projekte hat, werden nur die 10 Top-Projekte mit der höchsten Slot-Nutzung, Jobgleichzeit, Jobdauer oder fehlgeschlagenen Jobs im ausgewählten Zeitraum angezeigt. Für die Slot-Nutzung werden alle anderen Projekte unten im Diagramm in die Kategorie Sonstige gruppiert. So können Sie leichter einen Vergleich der Gesamtkapazität durchführen.
  • Alle anderen „Gruppieren nach“-Ansichten ähneln der Projektansicht, wobei die Daten nach der entsprechenden Dimension gruppiert sind.
Zeitraumoption

Sie können den Zeitraum folgendermaßen ändern:

  • Wählen Sie den Zeitraum aus und ziehen Sie ihn in das Zeitachsendiagramm.
  • Wählen Sie den Zeitraum aus und ziehen Sie ihn in das Hauptdiagramm.

Der Ausrichtungszeitraum wird automatisch aktualisiert, wenn sich der ausgewählte Zeitraum ändert. Je kleiner der Ausrichtungszeitraum, desto detaillierter ist die Ansicht. Um Ressourcen, die sich häufig ändern, besser anzusehen, z. B. die Option Slot-Nutzung, reduzieren Sie den Ausrichtungszeitraum.

Filtern und suchen

Diagrammdaten können Sie mit Filtern aus dem Filterbereich eingrenzen. Einige Filter sind nur für bestimmte Diagramme verfügbar. Die Filter Reservierungen, Ordner, Projekte und Nutzer werden mit den entsprechenden Ressourcen gefüllt, die Slots im ausgewählten Zeitraum verbraucht haben. Wenn ein Projekt beispielsweise in den letzten 30 Tagen nicht verwendet wurde, erscheint es auch nicht in der Projektfilterliste.

Das Diagramm wird aktualisiert, nachdem Sie Filter angewendet haben, mit denen Daten innerhalb der ausgewählten Parameter angezeigt werden sollen.

Fehlerbehebung bei Slotkonflikten

Slotkonflikte können auftreten, wenn nicht genügend Slots vorhanden sind, um alle Jobs auszuführen. Dies führt zu Leistungsproblemen. Weitere Informationen zur Fehlerbehebung bei Konflikten um Slots finden Sie in den folgenden Schritten und Best Practices.

Wenn Sie diese Best Practices ausprobiert haben, aber weiterhin Probleme mit der Jobleistung auftreten, können Sie Support anfordern.

Spitzen bei der Jobnebenläufigkeit

In der Detailansicht können Sie nachsehen, ob es einen plötzlichen Anstieg der Jobausführungen gibt, bei dem es gleichzeitig zu Spitzen bei der Steckplatznutzung kommt. Dies kann darauf hindeuten, dass zu viele Jobs um Slots konkurrieren, die durch Ihr Reservierungslimit begrenzt sind.

  • Best Practice: Optimieren Sie ressourcenintensive Abfragen oder die Slotkapazität Ihrer Reservierung. Weitere Informationen zur Optimierung der Abfrageleistung finden Sie unter Abfrageleistung optimieren.

Hohe Slotnutzung

In der Detailansicht können Sie nach längeren Jobausführungen suchen, insbesondere wenn es Jobs gibt, die die maximale Kapazität Ihrer Reservierung überschreiten. Eine dauerhaft hohe Slot-Nutzung kann auf eine anhaltende Slot-Belegung hinweisen.

  • Best Practice: Prüfen Sie Abfragen mit dem Filter für die Slotauslastung im Aufgaben-Explorer, um die Abfragen zu ermitteln, die die meisten Slots verbrauchen, und optimieren Sie sie.

Lange Jobdauer

Wenn Jobs deutlich länger als erwartet dauern, sehen Sie sich die Detailansicht an. Hohe Job-Nebenläufigkeit und Spitzen bei der Slotnutzung können auf eine Slotkonflikt hinweise.

  • Best Practice: Isolieren Sie kritische Jobs, indem Sie weniger wichtige Jobs vorübergehend pausieren oder die Gesamtzahl der Jobeinreichungen reduzieren.

Nachrichten zu Slotkonflikten

In der Tabelle mit Statistiken können Meldungen wie There were NUMBER jobs detected with slot_contention in the reservation. angezeigt werden, die auf Probleme mit Slotkonflikten hinweisen. Im Job-Explorer finden Sie Details zu den in diesen Nachrichten gekennzeichneten Jobs.

  • Best Practice: Optimieren Sie die identifizierten Abfragen oder passen Sie die Slotzuweisung Ihrer Reservierung an.

Nächste Schritte