Surveiller l'état, l'utilisation des ressources et les jobs
En tant qu'administrateur BigQuery, vous pouvez surveiller l'état de votre organisation, l'utilisation des emplacements et les performances des jobs au fil du temps à l'aide des graphiques sur l'état opérationnel et l'utilisation des ressources. BigQuery fournit des graphiques configurables pour vous aider à :
Surveillez l'état opérationnel de BigQuery. La surveillance de l'état de fonctionnement de BigQuery en temps réel est un système de surveillance centralisé qui vous permet d'observer l'utilisation de BigQuery dans l'organisation et dans plusieurs emplacements.
Afficher l'utilisation des ressources BigQuery Utilisez les données historiques pour effectuer une analyse des causes premières, planifier la capacité et diagnostiquer les variations de performances.
Avant de commencer
- Pour afficher l'état de fonctionnement, vous devez utiliser des réservations auxquelles vous pouvez accéder avec un projet d'administration. Cette étape n'est pas obligatoire pour afficher les graphiques d'utilisation des ressources.
Rôles requis
Pour obtenir les autorisations nécessaires pour afficher toutes les données des graphiques sur l'état opérationnel et l'utilisation des ressources, demandez à votre administrateur de vous accorder les rôles IAM suivants sur votre organisation :
-
Lecteur de ressources BigQuery (
roles/bigquery.resourceViewer
) -
Lecteur de métadonnées BigQuery (
roles/bigquery.metadataViewer
)
Pour en savoir plus sur l'attribution de rôles, consultez Gérer l'accès aux projets, aux dossiers et aux organisations.
Ces rôles prédéfinis contiennent les autorisations requises pour afficher toutes les données des graphiques sur l'état opérationnel et l'utilisation des ressources. Pour connaître les autorisations exactes requises, développez la section Autorisations requises :
Autorisations requises
Vous devez disposer des autorisations suivantes pour afficher toutes les données des graphiques sur l'état de fonctionnement et l'utilisation des ressources :
-
Pour afficher toutes les données des graphiques sur l'état de fonctionnement et l'utilisation des ressources d'une organisation :
-
bigquery.jobs.listExecutionMetadata or bigquery.jobs.listAll
sur l'organisation -
bigquery.reservationAssignments.list
sur le projet d'administration utilisé pour créer les réservations -
bigquery.capacityCommitments.list
sur le projet d'administration utilisé pour créer les réservations
-
-
En tant qu'utilisateur à la demande, pour afficher toutes les données des graphiques d'utilisation des ressources d'une organisation :
bigquery.jobs.listExecutionMetadata or bigquery.jobs.listAll
sur l'organisation -
Pour afficher les données récapitulatives sur l'état de fonctionnement du stockage des table BigQuery :
bigquery.tables.get or bigquery.tables.list
sur l'organisation -
Pour afficher les graphiques sur l'état de fonctionnement et l'utilisation des ressources au niveau de la réservation :
-
bigquery.reservations.list
sur le projet d'administration utilisé pour créer les réservations -
bigquery.reservationAssignments.list
sur le projet d'administration utilisé pour créer les réservations
-
-
Pour afficher les graphiques d'utilisation des ressources au niveau du projet :
bigquery.jobs.listAll
sur le projet
Vous pouvez également obtenir ces autorisations avec des rôles personnalisés ou d'autres rôles prédéfinis.
Surveiller l'état opérationnel d'une organisation
Le tableau de bord de l'état de fonctionnement affiche les métriques clés de votre organisation et de ses réservations dans tous les emplacements où vous avez des réservations. Vous pouvez utiliser ce tableau de bord pour surveiller les métriques suivantes :
- Utilisation des emplacements
- Utilisation du brassage
- Simultanéité des jobs
- Erreurs
- Durée du job
- Octets traités
- Espace de stockage total
Afficher les graphiques sur l'état opérationnel
Pour afficher des informations sur l'état de fonctionnement de votre organisation, procédez comme suit :
Dans la console Google Cloud , accédez à la page Surveillance de BigQuery.
Sélectionnez le projet d'administration que vous avez utilisé pour acheter des emplacements et créer des réservations.
Sur la page Surveillance, accédez à l'onglet État de fonctionnement pour afficher un récapitulatif des métriques clés de votre organisation pour tous les emplacements et toutes les réservations.
Facultatif : Pour afficher des métriques en temps réel, où les requêtes sont exécutées sur des données récentes toutes les cinq minutes, cliquez sur le bouton Données en direct. Par défaut, ce paramètre est désactivé et l'obsolescence maximale des données est d'environ une heure.
Pour filtrer les métriques, configurez les champs suivants :
- Dans la liste Sélectionner un emplacement, sélectionnez une région à surveiller.
- Dans la liste Sélectionner une réservation, sélectionnez la réservation.
- Dans la liste Sélectionner un projet, sélectionnez le projet.
- Dans la liste Période, sélectionnez une période.
Facultatif : Pour afficher plus de détails sur l'état de fonctionnement avec un graphique d'utilisation des ressources ou l'explorateur de jobs, cliquez sur Voir plus.
BigQuery collecte les métriques en interrogeant les vues INFORMATION_SCHEMA
suivantes :
INFORMATION_SCHEMA.JOBS
INFORMATION_SCHEMA.JOBS_TIMELINE
INFORMATION_SCHEMA.RESERVATIONS
INFORMATION_SCHEMA.TABLE_STORAGE
Vues
L'onglet État de fonctionnement affiche les vues récapitulatives et détaillées suivantes.
Vue récapitulative
La vue récapitulative vous montre l'état des sous-systèmes de votre organisation, y compris les réservations et les régions, au cours des 30 dernières minutes.
Pour afficher la vue récapitulative, procédez comme suit :
- Dans l'onglet État de fonctionnement, dans la liste Sélectionner un emplacement, sélectionnez Tous les emplacements.
Vue détaillée
La vue détaillée affiche des graphiques chronologiques détaillés de différentes métriques, au niveau d'un emplacement ou d'une réservation.
Pour afficher la vue détaillée, procédez comme suit :
- Dans l'onglet État de fonctionnement, dans la liste Sélectionner un emplacement, sélectionnez la région ou l'édition.
Vous pouvez affiner les données affichées dans la vue détaillée à l'aide des filtres facultatifs suivants :
- Dans la liste Sélectionner une réservation, sélectionnez le nom de la réservation.
- Dans la liste Sélectionner un projet, sélectionnez le projet.
Graphiques
BigQuery propose les options de tableau et de graphique suivantes, qui vous permettent d'explorer en détail vos métriques sur l'état de fonctionnement.
tableau récapitulatif
Les tableaux récapitulatifs affichent les métriques suivantes :
- Utilisation des emplacements. Utilisation moyenne des emplacements. La capacité d'emplacements totale se compose de la capacité de référence et de la capacité d'autoscaling maximale.
- Utilisation du brassage. Maximum de tous les taux moyens d'utilisation du brassage des réservations.
- Simultanéité. Nombre maximal de jobs exécutés simultanément.
- Octets traités. Nombre total d'octets traités par les jobs terminés.
- Durée du job Durée moyenne d'exécution des jobs terminés, calculée entre leur création et leur fin.
- Espace de stockage total. Nombre total d'octets logiques actifs au moment de la dernière actualisation.
Deux tableaux récapitulatifs sont présentés dans la vue : Récapitulatif des établissements et Récapitulatif des réservations. Chaque ligne du tableau représente l'utilisation d'un emplacement ou d'une réservation.
Les tableaux affichent les métriques des 30 minutes précédant la dernière mise à jour. Si l'option Données en direct est activée, les données demandées sont actualisées toutes les cinq minutes. Si l'option Données en direct est désactivée, l'obsolescence maximale des données est d'environ une heure.
Les cellules de ce tableau incluent un code couleur si la métrique est supérieure au seuil prédéfini et si le nombre d'insights sur les performances pour les jobs répétés a augmenté :
- Si la valeur de la métrique au cours des 30 minutes précédant la dernière mise à jour est supérieure à la valeur P99 de l'utilisation de la semaine précédente pour le même jour, la cellule du tableau est marquée par un arrière-plan bleu foncé.
- Si la valeur de la métrique au cours des 30 minutes est comprise entre la valeur P95 et P99 de l'utilisation de la semaine précédente pour le même jour, la cellule de la table est marquée par un arrière-plan bleu clair.
Tous les seuils sont prédéfinis et ne peuvent pas être personnalisés. Pour vérifier un seuil, cliquez sur Infos Infos.
Filtrer les données
Vous pouvez filtrer les données des graphiques en fonction des valeurs suivantes :
- Emplacement. Les régions dans lesquelles l'organisation a enregistré une activité au cours des 30 derniers jours sont disponibles. La vue récapitulative présente un tableau récapitulatif de l'utilisation dans toutes les régions actives.
- Réservation. Ce champ n'est disponible que dans la vue détaillée. Toutes les réservations appartenant au projet d'administration sont disponibles. Vous ne pouvez choisir qu'une seule réservation.
- Projet. Ce champ n'est disponible que dans la vue détaillée. Tous les projets générant du trafic dans l'organisation sont disponibles. Vous ne pouvez sélectionner qu'un seul projet.
- Période : Ce champ n'est disponible que dans la vue détaillée. Il affecte les graphiques chronologiques des métriques et le graphique en anneau sur les erreurs dans la vue détaillée. L'échelle des données dans les graphiques chronologiques des métriques est ajustée automatiquement en fonction de la période sélectionnée.
Graphique des requêtes les plus actives
Ce graphique affiche les dix jobs principaux avec des ressources actives triées par ordre décroissant. Dans le menu déroulant, vous pouvez sélectionner une option de tri en fonction de l'utilisation des emplacements ou de la durée du job. L'ID de job et le numéro d'utilisation des ressources pertinent s'affichent dans le graphique à barres. Sélectionnez Voir plus ou l'ID du job dans le graphique "Classement des requêtes actives" pour afficher plus de détails dans l'explorateur de jobs. Pour en savoir plus sur les détails de l'exécution et diagnostiquer les problèmes de performances de vos jobs BigQuery, consultez Obtenir des insights sur les performances des requêtes.
Graphique en anneau des erreurs
Ce graphique montre la proportion des principales causes d'échec au cours de la période sélectionnée. Dans la vue récapitulative, les 30 dernières minutes sont utilisées par défaut. Dans la vue détaillée, le sélecteur de période contrôle sa couverture. Vous pouvez regrouper les erreurs par type, par projet propriétaire ou par réservation. Le nombre de jobs ayant échoué s'affiche dans le graphique en anneau.
Graphiques chronologiques des métriques
Les graphiques affichent les métriques disponibles sur une période de 30 jours maximum. La période par défaut est d'une heure. À mesure que la période sélectionnée change, la précision de chaque point de données du graphique est mise à l'échelle automatiquement.
Ces graphiques affichent une valeur agrégée sur une région ou une réservation. Il n'est pas possible d'afficher des données pour plusieurs régions ou plusieurs réservations.
Les graphiques chronologiques des métriques sont compatibles avec les métriques suivantes :
- Utilisation des emplacements. Utilisation moyenne des emplacements au cours de la période sélectionnée. Affiche séparément l'utilisation globale des emplacements pour tous les jobs et les jobs ayant échoué.
- Simultanéité des jobs. Nombre maximal de jobs pouvant être exécutés simultanément au cours de la période sélectionnée. Affiche le nombre de jobs en cours d'exécution et en attente séparément et s'affiche sous la forme d'un graphique à barres empilées.
- Octets analysés. Nombre total d'octets traités par les jobs terminés au cours de la période sélectionnée.
- Brassage. Valeur maximale de tous les taux moyens d'utilisation du brassage des réservations au cours de la période sélectionnée.
- Durée du job Durée moyenne d'exécution des jobs au cours de la période sélectionnée, calculée à partir de l'heure de création et de fin du job.
- Erreur par type. Le graphique en anneau des erreurs indique la proportion de différentes causes d'échec au cours de la période sélectionnée.
En plus des tendances des métriques, les graphiques affichent des lignes de référence des valeurs de métriques P95 et P99 en fonction de l'utilisation de la semaine précédente pour le même jour. Le graphique Simultanéité des jobs affiche le seuil pour la somme des jobs en attente et en cours d'exécution. Ces valeurs référencées sont utilisées comme seuils de codes couleur dans le tableau récapitulatif.
Pour en savoir plus sur le graphique, cliquez sur En savoir plus. Vous êtes redirigé vers l'onglet Utilisation des ressources.
Table des insights
Cette table regroupe les erreurs de quota, les erreurs de type "accès refusé" et les insights sur les performances recueillis lors des exécutions de jobs au cours de la période sélectionnée. Les insights sont agrégés au niveau de la réservation. Chaque ligne fournit des informations sur le type d'insight, l'emplacement, la réservation, les détails de l'insight et des exemples d'ID de jobs. Cliquez sur les ID de jobs pour afficher plus de détails dans l'explorateur de jobs. Dans la vue récapitulative, la période d'observation par défaut couvre les 30 dernières minutes. Dans la vue détaillée, le sélecteur de période contrôle la période spécifique pour laquelle les données d'observation sont affichées.
Surveiller l'état opérationnel d'un seul projet
Le tableau de bord de l'état de fonctionnement du projet est la vue par défaut qui s'affiche si vous n'avez pas accès à l'ensemble de l'organisation ou si votre projet ne possède aucune réservation. Cette vue peut aider les analystes de projet à surveiller l'état du système pour leurs projets, un peu comme le tableau de bord de l'état opérationnel au niveau de l'organisation, mais elle n'affiche que les données au niveau du projet dans ses graphiques et filtres.
Afficher l'utilisation des ressources BigQuery
Les graphiques de ressources BigQuery vous aident à suivre l'utilisation des ressources passées pour planifier les besoins futurs et résoudre les problèmes de performances.
Les graphiques collectent des métriques en interrogeant les vues INFORMATION_SCHEMA
suivantes :
Les données peuvent être mises à jour en temps réel sur une période maximale de 30 jours.
Lorsque vous consultez l'utilisation des ressources, vous pouvez configurer les éléments suivants :
Le graphique de chronologie des événements offre un aperçu des données sur une période de 30 jours maximum. La valeur par défaut est de six heures.
Le graphique principal affiche les métriques sélectionnées, telles que l'utilisation des emplacements ou les octets traités, au fil du temps pour votre organisation ou votre projet d'administration. Une légende du graphique fournit plus de détails sur les données affichées.
Le volet Configuration du graphique vous permet de sélectionner des vues prédéfinies de vos métriques ou de personnaliser vos propres métriques pour les vues.
Le graphique d'utilisation des ressources comporte les éléments suivants :
- Dans l'onglet "Utilisation des ressources", pointez sur le chip d'état en haut du graphique pour afficher plus d'informations sur une métrique.
Les chips d'état affichent également les informations suivantes :
- Si la métrique est toujours en cours de chargement, une icône de chargement s'affiche.
- Si la métrique utilise des données obsolètes, une icône en forme d'horloge s'affiche.
- Si la métrique ne peut pas être chargée en raison de filtres au niveau de la page non compatibles, elle est barrée.
- Si la métrique ne se charge pas, le chip d'état est mis en surbrillance.
Afficher et configurer les graphiques d'utilisation des ressources
Pour afficher et configurer les graphiques d'utilisation des ressources, procédez comme suit :
Dans la console Google Cloud , accédez à la page Surveillance de BigQuery.
Sélectionnez le projet. En tant qu'administrateur qui surveille l'utilisation des ressources de réservation, choisissez le projet d'administration utilisé pour acheter des emplacements et créer des réservations. En tant qu'analyste de données qui surveille l'utilisation des ressources des tâches, choisissez le projet correspondant.
Sur la page Monitoring, accédez à l'onglet Utilisation des ressources pour afficher un récapitulatif de l'utilisation des ressources, ventilée par emplacement.
Choisissez une période pour les métriques de cette vue, par exemple 1 jour. Pour afficher des métriques en temps réel, où les requêtes sont exécutées sur des données récentes, cliquez sur le bouton Données en direct. Ce paramètre est désactivé par défaut pour améliorer les performances. L'obsolescence maximale des données est d'environ une heure.
Dans le volet Configuration du graphique, configurez les champs suivants :
- Dans le champ Vue Métrique, sélectionnez l'une des vues.
- Dans le champ Métriques, sélectionnez une métrique à afficher. Vous pouvez ajouter ou modifier une métrique.
- Dans le champ Grouper par, sélectionnez la façon dont vous souhaitez regrouper les données.
- Dans le champ Filtres, sélectionnez la façon de filtrer les données.
Pour enregistrer les modifications apportées à la configuration du graphique, cliquez sur Appliquer.
Vue Métriques
BigQuery fournit des vues préconfigurées des métriques d'utilisation des ressources. Les sections suivantes décrivent les métriques que vous pouvez configurer dans ces vues.
Utilisation des emplacements de réservation
Cette vue affiche des métriques sur la répartition de l'utilisation des emplacements pour les réservations dans le projet administratif. Chaque métrique possède les paramètres par défaut suivants, que vous pouvez modifier dans le volet Configuration du graphique en cliquant sur le nom de la métrique :
- Les données d'utilisation par défaut proviennent des ressources de réservation.
- La portée par défaut est le projet.
- L'agrégation par défaut correspond à l'utilisation moyenne au cours de la période sélectionnée.
Nom de la métrique | Description |
---|---|
Réservation : utilisation des emplacements | Surveille l'utilisation totale des emplacements pour la période sélectionnée. |
Réservation : utilisation des emplacements inactifs | Surveille l'utilisation d'emplacements supérieure à la capacité de la réservation au cours de la période sélectionnée. Cette métrique vous permet de surveiller les emplacements inactifs empruntés à d'autres réservations et engagements, ou les imprécisions d'arrondi dans les données d'utilisation. Cette dernière peut entraîner une valeur non nulle pour cette métrique, même si le partage des emplacements inactifs est désactivé.
L'utilisation des emplacements inactifs est une valeur approximative calculée en fonction de l'utilisation des emplacements, des emplacements engagés et des emplacements avec autoscaling. Si la valeur d'utilisation des emplacements dépasse la capacité d'engagement et les emplacements liés à l'autoscaling, le graphique regroupe le reste en tant qu'emplacements inactifs. |
Réservation : emplacements de base utilisés | Surveille les emplacements utilisés à partir de la référence de réservation. |
Réservation : emplacements avec autoscaling utilisés | Surveille les emplacements utilisés à partir des emplacements avec autoscaling des réservations. |
Vue d'ensemble de l'utilisation de l'édition
Cette vue affiche des métriques sur l'utilisation et la capacité des emplacements pour les ressources d'édition dans le projet d'administration. Chaque métrique comporte les paramètres par défaut suivants, que vous pouvez modifier dans le volet Configuration du graphique en cliquant sur le nom de la métrique :
- Les données d'utilisation par défaut proviennent de la ressource de réservation, et les données de capacité proviennent de la ressource d'édition.
- La portée par défaut est le projet.
Nom de la métrique | Description |
---|---|
Réservation : utilisation des emplacements | Surveille l'utilisation des emplacements pour la période sélectionnée. L'agrégation par défaut est basée sur l'utilisation des emplacements au 99e centile au cours de la période sélectionnée. |
Réservation : utilisation des emplacements inactifs | Surveille l'utilisation d'emplacements supérieure à la capacité de la réservation au cours de la période sélectionnée. Cette métrique vous permet de surveiller les emplacements inactifs empruntés à d'autres réservations et engagements, ou les imprécisions d'arrondi dans les données d'utilisation. Cette dernière peut entraîner une valeur non nulle pour cette métrique, même si le partage d'emplacements inactifs est désactivé.
L'utilisation des emplacements inactifs est une valeur approximative calculée en fonction de l'utilisation des emplacements, des emplacements engagés et des emplacements avec autoscaling. Si la valeur d'utilisation des emplacements dépasse la capacité d'engagement et les emplacements liés à l'autoscaling, le graphique regroupe le reste en tant qu'emplacements inactifs. L'agrégation par défaut est basée sur l'utilisation des ressources p99 au cours de la période sélectionnée. |
Édition : capacité de base | Surveille la taille de référence des réservations dans ce projet d'administration. |
Édition : capacité maximale | Surveille le nombre maximal d'emplacements disponibles au cours de la période sélectionnée. Cette métrique correspond à la somme de la capacité d'engagement, de la capacité de référence et de la capacité d'autoscaling. L'agrégation par défaut est basée sur l'utilisation maximale des ressources au cours de la période sélectionnée. |
Édition : capacité attribuée | Surveille le nombre réel d'emplacements attribués aux ressources de votre édition au cours de la période sélectionnée. L'agrégation par défaut est basée sur l'utilisation maximale des ressources au cours de la période sélectionnée. |
Présentation du projet actuel
Cette vue affiche des métriques sur les ressources de job dans le projet dans lequel vous exécutez des requêtes. Chaque métrique possède les paramètres par défaut suivants, que vous pouvez modifier dans le volet Configuration du graphique en cliquant sur le nom de la métrique :
- La ressource par défaut est la ressource de job.
- La portée par défaut est le projet.
Nom de la métrique | Description |
---|---|
Utilisation des jobs, des projets et des emplacements | Surveille l'utilisation des emplacements pour la période sélectionnée. L'agrégation par défaut est basée sur l'utilisation maximale des ressources au cours de la période sélectionnée. |
Job – Projet – Octets traités | Surveille le nombre total d'octets traités par les jobs terminés au cours de la période sélectionnée. L'agrégation par défaut est basée sur la somme des octets traités au cours de la période sélectionnée. |
Job - Projet - Simultanéité des jobs | Surveille le nombre de jobs exécutés simultanément au cours de la période sélectionnée. L'agrégation par défaut est basée sur l'utilisation maximale des ressources au cours de la période sélectionnée. |
Job – Projet – Durée du job | Surveille la durée d'exécution des jobs terminés au cours de la période sélectionnée. La durée d'exécution mesure le temps écoulé entre la création et la fin d'un job. L'agrégation par défaut est basée sur la durée d'exécution moyenne au cours de la période sélectionnée. |
Présentation des réservations détenues
Cette vue affiche des métriques sur l'activité des jobs avec des ressources de réservation dans le projet administratif. Chaque métrique possède les paramètres par défaut suivants, que vous pouvez modifier dans le volet Configuration du graphique en cliquant sur le nom de la métrique :
- La ressource par défaut est la ressource de réservation.
- La portée par défaut est le projet.
Nom de la métrique | Description |
---|---|
Réservation : utilisation des emplacements | Surveille l'utilisation des emplacements pour la période sélectionnée. L'agrégation par défaut est basée sur l'utilisation maximale des ressources au cours de la période sélectionnée. |
Réservation : octets traités | Surveille le nombre total d'octets traités par les jobs terminés au cours de la période sélectionnée. L'agrégation par défaut est basée sur la somme des octets traités au cours de la période sélectionnée. |
Réservation : simultanéité des jobs | Surveille le nombre de jobs exécutés simultanément au cours de la période sélectionnée. L'agrégation par défaut est basée sur l'utilisation maximale des ressources au cours de la période sélectionnée. |
Réservation : durée du job | Surveille la durée d'exécution des tâches terminées au cours de la période sélectionnée. La durée d'exécution mesure le temps écoulé entre la création et la fin d'un job. Cela inclut la mise en file d'attente et les nouvelles tentatives. L'agrégation par défaut est basée sur la durée d'exécution moyenne au cours de la période sélectionnée. |
Réservation : utilisation du brassage | Surveille le taux d'utilisation du brassage au cours de la période sélectionnée. L'agrégation par défaut correspond à l'utilisation moyenne au cours de la période sélectionnée. |
Vue personnalisée
Pour créer une vue de métriques personnalisée, vous pouvez ajouter des métriques à partir de zéro ou commencer par l'une des vues de métriques prédéfinies (par exemple, la vue de métriques Vue d'ensemble des réservations) et personnaliser les métriques qu'elle contient.
Métriques
Lorsque vous configurez un graphique, vous pouvez ajouter, modifier ou supprimer les métriques d'utilisation des ressources qu'il surveille.
Pour configurer les métriques du graphique d'utilisation des ressources, procédez comme suit :
Dans la console Google Cloud , affichez les graphiques d'utilisation des ressources BigQuery.
Dans le volet Configuration du graphique, configurez le champ Métriques :
- Cliquez sur Ajouter un élément> Sélectionner une métrique.
Dans la boîte de dialogue Sélectionner une métrique, choisissez les options suivantes :
- Type de ressource à surveiller : Job, Reservation ou Edition.
- Champ d'application à surveiller. Par exemple, pour surveiller les métriques de job dans le projet actuel, sélectionnez le champ d'application Projet.
- Choisissez une métrique à surveiller. Par exemple, pour surveiller l'utilisation des emplacements de job, sélectionnez Utilisation des emplacements.
Cliquez sur Appliquer.
Dans la boîte de dialogue Nouvel élément, sélectionnez l'agrégation. Par exemple, pour surveiller l'utilisation maximale d'emplacements au-delà de la capacité de la réservation au cours de la période sélectionnée, choisissez Max.
Enregistrez la métrique en cliquant sur OK.
Facultatif : Pour modifier une métrique existante, cliquez sur son nom, puis modifiez ses paramètres ou supprimez-la.
Types de ressources et niveaux acceptés pour les métriques
Les métriques d'utilisation des ressources sont classées par type et par portée.
Types de ressources
Vous pouvez surveiller les types de ressources suivants :
Ressource | Description |
---|---|
Job | Métriques sur les détails des jobs BigQuery pour un champ d'application et une période donnés. |
Réservation | Métriques sur l'utilisation des réservations BigQuery pour un champ d'application et une période donnés. Ces métriques agrègent les détails des tâches par réservation. Si vous n'avez qu'un accès partiel aux données au niveau de la réservation, des métriques d'utilisation agrégées des réservations sont disponibles, sans accès aux détails au niveau des tâches. |
Édition | Métriques sur la capacité de l'édition BigQuery pour un champ d'application et une période donnés. |
Types de portée
Après avoir sélectionné une ressource pour une métrique, vous devez sélectionner un champ d'application.
- Par défaut, les ressources de réservation et d'édition ont une portée au niveau du projet.
- La ressource de job peut être définie sur des niveaux d'accès au niveau du projet, du dossier ou de l'organisation. Les étendues plus importantes nécessitent des autorisations supplémentaires.
Grouper par
Pour regrouper des données dans votre graphique d'utilisation des ressources, procédez comme suit :
Dans la console Google Cloud , affichez les graphiques d'utilisation des ressources BigQuery.
Dans le volet Configuration du graphique, configurez le champ Regrouper par en sélectionnant l'une des options suivantes :
- Aucune : cette option vous offre un aperçu général des métriques choisies, au fil du temps, dans l'ensemble de l'organisation.
- Projet : cette option regroupe les métriques choisies par projet. Si plus de 50 projets sont disponibles, seuls les 50 premiers en termes d'utilisation des emplacements sont affichés.
- Toutes les autres options de regroupement : ces options sont semblables à la vue du projet, les données étant regroupées par leur dimension respective. Si une option de regroupement n'est pas compatible avec toutes les métriques choisies, elle ne peut pas être sélectionnée.
Filtre
Lorsque vous configurez votre graphique d'utilisation des ressources, vous pouvez appliquer des filtres à vos données, par exemple pour afficher l'utilisation des ressources pour les ressources de l'édition Enterprise ou par ID de ressource.
Pour filtrer les données du graphique, appliquez des filtres dans le panneau des filtres. Vous ne pouvez sélectionner un filtre que s'il est compatible avec les métriques que vous avez sélectionnées. Pour afficher les autorisations requises, cliquez sur le menu Filtrer.
Afficher les données d'utilisation des ressources au niveau du projet
Vous pouvez analyser l'utilisation des ressources au niveau du projet en suivant les mêmes étapes de configuration que pour afficher les données au niveau de l'organisation. Les graphiques n'affichent que les données et les options de configuration au niveau du projet (les options au niveau de l'organisation sont grisées). Ce champ d'application au niveau du projet montre l'utilisation globale des ressources, quel que soit le mode de facturation du projet contextuel.
Limites du graphique d'utilisation des ressources
- Le graphique et le tableau au milieu de la page affichent des métriques pertinentes pour la période et la précision sélectionnées.
- Les métriques ayant la même unité partagent la même échelle. Le graphique peut comporter jusqu'à deux échelles différentes.
Revenir à l'ancienne interface utilisateur
Par défaut, vous avez accès aux graphiques de ressources d'édition lorsque vous accédez au projet d'administration des réservations. Vous pouvez basculer entre les graphiques de ressources à la demande et les graphiques de ressources d'édition à partir du projet d'administration des réservations (Aperçu).
Pour afficher les graphiques des ressources, procédez comme suit :
- Accédez à la page BigQuery.
Accéder à BigQuery - Dans le menu des projets, sélectionnez le projet d'administration que vous avez utilisé pour acheter des emplacements et créer des réservations.
- Dans le menu de navigation, cliquez sur Monitoring.
- Dans la section Options de graphique > Champ d'application, vous pouvez sélectionner le modèle de facturation dans la liste, qui comprend trois types d'éditions et à la demande. Par défaut, le modèle de facturation est défini sur l'édition Enterprise.
- Dans la section Options de graphique > Configurations de graphique, procédez comme suit :
- Dans la liste Graphique, sélectionnez le type de graphique. Pour en savoir plus sur les différentes options de graphique, consultez la section Options de graphique.
- Dans la liste Métriques, sélectionnez le type de métrique disponible.
- Dans la liste Regrouper par, sélectionnez la dimension selon laquelle vous souhaitez regrouper les données dans le graphique. Pour en savoir plus sur les différentes dimensions, consultez la section Options de regroupement.
- Dans la liste Filtres, sélectionnez les options de filtre disponibles. Pour en savoir plus sur les différents filtres, consultez Filtres et recherche.
- Définissez la période pour laquelle vous souhaitez afficher les données dans le graphique.
Configurations de graphiques
Vous pouvez ajuster l'affichage de vos graphiques de ressources en modifiant les options de configuration suivantes.
Options du graphique
BigQuery fournit les types de métriques suivants à afficher dans les graphiques :
- Utilisation des emplacements Utilisation moyenne des emplacements. Si l'option Regrouper par est définie sur Global ou si les Filtres sont définis sur Aucun ou sur une seule réservation, les métriques de capacité et d'utilisation des créneaux empruntés sont également affichées.
- Utilisation totale Utilisation moyenne des emplacements au cours de la période sélectionnée.
- Utilisation des emplacements empruntés Utilisation moyenne supérieure à la capacité de la réservation. Il s'agit généralement d'emplacements inactifs empruntés à d'autres réservations et engagements, ou d'une imprécision d'arrondi dans les données d'utilisation. Des emplacements inactifs supplémentaires apparaissent dans le graphique d'utilisation des ressources, même si le partage d'emplacements inactifs est désactivé. L'utilisation des emplacements inactifs est une valeur approximative calculée en fonction de l'utilisation des emplacements, des emplacements engagés et des emplacements avec autoscaling. Si la valeur d'utilisation des emplacements dépasse la capacité d'engagement, le graphique les regroupe en tant qu'emplacements inactifs.
- Capacité d'engagement : Taille de l'engagement de l'édition.
- Capacité de base : Taille de référence de la réservation.
- Capacité d'autoscaling : Taille des emplacements avec autoscaling.
- Capacité maximale : Nombre maximal d'emplacements auxquels l'utilisateur peut accéder.
- Simultanéité des jobs Nombre maximal de jobs pouvant être exécutés simultanément au cours de la période sélectionnée.
- Performances des tâches Durée moyenne d'exécution des tâches terminées, calculée à partir des heures de création et de fin de tâche.
- Jobs ayant échoué : Utilisation moyenne des emplacements au cours de la période sélectionnée à partir de tâches ayant échoué.
- Octets traités Nombre total d'octets traités par les jobs terminés au cours de la période sélectionnée.
- Utilisation du brassage Taux d'utilisation aléatoire des données de brassage au cours de la période sélectionnée (aperçu).
Composant de table
Le tableau affiche des métriques pertinentes pour la période et la dimension sélectionnées dans le graphique des ressources.
Le graphique Utilisation des emplacements affiche l'utilisation moyenne des emplacements pour tous les jobs exécutés au cours de la période sélectionnée. Les tâches non terminées au cours de la période sélectionnée ne comprennent que les emplacements utilisés pendant cette période.
Pour le graphique de performances des tâches, le composant de table affiche les métriques suivantes :
- Nombre de tâches. Nombre de tâches terminées qui ont été exécutées ou partiellement exécutées au cours de la période sélectionnée.
- Durée moyenne d'un job : Durée moyenne de la tâche pour une tâche terminée ayant au moins été partiellement exécutée au cours de la période sélectionnée.
- Durée médiane du job : Durée médiane de la tâche pour une tâche terminée ayant au moins été partiellement exécutée au cours de la période sélectionnée.
- Durée minimale du job : Durée minimale de la tâche pour une tâche terminée ayant au moins été partiellement exécutée au cours de la période sélectionnée. Cette colonne est masquée par défaut, mais vous pouvez l'activer dans les Options d'affichage des colonnes.
- Durée maximale du job : Durée maximale de la tâche pour une tâche terminée ayant au moins été partiellement exécutée au cours de la période sélectionnée. Cette colonne est masquée par défaut, mais vous pouvez l'activer dans les Options d'affichage des colonnes.
Pour le graphique des Tâches ayant échoué, le composant de table affiche les données suivantes :
- Utilisation moyenne des emplacements : Identique au graphique Utilisation des emplacements, mais uniquement pour les tâches ayant échoué.
- Nombre total de tâches ayant échoué Nombre de jobs ayant échoué au cours de la période sélectionnée.
Options de regroupement
Selon le type de graphique, vous pouvez regrouper les données de la vue graphique selon plusieurs dimensions :
- Vue globale. La vue globale offre un aperçu général de la métrique sélectionnée au fil du temps dans l'ensemble de l'organisation. Pour vous donner une idée de l'utilisation globale des emplacements au fil du temps, la capacité et l'utilisation sont affichées sur le même graphique.
- Projet. La vue Projet affiche les métriques sélectionnées regroupées par projet. Si une organisation possède plus de 10 projets, seuls les 10 premiers en termes d'utilisation des emplacements, de simultanéité des tâches, de durée des tâches ou de tâches en échec au cours de la période sélectionnée sont affichés. Pour l'utilisation des emplacements, tous les autres projets sont regroupés dans la catégorie Autre au bas du graphique, afin de faciliter la comparaison avec la capacité globale.
- Toutes les autres vues par groupe sont semblables à la vue du projet, les données étant regroupées par leur dimension respective.
Option de période
Vous pouvez modifier la période en procédant comme suit :
- Sélectionnez la période et faites-la glisser dans le graphique de chronologie des événements.
- Sélectionnez la période et faites-la glisser dans le graphique principal.
La période d'alignement est automatiquement mise à jour à mesure que la période sélectionnée change. Plus la période d'alignement est courte, plus la vue est détaillée. Pour mieux afficher les ressources qui changent fréquemment, par exemple l'option Utilisation des emplacements, réduisez la période d'alignement.
Filtrer et rechercher
Pour affiner les données du graphique, appliquez des filtres dans le panneau des filtres. Certains filtres ne sont disponibles que pour certains graphiques. Les filtres Réservations, Dossiers, Projets et Utilisateurs sont renseignés avec les ressources respectives qui ont consommé des emplacements au cours de la période sélectionnée. Par exemple, si un projet n'a pas été utilisé au cours des 30 derniers jours, il n'apparaît pas dans la liste des filtres du projet.
Le graphique est actualisé après l'application des filtres afin d'afficher des données selon les paramètres sélectionnés.
Résoudre les problèmes de conflit d'emplacements
Des conflits d'emplacements peuvent se produire lorsqu'il n'y a pas assez d'emplacements pour exécuter tous vos jobs, ce qui entraîne des problèmes de performances. Pour résoudre les problèmes de contention de créneaux, consultez les étapes et les bonnes pratiques ci-dessous.
Si vous avez essayé ces bonnes pratiques, mais que vous rencontrez toujours des problèmes de performances des jobs, vous pouvez contacter l'assistance.
Pics de simultanéité des jobs
Utilisez la vue détaillée pour vérifier s'il y a une augmentation soudaine du nombre d'exécutions de tâches, avec des pics simultanés d'utilisation des emplacements. Cela peut indiquer qu'il y a trop de jobs en concurrence pour des emplacements limités par votre limite de réservation.
- Bonnes pratiques : Envisagez d'optimiser les requêtes gourmandes en ressources ou la capacité d'emplacements de votre réservation. Pour en savoir plus sur l'optimisation des performances des requêtes, consultez Optimiser le calcul des requêtes.
Utilisation élevée des emplacements
Utilisez la vue détaillée pour vérifier si la durée des tâches a augmenté, en particulier s'il existe des tâches qui dépassent la capacité maximale de votre réservation. Une utilisation constamment élevée des emplacements peut indiquer une contention en cours.
- Bonne pratique : Vérifiez les requêtes à l'aide du filtre de contention des emplacements de l'explorateur de jobs pour identifier celles qui consomment le plus d'emplacements et les optimiser.
Durée des jobs trop longue
Si les jobs mettent beaucoup plus de temps à se terminer, consultez la vue détaillée. Une forte simultanéité des jobs et des pics d'utilisation des emplacements peuvent indiquer une contention des emplacements.
- Bonne pratique : Isolez les jobs critiques en suspendant temporairement les jobs moins importants ou en réduisant votre taux global d'envoi de jobs.
Messages de conflit d'emplacements
Le tableau "Insights" peut afficher des messages tels que There were NUMBER jobs detected with
slot_contention in the reservation.
, qui indiquent des problèmes de contention de créneaux.
Consultez l'explorateur de jobs pour examiner les détails des jobs spécifiques signalés dans ces messages.
- Bonne pratique : Optimisez les requêtes identifiées ou ajustez l'allocation d'emplacements de votre réservation.
Étapes suivantes
- En savoir plus sur les réservations.
- En savoir plus sur l'achat d'emplacements.
- Découvrez comment estimer les exigences relatives à la capacité d'emplacements.
- Découvrez comment afficher les recommandations et les insights sur les emplacements.