Présentation de la création d'une instance avec des GPU associés

Compute Engine offre la possibilité d'ajouter des processeurs graphiques (GPU) aux machines virtuelles (VM). Vous pouvez utiliser ces GPU pour accélérer des charges de travail spécifiques sur vos VM, telles que le machine learning et le traitement des données.

Ce document présente les étapes requises pour créer une VM à laquelle sont associés des GPU.

Pour en savoir plus sur les GPU sur Compute Engine, consultez la page À propos des GPU.

Sélectionner le modèle de GPU

Pour obtenir la liste des modèles de GPU disponibles, consultez la page Plates-formes GPU. Notez également le type de machine compatible avec le modèle de GPU sélectionné.

Il peut également être utile de passer en revue les éléments suivants pour chaque modèle :

Limites

Outre les restrictions applicables à toutes les VM avec GPU, chaque série de machines avec GPU associés présente les limites suivantes:

VM A4

VM A3 Ultra

  • Vous ne pouvez demander de capacité qu'en utilisant les options de provisionnement compatibles pour un type de machine A3 Ultra.
  • Vous ne bénéficiez pas de remises automatiques proportionnelles à une utilisation soutenue ni de remises sur engagement d'utilisation flexible pour les VM qui utilisent un type de machine A3 Ultra.
  • Vous ne pouvez utiliser un type de machine A3 Ultra que dans certaines régions et zones.
  • Vous ne pouvez pas utiliser de disques persistants (régionaux ou zonaux) sur une VM utilisant un type de machine A3 Ultra.
  • Le type de machine A3 Ultra n'est disponible que sur la plate-forme de processeur Emerald Rapids.
  • Vous ne pouvez pas modifier le type de machine d'une VM de type A3 Ultra. Si vous avez besoin de modifier le type de machine, vous devez créer une nouvelle VM.
  • Vous ne pouvez pas modifier le type de machine d'une VM en type de machine A3 Ultra. Si vous avez besoin d'une VM utilisant un type de machine A3 Ultra, vous devez créer une nouvelle VM.
  • Les types de machines A3 Ultra ne sont pas compatibles avec la location unique.
  • Vous ne pouvez pas exécuter de systèmes d'exploitation Windows sur un type de machine A3 Ultra.

VM A3 Mega

VM A3 High

  • Vous ne pouvez demander de capacité qu'en utilisant les options de provisionnement compatibles pour un type de machine A3 High.
  • Vous ne bénéficiez pas de remises automatiques proportionnelles à une utilisation soutenue ni de remises sur engagement d'utilisation flexible pour les VM qui utilisent un type de machine A3 High.
  • Vous ne pouvez utiliser un type de machine A3 High que dans certaines régions et zones.
  • Vous ne pouvez pas utiliser de disques persistants régionaux sur une VM utilisant un type de machine A3 High.
  • Le type de machine A3 High n'est disponible que sur la plate-forme de processeur Sapphire Rapids.
  • Vous ne pouvez pas modifier le type de machine d'une VM de type A3 High. Si vous avez besoin de modifier le type de machine, vous devez créer une nouvelle VM.
  • Vous ne pouvez pas modifier le type de machine d'une VM en type de machine A3 High. Si vous avez besoin d'une VM qui utilise un type de machine A3 High, vous devez créer une nouvelle VM.
  • Les types de machines A3 High ne sont pas compatibles avec la location unique.
  • Vous ne pouvez pas exécuter de systèmes d'exploitation Windows sur un type de machine A3 High.
  • Pour les types de machine a3-highgpu-1g, a3-highgpu-2g et a3-highgpu-4g, les limites suivantes s'appliquent :
    • Pour ces types de machines, vous devez utiliser des VM Spot ou une fonctionnalité qui utilise le planificateur de charge de travail dynamique (DWS), comme les requêtes de redimensionnement dans un MIG. Pour obtenir des instructions détaillées sur l'une de ces options, consultez les ressources suivantes :
    • Vous ne pouvez pas utiliser Hyperdisk équilibré avec ces types de machines.
    • Vous ne pouvez pas créer de réservations.
    Si vous essayez de créer une VM à l'aide du provisionnement standard ou de créer une réservation pour ces types de machines, vous recevrez un message d'erreur.

VM A3 Edge

VM A2 Standards

  • Vous ne pouvez demander de capacité qu'en utilisant les options de provisionnement compatibles pour un type de machine A2 Standard.
  • Vous ne bénéficiez pas de remises automatiques proportionnelles à une utilisation soutenue ni de remises sur engagement d'utilisation flexible pour les VM qui utilisent un type de machine A2 Standard.
  • Vous ne pouvez utiliser un type de machine A2 Standard que dans certaines régions et zones.
  • Les types de machines A2 Standard ne sont disponibles que sur la plate-forme Cascade Lake.
  • Si votre VM utilise un type de machine A2 Standard, vous ne pouvez passer d'un type de machine A2 Standard qu'à un autre type de machine A2 Standard. Vous ne pouvez pas passer à un autre type de machine. Pour en savoir plus, consultez la page Modifier des VM optimisées pour les accélérateurs.
  • Vous ne pouvez pas utiliser le système d'exploitation Windows avec les types de machines A2 Standard <codea2-megagpu-16g< code="" dir="ltr" translate="no">. Lorsque vous utilisez des systèmes d'exploitation Windows, choisissez un autre type de machine A2 Standard.</codea2-megagpu-16g<>
  • Vous ne pouvez pas effectuer un formatage rapide des disques SSD locaux associés à des VM Windows qui utilisent des types de machines A2 Standard. Pour formater ces disques SSD locaux, vous devez effectuer un formatage complet en utilisant l'utilitaire diskpart et en spécifiant format fs=ntfs label=tmpfs.
  • Les types de machines A2 Standard ne sont pas compatibles avec la location unique.

VM A2 Ultra

  • Vous ne pouvez demander de capacité qu'en utilisant les options de provisionnement compatibles pour un type de machine A2 Ultra.
  • Vous ne bénéficiez pas de remises automatiques proportionnelles à une utilisation soutenue ni de remises sur engagement d'utilisation flexible pour les VM qui utilisent un type de machine A2 Ultra.
  • Vous ne pouvez utiliser un type de machine A2 Ultra que dans certaines régions et zones.
  • Les types de machines A2 Ultra ne sont disponibles que sur la plate-forme Cascade Lake.
  • Si votre VM utilise un type de machine A2 Ultra, vous ne pouvez pas modifier le type de machine. Si vous devez utiliser un autre type de machine A2 Ultra ou toute autre famille de machines, vous devez créer une VM.
  • Vous ne pouvez pas remplacer un autre type de machine par un type de machine A2 Ultra. Si vous avez besoin d'une VM utilisant un type de machine A2 Ultra, vous devez créer une nouvelle VM.
  • Vous ne pouvez pas effectuer un formatage rapide des disques SSD locaux associés à des VM Windows qui utilisent des types de machines A2 Ultra. Pour formater ces disques SSD locaux, vous devez effectuer un formatage complet en utilisant l'utilitaire diskpart et en spécifiant format fs=ntfs label=tmpfs.

VM G2

  • Vous ne pouvez demander de capacité qu'en utilisant les options de provisionnement compatibles pour un type de machine G2.
  • Vous ne bénéficiez pas de remises automatiques proportionnelles à une utilisation soutenue ni de remises sur engagement d'utilisation flexible pour les VM qui utilisent un type de machine G2.
  • Vous ne pouvez utiliser un type de machine G2 que dans certaines régions et zones.
  • Le type de machine G2 n'est disponible que sur la plate-forme Cascade Lake.
  • Les disques persistants standards (pd-standard) ne sont pas compatibles avec les VM qui utilisent des types de machines standards G2. Pour connaître les types de disques compatibles, consultez la section Types de disques compatibles pour G2.
  • Vous ne pouvez pas créer de GPU multi-instances sur des types de machines G2.
  • Si vous devez modifier le type de machine d'une VM G2, consultez la page Modifier des VM optimisées pour les accélérateurs.
  • Vous ne pouvez pas utiliser de Deep Learning VM Image en tant que disque de démarrage pour vos VM utilisant des types de machines G2.
  • Le pilote par défaut actuel de Container-Optimized OS n'est pas compatible avec les GPU L4 s'exécutant sur des types de machines G2. Container-Optimized OS n'accepte également qu'un ensemble sélectionné de pilotes. Si vous souhaitez utiliser Container-Optimized OS sur des types de machines G2, consultez les notes suivantes :
    • Utilisez une version de Container-Optimized OS compatible avec le pilote NVIDIA version 525.60.13 recommandée (minimum) ou ultérieure. Pour en savoir plus, consultez les Notes de version de Container-Optimized OS.
    • Lorsque vous installez le pilote, spécifiez la dernière version disponible compatible avec les GPU L4. Par exemple, sudo cos-extensions install gpu -- -version=525.60.13.
  • Vous devez utiliser Google Cloud CLI ou REST pour créer des VM G2 dans les scénarios suivants :
    • Vous souhaitez spécifier des valeurs personnalisées de la mémoire.
    • Vous souhaitez personnaliser le nombre de cœurs de processeur visibles.

VM N1+GPU

Pour en savoir plus sur les limites des instances N1 avec GPU, consultez les pages Fonctionnalités de la série de machines N1 et GPU de la série de machines N1.

Choisir un système d'exploitation

Si vous exploitez des GPU pour le machine learning, vous pouvez utiliser une instance Deep Learning VM Images pour votre VM. Chaque instance Deep Learning VM Images dispose d'un pilote de GPU préinstallé et inclut des packages tels que TensorFlow et PyTorch. Vous pouvez également utiliser une instance Deep Learning VM Images pour les charges de travail générales des GPU. Pour en savoir plus sur les images disponibles et les packages installés sur les images, consultez la page Choisir une image. Vous pouvez également utiliser n'importe quelle image publique ou image personnalisée, mais certaines images peuvent nécessiter un pilote ou un processus d'installation spécifique non traité dans ce document.

Vous devez identifier les pilotes appropriés pour votre image d'OS. Pour connaître les étapes d'installation des pilotes, consultez la section traitant de l'installation des pilotes de GPU.

Vérifier le quota de GPU

Pour protéger les systèmes et les utilisateurs de Compute Engine, les nouveaux projets bénéficient d'un quota global de GPU, ce qui limite le nombre total de GPU que vous pouvez créer dans les zones disponibles. Pour consulter le quota de GPU, consultez la page Quota de GPU.

Si vous avez besoin d'un quota de GPU supplémentaire, demandez une augmentation de quota. Lorsque vous demandez un quota de GPU, vous devez demander un quota pour les types de GPU que vous souhaitez créer dans chaque région, mais également un quota mondial supplémentaire pour le nombre total de GPU de tous types, dans toutes les zones.

Si votre projet a un historique de facturation établi, il recevra automatiquement un quota après l'envoi de la demande.

VM GPU et quotas d'allocation préemptive

Les ressources des VM qui utilisent le modèle de provisionnement standard par défaut (VM standards) ne peuvent généralement pas utiliser les quotas d'allocation préemptive, qui sont destinés aux charges de travail temporaires et sont généralement plus disponibles. Si votre projet ne dispose pas de quota préemptif et que vous n'avez jamais demandé de quota préemptif, toutes les VM de ce projet consomment des quotas d'allocation standards.

Toutefois, une fois que vous avez demandé un quota d'allocation préemptive, les VM standards qui répondent à tous les critères suivants ne peuvent consommer que le quota d'allocation préemptive.

En consommant le quota d'allocation préemptive pour ces charges de travail, vous bénéficiez à la fois de la durée d'exécution ininterrompue des VM standards et d'une meilleure disponibilité grâce au quota d'allocation préemptive.

Quel que soit le quota utilisé, les VM standards ne sont pas éligibles aux tarifs des VM Spot et ne sont pas soumis à la préemption.

Pour en savoir plus, consultez la section Quotas préemptifs.

Créer une VM à laquelle sont associés des GPU

Pour créer une VM à laquelle sont associés des GPU, procédez comme suit :

  1. Créez la VM. La méthode utilisée pour créer une VM dépend du modèle de GPU sélectionné.

  2. Installez le pilote de GPU sur votre VM pour que celle-ci puisse utiliser le GPU. Si vous avez activé un poste de travail virtuel NVIDIA RTX (anciennement appelé NVIDIA GRID), installez un pilote pour le poste de travail virtuel.

Étape suivante