Crea una VM N1 con GPU collegate

Console

1. Nella console Google Cloud, vai alla pagina Crea un'istanza.

   Vai a Crea un'istanza

2. Specifica un nome per la VM. Consulta Convenzione di denominazione delle risorse.

3. Seleziona una regione e una zona in cui sono disponibili le GPU. Consulta l'elenco delle zone GPU disponibili.

4. Nella sezione Configurazione macchina, seleziona la famiglia di macchine GPU, quindi procedi nel seguente modo:

   1. Nell'elenco Tipo di GPU, seleziona uno dei modelli di GPU supportati sulle macchine N1.
   2. Nell'elenco Numero di GPU, seleziona il numero di GPU.

   3. Se il tuo modello di GPU supporta le workstation virtuali (vWS) NVIDIA RTX per i carichi di lavoro grafici e prevedi di eseguire carichi di lavoro ad alta intensità di grafica su questa VM, seleziona Attiva workstation virtuale (NVIDIA GRID).

   4. Nell'elenco Tipo di macchina, seleziona uno dei tipi di macchine N1 preimpostati. In alternativa, puoi anche specificare impostazioni di tipo di macchina personalizzata.

5. Nella sezione Disco di avvio, fai clic su Cambia. Viene visualizzata la pagina Configurazione del disco di avvio.

6. Nella pagina Configurazione del disco di avvio, segui questi passaggi:

   1. Nella scheda Immagini pubbliche, scegli un'immagine Compute Engine supportata o Immagini VM per il deep learning.
   2. Specifica una dimensione del disco di avvio di almeno 40 GB.
   3. Per confermare le opzioni del disco di avvio, fai clic su Seleziona.

7. (Facoltativo) Configura il modello di provisioning. Ad esempio, se il tuo carico di lavoro è a tolleranza di errore e può essere sottoposto a un possibile prerilascio delle VM, valuta la possibilità di utilizzare le VM spot per ridurre il costo delle VM e delle GPU collegate. Per ulteriori informazioni, consulta GPU su VM spot. A tale scopo, completa i seguenti passaggi:

   1. Nella sezione Criteri di disponibilità, seleziona Spot dall'elenco Modello di provisioning delle VM. Questa impostazione disattiva le opzioni di riavvio automatico e di manutenzione dell'host per la VM.
   2. (Facoltativo) Nell'elenco Al termine della VM, seleziona cosa succede quando Compute Engine esegue la preemption della VM:
      • Per arrestare la VM durante la preemption, seleziona Interrompi (predefinito).
      • Per eliminare la VM durante la prelazione, seleziona Elimina.

8. Per creare e avviare la VM, fai clic su Crea.

gcloud

Per creare e avviare una VM, utilizza il comando gcloud compute instances create con i seguenti flag.

Se il tuo carico di lavoro è a tolleranza di errore e può resistere a un possibile prerilascio delle VM, valuta la possibilità di utilizzare le VM spot per ridurre il costo delle VM e delle GPU collegate. Per ulteriori informazioni, consulta GPU su VM spot. --provisioning-model=SPOT è un flag facoltativo che configura le VM come VM Spot. Per le VM spot, i flag di riavvio automatico e delle opzioni di manutenzione dell'host sono disattivati.

gcloud compute instances create VM_NAME \
    --machine-type MACHINE_TYPE \
    --zone ZONE \
    --boot-disk-size DISK_SIZE \
    --accelerator type=ACCELERATOR_TYPE,count=ACCELERATOR_COUNT \
    [--image IMAGE | --image-family IMAGE_FAMILY] \
    --image-project IMAGE_PROJECT \
    --maintenance-policy TERMINATE \
    [--provisioning-model=SPOT]

Sostituisci quanto segue:

• VM_NAME: il nome della nuova VM.
• MACHINE_TYPE: il tipo di macchina che hai selezionato per la VM.
• ZONE: la zona per la VM. Questa zona deve supportare il tipo di GPU.
• DISK_SIZE: le dimensioni del disco di avvio in GB. Specifica una dimensione del disco di avvio di almeno 40 GB.

• IMAGE o IMAGE_FAMILY che supporta le GPU. Specifica una delle seguenti opzioni:

  • IMAGE: la versione richiesta di un'immagine pubblica. Ad esempio, --image debian-10-buster-v20200309.
  • IMAGE_FAMILY: una famiglia di immagini. In questo modo viene creata la VM dall'immagine del sistema operativo più recente e non ritirata. Ad esempio, se specifichi --image-family debian-10, Compute Engine crea una VM dalla versione più recente dell'immagine del sistema operativo nella famiglia di immagini Debian 10.

  Puoi anche specificare un'immagine personalizzata o Deep Learning VM Images.

• IMAGE_PROJECT: il progetto immagine di Compute Engine a cui appartiene la famiglia di immagini. Se utilizzi un'immagine personalizzata o Immagini VM per il deep learning, specifica il progetto a cui appartengono queste immagini.

• ACCELERATOR_COUNT: il numero di GPU da aggiungere alla VM. Consulta GPU su Compute Engine per un elenco dei limiti delle GPU in base al tipo di macchina della VM.

• ACCELERATOR_TYPE: il modello di GPU che vuoi utilizzare. Se prevedi di eseguire workload con uso intensivo di risorse grafiche su questa VM, utilizza uno dei modelli di workstation virtuale.

  Scegli uno dei seguenti valori:

  • GPU NVIDIA:

    • NVIDIA T4: nvidia-tesla-t4
    • NVIDIA P4: nvidia-tesla-p4
    • NVIDIA P100: nvidia-tesla-p100
    • NVIDIA V100: nvidia-tesla-v100

  • Workstation virtuale (vWS) NVIDIA RTX (precedentemente nota come NVIDIA GRID):

    • NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
    • NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws

    • NVIDIA P100 Virtual Workstation: nvidia-tesla-p100-vws

      Per queste workstation virtuali, alla VM viene aggiunta automaticamente una licenza per workstation virtuale (vWS) NVIDIA RTX.

Esempio

Ad esempio, puoi utilizzare il seguente comando gcloud per avviare una VM Ubuntu 22.04 con 1 GPU NVIDIA T4 e 2 vCPU nella zona us-east1-d.

gcloud compute instances create gpu-instance-1 \
    --machine-type n1-standard-2 \
    --zone us-east1-d \
    --boot-disk-size 40GB \
    --accelerator type=nvidia-tesla-t4,count=1 \
    --image-family ubuntu-2204-lts \
    --image-project ubuntu-os-cloud \
    --maintenance-policy TERMINATE

REST

Identifica il tipo di GPU che vuoi aggiungere alla VM. Invia una richiesta GET per elencare i tipi di GPU disponibili per il tuo progetto in una zona specifica.

Se il tuo carico di lavoro è a tolleranza di errore e può resistere a un possibile prerilascio delle VM, valuta la possibilità di utilizzare le VM spot per ridurre il costo delle VM e delle GPU collegate. Per ulteriori informazioni, consulta GPU su VM spot. "provisioningModel": "SPOT" è un parametro facoltativo che configura le VM come VM Spot. Per le VM spot, i flag di riavvio automatico e delle opzioni di manutenzione dell'host sono disattivati.

GET https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/acceleratorTypes

Sostituisci quanto segue:

• PROJECT_ID: ID progetto.
• ZONE: la zona da cui vuoi elencare i tipi di GPU disponibili.

Invia una richiesta POST al metodo instances.insert. Includi il parametro acceleratorType per specificare il tipo di GPU che vuoi utilizzare e il parametro acceleratorCount per specificare quante GPU vuoi aggiungere. Imposta anche il parametro onHostMaintenance su TERMINATE.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
  "machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
  "disks":
  [
    {
      "type": "PERSISTENT",
      "initializeParams":
      {
        "diskSizeGb": "DISK_SIZE",
        "sourceImage": "projects/IMAGE_PROJECT/global/images/family/IMAGE_FAMILY"
      },
      "boot": true
    }
  ],
  "name": "VM_NAME",
  "networkInterfaces":
  [
    {
      "network": "projects/PROJECT_ID/global/networks/NETWORK"
    }
  ],
  "guestAccelerators":
  [
    {
      "acceleratorCount": ACCELERATOR_COUNT,
      "acceleratorType": "projects/PROJECT_ID/zones/ZONE/acceleratorTypes/ACCELERATOR_TYPE"
    }
  ],
  "scheduling":
  {
    ["automaticRestart": true],
    "onHostMaintenance": "TERMINATE",
    ["provisioningModel": "SPOT"]
  },
}

Sostituisci quanto segue:

• VM_NAME: il nome della VM.
• PROJECT_ID: il tuo ID progetto.
• ZONE: la zona per la VM. Questa zona deve supportare il tipo di GPU.
• MACHINE_TYPE: il tipo di macchina che hai selezionato per la VM. Consulta la sezione GPU su Compute Engine per scoprire quali tipi di macchine sono disponibili in base al numero di GPU che ti interessa.

• IMAGE o IMAGE_FAMILY: specifica una delle seguenti opzioni:

  • IMAGE: la versione richiesta di un'immagine pubblica. Ad esempio: "sourceImage": "projects/debian-cloud/global/images/debian-10-buster-v20200309"
  • IMAGE_FAMILY: una famiglia di immagini. In questo modo viene creata la VM dall'immagine del sistema operativo più recente e non ritirata. Ad esempio, se specifichi "sourceImage": "projects/debian-cloud/global/images/family/debian-10", Compute Engine crea una VM dalla versione più recente dell'immagine del sistema operativo nella famiglia di immagini Debian 10.

  Puoi anche specificare un'immagine personalizzata o Deep Learning VM Images.

• IMAGE_PROJECT: il progetto immagine di Compute Engine a cui appartiene la famiglia di immagini. Se utilizzi un'immagine personalizzata o Immagini VM per il deep learning, specifica il progetto a cui appartengono queste immagini.

• DISK_SIZE: le dimensioni del disco di avvio in GB. Specifica una dimensione del disco di avvio di almeno 40 GB.

• NETWORK: la rete VPC che vuoi utilizzare per la VM. Puoi specificare default per utilizzare la rete predefinita.

• ACCELERATOR_COUNT: il numero di GPU che vuoi aggiungere alla VM. Consulta GPU su Compute Engine per un elenco dei limiti delle GPU in base al tipo di macchina della VM.

• ACCELERATOR_TYPE: il modello di GPU che vuoi utilizzare. Se prevedi di eseguire workload con uso intensivo di risorse grafiche su questa VM, utilizza uno dei modelli di workstation virtuale.

  Scegli uno dei seguenti valori:

  • GPU NVIDIA:

    • NVIDIA T4: nvidia-tesla-t4
    • NVIDIA P4: nvidia-tesla-p4
    • NVIDIA P100: nvidia-tesla-p100
    • NVIDIA V100: nvidia-tesla-v100

  • Workstation virtuale (vWS) NVIDIA RTX (precedentemente nota come NVIDIA GRID):

    • NVIDIA T4 Virtual Workstation: nvidia-tesla-t4-vws
    • NVIDIA P4 Virtual Workstation: nvidia-tesla-p4-vws

    • NVIDIA P100 Virtual Workstation: nvidia-tesla-p100-vws

      Per queste workstation virtuali, alla VM viene aggiunta automaticamente una licenza per workstation virtuale (vWS) NVIDIA RTX.