Crea un gruppo di istanze gestite con VM GPU

Console

1. Vai alla pagina Modelli di istanza.

   Vai a Modelli di istanza

2. Fai clic su Crea modello istanza.

3. Nel campo Nome, inserisci un nome per il modello di istanza.

4. Nella sezione Configurazione macchina:

   1. Fai clic sulla scheda GPU.
   2. Nell'elenco Tipo di GPU, seleziona il tipo di GPU.
   3. Nell'elenco Numero di GPU, seleziona il numero di GPU.
   4. Nell'elenco Tipo di macchina, seleziona un tipo di macchina.

5. (Facoltativo) Per modificare il tipo o l'immagine del disco di avvio predefinito, fai clic su Cambia nella sezione Disco di avvio. Poi, segui le istruzioni per cambiare il disco di avvio.

6. Espandi la sezione Opzioni avanzate e segui questi passaggi:

   1. Espandi la sezione Gestione.
   2. Nell'elenco Prenotazioni, seleziona Non utilizzare.

7. Fai clic su Crea.

gcloud

Crea un modello di istanza utilizzando il comando instance-templates create.

Il seguente comando crea un modello di istanza globale basato su un'immagine VM di deep learning.

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-project=deeplearning-platform-release \
    --image-family=common-cu121 \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=none

Sostituisci quanto segue:

• INSTANCE_TEMPLATE_NAME: il nome del modello di istanza.
• MACHINE_TYPE: un tipo di macchina che supporta le GPU. Se specifichi un tipo di macchina N1, includi il flag --accelerator per specificare il numero e il tipo di GPU da collegare alle VM.

REST

Crea un modello di istanza inviando una richiesta POST al metodo instanceTemplates.insert.

La seguente richiesta crea un modello di istanza globale basato su un'immagine VM di deep learning.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/global/instanceTemplates

{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "mode": "READ_WRITE",
        "type": "PERSISTENT",
        "initializeParams": {
          "sourceImage": "projects/deeplearning-platform-release/global/images/family/common-cu121"
        }
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-IP",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "global/networks/default"
      }
    ],
    "reservationAffinity": {
      "consumeReservationType": "NO_RESERVATION"
    },
    "scheduling": {
      "onHostMaintenance": "TERMINATE"
    }
  }
}

Sostituisci quanto segue:

• PROJECT_ID: l'ID del progetto in cui vuoi creare il gruppo di istanze gestite.
• INSTANCE_TEMPLATE_NAME: il nome del modello di istanza.
• MACHINE_TYPE: un tipo di macchina che supporta le GPU. Se specifichi un tipo di macchina N1, includi il campo guestAccelerators per specificare il numero e il tipo di GPU da collegare alle VM.

Console

1. Vai alla pagina Gruppi di istanze.

   Vai a Gruppi di istanze

2. Fai clic su Crea gruppo di istanze.

3. Inserisci i seguenti campi:

   1. Nome: inserisci un nome per il gruppo.
   2. Modello di istanza: seleziona il modello di istanza configurato nella sezione precedente.
   3. Nella sezione Località:
      1. Seleziona Zona singola.
      2. Negli elenchi Regione e Zona, seleziona la località in cui vuoi creare il gruppo.

   Il campo Numero di istanze potrà essere modificato dopo aver eliminato la configurazione della scalabilità automatica e disattivato le riparazioni nei passaggi successivi.

4. Elimina la configurazione della scalabilità automatica nel seguente modo:

   1. Nella sezione Scalabilità automatica, fai clic sull'elenco Modalità di scalabilità automatica, quindi su Elimina configurazione di scalabilità automatica.
   2. Nella finestra di dialogo Vuoi eliminare la configurazione della scalabilità automatica?, fai clic su Elimina.

5. Disattiva le riparazioni nel MIG come segue:

   Nella sezione Ciclo di vita dell'istanza VM, imposta il campo Azione predefinita in caso di errore su Nessuna azione.

6. Specifica il numero di VM GPU e la durata dell'esecuzione per creare una richiesta di ridimensionamento:

   1. Nel campo Numero di istanze, inserisci il numero di VM GPU che vuoi creare contemporaneamente.

      

   2. Seleziona la casella di controllo Utilizza la richiesta di ridimensionamento per creare tutte le VM contemporaneamente. Vengono visualizzati i campi per inserire la durata dell'esecuzione.

   3. Nel campo Durata esecuzione richiesta e nell'elenco Unità, specifica la durata dell'esecuzione delle VM GPU. La durata deve essere compresa tra 1 ora e 7 giorni.

7. Fai clic su Crea.

gcloud

1. Crea un gruppo di istanze gestite a livello di zona utilizzando il comando instance-groups managed create.

   gcloud compute instance-groups managed create INSTANCE_GROUP_NAME \
      --template=INSTANCE_TEMPLATE_NAME \
      --size=0 \
      --zone=ZONE \
      --default-action-on-vm-failure=do_nothing
   

2. Nel gruppo di istanze gestite, crea una richiesta di ridimensionamento utilizzando il comando instance-groups managed resize-requests create. Specifica il numero di VM GPU che vuoi e la durata per cui vuoi eseguirle.

   gcloud compute instance-groups managed resize-requests create INSTANCE_GROUP_NAME \
      --resize-request=RESIZE_REQUEST_NAME \
      --resize-by=COUNT \
      --requested-run-duration=RUN_DURATION\
      --zone=ZONE
   

Sostituisci quanto segue:

• INSTANCE_GROUP_NAME: il nome del gruppo di istanze gestite.
• INSTANCE_TEMPLATE_NAME: il nome del modello di istanza per le VM GPU.
• ZONE: una delle zone disponibili per Compute Engine.
• RESIZE_REQUEST_NAME: il nome della richiesta di ridimensionamento.
• COUNT: il numero di VM da aggiungere contemporaneamente nel gruppo.
• RUN_DURATION: la durata per cui vuoi eseguire le VM richieste. Il valore deve essere formattato come numero di giorni, ore, minuti o secondi seguito rispettivamente da d, h, m e s. Ad esempio, specifica 30m per 30 minuti o 1d2h3m4s per 1 giorno, 2 ore, 3 minuti e 4 secondi. Il valore deve essere compreso tra 10 minuti e 7 giorni.

REST

1. Crea un gruppo di istanze gestite a livello di zona inviando una richiesta POST al metodo instanceGroupManagers.insert.

   POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
   
   {
    "versions": [
      {
        "instanceTemplate": "global/instanceTemplates/INSTANCE_TEMPLATE_NAME"
      }
    ],
    "name": "INSTANCE_GROUP_NAME",
    "targetSize": 0,
    "instanceLifecyclePolicy": {
      "defaultActionOnFailure": "DO_NOTHING"
    }
   }
   

2. Nel gruppo di istanze gestite, crea una richiesta di ridimensionamento inviando una richiesta POST al metodo instanceGroupManagerResizeRequests.insert. Nel corpo della richiesta, specifica il numero di VM GPU che vuoi creare contemporaneamente e la durata per cui vuoi eseguirle.

   POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/INSTANCE_GROUP_NAME/resizeRequests
   
   {
    "name": "RESIZE_REQUEST_NAME",
    "resizeBy": COUNT,
    "requestedRunDuration": {
      "seconds": "RUN_DURATION"
    }
   }
   

Sostituisci quanto segue:

• PROJECT_ID: l'ID del progetto in cui vuoi creare il gruppo di istanze gestite.
• INSTANCE_GROUP_NAME: il nome del gruppo di istanze gestite.
• INSTANCE_TEMPLATE_NAME: il nome del modello di istanza per le VM GPU.
• ZONE: una delle zone disponibili per Compute Engine.
• RESIZE_REQUEST_NAME: il nome della richiesta di ridimensionamento.
• COUNT: il numero di VM da aggiungere contemporaneamente nel gruppo.
• RUN_DURATION: la durata in secondi per cui vuoi che le VM richieste vengano eseguite prima che il gruppo di istanze gestite le elimini automaticamente. Il valore deve essere compreso tra 600, ovvero 600 secondi (10 minuti), e 604800, ovvero 604.800 secondi (7 giorni).