Panoramica della creazione di un'istanza con GPU collegate

Compute Engine fornisce le unità di elaborazione grafica (GPU) che puoi aggiungere alle tue macchine virtuali (VM). Puoi utilizzare queste GPU per accelerare carichi di lavoro specifici sulle tue VM come machine learning ed elaborazione di dati.

Questo documento fornisce una panoramica dei passaggi necessari per creare una VM con GPU collegate.

Per ulteriori informazioni sulle GPU su Compute Engine, consulta Informazioni sulle GPU.

Seleziona il modello di GPU

Per un elenco dei modelli di GPU disponibili, consulta Piattaforme GPU. Prendi nota anche del tipo di macchina supportato per il modello di GPU selezionato.

Per ogni modello, potrebbe essere utile esaminare anche quanto segue:

Limitazioni

Oltre alle limitazioni per tutte le VM con GPU, ogni serie di macchine con GPU collegate presenta le seguenti limitazioni:

VM A4

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A4.
  • Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina A4.
  • Puoi utilizzare un tipo di macchina A4 solo in determinate regioni e zone.
  • Non puoi utilizzare Dischi permanenti (regionali o zonali) su una VM che utilizza un tipo di macchina A4.
  • Il tipo di macchina A4 è disponibile solo sulla piattaforma CPU Emerald Rapids.
  • Non puoi modificare il tipo di macchina di una VM esistente in un tipo di macchina A4. Puoi creare solo nuove VM A4. Dopo aver creato una VM utilizzando un tipo di macchina A4, non puoi modificare il tipo di macchina.
  • I tipi di macchine A4 non supportano la proprietà esclusiva.
  • Non puoi eseguire sistemi operativi Windows su un tipo di macchina A4.

VM A3 Ultra

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 Ultra.
  • Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina A3 Ultra.
  • Puoi utilizzare un tipo di macchina A3 Ultra solo in alcune regioni e zone.
  • Non puoi utilizzare Disco permanente (regionale o zonale) su una VM che utilizza un tipo di macchina A3 Ultra.
  • Il tipo di macchina A3 Ultra è disponibile solo sulla piattaforma CPU Emerald Rapids.
  • Non puoi modificare il tipo di macchina di una VM esistente in un tipo di macchina A3 Ultra. Puoi creare solo nuove VM A3-ultra. Dopo aver creato una VM utilizzando un tipo di macchina A3 Ultra, non puoi modificare il tipo di macchina.
  • I tipi di macchine A3 Ultra non supportano la proprietà esclusiva.
  • Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 Ultra.

VM A3 Mega

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 Mega.
  • Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina A3 Mega.
  • Puoi utilizzare un tipo di macchina A3 Mega solo in determinate regioni e zone.
  • Non puoi utilizzare i dischi permanenti regionali su una VM che utilizza un tipo di macchina A3 Mega.
  • Il tipo di macchina A3 Mega è disponibile solo sulla piattaforma CPU Sapphire Rapids.
  • Non puoi modificare il tipo di macchina di una VM esistente in un tipo di macchina A3 Mega. Puoi creare solo nuove VM A3-mega. Dopo aver creato una VM utilizzando un tipo di macchina A3 Mega, non puoi modificare il tipo di macchina.
  • I tipi di macchine A3 Mega non supportano la proprietà esclusiva.
  • Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 Mega.

VM A3 High

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 High.
  • Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina A3 High.
  • Puoi utilizzare un tipo di macchina A3 High solo in determinate regioni e zone.
  • Non puoi utilizzare i dischi permanenti regionali su una VM che utilizza un tipo di macchina A3 High.
  • Il tipo di macchina A3 High è disponibile solo sulla piattaforma CPU Sapphire Rapids.
  • Non puoi modificare il tipo di macchina di una VM esistente in un tipo di macchina A3 High. Puoi creare solo nuove VM A3-high. Dopo aver creato una VM utilizzando un tipo di macchina A3 High, non puoi modificare il tipo di macchina.
  • I tipi di macchine A3 High non supportano single-tenancy.
  • Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 High.
  • Per i tipi di macchine a3-highgpu-1g, a3-highgpu-2g ea3-highgpu-4g, si applicano le seguenti limitazioni:
    • Per questi tipi di macchine, devi creare VM utilizzando VM spot o una funzionalità che utilizza la pianificazione dei workload dinamici (DWS), come le richieste di ridimensionamento in un gruppo di istanze gestite. Per istruzioni dettagliate su una di queste opzioni, consulta quanto segue:
    • Non puoi utilizzare Hyperdisk bilanciato con questi tipi di macchine.
    • Non puoi creare prenotazioni.
    Se provi a creare una VM utilizzando il provisioning standard o a creare una prenotazione per questi tipi di macchine, riceverai un messaggio di errore.

VM A3 Edge

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 Edge.
  • Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina A3 Edge.
  • Puoi utilizzare un tipo di macchina A3 Edge solo in alcune regioni e zone.
  • Non puoi utilizzare i dischi permanenti regionali su una VM che utilizza un tipo di macchina A3 Edge.
  • Il tipo di macchina A3 Edge è disponibile solo sulla piattaforma CPU Sapphire Rapids.
  • Non puoi modificare il tipo di macchina di una VM esistente in un tipo di macchina A3 Edge. Puoi creare solo nuove VM A3-edge. Dopo aver creato una VM utilizzando un tipo di macchina A3 Edge, non puoi modificare il tipo di macchina.
  • I tipi di macchine A3 Edge non supportano la proprietà esclusiva.
  • Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 Edge.

VM A2 standard

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A2 standard.
  • Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina A2 standard.
  • Puoi utilizzare un tipo di macchina A2 standard solo in alcune regioni e zone.
  • Il tipo di macchina A2 Standard è disponibile solo sulla piattaforma Cascade Lake.
  • Se la tua VM utilizza un tipo di macchina A2 standard, puoi passare solo da un tipo di macchina A2 standard a un altro tipo di macchina A2 standard. Non puoi passare a un altro tipo di macchina. Per saperne di più, consulta Modificare le VM ottimizzate per l'acceleratore.
  • Non puoi utilizzare il sistema operativo Windows con i tipi di macchine A2 standard <codea2-megagpu-16g< code="" dir="ltr" translate="no">. Quando utilizzi sistemi operativi Windows, scegli un tipo di macchina A2 Standard diverso.</codea2-megagpu-16g<>
  • Non puoi eseguire un formato rapido delle SSD locali collegate sulle VM Windows che utilizzano i tipi di macchina A2 Standard. Per formattare questi SSD locali, devi eseguire una formattazione completa utilizzando l'utilità diskpart e specificando format fs=ntfs label=tmpfs.
  • I tipi di macchine standard A2 non supportano la proprietà esclusiva.

VM A2 Ultra

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A2 Ultra.
  • Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina A2 Ultra.
  • Puoi utilizzare un tipo di macchina A2 Ultra solo in alcune regioni e zone.
  • Il tipo di macchina A2 Ultra è disponibile solo sulla piattaforma Cascade Lake.
  • Se la VM utilizza un tipo di macchina A2 Ultra, non puoi modificarlo. Se devi utilizzare un altro tipo di macchina A2 Ultra o qualsiasi altro tipo di macchina, devi creare una nuova VM.
  • Non puoi modificare un altro tipo di macchina in un tipo A2 Ultra. Se hai bisogno di una VM che utilizzi un tipo di macchina A2 Ultra, devi creare una nuova VM.
  • Non puoi eseguire un formato rapido delle unità SSD locali collegate sulle VM Windows che utilizzano tipi di macchine A2 Ultra. Per formattare questi SSD locali, devi eseguire una formattazione completa utilizzando l'utilità diskpart e specificando format fs=ntfs label=tmpfs.

VM G2

  • Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina G2.
  • Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina G2.
  • Puoi utilizzare un tipo di macchina G2 solo in determinate regioni e zone.
  • Il tipo di macchina G2 è disponibile solo sulla piattaforma Cascade Lake.
  • Il disco permanente standard (pd-standard) non è supportato nelle VM che utilizzano i tipi di macchine standard G2. Per i tipi di dischi supportati, consulta Tipi di dischi supportati per G2.
  • Non puoi creare GPU con più istanze sui tipi di macchine G2.
  • Se devi modificare il tipo di macchina di una VM G2, consulta Modificare le VM ottimizzate per l'acceleratore.
  • Non puoi utilizzare le immagini VM per il deep learning come dischi di avvio per le tue VM che utilizzano tipi di macchine G2.
  • L'attuale driver predefinito per Container-Optimized OS non supporta le GPU L4 in esecuzione su tipi di macchine G2. Anche Container-Optimized OS supporta solo un insieme selezionato di driver. Se vuoi utilizzare Container-Optimized OS sui tipi di macchine G2, consulta le seguenti note:
    • Utilizza una versione di Container-Optimized OS che supporti la versione minima consigliata del driver NVIDIA 525.60.13 o successive. Per ulteriori informazioni, consulta le note di rilascio di Container-Optimized OS.
    • Quando installi il driver, specifica la versione più recente disponibile che funziona per le GPU L4. Ad esempio, sudo cos-extensions install gpu -- -version=525.60.13.
  • Devi utilizzare Google Cloud CLI o REST per creare VM G2 per i seguenti scenari:
    • Vuoi specificare valori di memoria personalizzati.
    • Vuoi personalizzare il numero di core della CPU visibili.

VM N1+GPU

Per informazioni sulle limitazioni delle istanze N1 con GPU, consulta le funzionalità per la serie di macchine N1 e le GPU per la serie di macchine N1.

Scegli un sistema operativo

Se utilizzi GPU per il machine learning, utilizza uno dei seguenti sistemi operativi:

  • Immagini ottimizzate per i workload AI IA. Puoi utilizzare le immagini Ubuntu e Rocky, disponibili in versioni ottimizzate per l'acceleratore con i driver e il toolkit CUDA preinstallati. Consulta la sezione Immagini del sistema operativo nella documentazione di AI Hypercomputer.
  • Deep Learning VM Image. Ogni VM per il deep learning dispone di uno strumento di installazione del driver GPU e include pacchetti come TensorFlow e PyTorch. Puoi anche utilizzare una VM per il deep learning per carichi di lavoro GPU generici. Per saperne di più sulle immagini e sui pacchetti disponibili installati su queste immagini, consulta Scegliere un'immagine.

In alternativa, puoi utilizzare qualsiasi immagine pubblica o immagine personalizzata. Tieni presente che alcune immagini potrebbero richiedere un driver univoco o avere una procedura di installazione non inclusa nell'ambito della documentazione di Compute Engine. Per identificare i driver appropriati per l'immagine del sistema operativo, consulta la sezione sull'installazione dei driver GPU.

Controllare la quota di GPU

Per proteggere gli utenti e i sistemi Compute Engine, i nuovi progetti hanno una quota GPU globale che limita il numero totale di GPU che puoi creare in qualsiasi zona supportata. Per esaminare la quota per le GPU, consulta Quota per le GPU.

Se hai bisogno di una quota di GPU aggiuntiva, richiedi un aumento della quota. Quando richiedi una quota GPU, devi richiederne una per i tipi di GPU che vuoi creare in ciascuna regione e una globale aggiuntiva per il numero totale di GPU di tutti i tipi in tutte le zone.

Se il progetto ha una cronologia di fatturazione consolidata, riceverà la quota automaticamente dopo l'invio della richiesta.

VM GPU e quote di allocazione prerilasciabili

Le VM che utilizzano il modello di provisioning standard in genere non possono utilizzare le quote di allocazione preassegnate. Le quote preassegnate sono destinate ai carichi di lavoro temporanei e di solito sono più disponibili. Se il progetto non ha una quota prerilasciabile e non l'hai mai richiesta, tutte le VM del progetto consumano quote di allocazione standard.

Se richiedi una quota di allocazione preassegnata, le VM che utilizzano il modello di provisioning standard devono soddisfare tutti i seguenti criteri per consumare la quota di allocazione preassegnata:

Quando utilizzi l'allocazione preassegnata per i workload GPU con vincoli di tempo, puoi beneficiare sia del tempo di esecuzione ininterrotto sia dell'elevata disponibilità della quota di allocazione preassegnata. Per ulteriori informazioni, consulta Quote con priorità.

Crea una VM con GPU collegate

Per creare una VM con GPU collegate, completa i seguenti passaggi:

  1. Crea la VM. Il metodo utilizzato per creare una VM dipende dal modello di GPU selezionato.

  2. Affinché la VM utilizzi la GPU, devi installare il driver GPU sulla VM. Se hai attivato una workstation virtuale NVIDIA RTX (in precedenza NVIDIA GRID), installa un driver per la workstation virtuale.

Passaggi successivi