Famiglia di macchine ottimizzate per l'acceleratore

Mantieni tutto organizzato con le raccolte Salva e classifica i contenuti in base alle tue preferenze.

---

La famiglia di macchine ottimizzate per l'acceleratore è progettata per Google Cloud offrire le prestazioni e l'efficienza necessarie per i carichi di lavoro accelerati da GPU, come l'intelligenza artificiale (IA), il machine learning (ML) e il computing ad alte prestazioni (HPC).

La famiglia di macchine ottimizzate per l'acceleratore è disponibile nelle seguenti serie di macchine: A4, A3, A2 e G2. Ogni tipo di macchina all'interno di una serie ha un modello e un numero specifico di GPU NVIDIA collegate. Puoi anche collegare alcuni modelli di GPU ai tipi di macchine N1 per uso generale.

Suggerimento per la serie di macchine in base al tipo di carico di lavoro

La sezione seguente fornisce le serie di macchine consigliate in base ai carichi di lavoro GPU.

Tipo di workload	Tipo o serie di macchine consigliata
Modelli di preaddestramento	A4, A3 Ultra, A3 Mega, A3 High, A2 Per identificare la soluzione più adatta, consulta Consigli per i modelli di preaddestramento nella documentazione di AI Hypercomputer.
Ottimizzazione dei modelli	A4, A3 Ultra, A3 Mega, A3 High, A2 Per identificare la soluzione più adatta, consulta Consigli per la messa a punto dei modelli nella documentazione di AI Hypercomputer.
Inferenza di pubblicazione	A4, A3 Ultra, A3 Mega, A3 High, A2 Per identificare la soluzione più adatta, consulta Consigli per l'esecuzione dell'inferenza nella documentazione di AI Hypercomputer.
Carichi di lavoro ad alta intensità di grafica	G2, N1+T4
Computing ad alte prestazioni	Per i carichi di lavoro di calcolo ad alte prestazioni, qualsiasi serie di macchine ottimizzata per l'acceleratore è adatta. La scelta migliore dipende dalla quantità di calcoli da offloadare sulla GPU. Per ulteriori informazioni, consulta Consigli per l'HPC nella documentazione dell'ipercomputer AI.

Opzioni di prezzo e provisioning

I costi dei tipi di macchine ottimizzati per l'acceleratore dipendono da numero di GPU, vCPU predefinita, memoria e SSD locale in bundle (se applicabile). Gli sconti che possono essere applicati alle istanze ottimizzate per l'acceleratore variano in base all'opzione di provisioning utilizzata, come riassunto nella tabella seguente. Per ulteriori informazioni sui prezzi delle istanze ottimizzate per l'acceleratore, consulta la sezione Famiglia di tipi di macchine ottimizzate per l'acceleratore nella pagina dei prezzi delle istanze VM.

	On demand (impostazione predefinita)	Prenotazioni	VM spot
Serie di macchine ottimizzate per l'acceleratore supportate	Tutti tranne A4 e A3 Ultra	Varia in base al tipo di prenotazione: Richieste di prenotazione futura per Hypercompute Cluster (anteprima): A4 e A3 Ultra Richieste di prenotazione future per Compute Engine (anteprima): A2 e G2 Prenotazioni on demand: A3 Mega, A3 High, A3 Edge, A2 e G2	Tutti
Sconti	Puoi ricevere sconti per impegno di utilizzo (CUD) per alcune risorse acquistando impegni basati sulle risorse. Tuttavia, le GPU e i dischi SSD locali che utilizzi con l'opzione di provisioning on demand non sono idonei per gli sconti per impegno di utilizzo. Se vuoi ricevere CUD anche per GPU e dischi SSD locali, ti consigliamo di utilizzare l'opzione di provisioning delle prenotazioni.	Puoi ricevere CUD per le risorse del tipo di macchina ottimizzato per l'acceleratore acquistando impegni basati sulle risorse. Tieni presente che gli impegni per GPU e dischi SSD locali richiedono prenotazioni allegate per queste risorse.	Le VM spot ricevono automaticamente sconti tramite Prezzi di VM spot.

La serie di macchine A4

La serie di macchine A4 offre tipi di macchine con fino a 224 vCPU e 3968 GB di memoria. A4 offre prestazioni fino a 3 volte superiori rispetto ai tipi di istanze GPU precedenti per la maggior parte dei carichi di lavoro accelerati da GPU. A4 è particolarmente consigliato per i carichi di lavoro di addestramento ML su larga scala, ad esempio centinaia o migliaia di GPU.

La serie di macchine A4 offre anche le seguenti funzionalità:

• GPU collegate: GPU NVIDIA B200 collegate, che offrono 180 GB di memoria GPU per GPU.

• Piattaforma CPU: processore Intel Xeon Scalable di 5a generazione (Emerald Rapids) che offre una frequenza turbo massima single-core sostenuta fino a 4,0 GHz. Per ulteriori informazioni su questo processore, consulta la piattaforma CPU.

• Scalabilità NVLink leader del settore: le GPU NVIDIA B200 forniscono una larghezza di banda NVLink della GPU di 1800 GB/s in modo bidirezionale per GPU.

  Con una topologia NVLink all-to-all tra 8 GPU in un sistema, la larghezza di banda NVLink aggregata può arrivare a 14,4 TB/s.

• Protocolli di rete: per questo tipo di macchina, RDMA su Converged Ethernet (RoCE) aumenta le prestazioni della rete combinando le schede di interfaccia di rete (NIC) NVIDIA ConnectX-7 con la rete a quattro vie in linea del data center di Google. Sfruttando RDMA su Converged Ethernet (RoCE), le macchine A4 raggiungono un throughput molto più elevato tra le VM in un cluster rispetto ai tipi di macchine A3 ottimizzati per l'acceleratore, ad eccezione di A3 Ultra.

• Velocità di calcolo e networking migliorate: offre velocità di networking fino a 4 volte superiori rispetto alla serie di macchine A2 di generazione precedente.

  Per ulteriori informazioni sul networking, consulta Larghezza di banda di rete e GPU.

• Ottimizzazioni della virtualizzazione: la topologia Peripheral Component Interconnect Express (PCIe) delle VM A4 fornisce informazioni sulla località più precise che i workload possono utilizzare per ottimizzare i trasferimenti di dati.

  Le GPU espongono anche il ripristino a livello di funzione (FLR) per il recupero graduale da errori e il supporto delle operazioni atomiche per i miglioramenti della concorrenza in determinati scenari.

• Archiviazione: l'SSD locale può essere utilizzata per dischi di memorizzazione temporanea veloci o per inviare dati alle GPU evitando al contempo i colli di bottiglia I/O. 12.000 GiB di SSD locale vengono aggiunti automaticamente alle VM A4.

  Puoi anche collegare fino a 512 TiB di Hyperdisk ai tipi di macchine di questa serie per le applicazioni che richiedono prestazioni di archiviazione più elevate.

• Supporto per l'allocazione densa e la pianificazione in base alla topologia: quando esegui il provisioning delle macchine A4 tramite Hypercompute Cluster (anteprima), puoi richiedere blocchi di capacità allocata in modo denso. Le macchine host sono allocate fisicamente vicine tra loro, sottoposte a provisioning come blocchi di risorse e interconnesse con un'infrastruttura di rete ML dinamica per ridurre al minimo i hop di rete e ottimizzare per la latenza più bassa. Inoltre, Hypercompute Cluster fornisce informazioni sulla topologia a livello di nodo e cluster che possono essere utilizzate per il posizionamento dei job.

Per la serie di macchine A4 sono disponibili i seguenti tipi di macchine.

Tipo di macchina A4

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB HBM3e)	Numero di vCPU†	Memoria VM (GB)	SSD locale collegata (GiB)	Numero di NIC fisiche	Larghezza di banda massima della rete (Gbps)‡
a4-highgpu-8g	8	1440	224	3968	12.000	10	3600

Limitazioni A4

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A4.
• Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina A4.
• Puoi utilizzare un tipo di macchina A4 solo in alcune regioni e zone.
• Non puoi utilizzare Dischi permanenti (regionali o zonali) su una VM che utilizza il tipo di macchina A4.
• Il tipo di macchina A4 è disponibile solo sulla piattaforma CPU Emerald Rapids.
• Non puoi modificare il tipo di macchina di una VM di tipo A4. Se devi modificare il tipo di macchina, devi creare una nuova VM.
• Non puoi cambiare il tipo di macchina di una VM in un tipo di macchina A4. Se hai bisogno di una VM che utilizzi un tipo di macchina A4, devi creare una nuova VM.
• I tipi di macchine A4 non supportano la proprietà esclusiva.
• Non puoi eseguire sistemi operativi Windows su un tipo di macchina A4.

Tipi di dischi supportati per la serie A4

Numero massimo di dischi per VM*
Tipi di macchina	Tutti i dischi†	Hyperdisk bilanciato	Throughput Hyperdisk	Hyperdisk ML	Hyperdisk Extreme	SSD locale collegata
a4-highgpu-8g	128	128	N/D	N/D	8	32

Limiti di disco e capacità

Se supportato dal tipo di macchina, puoi utilizzare una combinazione di volumi Hyperdisk e disco permanente su una VM, ma si applicano le seguenti limitazioni:

• Il numero combinato di volumi Hyperdisk e di dischi permanenti non può superare i 128 per VM.

• La capacità totale massima del disco (in TiB) per tutti i tipi di disco non può essere superiore a:

  • Per i tipi di macchine con meno di 32 vCPU:

    • 257 TiB per tutti gli Hyperdisk o tutti i dischi permanenti
    • 257 TiB per una combinazione di Hyperdisk e dischi permanenti

  • Per i tipi di macchine con 32 o più vCPU:

    • 512 TiB per tutti gli Hyperdisk
    • 512 TiB per una combinazione di Hyperdisk e dischi permanenti
    • 257 TiB per tutti i dischi permanenti

Per informazioni dettagliate sui limiti di capacità, consulta Limiti di capacità di Hyperdisk per VM e Capacità massima del disco permanente.

La serie di macchine A3

La serie di macchine A3 ha fino a 224 vCPU e 2944 GB di memoria. Questa serie di macchine è ottimizzata per l'addestramento ML con vincoli di rete, ad alta intensità di calcolo e memoria, nonché per i carichi di lavoro HPC.

La serie di macchine A3 offre anche le seguenti funzionalità:

Funzionalità	A3 Ultra	A3 Mega, High, Edge
GPU collegate	GPU NVIDIA H200 SXM collegate, che offrono 141 GB di memoria GPU per GPU e forniscono memoria più grande e più rapida per supportare modelli linguistici di grandi dimensioni e carichi di lavoro HPC.	GPU NVIDIA H100 SXM collegate, che offrono 80 GB di memoria GPU per GPU e sono ideali per HPC, database e modelli linguistici basati su transformer di grandi dimensioni.
Piattaforma CPU	Processore Intel Xeon scalabile di 5a generazione (Emerald Rapids) e offre una frequenza turbo massima singola core supportata fino a 4,0 GHz. Per ulteriori informazioni su questo processore, consulta Piattaforma CPU.	Processore Intel Xeon scalabile di 4a generazione (Sapphire Rapids) e offre una frequenza turbo massima singola core supportata fino a 3,3 GHz. Per ulteriori informazioni su questo processore, consulta Piattaforma CPU.
Scalabilità NVLink leader del settore	Le GPU NVIDIA H200 offrono un picco di larghezza di banda NVLink della GPU di 900 GB/s in modo unidirezionale. Con una topologia NVLink all-to-all tra 8 GPU in un sistema, la larghezza di banda NVLink aggregata può arrivare a 7,2 TB/s.	Le GPU NVIDIA H100 offrono un picco di larghezza di banda NVLink GPU di 450 GB/s in modo unidirezionale. Con una topologia NVLink all-to-all tra 8 GPU in un sistema, la larghezza di banda NVLink aggregata può arrivare a 7,2 TB/s.
Protocolli di rete	Per questo tipo di macchina, RDMA su Converged Ethernet (RoCE) aumenta le prestazioni della rete combinando schede di interfaccia di rete (NIC) NVIDIA ConnectX-7 con la nostra rete a quattro vie in linea con i binari in tutto il data center. Sfruttando RDMA su Converged Ethernet (RoCE), il tipo di macchina a3-ultragpu-8g raggiunge una velocità effettiva molto più elevata tra le VM in un cluster rispetto ad altri tipi di macchine A3 ottimizzate per l'acceleratore.	Per i tipi di macchine A3 Mega, GPUDirect-TCPXO migliora ulteriormente GPUDirect-TCPX eseguendo il offload del protocollo TCP. Sfruttando GPUDirect-TCPXO, il tipo di macchina a3-megagpu-8g raddoppia la larghezza di banda della rete rispetto ai tipi di macchina A3 High e A3 Edge. Per i tipi di macchine A3 Edge e A3 High, GPUDirect-TCPX aumenta le prestazioni della rete consentendo il trasferimento dei payload dei pacchetti di dati direttamente dalla memoria della GPU all'interfaccia di rete. Sfruttando GPUDirect-TCPX, questi tipi di macchine raggiungono un throughput molto più elevato tra le VM in un cluster rispetto ai tipi di macchine ottimizzati per l'acceleratore A2 o G2.
Miglioramento della velocità di calcolo e del networking	Offre velocità di rete fino a 4 volte superiori rispetto alla serie di macchine A2 di generazione precedente. Per ulteriori informazioni sul networking, consulta Larghezza di banda di rete e GPU.	Offre velocità di rete fino a 2,5 volte superiori rispetto alla serie di macchine A2 della generazione precedente. Per ulteriori informazioni sul networking, consulta Larghezza di banda di rete e GPU.
Ottimizzazioni della virtualizzazione	La topologia PCIe (Peripheral Component Interconnect Express) delle VM A3 fornisce informazioni sulla località più precise che i carichi di lavoro possono utilizzare per ottimizzare i trasferimenti di dati. Le GPU espongono anche il ripristino a livello di funzione (FLR) per il recupero graduale dagli errori e il supporto delle operazioni atomiche per i miglioramenti della concorrenza in determinati scenari.
Archiviazione	L'unità SSD locale può essere utilizzata per dischi di memorizzazione temporanea veloci o per inviare dati alle GPU evitando al contempo i colli di bottiglia I/O. L'unità SSD locale è collegata come segue: 12.000 GiB di SSD locale vengono aggiunti automaticamente alle VM A3 Ultra. 6000 GiB di SSD locale vengono aggiunti automaticamente alle VM A3 Mega, High ed Edge. Puoi anche collegare fino a 512 TiB di dischi permanenti e Hyperdisk ai tipi di macchine di queste serie per le applicazioni che richiedono prestazioni di archiviazione più elevate.
Supporto delle policy di posizionamento compatto	Ti offre un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una maggiore larghezza di banda per il posizionamento delle VM all'interno di una singola zona di disponibilità. Per ulteriori informazioni, consulta Informazioni sui criteri di posizionamento compatto.

Per la serie di macchine A3 sono disponibili i seguenti tipi di macchine.

Tipo di macchina A3 Ultra

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB HBM3e)	Numero di vCPU†	Memoria VM (GB)	SSD locale collegata (GiB)	Numero di NIC fisiche	Larghezza di banda massima della rete (Gbps)‡
a3-ultragpu-8g	8	1128	224	2952	12.000	10	3600

Limitazioni di A3 Ultra

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 Ultra.
• Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina A3 Ultra.
• Puoi utilizzare un tipo di macchina A3 Ultra solo in alcune regioni e zone.
• Non puoi utilizzare Dischi permanenti (regionali o zonali) su una VM che utilizza il tipo di macchina A3 Ultra.
• Il tipo di macchina A3 Ultra è disponibile solo sulla piattaforma CPU Emerald Rapids.
• Non puoi modificare il tipo di macchina di una VM di tipo A3 Ultra. Se devi modificare il tipo di macchina, devi creare una nuova VM.
• Non puoi modificare il tipo di macchina di una VM in un tipo di macchina A3 Ultra. Se hai bisogno di una VM che utilizzi un tipo di macchina A3 Ultra, devi crearne una nuova.
• I tipi di macchine A3 Ultra non supportano la proprietà esclusiva.
• Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 Ultra.

Tipo di macchina A3 Mega

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB HBM3)	Numero di vCPU†	Memoria VM (GB)	SSD locale collegata (GiB)	Numero di NIC fisiche	Larghezza di banda massima della rete (Gbps)‡
a3-megagpu-8g	8	640	208	1.872	6000	9	1800

Limitazioni di A3 Mega

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 Mega.
• Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina A3 Mega.
• Puoi utilizzare un tipo di macchina A3 Mega solo in determinate regioni e zone.
• Non puoi utilizzare i dischi permanenti regionali su una VM che utilizza il tipo di macchina A3 Mega.
• Il tipo di macchina A3 Mega è disponibile solo sulla piattaforma CPU Sapphire Rapids.
• Non puoi modificare il tipo di macchina di una VM di tipo A3 Mega. Se devi modificare il tipo di macchina, devi creare una nuova VM.
• Non puoi cambiare il tipo di macchina di una VM in un tipo di macchina A3 Mega. Se hai bisogno di una VM che utilizzi un tipo di macchina A3 Mega, devi creare una nuova VM.
• I tipi di macchine A3 Mega non supportano la proprietà esclusiva.
• Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 Mega.

Tipo di macchina A3 High

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB HBM3)	Numero di vCPU†	Memoria VM (GB)	SSD locale collegata (GiB)	Numero di NIC fisiche	Larghezza di banda massima della rete (Gbps)‡
a3-highgpu-1g	1	80	26	234	750	1	25
a3-highgpu-2g	2	160	52	468	1500	1	50
a3-highgpu-4g	4	320	104	936	3000	1	100
a3-highgpu-8g	8	640	208	1.872	6000	5	1000

Limitazioni di A3 High

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 High.
• Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina A3 High.
• Puoi utilizzare un tipo di macchina A3 High solo in determinate regioni e zone.
• Non puoi utilizzare i dischi permanenti regionali su una VM che utilizza il tipo di macchina A3 High.
• Il tipo di macchina A3 High è disponibile solo sulla piattaforma CPU Sapphire Rapids.
• Non puoi modificare il tipo di macchina di una VM di tipo A3 High. Se devi modificare il tipo di macchina, devi creare una nuova VM.
• Non puoi modificare il tipo di macchina di una VM in un tipo di macchina A3 High. Se hai bisogno di una VM che utilizzi un tipo di macchina A3 High, devi creare una nuova VM.
• I tipi di macchine A3 High non supportano single-tenancy.
• Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 High.
• Per i tipi di macchine a3-highgpu-1g, a3-highgpu-2g ea3-highgpu-4g, si applicano le seguenti limitazioni:
  • Per questi tipi di macchine, devi utilizzare VM spot o una funzionalità che utilizza il Dynamic Workload Scheduler (DWS), come le richieste di ridimensionamento in un MIG. Per istruzioni dettagliate su una di queste opzioni, consulta quanto segue:
    • Per creare VM spot, consulta Creare una VM ottimizzata per l'acceleratore e ricordati di impostare il modello di provisioning su SPOT
    • Per creare una richiesta di ridimensionamento in un gruppo di istanze gestite che utilizza il programmatore dei carichi di lavoro dinamico, consulta Creare un gruppo di istanze gestite con VM GPU.
  • Non puoi utilizzare Hyperdisk bilanciato con questi tipi di macchine.
  • Non puoi creare prenotazioni.
  Se provi a creare una VM utilizzando il provisioning standard o a creare una prenotazione per questi tipi di macchine, riceverai un messaggio di errore.

Tipo di macchina A3 Edge

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB HBM3)	Numero di vCPU†	Memoria VM (GB)	SSD locale collegata (GiB)	Numero di NIC fisiche	Larghezza di banda massima della rete (Gbps)‡
a3-edgegpu-8g	8	640	208	1.872	6000	5	800: per asia-south1 e northamerica-northeast2 400: per tutte le altre regioni A3 Edge

Limitazioni di A3 Edge

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 Edge.
• Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina A3 Edge.
• Puoi utilizzare un tipo di macchina A3 Edge solo in determinate regioni e zone.
• Non puoi utilizzare i dischi permanenti regionali su una VM che utilizza il tipo di macchina A3 Edge.
• Il tipo di macchina A3 Edge è disponibile solo sulla piattaforma CPU Sapphire Rapids.
• Non puoi modificare il tipo di macchina di una VM di tipo A3 Edge. Se devi modificare il tipo di macchina, devi creare una nuova VM.
• Non puoi modificare il tipo di macchina di una VM in un tipo di macchina A3 Edge. Se hai bisogno di una VM che utilizzi un tipo di macchina A3 Edge, devi creare una nuova VM.
• I tipi di macchine A3 Edge non supportano la proprietà esclusiva.
• Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 Edge.

Tipi di dischi supportati per la serie A3

Limiti di disco e capacità

Se supportato dal tipo di macchina, puoi utilizzare una combinazione di volumi Hyperdisk e disco permanente su una VM, ma si applicano le seguenti limitazioni:

• Il numero combinato di volumi Hyperdisk e di dischi permanenti non può superare i 128 per VM.

• La capacità totale massima del disco (in TiB) per tutti i tipi di disco non può essere superiore a:

  • Per i tipi di macchine con meno di 32 vCPU:

    • 257 TiB per tutti gli Hyperdisk o tutti i dischi permanenti
    • 257 TiB per una combinazione di Hyperdisk e dischi permanenti

  • Per i tipi di macchine con 32 o più vCPU:

    • 512 TiB per tutti gli Hyperdisk
    • 512 TiB per una combinazione di Hyperdisk e dischi permanenti
    • 257 TiB per tutti i dischi permanenti

Per informazioni dettagliate sui limiti di capacità, consulta Limiti di capacità di Hyperdisk per VM e Capacità massima del disco permanente.

La serie di macchine A2

La serie di macchine A2 è disponibile nei tipi di macchine A2 Standard e A2 Ultra. Questi tipi di macchine hanno da 12 a 96 vCPU e fino a 1360 GB di memoria.

La serie di macchine A2 offre anche le seguenti funzionalità:

• GPU NVIDIA collegate: ogni tipo di macchina A2 ha GPU NVIDIA A100. Sono disponibili sia nelle opzioni A100 da 40 GB che A100 da 80 GB.

• Scalabilità NVLink leader del settore che offre una larghezza di banda NVLink GPU-to-GPU di picco di 600 GB/s. Ad esempio, i sistemi con 16 GPU hanno una larghezza di banda NVLink aggregata fino a 9,6 TB/s. Queste 16 GPU possono essere utilizzate come un singolo acceleratore ad alte prestazioni con spazio di memoria unificato per fornire fino a 10 petaFLOPS di potenza di calcolo e fino a 20 petaFLOPS di potenza di calcolo di inferenza che possono essere utilizzati per i carichi di lavoro di intelligenza artificiale, deep learning e machine learning.

• Velocità di calcolo migliorata: le GPU NVIDIA A100 collegate offrono fino a 10 volte la velocità di calcolo rispetto alle GPU NVIDIA V100 di generazione precedente.

  Con la serie di macchine A2, puoi ottenere una larghezza di banda di rete fino a 100 Gbps.

• Archiviazione: per dischi scratch veloci o per l'alimentazione di dati alle GPU evitando al contempo i colli di bottiglia I/O, i tipi di macchine A2 supportano l'SSD locale come segue:

  • Per i tipi di macchine A2 standard, puoi aggiungere fino a 3000 GiB di SSD locale.
  • Per i tipi di macchine A2 Ultra, l'SSD locale viene collegata automaticamente quando crei la VM.

  Puoi anche collegare fino a 257 TiB di spazio di archiviazione su disco permanente alle VM A2 per le applicazioni che richiedono queste prestazioni di archiviazione più elevate.

• Supporto dei criteri di posizionamento compatto: offre un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una maggiore larghezza di banda per il posizionamento delle VM all'interno di una singola zona di disponibilità. Per ulteriori informazioni, consulta Ridurre la latenza utilizzando i criteri di posizionamento compatto.

Tipi di macchine A2 Ultra

Questi tipi di macchine hanno un numero fisso di GPU A100 da 80 GB. L'unità SSD locale viene collegata automaticamente alle VM create utilizzando i tipi di macchine A2 Ultra.

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB HBM3)	Numero di vCPU†	Memoria VM (GB)	SSD locale collegata (GiB)	Larghezza di banda massima della rete (Gbps)‡
a2-ultragpu-1g	1	80	12	170	375	24
a2-ultragpu-2g	2	160	24	340	750	32
a2-ultragpu-4g	4	320	48	680	1500	50
a2-ultragpu-8g	8	640	96	1360	3000	100

Limitazioni di A2 Ultra

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A2 Ultra.
• Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina A2 Ultra.
• Puoi utilizzare un tipo di macchina A2 Ultra solo in alcune regioni e zone.
• Il tipo di macchina A2 Ultra è disponibile solo sulla piattaforma Cascade Lake.
• Se la VM utilizza un tipo di macchina A2 Ultra, non puoi modificarlo. Se devi utilizzare un altro tipo di macchina A2 Ultra o qualsiasi altro tipo di macchina, devi creare una nuova VM.
• Non puoi modificare un altro tipo di macchina in un tipo A2 Ultra. Se hai bisogno di una VM che utilizzi un tipo di macchina A2 Ultra, devi creare una nuova VM.
• Non puoi eseguire un formato rapido delle unità SSD locali collegate sulle VM Windows che utilizzano tipi di macchine A2 Ultra. Per formattare questi SSD locali, devi eseguire una formattazione completa utilizzando l'utilità diskpart e specificando format fs=ntfs label=tmpfs.

Tipi di macchine standard A2

Questi tipi di macchine hanno un numero fisso di GPU A100 da 40 GB.

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB HBM3)	Numero di vCPU†	Memoria VM (GB)	SSD locale collegata (GiB)	Larghezza di banda massima della rete (Gbps)‡
a2-highgpu-1g	1	40	12	85	Sì	24
a2-highgpu-2g	2	80	24	170	Sì	32
a2-highgpu-4g	4	160	48	340	Sì	50
a2-highgpu-8g	8	320	96	680	Sì	100
a2-megagpu-16g	16	640	96	1360	Sì	100

Limitazioni di A2 Standard

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A2 standard.
• Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina A2 standard.
• Puoi utilizzare un tipo di macchina A2 standard solo in alcune regioni e zone.
• Il tipo di macchina A2 Standard è disponibile solo sulla piattaforma Cascade Lake.
• Se la tua VM utilizza un tipo di macchina A2 standard, puoi passare solo da un tipo di macchina A2 standard a un altro tipo di macchina A2 standard. Non puoi passare a un altro tipo di macchina. Per saperne di più, consulta Modificare le VM ottimizzate per l'acceleratore.
• Non puoi utilizzare il sistema operativo Windows con i tipi di macchine A2 standard <codea2-megagpu-16g< code="" dir="ltr" translate="no">. Quando utilizzi sistemi operativi Windows, scegli un tipo di macchina A2 Standard diverso.</codea2-megagpu-16g<>
• Non puoi eseguire un formato rapido delle unità SSD locali collegate sulle VM Windows che utilizzano i tipi di macchina A2 Standard. Per formattare questi SSD locali, devi eseguire una formattazione completa utilizzando l'utilità diskpart e specificando format fs=ntfs label=tmpfs.
• I tipi di macchine standard A2 non supportano la proprietà esclusiva.

Tipi di dischi supportati per la serie A2

Le VM A2 possono utilizzare i seguenti tipi di archiviazione a blocchi:

• Hyperdisk ML (hyperdisk-ml)
• Disco permanente bilanciato (pd-balanced)
• Disco permanente SSD (prestazionale) (pd-ssd)
• Disco rigido permanente standard (pd-standard)
• SSD locale: viene collegata automaticamente alle VM create utilizzando i tipi di macchine A2 Ultra.

Se supportato dal tipo di macchina, puoi utilizzare una combinazione di volumi Hyperdisk e disco permanente su una VM, ma si applicano le seguenti limitazioni:

• Il numero combinato di volumi Hyperdisk e di dischi permanenti non può superare i 128 per VM.

• La capacità totale massima del disco (in TiB) per tutti i tipi di disco non può essere superiore a:

  • Per i tipi di macchine con meno di 32 vCPU:

    • 257 TiB per tutti gli Hyperdisk o tutti i dischi permanenti
    • 257 TiB per una combinazione di Hyperdisk e dischi permanenti

  • Per i tipi di macchine con 32 o più vCPU:

    • 512 TiB per tutti gli Hyperdisk
    • 512 TiB per una combinazione di Hyperdisk e dischi permanenti
    • 257 TiB per tutti i dischi permanenti

Per informazioni dettagliate sui limiti di capacità, consulta Limiti di capacità di Hyperdisk per VM e Capacità massima del disco permanente.

La serie di macchine G2

La serie di macchine G2 è disponibile in tipi di macchine standard con da 4 a 96 vCPU e fino a 432 GB di memoria. Questa serie di macchine è ottimizzata per i workload di inferenza e grafica.

La serie di macchine G2 offre anche le seguenti funzionalità:

• GPU NVIDIA collegate: ogni tipo di macchina G2 ha GPU NVIDIA L4.

• Miglioramento delle velocità di inferenza: i tipi di macchine G2 supportano il tipo di dato FP8 (virgola mobile a 8 bit) che accelera le velocità di inferenza ML e riduce i requisiti di memoria.

• Prestazioni grafiche di nuova generazione: le GPU NVIDIA L4 offrono un miglioramento fino a tre volte delle prestazioni grafiche utilizzando core RT di terza generazione e la tecnologia NVIDIA DLSS 3 (Deep Learning Super Sampling).

• Larghezza di banda di rete ad alte prestazioni: con la serie di macchine G2, puoi ottenere fino a 100 Gbps di larghezza di banda di rete.

• Spazio di archiviazione: puoi aggiungere fino a 3000 GiB di SSD locale alle VM G2. Questo può essere utilizzato per dischi scratch veloci o per alimentare i dati nelle GPU evitando al contempo i colli di bottiglia I/O.

  Puoi anche collegare volumi Hyperdisk e di dischi permanenti alle VM G2 per le applicazioni che richiedono più spazio di archiviazione permanente. La capacità di archiviazione massima dipende dal numero di vCPU della VM. Per maggiori dettagli, consulta Tipi di dischi supportati.

• Supporto dei criteri di posizionamento compatto: offre un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una maggiore larghezza di banda per il posizionamento delle VM all'interno di una singola zona di disponibilità. Per ulteriori informazioni, consulta Ridurre la latenza utilizzando i criteri di posizionamento compatto.

Tipi di macchine G2

A ogni tipo di macchina G2 è collegato un numero fisso di GPU NVIDIA L4 e vCPU. Ogni tipo di macchina G2 ha anche una memoria predefinita e un'intervallo di memoria personalizzato. L'intervallo di memoria personalizzato definisce la quantità di memoria che puoi allocare alla VM per ogni tipo di macchina. Puoi specificare la memoria personalizzata durante la creazione della VM.

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB GDDR6)	Numero di vCPU†	Memoria VM predefinita (GB)	Intervallo di memoria VM personalizzato (GB)	SSD locale massima supportata (GiB)	Larghezza di banda massima della rete (Gbps)‡
g2-standard-4	1	24	4	16	Da 16 a 32	375	10
g2-standard-8	1	24	8	32	Da 32 a 54	375	16
g2-standard-12	1	24	12	48	Da 48 a 54	375	16
g2-standard-16	1	24	16	64	Da 54 a 64	375	32
g2-standard-24	2	48	24	96	Da 96 a 108	750	32
g2-standard-32	1	24	32	128	Da 96 a 128	375	32
g2-standard-48	4	96	48	192	Da 192 a 216	1500	50
g2-standard-96	8	192	96	384	Da 384 a 432	3000	100

Limitazioni di G2

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina G2.
• Non ricevi sconti per utilizzo e sconti per impegno di utilizzo per le VM che utilizzano un tipo di macchina G2.
• Puoi utilizzare un tipo di macchina G2 solo in determinate regioni e zone.
• Il tipo di macchina G2 è disponibile solo sulla piattaforma Cascade Lake.
• Il disco permanente standard (pd-standard) non è supportato nelle VM che utilizzano i tipi di macchine standard G2. Per i tipi di dischi supportati, consulta Tipi di dischi supportati per G2.
• Non puoi creare GPU con più istanze sui tipi di macchine G2.
• Se devi modificare il tipo di macchina di una VM G2, consulta Modificare le VM ottimizzate per l'acceleratore.
• Non puoi utilizzare le immagini VM per il deep learning come dischi di avvio per le tue VM che utilizzano tipi di macchine G2.
• L'attuale driver predefinito per Container-Optimized OS non supporta le GPU L4 in esecuzione su tipi di macchine G2. Container-Optimized OS supporta anche solo un insieme selezionato di driver. Se vuoi utilizzare Container-Optimized OS sui tipi di macchine G2, consulta le seguenti note:
  • Utilizza una versione di Container-Optimized OS che supporti la versione minima consigliata del driver NVIDIA 525.60.13 o successive. Per ulteriori informazioni, consulta le note di rilascio di Container-Optimized OS.
  • Quando installi il driver, specifica la versione più recente disponibile che funziona per le GPU L4. Ad esempio, sudo cos-extensions install gpu -- -version=525.60.13.
• Devi utilizzare Google Cloud CLI o REST per creare VM G2 per i seguenti scenari:
  • Vuoi specificare valori di memoria personalizzati.
  • Vuoi personalizzare il numero di core della CPU visibili.

Tipi di dischi supportati per la serie G2

Le VM G2 possono utilizzare i seguenti tipi di archiviazione a blocchi:

• Disco permanente bilanciato (pd-balanced)
• Disco permanente SSD (prestazionale) (pd-ssd)
• Hyperdisk ML (hyperdisk-ml)
• Throughput Hyperdisk (hyperdisk-throughput)
• SSD locale

Se supportato dal tipo di macchina, puoi utilizzare una combinazione di volumi Hyperdisk e disco permanente su una VM, ma si applicano le seguenti limitazioni:

• Il numero combinato di volumi Hyperdisk e di dischi permanenti non può superare i 128 per VM.

• La capacità totale massima del disco (in TiB) per tutti i tipi di disco non può essere superiore a:

  • Per i tipi di macchine con meno di 32 vCPU:

    • 257 TiB per tutti gli Hyperdisk o tutti i dischi permanenti
    • 257 TiB per una combinazione di Hyperdisk e dischi permanenti

  • Per i tipi di macchine con 32 o più vCPU:

    • 512 TiB per tutti gli Hyperdisk
    • 512 TiB per una combinazione di Hyperdisk e dischi permanenti
    • 257 TiB per tutti i dischi permanenti

Per informazioni dettagliate sui limiti di capacità, consulta Limiti di capacità di Hyperdisk per VM e Capacità massima del disco permanente.

Passaggi successivi

• Crea una VM con GPU collegate
• Prezzi delle GPU
• Prezzi delle istanze VM