Famiglia di macchine ottimizzate per l'acceleratore

---

La famiglia di macchine ottimizzate per l'acceleratore è progettata Google Cloud per offrire le prestazioni e l'efficienza necessarie per i workload accelerati da GPU, come l'intelligenza artificiale (AI), il machine learning (ML) e il computing ad alte prestazioni (HPC).

La famiglia di macchine ottimizzate per l'acceleratore è disponibile nelle seguenti serie di macchine: A4, A3, A2 e G2. Ogni tipo di macchina all'interno di una serie ha un modello e un numero specifico di GPU NVIDIA collegate. Puoi anche collegare alcuni modelli di GPU ai tipi di macchine per uso generico N1.

Suggerimento per la serie di macchine in base al tipo di workload

La sezione seguente fornisce le serie di macchine consigliate in base ai workload GPU.

Tipo di workload	Tipo o serie di macchine consigliata
Modelli di pre-addestramento	A4, A3 Ultra, A3 Mega, A3 High, A2 Per identificare la soluzione più adatta, consulta Consigli per i modelli di preaddestramento nella documentazione di AI Hypercomputer.
Modelli di ottimizzazione	A4, A3 Ultra, A3 Mega, A3 High, A2 Per identificare la soluzione più adatta, consulta Consigli per i modelli di ottimizzazione nella documentazione di AI Hypercomputer.
Inferenza di pubblicazione	A4, A3 Ultra, A3 Mega, A3 High, A2 Per identificare la soluzione più adatta, consulta Consigli per l'inferenza di pubblicazione nella documentazione di AI Hypercomputer.
Workload ad alta intensità di grafica	G2, N1+T4
Computing ad alte prestazioni	Per i workload di computing ad alte prestazioni, qualsiasi serie di macchine ottimizzata per l'acceleratore è adatta. La soluzione migliore dipende dalla quantità di calcoli da trasferire sulla GPU. Per ulteriori informazioni, consulta Consigli per l'HPC (computing ad alte prestazioni) nella documentazione di AI Hypercomputer.

Opzioni di prezzo e provisioning

I costi dei tipi di macchine ottimizzati per l'acceleratore dipendono da numero di GPU, vCPU predefinita, memoria ed SSD locale in bundle (se applicabile). Gli sconti che possono essere applicati alle istanze ottimizzate per l'acceleratore variano in base all'opzione di provisioning utilizzata, come descritto nella tabella seguente. Per ulteriori informazioni sui prezzi delle istanze ottimizzate per l'acceleratore, consulta la sezione Famiglia di tipi di macchine ottimizzate per l'acceleratore nella pagina dei prezzi delle istanze VM.

	On demand (impostazione predefinita)	Prenotazioni	VM spot
Serie di macchine ottimizzate per l'acceleratore supportate	Tutti tranne A4 e A3 Ultra	Varia in base al tipo di prenotazione: Richieste di prenotazione futura per Cluster Director (anteprima): A4 e A3 Ultra Richieste di prenotazione futura per Compute Engine (anteprima): A2 e G2 Prenotazioni on demand: A3 Mega, A3 High, A3 Edge, A2 e G2	Tutto
Sconti	Puoi ricevere sconti per impegno di utilizzo (CUD) per alcune risorse acquistando impegni basati sulle risorse. Tuttavia, le GPU e i dischi SSD locali che utilizzi con l'opzione di provisioning on demand non sono idonei per gli sconti per impegno di utilizzo. Se vuoi ricevere CUD anche per GPU e dischi SSD locali, ti consigliamo di utilizzare l'opzione di provisioning delle prenotazioni.	Puoi ricevere CUD per le risorse del tipo di macchina ottimizzato per l'acceleratore acquistando impegni basati sulle risorse. Tieni presente che gli impegni per GPU e dischi SSD locali richiedono prenotazioni allegate per queste risorse.	Le VM spot ricevono automaticamente sconti tramite Prezzi di VM spot.

La serie di macchine A4

La serie di macchine A4 offre tipi di macchine con fino a 224 vCPU e 3968 GB di memoria. A4 offre fino a 3 volte le prestazioni dei tipi di istanze GPU precedenti per la maggior parte dei workload accelerati da GPU. A4 è particolarmente consigliato per i workload di addestramento del ML su larga scala, ad esempio centinaia o migliaia di GPU.

La serie di macchine A4 offre anche le seguenti funzionalità:

• GPU collegate: GPU NVIDIA B200 collegate, che offrono 180 GB di memoria GPU per GPU.

• Piattaforma CPU: processore Intel Xeon scalabile di 5ª generazione (Emerald Rapids) che offre una frequenza turbo massima single-core sostenuta fino a 4,0 GHz. Per ulteriori informazioni su questo processore, consulta la piattaforma CPU.

• Scalabilità NVLink leader del settore: le GPU NVIDIA B200 forniscono una larghezza di banda NVLink della GPU di 1800 GBps in modo bidirezionale per GPU.

  Con una topologia NVLink all-to-all tra 8 GPU in un sistema, la larghezza di banda NVLink aggregata può arrivare a 14,4 TB/s.

• Protocolli di rete: per questo tipo di macchina, RDMA su Converged Ethernet (RoCE) aumenta le prestazioni della rete combinando le schede di interfaccia di rete (NIC) NVIDIA ConnectX-7 con la rete a quattro vie in linea del data center di Google. Sfruttando RDMA su Converged Ethernet (RoCE), le macchine A4 raggiungono un throughput molto più elevato tra le VM in un cluster rispetto ai tipi di macchine A3 ottimizzati per l'acceleratore, ad eccezione di A3 Ultra.

• Velocità di calcolo e networking migliorate: offre velocità di networking fino a 4 volte superiori rispetto alla serie di macchine A2 di prima generazione.

  Per ulteriori informazioni sul networking, consulta Larghezze di banda di rete e GPU.

• Ottimizzazioni della virtualizzazione: la topologia Peripheral Component Interconnect Express (PCIe) delle VM A4 fornisce informazioni sulla località più precise che i workload possono utilizzare per ottimizzare i trasferimenti di dati.

  Le GPU espongono anche il ripristino a livello di funzione (FLR) per il recupero graduale da errori e il supporto delle operazioni atomiche per i miglioramenti della concorrenza in determinati scenari.

• Archiviazione: l'SSD locale può essere utilizzato per dischi temporanei veloci o per inviare dati alle GPU evitando al contempo i colli di bottiglia I/O. 12.000 GiB di SSD locale vengono aggiunti automaticamente alle VM A4.

  Puoi anche collegare fino a 512 TiB di Hyperdisk ai tipi di macchine di questa serie per le applicazioni che richiedono prestazioni di archiviazione più elevate.

• Supporto per l'allocazione e la pianificazione in base alla topologia: quando esegui il provisioning di macchine A4 che utilizzano le funzionalità e i servizi disponibili in Cluster Director, puoi richiedere blocchi di capacità allocata in modo denso. Le macchine host sono allocate fisicamente una vicino all'altra, viene eseguito il loro provisioning in blocchi di risorse e sono interconnesse con un'infrastruttura di rete ML dinamica per ridurre al minimo gli hop di rete e ottimizzare per la latenza più bassa. Inoltre, puoi ottenere informazioni sulla topologia a livello di nodo e cluster che possono essere utilizzate per il posizionamento dei job.

Per la serie di macchine A4 sono disponibili i seguenti tipi di macchine.

Tipo di macchina A4

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB HBM3e)	Numero di vCPU†	Memoria VM (GB)	SSD locale collegato (GiB)	Numero di NIC fisiche	Larghezza di banda massima della rete (Gbps)‡
a4-highgpu-8g	8	1440	224	3968	12.000	10	3600

Limitazioni A4

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A4.
• Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina A4.
• Puoi utilizzare un tipo di macchina A4 solo in alcune regioni e zone.
• Non puoi utilizzare Dischi permanenti (a livello di regione o di zona) su una VM che utilizza il tipo di macchina A4.
• Il tipo di macchina A4 è disponibile solo sulla piattaforma CPU Emerald Rapids.
• Non puoi modificare il tipo di macchina di una VM di tipo A4. Se devi modificare il tipo di macchina, devi creare una nuova VM.
• Non puoi cambiare il tipo di macchina di una VM in un tipo di macchina A4. Se hai bisogno di una VM che utilizzi un tipo di macchina A4, devi creare una nuova VM.
• I tipi di macchine A4 non supportano la proprietà esclusiva.
• Non puoi eseguire sistemi operativi Windows su un tipo di macchina A4.

Tipi di dischi supportati per la serie A4

Numero massimo di dischi per VM*
Tipi di macchine	Tutti i dischi†	Hyperdisk bilanciato	Throughput Hyperdisk	Hyperdisk ML	Hyperdisk Extreme	SSD locale collegato
a4-highgpu-8g	128	128	N/A	N/A	8	32

Limiti di disco e capacità

Se supportato dal tipo di macchina, puoi utilizzare una combinazione di volumi Hyperdisk e Persistent Disk su una VM, ma si applicano le seguenti limitazioni:

• Il numero combinato di volumi Hyperdisk e Persistent Disk non può superare i 128 per VM.

• La capacità totale massima del disco (in TiB) per tutti i tipi di disco non può essere superiore a:

  • Per i tipi di macchine con meno di 32 vCPU:

    • 257 TiB per tutti gli Hyperdisk o tutti i Persistent Disk
    • 257 TiB per una combinazione di Hyperdisk e Persistent Disk

  • Per i tipi di macchine con 32 o più vCPU:

    • 512 TiB per tutti gli Hyperdisk
    • 512 TiB per una combinazione di Hyperdisk e Persistent Disk
    • 257 TiB per tutti i Persistent Disk

Per informazioni dettagliate sui limiti di capacità, consulta Dimensioni e limiti di allegati di Hyperdisk e Capacità massima di Persistent Disk.

La serie di macchine A3

La serie di macchine A3 ha fino a 224 vCPU e 2944 GB di memoria. Questa serie di macchine è ottimizzata per l'addestramento ML con vincoli di rete, ad alta intensità di calcolo e memoria, nonché per i workload HPC.

La serie di macchine A3 offre anche le seguenti funzionalità:

Funzionalità	A3 Ultra	A3 Mega, High, Edge
GPU collegate	GPU NVIDIA H200 SXM collegate, che offrono 141 GB di memoria GPU per GPU e forniscono memoria più grande e più rapida per supportare modelli linguistici di grandi dimensioni (LLM) e workload HPC.	GPU NVIDIA H100 SXM collegate, che offrono 80 GB di memoria GPU per GPU e sono ideali per HPC, database e modelli linguistici di grandi dimensioni (LLM) basati su Transformer.
Piattaforma CPU	Processore Intel Xeon scalabile di 5ª generazione (Emerald Rapids) che offre una frequenza turbo massima single-core sostenuta fino a 4,0 GHz. Per ulteriori informazioni su questo processore, consulta la piattaforma CPU.	Processore Intel Xeon scalabile di 4ª generazione (Sapphire Rapids) e offre una frequenza turbo massima single-core supportata fino a 3,3 GHz. Per ulteriori informazioni su questo processore, consulta la piattaforma CPU.
Scalabilità NVLink leader del settore	Le GPU NVIDIA H200 offrono un picco di larghezza di banda NVLink della GPU di 900 GB/s in modo unidirezionale. Con una topologia NVLink all-to-all tra 8 GPU in un sistema, la larghezza di banda NVLink aggregata può arrivare a 7,2 TB/s.	Le GPU NVIDIA H100 offrono una larghezza di banda NVLink GPU di picco di 450 GB/s in modo unidirezionale. Con una topologia NVLink all-to-all tra 8 GPU in un sistema, la larghezza di banda NVLink aggregata può arrivare a 7,2 TB/s.
Protocolli di rete	Per questo tipo di macchina, RDMA su Converged Ethernet (RoCE) aumenta le prestazioni della rete combinando schede di interfaccia di rete (NIC) NVIDIA ConnectX-7 con la nostra rete a quattro vie in linea del data center. Sfruttando RDMA su Converged Ethernet (RoCE), il tipo di macchina a3-ultragpu-8g raggiunge un throughput molto più elevato tra le VM in un cluster rispetto ad altri tipi di macchine A3 ottimizzate per l'acceleratore.	Per i tipi di macchine A3 Mega, GPUDirect-TCPXO migliora ulteriormente GPUDirect-TCPX eseguendo il trasferimento del protocollo TCP. Sfruttando GPUDirect-TCPXO, il tipo di macchina a3-megagpu-8g raddoppia la larghezza di banda della rete rispetto ai tipi di macchina A3 High e A3 Edge. Per i tipi di macchine A3 Edge e A3 High, GPUDirect-TCPX aumenta le prestazioni della rete consentendo il trasferimento dei payload dei pacchetti di dati direttamente dalla memoria della GPU all'interfaccia di rete. Sfruttando GPUDirect-TCPX, questi tipi di macchine raggiungono un throughput molto più elevato tra le VM in un cluster rispetto ai tipi di macchine ottimizzati per l'acceleratore A2 o G2.
Miglioramento della velocità di calcolo e del networking	Offre velocità di rete fino a 4 volte superiori rispetto alla serie di macchine A2 di generazione precedente. Per ulteriori informazioni sul networking, consulta Larghezze di banda di rete e GPU.	Offre velocità di rete fino a 2,5 volte superiori rispetto alla serie di macchine A2 della generazione precedente. Per ulteriori informazioni sul networking, consulta Larghezze di banda di rete e GPU.
Ottimizzazioni della virtualizzazione	La topologia PCIe (Peripheral Component Interconnect Express) delle VM A3 fornisce informazioni sulla località più precise che i workload possono utilizzare per ottimizzare i trasferimenti di dati. Le GPU espongono anche il ripristino a livello di funzione (FLR) per il recupero graduale da errori e il supporto delle operazioni atomiche per i miglioramenti della concorrenza in determinati scenari.
Archiviazione	L'SSD locale può essere utilizzato per dischi temporanei veloci o per inviare dati alle GPU evitando al contempo i colli di bottiglia I/O. L'SSD locale è collegato come segue: 12.000 GiB di SSD locale vengono aggiunti automaticamente alle VM A3 Ultra. 6000 GiB di SSD locale vengono aggiunti automaticamente alle VM A3 Mega, High ed Edge. Puoi anche collegare fino a 512 TiB di Persistent Disk e Hyperdisk ai tipi di macchine di queste serie per le applicazioni che richiedono prestazioni di archiviazione più elevate.
Supporto delle policy di posizionamento compatto	Ti offre un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una maggiore larghezza di banda per il posizionamento delle VM all'interno di una singola zona di disponibilità. Per saperne di più, consulta Informazioni sulle policy di posizionamento compatto.

Per la serie di macchine A3 sono disponibili i seguenti tipi di macchine.

Tipo di macchina A3 Ultra

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB HBM3e)	Numero di vCPU†	Memoria VM (GB)	SSD locale collegato (GiB)	Numero di NIC fisiche	Larghezza di banda massima della rete (Gbps)‡
a3-ultragpu-8g	8	1128	224	2952	12.000	10	3600

Limitazioni A3 Ultra

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 Ultra.
• Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina A3 Ultra.
• Puoi utilizzare un tipo di macchina A3 Ultra solo in alcune regioni e zone.
• Non puoi utilizzare Dischi permanenti (a livello di regione o di zona) su una VM che utilizza il tipo di macchina A3 Ultra.
• Il tipo di macchina A3 Ultra è disponibile solo sulla piattaforma CPU Emerald Rapids.
• Non puoi modificare il tipo di macchina di una VM di tipo A3 Ultra. Se devi modificare il tipo di macchina, devi creare una nuova VM.
• Non puoi modificare il tipo di macchina di una VM in un tipo di macchina A3 Ultra. Se hai bisogno di una VM che utilizzi un tipo di macchina A3 Ultra, devi creare una nuova VM.
• I tipi di macchine A3 Ultra non supportano la modalità single-tenancy.
• Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 Ultra.

Tipo di macchina A3 Mega

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB HBM3)	Numero di vCPU†	Memoria VM (GB)	SSD locale collegato (GiB)	Numero di NIC fisiche	Larghezza di banda massima della rete (Gbps)‡
a3-megagpu-8g	8	640	208	1872	6000	9	1800

Limitazioni A3 Mega

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 Mega.
• Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina A3 Mega.
• Puoi utilizzare un tipo di macchina A3 Mega solo in alcune regioni e zone.
• Non puoi utilizzare i Persistent Disk a livello di regione su una VM che utilizza il tipo di macchina A3 Mega.
• Il tipo di macchina A3 Mega è disponibile solo sulla piattaforma CPU Sapphire Rapids.
• Non puoi modificare il tipo di macchina di una VM di tipo A3 Mega. Se devi modificare il tipo di macchina, devi creare una nuova VM.
• Non puoi modificare il tipo di macchina di una VM in un tipo di macchina A3 Mega. Se hai bisogno di una VM che utilizzi un tipo di macchina A3 Mega, devi creare una nuova VM.
• I tipi di macchine A3 Mega non supportano la modalità single-tenancy.
• Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 Mega.

Tipo di macchina A3 High

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB HBM3)	Numero di vCPU†	Memoria VM (GB)	SSD locale collegato (GiB)	Numero di NIC fisiche	Larghezza di banda massima della rete (Gbps)‡
a3-highgpu-1g	1	80	26	234	750	1	25
a3-highgpu-2g	2	160	52	468	1500	1	50
a3-highgpu-4g	4	320	104	936	3000	1	100
a3-highgpu-8g	8	640	208	1872	6000	5	1000

Limitazioni A3 High

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 High.
• Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina A3 High.
• Puoi utilizzare un tipo di macchina A3 High solo in alcune regioni e zone.
• Non puoi utilizzare i Persistent Disk a livello di regione su una VM che utilizza il tipo di macchina A3 High.
• Il tipo di macchina A3 High è disponibile solo sulla piattaforma CPU Sapphire Rapids.
• Non puoi modificare il tipo di macchina di una VM di tipo A3 High. Se devi modificare il tipo di macchina, devi creare una nuova VM.
• Non puoi modificare il tipo di macchina di una VM in un tipo di macchina A3 High. Se hai bisogno di una VM che utilizzi un tipo di macchina A3 High, devi creare una nuova VM.
• I tipi di macchine A3 High non supportano la modalità single-tenancy.
• Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 High.
• Per i tipi di macchine a3-highgpu-1g, a3-highgpu-2g ea3-highgpu-4g, si applicano le seguenti limitazioni:
  • Per questi tipi di macchine, devi creare VM utilizzando VM spot o una funzionalità che utilizza il Dynamic Workload Scheduler (DWS), come le richieste di ridimensionamento in un gruppo di istanze gestite. Per istruzioni dettagliate su una di queste opzioni, consulta quanto segue:
    • Per creare VM spot, imposta il modello di provisioning su SPOT quando crei una VM ottimizzata per l'acceleratore.
    • Per creare una richiesta di ridimensionamento in un MIG che utilizza DWS, consulta Crea un gruppo di istanze gestite con VM GPU.
  • Non puoi utilizzare Hyperdisk Balanced con questi tipi di macchine.
  • Non puoi creare prenotazioni.
  Se provi a creare una VM utilizzando il provisioning standard o a creare una prenotazione per questi tipi di macchine, riceverai un messaggio di errore.

Tipo di macchina A3 Edge

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB HBM3)	Numero di vCPU†	Memoria VM (GB)	SSD locale collegato (GiB)	Numero di NIC fisiche	Larghezza di banda massima della rete (Gbps)‡
a3-edgegpu-8g	8	640	208	1872	6000	5	800: per asia-south1 e northamerica-northeast2 400: per tutte le altre regioni A3 Edge

Limitazioni A3 Edge

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A3 Edge.
• Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina A3 Edge.
• Puoi utilizzare un tipo di macchina A3 Edge solo in alcune regioni e zone.
• Non puoi utilizzare i Persistent Disk a livello di regione su una VM che utilizza il tipo di macchina A3 Edge.
• Il tipo di macchina A3 Edge è disponibile solo sulla piattaforma CPU Sapphire Rapids.
• Non puoi modificare il tipo di macchina di una VM di tipo A3 Edge. Se devi modificare il tipo di macchina, devi creare una nuova VM.
• Non puoi modificare il tipo di macchina di una VM in un tipo di macchina A3 Edge. Se hai bisogno di una VM che utilizzi un tipo di macchina A3 Edge, devi creare una nuova VM.
• I tipi di macchine A3 Edge non supportano la modalità single-tenancy.
• Non puoi eseguire sistemi operativi Windows su un tipo di macchina A3 Edge.

Tipi di dischi supportati per la serie A3

Limiti di disco e capacità

Se supportato dal tipo di macchina, puoi utilizzare una combinazione di volumi Hyperdisk e Persistent Disk su una VM, ma si applicano le seguenti limitazioni:

• Il numero combinato di volumi Hyperdisk e Persistent Disk non può superare i 128 per VM.

• La capacità totale massima del disco (in TiB) per tutti i tipi di disco non può essere superiore a:

  • Per i tipi di macchine con meno di 32 vCPU:

    • 257 TiB per tutti gli Hyperdisk o tutti i Persistent Disk
    • 257 TiB per una combinazione di Hyperdisk e Persistent Disk

  • Per i tipi di macchine con 32 o più vCPU:

    • 512 TiB per tutti gli Hyperdisk
    • 512 TiB per una combinazione di Hyperdisk e Persistent Disk
    • 257 TiB per tutti i Persistent Disk

Per informazioni dettagliate sui limiti di capacità, consulta Dimensioni e limiti di allegati di Hyperdisk e Capacità massima di Persistent Disk.

La serie di macchine A2

La serie di macchine A2 è disponibile nei tipi di macchine A2 Standard e A2 Ultra. Questi tipi di macchine hanno da 12 a 96 vCPU e fino a 1360 GB di memoria.

La serie di macchine A2 offre anche le seguenti funzionalità:

• GPU NVIDIA collegate: ogni tipo di macchina A2 ha GPU NVIDIA A100. Sono disponibili sia nelle opzioni A100 da 40 GB che A100 da 80 GB.

• Scalabilità NVLink leader del settore che offre una larghezza di banda NVLink GPU-to-GPU di picco di 600 GB/s. Ad esempio, i sistemi con 16 GPU hanno una larghezza di banda NVLink aggregata fino a 9,6 TB/s. Queste 16 GPU possono essere utilizzate come un singolo acceleratore ad alte prestazioni con spazio di memoria unificato per fornire fino a 10 petaFLOPS di potenza di calcolo e fino a 20 petaFLOPS di potenza di calcolo di inferenza che possono essere utilizzati per i workload di intelligenza artificiale, deep learning e machine learning.

• Velocità di calcolo migliorata: le GPU NVIDIA A100 collegate offrono fino a 10 volte in più in termini di velocità di calcolo rispetto alle GPU NVIDIA V100 di generazione precedente.

  Con la serie di macchine A2, puoi ottenere una larghezza di banda di rete fino a 100 Gbps.

• Archiviazione: per dischi temporanei veloci o per l'alimentazione di dati alle GPU evitando al contempo i colli di bottiglia I/O, i tipi di macchine A2 supportano l'SSD locale come segue:

  • Per i tipi di macchine A2 standard, puoi aggiungere fino a 3000 GiB di SSD locale.
  • Per i tipi di macchine A2 Ultra, l'SSD locale viene collegata automaticamente quando crei la VM.

  Puoi anche collegare fino a 257 TiB di spazio di archiviazione su disco permanente alle VM A2 per le applicazioni che richiedono queste prestazioni di archiviazione più elevate.

• Supporto delle policy di posizionamento compatto: offre un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una maggiore larghezza di banda per il posizionamento delle VM all'interno di una singola zona di disponibilità. Per ulteriori informazioni, consulta Riduci la latenza utilizzando le policy di posizionamento compatto.

Tipi di macchine A2 Ultra

Questi tipi di macchine hanno un numero fisso di GPU A100 da 80 GB. L'unità SSD locale viene collegata automaticamente alle VM create utilizzando i tipi di macchine A2 Ultra.

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB HBM3)	Numero di vCPU†	Memoria VM (GB)	SSD locale collegato (GiB)	Larghezza di banda massima della rete (Gbps)‡
a2-ultragpu-1g	1	80	12	170	375	24
a2-ultragpu-2g	2	160	24	340	750	32
a2-ultragpu-4g	4	320	48	680	1500	50
a2-ultragpu-8g	8	640	96	1360	3000	100

Limitazioni A2 Ultra

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina A2 Ultra.
• Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina A2 Ultra.
• Puoi utilizzare un tipo di macchina A2 Ultra solo in alcune regioni e zone.
• Il tipo di macchina A2 Ultra è disponibile solo sulla piattaforma Cascade Lake.
• Se la VM utilizza un tipo di macchina A2 Ultra, non puoi modificarlo. Se devi utilizzare un altro tipo di macchina A2 Ultra o qualsiasi altro tipo di macchina, devi creare una nuova VM.
• Non puoi modificare un altro tipo di macchina in un tipo A2 Ultra. Se hai bisogno di una VM che utilizzi un tipo di macchina A2 Ultra, devi creare una nuova VM.
• Non puoi formattare rapidamente le unità SSD locali collegate sulle VM Windows che utilizzano i tipi di macchina A2 Ultra. Per formattare questi SSD locali, devi eseguire una formattazione completa utilizzando l'utilità diskpart e specificando format fs=ntfs label=tmpfs.

Tipi di macchine A2 Standard

Questi tipi di macchine hanno un numero fisso di GPU A100 da 40 GB.

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB HBM3)	Numero di vCPU†	Memoria VM (GB)	SSD locale collegato (GiB)	Larghezza di banda massima della rete (Gbps)‡
a2-highgpu-1g	1	40	12	85	Sì	24
a2-highgpu-2g	2	80	24	170	Sì	32
a2-highgpu-4g	4	160	48	340	Sì	50
a2-highgpu-8g	8	320	96	680	Sì	100
a2-megagpu-16g	16	640	96	1360	Sì	100

Limitazioni A2 Standard

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina standard A2.
• Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina standard A2.
• Puoi utilizzare un tipo di macchina standard A2 solo in alcune regioni e zone.
• Il tipo di macchina standard A2 è disponibile solo sulla piattaforma Cascade Lake.
• Se la tua VM utilizza un tipo di macchina A2 Standard, puoi passare solo da un tipo di macchina standard A2 a un altro tipo di macchina A2 Standard. Non puoi passare a un altro tipo di macchina. Per saperne di più, consulta Modifica le VM ottimizzate per l'acceleratore.
• Non puoi utilizzare il sistema operativo Windows con <codea2-megagpu-16g< code="" dir="ltr" translate="no"> i tipi di macchine A2 Standard. Quando utilizzi sistemi operativi Windows, scegli un tipo di macchina standard A2 diverso.</codea2-megagpu-16g<>
• Non puoi formattare rapidamente le unità SSD locali collegate sulle VM Windows che utilizzano i tipi di macchina A2 Standard. Per formattare questi SSD locali, devi eseguire una formattazione completa utilizzando l'utilità diskpart e specificando format fs=ntfs label=tmpfs.
• I tipi di macchine A2 Standard non supportano la modalità single-tenancy.

Tipi di dischi supportati per la serie A2

Le VM A2 possono utilizzare i seguenti tipi di archiviazione a blocchi:

• Hyperdisk ML (hyperdisk-ml)
• Disco permanente bilanciato (pd-balanced)
• Persistent Disk SSD (prestazioni) (pd-ssd)
• Disco permanente standard (pd-standard)
• SSD locale: viene collegata automaticamente alle VM create utilizzando i tipi di macchine A2 Ultra.

Se supportato dal tipo di macchina, puoi utilizzare una combinazione di volumi Hyperdisk e Persistent Disk su una VM, ma si applicano le seguenti limitazioni:

• Il numero combinato di volumi Hyperdisk e Persistent Disk non può superare i 128 per VM.

• La capacità totale massima del disco (in TiB) per tutti i tipi di disco non può essere superiore a:

  • Per i tipi di macchine con meno di 32 vCPU:

    • 257 TiB per tutti gli Hyperdisk o tutti i Persistent Disk
    • 257 TiB per una combinazione di Hyperdisk e Persistent Disk

  • Per i tipi di macchine con 32 o più vCPU:

    • 512 TiB per tutti gli Hyperdisk
    • 512 TiB per una combinazione di Hyperdisk e Persistent Disk
    • 257 TiB per tutti i Persistent Disk

Per informazioni dettagliate sui limiti di capacità, consulta Dimensioni e limiti di allegati di Hyperdisk e Capacità massima di Persistent Disk.

La serie di macchine G2

La serie di macchine G2 è disponibile in tipi di macchine standard con da 4 a 96 vCPU e fino a 432 GB di memoria. Questa serie di macchine è ottimizzata per i workload di inferenza e grafica.

La serie di macchine G2 offre anche le seguenti funzionalità:

• GPU NVIDIA collegate: ogni tipo di macchina G2 ha GPU NVIDIA L4.

• Miglioramento delle velocità di inferenza: i tipi di macchine G2 supportano il tipo di dato FP8 (virgola mobile a 8 bit) che accelera le velocità di inferenza ML e riduce i requisiti di memoria.

• Prestazioni grafiche di nuova generazione: le GPU NVIDIA L4 offrono un miglioramento fino a tre volte delle prestazioni grafiche utilizzando core RT di terza generazione e la tecnologia NVIDIA DLSS 3 (Deep Learning Super Sampling).

• Larghezza di banda di rete ad alte prestazioni: con la serie di macchine G2, puoi ottenere fino a 100 Gbps di larghezza di banda di rete.

• Spazio di archiviazione: puoi aggiungere fino a 3000 GiB di SSD locale alle VM G2. Questo può essere utilizzato per dischi temporanei veloci o per inviare dati alle GPU evitando al contempo i colli di bottiglia I/O.

  Puoi anche collegare volumi Hyperdisk e Persistent Disk alle VM G2 per le applicazioni che richiedono più spazio di archiviazione permanente. La capacità di archiviazione massima dipende dal numero di vCPU della VM. Per maggiori dettagli, consulta Tipi di dischi supportati.

• Supporto delle policy di posizionamento compatto: offre un maggiore controllo sul posizionamento fisico delle VM all'interno dei data center. Ciò consente una latenza inferiore e una maggiore larghezza di banda per il posizionamento delle VM all'interno di una singola zona di disponibilità. Per ulteriori informazioni, consulta Riduci la latenza utilizzando le policy di posizionamento compatto.

Tipi di macchine G2

A ogni tipo di macchina G2 è collegato un numero fisso di GPU NVIDIA L4 e vCPU. Ogni tipo di macchina G2 ha anche una memoria predefinita e un'intervallo di memoria personalizzato. L'intervallo di memoria personalizzato definisce la quantità di memoria che puoi allocare alla VM per ogni tipo di macchina. Puoi specificare la memoria personalizzata durante la creazione della VM.

Tipo di macchina	Conteggio GPU	Memoria GPU* (GB GDDR6)	Numero di vCPU†	Memoria VM predefinita (GB)	Intervallo di memoria VM personalizzato (GB)	SSD locale massima supportata (GiB)	Larghezza di banda massima della rete (Gbps)‡
g2-standard-4	1	24	4	16	da 16 a 32	375	10
g2-standard-8	1	24	8	32	da 32 a 54	375	16
g2-standard-12	1	24	12	48	da 48 a 54	375	16
g2-standard-16	1	24	16	64	da 54 a 64	375	32
g2-standard-24	2	48	24	96	da 96 a 108	750	32
g2-standard-32	1	24	32	128	da 96 a 128	375	32
g2-standard-48	4	96	48	192	da 192 a 216	1500	50
g2-standard-96	8	192	96	384	da 384 a 432	3000	100

Limitazioni G2

• Puoi richiedere la capacità solo utilizzando le opzioni di provisioning supportate per un tipo di macchina G2.
• Non sono previsti sconti per utilizzo sostenuto e per impegno di utilizzo flessibile per le VM che utilizzano un tipo di macchina G2.
• Puoi utilizzare un tipo di macchina G2 solo in alcune regioni e zone.
• Il tipo di macchina G2 è disponibile solo sulla piattaforma Cascade Lake.
• Il disco permanente standard (pd-standard) non è supportato nelle VM che utilizzano i tipi di macchine G2 Standard. Per i tipi di dischi supportati, consulta Tipi di dischi supportati per G2.
• Non puoi creare GPU multi-istanza sui tipi di macchine G2.
• Se devi modificare il tipo di macchina di una VM G2, consulta Modifica le VM ottimizzate per l'acceleratore.
• Non puoi utilizzare Deep Learning VM Image come dischi di avvio per le tue VM che utilizzano tipi di macchine G2.
• L'attuale driver predefinito per Container-Optimized OS non supporta le GPU L4 in esecuzione su tipi di macchine G2. Container-Optimized OS supporta anche solo un insieme selezionato di driver. Se vuoi utilizzare Container-Optimized OS sui tipi di macchine G2, consulta le seguenti note:
  • Utilizza una versione di Container-Optimized OS che supporti la versione minima consigliata del driver NVIDIA 525.60.13 o successive. Per ulteriori informazioni, consulta le note di rilascio di Container-Optimized OS.
  • Quando installi il driver, specifica la versione più recente disponibile adatta alle GPU L4. Ad esempio, sudo cos-extensions install gpu -- -version=525.60.13.
• Devi utilizzare Google Cloud CLI o REST per creare VM G2 per i seguenti scenari:
  • Specifica i valori di memoria personalizzati.
  • Personalizza il numero di core della CPU visibili.

Tipi di dischi supportati per la serie G2

Le VM G2 possono utilizzare i seguenti tipi di archiviazione a blocchi:

• Disco permanente bilanciato (pd-balanced)
• Persistent Disk SSD (prestazioni) (pd-ssd)
• Hyperdisk ML (hyperdisk-ml)
• Throughput Hyperdisk (hyperdisk-throughput)
• SSD locale

Se supportato dal tipo di macchina, puoi utilizzare una combinazione di volumi Hyperdisk e Persistent Disk su una VM, ma si applicano le seguenti limitazioni:

• Il numero combinato di volumi Hyperdisk e Persistent Disk non può superare i 128 per VM.

• La capacità totale massima del disco (in TiB) per tutti i tipi di disco non può essere superiore a:

  • Per i tipi di macchine con meno di 32 vCPU:

    • 257 TiB per tutti gli Hyperdisk o tutti i Persistent Disk
    • 257 TiB per una combinazione di Hyperdisk e Persistent Disk

  • Per i tipi di macchine con 32 o più vCPU:

    • 512 TiB per tutti gli Hyperdisk
    • 512 TiB per una combinazione di Hyperdisk e Persistent Disk
    • 257 TiB per tutti i Persistent Disk

Per informazioni dettagliate sui limiti di capacità, consulta Dimensioni e limiti di allegati di Hyperdisk e Capacità massima di Persistent Disk.

Passaggi successivi

• Crea una VM con GPU collegate
• Prezzi delle GPU
• Prezzi delle istanze VM