Quando crei un cluster Kubernetes in Google Distributed Cloud (GDC) air-gapped, crei pool di nodi responsabili dell'esecuzione dei carichi di lavoro dei container nel cluster. Esegui il provisioning dei nodi in base ai requisiti del carico di lavoro dei container e puoi aggiornarli man mano che i requisiti cambiano.
GDC fornisce tipi di macchina predefiniti per i nodi worker selezionabili quando aggiungi un pool di nodi. Esistono anche diversi modi per partizionare istanze GPU separate utilizzando la funzionalità GPU multi-istanza (MIG).
Consulta le sezioni seguenti per i tipi di macchine disponibili e il supporto GPU.
Tipi di macchine disponibili
GDC definisce i tipi di macchine con alcuni parametri
per un nodo del cluster Kubernetes, tra cui CPU, memoria e GPU.
GDC offre vari tipi di macchine per scopi diversi.
Ad esempio, i cluster utilizzano n2-standard-4-gdc per i carichi di lavoro dei container generici. Se prevedi di eseguire notebook di intelligenza artificiale (AI) e
machine learning (ML), devi eseguire il provisioning di macchine GPU, ad esempio
a2-highgpu-1g-gdc.
Di seguito è riportato un elenco di tutti i tipi di macchine predefinite GDC disponibili per i nodi worker del cluster Kubernetes:
| Nome | vCPU | Memoria | GPU |
|---|---|---|---|
| n2-standard-4-gdc | 4 | 16G | N/D |
| n2-standard-8-gdc | 8 | 32G | N/D |
| n2-standard-16-gdc | 16 | 64G | N/D |
| n2-standard-32-gdc | 32 | 128G | N/D |
| n2-highmem-4-gdc | 4 | 32G | N/D |
| n2-highmem-8-gdc | 8 | 64G | N/D |
| n2-highmem-16-gdc | 16 | 128G | N/D |
| n2-highmem-32-gdc | 32 | 256G | N/D |
| a2-highgpu-1g-gdc | 12 | 85G | 1x A100 40GB |
| a2-ultragpu-1g-gdc | 12 | 170G | 1x A100 80GB |
| a2-ultragpu-2g-gdc | 24 | 340G | 2x A100 80GB |
| a3-highgpu-1g-gdc | 28 | 240G | 1x H100 94GB |
| a3-highgpu-2g-gdc | 56 | 480G | 2x H100 94GB |
| a3-highgpu-4g-gdc | 112 | 960G | 4x H100 94GB |
Profili MIG supportati
Questa sezione definisce gli schemi di partizionamento supportati dei profili MIG sulle
GPU supportate. Puoi definire uno schema di partizionamento per un pool di nodi nella risorsa personalizzata
Cluster.
Per ulteriori informazioni su come applicare uno schema di partizionamento della GPU, consulta Aggiungere un node pool.
GPU A100 da 40 GB
La tabella seguente definisce i profili MIG supportati sulla GPU NVIDIA A100 da 40 GB:
| Schema di partizionamento | Partizioni disponibili |
|---|---|
| 1g.5gb | 7x 1g.5gb |
| 2g.10gb | 3x 2g.10gb |
| 3g.20gb | 2x 3g.20gb |
| 7g.40gb | 1x 7g.40gb |
| mixed-1 | 1x 4g.20gb 1x 2g.10gb 1x 1g.5gb |
| mixed-2 | 1x 4g.20gb 3x 1g.5gb |
| mixed-3 | 1x 3g.20gb 2x 2g.10gb |
| mixed-4 | 1x 3g.20gb 1x 2g.10gb 2x 1g.5gb |
| mixed-5 | 1x 3g.20gb 4x 1g.5gb |
| mixed-6 | 3x 2g.10gb 1x 1g.5b |
| mixed-7 | 2x 2g.10gb 3x 1g.5b |
| mixed-8 | 1x 2g.10gb 5x 1g.5gb |
GPU A100 da 80 GB
La seguente tabella definisce i profili MIG supportati sulla GPU NVIDIA A100 da 80 GB:
| Schema di partizionamento | Partizioni disponibili |
|---|---|
| 1g.10gb | 7x 1g.10gb |
| 2g.20gb | 3x 2g.20gb |
| 3g.40gb | 2x 3g.40gb |
| 7g.80gb | 1x 7g.80gb |
| mixed-1 | 1x 4g.40gb 1x 2g.20gb 1x 1g.10gb |
| mixed-2 | 1x 4g.40gb 3x 1g.10gb |
| mixed-3 | 1x 3g.40gb 2x 2g.20gb |
| mixed-4 | 1x 3g.40gb 1x 2g.20gb 2x 1g.10gb |
| mixed-5 | 1x 3g.40gb 4x 1g.10gb |
| mixed-6 | 3x 2g.20gb 1x 1g.10gb |
| mixed-7 | 2x 2g.20gb 3x 1g.10gb |
| mixed-8 | 1x 2g.20gb 5x 1g.10gb |
GPU H100 da 94 GB
La tabella seguente definisce i profili MIG supportati sulla GPU NVIDIA H100 da 94 GB:
| Schema di partizionamento | Partizioni disponibili |
|---|---|
| 1g.12gb | 7x 1g.12gb |
| 1g.24gb | 7x 1g.24gb |
| 2g.24gb | 3x 2g.24gb |
| 3g.47gb | 2x 3g.47gb |
| 4g.47gb | 1x 4g.47gb |
| 7g.94gb | 1x 7g.94gb |
| mixed-1 | 1x 4g.47gb 1x 3g.47gb |
| mixed-2 | 1x 4g.47gb 1x 2g.24gb 1x 1g.12gb |
| mixed-3 | 1x 4g.47gb 3x 1g.12gb |
| mixed-4 | 1x 3g.47gb 2x 2g.24gb |
| mixed-5 | 1x 3g.47gb 1x 2g.24gb 2x 1g.12gb |
| mixed-6 | 1x 3g.47gb 4x 1g.12gb |
| mixed-7 | 3x 2g.24gb 1x 1g.12gb |
| mixed-8 | 2x 2g.24gb 3x 1g.12gb |
| mixed-9 | 1x 2g.24gb 5x 1g.12gb |