Ao criar um cluster do Kubernetes no Google Distributed Cloud (GDC) isolado por air-gap, você cria pools de nós responsáveis por executar as cargas de trabalho de contêiner no cluster. Você provisiona nós com base nos requisitos da carga de trabalho do contêiner e pode atualizá-los conforme as necessidades evoluem.
O GDC oferece tipos de máquinas predefinidos para os nós de trabalho que podem ser selecionados ao adicionar um pool de nós. Há também várias maneiras de particionar instâncias de GPU separadas usando o recurso GPU de várias instâncias (MIG).
Consulte as seções a seguir para ver os tipos de máquinas disponíveis e o suporte a GPU.
Tipos de máquina disponíveis
O GDC define tipos de máquinas com alguns parâmetros
para um nó de cluster do Kubernetes, que incluem CPU, memória e GPU.
O GDC tem vários tipos de máquinas para diferentes finalidades.
Por exemplo, os clusters usam n2-standard-4-gdc
para cargas de trabalho de contêiner de uso geral. Se você planeja executar notebooks de inteligência artificial (IA) e
machine learning (ML), provisione máquinas com GPU, como
a2-highgpu-1g-gdc
.
A seguir, há uma lista de todos os tipos de máquina predefinidos do GDC disponíveis para nós de trabalho do cluster do Kubernetes:
Nome | vCPUs | Memória | GPU |
---|---|---|---|
n2-standard-4-gdc | 4 | 16 G | N/A |
n2-standard-8-gdc | 8 | 32G | N/A |
n2-standard-16-gdc | 16 | 64G | N/A |
n2-standard-32-gdc | 32 | 128G | N/A |
n2-highmem-4-gdc | 4 | 32G | N/A |
n2-highmem-8-gdc | 8 | 64G | N/A |
n2-highmem-16-gdc | 16 | 128G | N/A |
n2-highmem-32-gdc | 32 | 256G | N/A |
a2-highgpu-1g-gdc | 12 | 85G | 1x A100 40GB |
a2-ultragpu-1g-gdc | 12 | 170G | 1x A100 80GB |
a2-ultragpu-2g-gdc | 24 | 340G | 2x A100 80GB |
a3-highgpu-1g-gdc | 28 | 240G | 1x H100 94GB |
a3-highgpu-2g-gdc | 56 | 480G | 2x H100 94GB |
a3-highgpu-4g-gdc | 112 | 960G | 4x H100 94GB |
Perfis de MIG compatíveis
Esta seção define os esquemas de particionamento compatíveis de perfis de MIG em GPUs compatíveis. É possível definir um esquema de particionamento para um pool de nós no recurso personalizado Cluster
.
Para mais informações sobre como aplicar um esquema de particionamento de GPU, consulte Adicionar um pool de nós.
GPU A100 de 40 GB
A tabela a seguir define os perfis de MIG compatíveis com a GPU NVIDIA A100 de 40 GB:
Esquema de particionamento | Partições disponíveis |
---|---|
1g.5gb | 7x 1g.5gb |
2g.10gb | 3x 2g.10gb |
3g.20gb | 2x 3g.20gb |
7g.40gb | 1x 7g.40gb |
mixed-1 | 1x 4g.20gb 1x 2g.10gb 1x 1g.5gb |
mixed-2 | 1x 4g.20gb 3x 1g.5gb |
mixed-3 | 1x 3g.20gb 2x 2g.10gb |
mixed-4 | 1x 3g.20gb 1x 2g.10gb 2x 1g.5gb |
mixed-5 | 1x 3g.20gb 4x 1g.5gb |
mixed-6 | 3x 2g.10gb 1x 1g.5b |
mixed-7 | 2x 2g.10gb 3x 1g.5b |
mixed-8 | 1x 2g.10gb 5x 1g.5gb |
GPU A100 de 80 GB
A tabela a seguir define os perfis de MIG compatíveis com a GPU NVIDIA A100 de 80 GB:
Esquema de particionamento | Partições disponíveis |
---|---|
1g.10gb | 7x 1g.10gb |
2g.20gb | 3x 2g.20gb |
3g.40gb | 2x 3g.40gb |
7g.80gb | 1x 7g.80gb |
mixed-1 | 1x 4g.40gb 1x 2g.20gb 1x 1g.10gb |
mixed-2 | 1x 4g.40gb 3x 1g.10gb |
mixed-3 | 1x 3g.40gb 2x 2g.20gb |
mixed-4 | 1x 3g.40gb 1x 2g.20gb 2x 1g.10gb |
mixed-5 | 1x 3g.40gb 4x 1g.10gb |
mixed-6 | 3x 2g.20gb 1x 1g.10gb |
mixed-7 | 2x 2g.20gb 3x 1g.10gb |
mixed-8 | 1x 2g.20gb 5x 1g.10gb |
GPU H100 de 94 GB
A tabela a seguir define os perfis de MIG compatíveis com a GPU NVIDIA H100 de 94 GB:
Esquema de particionamento | Partições disponíveis |
---|---|
1g.12gb | 7x 1g.12gb |
1g.24gb | 7x 1g.24gb |
2g.24gb | 3x 2g.24gb |
3g.47gb | 2x 3g.47gb |
4g.47gb | 1x 4g.47gb |
7g.94gb | 1x 7g.94gb |
mixed-1 | 1x 4g.47gb 1x 3g.47gb |
mixed-2 | 1x 4g.47gb 1x 2g.24gb 1x 1g.12gb |
mixed-3 | 1x 4g.47gb 3x 1g.12gb |
mixed-4 | 1x 3g.47gb 2x 2g.24gb |
mixed-5 | 1x 3g.47gb 1x 2g.24gb 2x 1g.12gb |
mixed-6 | 1x 3g.47gb 4x 1g.12gb |
mixed-7 | 3x 2g.24gb 1x 1g.12gb |
mixed-8 | 2x 2g.24gb 3x 1g.12gb |
mixed-9 | 1x 2g.24gb 5x 1g.12gb |