Cuando creas un clúster de Kubernetes en Google Distributed Cloud (GDC) air-gapped, creas grupos de nodos que se encargan de ejecutar tus cargas de trabajo de contenedores en el clúster. Puedes aprovisionar nodos en función de los requisitos de tu carga de trabajo de contenedores y actualizarlos a medida que evolucionen tus requisitos.
GDC proporciona tipos de máquinas predefinidos para los nodos de trabajo, que se pueden seleccionar al añadir un grupo de nodos. También hay varias formas de particionar instancias de GPU independientes mediante la función de GPU multiinstancia (MIG).
Consulta las siguientes secciones para ver los tipos de máquinas disponibles y la compatibilidad con GPUs.
Tipos de máquinas disponibles
GDC define los tipos de máquinas con algunos parámetros para un nodo de clúster de Kubernetes, como la CPU, la memoria y la GPU.
GDC tiene varios tipos de máquinas para diferentes fines.
Por ejemplo, los clústeres usan n2-standard-4-gdc
para cargas de trabajo de contenedores de uso general. Si tienes previsto ejecutar notebooks de inteligencia artificial (IA) y aprendizaje automático (ML), debes aprovisionar máquinas con GPU, como a2-highgpu-1g-gdc
.
A continuación, se muestra una lista de todos los tipos de máquinas predefinidos de GDC disponibles para los nodos de trabajador de clústeres de Kubernetes:
Nombre | vCPUs | Memoria | GPU |
---|---|---|---|
n2-standard-4-gdc | 4 | 16G | N/A |
n2-standard-8-gdc | 8 | 32G | N/A |
n2-standard-16-gdc | 16 | 64 G | N/A |
n2-standard-32-gdc | 32 | 128G | N/A |
n2-highmem-4-gdc | 4 | 32G | N/A |
n2-highmem-8-gdc | 8 | 64 G | N/A |
n2-highmem-16-gdc | 16 | 128G | N/A |
n2-highmem-32-gdc | 32 | 256 G | N/A |
a2-highgpu-1g-gdc | 12 | 85G | 1x A100 40 GB |
a2-ultragpu-1g-gdc | 12 | 170G | 1 A100 de 80 GB |
a2-ultragpu-2g-gdc | 24 | 340G | 2x A100 80 GB |
a3-highgpu-1g-gdc | 28 | 240G | 1x H100 94 GB |
a3-highgpu-2g-gdc | 56 | 480G | 2x H100 94 GB |
a3-highgpu-4g-gdc | 112 | 960G | 4x H100 94 GB |
Perfiles de MIG admitidos
En esta sección se definen los esquemas de partición admitidos de los perfiles de MIG en las GPUs compatibles. Puedes definir un esquema de partición para un grupo de nodos en tu recurso personalizado Cluster
.
Para obtener más información sobre cómo aplicar un esquema de partición de GPU, consulta Añadir un grupo de nodos.
GPU A100 de 40 GB
En la siguiente tabla se definen los perfiles de MIG admitidos en la GPU NVIDIA A100 de 40 GB:
Esquema de partición | Particiones disponibles |
---|---|
1g.5gb | 7x 1g.5gb |
2g.10gb | 3x 2g.10gb |
3g.20gb | 2x 3g.20gb |
7g.40gb | 1x 7g.40gb |
mixed-1 | 1x 4g.20gb 1x 2g.10gb 1x 1g.5gb |
mixed-2 | 1x 4g.20gb 3x 1g.5gb |
mixed-3 | 1x 3G.20 GB 2x 2G.10 GB |
mixed-4 | 1x 3g.20gb 1x 2g.10gb 2x 1g.5gb |
mixed-5 | 1x 3g.20gb 4x 1g.5gb |
mixed-6 | 3x 2g.10gb 1x 1g.5b |
mixed-7 | 2x 2g.10gb 3x 1g.5b |
mixed-8 | 1x 2g.10gb 5x 1g.5gb |
GPU A100 80 GB
En la siguiente tabla se definen los perfiles de MIG admitidos en la GPU NVIDIA A100 de 80 GB:
Esquema de partición | Particiones disponibles |
---|---|
1g.10gb | 7x 1g.10gb |
2g.20gb | 3x 2g.20gb |
3g.40gb | 2x 3g.40gb |
7g.80gb | 1x 7g.80gb |
mixed-1 | 1x 4G.40 GB 1x 2G.20 GB 1x 1G.10 GB |
mixed-2 | 1x 4g.40gb 3x 1g.10gb |
mixed-3 | 1x 3g.40gb 2x 2g.20gb |
mixed-4 | 1x 3g.40gb 1x 2g.20gb 2x 1g.10gb |
mixed-5 | 1x 3g.40gb 4x 1g.10gb |
mixed-6 | 3x 2g.20gb 1x 1g.10gb |
mixed-7 | 2x 2g.20gb 3x 1g.10gb |
mixed-8 | 1x 2g.20gb 5x 1g.10gb |
GPU H100 de 94 GB
En la siguiente tabla se definen los perfiles de MIG admitidos en la GPU NVIDIA H100 de 94 GB:
Esquema de partición | Particiones disponibles |
---|---|
1g.12gb | 7x 1g.12gb |
1g.24gb | 7x 1g.24gb |
2g.24gb | 3x 2g.24gb |
3g.47gb | 2x 3g.47gb |
4 g.47 GB | 1x 4g.47gb |
7g.94gb | 1x 7g.94gb |
mixed-1 | 1x 4g.47gb 1x 3g.47gb |
mixed-2 | 1x 4g.47gb 1x 2g.24gb 1x 1g.12gb |
mixed-3 | 1x 4g.47gb 3x 1g.12gb |
mixed-4 | 1x 3g.47gb 2x 2g.24gb |
mixed-5 | 1x 3g.47gb 1x 2g.24gb 2x 1g.12gb |
mixed-6 | 1x 3g.47gb 4x 1g.12gb |
mixed-7 | 3x 2g.24gb 1x 1g.12gb |
mixed-8 | 2x 2g.24gb 3x 1g.12gb |
mixed-9 | 1x 2g.24gb 5x 1g.12gb |