Cuando creas un clúster de Kubernetes en Google Distributed Cloud (GDC) aislado, creas grupos de nodos que son responsables de ejecutar tus cargas de trabajo de contenedores en el clúster. Aprovisionas nodos según los requisitos de tu carga de trabajo de contenedores y puedes actualizarlos a medida que evolucionan tus requisitos.
GDC proporciona tipos de máquinas predefinidos para tus nodos trabajadores que se pueden seleccionar cuando agregas un grupo de nodos. También hay varias formas de particionar instancias de GPU separadas con la función de GPU de varias instancias (MIG).
Consulta las siguientes secciones para obtener información sobre los tipos de máquinas disponibles y la compatibilidad con GPU.
Tipos de máquinas disponibles
GDC define tipos de máquinas con algunos parámetros para un nodo de clúster de Kubernetes, que incluyen CPU, memoria y GPU.
GDC tiene varios tipos de máquinas para diferentes propósitos.
Por ejemplo, los clústeres usan n2-standard-4-gdc para cargas de trabajo de contenedores de uso general. Si planeas ejecutar notebooks de inteligencia artificial (IA) y aprendizaje automático (AA), debes aprovisionar máquinas con GPU, como a2-highgpu-1g-gdc.
A continuación, se incluye una lista de todos los tipos de máquinas predefinidos de GDC disponibles para los nodos trabajadores del clúster de Kubernetes:
| Nombre | CPU virtuales | Memoria | GPU |
|---|---|---|---|
| n2-standard-4-gdc | 4 | 16G | N/A |
| n2-standard-8-gdc | 8 | 32G | N/A |
| n2-standard-16-gdc | 16 | 64 G | N/A |
| n2-standard-32-gdc | 32 | 128 GB | N/A |
| n2-highmem-4-gdc | 4 | 32G | N/A |
| n2-highmem-8-gdc | 8 | 64 G | N/A |
| n2-highmem-16-gdc | 16 | 128 GB | N/A |
| n2-highmem-32-gdc | 32 | 256 G | N/A |
| a2-highgpu-1g-gdc | 12 | 85G | 1 GPU A100 de 40 GB |
| a2-ultragpu-1g-gdc | 12 | 170G | 1 GPU A100 de 80 GB |
| a2-ultragpu-2g-gdc | 24 | 340G | 2 A100 de 80 GB |
| a3-highgpu-1g-gdc | 28 | 240G | 1 GPU H100 de 94 GB |
| a3-highgpu-2g-gdc | 56 | 480 G | 2 H100 de 94 GB |
| a3-highgpu-4g-gdc | 112 | 960 G | 4 H100 de 94 GB |
Perfiles de MIG compatibles
En esta sección, se definen los esquemas de partición admitidos de los perfiles de MIG en las GPUs compatibles. Puedes definir un esquema de partición para un grupo de nodos en tu recurso personalizado Cluster.
Para obtener más información sobre cómo aplicar un esquema de partición de GPU, consulta Agrega un grupo de nodos.
GPU A100 de 40 GB
En la siguiente tabla, se definen los perfiles de MIG compatibles con la GPU NVIDIA A100 de 40 GB:
| Esquema de partición | Particiones disponibles |
|---|---|
| 1 GB y 5 GB | 7x 1g.5gb |
| 2g.10gb | 3x 2g.10gb |
| 3g.20gb | 2x 3g.20gb |
| 7g.40gb | 1x 7g.40gb |
| mixed-1 | 1x 4g.20gb 1x 2g.10gb 1x 1g.5gb |
| mixed-2 | 1x 4g.20gb 3x 1g.5gb |
| mixed-3 | 1x 3g.20gb 2x 2g.10gb |
| mixed-4 | 1x 3g.20gb 1x 2g.10gb 2x 1g.5gb |
| mixed-5 | 1x 3g.20gb 4x 1g.5gb |
| mixed-6 | 3x 2g.10gb 1x 1g.5b |
| mixed-7 | 2x 2g.10gb 3x 1g.5b |
| mixed-8 | 1x 2g.10gb 5x 1g.5gb |
GPU A100 de 80 GB
En la siguiente tabla, se definen los perfiles de MIG compatibles con la GPU NVIDIA A100 de 80 GB:
| Esquema de partición | Particiones disponibles |
|---|---|
| 1g.10gb | 7x 1g.10gb |
| 2g.20gb | 3x 2g.20gb |
| 3g.40gb | 2x 3G, 40 GB |
| 7g.80gb | 1x 7g.80gb |
| mixed-1 | 1x 4g.40gb 1x 2g.20gb 1x 1g.10gb |
| mixed-2 | 1x 4g.40gb 3x 1g.10gb |
| mixed-3 | 1x 3g.40gb 2x 2g.20gb |
| mixed-4 | 1x 3g.40gb 1x 2g.20gb 2x 1g.10gb |
| mixed-5 | 1x 3g.40gb 4x 1g.10gb |
| mixed-6 | 3x 2g.20gb 1x 1g.10gb |
| mixed-7 | 2x 2g.20gb 3x 1g.10gb |
| mixed-8 | 1x 2g.20gb 5x 1g.10gb |
GPU H100 de 94 GB
En la siguiente tabla, se definen los perfiles de MIG compatibles con la GPU NVIDIA H100 de 94 GB:
| Esquema de partición | Particiones disponibles |
|---|---|
| 1g.12gb | 7x 1g.12gb |
| 1g.24gb | 7x 1g.24gb |
| 2g.24gb | 3x 2g.24gb |
| 3g.47gb | 2x 3g.47gb |
| 4g.47gb | 1x 4g.47gb |
| 7g.94gb | 1 x 7g.94gb |
| mixed-1 | 1 x 4G, 47 GB 1 x 3G, 47 GB |
| mixed-2 | 1x 4g.47gb 1x 2g.24gb 1x 1g.12gb |
| mixed-3 | 1x 4g.47gb 3x 1g.12gb |
| mixed-4 | 1x 3g.47gb 2x 2g.24gb |
| mixed-5 | 1 x 3 g.47 GB 1 x 2 g.24 GB 2 x 1 g.12 GB |
| mixed-6 | 1x 3g.47gb 4x 1g.12gb |
| mixed-7 | 3x 2g.24gb 1x 1g.12gb |
| mixed-8 | 2x 2g.24gb 3x 1g.12gb |
| mixed-9 | 1x 2g.24gb 5x 1g.12gb |