Crear máquinas virtuales con GPU en bloque

gcloud

Para crear un grupo de VMs, usa el gcloud compute instances bulk create comando. Para obtener más información sobre los parámetros y cómo usar este comando, consulta Crear VMs en bloque.

En el comando de ejemplo se muestran las siguientes marcas opcionales:

• --provisioning-model=SPOT es una marca opcional que configura tus VMs como VMs esporádicas. Si tu carga de trabajo es tolerante a fallos y puede soportar posibles interrupciones de las máquinas virtuales, te recomendamos que uses máquinas virtuales de acceso puntual para reducir el coste de tus máquinas virtuales y las GPUs conectadas. Para obtener más información, consulta GPUs en VMs de acceso puntual. En las VMs de Spot, las opciones de reinicio automático y mantenimiento del host están inhabilitadas.

• La marca --accelerator para especificar una estación de trabajo virtual. Las estaciones de trabajo virtuales (vWS) NVIDIA RTX solo son compatibles con las máquinas virtuales G2.

Ejemplo

En este ejemplo se crean dos VMs con GPUs conectadas mediante las siguientes especificaciones:

• Nombres de las VMs: my-test-vm-1, my-test-vm-2
• Cada máquina virtual tiene dos GPUs conectadas, especificadas mediante el tipo de máquina optimizada para aceleradores adecuado.

gcloud compute instances bulk create \
    --name-pattern="my-test-vm-#" \
    --region=REGION \
    --count=2 \
    --machine-type=MACHINE_TYPE \
    --boot-disk-size=200 \
    --image=IMAGE \
    --image-project=IMAGE_PROJECT \
    --on-host-maintenance=TERMINATE \
    [--provisioning-model=SPOT] \
    [--accelerator=type=nvidia-l4-vws,count=VWS_ACCELERATOR_COUNT]

Haz los cambios siguientes:

• REGION: la región de las VMs. Esta región debe ser compatible con el modelo de GPU seleccionado.

• MACHINE_TYPE: el tipo de máquina que has seleccionado. Elige una de estas opciones:

  • Un tipo de máquina A3.
  • Un tipo de máquina A2.
  • Un tipo de máquina G2. Los tipos de máquinas G2 también admiten memoria personalizada. La memoria debe ser un múltiplo de 1024 MB y estar dentro del intervalo de memoria admitido. Por ejemplo, para crear una VM con 4 vCPUs y 19 GB de memoria, especifica --machine-type=g2-custom-4-19456.

• IMAGE: una imagen de sistema operativo que admita GPUs.

  Si quieres usar la imagen más reciente en una familia de imágenes, sustituye la marca --image por la marca --image-family y asigna a esta última el valor de una familia de imágenes que admita GPUs. Por ejemplo: --image-family=rocky-linux-8-optimized-gcp.

  También puedes especificar una imagen personalizada o imágenes de máquina virtual de aprendizaje profundo.

• IMAGE_PROJECT: el proyecto de imagen de Compute Engine al que pertenece la imagen del SO. Si usas una imagen personalizada o una imagen de máquina virtual de aprendizaje profundo, especifica el proyecto al que pertenecen esas imágenes.

• VWS_ACCELERATOR_COUNT: el número de GPUs virtuales que necesitas.

Si la acción se realiza correctamente, el resultado será similar al siguiente:

NAME          ZONE
my-test-vm-1  us-central1-b
my-test-vm-2  us-central1-b
Bulk create request finished with status message: [VM instances created: 2, failed: 0.]

REST

Usa el método instances.bulkInsert con los parámetros obligatorios para crear varias VMs en una zona. Para obtener más información sobre los parámetros y cómo usar este comando, consulta Crear VMs en bloque.

Ejemplo

En este ejemplo se crean dos VMs con GPUs conectadas mediante las siguientes especificaciones:

• Nombres de las VMs: my-test-vm-1, my-test-vm-2

• Cada máquina virtual tiene dos GPUs conectadas, especificadas mediante el tipo de máquina optimizada para aceleradores adecuado.

  POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/REGION/instances/bulkInsert
  {
  "namePattern":"my-test-vm-#",
  "count":"2",
  "instanceProperties": {
    "machineType":MACHINE_TYPE,
    "disks":[
      {
        "type":"PERSISTENT",
        "initializeParams":{
          "diskSizeGb":"200",
          "sourceImage":SOURCE_IMAGE_URI
        },
        "boot":true
      }
    ],
    "name": "default",
    "networkInterfaces":
    [
      {
        "network": "projects/PROJECT_ID/global/networks/default"
      }
    ],
    "scheduling":{
      "onHostMaintenance":"TERMINATE",
      ["automaticRestart":true]
    }
  }
  }
  

Haz los cambios siguientes:

• PROJECT_ID: tu ID de proyecto
• REGION: la región de las VMs. Esta región debe ser compatible con el modelo de GPU seleccionado.

• MACHINE_TYPE: el tipo de máquina que has seleccionado. Elige una de estas opciones:

  • Un tipo de máquina A2.
  • Un tipo de máquina G2. Los tipos de máquinas G2 también admiten memoria personalizada. La memoria debe ser un múltiplo de 1024 MB y estar dentro del intervalo de memoria admitido. Por ejemplo, para crear una VM con 4 vCPUs y 19 GB de memoria, especifica --machine-type=g2-custom-4-19456.

• SOURCE_IMAGE_URI: el URI de la imagen o familia de imágenes específica que quieras usar.

  Por ejemplo:

  • Imagen específica: "sourceImage": "projects/rocky-linux-cloud/global/images/rocky-linux-8-optimized-gcp-v20220719"
  • Familia de imágenes: "sourceImage": "projects/rocky-linux-cloud/global/images/family/rocky-linux-8-optimized-gcp".

  Cuando especificas una familia de imágenes, Compute Engine crea una VM a partir de la imagen de SO más reciente y no obsoleta de esa familia. Para obtener más información sobre cuándo usar familias de imágenes, consulta las prácticas recomendadas para familias de imágenes.

Configuración adicional:

• Si tu carga de trabajo es tolerante a fallos y puede soportar posibles interrupciones de las máquinas virtuales, te recomendamos que uses máquinas virtuales de acceso puntual para reducir el coste de tus máquinas virtuales y las GPUs conectadas. Para obtener más información, consulta GPUs en VMs de acceso puntual. Para usar una VM de acceso puntual, añade la opción "provisioningModel": "SPOT a tu solicitud. En las VMs de acceso puntual, las marcas de las opciones de reinicio automático y mantenimiento del host están inhabilitadas.

  "scheduling":
    {
      "provisioningModel": "SPOT"
    }
  

• En las máquinas virtuales G2, se admiten las estaciones de trabajo virtuales (vWS) NVIDIA RTX. Para especificar una estación de trabajo virtual, añade la opción guestAccelerators a tu solicitud. Sustituye VWS_ACCELERATOR_COUNT por el número de GPUs virtuales que necesites.

  "guestAccelerators":
   [
     {
       "acceleratorCount": VWS_ACCELERATOR_COUNT,
       "acceleratorType": "projects/PROJECT_ID/zones/ZONEacceleratorTypes/nvidia-l4-vws"
     }
   ]
  

gcloud

Para crear un grupo de VMs, usa el gcloud compute instances bulk create comando. Para obtener más información sobre los parámetros y cómo usar este comando, consulta Crear VMs en bloque.

Ejemplo

En el siguiente ejemplo se crean dos máquinas virtuales con GPUs conectadas que tienen las siguientes especificaciones:

• Nombres de las VMs: my-test-vm-1, my-test-vm-2
• Máquinas virtuales creadas en cualquier zona de us-central1 que admita GPUs
• Cada máquina virtual tiene dos GPUs T4 conectadas, especificadas mediante las marcas de tipo de acelerador y número de aceleradores.
• Cada VM tiene instalados los controladores de GPU
• Cada máquina virtual usa la imagen de máquina virtual de aprendizaje profundo pytorch-latest-gpu-v20211028-debian-10

gcloud compute instances bulk create \
    --name-pattern="my-test-vm-#" \
    --count=2 \
    --region=us-central1 \
    --machine-type=n1-standard-2 \
    --accelerator type=nvidia-tesla-t4,count=2 \
    --boot-disk-size=200 \
    --metadata="install-nvidia-driver=True" \
    --scopes="https://www.googleapis.com/auth/cloud-platform" \
    --image=pytorch-latest-gpu-v20211028-debian-10 \
    --image-project=deeplearning-platform-release \
    --on-host-maintenance=TERMINATE --restart-on-failure

Si la acción se realiza correctamente, el resultado será similar al siguiente:

NAME          ZONE
my-test-vm-1  us-central1-b
my-test-vm-2  us-central1-b
Bulk create request finished with status message: [VM instances created: 2, failed: 0.]

REST

Usa el método instances.bulkInsert con los parámetros obligatorios para crear varias VMs en una zona. Para obtener más información sobre los parámetros y cómo usar este comando, consulta Crear VMs en bloque.

Ejemplo

En el siguiente ejemplo se crean dos máquinas virtuales con GPUs conectadas que tienen las siguientes especificaciones:

• Nombres de las VMs: my-test-vm-1, my-test-vm-2
• Máquinas virtuales creadas en cualquier zona de us-central1 que admita GPUs
• Cada máquina virtual tiene dos GPUs T4 conectadas, especificadas mediante las marcas de tipo de acelerador y número de aceleradores.
• Cada VM tiene instalados los controladores de GPU
• Cada máquina virtual usa la imagen de máquina virtual de aprendizaje profundo pytorch-latest-gpu-v20211028-debian-10

Sustituye PROJECT_ID por el ID del proyecto.

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/regions/us-central1/instances/bulkInsert

{
    "namePattern":"my-test-vm-#",
    "count":"2",
    "instanceProperties": {
      "machineType":"n1-standard-2",
      "disks":[
        {
          "type":"PERSISTENT",
          "initializeParams":{
            "diskSizeGb":"200",
            "sourceImage":"projects/deeplearning-platform-release/global/images/pytorch-latest-gpu-v20211028-debian-10"
          },
          "boot":true
        }
      ],
      "name": "default",
      "networkInterfaces":
      [
        {
          "network": "projects/PROJECT_ID/global/networks/default"
        }
      ],
      "guestAccelerators":
      [
        {
          "acceleratorCount": 2,
          "acceleratorType": "nvidia-tesla-t4"
        }
      ],
      "scheduling":{
        "onHostMaintenance":"TERMINATE",
        "automaticRestart":true
      },
      "metadata":{
        "items":[
          {
            "key":"install-nvidia-driver",
            "value":"True"
          }
        ]
      }
  }
 }