Crear una máquina virtual A3, A2 o G2

Organízate con las colecciones Guarda y clasifica el contenido según tus preferencias.

Consola

1. En la consola de Google Cloud, vaya a la página Crear una instancia .

   Ir a Crear una instancia

2. Especifique un nombre para su VM. Consulte Convención de nomenclatura de recursos .

3. Seleccione una región y zona donde las GPU estén disponibles. Consulte la lista de regiones y zonas de GPU disponibles.

4. En la sección Configuración de la máquina , seleccione la familia de máquinas GPU .

   1. Complete uno de los siguientes pasos para seleccionar un tipo de máquina predefinido o personalizado según la serie de la máquina:

      • Para todas las series de máquinas GPU, puede seleccionar un tipo de máquina predefinido de la siguiente manera:

        1. En la lista de tipos de GPU , seleccione su tipo de GPU.

           • Para máquinas virtuales optimizadas para acelerador A3 High, A3 Mega o A3 Edge, seleccione NVIDIA H100 80GB o NVIDIA H100 80GB MEGA .
           • Para máquinas virtuales optimizadas para acelerador A2, seleccione NVIDIA A100 40GB o NVIDIA A100 80GB .
           • Para máquinas virtuales optimizadas para acelerador G2, seleccione NVIDIA L4 .

        2. En la lista Número de GPU , seleccione la cantidad de GPU.

      • Para la serie de máquinas G2, puede seleccionar un tipo de máquina personalizado de la siguiente manera:

        1. En la lista de tipos de GPU , seleccione NVIDIA L4 .
        2. En la sección Tipo de máquina , seleccione Personalizado .
        3. Para especificar la cantidad de vCPU y la cantidad de memoria para la instancia, arrastre los controles deslizantes o ingrese los valores en los cuadros de texto. La consola muestra un costo estimado para la instancia a medida que cambia la cantidad de vCPU y memoria.

   2. Opcional: la serie de máquinas G2 admite estaciones de trabajo virtuales NVIDIA RTX (vWS) para cargas de trabajo de gráficos . Si planea ejecutar cargas de trabajo con uso intensivo de gráficos en su máquina virtual G2, seleccione Habilitar estación de trabajo virtual (NVIDIA GRID) .

5. En la sección Disco de arranque , haga clic en Cambiar . Esto abre la página de configuración del disco de arranque .

6. En la página de configuración del disco de arranque , haga lo siguiente:

   1. En la pestaña Imágenes públicas , elija una imagen de Compute Engine compatible o Imágenes de VM de aprendizaje profundo .
   2. Especifique un tamaño de disco de arranque de al menos 40 GB.
   3. Para confirmar las opciones de su disco de arranque, haga clic en Seleccionar .

7. Opcional: Configure el modelo de aprovisionamiento. Por ejemplo, si su carga de trabajo es tolerante a fallas y puede soportar una posible apropiación de VM, considere usar Spot VM para reducir el costo de sus VM y las GPU conectadas. Para obtener más información, consulte GPU en máquinas virtuales puntuales . Para hacer esto, complete los siguientes pasos:

   1. En la sección Políticas de disponibilidad , seleccione Spot en la lista de modelos de aprovisionamiento de VM . Esta configuración deshabilita las opciones de reinicio automático y mantenimiento del host para la VM.
   2. Opcional: en la lista Al finalizar la VM , selecciona qué sucede cuando Compute Engine se adelanta a la VM:
      • Para detener la máquina virtual durante la preferencia, seleccione Detener (predeterminado).
      • Para eliminar la VM durante la preferencia, seleccione Eliminar .

8. Para crear e iniciar la VM, haga clic en Crear .

nube de gcloud

Para crear e iniciar una VM, use el comando gcloud compute instances create con las siguientes marcas. Las máquinas virtuales con GPU no pueden migrar en vivo; asegúrese de configurar el indicador --maintenance-policy=TERMINATE .

Los siguientes indicadores opcionales se muestran en el comando de ejemplo:

• El indicador --provisioning-model=SPOT que configura sus máquinas virtuales como máquinas virtuales puntuales. Si su carga de trabajo es tolerante a fallas y puede soportar una posible apropiación de VM, considere usar Spot VM para reducir el costo de sus VM y las GPU conectadas. Para obtener más información, consulte GPU en máquinas virtuales puntuales . Para las máquinas virtuales puntuales, los indicadores de opciones de reinicio automático y mantenimiento del host están deshabilitados.
• El indicador --accelerator para especificar una estación de trabajo virtual. Las estaciones de trabajo virtuales NVIDIA RTX (vWS) solo son compatibles con máquinas virtuales G2.

  gcloud compute instances create VM_NAME \
      --machine-type=MACHINE_TYPE \
      --zone=ZONE \
      --boot-disk-size=DISK_SIZE \
      --image=IMAGE \
      --image-project=IMAGE_PROJECT \
      --maintenance-policy=TERMINATE \
      [--provisioning-model=SPOT] \
      [--accelerator=type=nvidia-l4-vws,count=VWS_ACCELERATOR_COUNT]
  

• VM_NAME : el nombre de la nueva VM.
• MACHINE_TYPE : el tipo de máquina que seleccionó. Elija entre uno de los siguientes:
  • Una máquina tipo A3 .
  • Una máquina tipo A2 .
  • Una máquina tipo G2 . Los tipos de máquinas G2 también admiten memoria personalizada. La memoria debe ser múltiplo de 1024 MB y estar dentro del rango de memoria admitido. Por ejemplo, para crear una máquina virtual con 4 vCPU y 19 GB de memoria, especifique --machine-type=g2-custom-4-19456 .
• ZONE : la zona para la VM. Esta zona debe ser compatible con el modelo de GPU seleccionado .
• DISK_SIZE : el tamaño de su disco de arranque en GB. Especifique un tamaño de disco de arranque de al menos 40 GB.
• IMAGE : una imagen del sistema operativo compatible con GPU . Si desea utilizar la imagen más reciente en una familia de imágenes , reemplace la marca --image con la marca --image-family y establezca su valor en una familia de imágenes que admita GPU. Por ejemplo: --image-family=rocky-linux-8-optimized-gcp .
  También puede especificar una imagen personalizada o imágenes de VM de aprendizaje profundo .
• IMAGE_PROJECT : el proyecto de imagen de Compute Engine al que pertenece la imagen del sistema operativo. Si utiliza una imagen personalizada o imágenes de VM de aprendizaje profundo, especifique el proyecto al que pertenecen esas imágenes.
• VWS_ACCELERATOR_COUNT : la cantidad de GPU virtuales que necesitas.

DESCANSAR

Envíe una solicitud POST al método instances.insert . Las máquinas virtuales con GPU no pueden migrar en vivo; asegúrese de configurar el parámetro onHostMaintenance en TERMINATE .

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instances
{
"machineType": "projects/PROJECT_ID/zones/ZONE/machineTypes/MACHINE_TYPE",
"disks":
[
  {
    "type": "PERSISTENT",
    "initializeParams":
    {
      "diskSizeGb": "DISK_SIZE",
      "sourceImage": "SOURCE_IMAGE_URI"
    },
    "boot": true
  }
],
"name": "VM_NAME",
"networkInterfaces":
[
  {
    "network": "projects/PROJECT_ID/global/networks/NETWORK"
  }
],
"scheduling":
{
  "onHostMaintenance": "terminate",
  ["automaticRestart": true]
},
}

• VM_NAME : el nombre de la nueva VM.
• PROJECT_ID : su ID de proyecto.
• ZONE : la zona para la VM. Esta zona debe ser compatible con el modelo de GPU seleccionado .
• MACHINE_TYPE : el tipo de máquina que seleccionó. Elija entre uno de los siguientes:
  • Una máquina tipo A3 .
  • Una máquina tipo A2 .
  • Una máquina tipo G2 . Los tipos de máquinas G2 también admiten memoria personalizada. La memoria debe ser múltiplo de 1024 MB y estar dentro del rango de memoria admitido. Por ejemplo, para crear una máquina virtual con 4 vCPU y 19 GB de memoria, especifique --machine-type=g2-custom-4-19456 .
  SOURCE_IMAGE_URI : el URI de la imagen o familia de imágenes específica que desea utilizar. Por ejemplo:
  • Imagen específica: "sourceImage": "projects/rocky-linux-cloud/global/images/rocky-linux-8-optimized-gcp-v20220719"
  • Familia de imágenes: "sourceImage": "projects/rocky-linux-cloud/global/images/family/rocky-linux-8-optimized-gcp"
  Cuando especificas una familia de imágenes, Compute Engine crea una VM a partir de la imagen del sistema operativo más reciente y no obsoleta de esa familia. Para obtener más información sobre cuándo utilizar familias de imágenes, consulte Prácticas recomendadas para familias de imágenes.
• DISK_SIZE : el tamaño de su disco de arranque en GB. Especifique un tamaño de disco de arranque de al menos 40 GB.
• NETWORK : la red VPC que desea utilizar para la VM. Puede especificar "predeterminado" para usar su red predeterminada.

• Si su carga de trabajo es tolerante a fallas y puede soportar una posible apropiación de VM, considere usar VM puntuales para reducir el costo de sus VM y las GPU conectadas. Para obtener más información, consulte GPU en máquinas virtuales puntuales . Para especificar máquinas virtuales puntuales, agregue la opción "provisioningModel": "SPOT" a su solicitud. Para las máquinas virtuales puntuales, los indicadores de opciones de reinicio automático y mantenimiento del host están deshabilitados.

  "scheduling":
    {
      "provisioningModel": "SPOT"
    }
  

• Para las máquinas virtuales G2, se admiten las estaciones de trabajo virtuales NVIDIA RTX (vWS). Para especificar una estación de trabajo virtual, agregue la opción `guestAccelerators` a su solicitud. Reemplace VWS_ACCELERATOR_COUNT con la cantidad de GPU virtuales que necesita.

  "guestAccelerators":
    [
      {
        "acceleratorCount": VWS_ACCELERATOR_COUNT,
        "acceleratorType": "projects/PROJECT_ID/zones/ZONEacceleratorTypes/nvidia-l4-vws"
      }
    ]
  

COS (A3 borde/alto)

Puede crear máquinas virtuales a3-edgegpu-8g o a3-highgpu-8g que tengan GPU H100 conectadas mediante imágenes optimizadas para contenedores (COS) .

Para obtener instrucciones detalladas sobre cómo crear estas máquinas virtuales a3-edgegpu-8g o a3-highgpu-8g que usan sistema operativo optimizado para contenedores, consulte Crear una máquina virtual A3 con GPUDirect-TCPX habilitado .

Imagen pública del sistema operativo (G2)

Puedes crear máquinas virtuales que tengan GPU conectadas que utilicen una imagen pública que esté disponible en Compute Engine o una imagen personalizada .

Para crear una máquina virtual utilizando la imagen más reciente y no obsoleta de Rocky Linux 8 optimizada para Google Cloud familia de imágenes que utiliza el tipo de máquina g2-standard-8 y tiene una estación de trabajo virtual NVIDIA RTX, complete los siguientes pasos:

1. Cree la máquina virtual. En este ejemplo, también se especifican indicadores opcionales como el tipo y tamaño del disco de arranque.

   gcloud compute instances create VM_NAME \
       --project=PROJECT_ID \
       --zone=ZONE \
       --machine-type=g2-standard-8  \
       --maintenance-policy=TERMINATE --restart-on-failure \
       --network-interface=nic-type=GVNIC \
       --accelerator=type=nvidia-l4-vws,count=1 \
       --image-family=rocky-linux-8-optimized-gcp \
       --image-project=rocky-linux-cloud \
       --boot-disk-size=200GB \
       --boot-disk-type=pd-ssd
   

   Reemplace lo siguiente:

   • VM_NAME : el nombre de tu VM
   • PROJECT_ID : su ID de proyecto.
   • ZONE : la zona para la VM.

2. Instale el controlador NVIDIA y CUDA . Para las GPU NVIDIA L4, se requiere CUDA versión XX o superior.

Imagen DLVM (A2)

Usar imágenes DLVM es la forma más sencilla de comenzar porque estas imágenes ya tienen los controladores NVIDIA y las bibliotecas CUDA preinstalados.

Estas imágenes también proporcionan optimizaciones de rendimiento.

Las siguientes imágenes DLVM son compatibles con NVIDIA A100:

• common-cu110 : controlador NVIDIA y CUDA preinstalados
• tf-ent-1-15-cu110 : controlador NVIDIA, CUDA, TensorFlow Enterprise 1.15.3 preinstalado
• tf2-ent-2-1-cu110 : controlador NVIDIA, CUDA, TensorFlow Enterprise 2.1.1 preinstalado
• tf2-ent-2-3-cu110 : controlador NVIDIA, CUDA, TensorFlow Enterprise 2.3.1 preinstalado
• pytorch-1-6-cu110 : controlador NVIDIA, CUDA, Pytorch 1.6

Para obtener más información sobre las imágenes DLVM que están disponibles y los paquetes instalados en las imágenes, consulte la documentación de Deep Learning VM .

1. Cree una máquina virtual utilizando la imagen tf2-ent-2-3-cu110 y el tipo de máquina a2-highgpu-1g . En este ejemplo, se especifican indicadores opcionales como el tamaño y el alcance del disco de arranque.

   gcloud compute instances create VM_NAME \
      --project PROJECT_ID \
      --zone ZONE \
      --machine-type a2-highgpu-1g \
      --maintenance-policy TERMINATE \
      --image-family tf2-ent-2-3-cu110 \
      --image-project deeplearning-platform-release \
      --boot-disk-size 200GB \
      --metadata "install-nvidia-driver=True,proxy-mode=project_editors" \
      --scopes https://www.googleapis.com/auth/cloud-platform
   

   Reemplace lo siguiente:

   • VM_NAME : el nombre de tu VM
   • PROJECT_ID : su ID de proyecto.
   • ZONE : la zona para la VM

2. El comando de ejemplo anterior también genera una instancia de notebooks administrada por el usuario de Vertex AI Workbench para la VM. Para acceder al cuaderno, en la consola de Google Cloud, vaya a la página Vertex AI Workbench > Cuadernos administrados por el usuario .

   Vaya a la página Cuadernos administrados por usuarios