GPUs disponibles

Las GPUs se usan para acelerar las cargas de trabajo, y Cloud Workstations admite la conexión de GPUs a las estaciones de trabajo. Cloud Workstations admite muchos de los diversos modelos de GPU que están disponibles para adjuntar a las VMs de Compute Engine. El modelo y la cantidad de GPUs que se adjuntarán a cada estación de trabajo se especifican en la configuración de la estación de trabajo. Cloud Workstations se encarga de conectar las GPUs y de instalar sus controladores de dispositivos.

Conectar GPUs a las estaciones de trabajo afectará los costos, como se describe en la descripción general de los precios de Cloud Workstations.

Limitaciones

La configuración de una estación de trabajo puede especificar GPUs, sujetas a las siguientes limitaciones:

  • Cloud Workstations solo admite GPUs para las configuraciones que especifican tipos de máquinas en la serie de máquinas N1, la serie de máquinas A2 o la serie de máquinas A3. Consulta los modelos de GPU compatibles para obtener más detalles.
  • La configuración debe especificar zonas de réplica en las que esté disponible el modelo de GPU elegido.
  • No es posible configurar estaciones de trabajo para que tengan más de un modelo de GPU conectado a la vez.
  • Las configuraciones que especifican tipos de máquinas A2 Ultra o la serie de máquinas A3 no deben especificar almacenamiento persistente. Considera usar una solución basada en NFS, como Filestore o Cloud Storage FUSE, si se requiere almacenamiento de archivos persistente. Ten en cuenta que los tipos de máquinas A2 estándar sí admiten el almacenamiento persistente. Para crear configuraciones sin almacenamiento persistente, usa el siguiente comando de la CLI de gcloud:

      gcloud workstations configs create CONFIG_NAME \
        --project=PROJECT_ID \
        --cluster=CLUSTER_NAME \
        --region=LOCATION \
        --machine-type=A2_MACHINE_TYPE \
        --no-persistent-storage
    

    Reemplaza lo siguiente:

    • PROJECT_ID: Es el ID del proyecto que contiene la configuración de la estación de trabajo.
    • LOCATION: Es la región del clúster de estaciones de trabajo.
    • CLUSTER_NAME: Es el nombre del clúster de estaciones de trabajo que contiene la configuración de la estación de trabajo.
    • CONFIG_NAME: Es el nombre de la configuración de la estación de trabajo.
    • A2_MACHINE_TYPE: Es el tipo de máquina A2.

Modelos de GPU compatibles

Cloud Workstations admite muchos de los modelos de GPU que Compute Engine pone a disposición. Los modelos compatibles dependen de la serie de máquinas elegida para la configuración de la estación de trabajo, como se resume en la siguiente tabla.

Serie de máquinas N1

La serie de máquinas de uso general N1 admite varios modelos de GPU, y las configuraciones de estaciones de trabajo que especifican cualquiera de los tipos de máquinas N1 también pueden especificar uno de los siguientes modelos de GPU. Para el modelo de GPU elegido, la configuración puede especificar un recuento de cuántas tarjetas de GPU se deben conectar a cada estación de trabajo.

Modelo de GPU Recuentos de GPU
NVIDIA T4 (nvidia-tesla-t4) 1, 2 o 4 GPUs
NVIDIA P4 (nvidia-tesla-p4) 1, 2 o 4 GPUs
NVIDIA V100 (nvidia-tesla-v100) 1, 2, 4 u 8 GPUs
NVIDIA P100 (nvidia-tesla-p100) 1, 2 o 4 GPUs

Serie de máquinas A2

La serie de máquinas optimizadas para aceleradores A2 estándar tiene una cantidad fija de GPUs NVIDIA A100 conectadas, según el tipo de máquina elegido.

En la siguiente tabla, se muestra la asignación del tipo de máquina a la cantidad de tarjetas que se adjuntarán.

Modelo de GPU Tipo de máquina Recuento de GPU
NVIDIA A100 40 GB (nvidia-tesla-a100) a2-highgpu-1g 1 GPU
a2-highgpu-2g 2 GPU
a2-highgpu-4g 4 GPU
a2-highgpu-8g 8 GPU
a2-megagpu-16g 16 GPU

Cloud Workstations no admite los tipos de máquinas A2 ultra.

Serie de máquinas A3

La serie de máquinas optimizadas para aceleradores A3 Mega y A3 High tiene una cantidad fija de GPUs NVIDIA H100 conectadas, según el tipo de máquina elegido.

En la siguiente tabla, se muestra la asignación del tipo de máquina a la cantidad de tarjetas que se adjuntarán.

Modelo de GPU Tipo de máquina Recuento de GPU
NVIDIA H100 de 80 GB (nvidia-tesla-h100) a3-highgpu-1g 1 GPU
a3-highgpu-2g 2 GPU
a3-highgpu-4g 4 GPU
a3-highgpu-8g 8 GPU
a3-megagpu-8g 8 GPU

Cómo agregar GPUs a una configuración de estación de trabajo existente

Para agregar GPUs a la configuración de una estación de trabajo, completa los pasos en una de las siguientes pestañas.

Antes de comenzar

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

    After installing the Google Cloud CLI, initialize it by running the following command:

    gcloud init

    If you're using an external identity provider (IdP), you must first sign in to the gcloud CLI with your federated identity.

    Revisa el resumen de los precios de Cloud Workstations para comprender cómo se verán afectados tus costos por la configuración de las GPUs. Ten en cuenta que las GPUs se adjuntan a las máquinas virtuales (VM) iniciadas previamente que se especifican en el Tamaño del grupo de inicio rápido de una configuración.

    Cómo actualizar tu configuración existente

    Console

    Para configurar GPUs en una configuración de estación de trabajo existente desde la consola deGoogle Cloud , haz lo siguiente:

    1. En la consola de Google Cloud , ve a la página Configuraciones de estaciones de trabajo.

      Ir a los parámetros de configuración de las estaciones de trabajo

    2. En la lista Configuraciones de la estación de trabajo, haz clic en el Nombre de la configuración a la que deseas agregar GPUs.

    3. En la página Detalles de configuración de la estación de trabajo, haz clic en Editar Editar.

    4. En la página Editar configuración de estación de trabajo, haz clic en Configuración de máquina en el menú de navegación.

    5. Haz clic en el botón de activación para seleccionar GPUs en lugar de la familia de máquinas de uso general.

      En el campo Tipo de GPU, selecciona el modelo de GPU que deseas usar.

      En el campo Cantidad de GPU, selecciona la cantidad de tarjetas de GPU que deseas adjuntar a cada estación de trabajo.

      En el campo Tipo de máquina, selecciona el tipo de máquina que deseas usar.

    6. Haz clic en Guardar para actualizar la configuración.

    gcloud

    Ejecuta el comando gcloud workstations configs update para configurar las GPUs en una configuración de estación de trabajo existente.

    Sin embargo, primero recopila información para ver qué modelos de GPU están disponibles y elegir uno para tu configuración:

    1. Para verificar qué zonas de réplica especifica la configuración, ejecuta el siguiente comando de la CLI de gcloud:

      gcloud workstations configs describe \
        --format="table(name.scope(workstationConfigs),replicaZones.list())" \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=CLUSTER_NAME \
        CONFIG_NAME
      

      Reemplaza lo siguiente:

      • PROJECT_ID: Es el ID del proyecto que contiene la configuración de la estación de trabajo.
      • LOCATION: Es la ubicación del clúster de la estación de trabajo.
      • CLUSTER_NAME: Es el nombre del clúster de estaciones de trabajo que contiene la configuración de la estación de trabajo.
      • CONFIG_NAME: Es el nombre de la configuración de la estación de trabajo.
    2. Ejecuta el comando gcloud compute accelerator-types list para elegir un modelo de GPU compatible que esté disponible en ambas zonas de réplica de la configuración:

      gcloud compute accelerator-types list \
        --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
        --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
        --project=PROJECT_ID
      

      Reemplaza ZONES por una lista separada por comas de las zonas de réplica determinadas en el paso anterior (por ejemplo, us-central1-a,us-central1-c).

      Elige un modelo de GPU que aparezca dos veces en la tabla, lo que indica que está disponible en ambas zonas de réplica.

      Toma nota de la cantidad máxima de tarjetas que puedes conectar para el modelo de GPU elegido.

    3. Determina cuáles de los tipos de máquinas admitidos están disponibles en ambas zonas de réplica de la configuración con el comando gcloud compute machine-types list.

      1. Si elegiste el modelo de GPU NVIDIA A100 de 40 GB en el paso anterior, tu configuración debe usar la serie de máquinas A2:

        gcloud compute machine-types list \
          --format="table(name,zone,guestCpus:sort=1)" \
          --filter="name:a2-highgpu- OR name:a2-megagpu-" \
          --zones=ZONES \
          --project=PROJECT_ID
        
      2. Si elegiste cualquier otro modelo de GPU en el paso anterior, tu configuración debe usar la serie de máquinas N1:

        gcloud compute machine-types list \
          --format="table(name,zone,guestCpus:sort=1)" \
          --filter="name:n1-standard-" \
          --zones=ZONES \
          --project=PROJECT_ID
        

      Elige un tipo de máquina que aparezca dos veces en la tabla, lo que indica que está disponible en ambas zonas de réplica.

    4. Ahora que seleccionaste un modelo de GPU y un tipo de máquina compatible, actualiza la configuración:

      1. Para las GPU NVIDIA A100 de 40 GB, ejecuta este comando para actualizar tu configuración:

        gcloud beta workstations configs update \
          --project=PROJECT_ID \
          --region=LOCATION \
          --cluster=CLUSTER_NAME \
          CONFIG_NAME \
          --machine-type=A2_MACHINE_TYPE
        

        Reemplaza A2_MACHINE_TYPE por el tipo de máquina A2 elegido que se determinó en el paso anterior (por ejemplo, a2-highgpu-1g).

      2. Para todos los demás modelos de GPU, ejecuta este comando:

        gcloud beta workstations configs update \
          --project=PROJECT_ID \
          --region=LOCATION \
          --cluster=CLUSTER_NAME \
          CONFIG_NAME \
          --machine-type=N1_MACHINE_TYPE \
          --accelerator-type=ACCELERATOR_TYPE \
          --accelerator-count=ACCELERATOR_COUNT
        

        Reemplaza lo siguiente:

        • N1_MACHINE_TYPE: Es el tipo de máquina elegido de la serie N1 (por ejemplo, n1-standard-2).
        • ACCELERATOR_TYPE: El nombre del modelo de GPU elegido (por ejemplo, nvidia-tesla-t4)
        • ACCELERATOR_COUNT: Es la cantidad de GPU que se conectarán a cada estación de trabajo (por ejemplo, 1, 2, 4). Debe ser una potencia de dos inferior al máximo para el modelo de GPU.

    Crea una nueva configuración de estación de trabajo con GPUs

    Para crear una nueva configuración de estación de trabajo que conecte GPUs a las estaciones de trabajo basadas en ella, completa los pasos en una de las siguientes pestañas.

    Antes de comenzar

    Select the tab for how you plan to use the samples on this page:

    Console

    When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

    gcloud

      After installing the Google Cloud CLI, initialize it by running the following command:

      gcloud init

      If you're using an external identity provider (IdP), you must first sign in to the gcloud CLI with your federated identity.

      REST

      Para usar las muestras de la API de REST en esta página en un entorno de desarrollo local, debes usar las credenciales que proporcionas a la CLI de gcloud.

        After installing the Google Cloud CLI, initialize it by running the following command:

        gcloud init

        If you're using an external identity provider (IdP), you must first sign in to the gcloud CLI with your federated identity.

      Si deseas obtener más información, consulta Autentica para usar REST en la Google Cloud documentación de autenticación.

      Elige un modelo de GPU y consulta la tabla de disponibilidad de GPU para seleccionar una región en la que el modelo de GPU elegido esté disponible en al menos dos zonas.

      Si aún no tienes un clúster en la región elegida en el que puedas crear una configuración nueva, sigue los pasos para crear un clúster de estación de trabajo en la región.

      Revisa el resumen de los precios de Cloud Workstations para comprender cómo se verán afectados tus costos por la configuración de las GPUs. Ten en cuenta que las GPUs se adjuntan a las máquinas virtuales (VM) iniciadas previamente que se especifican en el Tamaño del grupo de inicio rápido de una configuración.

      Cómo crear una configuración nueva

      Console

      Crea una nueva configuración de estación de trabajo con GPUs desde la consola deGoogle Cloud siguiendo estos pasos:

      1. En la consola de Google Cloud , ve a la página Configuraciones de estaciones de trabajo.

        Ir a los parámetros de configuración de las estaciones de trabajo

      2. En la página Configuraciones de la estación de trabajo, haz clic en add_box Crear.

      3. En el paso Información básica de la página Crear configuración de estación de trabajo, especifica un nombre para tu configuración en el campo Nombre.

        En el campo Clúster de estación de trabajo, selecciona un clúster en la región elegida.

        Haz clic en Continuar para avanzar al paso Configuración de la máquina.

      4. En el paso Configuración de la máquina de la página Crear configuración de estación de trabajo, haz clic en el botón de activación para seleccionar GPUs en lugar de la familia de máquinas Uso general.

        1. Luego, en el campo Zonas, selecciona las casillas de verificación junto a dos zonas en las que esté disponible el modelo de GPU que elegiste (consulta la tabla de disponibilidad de GPU).

        2. En el campo Tipo de GPU, selecciona el modelo de GPU que deseas usar.

        3. En el campo Cantidad de GPU, selecciona la cantidad de tarjetas de GPU que deseas adjuntar a cada estación de trabajo.

        4. En el campo Tipo de máquina, selecciona un tipo de máquina compatible.

      5. Haz clic en Continuar para configurar los parámetros del entorno y la política de IAM antes de hacer clic en Crear para aprovisionar la nueva configuración de la estación de trabajo.

      gcloud

      Crea una nueva configuración de estación de trabajo con GPUs usando la CLI de gcloud ejecutando el comando gcloud workstations configs create.

      • Para las GPU NVIDIA A100 de 40 GB, ejecuta este comando para crear tu configuración:

        gcloud beta workstations configs create \
          --project=PROJECT_ID \
          --region=LOCATION \
          --cluster=CLUSTER_NAME \
          CONFIG_NAME \
          --replica-zones=REPLICA_ZONES \
          --machine-type=A2_MACHINE_TYPE
        

        Reemplaza lo siguiente:

        • PROJECT_ID: ID del proyecto que contendrá la nueva configuración de la estación de trabajo.
        • LOCATION: Es la ubicación del clúster de la estación de trabajo en la que se incluirá la configuración.
        • CLUSTER_NAME: Es el nombre del clúster de estaciones de trabajo que contendrá la nueva configuración de la estación de trabajo.
        • CONFIG_NAME: Es el nombre de la nueva configuración de la estación de trabajo.
        • REPLICA_ZONES: Exactamente dos zonas en la región del clúster en las que está disponible el modelo de GPU elegido (por ejemplo, us-central1-a,us-central1-c)
        • A2_MACHINE_TYPE: Es el tipo de máquina de la serie A2 elegido (por ejemplo, a2-highgpu-1g).
      • Para todos los demás modelos de GPU, ejecuta este comando para crear tu configuración:

        gcloud beta workstations configs create \
          --project=PROJECT_ID \
          --region=LOCATION \
          --cluster=CLUSTER_NAME \
          CONFIG_NAME \
          --replica-zones=REPLICA_ZONES \
          --machine-type=N1_MACHINE_TYPE \
          --accelerator-type=ACCELERATOR_TYPE \
          --accelerator-count=ACCELERATOR_COUNT
        

        Reemplaza lo siguiente:

        • PROJECT_ID: ID del proyecto que contendrá la nueva configuración de la estación de trabajo.
        • LOCATION: Es la ubicación del clúster de la estación de trabajo en la que se incluirá la configuración.
        • CLUSTER_NAME: Es el nombre del clúster de estaciones de trabajo que contendrá la nueva configuración de la estación de trabajo.
        • CONFIG_NAME: Es el nombre de la nueva configuración de la estación de trabajo.
        • REPLICA_ZONES: Exactamente dos zonas en la región del clúster en las que está disponible el modelo de GPU elegido (por ejemplo, us-central1-a,us-central1-c)
        • N1_MACHINE_TYPE: Es el tipo de máquina de la serie N1 elegida (por ejemplo, n1-standard-2).
        • ACCELERATOR_TYPE: El nombre del modelo de GPU elegido (por ejemplo, nvidia-tesla-t4)
        • ACCELERATOR_COUNT: Es la cantidad de GPUs que se conectarán a cada estación de trabajo (por ejemplo, 1, 2, 4).

      Controladores de dispositivos de GPU de NVIDIA

      Cloud Workstations instala los controladores de dispositivos NVIDIA en las VMs host de las estaciones de trabajo durante el inicio de la VM.

      Para determinar qué versión del controlador de dispositivo se instaló en una estación de trabajo, ejecuta el siguiente comando:

      nvidia-smi --query-gpu=name,driver_version --format=csv
      

      Disponibilidad de GPU por región y zona

      Puedes buscar por ubicación o modelo de GPU, o por una combinación de ambos.

      Zonas Ubicación Plataformas de GPU
      asia-east1-a Condado de Changhua, Taiwán, APAC T4, P100
      asia-east1-b Condado de Changhua, Taiwán, APAC
      asia-east1-c Condado de Changhua, Taiwán, APAC T4, V100, P100, H100
      asia-east2-a Hong Kong, APAC T4
      asia-east2-b Hong Kong, APAC
      asia-east2-c Hong Kong, APAC T4
      asia-northeast1-a Tokio, Japón, APAC A100 40 GB, T4
      asia-northeast1-b Tokio, Japón, APAC H100
      asia-northeast1-c Tokio, Japón, APAC A100 40 GB, T4
      asia-northeast3-a Seúl, Corea del Sur, APAC A100 40 GB, H100
      asia-northeast3-b Seúl, Corea del Sur, APAC A100 40 GB, T4
      asia-northeast3-c Seúl, Corea del Sur, APAC T4, H100
      asia-south1-a Bombay, India, APAC T4
      asia-south1-b Bombay, India, APAC T4
      asia-south1-c Bombay, India, APAC H100
      asia-southeast1-a Jurong West, Singapur, APAC T4
      asia-southeast1-b Jurong West, Singapur, APAC A100 40 GB, T4, P4, H100
      asia-southeast1-c Jurong West, Singapur, APAC A100 40 GB, A100 80 GB, T4, P4, H100
      australia-southeast1-a Sídney, Australia, APAC T4, P4
      australia-southeast1-b Sídney, Australia, APAC P4, P100
      australia-southeast1-c Sídney, Australia, APAC T4, H100
      europe-central2-b
      europe-central2-c
      Varsovia, Polonia, Europa T4
      europe-north1-a
      europe-north1-b
      Hamina, Finlandia, Europa
      europe-north1-c Hamina, Finlandia, Europa H100
      europe-southwest1-a
      europe-southwest1-b
      europe-southwest1-c
      Madrid, España, Europa
      europe-west1-b Saint-Ghislain, Bélgica, Europa H100, T4, P100
      europe-west1-c Saint-Ghislain, Bélgica, Europa H100, T4
      europe-west1-d Saint-Ghislain, Bélgica, Europa T4, P100
      europe-west2-a Londres, Inglaterra, Europa T4
      europe-west2-b Londres, Inglaterra, Europa T4, H100
      europe-west2-c Londres, Inglaterra, Europa
      europe-west3-a Fráncfort, Alemania, Europa H100
      europe-west3-b Fráncfort, Alemania, Europa T4
      europe-west3-c Fráncfort, Alemania, Europa H100
      europe-west4-a Puerto de Ems, Países Bajos, Europa A100 40 GB, A100 80 GB, T4, V100 y P100
      europe-west4-b Puerto de Ems, Países Bajos, Europa A100 40 GB, T4, P4, V100 y H100
      europe-west4-c Puerto de Ems, Países Bajos, Europa T4, P4, V100, H100
      europe-west6-a
      europe-west6-b
      europe-west6-c
      Zúrich, Suiza, Europa
      europe-west8-a
      europe-west8-b
      europe-west8-c
      Milán, Italia, Europa
      europe-west9-a
      europe-west9-b
      europe-west9-c
      París, Francia, Europa
      europe-west12-a
      europe-west12-b
      europe-west12-c
      Turín, Italia, Europa
      me-west1-a Tel Aviv, Israel, Oriente Medio A100 40 GB
      me-west1-b Tel Aviv, Israel, Oriente Medio A100 40 GB, T4
      me-west1-c Tel Aviv, Israel, Oriente Medio A100 40 GB, T4
      northamerica-northeast1-a Montreal, Quebec, Norteamérica P4
      northamerica-northeast1-b Montreal, Quebec, Norteamérica P4
      northamerica-northeast1-c Montreal, Quebec, Norteamérica T4, P4
      southamerica-east1-a Osasco, São Paulo, Brasil, Sudamérica T4
      southamerica-east1-c Osasco, São Paulo, Brasil, Sudamérica T4
      southamerica-west1-a
      southamerica-west1-b
      southamerica-west1-c
      Santiago, Chile, Sudamérica
      us-central1-a Council Bluffs, Iowa, Norteamérica A100 40 GB, A100 80 GB, T4, P4, V100 y H100
      us-central1-b Council Bluffs, Iowa, Norteamérica A100 40 GB, T4, V100 y H100
      us-central1-c Council Bluffs, Iowa, Norteamérica A100 40 GB, A100 80 GB, T4, P4, V100, P100, H100
      us-central1-f Council Bluffs, Iowa, Norteamérica A100 40 GB, T4, V100, P100
      us-east1-b Moncks Corner, Carolina del Sur, Norteamérica A100 40 GB, P100
      us-east1-c Moncks Corner, Carolina del Sur, Norteamérica T4, V100, P100
      us-east1-d Moncks Corner, Carolina del Sur, Norteamérica T4
      us-east4-a
      us-east4-b
      Ashburn, Virginia, Norteamérica T4, P4, H100
      us-east4-c Ashburn, Virginia, Norteamérica A100 80 GB, T4, P4, H100
      us-east5-a Columbus, Ohio, Norteamérica H100
      us-east5-b Columbus, Ohio, Norteamérica A100 80 GB
      us-east5-c Columbus, Ohio, Norteamérica
      us-west1-a The Dalles, Oregón, Norteamérica T4, V100, P100, H100
      us-west1-b The Dalles, Oregón, Norteamérica A100 40 GB, T4, V100, P100 y H100
      us-west1-c The Dalles, Oregón, Norteamérica
      us-west4-a Las Vegas, Nevada, Norteamérica T4, H100
      us-west4-b Las Vegas, Nevada, Norteamérica A100 40 GB, T4
      us-west4-c Las Vegas, Nevada, Norteamérica

      ¿Qué sigue?