Gestionar máquinas virtuales de TPU de Spot
Las máquinas virtuales de acceso puntual ofrecen capacidad no utilizada a precios muy rebajados. Las máquinas virtuales de acceso puntual se pueden interrumpir (apagar) en cualquier momento, pero, a diferencia de las TPUs interrumpibles, no tienen límite de duración de tiempo de ejecución. No puedes reiniciar las máquinas virtuales de acceso puntual de TPU y debes volver a crearlas después de la interrupción. Para obtener más información sobre las VMs de acceso puntual en general, consulta la documentación de Compute Engine sobre las VMs de acceso puntual.
Crear máquinas virtuales de Spot de TPU
Puedes crear máquinas virtuales de TPU de Spot mediante recursos en cola, lo que añade tu solicitud de creación a una cola y te permite recibir capacidad cuando esté disponible. Crear TPUs como recursos en cola es una práctica recomendada. Para obtener más información, consulta la guía de usuario de recursos en cola.
En el siguiente ejemplo se muestra cómo crear máquinas virtuales de TPU de Spot mediante recursos en cola:
gcloud
Añade la marca --spot
al comando gcloud compute tpus queued-resources
:
gcloud compute tpus queued-resources create QUEUED_RESOURCE_ID \ --node-id=NODE_ID \ --zone=europe-west4-a \ --accelerator-type=v3-8 \ --runtime-version=tpu-vm-tf-2.17.1-pod-pjrt \ --spot
curl
Añade spot: {}
al cuerpo de la solicitud:
curl -X POST https://tpu.googleapis.com/v2alpha1/projects/PROJECT_ID/locations/europe-west4-a/queuedResources?queued_resource_id=QUEUED_RESOURCE_ID \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -d '{ tpu: { node_spec: { parent: "projects/PROJECT_ID/locations/europe-west4-a", node_id: "NODE_ID", node: { accelerator_type: "v3-8", runtime_version: "tpu-vm-tf-2.17.1-pod-pjrt" } } }, spot: {} }'
Consola
En la Google Cloud consola, ve a la página TPUs:
Haz clic en Crear TPU.
En el campo Name (Nombre), introduce un nombre para tu TPU.
En el cuadro Zona, selecciona la zona en la que quieras crear la TPU.
En el cuadro Tipo de TPU, selecciona un tipo de acelerador. El tipo de acelerador especifica la versión y el tamaño de la TPU de Cloud que quieres crear. Para obtener más información sobre los tipos de aceleradores admitidos en cada versión de TPU, consulta Versiones de TPU.
En el cuadro Versión de software de la TPU, selecciona una versión de software. Al crear una máquina virtual de TPU de Cloud, la versión del software de TPU especifica la versión del tiempo de ejecución de TPU que se va a instalar. Para obtener más información, consulta Versiones de software de TPU.
Haz clic en el interruptor Habilitar colas.
En el campo Queued resource name (Nombre del recurso en cola), introduce un nombre para tu solicitud de recurso en cola.
Despliega la sección Gestión.
Selecciona la casilla Convertir esta VM en una VM de acceso puntual con TPU.
Haz clic en Crear.
También puedes crear máquinas virtuales de TPU Spot sin usar recursos en cola:
gcloud
Añade la marca --spot
al comando gcloud compute tpus tpu-vm
:
gcloud compute tpus tpu-vm create TPU_NAME \ --zone=europe-west4-a \ --accelerator-type=v3-8 \ --version=tpu-vm-tf-2.17.1-pod-pjrt \ --spot
curl
Añade scheduling_config: {spot: true}
al cuerpo de la solicitud:
curl -X POST https://tpu.googleapis.com/v2/projects/PROJECT_ID/locations/europe-west4-a/nodes?node_id=TPU_NAME \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -d '{ accelerator_type: "v3-8", runtime_version: "tpu-vm-tf-2.17.1-pod-pjrt", network_config: {enable_external_ips: true}, scheduling_config: {spot: true} }'
Consola
En la Google Cloud consola, ve a la página TPUs:
Haz clic en Crear TPU.
En el campo Name (Nombre), introduce un nombre para tu TPU.
En el cuadro Zona, selecciona la zona en la que quieras crear la TPU.
En el cuadro Tipo de TPU, selecciona un tipo de acelerador. El tipo de acelerador especifica la versión y el tamaño de la TPU de Cloud que quieres crear. Para obtener más información sobre los tipos de aceleradores admitidos en cada versión de TPU, consulta Versiones de TPU.
En el cuadro Versión de software de la TPU, selecciona una versión de software. Al crear una máquina virtual de TPU de Cloud, la versión del software de TPU especifica la versión del tiempo de ejecución de TPU que se va a instalar. Para obtener más información, consulta Versiones de software de TPU.
Despliega la sección Gestión.
Selecciona la casilla Convertir esta VM en una VM de acceso puntual con TPU.
Haz clic en Crear.
Comprobar si una VM de TPU es una VM de acceso puntual
gcloud
Para confirmar si tu VM de TPU es una Spot VM, usa el comando describe:
gcloud compute tpus tpu-vm describe TPU_NAME --zone=europe-west4-a
Si la máquina virtual de TPU es una máquina virtual esporádica, la salida incluirá el campo spot
configurado como true
, como se muestra a continuación:
...
schedulingConfig:
spot: true
...
Consola
En la Google Cloud consola, ve a la página TPUs:
Haz clic en el nombre de tu TPU de Cloud.
Si la VM de TPU es una VM de acceso puntual, el nivel será VM de acceso puntual.
Precios y cuotas
Los precios de las VMs de acceso puntual de TPU son significativamente más bajos que los de las TPUs bajo demanda y reservadas. Para obtener más información sobre los precios, consulta la página Precios de Cloud TPU.
Necesitas una cuota de TPU no garantizadas para usar máquinas virtuales de Spot de TPU. Para obtener más información, consulta Cuotas.