Administra VMs Spot de TPU
Las VMs Spot hacen que la capacidad sin usar esté disponible a tarifas con un gran descuento. Las VMs Spot se pueden interrumpir (apagar) en cualquier momento, pero, a diferencia de las interrumpibles TPU, no hay límite en la duración del entorno de ejecución. No puedes reiniciar las VMs Spot de TPU y debes volver a crearlas después de la preempción. Para para obtener más información sobre las VMs Spot en general, consulta el vínculo Compute Engine sobre las VMs Spot.
Crear VMs Spot de TPU
Puedes crear VMs TPU Spot con recursos en cola, lo que agrega tu crear una solicitud en una cola y te permite recibir capacidad cuando se convierte disponibles. Una práctica recomendada es crear TPU como recursos en cola. Para ver más consulta la Guía del usuario de Recursos en cola.
Crea VMs Spot de TPU como recursos en cola agregando la marca --spot
al
Comando para crear recursos en cola:
gcloud
gcloud compute tpus queued-resources create QUEUED_RESOURCE_ID \ --node-id=NODE_ID \ --zone=europe-west4-a \ --accelerator-type=v3-8 \ --runtime-version=tpu-vm-tf-2.17.0-pod-pjrt \ --spot
curl
curl -X POST https://tpu.googleapis.com/v2alpha1/projects/PROJECT_ID/locations/europe-west4-a/queuedResources?queued_resource_id=QUEUED_RESOURCE_ID \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -d '{ tpu: { node_spec: { parent: "projects/PROJECT_ID/locations/europe-west4-a", node_id: "NODE_ID", node: { accelerator_type: "v3-8", runtime_version: "tpu-vm-tf-2.17.0-pod-pjrt" } } }, spot: {} }'
También puedes crear VMs TPU Spot sin usar recursos en cola
Agrega la marca --spot
al comando create:
gcloud
gcloud compute tpus tpu-vm create TPU_NAME \ --zone=europe-west4-a \ --accelerator-type=v3-8 \ --version=tpu-vm-tf-2.17.0-pod-pjrt \ --spot
curl
curl -X POST https://tpu.googleapis.com/v2/projects/PROJECT_ID/locations/europe-west4-a/nodes?node_id=TPU_NAME \ -H "Authorization: Bearer $(gcloud auth print-access-token)" \ -H "Content-Type: application/json" \ -d '{ accelerator_type: "v3-8", runtime_version: "tpu-vm-tf-2.17.0-pod-pjrt", network_config: {enable_external_ips: true}, scheduling_config: {spot: true} }'
Comprueba si una VM de TPU es una VM Spot
Para confirmar si tu VM de TPU es una VM Spot, usa el comando describe:
gcloud compute tpus tpu-vm describe TPU_NAME --zone=europe-west4-a
Si la VM de TPU es una VM Spot, el resultado incluirá el
El campo spot
se establece en true
, similar a lo siguiente:
...
schedulingConfig:
spot: true
...
Precios y cuota
El precio de las VMs TPU Spot es significativamente más bajo que el de las VMs a pedido y las TPU reservadas. Para obtener más información sobre los precios, consulta Cloud TPU. precios.
Necesitas cuotas interrumpibles para usar las VMs Spot de TPU. Para obtener más información, consulta Cuotas.