TPU-Spot-VMs verwalten

gcloud

Fügen Sie dem Befehl gcloud compute tpus queued-resources das Flag --spot hinzu:

gcloud compute tpus queued-resources create QUEUED_RESOURCE_ID \
    --node-id=NODE_ID \
    --zone=europe-west4-a \
    --accelerator-type=v3-8 \
    --runtime-version=tpu-vm-tf-2.17.1-pod-pjrt \
    --spot

curl

Fügen Sie spot: {} in den Anfragetext ein:

curl -X POST https://tpu.googleapis.com/v2alpha1/projects/PROJECT_ID/locations/europe-west4-a/queuedResources?queued_resource_id=QUEUED_RESOURCE_ID \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d '{
        tpu: {
        node_spec: {
            parent: "projects/PROJECT_ID/locations/europe-west4-a",
            node_id: "NODE_ID",
            node: {
            accelerator_type: "v3-8",
            runtime_version: "tpu-vm-tf-2.17.1-pod-pjrt"
            }
        }
        },
        spot: {}
    }'

Console

1. Rufen Sie in der Google Cloud Console die Seite TPUs auf:

   Zu TPUs

2. Klicken Sie auf TPU erstellen.

3. Geben Sie im Feld Name einen Namen für die TPU ein.

4. Wählen Sie im Feld Zone die Zone aus, in der Sie die TPU erstellen möchten.

5. Wählen Sie im Feld TPU-Typ einen Beschleunigertyp aus. Der Beschleunigertyp gibt die Version und Größe der Cloud TPU an, die Sie erstellen möchten. Weitere Informationen zu den unterstützten Beschleunigertypen für die einzelnen TPU-Versionen finden Sie unter TPU-Versionen.

6. Wählen Sie im Feld Version der TPU-Software eine Softwareversion aus. Beim Erstellen einer Cloud TPU-VM gibt das Feld „TPU-Softwareversion“ die Version der zu installierenden TPU-Laufzeit an. Weitere Informationen finden Sie unter TPU-Softwareversionen.

7. Klicken Sie auf die Ein/Aus-Schaltfläche Warteschlange aktivieren.

8. Geben Sie im Feld Name der Ressource in der Warteschlange einen Namen für die in die Warteschlange zu stellende Ressourcenanfrage ein.

9. Maximieren Sie den Bereich Verwaltung.

10. Aktivieren Sie das Kästchen Daraus eine TPU-Spot-VM machen.

11. Klicken Sie auf Erstellen.

gcloud

Fügen Sie dem Befehl gcloud compute tpus tpu-vm das Flag --spot hinzu:

gcloud compute tpus tpu-vm create TPU_NAME \
    --zone=europe-west4-a \
    --accelerator-type=v3-8 \
    --version=tpu-vm-tf-2.17.1-pod-pjrt \
    --spot

curl

Fügen Sie scheduling_config: {spot: true} in den Anfragetext ein:

curl -X POST https://tpu.googleapis.com/v2/projects/PROJECT_ID/locations/europe-west4-a/nodes?node_id=TPU_NAME \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    -H "Content-Type: application/json" \
    -d '{
        accelerator_type: "v3-8",
        runtime_version: "tpu-vm-tf-2.17.1-pod-pjrt",
        network_config: {enable_external_ips: true},
        scheduling_config: {spot: true}
    }'

Console

1. Rufen Sie in der Google Cloud Console die Seite TPUs auf:

   Zu TPUs

2. Klicken Sie auf TPU erstellen.

3. Geben Sie im Feld Name einen Namen für die TPU ein.

4. Wählen Sie im Feld Zone die Zone aus, in der Sie die TPU erstellen möchten.

5. Wählen Sie im Feld TPU-Typ einen Beschleunigertyp aus. Der Beschleunigertyp gibt die Version und Größe der Cloud TPU an, die Sie erstellen möchten. Weitere Informationen zu den unterstützten Beschleunigertypen für die einzelnen TPU-Versionen finden Sie unter TPU-Versionen.

6. Wählen Sie im Feld Version der TPU-Software eine Softwareversion aus. Beim Erstellen einer Cloud TPU-VM gibt das Feld „TPU-Softwareversion“ die Version der zu installierenden TPU-Laufzeit an. Weitere Informationen finden Sie unter TPU-Softwareversionen.

7. Maximieren Sie den Bereich Verwaltung.

8. Aktivieren Sie das Kästchen Daraus eine TPU-Spot-VM machen.

9. Klicken Sie auf Erstellen.

gcloud

Verwenden Sie den Befehl „describe“, um zu prüfen, ob Ihre TPU-VM eine Spot-VM ist:

gcloud compute tpus tpu-vm describe TPU_NAME --zone=europe-west4-a

Wenn die TPU-VM eine Spot-VM ist, enthält die Ausgabe das Feld spot, das auf true gesetzt ist, ähnlich wie im Folgenden:

...
schedulingConfig:
spot: true
...

Console

1. Rufen Sie in der Google Cloud Console die Seite TPUs auf:

   Zu TPUs

2. Klicken Sie auf den Namen Ihrer Cloud TPU.

   Wenn die TPU-VM eine Spot-VM ist, lautet die Stufe Spot-VM.