Arbeitslasten bereitstellen

Spot

Wenn Sie das Spot-Bereitstellungsmodell verwenden möchten, erstellen Sie eine beschleunigungsoptimierte VM-Instanz.

gcloud compute instances create INSTANCE_NAME \
    --provisioning-model=SPOT \
    --confidential-compute-type=TDX \
    --machine-type=a3-highgpu-1g \
    --maintenance-policy=TERMINATE \
    --shielded-secure-boot \
    --image-project=confidential-space-images \
    --image-family=IMAGE_FAMILY_NAME \
    --metadata="^~^tee-image-reference=us-docker.pkg.dev/WORKLOAD_AUTHOR_PROJECT_ID/REPOSITORY_NAME/WORKLOAD_CONTAINER_NAME:latest~tee-install-gpu-driver=true" \
    --service-account=WORKLOAD_SERVICE_ACCOUNT_NAME@WORKLOAD_OPERATOR_PROJECT_ID.iam.gserviceaccount.com \
    --scopes=cloud-platform \
    --boot-disk-size=30G \
    --zone=ZONE_NAME \
    --project=PROJECT_ID

Geben Sie folgende Werte an:

• INSTANCE_NAME: Der Name der neuen VM-Instanz.

• IMAGE_FAMILY_NAME: Die Familie für die Confidential Space-Images. Wählen Sie eine der folgenden Optionen aus:

  • confidential-space-preview-cgpu für Produktionsarbeitslasten

  • confidential-space-debug-preview-cgpu für Debugging-Arbeitslasten

• WORKLOAD_AUTHOR_PROJECT: Die Projekt-ID, in der der Arbeitslast ausgeführt wird.

• REPOSITORY_NAME: Der Name des Artifact Registry-Repositorys.

• WORKLOAD_CONTAINER_NAME: Der Name des Arbeitslastcontainers.

• WORKLOAD_SERVICE_ACCOUNT_NAME: Der Name des Dienstkontos, mit dem die Arbeitslast ausgeführt wird.

• WORKLOAD_OPERATOR_PROJECT_ID: Die ID des Projekts, in dem der Workload ausgeführt wird.

• ZONE_NAME: Eine der Zonen, die NVIDIA Confidential Computing unterstützen (Vorschau).

• PROJECT_ID: Optional. Die ID des Projekts, in dem die VM-Instanz erstellt werden soll.

Flex-Start

Wenn Sie das Bereitstellungsmodell „Flex-Start“ (Vorabversion) verwenden möchten, erstellen Sie zuerst eine Instanzvorlage und dann eine verwaltete Instanzgruppe (MIG).

1. Instanzvorlage erstellen:

   gcloud beta compute instance-templates create INSTANCE_TEMPLATE_NAME \
       --provisioning-model=FLEX_START \
       --confidential-compute-type=TDX \
       --machine-type=a3-highgpu-1g \
       --maintenance-policy=TERMINATE \
       --shielded-secure-boot \
       --image-project=confidential-space-images \
       --image-family=IMAGE_FAMILY_NAME \
       --metadata="^~^tee-image-reference=us-docker.pkg.dev/WORKLOAD_AUTHOR_PROJECT_ID/REPOSITORY_NAME/WORKLOAD_CONTAINER_NAME:latest~tee-install-gpu-driver=true" \
       --service-account=WORKLOAD_SERVICE_ACCOUNT_NAME@WORKLOAD_OPERATOR_PROJECT_ID.iam.gserviceaccount.com \
       --scopes=cloud-platform \
       --boot-disk-size=30G \
       --reservation-affinity=none \
       --max-run-duration=RUN_DURATION \
       --instance-termination-action=DELETE \
       --project=PROJECT_ID
   

   Geben Sie folgende Werte an:

   • INSTANCE_TEMPLATE_NAME: Der Name der neuen VM-Instanzvorlage.

   • IMAGE_FAMILY_NAME: Die Familie für die Confidential Space-Images. Wählen Sie eine der folgenden Optionen aus:

     • confidential-space-preview-cgpu für Produktionsarbeitslasten

     • confidential-space-debug-preview-cgpu für Debugging-Arbeitslasten

   • WORKLOAD_AUTHOR_PROJECT: Die Projekt-ID, in der die Arbeitslast ausgeführt wird.

   • REPOSITORY_NAME: Der Name des Artifact Registry-Repositorys.

   • WORKLOAD_CONTAINER_NAME: Der Name des Arbeitslastcontainers.

   • WORKLOAD_SERVICE_ACCOUNT_NAME: Der Name des Dienstkontos, mit dem die Arbeitslast ausgeführt wird.

   • WORKLOAD_OPERATOR_PROJECT_ID: Die ID des Projekts, in dem die Arbeitslast ausgeführt wird.

   • RUN_DURATION: die Dauer, für die die angeforderten VM-Instanzen ausgeführt werden sollen. Sie müssen den Wert als Anzahl von Tagen, Stunden, Minuten oder Sekunden gefolgt von d, h, m bzw. s formatieren. Geben Sie beispielsweise 30m für 30 Minuten oder 1d2h3m4s für einen Tag, zwei Stunden, drei Minuten und vier Sekunden an. Der Wert muss zwischen 10 Minuten und 7 Tagen liegen.

   • PROJECT_ID: Optional. Die ID des Projekts, in dem die VM-Instanzen erstellt werden sollen.

2. Erstellen Sie mit dem Befehl instance-groups managed create eine zonale MIG:

   gcloud compute instance-groups managed create INSTANCE_GROUP_NAME \
       --template=INSTANCE_TEMPLATE_NAME \
       --size=0 \
       --zone=ZONE_NAME \
       --default-action-on-vm-failure=do_nothing
   

   Geben Sie folgende Werte an:

   • INSTANCE_GROUP_NAME: Name der MIG.

   • INSTANCE_TEMPLATE_NAME: Der Name der Instanzvorlage für GPU-VMs.

   • ZONE_NAME: Eine der Zonen, die NVIDIA Confidential Computing unterstützen (Vorschau).

3. Erstellen Sie in der MIG eine Anfrage zur Größenanpassung. Geben Sie die Anzahl der gewünschten GPU-VM-Instanzen und die Dauer an, für die diese VM-Instanzen ausgeführt werden sollen.

   gcloud compute instance-groups managed resize-requests create INSTANCE_GROUP_NAME \
       --resize-request=RESIZE_REQUEST_NAME \
       --resize-by=COUNT \
       --zone=ZONE_NAME
   

   Geben Sie folgende Werte an:

   • INSTANCE_GROUP_NAME: Name der MIG.

   • INSTANCE_TEMPLATE_NAME: Der Name der Instanzvorlage für GPU-VM-Instanzen.

   • ZONE_NAME: Eine der Zonen, die NVIDIA Confidential Computing unterstützen (Vorschau).

   • RESIZE_REQUEST_NAME: Der Name der Anfrage zur Größenänderung.

   • COUNT: Die Anzahl der VM-Instanzen, die alle gleichzeitig in der Gruppe hinzugefügt werden sollen.

   Die von Ihnen erstellte Anfrage zur Größenanpassung bleibt im Status ACCEPTED, bis die MIG alle angeforderten GPU-VM-Instanzen erstellt hat. Nachdem alle GPU-VM-Instanzen in der Gruppe erstellt wurden, ändert sich der Status der Anfrage zu SUCCEEDED.

4. Wenn genügend Ressourcen für die Anfrage zur Größenänderung verfügbar sind, werden der MIG VM-Instanzen hinzugefügt und gestartet, um Ihre Arbeitslast auszuführen. Führen Sie den folgenden Befehl aus, um die Instanzen in der MIG aufzulisten:

   gcloud compute instance-groups managed list-instances INSTANCE_GROUP_NAME \
       --zone=ZONE_NAME \
       --project=PROJECT_ID
   

   Geben Sie folgende Werte an:

   • INSTANCE_GROUP_NAME: Name der MIG.

   • ZONE_NAME: Die unterstützte Zone, aus der eine Liste von VM-Instanzen abgerufen werden soll.

   • PROJECT_ID: Optional. Die ID des Projekts, aus dem eine Liste von VM-Instanzen abgerufen werden soll.