Verfügbare GPUs

GPUs werden verwendet, um Arbeitslasten zu beschleunigen. Cloud Workstations unterstützt das Anbringen von GPUs an Workstations. Cloud Workstations unterstützt viele der verschiedenen GPU-Modelle, die an Compute Engine-VMs angeschlossen werden können. Das Modell und die Anzahl der GPUs, die an jede Workstation angeschlossen werden sollen, werden in der Workstation-Konfiguration angegeben. Cloud Workstations übernimmt das Anschließen der GPUs und die Installation der Gerätetreiber.

Das Anhängen von GPUs an Workstations wirkt sich auf die Kosten aus, wie in der Übersicht Preise für Cloud Workstations beschrieben.

Beschränkungen

In einer Workstationkonfiguration können GPUs unter den folgenden Einschränkungen angegeben werden:

Unterstützte GPU-Modelle

Cloud Workstations unterstützt viele der GPU-Modelle, die in der Compute Engine verfügbar sind. Die unterstützten Modelle hängen von der für die Workstation-Konfiguration ausgewählten Maschinenserie ab, wie in der folgenden Tabelle zusammengefasst.

N1-Maschinenserie

Die N1-Maschinenreihe für allgemeine Zwecke unterstützt mehrere GPU-Modelle. Für Workstation-Konfigurationen, in denen einer der N1-Maschinentypen angegeben ist, kann auch eines der folgenden GPU-Modelle angegeben werden. Für das ausgewählte GPU-Modell kann in der Konfiguration die Anzahl der GPU-Karten angegeben werden, die an jede Workstation angeschlossen werden sollen.

GPU-Modell GPU-Anzahl
NVIDIA T4 (nvidia-tesla-t4) 1, 2 oder 4 GPUs
NVIDIA P4 (nvidia-tesla-p4) 1, 2 oder 4 GPUs
NVIDIA V100 (nvidia-tesla-v100) 1, 2, 4 oder 8 GPUs
NVIDIA P100 (nvidia-tesla-p100) 1, 2 oder 4 GPUs

A2-Maschinenserie

Die beschleunigungsoptimierte A2-Standardmaschinenserie hat eine feste Anzahl von NVIDIA A100-GPUs, die ausschließlich vom ausgewählten Maschinentyp abhängt.

In der folgenden Tabelle ist die Zuordnung des Maschinentyps zur Anzahl der angeschlossenen Karten zu sehen.

GPU-Modell Maschinentyp GPU-Anzahl
NVIDIA A100 40 GB (nvidia-tesla-a100) a2-highgpu-1g 1 GPU
a2-highgpu-2g 2 GPUs
a2-highgpu-4g 4 GPUs
a2-highgpu-8g 8 GPUs
a2-megagpu-16g 16 GPUs

Cloud Workstations unterstützt keine A2 Ultra-Maschinentypen.

GPUs zu einer vorhandenen Workstationkonfiguration hinzufügen

Wenn Sie einer Workstation-Konfiguration GPUs hinzufügen möchten, führen Sie die Schritte auf einem der folgenden Tabs aus.

Hinweise

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Install the Google Cloud CLI, then initialize it by running the following command:

gcloud init

In der Übersicht zu den Preisen für Cloud-Workstations erfahren Sie, wie sich die Konfiguration von GPUs auf Ihre Kosten auswirkt. Hinweis: GPUs werden an die vorab gestarteten virtuellen Maschinen (VMs) angehängt, die durch die Größe des Quickstart-Pools einer Konfiguration angegeben werden.

Vorhandene Konfiguration aktualisieren

Console

So konfigurieren Sie GPUs in einer vorhandenen Workstationkonfiguration über die Google Cloud Console:

  1. Öffnen Sie in der Google Cloud Console die Seite Workstationkonfigurationen.

    Workstationkonfigurationen aufrufen

  2. Klicken Sie in der Liste Workstationkonfigurationen auf den Namen der Konfiguration, der Sie GPUs hinzufügen möchten.

  3. Klicken Sie auf der Seite Workstation-Konfigurationsdetails auf Bearbeiten Bearbeiten.

  4. Klicken Sie auf der Seite Workstationkonfiguration bearbeiten im Navigationsmenü auf Maschineneinstellungen.

  5. Klicken Sie auf die Ein/Aus-Schaltfläche, um anstelle der Maschinenfamilie Allgemein die Option GPUs auszuwählen.

    Wählen Sie im Feld GPU-Typ das GPU-Modell aus, das Sie verwenden möchten.

    Wählen Sie im Feld Anzahl der GPUs die Anzahl der GPU-Karten aus, die Sie an jede Workstation anschließen möchten.

    Wählen Sie im Feld Maschinentyp den gewünschten Maschinentyp aus.

  6. Klicken Sie auf Speichern, um die Konfiguration zu aktualisieren.

gcloud

Konfigurieren Sie GPUs in einer vorhandenen Workstationkonfiguration, indem Sie den Befehl gcloud workstations configs update ausführen.

Ermitteln Sie zuerst, welche GPU-Modelle verfügbar sind, und wählen Sie eines für Ihre Konfiguration aus:

  1. Führen Sie den folgenden gcloud-Befehl aus, um zu prüfen, welche Replizierungszonen in der Konfiguration angegeben sind:

    gcloud workstations configs describe \
      --format="table(name.scope(workstationConfigs),replicaZones.list())" \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID
    

    Ersetzen Sie Folgendes:

    • PROJECT_ID: die ID des Projekts, das die Workstation-Konfiguration enthält.
    • LOCATION: den Standort des Workstation-Clusters.
    • WORKSTATION_CLUSTER_ID: der Name des Workstation-Clusters, der die Workstation-Konfiguration enthält.
    • WORKSTATION_CONFIG_ID: der Name der Workstation-Konfiguration.
  2. Wählen Sie ein unterstütztes GPU-Modell aus, das in beiden Replikationszonen der Konfiguration verfügbar ist. Führen Sie dazu den Befehl gcloud compute accelerator-types list aus:

    gcloud compute accelerator-types list \
      --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
      --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
      --project=PROJECT_ID
    

    Ersetzen Sie ZONES durch eine durch Kommas getrennte Liste der im vorherigen Schritt ermittelten Replikationszonen (z. B. us-central1-a,us-central1-c).

    Wählen Sie ein GPU-Modell aus, das in der Tabelle zweimal aufgeführt ist. Das bedeutet, dass es in beiden Replikationszonen verfügbar ist.

    Notieren Sie sich, wie viele Karten Sie für das ausgewählte GPU-Modell maximal anschließen können.

  3. Mit dem Befehl gcloud compute machine-types list können Sie ermitteln, welche der unterstützten Maschinentypen in beiden Replikazonen der Konfiguration verfügbar sind.

    1. Wenn Sie im vorherigen Schritt das GPU-Modell NVIDIA A100 40 GB ausgewählt haben, muss in Ihrer Konfiguration die A2-Maschinenserie verwendet werden:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:a2-highgpu- OR name:a2-megagpu-" \
        --zones=ZONES \
        --project=PROJECT_ID
      
    2. Wenn Sie im vorherigen Schritt ein anderes GPU-Modell ausgewählt haben, muss in Ihrer Konfiguration die N1-Maschinenreihe verwendet werden:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:n1-standard-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

    Wählen Sie einen Maschinentyp aus, der in der Tabelle zweimal aufgeführt ist. Das bedeutet, dass er in beiden Replikazonen verfügbar ist.

  4. Nachdem Sie ein GPU-Modell und einen kompatiblen Maschinentyp ausgewählt haben, aktualisieren Sie die Konfiguration:

    1. Führen Sie für NVIDIA A100 40 GB-GPUs diesen Befehl aus, um die Konfiguration zu aktualisieren:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=A2_MACHINE_TYPE
      

      Ersetzen Sie A2_MACHINE_TYPE durch den im vorherigen Schritt ausgewählten A2-Maschinentyp (z. B. a2-highgpu-1g).

    2. Für alle anderen GPU-Modelle führen Sie diesen Befehl aus:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=N1_MACHINE_TYPE \
        --accelerator-type=ACCELERATOR_TYPE \
        --accelerator-count=ACCELERATOR_COUNT
      

      Ersetzen Sie Folgendes:

      • N1_MACHINE_TYPE: Der ausgewählte Maschinentyp aus der N1-Serie (z. B. n1-standard-2).
      • ACCELERATOR_TYPE: Der Name des ausgewählten GPU-Modells (z. B. nvidia-tesla-t4).
      • ACCELERATOR_COUNT: die Anzahl der GPUs, die an jede Workstation angehängt werden sollen (z. B. 1, 2, 4). Muss eine Zweierpotenz kleiner als das Maximum für das GPU-Modell sein.

Neue Workstationkonfiguration mit GPUs erstellen

Wenn Sie eine neue Workstation-Konfiguration erstellen möchten, die GPUs an Workstations anhängt, die auf dieser basieren, führen Sie die Schritte auf einem der folgenden Tabs aus.

Hinweise

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Install the Google Cloud CLI, then initialize it by running the following command:

gcloud init

REST

Verwenden Sie die von der gcloud CLI bereitgestellten Anmeldedaten, um die REST API-Beispiele auf dieser Seite in einer lokalen Entwicklungsumgebung zu verwenden.

    Install the Google Cloud CLI, then initialize it by running the following command:

    gcloud init

Weitere Informationen finden Sie unter Für die Verwendung von REST authentifizieren in der Dokumentation zur Google Cloud-Authentifizierung.

Wählen Sie ein GPU-Modell aus und sehen Sie in der Tabelle zur GPU-Verfügbarkeit nach, in welcher Region das ausgewählte GPU-Modell in mindestens zwei Zonen verfügbar ist.

Wenn Sie in der ausgewählten Region noch keinen Cluster haben, in dem Sie eine neue Konfiguration erstellen können, folgen Sie der Anleitung unter Workstation-Cluster in der Region erstellen.

In der Übersicht zu den Preisen für Cloud-Workstations erfahren Sie, wie sich die Konfiguration von GPUs auf Ihre Kosten auswirkt. Hinweis: GPUs werden an die vorab gestarteten virtuellen Maschinen (VMs) angehängt, die durch die Größe des Quickstart-Pools einer Konfiguration angegeben werden.

Neue Konfiguration erstellen

Console

So erstellen Sie eine neue Workstationkonfiguration mit GPUs über die Google Cloud Console:

  1. Öffnen Sie in der Google Cloud Console die Seite Workstationkonfigurationen.

    Workstationkonfigurationen aufrufen

  2. Klicken Sie auf der Seite Workstationkonfigurationen auf add_box Erstellen.

  3. Geben Sie auf der Seite Workstationkonfiguration erstellen im Schritt Allgemeine Informationen im Feld Name einen Namen für die Konfiguration an.

    Wählen Sie im Feld Workstation-Cluster einen Cluster in der ausgewählten Region aus.

    Klicken Sie auf Weiter, um mit dem Schritt Maschineneinstellungen fortzufahren.

  4. Klicken Sie auf der Seite Workstationkonfiguration erstellen im Schritt Maschineneinstellungen auf die Ein/Aus-Schaltfläche, um anstelle der Maschinenfamilie Allgemeiner Zweck die Option GPUs auszuwählen.

    1. Aktivieren Sie dann im Feld Zonen die Kästchen neben den beiden Zonen, in denen das von Ihnen ausgewählte GPU-Modell verfügbar ist (siehe Tabelle zur GPU-Verfügbarkeit).

    2. Wählen Sie im Feld GPU-Typ das GPU-Modell aus, das Sie verwenden möchten.

    3. Wählen Sie im Feld Anzahl der GPUs die Anzahl der GPU-Karten aus, die Sie an jede Workstation anschließen möchten.

    4. Wählen Sie im Feld Maschinentyp einen kompatiblen Maschinentyp aus.

  5. Klicken Sie auf Weiter, um die Umgebungseinstellungen und die IAM-Richtlinie zu konfigurieren, und dann auf Erstellen, um die neue Workstationkonfiguration bereitzustellen.

gcloud

Erstellen Sie mit der gcloud-Befehlszeile eine neue Workstationkonfiguration mit GPUs. Führen Sie dazu den Befehl gcloud workstations configs create aus.

  • Führen Sie für NVIDIA A100-GPUs mit 40 GB den folgenden Befehl aus, um die Konfiguration zu erstellen:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=A2_MACHINE_TYPE
    

    Ersetzen Sie Folgendes:

    • PROJECT_ID: die ID des Projekts, das die neue Workstation-Konfiguration enthält.
    • LOCATION: der Speicherort des Workstation-Clusters, in dem die Konfiguration enthalten sein soll.
    • WORKSTATION_CLUSTER_ID: der Name des Workstation-Clusters, der die neue Workstation-Konfiguration enthalten soll.
    • WORKSTATION_CONFIG_ID: der Name der neuen Workstation-Konfiguration.
    • REPLICA_ZONES: genau zwei Zonen in der Region des Clusters, in denen das ausgewählte GPU-Modell verfügbar ist (z. B. us-central1-a,us-central1-c).
    • A2_MACHINE_TYPE: der ausgewählte A2-Maschinentyp (z. B. a2-highgpu-1g).
  • Führen Sie für alle anderen GPU-Modelle diesen Befehl aus, um die Konfiguration zu erstellen:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=N1_MACHINE_TYPE \
      --accelerator-type=ACCELERATOR_TYPE \
      --accelerator-count=ACCELERATOR_COUNT
    

    Ersetzen Sie Folgendes:

    • PROJECT_ID: die ID des Projekts, das die neue Workstation-Konfiguration enthält.
    • LOCATION: der Speicherort des Workstation-Clusters, in dem die Konfiguration enthalten sein soll.
    • WORKSTATION_CLUSTER_ID: der Name des Workstation-Clusters, der die neue Workstation-Konfiguration enthalten soll.
    • WORKSTATION_CONFIG_ID: der Name der neuen Workstation-Konfiguration.
    • REPLICA_ZONES: genau zwei Zonen in der Region des Clusters, in denen das ausgewählte GPU-Modell verfügbar ist (z. B. us-central1-a,us-central1-c).
    • N1_MACHINE_TYPE: Der ausgewählte Maschinentyp der N1-Serie (z. B. n1-standard-2).
    • ACCELERATOR_TYPE: Der Name des ausgewählten GPU-Modells (z. B. nvidia-tesla-t4).
    • ACCELERATOR_COUNT: Die Anzahl der GPUs, die an jede Workstation angehängt werden sollen (z. B. 1, 2, 4).

NVIDIA-GPU-Gerätetreiber

Bei Cloud Workstations werden die NVIDIA-Gerätetreiber beim Starten der VM auf den Host-VMs der Workstations installiert.

Führen Sie den folgenden Befehl aus, um zu ermitteln, welche Version des Gerätetreibers auf einer Workstation installiert ist:

nvidia-smi --query-gpu=name,driver_version --format=csv

GPU-Verfügbarkeit nach Region und Zone

Sie können nach Standort oder GPU-Modell oder einer Kombination aus beidem suchen.

Zonen Ort GPU-Plattformen
asia-east1-a Changhua County, Taiwan, APAC T4, P100
asia-east1-b Changhua County, Taiwan, APAC
asia-east1-c Changhua County, Taiwan, APAC T4, V100, P100
asia-east2-a Hongkong, APAC T4
asia-east2-b Hongkong, APAC
asia-east2-c Hongkong, APAC T4
asia-northeast1-a Tokio, Japan, APAC A100 40GB, T4
asia-northeast1-b Tokio, Japan, APAC
asia-northeast1-c Tokio, Japan, APAC A100 40GB, T4
asia-northeast3-a Seoul, Südkorea, APAC A100 40GB
asia-northeast3-b Seoul, Südkorea, APAC A100 40GB, T4
asia-northeast3-c Seoul, Südkorea, APAC T4
asia-south1-a Mumbai, Indien, APAC T4
asia-south1-b Mumbai, Indien, APAC T4
asia-south1-c Mumbai, Indien, APAC T4
asia-southeast1-a Jurong West, Singapur, APAC T4
asia-southeast1-b Jurong West, Singapur, APAC A100 40 GB, T4, P4
asia-southeast1-c Jurong West, Singapur, APAC A100 40 GB, T4, P4
australia-southeast1-a Sydney, Australien, APAC T4, P4
australia-southeast1-b Sydney, Australien, APAC P4
australia-southeast1-c Sydney, Australien, APAC T4, P100
europe-north1-a
europe-north1-b
europe-north1-c
Hamina, Finnland, Europa
europe-west1-b St. Ghislain, Belgien, Europa T4, P100
europe-west1-c St. Ghislain, Belgien, Europa T4
europe-west1-d St. Ghislain, Belgien, Europa P100, T4
europe-west2-a
europe-west2-b
London, England, Europa T4
europe-west2-c London, England, Europa
europe-west3-a Frankfurt, Deutschland, Europa
europe-west3-b Frankfurt, Deutschland, Europa T4
europe-west3-c Frankfurt, Deutschland, Europa
europe-west4-a Eemshaven, Niederlande, Europa A100 40 GB, T4, V100, P100
europe-west4-b Eemshaven, Niederlande, Europa A100 40 GB, T4, P4, V100
europe-west4-c Eemshaven, Niederlande, Europa T4, P4, V100
europe-west6-a
europe-west6-b
europe-west6-c
Zürich, Schweiz, Europa
europe-west8-a
europe-west8-b
europe-west8-c
Mailand, Italien, Europa
europe-west9-a
europe-west9-b
europe-west9-c
Paris, Frankreich, Europa
europe-west12-a
europe-west12-b
europe-west12-c
Turin, Italien, Europa
europe-southwest1-a
europe-southwest1-b
europe-southwest1-c
Madrid, Spanien, Europa
me-west1-a Tel Aviv, Israel, Naher Osten
me-west1-b Tel Aviv, Israel, Naher Osten A100 40GB, T4
me-west1-c Tel Aviv, Israel, Naher Osten A100 40GB, T4
northamerica-northeast1-a Montreal, Québec, Nordamerika P4
northamerica-northeast1-b Montreal, Québec, Nordamerika P4
northamerica-northeast1-c Montreal, Québec, Nordamerika T4, P4
southamerica-east1-a Osasco, São Paulo, Brasilien, Südamerika T4
southamerica-east1-c Osasco, São Paulo, Brasilien, Südamerika T4
southamerica-west1-a
southamerica-west1-b
southamerica-west1-c
Santiago, Chile, Südamerika
us-central1-a Council Bluffs, Iowa, Nordamerika A100 40 GB, T4, P4, V100
us-central1-b Council Bluffs, Iowa, Nordamerika A100 40 GB, T4, V100
us-central1-c Council Bluffs, Iowa, Nordamerika A100 40 GB, T4, P4, V100, P100
us-central1-f Council Bluffs, Iowa, Nordamerika A100 40 GB, T4, V100, P100
us-east1-b Moncks Corner, South Carolina, Nordamerika A100 40 GB, P100
us-east1-c Moncks Corner, South Carolina, Nordamerika T4, V100, P100
us-east1-d Moncks Corner, South Carolina, Nordamerika T4
us-east4-a
us-east4-b
us-east4-c
Ashburn, Virginia, Nordamerika T4, P4
us-east5-a
us-east5-b
us-east5-c
Columbus, Ohio, Nordamerika
us-west1-a The Dalles, Oregon, Nordamerika T4, V100, P100
us-west1-b The Dalles, Oregon, Nordamerika A100 40 GB, T4, V100, P100
us-west1-c The Dalles, Oregon, Nordamerika
us-west4-a Las Vegas, Nevada, Nordamerika T4
us-west4-b Las Vegas, Nevada, Nordamerika A100 40GB, T4
us-west4-c Las Vegas, Nevada, Nordamerika

Nächste Schritte