Verfügbare GPUs

N1-Maschinenserie

Die N1-Maschinenserie für allgemeine Zwecke unterstützt mehrere GPU-Modelle. In Workstation-Konfigurationen, in denen einer der N1-Maschinentypen angegeben ist, kann auch eines der folgenden GPU-Modelle angegeben werden. Für das ausgewählte GPU-Modell kann in der Konfiguration angegeben werden, wie viele GPU-Karten an jede Workstation angehängt werden sollen.

A2-Maschinenserie

An die beschleunigungsoptimierte A2-Maschinenserie ist eine feste Anzahl von NVIDIA A100-GPUs angehängt, die ausschließlich auf dem ausgewählten Maschinentyp basiert.

In der folgenden Tabelle sehen Sie die Zuordnung von Maschinentyp zur Anzahl der angehängten Karten.

A3-Maschinenserie

Bei der beschleunigungsoptimierten Maschinenserie A3 Mega und A3 High ist eine feste Anzahl von NVIDIA H100-GPUs angehängt, die ausschließlich auf dem ausgewählten Maschinentyp basiert.

In der folgenden Tabelle sehen Sie die Zuordnung von Maschinentyp zur Anzahl der angehängten Karten.

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

After installing the Google Cloud CLI, initialize it by running the following command:

gcloud init

If you're using an external identity provider (IdP), you must first sign in to the gcloud CLI with your federated identity.

In der Cloud Workstations-Preisübersicht erfahren Sie, wie sich die Konfiguration von GPUs auf Ihre Kosten auswirkt. GPUs werden an die vorab gestarteten VMs angehängt, die durch die Quick Start Pool Size einer Konfiguration angegeben werden.

Vorhandene Konfiguration aktualisieren

Console

So konfigurieren Sie GPUs in einer vorhandenen Workstationkonfiguration über dieGoogle Cloud -Konsole:

1. Rufen Sie in der Google Cloud Console die Seite Workstation configurations (Workstation-Konfigurationen) auf.

   Zu Workstationkonfigurationen

2. Klicken Sie in der Liste Workstation-Konfigurationen auf den Namen der Konfiguration, der Sie GPUs hinzufügen möchten.

3. Klicken Sie auf der Seite Workstation-Konfigurationsdetails auf Bearbeiten Bearbeiten.

4. Klicken Sie auf der Seite Workstationkonfiguration bearbeiten im Navigationsmenü auf Maschineneinstellungen.

5. Klicken Sie auf den Ein/Aus-Schalter, um GPUs anstelle der Maschinenfamilie Allgemeine Zwecke auszuwählen.

   Wählen Sie im Feld GPU-Typ das GPU-Modell aus, das Sie verwenden möchten.

   Wählen Sie im Feld Anzahl der GPUs die Anzahl der GPU-Karten aus, die Sie an jede Workstation anhängen möchten.

   Wählen Sie im Feld Maschinentyp den Maschinentyp aus, den Sie verwenden möchten.

6. Klicken Sie auf Speichern, um die Konfiguration zu aktualisieren.

gcloud

Konfigurieren Sie GPUs in einer vorhandenen Workstation-Konfiguration, indem Sie den Befehl gcloud workstations configs update ausführen.

Sammeln Sie zuerst einige Informationen, um herauszufinden, welche GPU-Modelle verfügbar sind, und wählen Sie eines für Ihre Konfiguration aus:

1. Prüfen Sie mit dem folgenden gcloud-CLI-Befehl, welche Replikatzonen in der Konfiguration angegeben sind:

   gcloud workstations configs describe \
     --format="table(name.scope(workstationConfigs),replicaZones.list())" \
     --project=PROJECT_ID \
     --region=LOCATION \
     --cluster=CLUSTER_NAME \
     CONFIG_NAME
   

   Ersetzen Sie Folgendes:

   • PROJECT_ID: die ID des Projekts, das die Arbeitsstationskonfiguration enthält.
   • LOCATION: Der Standort des Workstation-Clusters.
   • CLUSTER_NAME: der Name des Workstation-Clusters, der die Workstation-Konfiguration enthält.
   • CONFIG_NAME: der Name der Workstation-Konfiguration.

2. Wählen Sie ein unterstütztes GPU-Modell aus, das in beiden Replikatzonen der Konfiguration verfügbar ist. Führen Sie dazu den gcloud compute accelerator-types list-Befehl aus:

   gcloud compute accelerator-types list \
     --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
     --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
     --project=PROJECT_ID
   

   Ersetzen Sie ZONES durch eine durch Kommas getrennte Liste der im vorherigen Schritt ermittelten Replikatzonen (z. B. us-central1-a,us-central1-c).

   Wählen Sie ein GPU-Modell aus, das zweimal in der Tabelle aufgeführt ist. Das bedeutet, dass es in beiden Replikatzonen verfügbar ist.

   Notieren Sie sich die maximale Anzahl von Karten, die Sie für das ausgewählte GPU-Modell anhängen können.

3. Ermitteln Sie mit dem Befehl gcloud compute machine-types list, welche der unterstützten Maschinentypen in beiden Replikatzonen der Konfiguration verfügbar sind.

   1. Wenn Sie im vorherigen Schritt das GPU-Modell NVIDIA A100 40 GB ausgewählt haben, muss in Ihrer Konfiguration die A2-Maschinenserie verwendet werden:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:a2-highgpu- OR name:a2-megagpu-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

   2. Wenn Sie im vorherigen Schritt ein anderes GPU-Modell ausgewählt haben, muss Ihre Konfiguration die N1-Maschinenserie verwenden:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:n1-standard-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

   Wählen Sie einen Maschinentyp aus, der zweimal in der Tabelle aufgeführt ist. Das bedeutet, dass er in beiden Replikatzonen verfügbar ist.

4. Nachdem Sie ein GPU-Modell und einen kompatiblen Maschinentyp ausgewählt haben, aktualisieren Sie die Konfiguration:

   1. Führen Sie für NVIDIA A100-GPUs mit 40 GB den folgenden Befehl aus, um Ihre Konfiguration zu aktualisieren:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=CLUSTER_NAME \
        CONFIG_NAME \
        --machine-type=A2_MACHINE_TYPE
      

      Ersetzen Sie A2_MACHINE_TYPE durch den ausgewählten A2-Maschinentyp, der im vorherigen Schritt ermittelt wurde (z. B. a2-highgpu-1g).

   2. Führen Sie für alle anderen GPU-Modelle diesen Befehl aus:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=CLUSTER_NAME \
        CONFIG_NAME \
        --machine-type=N1_MACHINE_TYPE \
        --accelerator-type=ACCELERATOR_TYPE \
        --accelerator-count=ACCELERATOR_COUNT
      

      Ersetzen Sie Folgendes:

      • N1_MACHINE_TYPE: der ausgewählte Maschinentyp aus der N1-Serie (z. B. n1-standard-2).
      • ACCELERATOR_TYPE: Der Name des ausgewählten GPU-Modells (z. B. nvidia-tesla-t4).
      • ACCELERATOR_COUNT: die Anzahl der GPUs, die an jede Workstation angehängt werden sollen (z. B. 1, 2, 4). Muss eine Zweierpotenz sein, die kleiner als das Maximum für das GPU-Modell ist.

Neue Workstationkonfiguration mit GPUs erstellen

Wenn Sie eine neue Workstation-Konfiguration erstellen möchten, mit der GPUs an Workstations angehängt werden, die darauf basieren, führen Sie die Schritte auf einem der folgenden Tabs aus.

Hinweise

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

After installing the Google Cloud CLI, initialize it by running the following command:

gcloud init

If you're using an external identity provider (IdP), you must first sign in to the gcloud CLI with your federated identity.

REST

Verwenden Sie die von der gcloud CLI bereitgestellten Anmeldedaten, um die REST API-Beispiele auf dieser Seite in einer lokalen Entwicklungsumgebung zu verwenden.

After installing the Google Cloud CLI, initialize it by running the following command:

gcloud init

If you're using an external identity provider (IdP), you must first sign in to the gcloud CLI with your federated identity.

Weitere Informationen finden Sie in der Dokumentation zur Google Cloud -Authentifizierung unter Für die Verwendung von REST authentifizieren.

Wählen Sie ein GPU-Modell aus und sehen Sie in der Tabelle zur GPU-Verfügbarkeit nach, um eine Region auszuwählen, in der das ausgewählte GPU-Modell in mindestens zwei Zonen verfügbar ist.

Wenn Sie noch keinen Cluster in der ausgewählten Region haben, in dem Sie eine neue Konfiguration erstellen können, folgen Sie der Anleitung unter Workstation-Cluster erstellen.

In der Cloud Workstations-Preisübersicht erfahren Sie, wie sich die Konfiguration von GPUs auf Ihre Kosten auswirkt. GPUs werden an die vorab gestarteten VMs angehängt, die durch die Quick Start Pool Size einer Konfiguration angegeben werden.

Neue Konfiguration erstellen

Console

Erstellen Sie eine neue Workstationkonfiguration mit GPUs über dieGoogle Cloud -Konsole. Gehen Sie dazu so vor:

1. Rufen Sie in der Google Cloud Console die Seite Workstationkonfigurationen auf.

   Zu Workstationkonfigurationen

2. Klicken Sie auf der Seite Workstationkonfigurationen auf add_box Erstellen.

3. Geben Sie im Schritt Allgemeine Informationen auf der Seite Arbeitsstationskonfiguration erstellen im Feld Name einen Namen für die Konfiguration an.

   Wählen Sie im Feld Workstation-Cluster einen Cluster in der ausgewählten Region aus.

   Klicken Sie auf Weiter, um zum Schritt Maschineneinstellungen zu gelangen.

4. Klicken Sie auf der Seite Arbeitsstationskonfiguration erstellen im Schritt Maschineneinstellungen zuerst auf den Ein/Aus-Schalter, um GPUs anstelle der Maschinenfamilie Allgemeiner Zweck auszuwählen.

   1. Wählen Sie dann im Feld Zonen die Kästchen neben zwei Zonen aus, in denen das von Ihnen ausgewählte GPU-Modell verfügbar ist (siehe Tabelle zur GPU-Verfügbarkeit).

   2. Wählen Sie im Feld GPU-Typ das GPU-Modell aus, das Sie verwenden möchten.

   3. Wählen Sie im Feld Anzahl der GPUs die Anzahl der GPU-Karten aus, die Sie an jede Workstation anhängen möchten.

   4. Wählen Sie im Feld Maschinentyp einen kompatiblen Maschinentyp aus.

5. Klicken Sie auf Weiter, um die Umgebungseinstellungen und die IAM-Richtlinie zu konfigurieren, bevor Sie auf Erstellen klicken, um die neue Workstation-Konfiguration bereitzustellen.

gcloud

Erstellen Sie mit der gcloud-Befehlszeile eine neue Workstation-Konfiguration mit GPUs, indem Sie den Befehl gcloud workstations configs create ausführen.

• Führen Sie für NVIDIA A100-GPUs mit 40 GB den folgenden Befehl aus, um die Konfiguration zu erstellen:

  gcloud beta workstations configs create \
    --project=PROJECT_ID \
    --region=LOCATION \
    --cluster=CLUSTER_NAME \
    CONFIG_NAME \
    --replica-zones=REPLICA_ZONES \
    --machine-type=A2_MACHINE_TYPE
  

  Ersetzen Sie Folgendes:

  • PROJECT_ID: die ID des Projekts, das die neue Arbeitsstationskonfiguration enthalten wird.
  • LOCATION: Der Standort des Workstation-Clusters, in dem die Konfiguration enthalten sein soll.
  • CLUSTER_NAME: der Name des Workstation-Clusters, der die neue Workstation-Konfiguration enthält.
  • CONFIG_NAME: der Name der neuen Arbeitsstationskonfiguration.
  • REPLICA_ZONES: Genau zwei Zonen in der Region des Clusters, in denen das ausgewählte GPU-Modell verfügbar ist (z. B. us-central1-a,us-central1-c).
  • A2_MACHINE_TYPE: der ausgewählte Maschinentyp der A2-Serie (z. B. a2-highgpu-1g).

• Führen Sie für alle anderen GPU-Modelle diesen Befehl aus, um Ihre Konfiguration zu erstellen:

  gcloud beta workstations configs create \
    --project=PROJECT_ID \
    --region=LOCATION \
    --cluster=CLUSTER_NAME \
    CONFIG_NAME \
    --replica-zones=REPLICA_ZONES \
    --machine-type=N1_MACHINE_TYPE \
    --accelerator-type=ACCELERATOR_TYPE \
    --accelerator-count=ACCELERATOR_COUNT
  

  Ersetzen Sie Folgendes:

  • PROJECT_ID: die ID des Projekts, das die neue Arbeitsstationskonfiguration enthalten wird.
  • LOCATION: Der Standort des Workstation-Clusters, in dem die Konfiguration enthalten sein soll.
  • CLUSTER_NAME: der Name des Workstation-Clusters, der die neue Workstation-Konfiguration enthält.
  • CONFIG_NAME: der Name der neuen Arbeitsstationskonfiguration.
  • REPLICA_ZONES: Genau zwei Zonen in der Region des Clusters, in denen das ausgewählte GPU-Modell verfügbar ist (z. B. us-central1-a,us-central1-c).
  • N1_MACHINE_TYPE: Der ausgewählte Maschinentyp der N1-Serie (z. B. n1-standard-2).
  • ACCELERATOR_TYPE: Der Name des ausgewählten GPU-Modells, z. B. nvidia-tesla-t4.
  • ACCELERATOR_COUNT: Die Anzahl der GPUs, die an jede Workstation angehängt werden sollen (z. B. 1, 2, 4).

NVIDIA-GPU-Gerätetreiber

Cloud Workstations installiert die NVIDIA-Gerätetreiber auf den Host-VMs von Workstations während des VM-Starts.

Führen Sie den folgenden Befehl aus, um zu ermitteln, welche Version des Gerätetreibers auf einer Workstation installiert wurde:

nvidia-smi --query-gpu=name,driver_version --format=csv

GPU-Verfügbarkeit nach Region und Zone

Sie können nach Standort oder GPU-Modell oder einer Kombination aus beidem suchen.

APAC Nordamerika Südamerika Europa Naher Osten A100 40GB H100 T4 V100 P100 P4
Alle löschen

Zonen	Ort	GPU-Plattformen
asia-east1-a	Changhua County, Taiwan, APAC	T4, P100
asia-east1-b	Changhua County, Taiwan, APAC
asia-east1-c	Changhua County, Taiwan, APAC	T4, V100, P100, H100
asia-east2-a	Hongkong, APAC	T4
asia-east2-b	Hongkong, APAC
asia-east2-c	Hongkong, APAC	T4
asia-northeast1-a	Tokio, Japan, APAC	A100 40GB, T4
asia-northeast1-b	Tokio, Japan, APAC	H100
asia-northeast1-c	Tokio, Japan, APAC	A100 40GB, T4
asia-northeast3-a	Seoul, Südkorea, APAC	A100 40GB, H100
asia-northeast3-b	Seoul, Südkorea, APAC	A100 40GB, T4
asia-northeast3-c	Seoul, Südkorea, APAC	T4, H100
asia-south1-a	Mumbai, Indien, APAC	T4
asia-south1-b	Mumbai, Indien, APAC	T4
asia-south1-c	Mumbai, Indien, APAC	H100
asia-southeast1-a	Jurong West, Singapur, APAC	T4
asia-southeast1-b	Jurong West, Singapur, APAC	A100 40 GB, T4, P4, H100
asia-southeast1-c	Jurong West, Singapur, APAC	A100 40 GB, A100 80 GB, T4, P4, H100
australia-southeast1-a	Sydney, Australien, APAC	T4, P4
australia-southeast1-b	Sydney, Australien, APAC	P4, P100
australia-southeast1-c	Sydney, Australien, APAC	T4, H100
europe-central2-b europe-central2-c	Warschau, Polen, Europa	T4
europe-north1-a europe-north1-b	Hamina, Finnland, Europa
europe-north1-c	Hamina, Finnland, Europa	H100
europe-southwest1-a europe-southwest1-b europe-southwest1-c	Madrid, Spanien, Europa
europe-west1-b	St. Ghislain, Belgien, Europa	H100, T4, P100
europe-west1-c	St. Ghislain, Belgien, Europa	H100, T4
europe-west1-d	St. Ghislain, Belgien, Europa	T4, P100
europe-west2-a	London, England, Europa	T4
europe-west2-b	London, England, Europa	T4, H100
europe-west2-c	London, England, Europa
europe-west3-a	Frankfurt, Deutschland, Europa	H100
europe-west3-b	Frankfurt, Deutschland, Europa	T4
europe-west3-c	Frankfurt, Deutschland, Europa	H100
europe-west4-a	Eemshaven, Niederlande, Europa	A100 40GB, A100 80GB, T4, V100, P100
europe-west4-b	Eemshaven, Niederlande, Europa	A100 40 GB, T4, P4, V100, H100
europe-west4-c	Eemshaven, Niederlande, Europa	T4, P4, V100, H100
europe-west6-a europe-west6-b europe-west6-c	Zürich, Schweiz, Europa
europe-west8-a europe-west8-b europe-west8-c	Mailand, Italien, Europa
europe-west9-a europe-west9-b europe-west9-c	Paris, Frankreich, Europa
europe-west12-a europe-west12-b europe-west12-c	Turin, Italien, Europa
me-west1-a	Tel Aviv, Israel, Naher Osten	A100 40GB
me-west1-b	Tel Aviv, Israel, Naher Osten	A100 40GB, T4
me-west1-c	Tel Aviv, Israel, Naher Osten	A100 40GB, T4
northamerica-northeast1-a	Montreal, Québec, Nordamerika	P4
northamerica-northeast1-b	Montreal, Québec, Nordamerika	P4
northamerica-northeast1-c	Montreal, Québec, Nordamerika	T4, P4
southamerica-east1-a	Osasco, São Paulo, Brasilien, Südamerika	T4
southamerica-east1-c	Osasco, São Paulo, Brasilien, Südamerika	T4
southamerica-west1-a southamerica-west1-b southamerica-west1-c	Santiago, Chile, Südamerika
us-central1-a	Council Bluffs, Iowa, Nordamerika	A100 40GB, A100 80GB, T4, P4, V100, H100
us-central1-b	Council Bluffs, Iowa, Nordamerika	A100 40 GB, T4, V100, H100
us-central1-c	Council Bluffs, Iowa, Nordamerika	A100 40 GB, A100 80 GB, T4, P4, V100, P100, H100
us-central1-f	Council Bluffs, Iowa, Nordamerika	A100 40 GB, T4, V100, P100
us-east1-b	Moncks Corner, South Carolina, Nordamerika	A100 40 GB, P100
us-east1-c	Moncks Corner, South Carolina, Nordamerika	T4, V100, P100
us-east1-d	Moncks Corner, South Carolina, Nordamerika	T4
us-east4-a us-east4-b	Ashburn, Virginia, Nordamerika	T4, P4, H100
us-east4-c	Ashburn, Virginia, Nordamerika	A100 80GB, T4, P4, H100
us-east5-a	Columbus, Ohio, Nordamerika	H100
us-east5-b	Columbus, Ohio, Nordamerika	A100 80GB
us-east5-c	Columbus, Ohio, Nordamerika
us-west1-a	The Dalles, Oregon, Nordamerika	T4, V100, P100, H100
us-west1-b	The Dalles, Oregon, Nordamerika	A100 40 GB, T4, V100, P100, H100
us-west1-c	The Dalles, Oregon, Nordamerika
us-west4-a	Las Vegas, Nevada, Nordamerika	T4, H100
us-west4-b	Las Vegas, Nevada, Nordamerika	A100 40GB, T4
us-west4-c	Las Vegas, Nevada, Nordamerika

Nächste Schritte

• Geben Sie GPUs mit der Cloud Workstations API an.

• Compute Engine-Instanzen mit GPU-Beschleunigern ausführen

• Vollständige Liste der Compute Engine-Maschinentypen

Feedback geben