Standardlaufzeiten mit GPUs aktivieren

Wenn Sie Unterstützung während der Vorschau benötigen, senden Sie eine E-Mail an vertex-notebooks-previews-external@google.com.

In diesem Dokument wird beschrieben, wie Sie eine Standardlaufzeit mit GPUs für Colab Enterprise-Nutzer in einem Projekt aktivieren. Nachdem eine Standardlaufzeit mit GPUs aktiviert wurde, können Nutzer auf ihrem Notebook auf eine Schaltfläche klicken, um von einer regulären Standardlaufzeit zu einer Standardlaufzeit mit GPUs zu wechseln.

Dieses Dokument richtet sich an Colab Enterprise-Administratoren, die Standardlaufzeiten mit GPUs für andere Nutzer in ihrer Organisation aktivieren möchten. Es wird davon ausgegangen, dass Sie mit folgenden Themen vertraut sind:

  • Colab Enterprise-Laufzeiten und -Laufzeitvorlagen verwalten
  • Informationen zum Steuern des Zugriffs mit Identity and Access Management (IAM)

Übersicht

Damit Nutzer zu einer Standardlaufzeit mit GPUs wechseln können, muss ein Administrator (roles/aiplatform.colabEnterpriseAdmin) oder ein Nutzerkonto mit der Berechtigung aiplatform.notebookRuntimeTemplates.create zuerst eine Standardlaufzeit mit GPUs erstellen.

Wenn Sie zum ersten Mal eine Standardlaufzeit mit GPUs erstellen, erstellt Colab Enterprise eine neue Standardlaufzeitvorlage, die GPUs in den Spezifikationen enthält. Die ursprüngliche Standardlaufzeit bleibt davon unberührt und existiert, bis sie abläuft oder gelöscht wird. Nachdem die neue Standardlaufzeitvorlage mit GPUs erstellt wurde, kann jeder Nutzer mit der Berechtigung aiplatform.notebookRuntimes.assign für das Projekt und der Berechtigung aiplatform.notebookRuntimeTemplates.apply für die Laufzeitvorlage eine Standardlaufzeit mit GPUs erstellen und verwenden. Diese Berechtigungen sind in der Rolle „Colab Enterprise User“ (roles/aiplatform.colabEnterpriseUser) enthalten.

Spezifikationen

Die Standardlaufzeit mit GPUs hat andere Spezifikationen als die ursprüngliche Standardlaufzeit. Die verfügbaren Maschinentypen, GPUs und Datenlaufwerktypen variieren je nach Region. Daher können einige Spezifikationen von der ursprünglichen Standardlaufzeit abweichen.

In der folgenden Tabelle werden die Spezifikationen für eine Standardlaufzeit mit GPUs basierend auf der Region der Standardlaufzeit beschrieben.

Beschreibung der Region Standardlaufzeitspezifikationen
Regionen mit Unterstützung für L4-GPUs
  • Maschinentyp: g2-standard-4
  • Beschleuniger: 1 NVIDIA_L4-Beschleuniger
  • Datenlaufwerk: 100 GB pd-balanced
Regionen, in denen L4-GPUs nicht, aber T4-GPUs unterstützt werden
  • Maschinentyp: n1-standard-4
  • Beschleuniger: 1 NVIDIA_TESLA_T4-Beschleuniger
  • Datenlaufwerk: 100 GB pd-standard
Regionen ohne Unterstützung für L4- oder T4-GPUs Standardlaufzeiten mit GPUs werden nicht unterstützt.

Verfügbarkeit des Beschleunigers

Colab Enterprise unterstützt Standardlaufzeiten mit den folgenden Beschleunigertypen:

  • L4
  • T4

Informationen zur regionalen Verfügbarkeit dieser Beschleuniger finden Sie unter Beschleuniger verwenden.

Hinweise

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Make sure that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

    5.

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  6. Make sure that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

    8.

Erforderliche Rollen

Bitten Sie Ihren Administrator, Ihrem Nutzerkonto die IAM-Rolle „Colab Enterprise Admin“ (roles/aiplatform.colabEnterpriseAdmin) für das Projekt zuzuweisen, damit Ihr Nutzerkonto über die erforderlichen Berechtigungen zum Aktivieren von Standardlaufzeiten mit GPUs in Colab Enterprise verfügt.

Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Ihr Administrator kann Ihrem Nutzerkonto möglicherweise auch die erforderlichen Berechtigungen über benutzerdefinierte Rollen oder andere vordefinierte Rollen erteilen.

GPUs für Standardlaufzeiten aktivieren

So aktivieren Sie GPUs für Standardlaufzeiten:

  1. Rufen Sie in der Google Cloud Console die Colab Enterprise-Seite Meine Notebooks auf.

    Zu „Meine Notizen“

  2. Wählen Sie im Menü Region die Region aus, in der sich Ihr Notebook befindet.

  3. Klicken Sie auf das Notizbuch, das Sie öffnen möchten. Wenn Sie noch kein Notebook erstellt haben, erstellen Sie ein Notebook.

  4. Klicken Sie in Ihrem Notebook auf Verbinden.

  5. Nachdem Colab Enterprise eine Verbindung zur Standardlaufzeit hergestellt hat, klicken Sie rechts oben in Ihrem Notebook auf die Schaltfläche, um zu einer Standardlaufzeit mit GPUs zu wechseln. Wenn sich Ihr Notebook beispielsweise in einer Region befindet, die L4-Beschleuniger unterstützt, klicken Sie auf Zu L4 wechseln.

Colab Enterprise erstellt eine neue Standardlaufzeit mit GPUs und stellt dann eine Verbindung zur Laufzeit her. Andere Nutzer im Projekt können zu einer Standardlaufzeit mit GPUs wechseln.

GPUs für Standardlaufzeiten deaktivieren

Wenn Sie die Möglichkeit zum Wechseln zu einer Standardlaufzeit mit GPUs deaktivieren möchten, müssen Sie die Laufzeitvorlage mit dem Namen Default with GPU löschen. Weitere Informationen finden Sie unter Laufzeitvorlage löschen.

Beschränkungen

  • Standardlaufzeiten mit GPUs sind nur in Regionen verfügbar, in denen bestimmte Beschleuniger verfügbar sind. Weitere Informationen finden Sie unter Verfügbarkeit von Beschleunigern.

  • Sie müssen zuerst ein Notebook mit einer Standardlaufzeit verbinden, um zu einer Standardlaufzeit mit GPUs wechseln zu können.

Nächste Schritte