Laufzeitvorlage erstellen.

Auf dieser Seite erfahren Sie, wie Sie eine Laufzeitvorlage in Colab Enterprise erstellen.

Zum Ausführen von Code in Ihrem Notebook verwenden Sie eine Compute-Ressource mit der Bezeichnung Laufzeit. Sie können die Standardlaufzeit oder eine Laufzeit verwenden, die aus einer Laufzeitvorlage erstellt wurde. Wenn Sie eine Laufzeitvorlage erstellen, können Sie sie so konfigurieren, dass die Leistung, die Kosten und andere Merkmale der Laufzeit entsprechend Ihren Anforderungen optimiert werden.

Weitere Informationen zu Laufzeiten und Laufzeitvorlagen.

Hinweise

1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Go to project selector

3. Make sure that billing is enabled for your Google Cloud project.

4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

   Enable the APIs

5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

   Go to project selector

6. Make sure that billing is enabled for your Google Cloud project.

7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

   Enable the APIs

Erforderliche Rollen

Bitten Sie Ihren Administrator, Ihnen die IAM-Rolle „Colab Enterprise Admin“ (roles/aiplatform.colabEnterpriseAdmin) für das Projekt zu erteilen, um die Berechtigungen zu erhalten, die Sie zum Erstellen einer Laufzeitvorlage in Colab Enterprise benötigen. Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

Sie können die erforderlichen Berechtigungen auch über benutzerdefinierte Rollen oder andere vordefinierte Rollen erhalten.

Laufzeitvorlage erstellen

Sie können eine Laufzeitvorlage mit der Google Cloud Console, der Google Cloud CLI, der REST API oder Terraform erstellen.

Console

So erstellen Sie eine Laufzeitvorlage:

1. Rufen Sie in der Google Cloud Console die Seite Laufzeitvorlagen von Colab Enterprise auf.

   Laufzeitvorlagen aufrufen

2. Klicken Sie auf add_box Neue Vorlage.

   Das Dialogfeld Neue Laufzeitvorlage erstellen wird angezeigt.

Laufzeitgrundlagen

1. Geben Sie im Abschnitt Laufzeitgrundlagen einen Anzeigenamen ein.

2. Wählen Sie im Menü Region die Region aus, in der Sie die Laufzeitvorlage platzieren möchten.

3. Optional: Fügen Sie eine Beschreibung der Laufzeitvorlage hinzu.

4. Optional: Klicken Sie zum Hinzufügen eines Labels auf add Label hinzufügen und geben Sie dann ein Paar aus Schlüssel und Wert ein. Wenn Sie weitere Labels hinzufügen möchten, wiederholen Sie diesen Schritt.

5. Klicken Sie auf Weiter.

Computing konfigurieren

1. Wählen Sie im Abschnitt Compute konfigurieren im Menü Maschinentyp einen Maschinentyp aus. Informationen zu Maschinentypen finden Sie im Leitfaden für Maschinenfamilien und Vergleiche.

   Wenn Sie einen Maschinentyp mit GPUs auswählen, wählen Sie den Beschleunigertyp und die Anzahl der Beschleuniger aus. Wenn Sie die gewünschte Anzahl von GPUs nicht auswählen können, müssen Sie möglicherweise Ihr Kontingent erhöhen. Weitere Informationen finden Sie unter Kontingentanpassung anfordern.

2. Wählen Sie im Menü Datenlaufwerktyp einen Laufwerkstyp aus.

3. Geben Sie im Feld Datenlaufwerksgröße eine Größe in GB ein.

4. Im Bereich Herunterfahren bei Inaktivität:

   • Entfernen Sie das Häkchen für Herunterfahren bei Inaktivität aktivieren, um das Herunterfahren bei Inaktivität zu deaktivieren.

   • Wenn Sie den Zeitraum der Inaktivität unter Dauer der Inaktivität vor dem Herunterfahren (Minuten) ändern möchten, ändern Sie den Wert in die Anzahl der gewünschten Minuten an Inaktivität. In der Google Cloud -Konsole kann diese Einstellung auf einen beliebigen Ganzzahlwert zwischen 10 und 1440 gesetzt werden.

5. Klicken Sie auf Weiter.

Umgebung

1. Wählen Sie im Bereich Umgebung eine Umgebung aus. Die Standardeinstellung ist Latest (aktuell Python 3.11).

2. Klicken Sie auf Weiter.

Netzwerk und Sicherheit

1. Wählen Sie im Abschnitt Netzwerk und Sicherheit im Menü Netzwerk ein Netzwerk aus. Wenn Sie kein Netzwerk auswählen, wird Ihr Standardnetzwerk ausgewählt.

2. Wählen Sie im Menü Subnetzwerk ein Subnetzwerk aus.

3. Wenn Sie den öffentlichen Internetzugriff deaktivieren möchten, entfernen Sie das Häkchen bei Öffentlichen Internetzugriff aktivieren.

4. Wenn Sie den Zugriff auf Anmeldedaten von Endnutzern deaktivieren möchten, entfernen Sie das Häkchen aus dem Kästchen Anmeldedaten von Endnutzern aktivieren.

Erstellung der Laufzeitvorlage abschließen

Klicken Sie auf Erstellen, um die Erstellung der Laufzeitvorlage abzuschließen.

Die Laufzeitvorlage wird in der Liste auf dem Tab Laufzeitvorlagen angezeigt.

gcloud

Ersetzen Sie folgende Werte, bevor sie einen der Befehlsdaten verwenden:

• DISPLAY_NAME: Der Anzeigename Ihrer Laufzeitvorlage.
• PROJECT_ID: Ihre Projekt-ID.
• REGION: die Region, in der Sie die Laufzeitvorlage verwenden möchten.
• MACHINE_TYPE: der Maschinentyp, der für die Laufzeit verwendet werden soll.
• ACCELERATOR_TYPE: den Typ des Hardwarebeschleunigers, der für die Laufzeit verwendet werden soll.
• ACCELERATOR_COUNT: die Anzahl der Beschleuniger, die für die Laufzeit verwendet werden sollen.

Führen Sie folgenden Befehl aus:

Linux, macOS oder Cloud Shell

gcloud colab runtime-templates create --display-name="DISPLAY_NAME" \
    --project=PROJECT_ID \
    --region=REGION \
    --machine-type=MACHINE_TYPE \
    --accelerator-type=ACCELERATOR_TYPE \
    --accelerator-count=ACCELERATOR_COUNT

Windows (PowerShell)

gcloud colab runtime-templates create --display-name="DISPLAY_NAME" `
    --project=PROJECT_ID `
    --region=REGION `
    --machine-type=MACHINE_TYPE `
    --accelerator-type=ACCELERATOR_TYPE `
    --accelerator-count=ACCELERATOR_COUNT

Windows (cmd.exe)

gcloud colab runtime-templates create --display-name="DISPLAY_NAME" ^
    --project=PROJECT_ID ^
    --region=REGION ^
    --machine-type=MACHINE_TYPE ^
    --accelerator-type=ACCELERATOR_TYPE ^
    --accelerator-count=ACCELERATOR_COUNT

Weitere Informationen zum Befehl zum Erstellen einer Laufzeitvorlage über die Befehlszeile finden Sie in der Dokumentation zur gcloud CLI.

REST

Ersetzen Sie diese Werte in den folgenden Anfragedaten:

• REGION: die Region, in der Sie die Laufzeitvorlage verwenden möchten.
• PROJECT_ID: Ihre Projekt-ID.
• DISPLAY_NAME: Der Anzeigename Ihrer Laufzeitvorlage.
• MACHINE_TYPE: der Maschinentyp, der für die Laufzeit verwendet werden soll.
• ACCELERATOR_TYPE: den Typ des Hardwarebeschleunigers, der für die Laufzeit verwendet werden soll.
• ACCELERATOR_COUNT: die Anzahl der Beschleuniger, die für die Laufzeit verwendet werden sollen.

HTTP-Methode und URL:

POST https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/notebookRuntimeTemplates

JSON-Text der Anfrage:

{
  "displayName": "DISPLAY_NAME",
  "machineSpec": {
    {
      "machineType": MACHINE_TYPE
      "acceleratorType": ACCELERATOR_TYPE,
      "acceleratorCount": ACCELERATOR_COUNT,
    }
  },
}

Wenn Sie die Anfrage senden möchten, wählen Sie eine der folgenden Optionen aus:

curl

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus:

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/notebookRuntimeTemplates"

PowerShell

Speichern Sie den Anfragetext in einer Datei mit dem Namen request.json und führen Sie den folgenden Befehl aus:

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://REGION-aiplatform.googleapis.com/v1/projects/PROJECT_ID/locations/REGION/notebookRuntimeTemplates" | Select-Object -Expand Content

Bei erfolgreicher Ausführung enthält der Antworttext eine Operation-Instanz.

Weitere Informationen finden Sie in der REST API-Dokumentation für notebookRuntimeTemplates.create.

Terraform

Informationen zum Anwenden oder Entfernen einer Terraform-Konfiguration finden Sie unter Grundlegende Terraform-Befehle. Weitere Informationen finden Sie in der Anbieterreferenzdokumentation zu Terraform.

Im folgenden Beispiel wird die Terraform-Ressource google_colab_runtime_template verwendet, um eine Colab Enterprise-Laufzeitvorlage zu erstellen.

resource "google_compute_network" "my_network" {
  name = "{{index $.Vars "network_name"}}"
  auto_create_subnetworks = false
}

resource "google_compute_subnetwork" "my_subnetwork" {
  name   = "{{index $.Vars "network_name"}}"
  network = google_compute_network.my_network.id
  region = "us-central1"
  ip_cidr_range = "10.0.1.0/24"
}

resource "google_colab_runtime_template" "{{$.PrimaryResourceId}}" {
  name        = "{{index $.Vars "runtime_template_name"}}"
  display_name = "Runtime template full"
  location    = "us-central1"
  description = "Full runtime template"
  machine_spec {
    machine_type     = "n1-standard-2"
    accelerator_type = "NVIDIA_TESLA_T4"
    accelerator_count = "1"
  }

  data_persistent_disk_spec {
    disk_type    = "pd-standard"
    disk_size_gb = 200
  }

  network_spec {
    enable_internet_access = true
    network = google_compute_network.my_network.id
    subnetwork = google_compute_subnetwork.my_subnetwork.id
  }

  labels = {
    k = "val"
  }

  idle_shutdown_config {
    idle_timeout = "3600s"
  }

  euc_config {
    euc_disabled = false
  }

  shielded_vm_config {
    enable_secure_boot = false
  }

  network_tags = ["abc", "def"]

  encryption_spec {
    kms_key_name = "{{index $.Vars "key_name"}}"
  }
}

Zugriff auf die Laufzeitvorlage gewähren

Nachdem Sie eine Laufzeitvorlage erstellt haben, müssen Sie einem Hauptkonto Zugriff auf diese Vorlage gewähren, damit es sie verwenden kann. Ein Nutzer kann eine Laufzeit aus einer Laufzeitvorlage erstellen, nur wenn er Folgendes hat:

• Zugriff auf die Laufzeitvorlage
• Erforderliche Berechtigungen zum Erstellen von Laufzeiten.

Weitere Informationen finden Sie unter Zugriff auf eine Laufzeitvorlage verwalten.

Laufzeitvorlage löschen

So löschen Sie eine Laufzeitvorlage:

1. Rufen Sie in der Google Cloud Console die Seite Laufzeitvorlagen von Colab Enterprise auf.

   Laufzeitvorlagen aufrufen

2. Wählen Sie im Menü Region die Region aus, in der sich Ihre Laufzeitvorlage befindet.

3. Wählen Sie die Laufzeitvorlage aus, die Sie löschen möchten.

4. Klicken Sie auf delete Löschen.

5. Klicken Sie auf Bestätigen.

Fehlerbehebung

In diesem Abschnitt erfahren Sie, wie Sie Probleme beim Erstellen von Laufzeitvorlagen in Colab Enterprise beheben.

Es können nicht genügend GPUs ausgewählt werden

Beim Erstellen einer Laufzeitvorlage können Sie die gewünschte Anzahl von GPUs nicht auswählen. Das liegt möglicherweise daran, dass Ihr Kontingent nicht ausreicht.

Colab Enterprise verwendet das Compute Engine-Kontingent für GPUs. Weitere Informationen finden Sie unter Compute Engine-Kontingente und Limits.

Fordern Sie eine Kontingentanpassung an, um dieses Problem zu beheben.

Nächste Schritte

• Weitere Informationen zu Laufzeiten und Laufzeitvorlagen.
• Weitere Informationen zum Erstellen einer Laufzeit auf Basis einer Laufzeitvorlage.