Einrichtung für Ray in Vertex AI

Bevor Sie Ray on Vertex AI verwenden, führen Sie die Schritte zum Einrichten Ihres Google-Projekts und des Vertex AI SDK für Python aus:

  1. Führen Sie die Schritte unter Projekt und Entwicklungsumgebung einrichten aus, um die Abrechnung für Ihr Projekt einzurichten. Installieren Sie die gcloud CLI und aktivieren Sie die Vertex AI API.

    Vertex AI API aktivieren

  2. Voraussetzung: Sie sollten wissen, wie Sie Programme mit Open-Source-Ray entwickeln.

  3. Das hier verwendete Ray on Vertex AI SDK für Python ist eine Version des Vertex AI SDK für Python, die die Funktionen von Ray Client, Ray BigQuery Connector, der Ray-Clusterverwaltung in Vertex AI und Vorhersagen in Vertex AI umfasst.

    • Wenn Sie Ray on Vertex AI in der Google Cloud Console verwenden, führt Sie ein Colab Enterprise-Notebook durch den Installationsprozess von Vertex AI SDK für Python, nachdem Sie einen Ray-Cluster erstellt haben:

    • Wenn Sie Ray on Vertex AI in der Vertex AI Workbench oder einer anderen interaktiven Python-Umgebung verwenden, installieren Sie das Vertex AI SDK für Python:

      # The latest image in the Ray cluster includes Ray 2.33
# The latest supported Python version is Python 3.10.
$ pip install google-cloud-aiplatform[ray]

      Starten Sie den Kernel nach der Installation des SDK neu, bevor Sie Pakete importieren.

  4. Optional: Wenn Sie Daten aus BigQuery lesen möchten, müssen Sie ein neues BigQuery-Dataset erstellen oder ein vorhandenes Dataset verwenden.

  5. (Optional) Um das Risiko einer Daten-Exfiltration aus Vertex AI zu minimieren, können Sie VPC Service Controls aktivieren und beim Erstellen eines Clusters ein VPC-Netzwerk angeben. Weitere Informationen finden Sie unter VPC Service Controls mit Vertex AI.

    Wenn Sie VPC Service Controls aktivieren, können Sie keine Ressourcen außerhalb des Perimeters erreichen, z. B. Dateien in einem Cloud Storage-Bucket.

  6. Optional: Wenn Sie ein benutzerdefiniertes Container-Image verwenden möchten, hosten Sie es in der Artifact Registry. Mit einem benutzerdefinierten Image können Sie Python-Abhängigkeiten hinzufügen, die nicht in den vorkonfigurierten Container-Images enthalten sind. Informationen zum Erstellen benutzerdefinierter Images finden Sie in der Docker-Dokumentation unter „Software verpacken“.

  7. (Optional) Wenn Sie beim Erstellen eines Ray-Clusters in Vertex AI ein VPC-Netzwerk angeben, empfehlen wir Ihnen dringend, in Ihrem Projekt ein VPC-Netzwerk im automatischen Modus zu verwenden. VPC-Netzwerke im benutzerdefinierten Modus und mehrere VPC-Netzwerke im selben Projekt werden nicht unterstützt und können dazu führen, dass die Clustererstellung fehlschlägt.

Cluster schützen

Befolgen Sie die Best Practices und Richtlinien für Ray, einschließlich des Ausführens vertrauenswürdigen Codes in vertrauenswürdigen Netzwerken, um Ihre Ray-Arbeitslasten zu schützen. Die Bereitstellung von ray.io in Ihren Cloud-Instanzen fällt unter das Modell der geteilten Verantwortung.

Weitere Informationen zu den Best Practices von Google Cloud finden Sie im Sicherheitsbulletin GCP-2024-020.

Unterstützte Standorte

In der Tabelle Featureverfügbarkeit für benutzerdefiniertes Modelltraining werden die verfügbaren Standorte für Ray on Vertex AI aufgeführt.

Nächste Schritte