Vergleich von benutzerdefiniertem Training in Vertex AI und Ray in Vertex AI
Vertex AI bietet zwei Optionen für benutzerdefiniertes Training: benutzerdefiniertes Training in Vertex AI und Ray in Vertex AI. Auf dieser Seite finden Sie Informationen, die Ihnen bei der Entscheidung zwischen diesen beiden Optionen helfen können.
| Vertex AI Training | Ray in Vertex AI | |
|---|---|---|
| Fokus | Training von benutzerdefinierten Modellen für allgemeine Zwecke. | Skalierung von KI- und Python-Anwendungen, einschließlich Modelltraining, verteilter Anwendungen und Modellbereitstellung. |
| Zugrunde liegendes Framework | Unterstützt verschiedene ML-Frameworks, z. B. TensorFlow, PyTorch und scikit-learn. | Nutzt das Open-Source-Framework Ray. Unterstützt verschiedene Frameworks: TensorFlow, PyTorch, scikit-learn und Spark on Ray mit RayDP. |
| Flexibilität | Hohe Flexibilität in Bezug auf Code und Umgebung. | Hohe Flexibilität beim Erstellen verteilter Anwendungen; vorhandener Ray-Code kann mit minimalen Änderungen verwendet werden. |
| Skalierbarkeit | Unterstützt verteiltes Training auf mehreren Maschinen. Bietet skalierbare Rechenressourcen (CPUs, GPUs, TPUs). | Für hohe Skalierbarkeit mit den Funktionen für verteiltes Computing von Ray (bis zu 2.000 Knoten) konzipiert. Unterstützt manuelles und Autoscaling. |
| Integration | In andere Vertex AI-Dienste eingebunden (Datasets, Vertex AI Experiments usw.). | Integration mit anderen Google Cloud Diensten wie Vertex AI Inference und BigQuery. |
| Nutzerfreundlichkeit | Einfachere Verwendung für Standardparadigmen für verteiltes Training. | Erfordert Vertrautheit mit den Konzepten des Ray-Frameworks. |
| Umgebung | Verwaltete Umgebung zum Ausführen von benutzerdefiniertem Trainingscode mit vordefinierten oder benutzerdefinierten Containern. | Verwaltete Umgebung für die Ausführung verteilter Anwendungen mit dem Ray-Framework; vereinfacht die Verwaltung des Ray-Clusters in Vertex AI. |
| Hyperparameter-Feinabstimmung | Enthält Funktionen zur Hyperparameter-Abstimmung. | Vereinfacht die Hyperparameter-Abstimmung mit Tools für effiziente Optimierung und Testverwaltung. |
| Trainingspipelines | Unterstützt komplexe ML-Workflows mit mehreren Schritten. | Nicht zutreffend. |
Wichtige Unterschiede zwischen benutzerdefiniertem Vertex AI-Training und Ray in Vertex AI
Das benutzerdefinierte Training in Vertex AI ist ein umfassenderer Dienst, der verschiedene Trainingsmethoden verwaltet, während bei Ray on Vertex AI speziell das verteilte Ray-Computing-Framework verwendet wird.
| Vertex AI Training | Ray in Vertex AI | |
|---|---|---|
| Fokus | Konzentriert sich hauptsächlich auf die Modellentwicklung und das Modelltraining. Verwaltet verschiedene Trainingsmethoden. | Entwickelt für allgemeine verteilte Python-Anwendungen, einschließlich Datenverarbeitung, Modellbereitstellung und Skalierung des Trainings. |
| Zugrunde liegendes Framework | An die verteilten Funktionen bestimmter ML-Frameworks (z. B. TensorFlow, PyTorch) gebunden. | Ray wird als zentrales Framework für verteiltes Computing verwendet. Verarbeitet die Aufgabenverteilung unabhängig vom zugrunde liegenden ML-Framework, das in Ray-Aufgaben verwendet wird. |
| Ressourcenkonfiguration | Ressourcen für einzelne Trainingsjobs konfigurieren | Ray-Cluster in Vertex AI-Clustern verwalten. Ray übernimmt die Verteilung von Aufgaben innerhalb des Clusters. |
| Konfiguration des Vertriebs | Konfigurieren Sie die Anzahl und die Typen der Replikate für einen bestimmten Trainingsjob. | Konfigurieren Sie die Größe und Zusammensetzung des Ray-Clusters in Vertex AI. Der Scheduler von Ray verteilt Aufgaben und Akteure dynamisch auf die verfügbaren Knoten. |
| Vertriebsumfang | In der Regel auf einen einzelnen, potenziell lang andauernden Trainingsjob ausgerichtet. | Bietet eine persistentere und universellere Umgebung für verteiltes Computing, in der Sie mehrere verteilte Aufgaben und Anwendungen über den gesamten Lebenszyklus des Ray-Clusters hinweg ausführen können. |
Zusammenfassung
Wenn Sie die Leistungsfähigkeit des verteilten Computing mit dem Ray-Framework in der Google Cloud Umgebung nutzen möchten, ist Ray on Vertex AI der richtige Dienst für Sie. Ray on Vertex AI kann als spezielles Tool innerhalb des größeren Vertex AI-Ökosystems betrachtet werden, das sich besonders für hochgradig skalierbare und verteilte Arbeitslasten eignet.
Wenn Sie eine allgemeinere verwaltete Plattform für verschiedene Modelltrainingsansätze benötigen, einschließlich automatisierter Optionen, Ausführung von benutzerdefiniertem Code und Hyperparameter-Abstimmung, sind die umfassenderen benutzerdefinierten Vertex AI-Trainingsdienste nützlich.