Vorhersagen in Vertex AI abrufen

Eine Vorhersage ist die Ausgabe eines trainierten Modells für maschinelles Lernen. Diese Seite bietet einen Überblick über den Workflow zum Abrufen von Vorhersagen aus Ihren Modellen in Vertex AI.

Vertex AI bietet zwei Methoden zum Abrufen von Vorhersagen:

• Onlinevorhersagen sind synchrone Anfragen an ein Modell, das auf einem endpoint bereitgestellt wird. Entsprechend müssen Sie vor dem Senden einer Anfrage zuerst die Ressource Model auf einem Endpunkt bereitstellen. Dadurch werden dem Modell Rechenressourcen zugeordnet, sodass es Onlinevorhersagen mit niedriger Latenz bereitstellen kann. Verwenden Sie Onlinevorhersagen, wenn Sie Anfragen als Reaktion auf Anwendungseingaben stellen oder wenn zeitnahe Inferenzen erforderlich sind.

• Batchvorhersagen sind asynchrone Anfragen an ein Modell, das nicht auf einem Endpunkt bereitgestellt wird. Sie senden die Anfrage (als BatchPredictionsJob-Ressource) direkt an die Model-Ressource. Verwenden Sie Batchvorhersagen, wenn Sie nicht sofort eine Antwort benötigen und akkumulierte Daten in einer einzigen Anfrage verarbeiten möchten.

Vorhersagen von benutzerdefinierten trainierten Modellen abrufen

Damit Sie Vorhersagen abrufen können, müssen Sie zuerst das Modell importieren. Nach dem Import wird sie zu einer Model-Ressource, die in Vertex AI Model Registry sichtbar ist.

Anschließend erfahren Sie in der folgenden Dokumentation, wie Sie Vorhersagen abrufen:

• Batchvorhersagen abrufen

  Oder

• Modell auf einem Endpunkt bereitstellen und Onlinevorhersagen abrufen

Vorhersagen von AutoML-Modellen abrufen

Im Gegensatz zu benutzerdefinierten trainierten Modellen werden AutoML-Modelle nach dem Training automatisch in die Vertex AI Model Registry importiert.

Ansonsten ist der Workflow für AutoML-Modelle ähnlich, variiert jedoch je nach Datentyp und Modellziel geringfügig. Die Dokumentation zum Abrufen von AutoML-Vorhersagen finden Sie neben der anderen AutoML-Dokumentation. Hier finden Sie Links zur Dokumentation:

Image

Hier erfahren Sie, wie Sie Vorhersagen aus den folgenden Arten von AutoML-Bildmodellen abrufen:

• Bildklassifizierungsmodelle
• Modelle zur Bildobjekterkennung

Tabellarisch

In den folgenden Arten von tabellarischen AutoML-Modellen können Sie Vorhersagen abrufen:

• Tabellarische Klassifizierungs- und Regressionsmodelle

  • Onlinevorhersagen
  • Batchvorhersagen

• Tabellarische Prognosemodelle (nur Batchvorhersagen)

Text

Hier erfahren Sie, wie Sie Vorhersagen aus den folgenden Arten von AutoML-Textmodellen abrufen:

• Textklassifizierungsmodelle
• Modelle zur Extraktion von Textentitäten
• Modelle zur Textsentimentanalyse

Video

Hier erfahren Sie, wie Sie Vorhersagen aus den folgenden Arten von AutoML-Modellen abrufen:

• Modelle zur Videoaktionserkennung (nur Batchvorhersagen)
• Videoklassifizierungsmodelle (nur Batchvorhersagen)
• Modelle zum Videoobjekt-Tracking (nur Batchvorhersagen)

Vorhersagen aus BigQuery ML-Modellen abrufen

Es gibt zwei Möglichkeiten, Vorhersagen aus BigQuery ML-Modellen abzurufen:

• Sie können Batchvorhersagen direkt vom Modell in BigQuery ML anfordern.
• Sie können die Modelle direkt bei der Modell-Registry registrieren, ohne sie aus BigQuery ML zu exportieren oder in die Modell-Registry zu importieren.