Panoramica dell'ottenimento di previsioni su Vertex AI

Una previsione è l'output di un modello di machine learning addestrato. Questa pagina fornisce una panoramica del flusso di lavoro per ottenere le previsioni dai tuoi modelli su Vertex AI.

Vertex AI offre due metodi per ottenere una previsione:

• Le previsioni online sono richieste sincrone effettuate a un modello di cui è stato eseguito il deployment in un endpoint. Pertanto, prima di inviare una richiesta, devi prima eseguire il deployment della risorsa Model in un endpoint. In questo modo, le risorse di calcolo vengono associate al modello in modo che possa fornire previsioni online con bassa latenza. Utilizza le predizioni online quando effettui richieste in risposta all'input dell'applicazione o in situazioni che richiedono un'inferenza tempestiva.

• Le previsioni in batch sono richieste asincrone effettuate a un modello di cui non è stato eseguito il deployment in un endpoint. Invia la richiesta (come BatchPredictionsJob risorsa) direttamente alla risorsa Model. Utilizza le predizioni batch quando non hai bisogno di una risposta immediata e vuoi elaborare i dati accumulati utilizzando una singola richiesta.

Ottenere previsioni da modelli con addestramento personalizzato

Per ottenere le previsioni, devi prima importare il modello. Dopo l'importazione, diventa una risorsa Model visibile in Vertex AI Model Registry.

Poi, leggi la seguente documentazione per scoprire come ottenere le previsioni:

• Generare previsioni batch

  Oppure

• Esegui il deployment del modello nell'endpoint e ottieni le previsioni online.

Ottenere previsioni dai modelli AutoML

A differenza dei modelli con addestramento personalizzato, i modelli AutoML vengono importati automaticamente nel Registro dei modelli di Vertex AI dopo l'addestramento.

A parte questo, il flusso di lavoro per i modelli AutoML è simile, ma varia leggermente in base al tipo di dati e all'obiettivo del modello. La documentazione per ottenere le predizioni di AutoML si trova insieme all'altra documentazione di AutoML. Ecco i link alla documentazione:

Immagine

Scopri come ottenere previsioni dai seguenti tipi di modelli AutoML per le immagini:

• Modelli di classificazione delle immagini
• Modelli di rilevamento di oggetti nelle immagini

Tabulare

Scopri come ottenere previsioni dai seguenti tipi di modelli AutoML tabulari:

• Modelli di classificazione e regressione tabulari

  • Previsioni online
  • Previsioni batch

• Modelli di previsione tabulari (solo previsioni batch)

Testo

Scopri come ottenere previsioni dai seguenti tipi di modelli AutoML di testo:

• Modelli di classificazione del testo
• Modelli di estrazione delle entità di testo
• Modelli di analisi del sentiment del testo

Video

Scopri come ottenere previsioni dai seguenti tipi di modelli AutoML video:

• Modelli di riconoscimento di azioni nei video (solo previsioni batch)
• Modelli di classificazione video (solo previsioni batch)
• Modelli di monitoraggio degli oggetti video (solo previsioni batch)

Ottenere le previsioni dai modelli BigQuery ML

Esistono due modi per ottenere le previsioni dai modelli BigQuery ML:

• Puoi richiedere previsioni in batch direttamente dal modello in BigQuery ML.
• Puoi registrare i modelli direttamente in Model Registry, senza esportarli da BigQuery ML o importarli in Model Registry.