Deployment ed endpoint

Tieni presente che gli endpoint del modello non garantiscono la disponibilità della regione o l'elaborazione ML nella regione. Per informazioni sulla residenza dei dati, consulta Residenza dei dati.

Endpoint globale

Selezionare un endpoint globale per le richieste può migliorare la disponibilità complessiva riducendo gli errori di esaurimento delle risorse (429). Non utilizzare l'endpoint globale se hai requisiti di elaborazione ML, perché non puoi controllare o sapere a quale regione vengono inviate le tue richieste di elaborazione ML quando viene effettuata una richiesta.

Modelli supportati

L'utilizzo dell'endpoint globale è supportato per i seguenti modelli Google:

• Gemini 2.5 Flash-Lite
• Gemini 2.5 Pro
• Gemini 2.5 Flash
• Gemini 2.0 Flash
• Gemini 2.0 Flash-Lite

Per saperne di più sui modelli partner, consulta Google Cloud partner model endpoint locations

Utilizzare l'endpoint globale

Per utilizzare l'endpoint globale, escludi la località dal nome dell'endpoint e configura la località della risorsa su global. Ad esempio, il seguente è l'URL dell'endpoint globale:

https://aiplatform.googleapis.com/v1/projects/test-project/locations/global/publishers/google/models/gemini-2.0-flash-001:generateContent

Per l'SDK Google Gen AI, crea un client che utilizzi la posizione global:

client = genai.Client(
    vertexai=True, project='PROJECT_ID', location='global'
)

Per l'SDK Vertex AI per Python, inizializza l'SDK utilizzando la località global:

import vertexai
from vertexai.generative_models import GenerativeModel

vertexai.init(project='PROJECT_ID', location='global')

Limitazioni

Le seguenti funzionalità non sono disponibili quando utilizzi l'endpoint globale:

• Ottimizzazione
• Previsione batch
• Memorizzazione nella cache del contesto
• Corpus RAG (Retrieval-Augmented Generation) (le richieste RAG sono supportate)

L'utilizzo dell'endpoint globale con il throughput riservato è disponibile solo per i seguenti modelli:

Posizioni degli endpoint del modello Google

Gli endpoint dei modelli Google per l'AI generativa su Vertex AI sono disponibili nelle seguenti regioni.

Google Cloud posizioni degli endpoint del modello partner

Google gestisce le richieste provenienti dalla regione che hai specificato. Per alcuni modelli, Google offre anche un endpoint globale per migliorare la disponibilità complessiva e ridurre i tassi di errore. L'endpoint globale può avere un insieme separato di quote rispetto all'endpoint regionale e non supporta i requisiti di residenza dei dati. Per ulteriori informazioni, consulta la sezione "Endpoint regionali e globali" in Modelli partner di Vertex AI per MaaS.

Gli endpoint dei modelli partner per l'AI generativa su Vertex AI sono disponibili nelle seguenti regioni:

Passaggi successivi

• Per un tutorial sui blocchi note che mostra l'endpoint globale, consulta Introduzione all'endpoint globale Vertex AI.
• Scopri di più sulla residenza dei dati dell'AI generativa su Vertex AI.
• Scopri di più sulle Google Cloud regioni.
• Scopri di più sui controlli di sicurezza per funzionalità.
• Scopri di più sui modelli che forniscono il supporto dell'IA generativa su Vertex AI. Consulta Riferimento al modello di base di AI generativa.
• Scopri di più sulle località di Vertex AI.