Implantações e endpoints

Os endpoints de modelo não garantem a disponibilidade da região nem o processamento de ML na região. Para informações sobre a residência de dados, consulte Residência de dados.

Endpoint global

Selecionar um endpoint global para suas solicitações pode melhorar a disponibilidade geral e reduzir os erros de recursos esgotados (429). Não use o endpoint global se você tiver requisitos de processamento de ML, porque não é possível controlar ou saber para qual região suas solicitações de processamento de ML são enviadas quando uma solicitação é feita.

Modelos compatíveis

O uso do endpoint global é compatível com os seguintes modelos do Google:

• Gemini 2.5 Flash-Lite
• Gemini 2.5 Pro
• Gemini 2.5 Flash
• Gemini 2.0 Flash
• Gemini 2.0 Flash-Lite

Para mais informações sobre modelos de parceiros, consulte Google Cloud locais de endpoint do modelo de parceiro.

Usar o endpoint global

Para usar o endpoint global, exclua o local do nome do endpoint e configure o local do recurso como global. Por exemplo, o seguinte é um URL de endpoint global:

https://aiplatform.googleapis.com/v1/projects/test-project/locations/global/publishers/google/models/gemini-2.0-flash-001:generateContent

Para o SDK da IA generativa do Google, crie um cliente que use o local global:

client = genai.Client(
    vertexai=True, project='PROJECT_ID', location='global'
)

Para o SDK da Vertex AI para Python, inicialize o SDK usando o local global:

import vertexai
from vertexai.generative_models import GenerativeModel

vertexai.init(project='PROJECT_ID', location='global')

Limitações

Os seguintes recursos não estão disponíveis ao usar o endpoint global:

• Ajuste
• Previsão em lote
• O armazenamento em cache de contexto
• Corpus de geração aumentada de recuperação (RAG). As solicitações de RAG são aceitas.

O uso do endpoint global com a capacidade de processamento provisionada está disponível apenas para os seguintes modelos:

Locais de endpoints de modelos do Google

Os endpoints de modelo do Google para a IA generativa na Vertex AI estão disponíveis nas seguintes regiões.

Google Cloud locais de endpoints de modelos de parceiros

O Google atende às solicitações da região especificada. Para alguns modelos, o Google também oferece um endpoint global para melhorar a disponibilidade geral e reduzir as taxas de erros. O endpoint global pode ter um conjunto separado de cotas do endpoint regional e não é compatível com requisitos de residência de dados. Para mais informações, consulte a seção "Endpoint regional e global" em Modelos de parceiros da Vertex AI para MaaS.

Os endpoints de modelos de parceiros para a IA generativa na Vertex AI estão disponíveis nas seguintes regiões:

A seguir

• Para um tutorial de notebook que demonstra o endpoint global, consulte Introdução ao endpoint global da Vertex AI.
• Saiba mais sobre a residência de dados da IA generativa na Vertex AI.
• Saiba mais sobre as Google Cloud regiões.
• Saiba mais sobre os controles de segurança por recurso.
• Saiba mais sobre os modelos que oferecem suporte à IA generativa na Vertex AI. Consulte Referência do modelo de fundação da IA generativa.
• Saiba mais sobre os locais da Vertex AI.