Implantações e endpoints

Mantenha tudo organizado com as coleções Salve e categorize o conteúdo com base nas suas preferências.

Os endpoints de modelo não garantem a disponibilidade da região nem o processamento de ML na região. Para informações sobre a residência de dados, consulte Residência de dados.

Endpoint global

Selecionar um endpoint global para suas solicitações pode melhorar a disponibilidade geral e reduzir os erros de esgotamento de recursos (429). Não use o endpoint global se tiver requisitos de processamento de ML, porque não é possível controlar ou saber para qual região suas solicitações de processamento de ML são enviadas quando uma solicitação é feita.

Modelos compatíveis

O uso do endpoint global é compatível com os seguintes modelos do Google:

• Gemini 2.5 Pro
• Gemini 2.5 Flash
• Gemini 2.0 Flash
• Gemini 2.0 Flash-Lite

Para mais informações sobre modelos de parceiros, consulte Google Cloud localizações de endpoint do modelo de parceiro.

Usar o endpoint global

Para usar o endpoint global, exclua o local do nome do endpoint e configure o local do recurso como global. Por exemplo, o URL de endpoint global a seguir:

https://aiplatform.googleapis.com/v1/projects/test-project/locations/global/publishers/google/models/gemini-2.0-flash-001:generateContent

Para o SDK da IA generativa do Google, crie um cliente que use o local global:

client = genai.Client(
    vertexai=True, project='your-project-id', location='global'
)

Limitações

Os seguintes recursos não estão disponíveis ao usar o endpoint global:

• Ajuste
• Previsão em lote
• O armazenamento em cache de contexto
• Corpus de geração aumentada de recuperação (RAG, na sigla em inglês) (somente para solicitações RAG)

O uso do endpoint global com capacidade de processamento provisionada está disponível apenas para os seguintes modelos:

• Gemini 2.0 Flash
• Gemini 2.0 Flash-Lite

Locais de endpoint de modelo do Google

Os endpoints de modelo do Google para a IA generativa na Vertex AI estão disponíveis nas seguintes regiões.

Google Cloud localizações de endpoint do modelo do parceiro

O Google atende às solicitações da região especificada. Para alguns modelos, o Google também oferece um endpoint global (pré-lançamento) para melhorar a disponibilidade geral e reduzir as taxas de erro. O endpoint global pode ter um conjunto separado de cotas do endpoint regional e não oferece suporte aos requisitos de residência de dados. Para mais informações, consulte a seção "Endpoint regional e global" em Modelos de parceiros da Vertex AI para MaaS.

Os endpoints de modelo do parceiro para a IA generativa na Vertex AI estão disponíveis nas seguintes regiões:

A seguir

• Para conferir um tutorial de notebook que demonstra o endpoint global, consulte Introdução ao endpoint global da Vertex AI.
• Saiba mais sobre a IA generativa na residência de dados da Vertex AI.
• Saiba mais sobre as regiõesGoogle Cloud .
• Saiba mais sobre os controles de segurança por recurso.
• Saiba mais sobre os modelos que oferecem suporte à IA generativa na Vertex AI. Consulte Referência do modelo de fundação da IA generativa.
• Saiba mais sobre os locais da Vertex AI.