Bereitstellungen und Endpunkte

Google- und Partnermodelle sowie generative KI-Funktionen in Vertex AI werden als bestimmte regionale Endpunkte und ein globaler Endpunkt bereitgestellt. Globale Endpunkte decken die ganze Welt ab und bieten eine höhere Verfügbarkeit und Zuverlässigkeit als einzelne Regionen.

Modellendpunkte garantieren keine regionale Verfügbarkeit oder regionale ML-Verarbeitung. Informationen zum Datenstandort finden Sie unter Datenstandort.

Globaler Endpunkt

Wenn Sie einen globalen Endpunkt für Ihre Anfragen auswählen, kann die Gesamtverfügbarkeit verbessert und die Anzahl der Fehler vom Typ „Ressource erschöpft“ (429) reduziert werden. Verwenden Sie den globalen Endpunkt nicht, wenn Sie Anforderungen an die Verarbeitung von ML haben, da Sie nicht steuern oder wissen können, an welche Region Ihre Anfragen zur Verarbeitung von ML gesendet werden, wenn eine Anfrage gestellt wird.

Unterstützte Modelle

Die Verwendung des globalen Endpunkts wird für die folgenden Google-Modelle in den angegebenen Regionen unterstützt. Details dazu, in welchen Regionen der globale Endpunkt unterstützt wird, finden Sie in der Tabelle mit den Standorten der Google-Modellendpunkte auf dem Tab Global.

• Gemini 2.5 Flash-Bildvorschau
• Gemini 2.5 Flash-Lite
• Gemini 2.5 Pro
• Gemini 2.5 Flash
• Gemini 2.0 Flash
• Gemini 2.0 Flash-Lite

Informationen zur globalen Endpunktverfügbarkeit für Partnermodelle finden Sie in der Google Cloud Tabelle mit Endpunktstandorten für Partnermodelle auf dem Tab Global.

Globalen Endpunkt verwenden

Wenn Sie den globalen Endpunkt verwenden möchten, schließen Sie den Standort aus dem Endpunktnamen aus und konfigurieren Sie den Standort der Ressource auf global. Beispiel für eine globale Endpunkt-URL:

https://aiplatform.googleapis.com/v1/projects/test-project/locations/global/publishers/google/models/gemini-2.0-flash-001:generateContent

Erstellen Sie für das Google Gen AI SDK einen Client, der den global-Standort verwendet:

client = genai.Client(
    vertexai=True, project='PROJECT_ID', location='global'
)

Initialisieren Sie das Vertex AI SDK für Python mit dem Standort global:

import vertexai
from vertexai.generative_models import GenerativeModel

vertexai.init(project='PROJECT_ID', location='global')

Beschränkungen

Die folgenden Funktionen sind bei Verwendung des globalen Endpunkts nicht verfügbar:

• Abstimmung
• Batchvorhersage
• RAG-Corpus (RAG-Anfragen werden unterstützt)

Die Verwendung des globalen Endpunkts mit bereitgestelltem Durchsatz ist nur für die folgenden Modelle verfügbar:

Standorte von Google-Modellendpunkten

Google-Modellendpunkte für generative KI in Vertex AI sind in den folgenden Regionen verfügbar.

* Die Region ist nur verfügbar, wenn Sie Provisioned Throughput für eine einzelne Zone verwenden.

+ Supervised Fine-Tuning wird in dieser Region nicht unterstützt.

Google Cloud Endpunktstandorte für Partnermodelle

Google bearbeitet Anfragen aus der von Ihnen angegebenen Region. Für einige Modelle bietet Google auch einen globalen Endpunkt an, um die allgemeine Verfügbarkeit zu verbessern und die Fehlerraten zu senken. Der globale Endpunkt kann separate Kontingente für den regionalen Endpunkt haben und unterstützt keine Anforderungen an den Datenstandort. Weitere Informationen finden Sie im Abschnitt „Regionale und globale Endpunkte“ unter Vertex AI-Partnermodelle für MaaS.

Endpunkte für Partnermodelle für Generative AI in Vertex AI sind in den folgenden Regionen verfügbar:

Nächste Schritte

• Eine Notebook-Anleitung, in der der globale Endpunkt veranschaulicht wird, finden Sie unter Einführung in den globalen Vertex AI-Endpunkt.
• Weitere Informationen zur Datenresidenz für generative KI in Vertex AI
• Google Cloud Weitere Informationen zu Regionen
• Weitere Informationen zu den Sicherheitskontrollen nach Funktion
• Erfahren Sie mehr über die Modelle, die Generative AI in Vertex AI-Unterstützung bieten. Siehe Referenz: Generative AI AI-Modellen.
• Informationen zu Vertex AI-Standorten