部署和端點

請注意，模型端點無法保證區域可用性或區域內 ML 處理作業。如要瞭解資料落地，請參閱「資料落地」。

全域端點

為要求選取全域端點，可提高整體可用性，同時減少資源耗盡 (429) 錯誤。如有機器學習處理需求，請勿使用全域端點，因為發出要求時，您無法控管或瞭解機器學習處理要求傳送至哪個區域。

支援的模型

下列 Google 模型支援使用全域端點：

• Gemini 2.5 Flash-Lite
• Gemini 2.5 Pro
• Gemini 2.5 Flash
• Gemini 2.0 Flash
• Gemini 2.0 Flash-Lite

如要進一步瞭解合作夥伴模型，請參閱Google Cloud 合作夥伴模型端點位置

使用全域端點

如要使用全域端點，請從端點名稱中排除位置，並將資源位置設為 global。舉例來說，下列是全域端點網址：

https://aiplatform.googleapis.com/v1/projects/test-project/locations/global/publishers/google/models/gemini-2.0-flash-001:generateContent

如果是 Google Gen AI SDK，請建立使用 global 位置的用戶端：

client = genai.Client(
    vertexai=True, project='PROJECT_ID', location='global'
)

如要使用 Vertex AI SDK for Python，請使用 global 位置初始化 SDK：

import vertexai
from vertexai.generative_models import GenerativeModel

vertexai.init(project='PROJECT_ID', location='global')

限制

使用全球端點時，無法使用下列功能：

• 調整
• 批次預測
• 脈絡快取
• 檢索增強生成 (RAG) 語料庫 (支援 RAG 要求)

搭配佈建輸送量使用全域端點時，僅適用於下列模型：

Google 模型端點位置

您可以在下列區域使用 Generative AI on Vertex AI 的 Google 模型端點。

Google Cloud 合作夥伴模型端點位置

Google 會從您指定的區域提供要求。對於部分模型，Google 也提供全球端點，以提升整體可用性並降低錯誤率。全域端點的配額可能與區域端點不同，且不支援資料落地規定。詳情請參閱 MaaS 適用的 Vertex AI 合作夥伴模型中的「區域和全域端點」一節。

Vertex AI 的生成式 AI 合作夥伴模型端點適用於下列區域：

後續步驟

• 如需示範全球端點的筆記本教學課程，請參閱「Vertex AI 全球端點簡介」。
• 進一步瞭解 Vertex AI 生成式 AI 的資料駐留。
• 瞭解Google Cloud 區域。
• 進一步瞭解各項功能的安全性控制項。
• 瞭解支援 Generative AI on Vertex AI 的模型。請參閱「生成式 AI 基礎模型參考資料」。
• 瞭解 Vertex AI 服務地區。