Vertex AI の割り当てと上限

サービング用の v6e TPU チップの数（リージョンごと）
リージョン	値
us-west1	利用不可
us-west2	利用不可
us-west3	利用不可
us-west4	利用不可
us-central1	利用不可
us-east1	0
us-east4	利用不可
us-east5	0
us-south1	利用不可
northamerica-northeast1	利用不可
northamerica-northeast2	利用不可
southamerica-east1	利用不可
southamerica-west1	利用不可
europe-west2	利用不可
europe-west1	利用不可
europe-west4	0
europe-west6	利用不可
europe-west3	利用不可
europe-north1	利用不可
europe-central2	利用不可
europe-west8	利用不可
europe-west9	利用不可
europe-southwest1	利用不可
asia-south1	利用不可
asia-south2	利用不可
asia-southeast1	利用不可
asia-southeast2	利用不可
asia-east2	利用不可
asia-east1	利用不可
asia-northeast1	0
asia-northeast2	利用不可
australia-southeast1	利用不可
australia-southeast2	利用不可
asia-northeast3	利用不可
me-west1	利用不可
me-central1	利用不可
me-central2	利用不可
europe-west12	利用不可
africa-south1	利用不可

カスタム トレーニング済みモデルの上限

特定のプロジェクトとリージョンでは、以下の上限が Vertex AI カスタム トレーニング モデルに適用されます。

サービス提供

上限	値
プロジェクトあたりのレプリカ数	200
クラスタあたりのコンテナ数	25,000

Vertex AI Feature Store

このセクションでは、次の割り当てと上限について説明します。

• Vertex AI Feature Store

• Vertex AI Feature Store（従来版）

Vertex AI Feature Store

次の割り当ては、特定のプロジェクトとリージョンに適用されます。たとえば、1 つのプロジェクトで us-central1 に 200 のオンライン サービング ノードを配置し、us-east4 に別の 50 のノードを配置できます。

割り当て	値
1 分あたりのオンライン サービング リクエスト	300,000
FeatureOnlineStore インスタンスの最大数	10
1 分あたりの検索リクエストの最大数	6,000,000
プロジェクト内で最適化された FeatureOnlineStore インスタンス全体でのオンライン サービング ノードの最大数	80
FeatureOnlineStore インスタンス全体での FeatureView インスタンスの最大数	30

Vertex AI Feature Store には以下の上限もあります。次の表の上限の引き上げはリクエストできません。

上限	値
1 つのプロジェクトとロケーションにおける FeatureGroup リソースの最大数	250
FeatureGroup 内の Feature リソースの最大数	10,000
エンティティあたりの特徴データの最大サイズ	5 MB
オンライン サービス提供リクエストごとのエンティティ ID の数（FetchFeatureValues）	1
エンティティ ID の最大長	4,076 文字
最適化されたオンライン サービング ノードのストレージ上限	200 GB

Vertex AI Feature Store（従来版）

次の割り当ては、特定のプロジェクトとリージョンに適用されます。たとえば、単一プロジェクトでは、us-central1 に 75 個の同時バッチジョブを、europe-west4 に別の 75 個のジョブをそれぞれ持つことができます。

割り当て	値
1 分あたりのオンライン サービング リクエスト	300,000
1 分あたりのストリーミング取り込みリクエスト数	60,000
1 分あたりのストリーミング取り込みの書き込みスループット	1.2 GB
1 分あたりの特徴の作成リクエスト数	100
すべての featurestore にわたるオンライン サービング ノード数	30
同時バッチジョブ（取り込み、サービス提供、特徴値の削除の組み合わせ）	75
特徴値を削除する同時リクエスト	1
すべての featurestore にわたるエンティティ タイプ	75

Vertex AI Feature Store（従来版）には以下の上限もあります。次の表の上限の引き上げはリクエストできません。

上限	値
オンライン サービス提供ノードのストレージ上限	5 TB
オフライン ストアのデータの合計	無制限
エンティティ タイプごとの特徴数	5,000
1 日、1 プロジェクト、1 リージョンあたりの Feature Store リクエストの作成、更新、削除回数	500
ストリーミング取り込みの場合、1 リクエストあたりのサイズ	1 MB
ストリーミング読み取りの場合、リクエストに含めることができるエンティティの数	100
バッチ インポートで、1 回のリクエストに含めることができるファイルの数	5,000（Avro の場合）または 500（CSV の場合）
バッチ サービングとエクスポートでリクエストできる特徴の数	5,000
バッチ取り込みとストリーミング取り込みの場合、特徴データを取り込むことができる最も古いタイムスタンプ	現在の日付から 4,000 日

Vertex AI Feature Store（従来版）のデータの保持上限には次のデフォルト値があり、オーバーライドできます。

データ保持のデフォルト	デフォルト値
オフライン ストアでのデータの保持（最も古い特徴値のタイムスタンプで、値は後に削除されます）	現在の日付から 4,000 日後
オンライン ストアでのデータの保持（最も古い特徴値のタイムスタンプで、値は後に削除されます）	現在の日付から 4,000 日後

データの保持の上限は、次の方法でオーバーライドできます。

• オンライン ストアのデータの保持の上限をオーバーライドするには、featurestore の作成または更新中に online_storage_ttl_days パラメータを設定します。

• オフライン ストアのデータの保持の上限をオーバーライドするには、エンティティ タイプを作成または更新するときに offline_storage_ttl_days パラメータを設定します。

ベクトル検索

各リージョンの特定のプロジェクトのベクトル検索には、次の割り当てが適用されます。

Vertex ML Metadata

各リージョンの特定のプロジェクトでは、以下の上限が Vertex ML Metadata に適用されます。

Vertex AI Pipelines

各リージョンの特定のプロジェクトに対する Vertex AI Pipelines には、次の割り当てと上限が適用されます。

^* この上限を超えるパイプライン実行とタスク リクエストは、リソースが使用可能になるまでキューに入れられます。

Vertex AI Pipelines には次の上限があります。割り当てとは異なり、上限の引き上げをリクエストすることはできません。

^** この上限を超えて実行されているパイプライン タスクはキャンセルされます。

Colab Enterprise の割り当てと上限

Colab Enterprise の割り当てと上限は個別に記載されています。Colab Enterprise の割り当てと上限をご覧ください。

割り当ての増加

Vertex AI の割り当てを引き上げる場合は、 Google Cloud コンソールを使用して割り当ての引き上げをリクエストできます。

割り当て増加リクエストの送信方法については、割り当ての表示と管理の以下のセクションをご覧ください。

• 割り当ての調整をリクエストする

リージョンとモデル別の割り当て

Google Cloud コンソールで割り当てを表示して編集する

Google Cloud コンソールで割り当てを表示して編集するには、次の操作を行います。

1. [割り当てとシステム上限] ページに移動します。

[割り当てとシステム上限] に移動

2. 割り当てを調整するには、[フィルタ] でプロパティ aiplatform.googleapis.com/generate_content_requests_per_minute_per_project_per_base_model をコピーして貼り付けます。Enter キーを押します。
3. 行の末尾にあるその他アイコンをクリックし、[割り当てを編集] を選択します。
4. ペインに新しい割り当て値を入力し、[リクエストを送信] をクリックします。

リージョンとモデル別に 1 分あたりのリクエスト数（RPM）の割り当てを表示する

デフォルトでは、Gemini モデル 2.0 以降は動的共有割り当て（DSQ）を使用します。

使用可能な各モデルの割り当てを表示するには、リージョンを選択します。

割り当てを増やす

Vertex AI の生成 AI の割り当てを引き上げる場合は、 Google Cloud コンソールで割り当ての引き上げをリクエストできます。

RAG Engine の割り当て

RAG Engine を使用して検索拡張生成（RAG）を実行するサービスごとに、次の割り当てが適用されます。割り当ては 1 分あたりのリクエスト数（RPM）で測定されます。

サービス	割り当て	指標
RAG Engine データ マネジメント API	60 RPM	VertexRagDataService requests per minute per region
RetrievalContexts API	1,500 RPM	VertexRagService retrieve requests per minute per region
base_model: textembedding-gecko	1,500 RPM	Online prediction requests per base model per minute per region per base_model 指定できる追加のフィルタは base_model: textembedding-gecko です。

次の上限が適用されます。

サービス	上限	指標
同時に可能な ImportRagFiles リクエスト	3 RPM	VertexRagService concurrent import requests per region
ImportRagFiles リクエストあたりの最大ファイル数	10,000	VertexRagService import rag files requests per region

その他のレート制限と割り当てについては、Vertex AI の生成 AI のレート制限をご覧ください。

バッチ リクエスト

バッチ推論ジョブの割り当てと上限は、すべてのリージョンで同じです。

Gemini モデルの同時バッチ推論ジョブの上限

Gemini モデルのバッチ推論に事前定義された割り当て上限はありません。バッチサービスは、モデルのリアルタイムの可用性と、そのモデルに対するすべてのお客様の需要に基づいて動的に割り当てられる、大規模な共有リソースプールへのアクセスを提供します。アクティブなユーザーが増え、モデルの容量が飽和状態になると、バッチ リクエストが容量不足のためにキューに登録されることがあります。

Gemini 以外のモデルのバッチ推論ジョブの同時実行数の割り当て

次の表に、同時実行バッチ推論ジョブ数の割り当てを示します。これは Gemini モデルには適用されません。

割り当て	値
aiplatform.googleapis.com/textembedding_gecko_concurrent_batch_prediction_jobs	4

送信されたタスク数が指定された割り当てを超えると、タスクはキューに配置され、割り当て容量が使用可能になると処理されます。

カスタム トレーニング モデルの割り当て

特定のプロジェクトとリージョンに対して、Vertex AI の生成 AI のチューニング済みモデルには、次の割り当てが適用されます。

割り当て	値
リージョンごとの制限付きイメージ トレーニング TPU V3 Pod コア * サポート対象のリージョン - europe-west4	64
リージョンごとの制限付きイメージ トレーニング Nvidia A100 80 GB GPU * サポート対象のリージョン - us-central1 * サポート対象のリージョン - us-east4	8 2

* チューニング シナリオでは、特定のリージョンでのアクセラレータの予約があります。チューニングの割り当てはサポートされているため、特定のリージョンでリクエストする必要があります。

テキスト エンベディングの上限

各リクエストには、最大 250 個の入力テキスト（入力テキストごとに 1 つのエンベディングを生成）と、リクエストごとに 20,000 個のトークンを指定できます。エンベディングの計算には、各入力テキストの最初の 2,048 トークンのみが使用されます。gemini-embedding-001 の場合、割り当ては gemini-embedding という名前で一覧表示されます。

1 ベースモデルの 1 分あたりのコンテンツ埋め込み入力トークン数

以前のエンベディング モデルは主に RPM 割り当てによって制限されていましたが、Gemini エンベディング モデルの割り当てでは、プロジェクトごとに 1 分あたりに送信できるトークンの数が制限されます。

割り当て	値
1 分あたりに埋め込まれるコンテンツ入力トークン	5,000,000

Gen AI Evaluation Service のサービス割り当て

Gen AI Evaluation Service は、モデルベースの指標のデフォルトの判定モデルとして gemini-2.0-flash を使用します。モデルベースの指標の 1 回の評価リクエストで、Gen AI Evaluation Service に対して基盤となるリクエストが複数発生する場合があります。各モデルの割り当てはプロジェクトごとに計算されます。つまり、モデル推論とモデルベースの評価のために gemini-2.0-flash に送信されるリクエストはすべて割り当てにカウントされます。次の表に、Gen AI Evaluation Service と基盤となる判定モデルの割り当てを示します。

リクエストの割り当て	デフォルトの割り当て
1 分あたりの Gen AI Evaluation Service リクエスト	1 プロジェクト、1 リージョンあたり 1,000 件のリクエスト
base_model: gemini-2.0-flash の 1 分あたりのオンライン予測リクエスト数	リージョンとモデル別の割り当てをご覧ください。

Gen AI Evaluation Service の使用中に割り当てに関するエラーが発生した場合は、割り当ての増加をリクエストする必要があります。詳細については、割り当ての表示と管理をご覧ください。

上限	値
Gen AI Evaluation Service リクエストのタイムアウト	60 秒

新しいプロジェクトで Gen AI Evaluation Service を初めて使用する場合は、初期設定による遅延が発生することがあります（通常は 2 分以内）。最初のリクエストが失敗した場合は、数分待ってから再試行してください。その後の評価リクエストは通常、60 秒以内に完了します。

モデルベースの指標の入力トークンと出力トークンの上限は、判定モデルとして使用されるモデルによって異なります。モデルのリストについては、Google モデルをご覧ください。

パイプライン評価の割り当て

パイプライン評価サービスの使用中に割り当てに関するエラーが発生した場合は、割り当ての増加リクエストを提出する必要があります。詳細については、割り当ての表示と管理をご覧ください。評価パイプライン サービスは、Vertex AI Pipelines を使用して PipelineJobs を実行します。Vertex AI Pipelines の関連の割り当てをご覧ください。一般的な割り当ての推奨事項は次のとおりです。

サービス	割り当て	推奨事項
Vertex AI API	リージョンごとの同時 LLM バッチ予測ジョブ数	ポイントワイズ: 1 * num_concurrent_pipelines ペアワイズ: 2 * num_concurrent_pipelines
Vertex AI API	1 分、1 リージョンあたりの評価リクエストの数	1,000 × num_concurrent_pipelines

また、モデルベースの指標の関連する割り当ては、使用する判定モデルによって異なります。

タスク	割り当て	ベースモデル	推奨事項
summarization question_answering	1 分あたりのベースモデルごとのオンライン予測リクエスト数（リージョン、base_model ごと）	text-bison	60 × num_concurrent_pipelines

Vertex AI Agent Engine

各リージョンの特定のプロジェクトの Vertex AI Agent Engine には、次の上限が適用されます。

エラーコード 429 のトラブルシューティング

429 エラーのトラブルシューティングについては、エラーコード 429 をご覧ください。

次のステップ

• Vertex AI の割り当てと上限に関する生成 AI の詳細を確認する。