Cuotas y límites de Vertex AI

Número de chips de TPU v6e para el servicio, por región
Región	Valor
us-west1	No disponible
us-west2	No disponible
us-west3	No disponible
us-west4	No disponible
us-central1	No disponible
us-east1	0
us-east4	No disponible
us-east5	0
us-south1	No disponible
northamerica-northeast1	No disponible
northamerica-northeast2	No disponible
southamerica-east1	No disponible
southamerica-west1	No disponible
europe-west2	No disponible
europe-west1	No disponible
europe-west4	8
europe-west6	No disponible
europe-west3	No disponible
europe-north1	No disponible
europe-central2	No disponible
europe-west8	No disponible
europe-west9	No disponible
europe-southwest1	No disponible
asia-south1	No disponible
asia-south2	No disponible
asia-southeast1	No disponible
asia-southeast2	No disponible
asia-east2	No disponible
asia-east1	No disponible
asia-northeast1	0
asia-northeast2	No disponible
australia-southeast1	No disponible
australia-southeast2	No disponible
asia-northeast3	No disponible
me-west1	No disponible
me-central1	No disponible
me-central2	No disponible
europe-west12	No disponible
africa-south1	No disponible

Límites de modelos con entrenamiento personalizado

Los siguientes límites se aplican a los modelos con entrenamiento personalizado de Vertex AI de un proyecto o región concretos.

sirviendo

Límite	Valor
Número de réplicas por proyecto	200
Número de contenedores por clúster	25.000

Vertex AI Feature Store

En esta sección se indican las cuotas y los límites de los siguientes elementos:

• Vertex AI Feature Store

• Vertex AI Feature Store (antigua)

Vertex AI Feature Store

Las siguientes cuotas se aplican a un proyecto y una región concretos. Por ejemplo, en un mismo proyecto, puedes tener 200 nodos de entrega online en us-central1 y otros 50 nodos en us-east4.

Cuota	Valor
Solicitudes de servicio online por minuto	300.000
Número máximo de instancias de FeatureOnlineStore	10
Número máximo de solicitudes de búsqueda por minuto	6.000.000
Número máximo de nodos de entrega online en todas las instancias de FeatureOnlineStore optimizadas del proyecto	80
Número máximo de instancias de FeatureView en todas las instancias de FeatureOnlineStore	30

Vertex AI Feature Store también tiene los siguientes límites. No puedes solicitar un aumento de ninguno de los límites de la siguiente tabla:

Límite	Valor
Número máximo de recursos FeatureGroup en un proyecto y una ubicación	250
Número máximo de recursos Feature en un FeatureGroup	10.000
Tamaño máximo de los datos de características por entidad	5 MB
Número de IDs de entidad por solicitud de publicación online (FetchFeatureValues)	1
Longitud máxima de un ID de entidad	4076 caracteres
Límite de almacenamiento de un nodo de entrega online optimizada	200 GB

Vertex AI Feature Store (antigua)

Las siguientes cuotas se aplican a un proyecto y una región concretos. Por ejemplo, en un solo proyecto, puedes tener 75 tareas por lotes simultáneas en us-central1 y otras 75 tareas en europe-west4.

Cuota	Valor
Solicitudes de servicio online por minuto	300.000
Solicitudes de ingestión de streaming por minuto	60.000
Rendimiento de escritura de la ingestión en streaming por minuto	1,2 GB
Solicitudes de creación de funciones por minuto	100
Nodos de entrega online en todos los almacenes de características	30
Tareas por lotes simultáneas (ingestión, publicación y eliminación de valores de características combinadas)	75
Solicitudes simultáneas para eliminar valores de características	1
Tipos de entidades de todas las feature stores	75

Vertex AI Feature Store (antigua) también tiene los siguientes límites. No puedes solicitar un aumento de ninguno de los límites de la siguiente tabla:

Límite	Valor
Límite de almacenamiento de un nodo de entrega online	5 TB
Total de datos en el almacenamiento sin conexión	Ilimitado
Funciones por tipo de entidad	5000
Número de solicitudes de creación, actualización y eliminación de almacenes de características por día, proyecto y región	500
En el caso de la ingesta de datos en streaming, el tamaño por solicitud	1 MB
En la lectura de streaming, el número de entidades que se pueden incluir por solicitud	100
En el caso de la importación en lote, el número de archivos que se pueden incluir por solicitud	5000 para Avro o 500 para CSV
Para las solicitudes de servicio y las exportaciones en lote, el número de funciones que puedes solicitar	5000
En la ingestión por lotes y en la ingestión en streaming, la marca de tiempo más antigua para la que se pueden ingerir datos de características.	4000 días a partir de la fecha actual

El límite de conservación de datos en Vertex AI Feature Store (antigua) tiene el siguiente valor predeterminado, que puedes anular:

Valores predeterminados de conservación de datos	Valor predeterminado
Conservación de datos en la tienda sin conexión (marca de tiempo del valor de la función más antiguo a partir del cual se eliminan los valores)	4000 días a partir de la fecha actual
Conservación de datos en la tienda online (la marca de tiempo del valor de la función más antiguo después del cual se eliminan los valores)	4000 días a partir de la fecha actual

Puede anular el límite de conservación de datos de las siguientes formas:

• Para anular el límite de conservación de datos de la tienda online, defina el parámetro online_storage_ttl_days al crear o actualizar un almacén de características.

• Para anular el límite de retención de datos de la tienda offline, defina el parámetro offline_storage_ttl_days al crear o actualizar un tipo de entidad.

.

Vector Search

Las cuotas que se describen a continuación se aplican a Vector Search de un proyecto concreto en cada región.

Vertex ML Metadata

Los siguientes límites se aplican a Vertex ML Metadata de un proyecto concreto en cada región.

Vertex AI Pipelines

Las siguientes cuotas y límites se aplican a Vertex AI Pipelines en un proyecto concreto de cada región.

^* Las solicitudes de ejecución de flujos de trabajo y de tareas que superen este límite se pondrán en cola hasta que haya recursos disponibles.

Vertex AI Pipelines tiene los siguientes límites. Ten en cuenta que, a diferencia de las cuotas, no puedes solicitar un aumento de un límite.

^* Las tareas de la canalización que superen este límite se cancelarán.

Cuotas y límites de Colab Enterprise

Las cuotas y los límites de Colab Enterprise se indican por separado. Consulta las cuotas y los límites de Colab Enterprise.

Aumento de la cuota

Si quieres aumentar alguna de tus cuotas de Vertex AI, puedes solicitarlo a través de la Google Cloud consola.

Para obtener más información sobre cómo enviar una solicitud de aumento de cuota, consulta las siguientes secciones de Ver y gestionar cuotas:

• Solicitar un ajuste de cuota

Cuotas por región y modelo

Ver y editar las cuotas en la Google Cloud consola

Para ver y editar las cuotas en la Google Cloud consola, siga estos pasos:

1. Ve a la página Cuotas y límites del sistema.

Ir a Cuotas y límites del sistema

2. Para ajustar la cuota, copie y pegue la propiedad aiplatform.googleapis.com/generate_content_requests_per_minute_per_project_per_base_model en el filtro. Pulsa Intro.
3. Haz clic en los tres puntos que hay al final de la fila y selecciona Editar cuota.
4. Introduce un nuevo valor de cuota en el panel y haz clic en Enviar solicitud.

Consulta las cuotas de solicitudes por minuto (RPM) por región y por modelo

De forma predeterminada, los modelos de Gemini 2.0 y versiones posteriores usan la cuota compartida dinámica (DSQ).

Elige una región para ver las cuotas de cada modelo disponible:

Aumentar las cuotas

Si quieres aumentar alguna de tus cuotas de IA generativa en Vertex AI, puedes solicitarlo a través de la Google Cloud consola.

Cuotas de RAG Engine

Para que cada servicio realice la generación aumentada de recuperación (RAG) con RAG Engine, se aplican las siguientes cuotas, que se miden como solicitudes por minuto (RPM).

Servicio	Cuota	Métrica
APIs de gestión de datos de RAG Engine	60 RPM	VertexRagDataService requests per minute per region
RetrievalContexts API	600 RPM	VertexRagService retrieve requests per minute per region
base_model: textembedding-gecko	1500 RPM	Online prediction requests per base model per minute per region per base_model Otro filtro que puede especificar es base_model: textembedding-gecko

Se aplican los límites siguientes:

Servicio	Límite	Métrica
Solicitudes simultáneas de ImportRagFiles	3 RPM	VertexRagService concurrent import requests per region
Número máximo de archivos por solicitud ImportRagFiles	10.000	VertexRagService import rag files requests per region

Para obtener más información sobre los límites de frecuencia y las cuotas, consulta los límites de frecuencia de la IA generativa en Vertex AI.

Solicitudes en lote

Las cuotas y los límites de los trabajos de inferencia por lotes son los mismos en todas las regiones.

Límites de tareas de inferencia por lotes simultáneas para modelos de Gemini

No hay límites de cuota predefinidos para la inferencia por lotes de los modelos de Gemini. En su lugar, el servicio de lote proporciona acceso a un gran conjunto de recursos compartidos que se asignan dinámicamente en función de la disponibilidad en tiempo real del modelo y de la demanda de todos los clientes de ese modelo. Cuando haya más clientes activos y se sature la capacidad del modelo, es posible que tus solicitudes por lotes se pongan en cola por falta de capacidad.

Cuotas de tareas de inferencia por lotes simultáneas para modelos que no son de Gemini

En la siguiente tabla se indican las cuotas del número de tareas de inferencia por lotes simultáneas, que no se aplican a los modelos de Gemini:

Cuota	Valor
aiplatform.googleapis.com/textembedding_gecko_concurrent_batch_prediction_jobs	4

Si el número de tareas enviadas supera la cuota asignada, las tareas se colocan en una cola y se procesan cuando la capacidad de la cuota esté disponible.

Cuotas de modelos entrenados personalizados

Las siguientes cuotas se aplican a los modelos ajustados de IA generativa en Vertex AI de un proyecto o región concretos:

Cuota	Valor
Núcleos de pods de TPU V3 para entrenamiento de imágenes restringidas por región * región admitida: europe-west4	64
Entrenamiento de imágenes restringidas con GPUs Nvidia A100 de 80 GB por región * región admitida: us-central1 * región admitida: us-east4	8 2

* Los escenarios de ajuste tienen reservas de aceleradores en regiones específicas. Se admiten cuotas para la optimización, que deben solicitarse en regiones específicas.

Límites de inserción de texto

Cada solicitud puede tener hasta 250 textos de entrada (que generan una inserción por texto de entrada) y 20.000 tokens por solicitud. Solo se usan los primeros 2048 tokens de cada texto de entrada para calcular las inserciones. En el caso de gemini-embedding-001, la cuota se indica en el nombre gemini-embedding.

Tokens de entrada de contenido insertado por minuto y por modelo base

A diferencia de los modelos de inserción anteriores, que estaban limitados principalmente por las cuotas de RPM, la cuota del modelo de inserción de Gemini limita el número de tokens que se pueden enviar por minuto y por proyecto.

Cuota	Valor
Tokens de entrada de contenido insertado por minuto	5.000.000

Cuotas de servicio del servicio de evaluación de la IA generativa

El servicio de evaluación de IA generativa usa gemini-2.0-flash como modelo de juez predeterminado para las métricas basadas en modelos. Una sola solicitud de evaluación de una métrica basada en modelos puede dar lugar a varias solicitudes subyacentes al servicio de evaluación de la IA generativa. La cuota de cada modelo se calcula por proyecto, lo que significa que las solicitudes dirigidas a gemini-2.0-flash para la inferencia de modelos y la evaluación basada en modelos contribuyen a la cuota. En la siguiente tabla se muestran las cuotas del servicio de evaluación de la IA generativa y del modelo de juez subyacente:

Solicitar cuota	Cuota predeterminada
Solicitudes del servicio de evaluación de la IA generativa por minuto	1000 solicitudes por proyecto y región
Solicitudes de predicción online por minuto para base_model: gemini-2.0-flash	Consulta las cuotas por región y modelo.

Si recibes un error relacionado con las cuotas al usar el servicio de evaluación de IA generativa, es posible que tengas que enviar una solicitud de aumento de cuota. Para obtener más información, consulta Ver y gestionar cuotas.

Límite	Valor
Tiempo de espera de la solicitud del servicio de evaluación de la IA generativa	60 segundos

Cuando uses el servicio de evaluación de IA generativa por primera vez en un proyecto nuevo, puede que experimentes un retraso inicial de hasta dos minutos. Si la primera solicitud falla, espera unos minutos y vuelve a intentarlo. Las solicitudes de evaluación posteriores suelen completarse en un plazo de 60 segundos.

El número máximo de tokens de entrada y salida de las métricas basadas en modelos depende del modelo que se utilice como modelo de juez. Consulta los modelos de Google para ver una lista de modelos.

Cuotas de evaluación de flujos de procesamiento

Si recibes un error relacionado con las cuotas al usar el servicio de canalizaciones de evaluación, es posible que tengas que presentar una solicitud de aumento de cuota. Para obtener más información, consulta Ver y gestionar cuotas. El servicio de flujos de procesamiento de evaluación usa Vertex AI Pipelines para ejecutar PipelineJobs. Consulta las cuotas correspondientes de Vertex AI Pipelines. A continuación, se incluyen algunas recomendaciones generales sobre las cuotas:

Servicio	Cuota	Recomendación
API de Vertex AI	Tareas de predicción por lotes de LLM simultáneas por región	Por puntos: 1 * num_concurrent_pipelines Por pares: 2 * num_concurrent_pipelines
API de Vertex AI	Solicitudes de evaluación por minuto y región	1000 * num_concurrent_pipelines

Además, la cuota pertinente para las métricas basadas en modelos depende del modelo de juez que uses:

Tasks	Cuota	Modelo base	Recomendación
summarization question_answering	Solicitudes de predicción online por modelo base por minuto por región por base_model	text-bison	60 * num_concurrent_pipelines

Vertex AI Agent Engine

Se aplican los siguientes límites a Vertex AI Agent Engine en cada región de un proyecto determinado:

Solucionar el error 429

Para solucionar el error 429, consulta Código de error 429.

Siguientes pasos

• Consulta más información sobre las cuotas y los límites de la IA generativa en Vertex AI.