Cuotas y límites de Vertex AI

Organiza tus páginas con colecciones Guarda y categoriza el contenido según tus preferencias.

Cantidad de chips TPU v5e para entregar, por región
Región	Valor
us-west1	4
us-west2	No disponible
us-west3	No disponible
us-west4	No disponible
us-central1	No disponible
us-east1	No disponible
us-east4	No disponible
us-east5	No disponible
us-south1	No disponible
northamerica-northeast1	No disponible
northamerica-northeast2	No disponible
southamerica-east1	No disponible
southamerica-west1	No disponible
europe-west2	No disponible
europe-west1	No disponible
europe-west4	No disponible
europe-west6	No disponible
europe-west3	No disponible
europe-north1europe-central2	No disponible
europe-west8	No disponible
europe-west9	No disponible
europe-southwest1asia-south1	No disponible
asia-southeast1	No disponible
asia-southeast2	No disponible
asia-east2	No disponible
asia-east1	No disponible
asia-northeast1	No disponible
asia-northeast2	No disponible
australia-southeast1	No disponible
australia-southeast2	No disponible
asia-northeast3	No disponible
me-west1	No disponible
me-central1	No disponible
me-central2	No disponible
europe-west12	No disponible
africa-south1	No disponible

Límites de los modelos entrenados de forma personalizada

Los siguientes límites se aplican a los modelos personalizados entrenados de Vertex AI para un proyecto y una región determinados.

Entrega

Límite	Valor
Cantidad de réplicas por proyecto	200
Cantidad de contenedores por clúster	25,000

Vertex AI Feature Store

En esta sección, se enumeran las cuotas y los límites de lo siguiente:

• Vertex AI Feature Store

• Vertex AI Feature Store (heredado)

Vertex AI Feature Store

Las siguientes cuotas se aplican a un proyecto y una región determinados. Por ejemplo, en un solo proyecto, puedes tener 200 nodos de publicación en línea en us-central1 y otros 50 en us-east4.

Cuota	Valor
Solicitudes de entrega en línea por minuto	300,000
Número máximo de instancias de FeatureOnlineStore	10
Cantidad máxima de solicitudes de búsqueda por minuto	6,000,000
Cantidad máxima de nodos de entrega en línea en todas las instancias de FeatureOnlineStore optimizadas del proyecto	80
Cantidad máxima de instancias FeatureView en las instancias de FeatureOnlineStore	30

Vertex AI Feature Store también tiene los siguientes límites. No puedes solicitar un aumento de ninguno de los límites de la siguiente tabla:

Límite	Valor
Cantidad máxima de recursos FeatureGroup en un proyecto y una ubicación	250
Cantidad máxima de recursos Feature en un FeatureGroup	10,000
Tamaño máximo de los datos de los atributos por entidad	5 MB
Cantidad de IDs de las entidades por solicitud de entrega en línea (FetchFeatureValues)	1
Longitud máxima de un ID de entidad	4,076 caracteres
Límite de almacenamiento de un nodo de entrega en línea	200 GB

Vertex AI Feature Store (heredado)

Las siguientes cuotas se aplican a un proyecto y una región determinados. Por ejemplo, en un solo proyecto, puedes tener 75 trabajos por lotes simultáneos en us-central1 y otros 75 trabajos en europe-west4.

Cuota	Valor
Solicitudes de entrega en línea por minuto	300,000
Solicitudes de transferencia de transmisión por minuto	60,000
Capacidad de procesamiento de escritura de transferencia de transmisión por minuto	1,2 GB
Solicitudes de creación de atributos por minuto	100
Entrega de nodos en línea en todos los almacenes de atributos	30
Trabajos por lotes simultáneos (transferencia, entrega y eliminación de valores de atributos combinados)	75
Solicitudes simultáneas para borrar valores de atributos	1
Tipos de entidad en todos los almacenes de atributos	75

El almacén de atributos de Vertex AI también tiene los siguientes límites. No puedes solicitar un aumento de ninguno de los límites de la siguiente tabla:

Límite	Valor
Límite de almacenamiento de un nodo de entrega en línea	5 TB
Total de datos en el almacén sin conexión	Ilimitado
Atributos por tipo de entidad	5,000
Cantidad de solicitudes de creación, actualización y eliminación de featurestores por día, por proyecto y por región	500
Para la transferencia de transmisión, el tamaño por solicitud	1 MB
Para la lectura de transmisión, la cantidad de entidades que se pueden incluir por solicitud	100
Para la importación por lotes, la cantidad de archivos que se pueden incluir por solicitud	5,000 para Avro o 500 para CSV
Para la entrega y las exportaciones por lotes, la cantidad de funciones que puedes solicitar	5,000
En el caso de la transferencia por lotes y de transmisión, la marca de tiempo más antigua para la que se pueden transferir los datos de atributos	4,000 días a partir de la fecha actual

El límite de retención de datos en Vertex AI Feature Store (heredado) tiene el siguiente valor predeterminado, que puedes anular:

Configuración predeterminada de retención de datos	Valor predeterminado
Retención de datos en el almacenamiento sin conexión (marca de tiempo del valor de atributo más antiguo después de la cual se borran los valores)	4,000 días a partir de la fecha actual
Retención de datos en la tienda en línea (marca de tiempo del valor de atributo más antiguo después de la cual se borran los valores)	4,000 días a partir de la fecha actual

Puedes anular el límite de retención de datos de las siguientes maneras:

• Para anular el límite de retención de datos de la tienda en línea, configura el parámetro online_storage_ttl_days mientras creas o actualizas un almacén de atributos.

• Para anular el límite de retención de datos del almacén sin conexión, configura el parámetro offline_storage_ttl_days mientras creas o actualizas un tipo de entidad.

Búsqueda de vectores

Las siguientes cuotas se aplican a Vector Search para un proyecto determinado en cada región.

Vertex ML Metadata

Los siguientes límites se aplican a Vertex ML Metadata para un proyecto determinado en cada región.

Vertex AI Pipelines

Los siguientes límites y cuotas se aplican a Vertex AI Pipelines para un proyecto determinado en cada región.

^* Las solicitudes de ejecución o tareas de canalizaciones que exceden este límite se ponen en cola hasta que los recursos están disponibles.

Vertex AI Pipelines tiene los siguientes límites. Ten en cuenta que, a diferencia de las cuotas, no puedes solicitar un aumento del límite.

^* Las tareas de canalización que se ejecuten más allá de este límite se cancelarán.

Vertex AI Decision Optimization

Los siguientes límites y cuotas se aplican a Vertex AI Decision Optimization para un proyecto determinado en cada región.

Cuotas y límites de Colab Enterprise

Las cuotas y los límites de Colab Enterprise se enumeran por separado. Consulta Cuotas y límites de Colab Enterprise.

Aumentos de cuota

Si quieres aumentar tus cuotas para Vertex AI, puedes usar la consola de Google Cloud para solicitar un aumento de la cuota.

Si deseas obtener más información para enviar una solicitud de aumento de cuota, consulta las siguientes secciones en Trabaja con cuotas:

• Solicita una cuota más alta

Cuotas por región y modelo

Consulta y edita las cuotas en la consola de Google Cloud

Para ver y editar las cuotas en la consola de Google Cloud, haz lo siguiente:

1. Ve a la página Cuotas y límites del sistema.

Ir a Cuotas y límites del sistema

2. Para ajustar la cuota, copia y pega la propiedad aiplatform.googleapis.com/generate_content_requests_per_minute_per_project_per_base_model en Filtro. Presiona Intro.
3. Haz clic en los tres puntos al final de la fila y selecciona Editar cuota.
4. Ingresa un nuevo valor de cuota en el panel y haz clic en Enviar solicitud.

Consulta las cuotas de solicitudes por minuto (QPM) por región y por modelo

De forma predeterminada, los modelos 2.0 y versiones posteriores usan la cuota compartida dinámica (DSQ).

Elige una región para ver las cuotas de cada modelo disponible:

Aumenta las cuotas

Si quieres aumentar tus cuotas para IA generativa en Vertex AI, puedes usar la consola de Google Cloud para solicitar un aumento de la cuota.

Cuotas de RAG Engine

Para que cada servicio realice la generación de aumento de recuperación (RAG) con el motor de RAG, se aplican las siguientes cuotas, que se miden como solicitudes por minuto (RPM).

Servicio	Cuota	Métrica
APIs de administración de datos de RAG Engine	60 rpm	VertexRagDataService requests per minute per region
API RetrievalContexts	1,500 RPM	VertexRagService retrieve requests per minute per region
base_model: textembedding-gecko	1,500 RPM	Online prediction requests per base model per minute per region per base_model Un filtro adicional que puedes especificar es base_model: textembedding-gecko

Se aplican los siguientes límites:

Servicio	Límite	Métrica
Solicitudes ImportRagFiles simultáneas	3 rpm	VertexRagService concurrent import requests per region
Cantidad máxima de archivos por solicitud ImportRagFiles	10,000	VertexRagService import rag files requests per region

Para obtener más información sobre los límites de frecuencia y las cuotas, consulta Límites de frecuencia de la IA generativa en Vertex AI.

Solicitudes por lotes

Las cuotas y los límites de las solicitudes de predicción por lotes son los mismos en todas las regiones.

Límites de solicitudes simultáneas de predicción por lotes

En la siguiente tabla, se enumeran los límites de la cantidad de solicitudes de predicción por lotes simultáneas:

Límite	Valor
Modelos de Gemini	8

Si la cantidad de tareas enviadas excede el límite asignado, las tareas se colocan en una cola y se procesan cuando la capacidad del límite está disponible.

Cuotas de solicitudes simultáneas de predicción por lotes

En la siguiente tabla, se enumeran las cuotas de la cantidad de solicitudes de predicción por lotes simultáneas, que no se aplican a los modelos de Gemini:

Cuota	Valor
aiplatform.googleapis.com/textembedding_gecko_concurrent_batch_prediction_jobs	4

Si la cantidad de tareas enviadas excede la cuota asignada, las tareas se colocan en una cola y se procesan cuando la capacidad de la cuota está disponible.

Cuotas de un modelo entrenado personalizado

Las siguientes cuotas se aplican a los modelos generativos de IA de Vertex AI para un proyecto y una región determinados:

Cuota	Valor
Núcleos de pods de TPU V3 de entrenamiento de imagen restringido por región *Región compatible: europe-west4	64
GPU Nvidia A100 de 80 GB de entrenamiento de imagen restringido por región * Región compatible: us-central1 * Región compatible: us-east4	8 2

* Las situaciones de ajuste tienen reservas de aceleradores en regiones específicas. Las cuotas para el ajuste son compatibles y deben solicitarse en regiones específicas.

Límites de embedding de texto

Cada solicitud de modelo de incorporación de texto puede tener hasta 250 textos de entrada (generando 1 incorporación por texto de entrada) y 20,000 tokens por solicitud. Solo se usan los primeros 2,048 tokens de cada texto de entrada para calcular las incorporaciones.

En el caso de text-embedding-large-exp-03-07, los primeros 8,192 tokens de cada texto de entrada se usan para calcular las incorporaciones, y cada solicitud solo puede incluir un texto de entrada. La cuota de este modelo aparece con el nombre text-embedding-large-001.

Cuotas de Gen AI Evaluation Service

El servicio de evaluación de Gen AI usa gemini-2.0-flash como modelo de juez predeterminado para las métricas basadas en modelos. Una sola solicitud de evaluación para una métrica basada en modelos puede dar como resultado varias solicitudes subyacentes al servicio de evaluación de IA generativa. La cuota de cada modelo se calcula por proyecto, lo que significa que cualquier solicitud dirigida a gemini-2.0-flash para la inferencia de modelo y la evaluación basada en modelos contribuyen a la cuota. Las cuotas del servicio de evaluación de IA generativa y del modelo de juez subyacente se muestran en la siguiente tabla:

Solicita una cuota	Cuota predeterminada
Solicitudes de Gen AI Evaluation Service por minuto	1,000 solicitudes por proyecto y por región
Solicitudes de predicción en línea por minuto para base_model: gemini-2.0-flash	Consulta Cuotas por región y modelo.

Si recibes un error relacionado con las cuotas mientras usas el servicio de evaluación de IA general, es posible que debas presentar una solicitud de aumento de cuota. Consulta Visualiza y administra las cuotas para obtener más información.

Límite	Valor
Tiempo de espera de la solicitud de Gen AI Evaluation Service	60 segundos

Cuando uses el servicio de evaluación de IA generativa por primera vez en un proyecto nuevo, es posible que experimentes un retraso de configuración inicial de hasta dos minutos. Si tu primera solicitud falla, espera unos minutos y vuelve a intentarlo. Las solicitudes de evaluación posteriores suelen completarse en 60 segundos.

Los tokens de entrada y salida máximos para las métricas basadas en modelos dependen del modelo que se usa como modelo de juez. Consulta Modelos de Google para ver una lista de modelos.

Cuotas de evaluación de canalizaciones

Si recibes un error relacionado con las cuotas mientras usas el servicio de canalizaciones de evaluación, es posible que debas presentar una solicitud de aumento de cuota. Consulta Ver y administrar cuotas para obtener más información. El servicio de canalizaciones de evaluación usa Vertex AI Pipelines para ejecutar PipelineJobs. Consulta las cuotas relevantes para Vertex AI Pipelines. Las siguientes son recomendaciones generales de cuota:

Servicio	Cuota	Recomendación
La API de Vertex AI	Trabajos de predicción por lotes de LLM simultáneos por región	Por puntos: 1 * num_concurrent_pipelines Por pares: 2 * num_concurrent_pipelines
La API de Vertex AI	Solicitudes de evaluación por minuto, por región	1,000 * num_concurrent_pipelines

Además, la cuota relevante para las métricas basadas en modelos depende del modelo de juez que uses:

Tareas	Cuota	Modelo base	Recomendación
summarization question_answering	Solicitudes de predicción en línea por modelo base por minuto, por región y por base_model	text-bison	60 * num_concurrent_pipelines

Motor de razonamiento Vertex AI

Los siguientes límites y cuotas se aplican a Vertex AI Reasoning Engine para un proyecto determinado en cada región.

Cómo solucionar problemas relacionados con el código de error 429

Para solucionar el error 429, consulta Código de error 429.

¿Qué sigue?

• Obtén más información sobre las cuotas y límites de IA generativa en Vertex AI.