Modelos de Google
La capacidad de procesamiento aprovisionada solo admite modelos a los que llamas directamente desde tu proyecto con el ID de modelo específico y no con un alias de modelo. Para usar el rendimiento aprovisionado y realizar llamadas a la API de un modelo, debes usar el ID de versión del modelo específico (por ejemplo, gemini-2.0-flash-001) y no un alias de versión del modelo.
Además, el procesamiento aprovisionado no admite modelos que se llamen desde otros productos de Vertex AI, como Vertex AI Agents y Vertex AI Search. Por ejemplo, si realizas llamadas a la API de Gemini 2.0 Flash mientras usas Vertex AI Search, tu pedido de capacidad de procesamiento aprovisionada para Gemini 2.0 Flash no garantizará las llamadas que realice Vertex AI Search.
En la siguiente tabla, se muestran las tasas de capacidad de procesamiento, incremento de compra y consumo para los modelos de Google que admiten la capacidad de procesamiento aprovisionada. Tu capacidad de procesamiento por segundo se define como la entrada de tu instrucción y la salida generada en todas las solicitudes por segundo.
Para saber cuántos tokens requiere tu carga de trabajo, consulta el tokenizador del SDK o la API de countTokens.
| Modelo | Capacidad de procesamiento por segundo y por GSU | Unidades | Incremento mínimo de compra de GSU | Tasas de consumo |
|---|---|---|---|---|
Gemini 2.5 Flash-Lite Versión compatible más reciente: |
8070 | Tokens | 1 |
1 token de texto de entrada = 1 token 1 token de imagen de entrada = 1 token 1 token de video de entrada = 1 token 1 token de audio de entrada = 5 tokens 1 token de texto de respuesta de salida = 4 tokens |
Gemini 2.5 Pro Versión compatible más reciente: |
650 | Tokens | 1 |
Menos de 200,000 tokens de entrada: 1 token de texto de entrada = 1 token 1 token de imagen de entrada = 1 token 1 token de video de entrada = 1 token 1 token de audio de entrada = 1 token 1 token de texto de respuesta de salida = 8 tokens 1 token de texto de fundamentación de salida = 8 tokens Más de 200,000 tokens de entrada: 1 token de texto de entrada = 2 tokens 1 token de imagen de entrada = 2 tokens 1 token de video de entrada = 2 tokens 1 token de audio de entrada = 2 tokens 1 token de texto de respuesta de salida = 12 tokens 1 token de texto de fundamentación de salida = 12 tokens |
Gemini 2.5 Flash Versión compatible más reciente: |
2690 | Tokens | 1 |
1 token de texto de entrada = 1 token 1 token de imagen de entrada = 1 token 1 token de video de entrada = 1 token 1 token de audio de entrada = 4 tokens 1 token de texto de respuesta de salida = 9 tokens 1 token de texto de explicación de salida = 9 tokens |
Gemini 2.0 Flash Versión compatible más reciente: |
3360 | Tokens | 1 |
1 token de texto de entrada = 1 token 1 token de imagen de entrada = 1 token 1 token de video de entrada = 1 token 1 token de audio de entrada = 7 tokens 1 token de texto de salida = 4 tokens |
Gemini 2.0 Flash-Lite Versión compatible más reciente: |
6720 | Tokens | 1 |
1 token de texto de entrada = 1 token 1 token de imagen de entrada = 1 token 1 token de video de entrada = 1 token 1 token de audio de entrada = 1 token 1 token de texto de salida = 4 tokens |
| Imagen 3 | 0.025 | Imágenes | 1 | Solo las imágenes de salida se consideran en tu cuota de Capacidad de procesamiento aprovisionada. |
| Imagen 3 Fast | 0.05 | Imágenes | 1 | Solo las imágenes de salida se consideran en tu cuota de Capacidad de procesamiento aprovisionada. |
| Imagen 2 | 0.05 | Imágenes | 1 | Solo las imágenes de salida se consideran en tu cuota de Capacidad de procesamiento aprovisionada. |
| Edición de Imagen 2 | 0.05 | Imágenes | 1 | Solo las imágenes de salida se consideran en tu cuota de Capacidad de procesamiento aprovisionada. |
| MedLM medium | 2,000 | Caracteres | 1 | 1 carácter de entrada = 1 carácter 1 carácter de salida = 2 caracteres |
| MedLM grande | 200 | Caracteres | 1 | 1 carácter de entrada = 1 carácter 1 carácter de salida = 3 caracteres |
| MedLM large 1.5 | 200 | Caracteres | 1 | 1 carácter de entrada = 1 carácter 1 carácter de salida = 3 caracteres |
Puedes actualizar a modelos nuevos a medida que estén disponibles. Para obtener información sobre la disponibilidad de los modelos y las fechas de interrupción, consulta Modelos de Google.
Para obtener más información sobre las ubicaciones compatibles, consulta Ubicaciones disponibles.
Compatibilidad con el modelo de extremo global
La capacidad de procesamiento aprovisionada admite el extremo global para los siguientes modelos:
| Modelo | Versión del modelo compatible más reciente |
|---|---|
| Gemini 2.5 Flash-Lite (versión preliminar) | gemini-2.5-flash-lite-preview-06-17 |
| Gemini 2.5 Pro | gemini-2.5-pro |
| Gemini 2.5 Flash | gemini-2.5-flash |
| Gemini 2.0 Flash | gemini-2.0-flash-001 |
| Gemini 2.0 Flash-Lite | gemini-2.0-flash-lite-001 |
El tráfico que supera la cuota de capacidad de procesamiento aprovisionada usa el extremo global de forma predeterminada.
Para asignar capacidad de procesamiento aprovisionada al extremo global de un modelo, selecciona global como la región cuando realices un pedido de capacidad de procesamiento aprovisionada.
Compatibilidad con modelos ajustados de forma supervisada
Los siguientes elementos son compatibles con los modelos de Google que admiten la optimización supervisada:
La capacidad de procesamiento aprovisionada se puede aplicar tanto a los modelos base como a las versiones ajustadas de forma supervisada de esos modelos base.
Los extremos de modelos ajustados de forma supervisada y sus modelos base correspondientes se incluyen en la misma cuota de capacidad de procesamiento aprovisionada.
Por ejemplo, el rendimiento aprovisionado comprado para
gemini-2.0-flash-lite-001para un proyecto específico prioriza las solicitudes que se realizan desde versiones ajustadas supervisadas degemini-2.0-flash-lite-001creadas dentro de ese proyecto. Usa el encabezado adecuado para controlar el comportamiento del tráfico.
Modelos de socios
En la siguiente tabla, se muestran las tasas de capacidad de procesamiento, incremento de compra y consumo para los modelos de socios que admiten la capacidad de procesamiento aprovisionada. Los modelos de Claude se miden en tokens por segundo, lo que se define como un total de tokens de entrada y salida en todas las solicitudes por segundo.
| Modelo | Capacidad de procesamiento por GSU (tokens/s) | Compra mínima de GSU | Incremento de compra de GSU | Tasas de consumo |
|---|---|---|---|---|
| Claude Opus 4 de Anthropic | 70 | 35 | 1 | 1 token de entrada = 1 token 1 token de salida = 5 tokens 1 token de escritura en caché = 1.25 tokens 1 token de acierto de caché = 0.1 token |
| Claude Sonnet 4 de Anthropic | 350 | 25 | 1 | 1 token de entrada = 1 token 1 token de salida = 5 tokens 1 token de escritura en caché = 1.25 tokens 1 token de acierto de caché = 0.1 token |
| Claude 3.7 Sonnet de Anthropic | 350 | 25 | 1 | 1 token de entrada = 1 token 1 token de salida = 5 tokens 1 token de escritura en caché = 1.25 tokens 1 token de acierto de caché = 0.1 token |
| Claude 3.5 Sonnet v2 de Anthropic | 350 | 25 | 1 | 1 token de entrada = 1 token 1 token de salida = 5 tokens 1 token de escritura en caché = 1.25 tokens 1 token de acierto de caché = 0.1 token |
| Claude 3.5 Haiku de Anthropic | 2,000 | 10 | 1 | 1 token de entrada = 1 token 1 token de salida = 5 tokens 1 token de escritura en caché = 1.25 tokens 1 token de acierto de caché = 0.1 token |
| Claude 3 Opus de Anthropic | 70 | 35 | 1 | 1 token de entrada = 1 token 1 token de salida = 5 tokens 1 token de escritura en caché = 1.25 tokens 1 token de acierto de caché = 0.1 token |
| Claude 3 Haiku de Anthropic | 4,200 | 5 | 1 | 1 token de entrada = 1 token 1 token de salida = 5 tokens 1 token de escritura en caché = 1.25 tokens 1 token de acierto de caché = 0.1 token |
| Claude 3.5 Sonnet de Anthropic | 350 | 25 | 1 | 1 token de entrada = 1 token 1 token de salida = 5 tokens 1 token de escritura en caché = 1.25 tokens 1 token de acierto de caché = 0.1 token |
Para obtener información sobre las ubicaciones compatibles, consulta Disponibilidad de regiones de Claude Anthropic. Para solicitar capacidad de procesamiento aprovisionada para los modelos de Anthropic, comunícate con tu Google Cloud representante de cuenta.