Dataproc sin servidores tiene límites de cuota de las APIs que se aplican a nivel de proyecto y región. Esas cuotas se restablecen cada sesenta segundos (un minuto).
En la siguiente tabla, se muestran los tipos de cuotas específicos y predeterminados por proyecto para las APIs de Dataproc sin servidores, los límites de cuotas y los métodos a los que se aplican.
| Tipo de cuota | Límite | Métodos o descripción de la API |
|---|---|---|
| ClusterOperationRequestsPerMinutePerProjectPerRegion | 200 | CancelOperation (la cuota de cancelación de operaciones por lotes se comparte con la cuota de cancelación de operaciones de clúster). |
| BatchOperationRequestsPerMinutePerProjectPerRegion | 200 | CreateBatch y DeleteBatch |
| SessionOperationRequestsPerMinutePerProjectPerRegion | 200 | CreateSession, DeleteSession y TerminateSession |
| DefaultRequestsPerMinutePerProjectPerRegion | 7,500 | GetBatch, ListBatches, GetSession, ListSessions |
| ActiveOperationsPerProjectPerRegion | 5000 | Es el límite de la cantidad total de operaciones activas simultáneas de todos los tipos en un proyecto de una región. |
Otras cuotas de Google Cloud
Los lotes de Dataproc Serverless usan otros productos de Google Cloud. Estos productos tienen cuotas en el nivel de proyecto, que incluyen las que se aplican al uso de Dataproc sin servidores. Algunos servicios son obligatorios para usar Dataproc sin servidores, como Compute Engine y Cloud Storage. Otros servicios, como BigQuery y Bigtable, se pueden usar de forma opcional con Dataproc Serverless.
Servicios obligatorios
Los siguientes servicios, que tienen límites de cuota, son necesarios para crear lotes de Dataproc Serverless.
Compute Engine
Los lotes sin servidores de Dataproc consumen las siguientes cuotas de recursos de Compute Engine:
| Nivel de procesamiento | Cuota |
|---|---|
| Estándar | CPUS |
| Premium | N2_CPUS |
| Nivel de disco | Cuota |
| Estándar | DISKS_TOTAL_GB |
| Premium | LOCAL_SSD_TOTAL_GB_PER_VM_FAMILY con la familia de VM N2 |
| Acelerador de GPU | Cuota |
| L4 | NVIDIA_L4_GPUS |
| A100 40 GB | NVIDIA_A100_GPUS |
| A100 80 GB | NVIDIA_A100_80GB_GPUS |
Las cuotas de Compute Engine están divididas en límites regionales y globales. Estos límites se aplican a los lotes que creas. Por ejemplo, para ejecutar un lote de Spark con 4 núcleos de controlador (spark.driver.cores=4) y dos ejecutores con 4 núcleos cada uno (spark.executor.cores=4), usarás 12 CPUs virtuales (4 * 3). Este uso de lotes se descuenta del límite de cuota regional de 24 CPUs virtuales.
Recursos por lotes predeterminados
Cuando creas un lote con la configuración predeterminada, se usan los siguientes recursos de Compute Engine:
| Elemento | Recursos utilizados |
|---|---|
| CPU virtuales | 12 |
| Instancias de máquinas virtuales (VM) | 3 |
| Disco persistente | 1,200 GiB |
Cloud Logging
Dataproc sin servidores guarda el resultado por lotes y los registros en Cloud Logging. La cuota de Cloud Logging se aplica a tus lotes sin servidores de Dataproc.
Servicios opcionales
Los siguientes servicios, que tienen límites de cuota, se pueden usar de forma opcional con los lotes sin servidores de Dataproc.
BigQuery
Cuando se realizan operaciones de lectura o escritura de datos en BigQuery, se aplica la cuota de BigQuery.
Bigtable
Cuando se realizan operaciones de lectura o escritura de datos en Bigtable, se aplica la cuota de Bigtable.