Trabajadores secundarios de Dataproc

Además de usar VMs estándar de Compute Engine como trabajadores de Dataproc (llamados “primarios”), los clústeres de Dataproc pueden usar trabajadores secondary.

Las siguientes características se aplican a todos los trabajadores secundarios en un clúster de Dataproc:

• Solo procesamiento: Los trabajadores secundarios no almacenan datos. Solo funcionan como nodos de procesamiento. Por lo tanto, puedes usar trabajadores secundarios para escalar el procesamiento sin escalar el almacenamiento.

• No hay clústeres secundarios solo de trabajador: Tu clúster debe tener trabajadores primarios. Si creas un clúster y no especificas la cantidad de trabajadores primarios, Dataproc agrega dos trabajadores primarios al clúster.

• Tipo de máquina: De forma predeterminada, los trabajadores secundarios usan el tipo de máquina de los trabajadores principales del clúster. Por ejemplo, si creas un clúster con trabajadores primarios que usan tipos de máquina n1-standard-4, de forma predeterminada, todos los trabajadores secundarios agregados al clúster también usarán máquinas n1-standard-4.

  En lugar de usar el tipo de máquina de trabajador principal predeterminado para los trabajadores secundarios, puedes especificar una o más listas de tipos de máquinas clasificadas para los trabajadores secundarios. Consulta VM flexibles de Dataproc para obtener más información.

• Tamaño de disco persistente: De forma predeterminada, los trabajadores secundarios se crean con el tamaño del disco de arranque del trabajador principal o con un tamaño de menos de 100 GB. Este espacio de disco se usa para el almacenamiento en caché local de datos y no está disponible a través de HDFS. Puedes anular el tamaño de disco predeterminado con el comando gcloud dataproc clusters create --secondary-worker-boot-disk-size durante la creación del clúster. Puedes especificar esta marca incluso si el clúster no tiene trabajadores secundarios cuando se crea.

• Creación asíncrona: cuando agregas trabajadores secundarios mediante la creación o el escalamiento vertical de un clúster, es posible que los trabajadores secundarios no se aprovisionen en el momento en que finaliza la operación de creación o actualización. Esto se debe a que Dataproc administra los trabajadores secundarios mediante grupos de instancias administrados (MIG), que crean VM de forma asíncrona en cuanto se pueden aprovisionar (consulta Verifica el estado de las instancias administradas).

Trabajadoressecundarios interrumpibles y no interrumpibles

Existen tres tipos de trabajadores secundarios: VMs Spot, VMs interrumpibles estándar y VMs no interrumpibles. El tipo de trabajador secundario predeterminado de Dataproc es la VM interrumpible estándar. Puedes especificar una combinación de trabajadores secundarios interrumpibles y no interrumpibles.

Ejemplo: Si seleccionas tres trabajadores secundarios cuando creas un clúster, puedes especificar tres VMs Spot, tres VMs interrumpibles, tres VMs no interrumpibles o una combinación de trabajadores Spot y no interrumpibles.

Trabajadores interrumpibles

• Aunque la posible eliminación de los trabajadores interrumpibles puede afectar la estabilidad del trabajo, puedes decidir usar instancias interrumpibles para reducir los costos de procesamiento por hora para los datos que no son esenciales o a fin de crear clústeres muy grandes a un costo total más bajo (puedes usar la calculadora de precios de Google Cloud para estimar los costos).

• Para obtener mejores resultados, la cantidad de trabajadores interrumpibles en tu clúster debe ser inferior al 50% de la cantidad total de todos los trabajadores (primario y todos los trabajadores secundarios) en tu clúster.

• Cuando se usan trabajadores interrumpibles, es muy probable que tus trabajos experimenten una mayor cantidad de fallas transitorias de tareas de un solo trabajador en comparación con los trabajos que se ejecutan en trabajadores no interrumpibles. Para aumentar la tolerancia del trabajo a errores de tareas de nivel bajo, puedes configurar valores de propiedad similares a los valores de propiedad predeterminados con clústeres con ajuste de escala automático para aumentar la cantidad máxima de reintentos de tareas y evitar fallas en los trabajos.

• Consideración sobre el ahorro de costos: El uso de VMs interrumpibles no siempre ahorra costos, ya que las preempciones pueden causar una ejecución de trabajo más prolongada, lo que genera costos de trabajo más altos. Aunque usar el modo de flexibilidad mejorada (EFM) con VMs interrumpibles puede ayudar a mitigar este resultado, el ahorro general de costos de las VMs interrumpibles variará según cada caso de uso. Por lo general, los trabajos de corta duración son más adecuados para el uso de VM interrumpible, ya que la probabilidad de interrupciones durante la ejecución del trabajo será menor. Prueba diferentes opciones de trabajo, como VMs no interrumpibles y VMs interrumpibles con EFM, para estimar los costos y llegar a la mejor solución.

Trabajadores no interrumpibles

• Puedes crear un clúster con trabajadores secundarios no interrumpibles para escalar el procesamiento sin sacrificar la estabilidad del trabajo. Para ello, especifica non-preemptible como el tipo de trabajador secundario. Puedes combinar trabajadores secundarios no interrumpibles con trabajadores secundarios de Spot.

Selecciona trabajadores secundarios

Puedes especificar la cantidad y el tipo de trabajadores secundarios cuando creas un clúster con la consola de Google Cloud, gcloud CLI o la API de Dataproc.

• Puedes combinar la instancia spot con trabajadores secundarios no interrumpibles.
• Puedes actualizar tu clúster después de crearlo para cambiar el número de trabajadores secundarios en tu clúster, pero no el tipo.
• Las actualizaciones de etiquetas se propagan a todos los trabajadores secundarios interrumpibles en un plazo de 24 horas. Las actualizaciones de etiquetas no se propagan a los trabajadores secundarios no interrumpibles existentes. Las actualizaciones de etiquetas se propagan a todos los trabajadores que se agregan a un clúster después de actualizar las etiquetas. Por ejemplo, si escalas verticalmente el clúster, todos los trabajadores principales y secundarios nuevos tendrán las etiquetas nuevas.

gcloud dataproc clusters create cluster1 \
    --num-secondary-workers=2 \
    --region=us-central1

gcloud dataproc clusters create cluster2 \
    --num-secondary-workers=2 \
    --secondary-worker-type=spot \
    --region=us-central1

gcloud dataproc clusters create cluster3 \
    --num-secondary-workers=2 \
    --secondary-worker-type=non-preemptible \
    --region=us-central1

gcloud dataproc clusters update example-cluster \
    --num-secondary-workers=4 \
    --region=us-central1

gcloud dataproc clusters update example-cluster \
    --num-secondary-workers=0 \
    --region=us-central1

POST https://dataproc.googleapis.com/v1/projects/project-id/regions/region/clusters

{
  "clusterName": "cluster1",
  "config": {
    "secondaryWorkerConfig": {
      "numInstances": 2
    }
  }
}

POST https://dataproc.googleapis.com/v1/projects/project-id/regions/region/clusters

{
  "clusterName": "cluster2",
  "config": {
    "secondaryWorkerConfig": {
      "numInstances": 2,
      "preemptibility": "SPOT"
    }
  }
}

POST https://dataproc.googleapis.com/v1/projects/project-id/regions/region/clusters

{
  "clusterName": "cluster3",
  "config": {
    "secondaryWorkerConfig": {
      "numInstances": 2,
      "preemptibility": "NON_PREEMPTIBLE"
    }
  }
}

PATCH /v1/projects/project-id/regions/region/clusters/cluster-name?updateMask=config.secondary_worker_config.num_instances
{
  "config": {
    "secondaryWorkerConfig": {
      "numInstances": 4
    }
  }
}

Soluciona problemas de trabajadores secundarios

• Problemas de permisos de la cuenta de servicio: Los trabajadores secundarios se crean a través de un grupo de instancias administrado. Si hay un problema de permisos, los registros de Dataproc no informarán que no se pudieron crear trabajadores secundarios, pero los trabajadores con errores aparecerán en la pestaña Instancias de VM de la página Detalles del clúster de la consola de Google Cloud sin una marca de verificación verde. Para ver la ficha, abre la página Clústeres de Dataproc y, luego, haz clic en el nombre del clúster para abrir la página Detalles del clúster.

• Problemas de permisos de grupos de instancias administrados: Para verificar si hay un problema con los permisos de grupo de instancias administrado, haz lo siguiente:

  1. Busca el nombre del grupo de instancias administrado (instanceGroupManagerName).

     Console

     1. Abre la página Clústeres de Dataproc y, luego, haz clic en el nombre del clúster para abrir la página Detalles del clúster.
     2. Haz clic en REST equivalente en la parte inferior de la página y, luego, consulta el valor de config.secondaryWorkerConfig.managedGroupConfig.instanceGroupManagerName.

     Google Cloud CLI

     Ejecuta el comando gcloud dataproc clusters describe con la marca --format para mostrar el instanceGroupManagerName.

     gcloud dataproc clusters describe CLUSTER_NAME \
         --region=REGION \
         --format='value(config.secondaryWorkerConfig.managedGroupConfig.instanceGroupManagerName)'
     

     API de REST

     Envía una solicitud clusters.get para mostrar el valor de config.secondaryWorkerConfig.managedGroupConfig.instanceGroupManagerName.
  2. Consulta los registros en el Explorador de registros.

  • Selecciona el tipo de recurso Google Compute Engine Instance Group y filtra por el nombre del grupo de instancias administrado.

  • Como alternativa, puedes aplicar un filtro de registro para "resource.type="gce_instance_group" y resource.labels.instance_group_name=INSTANCE_GROUP_MANAGER_NAME.

Combinación de Spot con trabajadores secundarios no interrumpibles

Puedes especificar una combinación de trabajadores secundarios interrumpibles y no interrumpibles cuando creas un clúster de Dataproc.

Configuración del trabajador secundario para combinar trabajadores secundarios interrumpibles y no interrumpibles

Usa la siguiente configuración de trabajadores secundarios cuando crees un clúster de Dataproc para obtener un nivel mínimo de capacidad de trabajadores secundarios con la capacidad de aumentar la capacidad cuando haya VMs Spot disponibles:

• secondary worker number: Es la cantidad total de trabajadores secundarios que se aprovisionarán.

• tipo de trabajador secundario: spot es el tipo de trabajador secundario cuando se combinan trabajadores spot con trabajadores secundarios no interrumpibles.

• standardCapacityBase: Es la cantidad de trabajadores secundarios no interrumpibles (estándares) que se aprovisionarán. Los trabajadores secundarios no interrumpibles se aprovisionan antes que otros tipos de trabajadores secundarios.

• standardCapacityPercentAboveBase: Después de que se completa la cantidad de trabajadores secundarios standardCapacityBase, la cantidad restante de trabajadores secundarios necesarios para cumplir con la cantidad total de trabajadores secundarios solicitados se completa con una combinación de VMs no interrumpibles y spot de la siguiente manera:

  • standardCapacityPercentAboveBase: Es el porcentaje de los trabajadores secundarios restantes que se completarán con VMs no preemptibles.
  • La cantidad restante necesaria para cumplir con la cantidad total de trabajadores secundarios solicitados se completa con VMs spot.

Ejemplo:

• Cantidad de trabajadores secundarios: 15
• standardCapacityBase: 5
• standardCapacityPercentAboveBase 30%

Resultado:

• No preemptivo: 8 = 5 (standardCapacityBase) + 3 (30% de los 10 restantes)
• Posición: 7 (70% de los 10 restantes)
• Total = 15

Crea un clúster con una combinación de trabajadores secundarios interrumpibles y no interrumpibles

Puedes usar gcloud CLI o la API de Dataproc para combinar trabajadores secundarios interrumpibles y no interrumpibles cuando creas un clúster.

gcloud dataproc clusters create CLUSTER_NAME \
    --project=PROJECT_ID \
    --region=REGION \
    --secondary-worker-type=spot \
    --num-secondary-workers=NUMBER_SECONDARY_WORKERS \
    --secondary-worker-standard-capacity-base=STANDARD_CAPACITY_BASE \
    --secondary-worker-standard-capacity-percent-above-base=STANDARD_CAPACITY_PERCENT_ABOVE_BASE \
    OTHER_FLAGS_AS_NEEDED

{
  "clusterName": "CLUSTER_NAME",
  "config": {
    "secondaryWorkerConfig": {
      "numInstances": 15,
      "preemptibility": "spot",
      "instanceFlexibilityPolicy": {
        "provisioningModelMix": {
          "standardCapacityBase": STANDARD_CAPACITY_BASE
          "standardCapacityPercentAboveBase": STANDARD_CAPACITY_PERCENT_ABOVE_BASE
        }
      }
    }
  }
}

Combina la combinación de trabajadores secundarios con VMs flexibles

Puedes combinar trabajadores secundarios interrumpibles y no interrumpibles y especificar formas de VM flexibles para los trabajadores secundarios cuando creas un clúster.

Ejemplo de gcloud CLI:

gcloud dataproc clusters create cluster-name \
    --project=project-id \
    --region=us-cdbtral1 \
    --secondary-worker-type=spot \
    --num-secondary-workers=15 \
    --secondary-worker-standard-capacity-base=5 \
    --secondary-worker-standard-capacity-percent-above-base=30 \
    --secondary-worker-machine-types="type=n2-standard-8,rank=0" \
    --secondary-worker-machine-types="type=e2-standard-8,type=t2d-standard-8,rank=1"
    ...other flags as needed

Características de combinación de trabajadores secundarios

En esta sección, se describen algunos del comportamiento y las características asociados con la combinación de trabajos secundarios interrumpibles y no interrumpibles.

Preferencia de trabajador secundario

Dataproc no da preferencia a las VMs Spot ni a las no interrumpibles cuando programa aplicaciones en trabajadores secundarios.

Escalamiento de trabajadores secundarios

Cuando los trabajadores secundarios se escalan a través del ajuste de escala automático o el manual, Dataproc mantiene la proporción solicitada de instancias spot a no interrumpibles cuando agrega trabajadores secundarios.

Actualiza la configuración de la combinación de trabajadores secundarios

Especificas la combinación de trabajadores secundarios interrumpibles y no interrumpibles cuando creas un clúster de Dataproc. No puedes cambiar la configuración de la combinación de trabajadores secundarios después de crear el clúster.

Interrumpibilidad de los trabajadores secundarios de Spot

• Dataproc no controla el tiempo de la interrupción de las VM Spot (consulta Interrumpibilidad de las VMs Spot).
• Cuando se produce la preempción de Spot, el grupo de trabajadores secundario puede ejecutarse con capacidad reducida temporalmente hasta que Compute Engine vuelva a aprovisionar las VMs que se interrumpieron.
• Dataproc no agregará capacidad a un grupo de trabajadores secundarios que supere la configuración inicial del grupo.