Scalabilità dei cluster Dataproc

Dopo aver creato un cluster Dataproc, puoi modificare ("scalare") il cluster aumentando o diminuendo il numero di nodi worker primari o secondari (scalabilità orizzontale) nel cluster. Puoi scalare una di un cluster Dataproc in qualsiasi momento, anche quando i job sono in esecuzione in un cluster Kubernetes. Non puoi modificare il tipo di macchina di un cluster esistente (scaling verticale). Per eseguire l'escaling verticale, crea un cluster utilizzando un tipo di macchina supportato, quindi esegui la migrazione dei job al nuovo cluster.

Perché scalare un cluster Dataproc?

  1. per aumentare il numero di worker e velocizzare l'esecuzione di un job
  2. per ridurre il numero di worker e risparmiare denaro (vedi Ritiro gestito come opzione da utilizzare quando si ridimensiona un cluster per evitare di perdere ancora in fase di sviluppo).
  3. per aumentare il numero di nodi al fine di espandere lo spazio di archiviazione Hadoop Distributed File System (HDFS) disponibile

Poiché la scalabilità dei cluster può essere eseguita più di una volta, potrebbe essere utile aumentare/diminuire contemporaneamente la dimensione del cluster e quindi diminuire/aumentare le dimensioni dimensioni in seguito.

Utilizzo della scalabilità

Esistono tre modi per scalare il cluster Dataproc:

  1. Utilizza la gcloud a strumento a riga di comando nell'interfaccia alla gcloud CLI.
  2. Modifica la configurazione del cluster nella console Google Cloud.
  3. Utilizza l'API REST.

I nuovi worker aggiunti a un cluster utilizzeranno lo stesso tipo di macchina dei worker esistenti. Ad esempio, se un cluster viene creato worker che utilizzano il tipo di macchina n1-standard-8, nuovi worker utilizzerà anche il tipo di macchina n1-standard-8.

Puoi scalare il numero di worker principali o il numero di worker secondari (prerilasciabili) oppure entrambi. Ad esempio, se riporti in scala solo il numero worker prerilasciabili, il numero di worker principali rimane lo stesso.

gcloud

Per scalare un cluster con gcloud dataproc clusters update, esegui questo comando. 
gcloud dataproc clusters update cluster-name \
    --region=region \
    [--num-workers and/or --num-secondary-workers]=new-number-of-workers
dove cluster-name è il nome del cluster da aggiornare, new-number-of-workers è il numero aggiornato di nodi worker primari e/o secondari. Ad esempio, per scalare un cluster denominato "dataproc-1" per utilizzare cinque nodi worker principali, esegui questo comando. 
gcloud dataproc clusters update dataproc-1 \
    --region=region \
    --num-workers=5
...
Waiting on operation [operations/projects/project-id/operations/...].
Waiting for cluster update operation...done.
Updated [https://dataproc.googleapis.com/...].
clusterName: my-test-cluster
...
  masterDiskConfiguration:
    bootDiskSizeGb: 500
  masterName: dataproc-1-m
  numWorkers: 5
  ...
  workers:
  - my-test-cluster-w-0
  - my-test-cluster-w-1
  - my-test-cluster-w-2
  - my-test-cluster-w-3
  - my-test-cluster-w-4
...

API REST

Consulta clusters.patch.

Esempio

PATCH /v1/projects/project-id/regions/us-central1/clusters/example-cluster?updateMask=config.worker_config.num_instances,config.secondary_worker_config.num_instances
{
  "config": {
    "workerConfig": {
      "numInstances": 4
    },
    "secondaryWorkerConfig": {
      "numInstances": 2
    }
  },
  "labels": null
}

Console

Dopo aver creato un cluster, puoi eseguirne il ridimensionamento aprendo la pagina Dettagli cluster del cluster dalla pagina Cluster della console Google Cloud e facendo clic sul pulsante Modifica nella scheda Configurazione.
Inserisci un nuovo valore per il numero di nodi worker e/o Nodi worker prerilasciabili (aggiornati rispettivamente a "5" e "2", nel seguente screenshot).
Fai clic su Salva per aggiornare il cluster.

Come Dataproc seleziona i nodi cluster da rimuovere

Nei cluster creati con le versioni delle immagini 1.5.83 e successive, 2.0.57 e successive, e 2.1.5 e successive, quando riduci le dimensioni di un cluster, Dataproc tenta di minimizzare l'impatto della rimozione dei nodi sulle applicazioni YARN in esecuzione rimuovendo prima i nodi inattivi, non operativi e inutilizzati, quindi i nodi con il minor numero di master di applicazioni YARN e contenitori in esecuzione.

Ritiro gestito automaticamente

Quando esegui il downgrade di un cluster, il lavoro in corso potrebbe interrompersi prima del completamento. Se utilizzi Dataproc versione 1.2 o successive, puoi utilizzare il ritiro gestito automaticamente, che incorpora il ritiro gestito automaticamente dei nodi YARN per completare il lavoro in corso su un worker prima che venga rimosso dal cluster Cloud Dataproc.

Ritiro gestito e lavoratori secondari

Il gruppo di worker preemptibili (secondari) continua a eseguire il provisioning o l'eliminazione di worker per raggiungere le dimensioni previste anche dopo che un'operazione di ridimensionamento del cluster è stata contrassegnata come completata. Se tenti di eseguire il ritiro di un worker secondario in modo corretto e ricevi un messaggio di errore simile al seguente:

"Il gruppo di worker secondario non può essere modificato al di fuori di Dataproc. Se di recente creato o aggiornato questo cluster, attendi qualche minuto prima per consentire a tutte le istanze secondarie di unirsi al cluster o abbandonarlo. Dimensioni del gruppo di worker secondari previste: x, dimensioni effettive: y",

attendi qualche minuto, quindi ripeti la richiesta di ritiro graduale.

Tieni inoltre presente quanto segue:

  • Puoi ritirare forzatamente i worker preemptibili in qualsiasi momento.
  • Puoi ritirare i worker principali in qualsiasi momento

Utilizzo del ritiro gestito automaticamente

Il ritiro gestito automaticamente di Dataproc incorpora la rimozione controllata dei nodi YARN per completare il lavoro in corso su un worker prima che venga rimosso dal cluster Cloud Dataproc. Per impostazione predefinita, il ritiro gestito automaticamente è disattivato. Puoi attivarla impostando un valore di timeout quando aggiorni il cluster per rimuovere uno o più worker dal cluster.

gcloud

Quando aggiorni un cluster per rimuovere uno o più worker, utilizza il comando gcloud dataproc clusters update con il flag --graceful-decommission-timeout. Il timeout I valori (stringa) possono essere un valore di "0s" (l'impostazione predefinita; energico, non aggraziato) ritiro) o una durata positiva rispetto all'ora attuale (ad es. "3 s"). La durata massima è di 1 giorno. 
gcloud dataproc clusters update cluster-name \
    --region=region \
    --graceful-decommission-timeout="timeout-value" \
    [--num-workers and/or --num-secondary-workers]=decreased-number-of-workers \
    ... other args ...

API REST

Vedi clusters.patch.gracefulDecommissionTimeout. I valori di timeout (stringa) possono essere "0" (il valore predefinito; ritiro forzato e non graduale) o una durata in secondi (ad esempio "3s"). Il valore massimo è di 1 giorno.

Console

Dopo aver creato un cluster, puoi selezionare il ritiro graduale di un cluster aprendo la pagina Dettagli cluster del cluster dalla pagina Cluster della console Google Cloud, quindi facendo clic sul pulsante Modifica nella scheda Configurazione.
Nella sezione Ritiro gestito, controlla il "Utilizza rimozione controllata" quindi seleziona un valore di timeout.
Fai clic su Salva per aggiornare il cluster.

Come annullare un'operazione di riduzione graduale del ritiro gestito automaticamente

Nei cluster Dataproc creati con le versioni immagine 2.0.57 e successive o 2.1.5 e successive, puoi eseguire il comando gcloud dataproc operations cancel o inviare una richiesta dell'API Dataproc operations.cancel per annullare un'operazione di riduzione graduale del ritiro.

Quando annulli un'operazione di riduzione in seguito a un ritiro gestito automaticamente:

  • I worker in stato DECOMMISSIONING vengono rimessi in servizio e diventano ACTIVE al termine dell'annullamento dell'operazione.

  • Se l'operazione di scale down include aggiornamenti delle etichette, potrebbero non avere effetto.

Per verificare lo stato della richiesta di annullamento, puoi: esegui gcloud dataproc operations describe un comando o emettere un'API Dataproc operations.get richiesta. Se l'operazione di annullamento ha esito positivo, lo stato dell'operazione interna viene contrassegnato come CANCELED.