Questa pagina mostra come configurare il multithreading simultaneo nei cluster Google Kubernetes Engine (GKE).
Panoramica
I nodi
GKE sono istanze di macchine virtuali (VM) Compute Engine che GKE
crea per tuo conto. Su queste VM, è comune che il multi-threading simultaneo (SMT) sia abilitato per impostazione predefinita. SMT è la capacità di eseguire più thread indipendenti su un singolo core della CPU fisica. Con SMT
abilitato, un singolo core fisico può eseguire due CPU virtuali (vCPU) come thread separati e indipendenti. Ad esempio, un nodo GKE n2-standard-32
esegue 32 vCPU su 16 core CPU fisici.
Con l'introduzione della configurabilità SMT sui nodi GKE, ora puoi configurare SMT in modo che il numero di vCPU effettive sia uguale al numero di core fisici, il che significa che i nodi GKE possono utilizzare l'intero core fisico per vCPU.
Vantaggi
La configurazione di SMT su GKE offre i seguenti vantaggi.
Prestazioni migliorate
Alcuni workload di computing ad alte prestazioni (HPC) potrebbero registrare un miglioramento delle prestazioni disattivando SMT. In genere, per molte attività di calcolo generali o attività che richiedono molte operazioni di I/O, SMT può aumentare significativamente il throughput delle applicazioni. Al contrario, per i job vincolati al calcolo in cui entrambi i core virtuali sono vincolati al calcolo, SMT può ostacolare le prestazioni complessive dell'applicazione e aggiungere una varianza non deterministica ai job. Pertanto, con SMT disabilitato, alcune applicazioni HPC potrebbero ottenere prestazioni migliori e più prevedibili.
Costi di licenza ridotti
Alcuni contratti di licenza software hanno modelli di fatturazione legati al numero di vCPU utilizzate. La disabilitazione di SMT riduce il numero di vCPU per ogni core della metà, il che potrebbe ridurre i costi di licenza. Per ulteriori informazioni, consulta il tuo contratto di licenza.
Consulta la sezione Prezzi per capire come Google Cloud vengono fatturati i costi quando è configurato SMT.
Limitazioni
- Tipi di macchina: SMT non è configurabile sui
tipi di macchina con meno di 2 vCPU
(ad esempio
n1-standard-1
) o sul tipo di macchina Tau T2D. - Provisioning automatico dei nodi: la configurabilità SMT non è supportata per i cluster in cui è abilitato il provisioning automatico dei nodi.
- Gestore della scalabilità automatica dei cluster: la scalabilità da zero nodi con configurabilità SMT è supportata solo sul gestore della scalabilità automatica dei cluster per i cluster che eseguono GKE versione 1.21 o successive.
- GKE Sandbox: puoi configurare le impostazioni SMT nei nodi GKE Sandbox nei cluster GKE Standard che eseguono la versione 1.24.2-gke.300 e successive utilizzando il flag
--threads-per-core
e nelle versioni precedenti utilizzando un DaemonSet autonomo. Per istruzioni, consulta GKE Sandbox. Poiché il multithreading è disabilitato per impostazione predefinita in GKE Sandbox prima della versione 1.24.2-gke.300, la configurazione di SMT utilizzandothreads-per-core
non è supportata. Se utilizzi GKE Sandbox e vuoi attivare SMT, consulta SMT potrebbe essere disattivato. - Modalità cluster: la configurabilità SMT non è supportata sui cluster GKE Autopilot.
Prezzi
SMT per GKE viene fatturato in base ai prezzi di Compute Engine per SMT. Ti viene addebitato il costo per il numero di vCPU definite dal tipo di macchina di una VM, non per il numero di thread eseguiti su ogni core. Anche se configuri SMT, continuerai a ricevere la fattura per il numero predefinito di vCPU definito dal tipo di macchina VM. Per ulteriori informazioni su come vengono fatturate le VM, consulta Prezzi delle istanze VM.
Ad esempio, un nodo GKE creato utilizzando il tipo di macchina n2-standard-8
viene eseguito con SMT abilitato per impostazione predefinita e può eseguire fino a 8 vCPU, ovvero 2 vCPU per ciascuno dei quattro core della CPU fisica. Se configuri
SMT in modo da utilizzare un solo thread per core (in pratica 4 vCPU), ti
vengono comunque fatturate 8 vCPU.
Configura SMT
Puoi configurare SMT su nuovi cluster o pool di nodi specificando il numero di thread per core.
La tabella seguente mostra i possibili valori per i thread per core e il comportamento SMT corrispondente per il nodo:
Thread per core | Comportamento SMT |
---|---|
null (non specificato) |
Valore predefinito della VM di Compute Engine |
0 |
Non valido |
1 |
SMT off |
2 |
SMT on |
> 2 |
Non valido |
Configura SMT su un nuovo cluster
Puoi configurare SMT sui nuovi cluster utilizzando gcloud CLI o la console Google Cloud .
gcloud
Per configurare SMT, esegui questo comando:
gcloud container clusters create CLUSTER_NAME \
--machine-type=MACHINE_TYPE \
--threads-per-core=THREADS_PER_CORE
Sostituisci quanto segue:
CLUSTER_NAME
: il nome del nuovo cluster.MACHINE_TYPE
: il tipo di macchina da utilizzare per i nodi GKE. Deve essere un tipo di macchina con 2 o più vCPU.THREADS_PER_CORE
: il numero di thread per core fisico. La tabella precedente mostra i valori che puoi specificare.
Per un elenco completo delle opzioni, consulta la gcloud container clusters create
documentazione.
Console
Vai alla pagina Google Kubernetes Engine nella console Google Cloud .
Fai clic su add_box Crea.
Nella finestra di dialogo Crea cluster, fai clic su Configura accanto a GKE Standard.
Nel menu di navigazione, nella sezione Pool di nodi, fai clic sul nome di un pool di nodi e poi su Nodi.
Nella sezione Configurazione macchina, seleziona un Tipo di macchina supportato, ad esempio e2-standard-2.
Fai clic su
Piattaforma CPU e GPU.Dal menu a discesa Rapporto vCPU/core, seleziona una delle seguenti opzioni:
- 1 vCPU per core: disattiva SMT.
- 2 vCPU per core: mantieni SMT attivo.
Configura il cluster e i pool di nodi come richiesto, poi fai clic su Crea.
Configura SMT su un nuovo pool di nodi
Puoi configurare SMT sui nuovi node pool utilizzando gcloud CLI o la console Google Cloud .
gcloud
Per configurare SMT, esegui questo comando:
gcloud container node-pools create POOL_NAME \
--cluster=CLUSTER_NAME \
--machine-type=MACHINE_TYPE \
--threads-per-core=THREADS_PER_CORE
Sostituisci quanto segue:
POOL_NAME
: il nome del nuovo pool di nodi.CLUSTER_NAME
: il nome del cluster esistente.MACHINE_TYPE
: il tipo di macchina da utilizzare per i nodi GKE. Deve essere un tipo di macchina con 2 o più vCPU.THREADS_PER_CORE
: il numero di thread per core fisico. La tabella precedente mostra i valori che puoi specificare.
Per un elenco completo delle opzioni, consulta la gcloud container clusters create
documentazione.
Console
Vai alla pagina Google Kubernetes Engine nella console Google Cloud .
Fai clic sul nome del cluster da modificare.
Fai clic su
Aggiungi pool di nodi.Nel menu di navigazione, fai clic su Nodi.
Nella sezione Configurazione macchina, seleziona una famiglia di macchine e un tipo di macchina che supporti SMT, ad esempio n2-standard-2.
Fai clic su
Piattaforma CPU e GPU.Dal menu a discesa Rapporto tra vCPU e core, seleziona una delle seguenti opzioni:
- 1 vCPU per core: disattiva SMT.
- 2 vCPU per core: mantieni SMT attivo.
Configura il pool di nodi in base alle esigenze, quindi fai clic su Crea.
Verifica la configurazione SMT
Linux
Per verificare la configurazione SMT sui nodi Linux, segui questi passaggi:
Accedi al nodo tramite SSH:
gcloud compute ssh NODE_NAME
Sostituisci
NODE_NAME
con il nome del nodo.Controlla il numero di vCPU:
cat /proc/cpuinfo | grep processor | wc -l
L'output è simile al seguente:
16
Se imposti il numero di thread per core su
1
, l'output dovrebbe mostrare la metà del numero predefinito di vCPU della VM Compute Engine. Ad esempio, l'output pern2-standard-32
con SMT disattivato deve essere16
anziché il valore predefinito32
.
Windows
Per verificare la configurazione SMT sui nodi Windows, segui questi passaggi:
Imposta un nome utente e una password per RDP sul nodo:
gcloud compute reset-windows-password NODE_NAME
Sostituisci
NODE_NAME
con il nome del nodo.Stabilisci una connessione a
EXTERNAL_IP:3389
per la VM.Esegui il seguente comando PowerShell:
Get-WmiObject -Class Win32_Processor -ComputerName. | Select-Object -Property [a-z]* | Select NumberOfCores,NumberOfLogicalProcessors
Se imposti il numero di thread per core su
1
, il valoreNumberOfCores
deve essere uguale al valoreNumberOfLogicalProcessors
, come nell'output di esempio seguente:Output (example n1-standard-2 with SMT off) NumberOfCores NumberOfLogicalProcessors ------------- ------------------------- 1 1
Passaggi successivi
- Scopri i tipi di macchine disponibili.
- Scopri come specificare una piattaforma CPU minima per i nodi GKE.
- Scopri di più sull'utilizzo dei nodi single-tenant di Compute Engine in GKE.