Fazer upgrade de clusters

Quando você instala uma nova versão de bmctl, é possível fazer upgrade dos clusters atuais que foram criados com uma versão anterior. Fazer upgrade de um cluster para a versão mais recente do Google Distributed Cloud oferece mais recursos e correções ao seu cluster. Isso também garante que o cluster permaneça compatível. É possível fazer upgrade de clusters de administrador, híbridos, autônomos ou de usuário com o comando bmctl upgrade cluster ou usar kubectl.

Para saber mais sobre o processo de upgrade e as regras de controle de versões, consulte Ciclo de vida e estágios dos upgrades do cluster

Esta página é destinada a administradores, arquitetos e operadores que gerenciam o ciclo de vida da infraestrutura de tecnologia subjacente. Para saber mais sobre papéis comuns e tarefas de exemplo referenciados no conteúdo do Google Cloud, consulte Tarefas e papéis de usuário comuns do GKE Enterprise.

Planeje o upgrade.

Esta seção contém informações e links para informações que você precisa considerar antes de fazer upgrade de um cluster. Para mais informações sobre upgrades, incluindo regras de controle de versões para clusters e pools de nós, consulte Ciclo de vida e estágios dos upgrades de cluster.

Práticas recomendadas

Para mais informações sobre como se preparar para um upgrade do cluster, consulte Práticas recomendadas para upgrades de cluster do Google Distributed Cloud.

Fazer upgrade das verificações de simulação

As verificações de simulação são executadas como parte do upgrade do cluster para validar o status do cluster e a integridade do nó. O upgrade do cluster não continuará se as verificações de simulação falharem. Para mais informações sobre verificações de simulação, consulte Entender as verificações de simulação.

Verifique se os clusters estão prontos para um upgrade executando a verificação de simulação antes de executar o upgrade. Para mais informações, consulte Verificações de simulação para upgrades.

Problemas conhecidos

Para informações sobre possíveis problemas relacionados a upgrades de cluster, consulte Problemas conhecidos do Google Distributed Cloud para bare metal e selecione a categoria de problemas Upgrades e atualizações.

Configurar opções de upgrade

Antes de iniciar um upgrade de cluster, é possível configurar as opções de upgrade a seguir que controlam como o processo de upgrade funciona:

• Upgrades seletivos de pools de nós de trabalho: faça upgrade de pools de nós de trabalho específicos separado do restante do cluster.

• Upgrades paralelos: configure o processo de upgrade para fazer upgrade de grupos de nós ou pools de nós ao mesmo tempo.

Essas opções podem reduzir o risco de interrupções em aplicativos e serviços críticos e reduzir de forma significativa o tempo geral de upgrade. Essas opções são muito úteis para clusters grandes com vários nós e pools de nós executando cargas de trabalho importantes. Para mais informações sobre o que essas opções fazem e como usá-las, consulte as seções a seguir.

Upgrades seletivos do pool de nós de trabalho

Por padrão, a operação de upgrade do cluster atualiza todos os nós e pools de nós do cluster. Um upgrade de cluster pode ser disruptivo e demorado, porque resulta na diminuição de cada nó e na reinicialização e no reagendamento de todos os pods associados. Nesta seção, descrevemos como incluir ou excluir alguns pools de nós de trabalho em um upgrade de cluster para minimizar a interrupção da carga de trabalho. Esse recurso se aplica apenas a clusters de usuário, híbridos e autônomos, já que os clusters de administrador não permitem pools de nós de trabalho.

É possível usar upgrades seletivos de pools de nós nas seguintes situações:

• Para receber correções de segurança sem interromper as cargas de trabalho: é possível fazer upgrade apenas dos nós do plano de controle (e dos nós do balanceador de carga) para aplicar correções de vulnerabilidades do Kubernetes sem interromper os pools de nós de trabalho.

• Para confirmar a operação adequada de um subconjunto atualizado de nós de trabalho antes de fazer upgrade de todos eles: é possível fazer upgrade dos pools de nós de trabalho de forma seletiva para garantir que as cargas de trabalho sejam executadas corretamente em um pool de nós atualizado antes de fazer upgrade de outro pool.

• Para reduzir a janela de manutenção: o upgrade de um cluster grande pode ser demorado e é difícil prever com precisão quando um upgrade será concluído. O tempo de upgrade do cluster é proporcional ao número de nós que estão sendo atualizados. Reduzir o número de nós que estão sendo atualizados com a exclusão de pools de nós reduz o tempo de upgrade. Você faz upgrade várias vezes, mas as janelas de manutenção menores e mais previsíveis podem ajudar com a programação.

Desvio da versão do pool de nós de duas versões secundárias

Para os clusters da versão 1.28 e mais recentes, a versão do pool de nós de trabalho pode ser até duas versões secundárias anteriores à versão do cluster (plano de controle). Com o suporte ao desvio de versão n-2, também é possível pular uma versão de lançamento secundária ao fazer upgrade de um pool de nós de trabalho a partir de duas versões secundárias anteriores à versão do cluster para a mesma versão secundária do cluster.

A compatibilidade com a distorção da versão n-2 para pools de nós de trabalho oferece mais flexibilidade. para planejar upgrades de frota.

Por exemplo, se você tiver um cluster da versão 1.30, poderá ter pools de nós de trabalho nas versões selecionadas 1.30, 1.29 e 1.28.

Antes de fazer upgrade de um cluster, todos os pools de nós de trabalho precisam estar em uma versão compatível com a versão atual e a de destino do cluster.

Por exemplo, se você tiver um cluster na versão 1.29 e pools de nós de trabalho na versão 1.29, 1.28 e 1.16, será necessário fazer upgrade dos pools de nós da versão 1.16 para a versão 1.28 ou 1.29 antes de fazer upgrade do cluster para a versão 1.30.

Para mais informações, incluindo listas de versões compatíveis de pool de nós de trabalho compatíveis com uma determinada versão do cluster (aplicável à versão 1.29 e anteriores), consulte as Regras de controle de versão do pool de nós.

apiVersion: baremetal.cluster.gke.io/v1
kind: Cluster
metadata:
  name: baremetal-demo
  namespace: cluster-baremetal-demo
  annotations:
    preview.baremetal.cluster.gke.io/two-minor-version-node-pool: enable
spec:
  type: hybrid
  profile: default
  anthosBareMetalVersion: 1.28.400-gke.77
  ...

apiVersion: baremetal.cluster.gke.io/v1
kind: Cluster
metadata:
  name: baremetal-demo
  namespace: cluster-baremetal-demo
  annotations:
    preview.baremetal.cluster.gke.io/two-minor-version-node-pool: enable
spec:
...

Para mais informações sobre as regras de controle de versões para o upgrade seletivo de pools de nós de trabalho, consulte Regras de controle de versões do pool de nós no ciclo de vida e nos estágios de upgrades dos clusters.

Fazer upgrade do plano de controle do cluster e dos pools de nós selecionados

Para fazer upgrade seletivo de pools de nós de trabalho no upgrade inicial do cluster:

1. Para os pools de nós de trabalho que você quer incluir no upgrade do cluster, faça uma das seguintes alterações na especificação NodePool:

   • Defina anthosBareMetalVersion na especificação NodePool como a versão de upgrade do destino do cluster.
   • Omita o campo anthosBareMetalVersion da especificação NodePool ou defina-o como uma string vazia. Por padrão, os pools de nós de trabalho são incluídos nos upgrades do cluster.

2. Para os pools de nós de trabalho que você quer excluir do upgrade, defina anthosBareMetalVersion como a versão atual (pré-upgrade) do cluster:

3. Continue com o upgrade conforme descrito em Iniciar o upgrade do cluster.

   A operação de upgrade do cluster faz upgrade dos seguintes nós:

   • Nós do plano de controle do cluster.
   • Pool de nós do balanceador de carga, se o cluster usar um (spec.loadBalancer.nodePoolSpec). Por padrão, os nós do balanceador de carga podem executar cargas de trabalho regulares. Não é possível fazer upgrade seletivo de um pool de nós do balanceador de carga. Ele está sempre incluído no upgrade inicial do cluster.
   • Pools de nós de trabalho que não foram excluídos do upgrade.

Por exemplo, suponha que o cluster esteja na versão 1.29.0 e tenha dois pools de nós de trabalho: wpool01 e wpool02. Além disso, suponha que você queira fazer upgrade do plano de controle e do wpool01 para 1.30.100-gke.96, mas você quer wpool02 continue na versão 1.29.0.

O trecho do arquivo de configuração de cluster a seguir mostra como modificar a configuração para aceitar esse upgrade parcial:

...
---
apiVersion: baremetal.cluster.gke.io/v1
kind: Cluster
metadata:
  name: user001
  namespace: cluster-user001
spec:
  type: user
  profile: default
  anthosBareMetalVersion: 1.30.100-gke.96
---
apiVersion: baremetal.cluster.gke.io/v1
kind: NodePool
metadata:
  name: wpool01
  namespace: cluster-user001
spec:
  clusterName: user001
  anthosBareMetalVersion: 1.30.100-gke.96
  nodes:
  - address:  10.200.0.1
  - address:  10.200.0.2
  - address:  10.200.0.3
  ...
  - address:  10.200.0.8

apiVersion: baremetal.cluster.gke.io/v1
kind: NodePool
metadata:
  name: wpool02
  namespace: cluster-user001
spec:
  clusterName: user001
  anthosBareMetalVersion: 1.29.0
  nodes:
  - address:  10.200.1.1
  - address:  10.200.1.2
  - address:  10.200.1.3
  ...
  - address:  10.200.1.12

Fazer upgrade dos pools de nós para a versão atual do cluster

Se você excluiu pools de nós de um upgrade de cluster, pode executar um upgrade de cluster que os atualize para a versão do cluster de destino. Os pools de nós de trabalho excluídos de um upgrade de cluster têm o campo anthosBareMetalVersion na especificação NodePool definido como a versão anterior do cluster (pré-upgrade).

Para atualizar os pools de nós de trabalho para a versão atual com upgrade feito do cluster:

1. Edite as especificações do NodePool no arquivo de configuração do cluster para os pools de nós de trabalho que você quer atualizar para a versão atual do cluster. Defina anthosBareMetalVersion como a versão atual do cluster (pós-upgrade).

   Se vários pools de nós de trabalho forem selecionados para upgrade, o valor de spec.nodePoolUpgradeStrategy.concurrentNodePools na especificação do cluster vai determinar quantos pools de nós vão ser atualizados em paralelo, se houver. Se você não quiser fazer upgrade dos pools de nós de trabalho ao mesmo tempo, selecione um pool de cada vez.

2. Continue com o upgrade conforme descrito em Iniciar o upgrade do cluster.

   A operação de upgrade do cluster faz upgrade apenas dos pools de nós de trabalho excluídos antes para os quais você definiu anthosBareMetalVersion para a versão atual com upgrade feito do cluster.

Por exemplo, suponha que você fez upgrade do cluster para a versão 1.30.100-gke.96, mas o pool de nós wpool02 ainda está na versão antiga de pré-lançamento do cluster 1.29.0. As cargas de trabalho estão sendo executadas da maneira correta no pool de nós atualizado, wpool01, então agora você também quer trazer wpool02 para a versão atual do cluster. Para fazer upgrade de wpool02, remova o campo anthosBareMetalVersion ou defina o valor como a string vazia.

O trecho do arquivo de configuração de cluster a seguir mostra como modificar a configuração para aceitar esse upgrade parcial:

...
---
apiVersion: baremetal.cluster.gke.io/v1
kind: Cluster
metadata:
  name: user001
  namespace: cluster-user001
spec:
  type: user
  profile: default
  anthosBareMetalVersion: 1.30.100-gke.96
---
apiVersion: baremetal.cluster.gke.io/v1
kind: NodePool
metadata:
  name: wpool01
  namespace: cluster-user001
spec:
  clusterName: user001
  anthosBareMetalVersion: 1.30.100-gke.96
  nodes:
  - address:  10.200.0.1
  - address:  10.200.0.2
  - address:  10.200.0.3
  ...
  - address:  10.200.0.8

apiVersion: baremetal.cluster.gke.io/v1
kind: NodePool
metadata:
  name: wpool02
  namespace: cluster-user001
spec:
  clusterName: user001
  anthosBareMetalVersion: ""
  nodes:
  - address:  10.200.1.1
  - address:  10.200.1.2
  - address:  10.200.1.3
  ...
  - address:  10.200.1.12

Reverter um upgrade do pool de nós

Há muitas dependências, como compatibilidade com kubelet ou plug-ins, que podem afetar o desempenho das cargas de trabalho. Caso você tenha algum problema após o upgrade de um pool de nós de trabalho, é possível reverter o pool de nós para versão anterior.

Esse recurso não está na mesma fase de lançamento para todas as versões de cluster compatíveis:

preview.baremetal.cluster.gke.io/worker-node-pool-upgrade-rollback: enable

Para reverter um upgrade do pool de nós, siga estas etapas:

Upgrades paralelos

Em upgrades de clusters padrão típicos, o upgrade de cada nó de cluster é feito em sequência, um após o outro. Nesta seção, mostramos como configurar seu cluster e os pools de nós de trabalho para que vários nós façam upgrade em paralelo quando você fizer upgrade do cluster. O upgrade de nós em paralelo acelera significativamente os upgrades do cluster, sobretudo em clusters com centenas de nós.

Há duas estratégias de upgrade paralelas que podem ser usadas para acelerar o upgrade do cluster:

• Upgrade de nó simultâneo: é possível configurar seus pools de nós de trabalho para que vários nós façam upgrade em paralelo. Os upgrades paralelos de nós são configurados na especificação do NodePool (spec.upgradeStrategy.parallelUpgrade) e somente os nós em um pool de nós de trabalho podem ser atualizados em paralelo. Só é possível fazer upgrade de um nó em planos de controle ou pools de nós do balanceador de carga de cada vez. Para mais informações, consulte Estratégia de upgrade de nó.

• Upgrade de pool de nós simultâneo: é possível configurar o cluster para que vários pools de nós façam upgrade em paralelo. Somente os pools de nós de trabalho podem ser atualizados em paralelo. Só é possível fazer upgrade de um pool de nós do plano de controle e do balanceador de carga por vez.

Estratégia de upgrade de nós

É possível configurar pools de nós de trabalho para que vários nós sejam atualizados simultaneamente (concurrentNodes). Também é possível definir um limite mínimo para o número de nós que podem executar cargas de trabalho durante todo o processo de upgrade (minimumAvailableNodes). Essa configuração é feita na especificação do NodePool. Para mais informações sobre esses campos, consulte a referência do campo de configuração do cluster.

A estratégia de upgrade de nós se aplica apenas a pools de nós de trabalho. Não é possível especificar uma estratégia de upgrade de nós para pools de nós do plano de controle ou do balanceador de carga. Durante um upgrade de cluster, os nós nos pools do plano de controle e do balanceador de carga fazem upgrade sequencialmente. Os pools de nós do plano de controle e os pools de nós do balanceador de carga são especificados na especificação do cluster (controlPlane.nodePoolSpec.nodes e loadBalancer.nodePoolSpec.nodes).

Ao configurar upgrades paralelos para nós, observe as seguintes restrições:

• O valor de concurrentNodes não pode exceder 50% do número de nós no pool de nós ou o número fixo 15, o que for menor. Por exemplo, se o pool de nós tem 20 nós, não é possível especificar um valor maior que 10. Se o pool de nós tem 100 nós, 15 é o valor máximo que pode ser especificado.

• Quando você usa concurrentNodes com minimumAvailableNodes, os valores combinados não podem exceder o número total de nós no pool de nós. Por exemplo, se o pool de nós tem 20 nós e minimumAvailableNodes está definido com 18, concurrentNodes não pode exceder 2. Da mesma forma, se concurrentNodes estiver definido como 10, minimumAvailableNodes não poderá exceder 10.

O exemplo a seguir mostra um pool de nós de trabalho np1 com 10 nós. Em um upgrade, os nós fazem upgrade de cinco por vez, e pelo menos quatro nós precisam permanecer disponíveis para que o upgrade continue:

apiVersion: baremetal.cluster.gke.io/v1
kind: NodePool
metadata:
  name: np1
  namespace: cluster-cluster1
spec:
  clusterName: cluster1
  nodes:
  - address:  10.200.0.1
  - address:  10.200.0.2
  - address:  10.200.0.3
  - address:  10.200.0.4
  - address:  10.200.0.5
  - address:  10.200.0.6
  - address:  10.200.0.7
  - address:  10.200.0.8
  - address:  10.200.0.9
  - address:  10.200.0.10 
  upgradeStrategy:
    parallelUpgrade:
      concurrentNodes: 5
      minimumAvailableNodes: 4 

Estratégia de upgrade do pool de nós

É possível configurar um cluster para fazer o upgrade em paralelo de vários pools de nós de trabalho. O campo booleano nodePoolUpgradeStrategy.concurrentNodePools na especificação do cluster especifica se é necessário fazer upgrade de todos os pools de nós de trabalho de um cluster simultaneamente. Por padrão (1), os pools de nós são atualizados sequencialmente, um após o outro. Quando você define concurrentNodePools como 0, os upgrades de todos os pools de nós de trabalho no cluster são feitos em paralelo.

O plano de controle e os pools de nós de balanceamento de carga não são afetados por essa configuração. Esses pools de nós sempre fazem upgrade sequencialmente, um por vez. Os pools de nós do plano de controle e os pools de nós do balanceador de carga são especificados na especificação do cluster (controlPlane.nodePoolSpec.nodes e loadBalancer.nodePoolSpec.nodes).

apiVersion: baremetal.cluster.gke.io/v1
kind: Cluster
metadata:
  name: cluster1
  namespace: cluster-cluster1
spec:
  ...
  nodePoolUpgradeStrategy:
    concurrentNodePools: 0
  ...

Como fazer um upgrade paralelo

Nesta seção, descrevemos como configurar um cluster e um pool de nós de trabalho para upgrades paralelos.

Para executar um upgrade paralelo de pools de nós de trabalho e nós em um pool de nós de trabalho, faça o seguinte:

1. Adicione uma seção upgradeStrategy à especificação do NodePool.

   Você pode aplicar esse manifesto separadamente ou como parte do arquivo de configuração do cluster ao realizar uma atualização de cluster.

   Veja um exemplo:

   ---
   apiVersion: baremetal.cluster.gke.io/v1
   kind: NodePool
   metadata:
     name: np1
     namespace: cluster-ci-bf8b9aa43c16c47
   spec:
     clusterName: ci-bf8b9aa43c16c47
     nodes:
     - address:  10.200.0.1
     - address:  10.200.0.2
     - address:  10.200.0.3
     ...
     - address:  10.200.0.30
     upgradeStrategy:
       parallelUpgrade:
         concurrentNodes: 5
         minimumAvailableNodes: 10
   

   Neste exemplo, o valor do campo concurrentNodes é 5, o que significa que cinco nós farão upgrade em paralelo. O campo minimumAvailableNodes está definido como 10, o que significa que pelo menos 10 nós precisam permanecer disponíveis para cargas de trabalho durante o upgrade.

2. Adicione uma seção nodePoolUpgradeStrategy à especificação do cluster no arquivo de configuração do cluster.

   ---
   apiVersion: v1
   kind: Namespace
   metadata:
     name: cluster-user001
   ---
   apiVersion: baremetal.cluster.gke.io/v1
   kind: Cluster
   metadata:
     name: user001
     namespace: cluster-user001
   spec:
     type: user
     profile: default
     anthosBareMetalVersion: 1.30.100-gke.96
     ...
     nodePoolUpgradeStrategy:
       concurrentNodePools: 0
     ...
   

   Neste exemplo, o campo concurrentNodePools está definido como 0, o que significa que todos os pools de nós de trabalho são atualizados simultaneamente durante o upgrade do cluster. A estratégia de upgrade dos nós nos pools é definida nas especificações do NodePool.

3. Faça upgrade do cluster conforme descrito na seção anterior Upgrade de clusters administrativos, independentes, híbridos ou de usuário.

Valores padrão do upgrade paralelo

Os upgrades paralelos estão desativados por padrão, e os campos relacionados a eles são mutáveis. Você pode remover os campos ou defini-los como valores padrão a qualquer momento para desativar o recurso antes de um upgrade subsequente.

A tabela a seguir lista os campos de upgrade paralelos e os valores padrão:

Iniciar o upgrade do cluster

Esta seção contém instruções para fazer upgrade de clusters.

Pausar e retomar upgrades

O recurso de pausar e retomar o upgrade permite pausar um upgrade do cluster antes que ele seja concluído. Quando um upgrade de cluster é pausado, nenhum upgrade novo de nó de trabalho é acionado até que o upgrade seja retomado.

Este recurso está disponível em (pré-lançamento) para cluster com todos os nós do plano de controle na versão secundária 1.28 ou mais recente. O recurso está com disponibilidade geral para clusters com todos os nós do plano de controle na versão secundária 1.29 ou mais recente.

Talvez você queira pausar um upgrade pelos seguintes motivos:

• Você detectou algo errado com as cargas de trabalho do cluster durante o upgrade e quer pausar o upgrade para analisar o problema.

• Suas janelas de manutenção são curtas, então quer pausar o upgrade entre as janelas

Enquanto um upgrade de cluster está pausado, as seguintes operações são aceitas:

• Adicionar ou remover nós
• Adicionar ou remover pools de nós
• Aumentar o alcance da rede de serviços
• Restaurar um cluster de um backup

Quando um novo nó é adicionado enquanto um upgrade está pausado, os jobs de verificação da máquina não são executados até que o upgrade seja retomado e concluído.

Enquanto o upgrade do cluster estiver pausado, as operações de cluster a seguir não serão aceitas::

• Alternar autoridades certificadoras
• Fazer backup de um cluster

Não é possível iniciar um novo upgrade de cluster enquanto um upgrade de cluster ativo estiver pausado.

Ativar a pausa e a retomada do upgrade

Pausar um upgrade

Você pausa um upgrade de cluster definindo nodePoolUpgradeStrategy.pause como true na especificação do cluster.

Para pausar um upgrade de cluster ativo, siga estas etapas:

1. Adicione nodePoolUpgradeStrategy.pause ao arquivo de configuração do cluster e defina-o como true:

   apiVersion: baremetal.cluster.gke.io/v1
   kind: Cluster
   metadata:
     name: baremetal-demo
     namespace: cluster-baremetal-demo
     ...
   spec:
     ...
     nodePoolUpgradeStrategy:
       pause: true
     ...
   

   Se você usou bmctl para iniciar o upgrade, vai precisar de uma nova janela de terminal para realizar a próxima etapa.

2. Para aplicar a alteração, atualize o cluster:

   bmctl update CLUSTER_NAME
   

   A operação de upgrade foi pausada. Nenhum upgrade de nó novo será acionado.

3. Se você usou bmctl para iniciar o upgrade e está planejando uma uma pausa prolongada, pressione Control+C para fechar bmctl. Caso contrário, mantenha o bmctl em execução.

   A CLI bmctl não detecta mudanças no status de pausa do upgrade. Portanto, ela não é encerrada automaticamente. No entanto, quando você fecha bmctl, ele para de registrar o progresso do upgrade para o arquivo de registro cluster-upgrade-TIMESTAMP na pasta do cluster na sua estação de trabalho de administrador e para o Cloud Logging. Portanto, para pausas curtas, mantenha bmctl em execução. Se você deixar bmctl em execução por um longo período enquanto o quando o upgrade estiver pausado, ele expirará.

Retomar um upgrade pausado

Para retomar um upgrade de cluster pausado, defina nodePoolUpgradeStrategy.pause como false na especificação do cluster ou remova nodePoolUpgradeStrategy.pause da especificação.

Para retomar um upgrade de cluster que foi pausado, siga estas etapas:

1. Defina nodePoolUpgradeStrategy.pause como o arquivo de configuração do cluster e defina-p como false:

   apiVersion: baremetal.cluster.gke.io/v1
   kind: Cluster
   metadata:
     name: baremetal-demo
     namespace: cluster-baremetal-demo
     ...
   spec:
     ...
     nodePoolUpgradeStrategy:
       pause: false
     ...
   

   Se preferir, remova o campo pause, porque ele tem como padrão false.

2. Para aplicar a alteração, atualize o cluster:

   bmctl update CLUSTER_NAME
   

   A operação de upgrade continuará de onde parou.

3. Para verificar o status do upgrade, primeiro acesse uma lista dos recursos que têm anthosBareMetalVersion no status:

   kubectl get RESOURCE --kubeconfig ADMIN_KUBECONFIG --all_namespaces
   

   Substitua:

   • RESOURCE: o nome do recurso que você quer receber. Os recursos Cluster, NodePool e BareMetalMachine contêm Informações de status do anthosBareMetalVersion.

   • ADMIN_KUBECONFIG: o caminho do arquivo kubeconfig do cluster de administrador.

   O exemplo abaixo mostra o formato da resposta para recursos personalizados BareMetalMachine. Cada BareMetalMachine corresponde a um nó do cluster.

   NAMESPACE              NAME         CLUSTER        READY   INSTANCEID               MACHINE      ABM VERSION   DESIRED ABM VERSION
   cluster-nuc-admin001   192.0.2.52   nuc-admin001   true    baremetal://192.0.2.52   192.0.2.52   1.28.0        1.28.0
   cluster-nuc-user001    192.0.2.53   nuc-user001    true    baremetal://192.0.2.53   192.0.2.53   1.16.2        1.16.2
   cluster-nuc-user001    192.0.2.54   nuc-user001    true    baremetal://192.0.2.54   192.0.2.54   1.16.2        1.16.2
   

4. Para verificar a status.anthosBareMetalVersion (versão atual do recurso), recupere os detalhes dos recursos individuais.

   kubectl describe RESOURCE RESOURCE_NAME \
       --kubeconfig ADMIN_KUBECONFIG \
       --namespace CLUSTER_NAMESPACE
   

   O exemplo a seguir mostra os detalhes de BareMetalMachine do nó do cluster com endereço IP 192.0.2.53:

   Name:         192.0.2.53
   Namespace:    cluster-nuc-user001
   ...
   API Version:  infrastructure.baremetal.cluster.gke.io/v1
   Kind:         BareMetalMachine
   Metadata:
     Creation Timestamp:  2023-09-22T17:52:09Z
     ...
   Spec:
     Address:                    192.0.2.53
     Anthos Bare Metal Version:  1.16.2
     ...
   Status:
     Anthos Bare Metal Version:  1.16.2
   

   Neste exemplo, o nó está na versão 1.16.2 do Google Distributed Cloud.