Mengupgrade cluster atau kumpulan node

Gkectl

Bersiap untuk mengupgrade cluster pengguna

Lakukan langkah-langkah berikut di workstation admin Anda:

1. Jalankan gkectl prepare untuk mengimpor OS image ke vSphere:

   gkectl prepare \
     --bundle-path /var/lib/gke/bundles/gke-onprem-vsphere-TARGET_VERSION.tgz \
     --kubeconfig ADMIN_CLUSTER_KUBECONFIG
   

2. Jika cluster Anda memiliki kumpulan node Windows, jalankan gkectl prepare windows, dan update kolom osImage untuk kumpulan node. Untuk petunjuk mendetail, lihat Mengupgrade cluster pengguna dengan node pool Windows.

3. Di file konfigurasi cluster pengguna, tetapkan gkeOnPremVersion ke versi target upgrade Anda.

4. Khusus kumpulan node Ubuntu dan COS: Menentukan kumpulan node yang ingin Anda upgrade. Mengupgrade kumpulan node secara terpisah dari bidang kontrol didukung untuk kumpulan node Ubuntu dan COS, tetapi tidak untuk kumpulan node Windows.

   Di file konfigurasi cluster pengguna, tunjukkan kumpulan node mana yang ingin Anda upgrade, seperti berikut:

   • Untuk setiap kumpulan node yang ingin Anda upgrade, hapus kolom nodePools.nodePool[i].gkeOnPremVersion, atau tetapkan ke string kosong.

   • Untuk setiap kumpulan node yang tidak ingin Anda upgrade, tetapkan nodePools.nodePool[i].gkeOnPremVersion ke versi saat ini.

   Misalnya, cluster pengguna Anda menggunakan versi 1.15.5-gke.41 dan memiliki dua kumpulan node: pool-1 dan pool-2. Misalkan juga Anda ingin mengupgrade bidang kontrol dan pool-1 ke 1.16.3-gke.45, tetapi Anda ingin pool-2 tetap dalam versi 1.15.5-gke.41. Bagian file konfigurasi cluster pengguna berikut menunjukkan cara menentukan contoh ini:

   gkeOnPremVersion: 1.16.3-gke.45
   
   nodePools:
   - name: pool-1
     gkeOnPremVersion: ""
     cpus: 4
     memoryMB: 8192
     replicas: 3
     osImageType: ubuntu_containerd
   - name: pool-2
     gkeOnPremVersion: 1.15.5-gke.41
     cpus: 4
     memoryMB: 8192
     replicas: 5
     osImageType: ubuntu_containerd
   

Menjalankan pemeriksaan preflight

Saat mengupgrade ke versi 1.29 dan yang lebih baru, Anda dapat menjalankan pemeriksaan preflight sebelum mengupgrade cluster pengguna:

gkectl upgrade cluster \
  --kubeconfig ADMIN_CLUSTER_KUBECONFIG \
  --config USER_CLUSTER_CONFIG \
  --dry-run

Dengan flag --dry-run, gkectl upgrade cluster menjalankan pemeriksaan preflight, tetapi tidak memulai proses upgrade. Meskipun versi Google Distributed Cloud sebelumnya menjalankan pemeriksaan preflight, versi tersebut tidak dapat dijalankan secara terpisah dari upgrade. Dengan menambahkan tanda --dry-run, Anda dapat menemukan dan memperbaiki masalah apa pun yang ditemukan oleh pemeriksaan preflight pada cluster pengguna sebelum upgrade.

Jalankan gkectl upgrade cluster

Ada dua variasi perintah gkectl upgrade cluster:

• Asinkron: (direkomendasikan)
  Dengan variasi asinkron, perintah akan memulai upgrade dan kemudian diselesaikan. Anda tidak perlu melihat output perintah selama proses upgrade. Sebagai gantinya, Anda dapat memeriksa progres upgrade secara berkala dengan menjalankan gkectl list clusters dan gkectl describe clusters. Untuk menggunakan variasi asinkron, sertakan flag --async dalam perintah.

• Sinkron:
  Dengan variasi sinkron, perintah gkectl upgrade cluster menghasilkan pesan status ke workstation admin saat upgrade berlangsung.

Warning  PodEvictionTooLong  96s (x2 over 4m7s)  onprem-user-cluster-controller
Waiting too long(>10m0.00000003s) for (kube-system/coredns-856d6dbfdf-dl6nz) eviction.

Mengupgrade node pool tambahan

Jika Anda hanya mengupgrade bidang kontrol cluster pengguna, atau mengupgrade bidang kontrol dan beberapa, tetapi tidak semua kumpulan node, lakukan langkah-langkah berikut untuk mengupgrade kumpulan node:

1. Edit file konfigurasi cluster pengguna Anda. Untuk setiap kumpulan node yang ingin Anda upgrade, hapus kolom nodePools.nodePool[i].gkeOnPremVersion, atau tetapkan ke string kosong, seperti yang ditunjukkan pada contoh berikut:

   gkeOnPremVersion: 1.16.3-gke.45
   
   nodePools:
   - name: pool-1
     gkeOnPremVersion: ""
     cpus: 4
     memoryMB: 8192
     replicas: 3
     osImageType: ubuntu_containerd
   - name: pool-2
     gkeOnPremVersion: ""
     cpus: 4
     memoryMB: 8192
     replicas: 5
     osImageType: ubuntu_containerd
   

2. Jalankan gkectl update cluster untuk menerapkan perubahan:

   gkectl update cluster --kubeconfig ADMIN_CLUSTER_KUBECONFIG \
     --config USER_CLUSTER_CONFIG
   

   Ganti kode berikut:

   • ADMIN_CLUSTER_KUBECONFIG: jalur file kubeconfig cluster admin Anda

   • USER_CLUSTER_CONFIG: jalur file konfigurasi cluster pengguna Anda

Jika mengalami masalah setelah mengupgrade kumpulan node, Anda dapat melakukan roll back ke versi sebelumnya. Untuk informasi selengkapnya, lihat Melakukan roll back kumpulan node setelah upgrade.

Melanjutkan upgrade

Jika upgrade cluster pengguna terganggu, Anda dapat melanjutkan upgrade cluster pengguna dengan menjalankan perintah upgrade yang sama menggunakan tanda --skip-validation-all:

gkectl upgrade cluster \
  --kubeconfig ADMIN_CLUSTER_KUBECONFIG \
  --config USER_CLUSTER_CONFIG_FILE \
  --skip-validation-all

Konsol

Upgrade cluster pengguna memerlukan beberapa perubahan pada cluster admin. Konsol akan otomatis melakukan hal berikut:

• Mendaftarkan cluster admin di GKE On-Prem API jika belum terdaftar.

• Mendownload dan men-deploy paket komponen ke cluster admin. Versi komponen cocok dengan versi yang Anda tentukan untuk upgrade. Komponen ini memungkinkan cluster admin mengelola cluster pengguna pada versi tersebut.

Untuk mengupgrade cluster pengguna:

1. Di konsol, buka halaman Ringkasan cluster Google Kubernetes Engine.

   Buka cluster GKE

2. Pilih project Google Cloud, lalu pilih cluster yang ingin Anda upgrade.

3. Di panel Details, klik Detail selengkapnya.

4. Di bagian Cluster basics, klik edit Upgrade.

5. Dalam daftar Choose target version, pilih versi yang ingin Anda upgrade. Daftar hasil seleksi hanya berisi rilis patch terbaru.

6. Klik Upgrade.

Sebelum cluster diupgrade, pemeriksaan preflight akan dijalankan untuk memvalidasi status cluster dan kondisi node. Jika lulus pemeriksaan preflight, cluster pengguna akan diupgrade. Perlu waktu sekitar 30 menit untuk menyelesaikan upgrade.

Untuk melihat status upgrade, klik Show Details di tab Cluster Details.

gcloud CLI

Upgrade cluster pengguna memerlukan beberapa perubahan pada cluster admin. Perintah gcloud container vmware clusters upgrade akan otomatis melakukan hal berikut:

• Mendaftarkan cluster admin di GKE On-Prem API jika belum terdaftar.

• Mendownload dan men-deploy paket komponen ke cluster admin. Versi komponen cocok dengan versi yang Anda tentukan untuk upgrade. Komponen ini memungkinkan cluster admin mengelola cluster pengguna pada versi tersebut.

Untuk mengupgrade cluster pengguna:

1. Update komponen Google Cloud CLI:

   gcloud components update
   

2. Khusus kumpulan node Ubuntu dan COS: Jika Anda hanya ingin mengupgrade bidang kontrol cluster pengguna dan membiarkan semua kumpulan node pada versi saat ini, ubah kebijakan upgrade di cluster:

   gcloud container vmware clusters update USER_CLUSTER_NAME \
     --project=PROJECT_ID \
     --location=REGION \
     --upgrade-policy control-plane-only=True
   

   Ganti kode berikut:

   • USER_CLUSTER_NAME: Nama cluster pengguna yang akan diupgrade.

   • PROJECT_ID: ID project host perangkat tempat cluster pengguna menjadi anggota. Project ini adalah project yang Anda tentukan saat cluster dibuat. Jika Anda membuat cluster menggunakan gkectl, ini adalah project ID di kolom gkeConnect.projectID dalam file konfigurasi cluster.

   • REGION: Region Google Cloud tempat GKE On-Prem API menjalankan dan menyimpan metadatanya. Jika Anda membuat cluster menggunakan klien GKE On-Prem API, ini adalah region yang Anda pilih saat membuat cluster. Jika Anda membuat cluster menggunakan gkectl, ini adalah region yang Anda tentukan saat mendaftarkan cluster di GKE On-Prem API.

3. Dapatkan daftar versi yang tersedia untuk diupgrade:

   gcloud container vmware clusters query-version-config \
     --cluster=USER_CLUSTER_NAME \
     --project=PROJECT_ID \
     --location=REGION
   

   Output perintah ini akan mirip dengan berikut ini:

   versions:
   - version: 1.16.3-gke.45
   - version: 1.16.2-gke.28
   - version: 1.16.1-gke.45
   - version: 1.16.0-gke.669
   - version: 1.15.6-gke.25
   - version: 1.15.5-gke.41
   
   An Anthos version must be made available on the admin cluster ahead of the user
   cluster creation or upgrade. Versions annotated with isInstalled=true are
   installed on the admin cluster for the purpose of user cluster creation or
   upgrade whereas other version are released and will be available for upgrade
   once dependencies are resolved.
   
   To install the version in the admin cluster, run:
   $ gcloud container vmware admin-clusters update my-admin-cluster --required-platform-version=VERSION
   

   Anda dapat mengabaikan pesan setelah daftar versi. Tidak masalah apakah versi yang sedang Anda upgrade diinstal di cluster admin. Perintah upgrade akan mendownload dan men-deploy paket komponen yang sesuai dengan versi yang Anda tentukan dalam perintah upgrade.

4. Mengupgrade cluster. Jika Anda menjalankan perintah update untuk mengubah kebijakan upgrade menjadi control-plane-only=True, hanya bidang kontrol cluster yang akan diupgrade. Jika tidak, bidang kontrol cluster dan semua kumpulan node akan diupgrade.

   gcloud container vmware clusters upgrade USER_CLUSTER_NAME \
     --project=PROJECT_ID \
     --location=REGION \
     --version=VERSION
   

   Ganti VERSION dengan versi Google Distributed Cloud yang ingin Anda upgrade. Tentukan versi dari output perintah sebelumnya. Sebaiknya upgrade ke versi patch terbaru.

   Output dari perintah ini mirip dengan berikut ini:

   Waiting for operation [projects/example-project-12345/locations/us-west1/operations/operation-1679543737105-5f7893fd5bae9-942b3f97-75e59179] to complete.
   

   Pada contoh output, string operation-1679543737105-5f7893fd5bae9-942b3f97-75e59179 adalah OPERATION_ID dari operasi yang berjalan lama. Anda dapat mengetahui status operasi ini dengan menjalankan perintah berikut di jendela terminal yang lain:

   gcloud container vmware operations describe OPERATION_ID \
     --project=PROJECT_ID \
     --location=REGION
   

Mengupgrade node pool

Jika Anda memilih untuk hanya mengupgrade bidang kontrol cluster pengguna, lakukan langkah-langkah berikut untuk mengupgrade kumpulan node setelah bidang kontrol cluster pengguna diupgrade:

1. Dapatkan daftar kumpulan node di cluster pengguna:

   gcloud container vmware node-pools list
     --cluster=USER_CLUSTER_NAME  \
     --project=PROJECT_ID \
     --location=REGION
   

2. Untuk setiap kumpulan node yang ingin Anda upgrade, jalankan perintah berikut:

   gcloud container vmware node-pools update NODE_POOL_NAME \
     --cluster=USER_CLUSTER_NAME  \
     --project=PROJECT_ID \
     --location=REGION \
     --version=VERSION
   

Terraform

1. Update komponen Google Cloud CLI:

   gcloud components update
   

2. Jika belum melakukannya, daftarkan cluster admin di GKE On-Prem API. Setelah cluster didaftarkan di GKE On-Prem API, Anda tidak perlu melakukan langkah ini lagi.

3. Dapatkan daftar versi yang tersedia untuk diupgrade:

   gcloud container vmware clusters query-version-config \
     --cluster=USER_CLUSTER_NAME \
     --project=PROJECT_ID \
     --location=REGION
   

   Ganti kode berikut:

   • USER_CLUSTER_NAME: Nama cluster pengguna.

   • PROJECT_ID: ID project fleet tempat cluster pengguna tersebut menjadi anggota. Project ini adalah project yang Anda tentukan saat cluster dibuat. Jika Anda membuat cluster menggunakan gkectl, ini adalah project ID di kolom gkeConnect.projectID dalam file konfigurasi cluster.

   • REGION: Region Google Cloud tempat GKE On-Prem API menjalankan dan menyimpan metadatanya. Dalam file main.tf yang Anda gunakan untuk membuat cluster pengguna, region berada di kolom location dari resource cluster.

   Output perintah ini akan mirip dengan berikut ini:

   versions:
   - version: 1.16.3-gke.45
   - version: 1.16.2-gke.28
   - version: 1.16.1-gke.45
   - version: 1.16.0-gke.669
   - version: 1.15.6-gke.25
   - version: 1.15.5-gke.41
   
   An Anthos version must be made available on the admin cluster ahead of the user
   cluster creation or upgrade. Versions annotated with isInstalled=true are
   installed on the admin cluster for the purpose of user cluster creation or
   upgrade whereas other version are released and will be available for upgrade
   once dependencies are resolved.
   
   To install the version in the admin cluster, run:
   $ gcloud container vmware admin-clusters update my-admin-cluster --required-platform-version=VERSION
   

4. Download komponen versi baru dan deploy di cluster admin:

   gcloud vmware admin-clusters update ADMIN_CLUSTER_NAME \
     --project=PROJECT_ID \
     --location=REGION \
     --required-platform-version=VERSION
   

   Perintah ini akan mendownload versi komponen yang Anda tentukan di --required-platform-version ke cluster admin, lalu men-deploy komponen. Komponen ini memungkinkan cluster admin mengelola cluster pengguna pada versi tersebut.

5. Di file main.tf yang Anda gunakan untuk membuat cluster pengguna, ubah on_prem_version di resource cluster ke versi baru.

6. Khusus kumpulan node Ubuntu dan COS: Jika Anda hanya ingin mengupgrade bidang kontrol cluster pengguna dan membiarkan semua kumpulan node pada versi saat ini, tambahkan kode berikut ke resource cluster:

   upgrade_policy {
     control_plane_only = true
   }
   

7. Lakukan inisialisasi dan buat paket Terraform:

   terraform init
   

   Terraform menginstal semua library yang diperlukan, seperti penyedia Google Cloud.

8. Tinjau konfigurasi dan buat perubahan jika diperlukan:

   terraform plan
   

9. Terapkan rencana Terraform untuk membuat cluster pengguna:

   terraform apply
   

Mengupgrade node pool

Jika Anda memilih untuk hanya mengupgrade bidang kontrol cluster pengguna, lakukan langkah-langkah berikut untuk mengupgrade kumpulan node tambahan setelah bidang kontrol cluster pengguna diupgrade:

1. Di main.tf pada resource untuk setiap kumpulan node yang ingin Anda upgrade, tambahkan hal berikut:

   on_prem_version = "VERSION"
   

   Contoh:

   resource "google_gkeonprem_vmware_node_pool" "nodepool-basic" {
   name = "my-nodepool"
   location = "us-west1"
   vmware_cluster = google_gkeonprem_vmware_cluster.default-basic.name
   config {
     replicas = 3
     image_type = "ubuntu_containerd"
     enable_load_balancer = true
   }
   on_prem_version = "1.16.0-gke.0"
   }
   

2. Lakukan inisialisasi dan buat paket Terraform:

   terraform init
   

3. Tinjau konfigurasi dan buat perubahan jika diperlukan:

   terraform plan
   

4. Terapkan rencana Terraform untuk membuat cluster pengguna:

   terraform apply
   

Upgrade asinkron

1. Di workstation admin, mulai upgrade asinkron:

   gkectl upgrade admin \
       --kubeconfig ADMIN_CLUSTER_KUBECONFIG \
       --config ADMIN_CLUSTER_CONFIG_FILE \
       --async \
       FLAGS
   

   Ganti kode berikut:

   • ADMIN_CLUSTER_KUBECONFIG: jalur ke file kubeconfig cluster admin.

   • ADMIN_CLUSTER_CONFIG_FILE: jalur ke file konfigurasi cluster admin.

   • FLAGS: kumpulan flag opsional. Misalnya, Anda dapat menyertakan flag --skip-validation-infra untuk melewati pemeriksaan infrastruktur vSphere Anda.

   Perintah sebelumnya selesai, dan Anda dapat terus menggunakan workstation admin saat upgrade sedang berlangsung.

2. Untuk melihat status upgrade:

   gkectl list admin --kubeconfig ADMIN_CLUSTER_KUBECONFIG
   

   Output menunjukkan nilai untuk cluster STATE. Jika cluster masih diupgrade, nilai STATE adalah UPGRADING. Contoh:

   NAME              STATE         AGE    VERSION
   gke-admin-test    UPGRADING     9h     1.29.100-gke.248
   

   Nilai yang mungkin untuk STATE adalah RUNNING, UPGRADING, RECONCILING, ERROR, dan UNKNOWN.

3. Untuk mendapatkan detail selengkapnya tentang progres upgrade dan peristiwa cluster:

   gkectl describe admin --kubeconfig ADMIN_CLUSTER_KUBECONFIG
   

   Output akan menampilkan resource kustom OnPremAdminCluster untuk cluster admin yang ditentukan, yang mencakup status, kondisi, dan peristiwa cluster.

   Kami mencatat peristiwa untuk awal dan akhir setiap fase upgrade penting.

   Contoh output:

   Events:
   Type    Reason                             Age   From                             Message
   ----       ------                                  ----     ----                                -------
   Normal  ControlPlaneUpgradeStarted         40m   onprem-admin-cluster-controller  Creating or updating admin cluster API Controller
   Normal  ControlPlaneMachineUpgradeStarted  40m   onprem-admin-cluster-controller  Creating or updating control plane machine
   Normal  StatusChanged                      40m   onprem-admin-cluster-controller  OnPremAdminCluster status changed:
   - New ClusterState condition: UPGRADING
   - New Ready condition: False, CreateOrUpdateControlPlaneMachine, Creating or updating control plane machine
   Normal   StatusChanged      2m                onprem-admin-cluster-controller  OnPremAdminCluster status changed:
   - New ClusterState condition: RUNNING
   - New Ready condition: True, ClusterRunning, Cluster is running
   

4. Setelah upgrade selesai, gkectl list admin menampilkan STATUS dari RUNNING:

   NAME              STATE         AGE    VERSION
   gke-admin-test    RUNNING       9h     1.29.100-gke.248
   

   Selain itu, setelah upgrade selesai, gkectl describe admin akan menampilkan kolom Last GKE On Prem Version di bagian Status. Contoh:

   Status:
     Cluster State:  RUNNING
     Last GKE On Prem Version:  1.29.0-gke.1
   

Memecahkan masalah upgrade asinkron

Untuk upgrade asinkron, durasi waktu tunggu didasarkan pada jumlah node dalam cluster. Jika upgrade memerlukan waktu lebih lama daripada durasi waktu tunggu, status cluster akan diubah dari UPGRADING menjadi ERROR, dengan peristiwa yang menyatakan bahwa waktu operasi upgrade telah habis. Perhatikan bahwa status ERROR di sini berarti upgrade memerlukan waktu lebih lama dari yang diperkirakan, tetapi belum dihentikan. Pengontrol melanjutkan rekonsiliasi dan terus mencoba kembali operasi tersebut. Jika upgrade diblokir atau gagal, Anda dapat menjalankan gkectl diagnose untuk memeriksa masalah cluster umum. Berdasarkan hasilnya, Anda dapat memutuskan apakah akan melakukan perbaikan manual atau menghubungi Dukungan Google Cloud untuk mendapatkan bantuan lebih lanjut.

Upgrade sinkron

1. Jalankan perintah berikut:

   gkectl upgrade admin \
       --kubeconfig ADMIN_CLUSTER_KUBECONFIG \
       --config ADMIN_CLUSTER_CONFIG_FILE \
       FLAGS
   

   Ganti kode berikut:

   • ADMIN_CLUSTER_KUBECONFIG: jalur ke file kubeconfig cluster admin.

   • ADMIN_CLUSTER_CONFIG_FILE: jalur ke file konfigurasi cluster admin.

   • FLAGS: kumpulan flag opsional. Misalnya, Anda dapat menyertakan flag --skip-validation-infra untuk melewati pemeriksaan infrastruktur vSphere.

   Perintah gkectl upgrade menjalankan pemeriksaan preflight. Jika pemeriksaan preflight gagal, perintah akan diblokir. Anda harus memperbaiki kegagalan ini atau menggunakan flag --skip-preflight-check-blocking dengan perintah untuk berhenti memblokir.

2. Jika Anda mengupgrade ke versi 1.14.0 atau yang lebih baru, file kubeconfig baru akan dibuat untuk cluster admin yang menimpa file yang ada. Untuk melihat detail cluster dalam file, jalankan perintah berikut:

   kubectl config view --kubeconfig ADMIN_CLUSTER_KUBECONFIG