GPU yang tersedia

GPU digunakan untuk mempercepat workload, dan Cloud Workstations mendukung pemasangan GPU ke workstation. Cloud Workstations mendukung banyak model GPU yang tersedia untuk dipasang ke VM Compute Engine. Model dan jumlah GPU yang akan dipasang ke setiap workstation ditentukan pada konfigurasi workstation. Cloud Workstations menangani pemasangan GPU dan penginstalan driver perangkatnya.

Memasang GPU ke workstation akan memengaruhi biaya seperti yang dijelaskan dalam ringkasan harga Cloud Workstations.

Batasan

Konfigurasi workstation dapat menentukan GPU, dengan tunduk pada batasan berikut:

  • Cloud Workstations hanya mendukung GPU untuk konfigurasi yang menentukan jenis mesin dalam seri mesin N1, seri mesin A2, atau seri mesin A3. Lihat model GPU yang didukung untuk mengetahui detailnya.
  • Konfigurasi harus menentukan zona replika tempat model GPU yang dipilih tersedia.
  • Workstation tidak dapat dikonfigurasi agar memiliki lebih dari satu model GPU yang terpasang sekaligus.
  • Konfigurasi yang menentukan jenis mesin A2 Ultra atau seri mesin A3 tidak boleh menentukan penyimpanan persisten. Pertimbangkan untuk menggunakan solusi berbasis NFS seperti Filestore atau Cloud Storage FUSE jika diperlukan penyimpanan file persisten. Perhatikan bahwa jenis mesin Standar A2 mendukung penyimpanan persisten. Untuk membuat konfigurasi tanpa penyimpanan persisten, gunakan perintah gcloud CLI berikut:

      gcloud workstations configs create CONFIG_NAME \
        --project=PROJECT_ID \
        --cluster=CLUSTER_NAME \
        --region=LOCATION \
        --machine-type=A2_MACHINE_TYPE \
        --no-persistent-storage
    

    Ganti kode berikut:

    • PROJECT_ID: ID project yang berisi konfigurasi workstation.
    • LOCATION: region cluster workstation.
    • CLUSTER_NAME: nama cluster workstation yang berisi konfigurasi workstation.
    • CONFIG_NAME: nama konfigurasi workstation.
    • A2_MACHINE_TYPE: jenis mesin A2.

Model GPU yang didukung

Cloud Workstations mendukung banyak model GPU yang disediakan oleh Compute Engine. Model yang didukung bergantung pada seri mesin yang dipilih untuk konfigurasi workstation, seperti yang diringkas dalam tabel berikut.

Seri mesin N1

Seri mesin tujuan umum N1 mendukung beberapa model GPU, dan konfigurasi workstation yang menentukan salah satu jenis mesin N1 juga dapat menentukan salah satu model GPU berikut. Untuk model GPU yang dipilih, konfigurasi dapat menentukan jumlah kartu GPU yang akan dipasang ke setiap workstation.

Model GPU Jumlah GPU
NVIDIA T4 (nvidia-tesla-t4) 1, 2, atau 4 GPU
NVIDIA P4 (nvidia-tesla-p4) 1, 2, atau 4 GPU
NVIDIA V100 (nvidia-tesla-v100) 1, 2, 4, atau 8 GPU
NVIDIA P100 (nvidia-tesla-p100) 1, 2, atau 4 GPU

Seri mesin A2

Seri mesin yang dioptimalkan akselerator standar A2 memiliki jumlah tetap GPU NVIDIA A100 yang terpasang, hanya berdasarkan jenis mesin yang dipilih.

Tabel berikut menunjukkan pemetaan dari jenis mesin ke jumlah kartu yang akan dilampirkan.

Model GPU Jenis mesin Jumlah GPU
NVIDIA A100 40GB (nvidia-tesla-a100) a2-highgpu-1g 1 GPU
a2-highgpu-2g 2 GPU
a2-highgpu-4g 4 GPU
a2-highgpu-8g 8 GPU
a2-megagpu-16g 16 GPUs

Cloud Workstations tidak mendukung jenis mesin A2 ultra.

Seri mesin A3

Seri mesin yang dioptimalkan akselerator A3 Mega dan A3 High memiliki jumlah tetap GPU NVIDIA H100 yang terpasang, hanya berdasarkan jenis mesin yang dipilih.

Tabel berikut menunjukkan pemetaan dari jenis mesin ke jumlah kartu yang akan dilampirkan.

Model GPU Jenis mesin Jumlah GPU
NVIDIA H100 80GB (nvidia-tesla-h100) a3-highgpu-1g 1 GPU
a3-highgpu-2g 2 GPU
a3-highgpu-4g 4 GPU
a3-highgpu-8g 8 GPU
a3-megagpu-8g 8 GPU

Menambahkan GPU ke Konfigurasi Workstation yang Ada

Untuk menambahkan GPU ke konfigurasi workstation, selesaikan langkah-langkah di salah satu tab berikut.

Sebelum memulai

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

    After installing the Google Cloud CLI, initialize it by running the following command:

    gcloud init

    If you're using an external identity provider (IdP), you must first sign in to the gcloud CLI with your federated identity.

    Tinjau ringkasan harga Cloud Workstations untuk memahami pengaruh konfigurasi GPU terhadap biaya Anda. Perhatikan bahwa GPU terpasang ke virtual machine (VM) yang telah dimulai sebelumnya yang ditentukan oleh Ukuran pool mulai cepat konfigurasi.

    Memperbarui konfigurasi yang ada

    Konsol

    Konfigurasi GPU pada konfigurasi workstation yang ada dari konsol Google Cloud , dengan melakukan hal berikut:

    1. Di konsol Google Cloud , buka halaman Workstation configurations.

      Buka Konfigurasi workstation

    2. Dalam daftar Workstation configurations, klik Name konfigurasi yang akan ditambahi GPU.

    3. Di halaman Workstation configuration details, klik edit Edit.

    4. Di halaman Edit konfigurasi workstation, klik Setelan mesin di menu navigasi.

    5. Klik tombol untuk memilih GPU, bukan kelompok mesin Tujuan umum.

      Di kolom GPU type, pilih Model GPU yang ingin Anda gunakan.

      Di kolom Number of GPUs, pilih jumlah kartu GPU yang ingin Anda pasang ke setiap workstation.

      Di kolom Machine type, pilih jenis mesin yang ingin Anda gunakan.

    6. Klik Simpan untuk memperbarui konfigurasi.

    gcloud

    Konfigurasi GPU pada konfigurasi workstation yang ada dengan menjalankan perintah gcloud workstations configs update.

    Namun, kumpulkan beberapa informasi terlebih dahulu untuk melihat model GPU mana yang tersedia dan memilih salah satunya untuk konfigurasi Anda:

    1. Periksa zona replika yang ditentukan konfigurasi dengan menjalankan perintah CLI gcloud berikut:

      gcloud workstations configs describe \
        --format="table(name.scope(workstationConfigs),replicaZones.list())" \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=CLUSTER_NAME \
        CONFIG_NAME
      

      Ganti kode berikut:

      • PROJECT_ID: ID project yang berisi konfigurasi workstation.
      • LOCATION: lokasi cluster workstation.
      • CLUSTER_NAME: nama cluster workstation yang berisi konfigurasi workstation.
      • CONFIG_NAME: nama konfigurasi workstation.
    2. Pilih model GPU yang didukung dan tersedia di kedua zona replika konfigurasi dengan menjalankan perintah gcloud compute accelerator-types list:

      gcloud compute accelerator-types list \
        --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
        --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
        --project=PROJECT_ID
      

      Ganti ZONES dengan daftar zona replika yang dipisahkan koma dan ditentukan pada langkah sebelumnya (misalnya, us-central1-a,us-central1-c).

      Pilih model GPU yang tercantum dua kali dalam tabel, yang menunjukkan bahwa model tersebut tersedia di kedua zona replika.

      Catat jumlah maksimum kartu yang dapat Anda pasang untuk model GPU yang dipilih.

    3. Tentukan jenis mesin yang didukung dan tersedia di kedua zona replika konfigurasi menggunakan perintah gcloud compute machine-types list.

      1. Jika Anda memilih model GPU NVIDIA A100 40 GB pada langkah sebelumnya, konfigurasi Anda harus menggunakan seri mesin A2:

        gcloud compute machine-types list \
          --format="table(name,zone,guestCpus:sort=1)" \
          --filter="name:a2-highgpu- OR name:a2-megagpu-" \
          --zones=ZONES \
          --project=PROJECT_ID
        
      2. Jika Anda memilih model GPU lain pada langkah sebelumnya, konfigurasi Anda harus menggunakan seri mesin N1:

        gcloud compute machine-types list \
          --format="table(name,zone,guestCpus:sort=1)" \
          --filter="name:n1-standard-" \
          --zones=ZONES \
          --project=PROJECT_ID
        

      Pilih jenis mesin yang tercantum dua kali dalam tabel, yang menunjukkan bahwa jenis mesin tersebut tersedia di kedua zona replika.

    4. Setelah memilih model GPU dan jenis mesin yang kompatibel, perbarui konfigurasi:

      1. Untuk GPU NVIDIA A100 40 GB, jalankan perintah ini untuk memperbarui konfigurasi Anda:

        gcloud beta workstations configs update \
          --project=PROJECT_ID \
          --region=LOCATION \
          --cluster=CLUSTER_NAME \
          CONFIG_NAME \
          --machine-type=A2_MACHINE_TYPE
        

        Ganti A2_MACHINE_TYPE dengan jenis mesin A2 yang dipilih yang ditentukan pada langkah sebelumnya (misalnya, a2-highgpu-1g).

      2. Untuk semua model GPU lainnya, jalankan perintah ini:

        gcloud beta workstations configs update \
          --project=PROJECT_ID \
          --region=LOCATION \
          --cluster=CLUSTER_NAME \
          CONFIG_NAME \
          --machine-type=N1_MACHINE_TYPE \
          --accelerator-type=ACCELERATOR_TYPE \
          --accelerator-count=ACCELERATOR_COUNT
        

        Ganti kode berikut:

        • N1_MACHINE_TYPE: jenis mesin yang dipilih dari seri N1 (misalnya, n1-standard-2).
        • ACCELERATOR_TYPE: nama model GPU yang dipilih (misalnya, nvidia-tesla-t4).
        • ACCELERATOR_COUNT: jumlah GPU yang akan dipasang ke setiap workstation (misalnya, 1, 2, 4). Harus berupa bilangan pangkat dua yang kurang dari maksimum untuk model GPU.

    Membuat Konfigurasi Workstation baru dengan GPU

    Untuk membuat konfigurasi workstation baru yang memasang GPU ke workstation yang didasarkan padanya, selesaikan langkah-langkah di salah satu tab berikut.

    Sebelum memulai

    Select the tab for how you plan to use the samples on this page:

    Console

    When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

    gcloud

      After installing the Google Cloud CLI, initialize it by running the following command:

      gcloud init

      If you're using an external identity provider (IdP), you must first sign in to the gcloud CLI with your federated identity.

      REST

      Untuk menggunakan contoh REST API di halaman ini dalam lingkungan pengembangan lokal, gunakan kredensial yang Anda berikan ke gcloud CLI.

        After installing the Google Cloud CLI, initialize it by running the following command:

        gcloud init

        If you're using an external identity provider (IdP), you must first sign in to the gcloud CLI with your federated identity.

      Untuk mengetahui informasi selengkapnya, lihat Melakukan autentikasi untuk menggunakan REST dalam dokumentasi autentikasi Google Cloud .

      Pilih model GPU dan lihat tabel ketersediaan GPU untuk memilih region tempat model GPU yang dipilih tersedia di setidaknya dua zona.

      Jika Anda belum memiliki cluster di region yang dipilih tempat Anda dapat membuat konfigurasi baru, ikuti langkah-langkah untuk Membuat cluster workstation di region tersebut.

      Tinjau ringkasan harga Cloud Workstations untuk memahami pengaruh konfigurasi GPU terhadap biaya Anda. Perhatikan bahwa GPU terpasang ke virtual machine (VM) yang telah dimulai sebelumnya yang ditentukan oleh Ukuran pool mulai cepat konfigurasi.

      Membuat konfigurasi baru

      Konsol

      Buat konfigurasi workstation baru dengan GPU dari konsolGoogle Cloud dengan melakukan hal berikut:

      1. Di konsol Google Cloud , buka halaman Workstation configurations.

        Buka Konfigurasi workstation

      2. Di halaman Workstation configurations, klik add_box Create.

      3. Pada langkah Basic information di halaman Create workstation configuration, tentukan nama untuk konfigurasi Anda di kolom Name.

        Di kolom Workstation cluster, pilih cluster di region yang dipilih.

        Klik Lanjutkan untuk melanjutkan ke langkah Setelan mesin.

      4. Pada langkah Setelan mesin di halaman Buat konfigurasi workstation, mulailah dengan mengklik tombol untuk memilih GPU daripada kelompok mesin Tujuan umum.

        1. Kemudian, di kolom Zona, centang kotak di samping dua zona tempat model GPU yang Anda pilih tersedia (lihat tabel ketersediaan GPU).

        2. Di kolom GPU type, pilih Model GPU yang ingin Anda gunakan.

        3. Di kolom Number of GPUs, pilih jumlah kartu GPU yang ingin Anda pasang ke setiap workstation.

        4. Di kolom Machine type, pilih jenis mesin yang kompatibel.

      5. Klik Lanjutkan untuk mengonfigurasi setelan Lingkungan dan kebijakan IAM sebelum mengklik Buat untuk menyediakan konfigurasi workstation baru.

      gcloud

      Buat konfigurasi workstation baru dengan GPU menggunakan CLI gcloud, dengan menjalankan perintah gcloud workstations configs create.

      • Untuk GPU NVIDIA A100 40 GB, jalankan perintah ini untuk membuat konfigurasi Anda:

        gcloud beta workstations configs create \
          --project=PROJECT_ID \
          --region=LOCATION \
          --cluster=CLUSTER_NAME \
          CONFIG_NAME \
          --replica-zones=REPLICA_ZONES \
          --machine-type=A2_MACHINE_TYPE
        

        Ganti kode berikut:

        • PROJECT_ID: ID project yang akan berisi konfigurasi workstation baru.
        • LOCATION: lokasi cluster workstation tempat konfigurasi akan berada.
        • CLUSTER_NAME: nama cluster workstation yang akan berisi konfigurasi workstation baru.
        • CONFIG_NAME: nama konfigurasi workstation baru.
        • REPLICA_ZONES: tepat dua zona di region cluster tempat model GPU yang dipilih tersedia (misalnya, us-central1-a,us-central1-c).
        • A2_MACHINE_TYPE: jenis mesin seri A2 yang dipilih (misalnya, a2-highgpu-1g).
      • Untuk semua model GPU lainnya, jalankan perintah ini untuk membuat konfigurasi Anda:

        gcloud beta workstations configs create \
          --project=PROJECT_ID \
          --region=LOCATION \
          --cluster=CLUSTER_NAME \
          CONFIG_NAME \
          --replica-zones=REPLICA_ZONES \
          --machine-type=N1_MACHINE_TYPE \
          --accelerator-type=ACCELERATOR_TYPE \
          --accelerator-count=ACCELERATOR_COUNT
        

        Ganti kode berikut:

        • PROJECT_ID: ID project yang akan berisi konfigurasi workstation baru.
        • LOCATION: lokasi cluster workstation tempat konfigurasi akan berada.
        • CLUSTER_NAME: nama cluster workstation yang akan berisi konfigurasi workstation baru.
        • CONFIG_NAME: nama konfigurasi workstation baru.
        • REPLICA_ZONES: tepat dua zona di region cluster tempat model GPU yang dipilih tersedia (misalnya, us-central1-a,us-central1-c).
        • N1_MACHINE_TYPE: jenis mesin seri N1 yang dipilih (misalnya, n1-standard-2).
        • ACCELERATOR_TYPE: nama model GPU yang dipilih (misalnya, nvidia-tesla-t4).
        • ACCELERATOR_COUNT: jumlah GPU yang akan dipasang ke setiap workstation (misalnya, 1, 2, 4).

      Driver perangkat GPU NVIDIA

      Cloud Workstations menginstal driver perangkat NVIDIA di VM host workstation selama startup VM.

      Untuk menentukan versi driver perangkat yang telah diinstal di workstation, jalankan perintah berikut:

      nvidia-smi --query-gpu=name,driver_version --format=csv
      

      Ketersediaan GPU menurut region dan zona

      Anda dapat menelusuri berdasarkan lokasi atau model GPU, atau kombinasi keduanya.

      Zona Location Platform GPU
      asia-east1-a Changhua County, Taiwan, Asia Pasifik (APAC) T4, P100
      asia-east1-b Changhua County, Taiwan, Asia Pasifik (APAC)
      asia-east1-c Changhua County, Taiwan, Asia Pasifik (APAC) T4, V100, P100, H100
      asia-east2-a Hong Kong, Asia Pasifik (APAC) T4
      asia-east2-b Hong Kong, Asia Pasifik (APAC)
      asia-east2-c Hong Kong, Asia Pasifik (APAC) T4
      asia-northeast1-a Tokyo, Jepang, Asia Pasifik (APAC) A100 40GB, T4
      asia-northeast1-b Tokyo, Jepang, Asia Pasifik (APAC) H100
      asia-northeast1-c Tokyo, Jepang, Asia Pasifik (APAC) A100 40GB, T4
      asia-northeast3-a Seoul, Korea Selatan, Asia Pasifik (APAC) A100 40GB, H100
      asia-northeast3-b Seoul, Korea Selatan, Asia Pasifik (APAC) A100 40GB, T4
      asia-northeast3-c Seoul, Korea Selatan, Asia Pasifik (APAC) T4, H100
      asia-south1-a Mumbai, India, Asia Pasifik (APAC) T4
      asia-south1-b Mumbai, India, Asia Pasifik (APAC) T4
      asia-south1-c Mumbai, India, Asia Pasifik (APAC) H100
      asia-southeast1-a Jurong West, Singapura, Asia Pasifik (APAC) T4
      asia-southeast1-b Jurong West, Singapura, Asia Pasifik (APAC) A100 40GB, T4, P4, H100
      asia-southeast1-c Jurong West, Singapura, Asia Pasifik (APAC) A100 40GB, A100 80GB, T4, P4, H100
      australia-southeast1-a Sydney, Australia, Asia Pasifik (APAC) T4, P4
      australia-southeast1-b Sydney, Australia, Asia Pasifik (APAC) P4, P100
      australia-southeast1-c Sydney, Australia, Asia Pasifik (APAC) T4, H100
      europe-central2-b
      europe-central2-c
      Warsawa, Polandia, Eropa T4
      europe-north1-a
      europe-north1-b
      Hamina, Finlandia, Eropa
      europe-north1-c Hamina, Finlandia, Eropa H100
      europe-southwest1-a
      europe-southwest1-b
      europe-southwest1-c
      Madrid, Spanyol, Eropa
      europe-west1-b St. Ghislain, Belgia, Eropa H100, T4, P100
      europe-west1-c St. Ghislain, Belgia, Eropa H100, T4
      europe-west1-d St. Ghislain, Belgia, Eropa T4, P100
      europe-west2-a London, Inggris, Eropa T4
      europe-west2-b London, Inggris, Eropa T4, H100
      europe-west2-c London, Inggris, Eropa
      europe-west3-a Frankfurt, Jerman, Eropa H100
      europe-west3-b Frankfurt, Jerman, Eropa T4
      europe-west3-c Frankfurt, Jerman, Eropa H100
      europe-west4-a Eemshaven, Belanda, Eropa A100 40GB, A100 80GB, T4, V100, P100
      europe-west4-b Eemshaven, Belanda, Eropa A100 40GB, T4, P4, V100, H100
      europe-west4-c Eemshaven, Belanda, Eropa T4, P4, V100, H100
      europe-west6-a
      europe-west6-b
      europe-west6-c
      Zurich, Swiss, Eropa
      europe-west8-a
      europe-west8-b
      europe-west8-c
      Milan, Italia, Eropa
      europe-west9-a
      europe-west9-b
      europe-west9-c
      Paris, Prancis, Eropa
      europe-west12-a
      europe-west12-b
      europe-west12-c
      Turin, Italia, Eropa
      me-west1-a Tel Aviv, Israel, Timur Tengah A100 40GB
      me-west1-b Tel Aviv, Israel, Timur Tengah A100 40GB, T4
      me-west1-c Tel Aviv, Israel, Timur Tengah A100 40GB, T4
      northamerica-northeast1-a Montréal, Québec, Amerika Utara P4
      northamerica-northeast1-b Montréal, Québec, Amerika Utara P4
      northamerica-northeast1-c Montréal, Québec, Amerika Utara T4, P4
      southamerica-east1-a Osasco, São Paulo, Brasil, Amerika Selatan T4
      southamerica-east1-c Osasco, São Paulo, Brasil, Amerika Selatan T4
      southamerica-west1-a
      southamerica-west1-b
      southamerica-west1-c
      Santiago, Cile, Amerika Selatan
      us-central1-a Council Bluffs, Iowa, Amerika Utara A100 40GB, A100 80GB, T4, P4, V100, H100
      us-central1-b Council Bluffs, Iowa, Amerika Utara A100 40GB, T4, V100, H100
      us-central1-c Council Bluffs, Iowa, Amerika Utara A100 40GB, A100 80GB, T4, P4, V100, P100, H100
      us-central1-f Council Bluffs, Iowa, Amerika Utara A100 40GB, T4, V100, P100
      us-east1-b Moncks Corner, South Carolina, Amerika Utara A100 40GB, P100
      us-east1-c Moncks Corner, South Carolina, Amerika Utara T4, V100, P100
      us-east1-d Moncks Corner, South Carolina, Amerika Utara T4
      us-east4-a
      us-east4-b
      Ashburn, Virginia, Amerika Utara T4, P4, H100
      us-east4-c Ashburn, Virginia, Amerika Utara A100 80GB, T4, P4, H100
      us-east5-a Columbus, Ohio, Amerika Utara H100
      us-east5-b Columbus, Ohio, Amerika Utara A100 80GB
      us-east5-c Columbus, Ohio, Amerika Utara
      us-west1-a The Dalles, Oregon, Amerika Utara T4, V100, P100, H100
      us-west1-b The Dalles, Oregon, Amerika Utara A100 40GB, T4, V100, P100, H100
      us-west1-c The Dalles, Oregon, Amerika Utara
      us-west4-a Las Vegas, Nevada, Amerika Utara T4, H100
      us-west4-b Las Vegas, Nevada, Amerika Utara A100 40GB, T4
      us-west4-c Las Vegas, Nevada, Amerika Utara

      Langkah berikutnya