Ringkasan pembuatan instance dengan GPU yang terpasang

Compute Engine menyediakan unit pemrosesan grafis (GPU) yang dapat Anda tambahkan ke mesin virtual (VM). Anda dapat menggunakan GPU ini untuk mempercepat workload tertentu pada VM Anda, seperti machine learning dan pemrosesan data.

Dokumen ini memberikan ringkasan langkah-langkah yang diperlukan untuk membuat VM dengan GPU yang terpasang.

Untuk mengetahui informasi selengkapnya tentang GPU di Compute Engine, lihat Tentang GPU.

Memilih model GPU

Untuk daftar model GPU yang tersedia, lihat platform GPU. Catat juga jenis mesin yang didukung untuk model GPU yang dipilih.

Untuk setiap model, Anda juga dapat meninjau hal-hal berikut:

Batasan

Selain batasan untuk semua VM dengan GPU, setiap seri mesin dengan GPU yang terpasang memiliki batasan berikut:

VM A4

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A4.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk VM yang menggunakan jenis mesin A4.
  • Anda hanya dapat menggunakan jenis mesin A4 di region dan zona tertentu.
  • Anda tidak dapat menggunakan Persistent Disk (regional atau zonal) di VM yang menggunakan jenis mesin A4.
  • Jenis mesin A4 hanya tersedia di platform CPU Emerald Rapids.
  • Anda tidak dapat mengubah jenis mesin VM jenis mesin A4. Jika perlu mengubah jenis mesin, Anda harus membuat VM baru.
  • Anda tidak dapat mengubah jenis mesin VM menjadi jenis mesin A4. Jika memerlukan VM yang menggunakan jenis mesin A4, Anda harus membuat VM baru.
  • Jenis mesin A4 tidak mendukung tenancy tunggal.
  • Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A4.

VM A3 Ultra

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A3 Ultra.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk VM yang menggunakan jenis mesin A3 Ultra.
  • Anda hanya dapat menggunakan jenis mesin A3 Ultra di region dan zona tertentu.
  • Anda tidak dapat menggunakan Persistent Disk (regional atau zonal) di VM yang menggunakan jenis mesin A3 Ultra.
  • Jenis mesin A3 Ultra hanya tersedia di platform CPU Emerald Rapids.
  • Anda tidak dapat mengubah jenis mesin VM jenis mesin A3 Ultra. Jika perlu mengubah jenis mesin, Anda harus membuat VM baru.
  • Anda tidak dapat mengubah jenis mesin VM menjadi jenis mesin A3 Ultra. Jika memerlukan VM yang menggunakan jenis mesin A3 Ultra, Anda harus membuat VM baru.
  • Jenis mesin A3 Ultra tidak mendukung tenancy tunggal.
  • Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 Ultra.

VM Mega A3

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A3 Mega.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk VM yang menggunakan jenis mesin A3 Mega.
  • Anda hanya dapat menggunakan jenis mesin A3 Mega di region dan zona tertentu.
  • Anda tidak dapat menggunakan Persistent Disk regional pada VM yang menggunakan jenis mesin A3 Mega.
  • Jenis mesin A3 Mega hanya tersedia di platform CPU Sapphire Rapids.
  • Anda tidak dapat mengubah jenis mesin VM jenis mesin A3 Mega. Jika perlu mengubah jenis mesin, Anda harus membuat VM baru.
  • Anda tidak dapat mengubah jenis mesin VM menjadi jenis mesin A3 Mega. Jika memerlukan VM yang menggunakan jenis mesin A3 Mega, Anda harus membuat VM baru.
  • Jenis mesin A3 Mega tidak mendukung tenancy tunggal.
  • Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 Mega.

VM A3 High

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A3 High.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk VM yang menggunakan jenis mesin A3 High.
  • Anda hanya dapat menggunakan jenis mesin A3 High di region dan zona tertentu.
  • Anda tidak dapat menggunakan Persistent Disk regional pada VM yang menggunakan jenis mesin A3 High.
  • Jenis mesin A3 High hanya tersedia di platform CPU Sapphire Rapids.
  • Anda tidak dapat mengubah jenis mesin VM jenis mesin A3 High. Jika perlu mengubah jenis mesin, Anda harus membuat VM baru.
  • Anda tidak dapat mengubah jenis mesin VM menjadi jenis mesin A3 High. Jika memerlukan VM yang menggunakan jenis mesin A3 High, Anda harus membuat VM baru.
  • Jenis mesin A3 High tidak mendukung tenancy tunggal.
  • Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 High.
  • Untuk jenis mesin a3-highgpu-1g, a3-highgpu-2g, dana3-highgpu-4g, batasan berikut berlaku:
    • Untuk jenis mesin ini, Anda harus menggunakan Spot VM atau fitur yang menggunakan Dynamic Workload Scheduler (DWS) seperti permintaan perubahan ukuran di MIG. Untuk petunjuk mendetail tentang salah satu opsi ini, tinjau hal berikut:
    • Anda tidak dapat menggunakan Hyperdisk Balanced dengan jenis mesin ini.
    • Anda tidak dapat membuat reservasi.
    Jika Anda mencoba membuat VM menggunakan penyediaan standar atau mencoba membuat reservasi untuk jenis mesin ini, Anda akan menerima pesan error.

VM Edge A3

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A3 Edge.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk VM yang menggunakan jenis mesin A3 Edge.
  • Anda hanya dapat menggunakan jenis mesin A3 Edge di region dan zona tertentu.
  • Anda tidak dapat menggunakan Persistent Disk regional pada VM yang menggunakan jenis mesin A3 Edge.
  • Jenis mesin A3 Edge hanya tersedia di platform CPU Sapphire Rapids.
  • Anda tidak dapat mengubah jenis mesin VM jenis mesin A3 Edge. Jika perlu mengubah jenis mesin, Anda harus membuat VM baru.
  • Anda tidak dapat mengubah jenis mesin VM menjadi jenis mesin A3 Edge. Jika memerlukan VM yang menggunakan jenis mesin A3 Edge, Anda harus membuat VM baru.
  • Jenis mesin A3 Edge tidak mendukung tenancy tunggal.
  • Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin Edge A3.

VM Standar A2

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin Standar A2.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan abonemen fleksibel untuk VM yang menggunakan jenis mesin Standar A2.
  • Anda hanya dapat menggunakan jenis mesin Standar A2 di region dan zona tertentu.
  • Jenis mesin A2 Standar hanya tersedia di platform Cascade Lake.
  • Jika VM Anda menggunakan jenis mesin Standar A2, Anda hanya dapat beralih dari satu jenis mesin Standar A2 ke jenis mesin Standar A2 lainnya. Anda tidak dapat mengubah ke jenis mesin lainnya. Untuk mengetahui informasi selengkapnya, lihat Mengubah VM yang dioptimalkan untuk akselerator.
  • Anda tidak dapat menggunakan sistem operasi Windows dengan jenis mesin Standar A2 <codea2-megagpu-16g< code="" dir="ltr" translate="no">. Saat menggunakan sistem operasi Windows, pilih jenis mesin Standar A2 yang berbeda.</codea2-megagpu-16g<>
  • Anda tidak dapat melakukan format cepat SSD Lokal yang terpasang di VM Windows yang menggunakan jenis mesin Standar A2. Untuk memformat SSD Lokal ini, Anda harus membuat format penuh dengan menggunakan utilitas diskpart dan menentukan format fs=ntfs label=tmpfs.
  • Jenis mesin Standar A2 tidak mendukung tenancy tunggal.

VM A2 Ultra

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A2 Ultra.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan abonemen fleksibel untuk VM yang menggunakan jenis mesin A2 Ultra.
  • Anda hanya dapat menggunakan jenis mesin A2 Ultra di region dan zona tertentu.
  • Jenis mesin A2 Ultra hanya tersedia di platform Cascade Lake.
  • Jika VM Anda menggunakan jenis mesin A2 Ultra, Anda tidak dapat mengubah jenis mesin. Jika perlu menggunakan jenis mesin A2 Ultra yang berbeda, atau jenis mesin lainnya, Anda harus membuat VM baru.
  • Anda tidak dapat mengubah jenis mesin lainnya menjadi jenis mesin A2 Ultra. Jika memerlukan VM yang menggunakan jenis mesin A2 Ultra, Anda harus membuat VM baru.
  • Anda tidak dapat melakukan format cepat SSD Lokal yang terpasang di VM Windows yang menggunakan jenis mesin Ultra A2. Untuk memformat SSD Lokal ini, Anda harus membuat format penuh dengan menggunakan utilitas diskpart dan menentukan format fs=ntfs label=tmpfs.

VM G2

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin G2.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk VM yang menggunakan jenis mesin G2.
  • Anda hanya dapat menggunakan jenis mesin G2 di region dan zona tertentu.
  • Jenis mesin G2 hanya tersedia di platform Cascade Lake.
  • Persistent Disk Standar (pd-standard) tidak didukung di VM yang menggunakan jenis mesin standar G2. Untuk mengetahui jenis disk yang didukung, lihat Jenis disk yang didukung untuk G2.
  • Anda tidak dapat membuat GPU Multi-Instance pada jenis mesin G2.
  • Jika Anda perlu mengubah jenis mesin VM G2, tinjau artikel Mengubah VM yang dioptimalkan akselerator.
  • Anda tidak dapat menggunakan Deep Learning VM Image sebagai boot disk untuk VM yang menggunakan jenis mesin G2.
  • Driver default saat ini untuk Container-Optimized OS tidak mendukung GPU L4 yang berjalan pada jenis mesin G2. Container-Optimized OS juga hanya mendukung serangkaian driver tertentu. Jika Anda ingin menggunakan Container-Optimized OS pada jenis mesin G2, tinjau catatan berikut:
    • Gunakan versi Container-Optimized OS yang mendukung versi driver NVIDIA minimum yang direkomendasikan 525.60.13 atau yang lebih baru. Untuk informasi selengkapnya, tinjau catatan rilis Container-Optimized OS.
    • Saat Anda menginstal driver, tentukan versi terbaru yang tersedia yang berfungsi untuk GPU L4. Contoh, sudo cos-extensions install gpu -- -version=525.60.13.
  • Anda harus menggunakan Google Cloud CLI atau REST untuk membuat VM G2 untuk skenario berikut:
    • Anda ingin menetapkan nilai memori kustom.
    • Anda ingin menyesuaikan jumlah inti CPU yang terlihat.

VM N1+GPU

Untuk mempelajari batasan instance N1 dengan GPU, lihat fitur untuk seri mesin N1 dan GPU untuk seri mesin N1.

Memilih sistem operasi

Jika menggunakan GPU untuk machine learning, Anda dapat menggunakan Deep Learning VM Image untuk VM Anda. Setiap Deep Learning VM Image memiliki driver GPU yang telah diinstal sebelumnya dan menyertakan paket, seperti TensorFlow dan PyTorch. Anda juga dapat menggunakan Deep Learning VM Image untuk workload GPU umum. Untuk informasi tentang image yang tersedia dan paket yang diinstal pada image, lihat Memilih image. Anda juga dapat menggunakan image publik atau image kustom, tetapi beberapa gambar mungkin memerlukan driver unik atau proses penginstalan yang tidak tercakup dalam dokumen ini.

Anda harus mengidentifikasi driver yang sesuai untuk image OS Anda. Untuk mengetahui langkah-langkah menginstal driver, lihat menginstal driver GPU.

Memeriksa kuota GPU

Untuk melindungi sistem dan pengguna Compute Engine, project baru memiliki kuota GPU global, yang membatasi jumlah total GPU yang dapat Anda buat di semua zona yang didukung. Untuk meninjau kuota GPU, lihat Kuota GPU.

Jika Anda memerlukan kuota GPU tambahan, minta penambahan kuota. Saat meminta kuota GPU, Anda harus meminta kuota untuk jenis GPU yang ingin dibuat di setiap region dan kuota global tambahan untuk jumlah total GPU dari semua jenis di semua zona.

Jika project Anda memiliki histori penagihan yang telah ditetapkan, project tersebut akan otomatis menerima kuota setelah Anda mengirimkan permintaan.

VM GPU dan kuota alokasi preemptible

Resource untuk VM yang menggunakan model penyediaan standar default (VM standar) biasanya tidak dapat menggunakan kuota alokasi preemptible, yang ditujukan untuk workload sementara dan biasanya lebih tersedia. Jika project Anda tidak memiliki kuota preemptible, dan Anda tidak pernah meminta kuota preemptible, semua VM dalam project tersebut akan menggunakan kuota alokasi standar.

Namun, setelah Anda meminta kuota alokasi preemptible, VM standar yang memenuhi semua kriteria berikut hanya dapat menggunakan kuota alokasi preemptible.

Dengan menggunakan kuota alokasi preemptible untuk beban kerja tersebut, Anda akan mendapatkan manfaat waktu proses yang tidak terganggu dari VM standar dan peningkatan ketersediaan dari kuota alokasi preemptible.

Terlepas dari kuota yang digunakan, VM standar tidak memenuhi syarat untuk harga VM Spot dan tidak tunduk pada penghentian.

Untuk mengetahui informasi selengkapnya, lihat Kuota preemptible.

Buat VM yang telah memasang GPU

Untuk membuat VM dengan memasang GPU, selesaikan langkah-langkah berikut:

  1. Membuat VM. Metode yang digunakan untuk membuat VM bergantung pada model GPU yang dipilih.

  2. Agar VM dapat menggunakan GPU, Anda harus menginstal driver GPU pada VM. Jika Anda mengaktifkan workstation virtual NVIDIA RTX (sebelumnya disebut NVIDIA GRID), instal driver untuk workstation virtual.

Apa langkah selanjutnya?