Kelompok mesin yang dioptimalkan akselerator

Kelompok mesin yang dioptimalkan akselerator dirancang oleh Google Cloud guna memberikan performa dan efisiensi yang dibutuhkan untuk workload yang dipercepat GPU seperti kecerdasan buatan (AI), machine learning (ML), dan komputasi berperforma tinggi (HPC).

Kelompok mesin yang dioptimalkan akselerator tersedia dalam seri mesin berikut: A4, A3, A2, dan G2. Setiap jenis mesin dalam seri memiliki model dan jumlah GPU NVIDIA tertentu yang terpasang. Anda juga dapat melampirkan beberapa model GPU ke jenis mesin tujuan umum N1.

Rekomendasi seri mesin menurut jenis workload

Bagian berikut menyajikan rangkaian mesin yang direkomendasikan berdasarkan workload GPU Anda.

Jenis beban kerja Jenis atau seri mesin yang direkomendasikan
Model pra-pelatihan A4, A3 Ultra, A3 Mega, A3 High, A2

Untuk mengidentifikasi model yang paling sesuai, lihat Rekomendasi untuk model pra-pelatihan dalam dokumentasi Hypercomputer AI.
Menyesuaikan model A4, A3 Ultra, A3 Mega, A3 High, A2

Untuk mengidentifikasi model yang paling sesuai, lihat Rekomendasi untuk menyesuaikan model dalam dokumentasi AI Hypercomputer.
Inferensi penayangan A4, A3 Ultra, A3 Mega, A3 High, A2

Untuk mengidentifikasi yang paling cocok, lihat Rekomendasi untuk menayangkan inferensi dalam dokumentasi AI Hypercomputer.
Workload intensif grafis G2, N1+T4
Komputasi berperforma tinggi Untuk workload komputasi berperforma tinggi, semua rangkaian mesin yang dioptimalkan akselerator akan berfungsi dengan baik. Kecocokan terbaik bergantung pada jumlah komputasi yang harus dialihkan ke GPU.

Untuk informasi selengkapnya, lihat Rekomendasi untuk HPC dalam dokumentasi Hypercomputer AI.

Opsi harga dan penyediaan

Jenis mesin yang dioptimalkan akselerator akan dikenai biaya untuk GPU yang terpasang, vCPU yang telah ditetapkan, memori, dan SSD Lokal yang dipaketkan (jika ada). Diskon yang dapat diterapkan ke instance yang dioptimalkan akselerator bervariasi berdasarkan opsi penyediaan yang Anda gunakan seperti yang diringkas dalam tabel berikut. Untuk mengetahui informasi selengkapnya tentang instance yang dioptimalkan akselerator, lihat bagian Kelompok jenis mesin yang dioptimalkan akselerator di halaman harga instance VM.

Sesuai permintaan (default) Reservasi Spot VM
Seri mesin yang dioptimalkan akselerator yang didukung Semua kecuali A4 dan A3 Ultra

Bervariasi berdasarkan jenis reservasi:

 Semua
Diskon

Anda dapat menerima diskon abonemen (CUD) untuk beberapa resource dengan membeli komitmen berbasis resource. Namun, GPU dan disk SSD Lokal yang Anda gunakan dengan opsi penyediaan on-demand tidak memenuhi syarat untuk CUD. Jika Anda ingin menerima CUD bahkan untuk disk GPU dan SSD Lokal, sebaiknya gunakan opsi penyediaan reservasi.

Anda dapat menerima DA untuk resource jenis mesin yang dioptimalkan untuk akselerator dengan membeli komitmen berbasis resource. Perhatikan bahwa komitmen untuk GPU dan disk SSD Lokal apa pun memerlukan reservasi terlampir untuk resource tersebut.

Spot VM otomatis mendapatkan diskon melalui harga Spot VM.

Seri mesin A4

Seri mesin A4 menawarkan jenis mesin dengan hingga 224 vCPU, dan memori sebesar 3.968 GB. A4 memberikan performa hingga 3x dari jenis instance GPU sebelumnya untuk sebagian besar workload yang dipercepat GPU. A4 sangat direkomendasikan untuk workload pelatihan ML dalam skala besar—misalnya, ratusan atau ribuan GPU.

Seri mesin A4 juga menyediakan fitur berikut:

  • GPU terpasang: GPU NVIDIA B200 terpasang, yang menawarkan memori GPU 180 GB per GPU.

  • Platform CPU: Prosesor Intel Xeon Scalable Generasi ke-5 (Emerald Rapids) dan menawarkan frekuensi turbo maks single-core berkelanjutan hingga 4,0 GHz. Untuk informasi selengkapnya tentang prosesor ini, lihat platform CPU.

  • Skala NVLink terdepan di industri: GPU NVIDIA B200 menyediakan bandwidth NVLink GPU sebesar 1.800 GBps, secara dua arah per GPU.

    Dengan topologi NVLink all-to-all antara 8 GPU dalam sistem, Bandwidth NVLink agregat dapat mencapai 14,4 TBps.

  • Protokol jaringan: Untuk jenis mesin ini, RDMA over Converged Ethernet (RoCE) meningkatkan performa jaringan dengan menggabungkan kartu antarmuka jaringan (NIC) NVIDIA ConnectX-7 dengan jaringan empat arah yang selaras dengan rel di seluruh pusat data Google. Dengan memanfaatkan RDMA melalui Converged Ethernet (RoCE), mesin A4 mencapai throughput yang jauh lebih tinggi di antara VM dalam cluster jika dibandingkan dengan jenis mesin A3 yang dioptimalkan akselerator, kecuali A3 Ultra.

  • Peningkatan kecepatan komputasi dan jaringan: Menawarkan kecepatan jaringan hingga 4x lipat jika dibandingkan dengan seri mesin generasi A2.

    Untuk informasi selengkapnya tentang jaringan, lihat Bandwidth jaringan dan GPU.

  • Pengoptimalan virtualisasi: Topologi Peripheral Component Interconnect Express (PCIe) VM A4 memberikan informasi lokalitas yang lebih akurat yang dapat digunakan workload untuk mengoptimalkan transfer data.

    GPU juga mengekspos Reset Tingkat Fungsi (FLR) untuk pemulihan yang halus dari kegagalan dan dukungan operasi atomik untuk peningkatan konkurensi dalam skenario tertentu.

  • Penyimpanan: SSD Lokal dapat digunakan untuk scratch disk cepat atau untuk memasukkan data ke GPU sekaligus mencegah bottleneck I/O. SSD Lokal sebesar 12.000 GiB otomatis ditambahkan ke VM A4.

    Anda juga dapat memasang Hyperdisk hingga 512 TiB ke jenis mesin dalam seri ini untuk aplikasi yang memerlukan performa penyimpanan yang lebih tinggi.

  • Dukungan penjadwalan yang mengetahui alokasi padat dan topologi: Saat menyediakan komputer A4 melalui Cluster Hypercompute (Pratinjau), Anda dapat meminta blok kapasitas yang dialokasikan secara padat. Mesin host Anda dialokasikan secara fisik dekat satu sama lain, disediakan sebagai blok resource, dan saling terhubung dengan fabric jaringan ML dinamis untuk meminimalkan hop jaringan dan mengoptimalkan latensi terendah. Selain itu, Hypercompute Cluster memberikan informasi topologi di tingkat node dan cluster yang dapat digunakan untuk penempatan tugas.

Jenis mesin berikut tersedia untuk seri mesin A4.

Jenis mesin A4

Jenis mesin Jumlah GPU Memori GPU*
(GB HBM3e)		 Jumlah vCPU† Memori VM (GB) SSD Lokal Terpasang (GiB) Jumlah NIC fisik Bandwidth jaringan maksimum (Gbps)‡
a4-highgpu-8g 8 1.440 224 3.968 12.000 10 3.600

*Memori GPU adalah memori di perangkat GPU yang dapat digunakan untuk penyimpanan data sementara. Memori ini terpisah dari memori VM dan dirancang secara khusus untuk menangani permintaan bandwidth yang lebih tinggi dari workload yang intensif grafis.
† vCPU diimplementasikan sebagai hyper-thread hardware tunggal di salah satu platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya. Lihat Bandwidth jaringan.

Batasan A4

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A4.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk VM yang menggunakan jenis mesin A4.
  • Anda hanya dapat menggunakan jenis mesin A4 di region dan zona tertentu.
  • Anda tidak dapat menggunakan Persistent Disk (regional atau zonal) di VM yang menggunakan jenis mesin A4.
  • Jenis mesin A4 hanya tersedia di platform CPU Emerald Rapids.
  • Anda tidak dapat mengubah jenis mesin VM jenis mesin A4. Jika perlu mengubah jenis mesin, Anda harus membuat VM baru.
  • Anda tidak dapat mengubah jenis mesin VM menjadi jenis mesin A4. Jika memerlukan VM yang menggunakan jenis mesin A4, Anda harus membuat VM baru.
  • Jenis mesin A4 tidak mendukung tenancy tunggal.
  • Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A4.

Jenis disk yang didukung untuk seri A4

Jumlah maksimum disk per VM*
Jenis mesin Semua disk† Hyperdisk Balanced Hyperdisk Throughput Hyperdisk ML Ekstrem Hyperdisk SSD Lokal Terpasang
a4-highgpu-8g 128 128 T/A T/A 8 32

*Penggunaan Hyperdisk dikenai biaya secara terpisah dari harga jenis mesin. Untuk mengetahui harga disk, lihat Harga Hyperdisk.
†Batas ini berlaku untuk Hyperdisk, tetapi tidak mencakup disk SSD Lokal.

Batas disk dan kapasitas

Jika didukung oleh jenis mesin, Anda dapat menggunakan campuran volume Hyperdisk dan Persistent Disk di VM, tetapi batasan berikut berlaku:

  • Jumlah gabungan volume Hyperdisk dan Persistent Disk tidak boleh melebihi 128 per VM.

  • Total kapasitas disk maksimum (dalam TiB) di semua jenis disk tidak boleh melebihi:

    • Untuk jenis mesin dengan kurang dari 32 vCPU:

      • 257 TiB untuk semua Hyperdisk atau semua Persistent Disk
      • 257 TiB untuk campuran Hyperdisk dan Persistent Disk

    • Untuk jenis mesin dengan 32 vCPU atau lebih:

      • 512 TiB untuk semua Hyperdisk
      • 512 TiB untuk campuran Hyperdisk dan Persistent Disk
      • 257 TiB untuk semua Persistent Disk

Untuk mengetahui detail tentang batas kapasitas, lihat Batas kapasitas Hyperdisk per VM dan Kapasitas maksimum Persistent Disk.

Seri mesin A3

Seri mesin A3 memiliki hingga 224 vCPU, dan memori 2.944 GB. Seri mesin ini dioptimalkan untuk komputasi dan memori yang intensif, pelatihan ML yang terikat jaringan, dan workload HPC.

Seri mesin A3 juga menyediakan fitur berikut:

Fitur A3 Ultra A3 Mega, High, Edge
GPU terpasang

GPU NVIDIA H200 SXM terpasang, yang menawarkan memori GPU 141 GB per GPU dan menyediakan memori yang lebih besar dan lebih cepat untuk mendukung model bahasa besar dan beban kerja HPC.

GPU NVIDIA H100 SXM terpasang, yang menawarkan memori GPU 80 GB per GPU dan ideal untuk model bahasa, database, dan HPC besar berbasis transformer.
CPU platform

Prosesor Intel Xeon Scalable Generasi ke-5 (Emerald Rapids) dan menawarkan frekuensi turbo maks single-core berkelanjutan hingga 4,0 GHz. Untuk informasi selengkapnya tentang prosesor ini, lihat Platform CPU.

Prosesor Intel Xeon Scalable Generasi ke-4 (Sapphire Rapids) dan menawarkan frekuensi turbo maks single-core berkelanjutan hingga 3,3 GHz. Untuk informasi selengkapnya tentang prosesor ini, lihat Platform CPU.
Skala NVLink terdepan di industri

GPU NVIDIA H200 memberikan puncak bandwidth NVLink GPU sebesar 900 GB/s, secara searah.

Dengan topologi NVLink all-to-all antara 8 GPU dalam sistem, Bandwidth NVLink agregatnya mencapai 7,2 TB/s.

GPU NVIDIA H100 memberikan bandwidth NVLink GPU puncak sebesar 450 GB/s, secara searah.

Dengan topologi NVLink all-to-all antara 8 GPU dalam sistem, Bandwidth NVLink agregatnya mencapai 7,2 TB/s.
Protokol jaringan Untuk jenis mesin ini, RDMA over Converged Ethernet (RoCE) meningkatkan performa jaringan dengan menggabungkan kartu antarmuka jaringan (NIC) NVIDIA ConnectX-7 dengan jaringan empat arah yang selaras dengan rel di seluruh pusat data kami. Dengan memanfaatkan RDMA melalui Converged Ethernet (RoCE), jenis mesin a3-ultragpu-8g akan mencapai throughput yang jauh lebih tinggi antara VM dalam cluster jika dibandingkan dengan jenis mesin A3 lainnya yang dioptimalkan akselerator.
  • Untuk jenis mesin A3 Mega, GPUDirect-TCPXO lebih meningkatkan GPUDirect-TCPX dengan men-offload protokol TCP. Dengan memanfaatkan GPUDirect-TCPXO, jenis mesin a3-megagpu-8g akan melipatgandakan bandwidth jaringan jika dibandingkan dengan jenis mesin A3 High dan A3 Edge.
  • Untuk jenis mesin A3 Edge dan A3 High, GPUDirect-TCPX meningkatkan performa jaringan dengan memungkinkan payload paket data ditransfer langsung dari memori GPU ke antarmuka jaringan. Dengan memanfaatkan GPUDirect-TCPX, jenis mesin ini mencapai throughput yang jauh lebih tinggi antara VM dalam cluster jika dibandingkan dengan jenis mesin yang dioptimalkan akselerator A2 atau G2.
Peningkatan kecepatan komputasi dan jaringan

Menawarkan kecepatan jaringan hingga 4x lipat jika dibandingkan dengan seri mesin A2 generasi sebelumnya.

Untuk informasi selengkapnya tentang jaringan, lihat Bandwidth jaringan dan GPU.

Menawarkan kecepatan jaringan hingga 2,5X lipat jika dibandingkan dengan seri mesin A2 generasi sebelumnya.

Untuk informasi selengkapnya tentang jaringan, lihat Bandwidth jaringan dan GPU.
Pengoptimalan virtualisasi

Topologi Peripheral Component Interconnect Express (PCIe) VM A3 memberikan informasi lokalitas yang lebih akurat yang dapat digunakan beban kerja untuk mengoptimalkan transfer data.

GPU juga mengekspos Reset Level Fungsi (FLR) untuk pemulihan yang halus dari kegagalan dan dukungan operasi atomik untuk peningkatan konkurensi dalam skenario tertentu.
Penyimpanan

SSD Lokal dapat digunakan untuk scratch disk cepat atau untuk memasukkan data ke GPU sekaligus mencegah bottleneck I/O. SSD lokal terpasang sebagai berikut:

  • SSD Lokal 12.000 GiB otomatis ditambahkan ke VM A3 Ultra.
  • SSD Lokal sebesar 6.000 GiB otomatis ditambahkan ke VM A3 Mega, High, dan Edge.

Anda juga dapat memasang Persistent Disk dan Hyperdisk hingga 512 TiB ke jenis mesin dalam seri ini untuk aplikasi yang memerlukan performa penyimpanan lebih tinggi.
Dukungan kebijakan penempatan rapat

Memberi Anda kontrol lebih besar atas penempatan fisik VM dalam pusat data.

Hal ini memungkinkan latensi yang lebih rendah dan bandwidth yang lebih tinggi untuk penempatan VM dalam satu zona ketersediaan.

Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan rapat.

Jenis mesin berikut tersedia untuk seri mesin A3.

Jenis mesin A3 Ultra

Jenis mesin Jumlah GPU Memori GPU*
(GB HBM3e)		 Jumlah vCPU† Memori VM (GB) SSD Lokal Terpasang (GiB) Jumlah NIC fisik Bandwidth jaringan maksimum (Gbps)‡
a3-ultragpu-8g 8 1128 224 2.952 12.000 10 3.600

*Memori GPU adalah memori di perangkat GPU yang dapat digunakan untuk penyimpanan data sementara. Memori ini terpisah dari memori VM dan dirancang secara khusus untuk menangani permintaan bandwidth yang lebih tinggi dari workload yang intensif grafis.
† vCPU diimplementasikan sebagai hyper-thread hardware tunggal di salah satu platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya. Lihat Bandwidth jaringan.

Batasan A3 Ultra

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A3 Ultra.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk VM yang menggunakan jenis mesin A3 Ultra.
  • Anda hanya dapat menggunakan jenis mesin A3 Ultra di region dan zona tertentu.
  • Anda tidak dapat menggunakan Persistent Disk (regional atau zonal) di VM yang menggunakan jenis mesin A3 Ultra.
  • Jenis mesin A3 Ultra hanya tersedia di platform CPU Emerald Rapids.
  • Anda tidak dapat mengubah jenis mesin VM jenis mesin A3 Ultra. Jika perlu mengubah jenis mesin, Anda harus membuat VM baru.
  • Anda tidak dapat mengubah jenis mesin VM menjadi jenis mesin A3 Ultra. Jika memerlukan VM yang menggunakan jenis mesin A3 Ultra, Anda harus membuat VM baru.
  • Jenis mesin A3 Ultra tidak mendukung tenancy tunggal.
  • Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 Ultra.

Jenis mesin A3 Mega

Jenis mesin Jumlah GPU Memori GPU*
(GB HBM3)		 Jumlah vCPU† Memori VM (GB) SSD Lokal Terpasang (GiB) Jumlah NIC fisik Bandwidth jaringan maksimum (Gbps)‡
a3-megagpu-8g 8 640 208 1.872 6.000 9 1.800

*Memori GPU adalah memori di perangkat GPU yang dapat digunakan untuk penyimpanan data sementara. Memori ini terpisah dari memori VM dan dirancang secara khusus untuk menangani permintaan bandwidth yang lebih tinggi dari workload yang intensif grafis.
† vCPU diimplementasikan sebagai hyper-thread hardware tunggal di salah satu platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya. Lihat Bandwidth jaringan.

Batasan A3 Mega

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A3 Mega.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk VM yang menggunakan jenis mesin A3 Mega.
  • Anda hanya dapat menggunakan jenis mesin A3 Mega di region dan zona tertentu.
  • Anda tidak dapat menggunakan Persistent Disk regional pada VM yang menggunakan jenis mesin A3 Mega.
  • Jenis mesin A3 Mega hanya tersedia di platform CPU Sapphire Rapids.
  • Anda tidak dapat mengubah jenis mesin VM jenis mesin A3 Mega. Jika perlu mengubah jenis mesin, Anda harus membuat VM baru.
  • Anda tidak dapat mengubah jenis mesin VM menjadi jenis mesin A3 Mega. Jika memerlukan VM yang menggunakan jenis mesin A3 Mega, Anda harus membuat VM baru.
  • Jenis mesin A3 Mega tidak mendukung tenancy tunggal.
  • Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 Mega.

Jenis mesin A3 High

Jenis mesin Jumlah GPU Memori GPU*
(GB HBM3)		 Jumlah vCPU† Memori VM (GB) SSD Lokal Terpasang (GiB) Jumlah NIC fisik Bandwidth jaringan maksimum (Gbps)‡
a3-highgpu-1g 1 80 26 234 750 1 25
a3-highgpu-2g 2 160 52 468 1.500 1 50
a3-highgpu-4g 4 320 104 936 3.000 1 100
a3-highgpu-8g 8 640 208 1.872 6.000 5 1.000

*Memori GPU adalah memori di perangkat GPU yang dapat digunakan untuk penyimpanan data sementara. Memori ini terpisah dari memori VM dan dirancang secara khusus untuk menangani permintaan bandwidth yang lebih tinggi dari workload yang intensif grafis.
† vCPU diimplementasikan sebagai hyper-thread hardware tunggal di salah satu platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya. Lihat Bandwidth jaringan.

Batasan A3 High

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A3 High.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk VM yang menggunakan jenis mesin A3 High.
  • Anda hanya dapat menggunakan jenis mesin A3 High di region dan zona tertentu.
  • Anda tidak dapat menggunakan Persistent Disk regional pada VM yang menggunakan jenis mesin A3 High.
  • Jenis mesin A3 High hanya tersedia di platform CPU Sapphire Rapids.
  • Anda tidak dapat mengubah jenis mesin VM jenis mesin A3 High. Jika perlu mengubah jenis mesin, Anda harus membuat VM baru.
  • Anda tidak dapat mengubah jenis mesin VM menjadi jenis mesin A3 High. Jika memerlukan VM yang menggunakan jenis mesin A3 High, Anda harus membuat VM baru.
  • Jenis mesin A3 High tidak mendukung tenancy tunggal.
  • Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 High.
  • Untuk jenis mesin a3-highgpu-1g, a3-highgpu-2g, dana3-highgpu-4g, batasan berikut berlaku:
    • Untuk jenis mesin ini, Anda harus menggunakan Spot VM atau fitur yang menggunakan Dynamic Workload Scheduler (DWS) seperti permintaan perubahan ukuran di MIG. Untuk petunjuk mendetail tentang salah satu opsi ini, tinjau hal berikut:
    • Anda tidak dapat menggunakan Hyperdisk Balanced dengan jenis mesin ini.
    • Anda tidak dapat membuat reservasi.
    Jika mencoba membuat VM menggunakan penyediaan standar atau mencoba membuat reservasi untuk jenis mesin ini, Anda akan menerima pesan error.

Jenis mesin A3 Edge

Jenis mesin Jumlah GPU Memori GPU*
(GB HBM3)		 Jumlah vCPU† Memori VM (GB) SSD Lokal Terpasang (GiB) Jumlah NIC fisik Bandwidth jaringan maksimum (Gbps)‡
a3-edgegpu-8g 8 640 208 1.872 6.000 5
  • 800: untuk asia-south1 dan northamerica-northeast2
  • 400: untuk semua wilayah A3 Edge lainnya

*Memori GPU adalah memori di perangkat GPU yang dapat digunakan untuk penyimpanan data sementara. Memori ini terpisah dari memori VM dan dirancang secara khusus untuk menangani permintaan bandwidth yang lebih tinggi dari workload yang intensif grafis.
† vCPU diimplementasikan sebagai hyper-thread hardware tunggal di salah satu platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya. Lihat Bandwidth jaringan.

Batasan A3 Edge

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A3 Edge.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk VM yang menggunakan jenis mesin A3 Edge.
  • Anda hanya dapat menggunakan jenis mesin A3 Edge di region dan zona tertentu.
  • Anda tidak dapat menggunakan Persistent Disk regional pada VM yang menggunakan jenis mesin A3 Edge.
  • Jenis mesin A3 Edge hanya tersedia di platform CPU Sapphire Rapids.
  • Anda tidak dapat mengubah jenis mesin VM jenis mesin A3 Edge. Jika perlu mengubah jenis mesin, Anda harus membuat VM baru.
  • Anda tidak dapat mengubah jenis mesin VM menjadi jenis mesin A3 Edge. Jika memerlukan VM yang menggunakan jenis mesin A3 Edge, Anda harus membuat VM baru.
  • Jenis mesin A3 Edge tidak mendukung tenancy tunggal.
  • Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin Edge A3.

Jenis disk yang didukung untuk seri A3

A3 UltraA3 MegaA3 TinggiA3 Edge

VM A3 Ultra dapat menggunakan jenis block storage berikut:

  • Hyperdisk Balanced (hyperdisk-balanced): ini adalah satu-satunya jenis disk yang didukung untuk disk booting
  • Hyperdisk Extreme (hyperdisk-extreme)
  • SSD Lokal: yang otomatis ditambahkan ke VM yang dibuat menggunakan salah satu jenis mesin A3
Jumlah maksimum disk per VM*
Jenis
mesin		 Semua disk† Hyperdisk Balanced Hyperdisk Throughput Hyperdisk ML Ekstrem Hyperdisk Disk
SSD Lokal
yang terpasang
a3-ultragpu-8g 128 128 T/A T/A 8 32

*Penggunaan Hyperdisk dikenai biaya secara terpisah dari harga jenis mesin. Untuk mengetahui harga disk, lihat Harga Hyperdisk.
†Batas ini berlaku untuk Hyperdisk, tetapi tidak mencakup disk SSD Lokal.

VM A3 Mega dapat menggunakan jenis block storage berikut:

  • Persistent Disk Seimbang (pd-balanced)
  • Persistent Disk SSD (performa) (pd-ssd)
  • Hyperdisk Balanced (hyperdisk-balanced)
  • Hyperdisk ML (hyperdisk-ml)
  • Hyperdisk Extreme (hyperdisk-extreme)
  • Hyperdisk Throughput (hyperdisk-throughput)
  • SSD Lokal: yang otomatis ditambahkan ke VM yang dibuat menggunakan salah satu jenis mesin A3
Jumlah maksimum disk per VM*
Jenis
mesin		 Semua disk† Hyperdisk Balanced Hyperdisk Throughput Hyperdisk ML Ekstrem Hyperdisk Disk
SSD Lokal
yang terpasang
a3-megagpu-8g 128 32 64 64 8 16

*Penggunaan Hyperdisk dan Persistent Disk dikenai biaya secara terpisah dari harga jenis mesin. Untuk mengetahui harga disk, lihat Harga Persistent Disk dan Hyperdisk.
†Batas ini berlaku untuk Persistent Disk dan Hyperdisk, tetapi tidak mencakup disk SSD Lokal.

VM A3 High dapat menggunakan jenis block storage berikut:

  • Persistent Disk Seimbang (pd-balanced)
  • Persistent Disk SSD (performa) (pd-ssd)
  • Hyperdisk Balanced (hyperdisk-balanced): hanya didukung untuk a3-highgpu-8g
  • Hyperdisk ML (hyperdisk-ml)
  • Hyperdisk Extreme (hyperdisk-extreme)
  • Hyperdisk Throughput (hyperdisk-throughput)
  • SSD Lokal: yang otomatis ditambahkan ke VM yang dibuat menggunakan salah satu jenis mesin A3
Jumlah maksimum disk per VM*
Jenis
mesin		 Semua disk† Hyperdisk Balanced Hyperdisk Throughput Hyperdisk ML Ekstrem Hyperdisk Disk
SSD Lokal
yang terpasang
a3-highgpu-1g 128 T/A 64 64 T/A 2
a3-highgpu-2g 128 T/A 64 64 T/A 4
a3-highgpu-4g 128 T/A 64 64 8 8
a3-highgpu-8g 128 32 64 64 8 16

*Penggunaan Hyperdisk dan Persistent Disk dikenai biaya secara terpisah dari harga jenis mesin. Untuk mengetahui harga disk, lihat Harga Persistent Disk dan Hyperdisk.
†Batas ini berlaku untuk Persistent Disk dan Hyperdisk, tetapi tidak mencakup disk SSD Lokal.

VM Edge A3 dapat menggunakan jenis block storage berikut:

  • Persistent Disk Seimbang (pd-balanced)
  • Persistent Disk SSD (performa) (pd-ssd)
  • Hyperdisk Balanced (hyperdisk-balanced)
  • Hyperdisk ML (hyperdisk-ml)
  • Hyperdisk Extreme (hyperdisk-extreme)
  • Hyperdisk Throughput (hyperdisk-throughput)
  • SSD Lokal: yang otomatis ditambahkan ke VM yang dibuat menggunakan salah satu jenis mesin A3
Jumlah maksimum disk per VM*
Jenis mesin Semua disk† Hyperdisk Balanced Hyperdisk Throughput Hyperdisk ML Ekstrem Hyperdisk SSD Lokal Terpasang
a3-edgegpu-8g 128 32 64 64 8 16

*Penggunaan Hyperdisk dan Persistent Disk dikenai biaya secara terpisah dari harga jenis mesin. Untuk mengetahui harga disk, lihat Harga Persistent Disk dan Hyperdisk.
†Batas ini berlaku untuk Persistent Disk dan Hyperdisk, tetapi tidak mencakup disk SSD Lokal.

Batas disk dan kapasitas

Jika didukung oleh jenis mesin, Anda dapat menggunakan campuran volume Hyperdisk dan Persistent Disk di VM, tetapi batasan berikut berlaku:

  • Jumlah gabungan volume Hyperdisk dan Persistent Disk tidak boleh melebihi 128 per VM.

  • Total kapasitas disk maksimum (dalam TiB) di semua jenis disk tidak boleh melebihi:

    • Untuk jenis mesin dengan kurang dari 32 vCPU:

      • 257 TiB untuk semua Hyperdisk atau semua Persistent Disk
      • 257 TiB untuk campuran Hyperdisk dan Persistent Disk

    • Untuk jenis mesin dengan 32 vCPU atau lebih:

      • 512 TiB untuk semua Hyperdisk
      • 512 TiB untuk campuran Hyperdisk dan Persistent Disk
      • 257 TiB untuk semua Persistent Disk

Untuk mengetahui detail tentang batas kapasitas, lihat Batas kapasitas Hyperdisk per VM dan Kapasitas maksimum Persistent Disk.

Seri mesin A2

Seri mesin A2 tersedia dalam jenis mesin A2 Standard dan A2 Ultra. Jenis mesin ini memiliki 12 hingga 96 vCPU, dan memori hingga 1.360 GB.

Seri mesin A2 juga menyediakan fitur berikut:

  • GPU NVIDIA terpasang: setiap jenis mesin A2 memiliki GPU NVIDIA A100. GPU ini tersedia dalam opsi A100 40GB dan A100 80GB.

  • Skala NVLink terdepan di industri yang menyediakan GPU puncak ke bandwidth NVLink GPU 600 GBps. Misalnya, sistem dengan 16 GPU memiliki bandwidth NVLink agregat hingga 9,6 TBps. Keseluruhan 16 GPU ini dapat digunakan sebagai satu akselerator berperforma tinggi dengan ruang memori terpadu untuk memberikan daya komputasi hingga 10 petaFLOPS dan daya komputasi inferensi hingga 20 petaFLOPS yang dapat digunakan untuk kecerdasan buatan, deep learning, dan workload machine learning.

  • Peningkatan Kecepatan komputasi: GPU NVIDIA A100 yang terpasang menawarkan peningkatan kecepatan komputasi hingga 10x lipat jika dibandingkan dengan GPU NVIDIA V100 generasi sebelumnya.

    Dengan seri mesin A2, Anda bisa mendapatkan bandwidth jaringan hingga 100 Gbps.

  • Penyimpanan: untuk Scratch disk yang cepat atau untuk memasukkan data ke GPU sekaligus mencegah bottleneck I/O, jenis mesin A2 mendukung SSD Lokal sebagai berikut:

    • Untuk jenis mesin A2 Standard, Anda dapat menambahkan hingga 3.000 GiB SSD Lokal.
    • Untuk jenis mesin A2 Ultra, SSD Lokal otomatis terpasang saat Anda membuat VM.

    Anda juga dapat memasang penyimpanan Persistent Disk hingga 257 TiB ke VM A2 untuk aplikasi yang memerlukan performa penyimpanan yang lebih tinggi ini.

  • Dukungan kebijakan penempatan yang ringkas: memberi Anda kontrol lebih besar atas penempatan fisik VM dalam pusat data. Hal ini memungkinkan latensi yang lebih rendah dan bandwidth yang lebih tinggi untuk penempatan VM dalam satu zona ketersediaan. Untuk mengetahui informasi selengkapnya, lihat Mengurangi latensi dengan menggunakan kebijakan penempatan yang ringkas.

Jenis mesin A2 Ultra

Jenis mesin ini memiliki jumlah tetap GPU A100 80 GB. SSD lokal secara otomatis dipasang ke VM yang dibuat menggunakan jenis mesin A2 Ultra.

Jenis mesin Jumlah GPU Memori GPU*
(GB HBM3)		 Jumlah vCPU† Memori VM (GB) SSD Lokal Terpasang (GiB) Bandwidth jaringan maksimum (Gbps)‡
a2-ultragpu-1g 1 80 12 170 375 24
a2-ultragpu-2g 2 160 24 340 750 32
a2-ultragpu-4g 4 320 48 680 1.500 50
a2-ultragpu-8g 8 640 96 1.360 3.000 100

*Memori GPU adalah memori di perangkat GPU yang dapat digunakan untuk penyimpanan data sementara. Memori ini terpisah dari memori VM dan dirancang secara khusus untuk menangani permintaan bandwidth yang lebih tinggi dari workload yang intensif grafis.
† vCPU diimplementasikan sebagai hyper-thread hardware tunggal di salah satu platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya. Lihat Bandwidth jaringan.

Batasan A2 Ultra

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A2 Ultra.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan abonemen fleksibel untuk VM yang menggunakan jenis mesin A2 Ultra.
  • Anda hanya dapat menggunakan jenis mesin A2 Ultra di region dan zona tertentu.
  • Jenis mesin A2 Ultra hanya tersedia di platform Cascade Lake.
  • Jika VM Anda menggunakan jenis mesin A2 Ultra, Anda tidak dapat mengubah jenis mesin. Jika perlu menggunakan jenis mesin A2 Ultra yang berbeda, atau jenis mesin lainnya, Anda harus membuat VM baru.
  • Anda tidak dapat mengubah jenis mesin lainnya menjadi jenis mesin A2 Ultra. Jika memerlukan VM yang menggunakan jenis mesin A2 Ultra, Anda harus membuat VM baru.
  • Anda tidak dapat melakukan format cepat SSD Lokal yang terpasang di VM Windows yang menggunakan jenis mesin Ultra A2. Untuk memformat SSD Lokal ini, Anda harus membuat format penuh dengan menggunakan utilitas diskpart dan menentukan format fs=ntfs label=tmpfs.

Jenis mesin standar A2

Jenis mesin ini memiliki jumlah tetap GPU A100 40 GB.

Jenis mesin Jumlah GPU Memori GPU*
(GB HBM3)		 Jumlah vCPU† Memori VM (GB) SSD Lokal Terpasang (GiB) Bandwidth jaringan maksimum (Gbps)‡
a2-highgpu-1g 1 40 12 85 Ya 24
a2-highgpu-2g 2 80 24 170 Ya 32
a2-highgpu-4g 4 160 48 340 Ya 50
a2-highgpu-8g 8 320 96 680 Ya 100
a2-megagpu-16g 16 640 96 1.360 Ya 100

*Memori GPU adalah memori di perangkat GPU yang dapat digunakan untuk penyimpanan data sementara. Memori ini terpisah dari memori VM dan dirancang secara khusus untuk menangani permintaan bandwidth yang lebih tinggi dari workload intensif grafis Anda.
† vCPU diimplementasikan sebagai hyper-thread hardware tunggal di salah satu platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya. Lihat Bandwidth jaringan.

Batasan A2 Standar

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin Standar A2.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan abonemen fleksibel untuk VM yang menggunakan jenis mesin Standar A2.
  • Anda hanya dapat menggunakan jenis mesin Standar A2 di region dan zona tertentu.
  • Jenis mesin A2 Standar hanya tersedia di platform Cascade Lake.
  • Jika VM Anda menggunakan jenis mesin Standar A2, Anda hanya dapat beralih dari satu jenis mesin Standar A2 ke jenis mesin Standar A2 lainnya. Anda tidak dapat mengubah ke jenis mesin lainnya. Untuk mengetahui informasi selengkapnya, lihat Mengubah VM yang dioptimalkan untuk akselerator.
  • Anda tidak dapat menggunakan sistem operasi Windows dengan jenis mesin Standar A2 <codea2-megagpu-16g< code="" dir="ltr" translate="no">. Saat menggunakan sistem operasi Windows, pilih jenis mesin Standar A2 yang berbeda.</codea2-megagpu-16g<>
  • Anda tidak dapat melakukan format cepat SSD Lokal yang terpasang di VM Windows yang menggunakan jenis mesin Standar A2. Untuk memformat SSD Lokal ini, Anda harus membuat format penuh dengan menggunakan utilitas diskpart dan menentukan format fs=ntfs label=tmpfs.
  • Jenis mesin Standar A2 tidak mendukung tenancy tunggal.

Jenis disk yang didukung untuk seri A2

VM A2 dapat menggunakan jenis block storage berikut:

  • Hyperdisk ML (hyperdisk-ml)
  • Persistent Disk Seimbang (pd-balanced)
  • Persistent Disk SSD (performa) (pd-ssd)
  • Persistent Disk Standar (pd-standard)
  • SSD Lokal: yang otomatis dipasang ke VM yang dibuat menggunakan jenis mesin A2 Ultra.

Jika didukung oleh jenis mesin, Anda dapat menggunakan campuran volume Hyperdisk dan Persistent Disk di VM, tetapi batasan berikut berlaku:

  • Jumlah gabungan volume Hyperdisk dan Persistent Disk tidak boleh melebihi 128 per VM.

  • Total kapasitas disk maksimum (dalam TiB) di semua jenis disk tidak boleh melebihi:

    • Untuk jenis mesin dengan kurang dari 32 vCPU:

      • 257 TiB untuk semua Hyperdisk atau semua Persistent Disk
      • 257 TiB untuk campuran Hyperdisk dan Persistent Disk

    • Untuk jenis mesin dengan 32 vCPU atau lebih:

      • 512 TiB untuk semua Hyperdisk
      • 512 TiB untuk campuran Hyperdisk dan Persistent Disk
      • 257 TiB untuk semua Persistent Disk

Untuk mengetahui detail tentang batas kapasitas, lihat Batas kapasitas Hyperdisk per VM dan Kapasitas maksimum Persistent Disk.

Seri mesin G2

Seri mesin G2 tersedia dalam jenis mesin standar yang memiliki 4 hingga 96 vCPU, dan memori hingga 432 GB. Seri mesin ini dioptimalkan untuk workload inferensi dan grafis.

Seri mesin G2 juga menyediakan fitur berikut:

  • GPU NVIDIA terpasang: setiap jenis mesin G2 memiliki GPU NVIDIA L4.

  • Rasio inferensi yang lebih baik: jenis mesin G2 menyediakan dukungan untuk FP8 (floating point 8-bit) yang mempercepat kecepatan inferensi ML dan mengurangi persyaratan memori.

  • Performa grafis generasi berikutnya: GPU NVIDIA L4 memberikan peningkatan performa grafis hingga 3X lipat menggunakan core RT generasi ketiga dan Teknologi NVIDIA DLSS 3 (Deep Learning Super Sampling).

  • Bandwidth jaringan berperforma tinggi: dengan seri mesin G2, Anda bisa mendapatkan bandwidth jaringan hingga 100 Gbps.

  • Penyimpanan: Anda dapat menambahkan hingga 3.000 GiB SSD Lokal ke VM G2. Ini dapat digunakan untuk scratch disk cepat atau untuk memasukkan data ke GPU sekaligus mencegah bottleneck I/O.

    Anda juga dapat memasang volume Hyperdisk dan Persistent Disk ke VM G2, untuk aplikasi yang memerlukan penyimpanan persisten lebih banyak. Kapasitas penyimpanan maksimum bergantung pada jumlah vCPU yang dimiliki VM. Untuk mengetahui detailnya, lihat Jenis disk yang didukung.

  • Dukungan kebijakan penempatan yang ringkas: memberi Anda kontrol lebih besar atas penempatan fisik VM dalam pusat data. Hal ini memungkinkan latensi yang lebih rendah dan bandwidth yang lebih tinggi untuk penempatan VM dalam satu zona ketersediaan. Untuk mengetahui informasi selengkapnya, lihat Mengurangi latensi dengan menggunakan kebijakan penempatan yang ringkas.

Jenis mesin G2

Setiap jenis mesin G2 memiliki GPU NVIDIA L4 dan vCPU dalam jumlah tetap yang terpasang. Setiap jenis mesin G2 juga memiliki memori default dan rentang memori kustom. Rentang memori kustom menentukan jumlah memori yang dapat Anda alokasikan ke VM untuk setiap jenis mesin. Anda dapat menentukan memori kustom selama pembuatan VM.

Jenis mesin Jumlah GPU Memori GPU* (GB GDDR6) Jumlah vCPU† Memori VM default (GB) Rentang memori VM kustom (GB) SSD Lokal maksimum yang didukung (GiB) Bandwidth jaringan maksimum (Gbps)‡
g2-standard-4 1 24 4 16 16 hingga 32 375 10
g2-standard-8 1 24 8 32 32-54 tahun 375 16
g2-standard-12 1 24 12 48 48-54 tahun 375 16
g2-standard-16 1 24 16 64 54-64 tahun 375 32
g2-standard-24 2 48 24 96 96 hingga 108 750 32
g2-standard-32 1 24 32 128 96 hingga 128 375 32
g2-standard-48 4 96 48 192 192 hingga 216 1.500 50
g2-standard-96 8 192 96 384 384 hingga 432 3.000 100

*Memori GPU adalah memori di perangkat GPU yang dapat digunakan untuk penyimpanan data sementara. Memori ini terpisah dari memori VM dan dirancang secara khusus untuk menangani permintaan bandwidth yang lebih tinggi dari workload yang intensif grafis.
† vCPU diimplementasikan sebagai hyper-thread hardware tunggal di salah satu platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya. Lihat Bandwidth jaringan.

Batasan G2

  • Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin G2.
  • Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon abonemen fleksibel untuk VM yang menggunakan jenis mesin G2.
  • Anda hanya dapat menggunakan jenis mesin G2 di region dan zona tertentu.
  • Jenis mesin G2 hanya tersedia di platform Cascade Lake.
  • Persistent Disk Standar (pd-standard) tidak didukung di VM yang menggunakan jenis mesin standar G2. Untuk mengetahui jenis disk yang didukung, lihat Jenis disk yang didukung untuk G2.
  • Anda tidak dapat membuat GPU Multi-Instance pada jenis mesin G2.
  • Jika Anda perlu mengubah jenis mesin VM G2, tinjau Mengubah VM yang dioptimalkan akselerator.
  • Anda tidak dapat menggunakan Deep Learning VM Image sebagai boot disk untuk VM yang menggunakan jenis mesin G2.
  • Driver default saat ini untuk Container-Optimized OS tidak mendukung GPU L4 yang berjalan pada jenis mesin G2. Container-Optimized OS juga hanya mendukung serangkaian driver tertentu. Jika Anda ingin menggunakan Container-Optimized OS pada jenis mesin G2, tinjau catatan berikut:
    • Gunakan versi Container-Optimized OS yang mendukung versi driver NVIDIA minimum yang direkomendasikan 525.60.13 atau yang lebih baru. Untuk informasi selengkapnya, tinjau catatan rilis Container-Optimized OS.
    • Saat Anda menginstal driver, tentukan versi terbaru yang tersedia yang berfungsi untuk GPU L4. Contoh, sudo cos-extensions install gpu -- -version=525.60.13.
  • Anda harus menggunakan Google Cloud CLI atau REST untuk membuat VM G2 untuk skenario berikut:
    • Anda ingin menetapkan nilai memori kustom.
    • Anda ingin menyesuaikan jumlah inti CPU yang terlihat.

Jenis disk yang didukung untuk seri G2

VM G2 dapat menggunakan jenis block storage berikut:

  • Persistent Disk Seimbang (pd-balanced)
  • Persistent Disk SSD (performa) (pd-ssd)
  • Hyperdisk ML (hyperdisk-ml)
  • Hyperdisk Throughput (hyperdisk-throughput)
  • SSD Lokal

Jika didukung oleh jenis mesin, Anda dapat menggunakan campuran volume Hyperdisk dan Persistent Disk di VM, tetapi batasan berikut berlaku:

  • Jumlah gabungan volume Hyperdisk dan Persistent Disk tidak boleh melebihi 128 per VM.

  • Total kapasitas disk maksimum (dalam TiB) di semua jenis disk tidak boleh melebihi:

    • Untuk jenis mesin dengan kurang dari 32 vCPU:

      • 257 TiB untuk semua Hyperdisk atau semua Persistent Disk
      • 257 TiB untuk campuran Hyperdisk dan Persistent Disk

    • Untuk jenis mesin dengan 32 vCPU atau lebih:

      • 512 TiB untuk semua Hyperdisk
      • 512 TiB untuk campuran Hyperdisk dan Persistent Disk
      • 257 TiB untuk semua Persistent Disk

Untuk mengetahui detail tentang batas kapasitas, lihat Batas kapasitas Hyperdisk per VM dan Kapasitas maksimum Persistent Disk.

Langkah berikutnya