Kelompok mesin yang dioptimalkan akselerator dirancang oleh Google Cloud untuk memberikan performa dan efisiensi yang dibutuhkan untuk workload yang dipercepat GPU seperti kecerdasan buatan (AI), machine learning (ML), dan komputasi berperforma tinggi (HPC).
Kelompok mesin yang dioptimalkan akselerator tersedia dalam seri mesin berikut: A4X, A4, A3, A2, dan G2. Setiap jenis mesin dalam rangkaian memiliki model dan jumlah GPU NVIDIA tertentu yang terpasang. Anda juga dapat melampirkan beberapa model GPU ke jenis mesin tujuan umum N1.
Rekomendasi seri mesin menurut jenis workload
Bagian berikut menyajikan rangkaian mesin yang direkomendasikan berdasarkan workload GPU Anda.
Jenis beban kerja | Jenis mesin yang direkomendasikan |
---|---|
Model pelatihan awal | A4X, A4, A3 Ultra, A3 Mega, A3 High, dan A2 Untuk mengidentifikasi kecocokan terbaik, lihat Rekomendasi untuk model pra-pelatihan dalam dokumentasi AI Hypercomputer. |
Model fine-tuning | A4X, A4, A3 Ultra, A3 Mega, A3 High, dan A2 Untuk mengidentifikasi yang paling cocok, lihat Rekomendasi untuk model penyetelan halus dalam dokumentasi AI Hypercomputer. |
Menayangkan inferensi | A4X, A4, A3 Ultra, A3 Mega, A3 High, A3 Edge, dan A2 Untuk mengidentifikasi kecocokan terbaik, lihat Rekomendasi untuk menayangkan inferensi dalam dokumentasi AI Hypercomputer. |
Workload intensif grafis | G2 dan N1+T4 |
Komputasi berperforma tinggi | Untuk beban kerja komputasi berperforma tinggi, semua rangkaian mesin yang dioptimalkan
akselerator akan berfungsi dengan baik. Kecocokan terbaik bergantung pada jumlah komputasi yang harus
dialihkan ke GPU. Untuk mengetahui informasi selengkapnya, lihat Rekomendasi untuk HPC dalam dokumentasi AI Hypercomputer. |
Opsi harga dan penyediaan
Jenis mesin yang dioptimalkan akselerator akan dikenai biaya untuk GPU yang terpasang, vCPU yang telah ditetapkan, memori, dan SSD Lokal yang dipaketkan (jika ada). Diskon yang dapat berlaku untuk instance yang dioptimalkan untuk akselerator bervariasi berdasarkan opsi penyediaan yang Anda gunakan seperti yang diringkas dalam tabel berikut. Untuk mengetahui informasi harga selengkapnya mengenai instance yang dioptimalkan akselerator, lihat bagian Kelompok jenis mesin yang dioptimalkan akselerator di halaman harga instance VM.
Sesuai permintaan (default) | Spot VM | Flex-start (Pratinjau) | Reservasi | |
---|---|---|---|---|
Seri mesin yang dioptimalkan akselerator yang didukung | A3 Mega, A3 High, A3 Edge, A2, dan G2 | A4, A3, A2, dan G2 | A4, A3, A2, dan G2 | Dukungan bervariasi berdasarkan jenis reservasi:
|
Diskon | Anda dapat menerima diskon abonemen (CUD) untuk beberapa resource dengan membeli komitmen berbasis resource. Namun, GPU dan disk SSD Lokal yang Anda gunakan dengan opsi penyediaan sesuai permintaan tidak memenuhi syarat untuk CUD. Jika Anda ingin menerima DA bahkan untuk GPU dan disk SSD Lokal, sebaiknya gunakan opsi penyediaan reservasi. |
Spot VM otomatis mendapatkan diskon melalui harga Spot VM. |
VM yang disediakan menggunakan model penyediaan mulai fleksibel secara otomatis mendapatkan diskon melalui harga Dynamic Workload Scheduler. |
Anda dapat menerima DA untuk resource jenis mesin yang dioptimalkan untuk akselerator dengan membeli komitmen berbasis resource. Perhatikan bahwa komitmen untuk GPU dan disk SSD Lokal apa pun memerlukan reservasi terlampir untuk resource tersebut. |
Seri mesin A4X
Seri mesin A4X berjalan di platform eksaskala berdasarkan arsitektur skala rak NVIDIA GB200 NVL72 dan memiliki hingga 140 vCPU, serta memori 884 GB. Seri mesin ini dioptimalkan untuk workload ML yang terikat jaringan, pelatihan ML, dan HPC yang membutuhkan komputasi dan memori intensif. Seri mesin A4X tersedia dalam satu jenis mesin.
Instance VM yang dibuat menggunakan jenis mesin A4X menyediakan fitur berikut:
Akselerasi GPU dengan Superchip NVIDIA GB200: Instance A4X memiliki Superchip NVIDIA GB200 yang terpasang secara otomatis. Superchip ini memiliki GPU NVIDIA B200 dan menawarkan memori 180 GB per GPU. A4X memiliki dua soket dengan CPU NVIDIA Grace™ dengan core Arm® Neoverse™ V2. CPU ini terhubung ke empat GPU B200 dengan komunikasi chip-ke-chip (NVLink-C2C) yang cepat.
Platform CPU NVIDIA Grace: Instance A4X menggunakan platform CPU NVIDIA Grace. Untuk mengetahui detail selengkapnya tentang platform, lihat Platform CPU.
Skalabilitas NVLink terdepan di industri: NVLink multi-node yang dapat menskalakan hingga 72 GPU dalam satu domain. GPU NVIDIA B200 menyediakan bandwidth NVLink GPU sebesar 1.800 GBps, dua arah per GPU. Dengan topologi NVLink all-to-all di antara 4 GPU dalam satu sistem, Bandwidth NVLink agregat mencapai 130 TB/dtk.
Jaringan yang Ditingkatkan dengan RoCE: Untuk instance A4X, RDMA over Converged Ethernet (RoCE) meningkatkan performa jaringan dengan menggabungkan kartu antarmuka jaringan (NIC) NVIDIA ConnectX-7 (CX-7) dengan jaringan yang selaras empat arah di seluruh pusat data Google. Dengan memanfaatkan RDMA over Converged Ethernet (RoCE), instance A4X mencapai throughput yang jauh lebih tinggi antar-instance dalam cluster jika dibandingkan dengan instance A4.
NIC CX-7, yang terisolasi secara fisik pada topologi jaringan yang selaras dengan rel empat arah, memungkinkan instance A4X melakukan penskalaan horizontal dalam grup 72 GPU hingga ribuan GPU dalam satu cluster non-blocking.
Kecepatan jaringan yang lebih tinggi: Menawarkan kecepatan jaringan hingga 4x lebih tinggi dibandingkan dengan instance yang dibuat menggunakan jenis mesin A3.
Pengoptimalan virtualisasi untuk transfer dan pemulihan data: Topologi Peripheral Component Interconnect Express (PCIe) instance A4X memberikan informasi lokalitas yang lebih akurat yang dapat digunakan workload untuk mengoptimalkan transfer data.
GPU juga mengekspos Reset Tingkat Fungsi (FLR) untuk pemulihan yang lancar dari kegagalan dan dukungan operasi atomik untuk peningkatan konkurensi dalam skenario tertentu.
Dukungan SSD Lokal dan Hyperdisk: 12.000 GiB SSD Lokal otomatis ditambahkan ke instance A4X. SSD Lokal dapat digunakan untuk scratch disk cepat atau untuk memasukkan data ke GPU sekaligus mencegah bottleneck I/O.
Untuk aplikasi yang memerlukan performa penyimpanan yang lebih tinggi, Anda dapat memasang Hyperdisk hingga 512 TiB ke instance A4X.
Dukungan penjadwalan yang sadar topologi dan alokasi padat: Saat menyediakan instance A4X melalui Cluster Director, Anda dapat meminta blok kapasitas yang dialokasikan secara padat. Mesin host Anda dialokasikan secara fisik berdekatan satu sama lain, disediakan sebagai blok resource, dan saling terhubung dengan fabric jaringan ML dinamis untuk meminimalkan hop jaringan dan mengoptimalkan latensi terendah. Selain itu, Cluster Director memberikan informasi topologi di tingkat node dan cluster yang dapat digunakan untuk penempatan tugas.
Jenis mesin A4X
Jenis mesin | Jumlah GPU | Memori GPU* (GB HBM3e) |
Jumlah vCPU† | Memori VM (GB) | SSD Lokal yang Terpasang (GiB) | Jumlah NIC fisik | Bandwidth jaringan maksimum (GBps)‡ |
---|---|---|---|---|---|---|---|
a4x-highgpu-4g |
4 | 720 | 140 | 884 | 12.000 | 6 | 2.000 |
*Memori GPU adalah memori pada perangkat GPU yang dapat digunakan untuk
penyimpanan data sementara. Memori ini terpisah dari memori VM dan dirancang khusus untuk menangani permintaan bandwidth yang lebih tinggi dari workload intensif grafis Anda.
†vCPU diimplementasikan sebagai hardware hyper-thread tunggal di salah satu
platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth
traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya.
Lihat Bandwidth jaringan.
Batasan A4X
- Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A4X.
- Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan berkelanjutan fleksibel untuk VM yang menggunakan jenis mesin A4X.
- Anda hanya dapat menggunakan jenis mesin A4X di region dan zona tertentu.
- Anda tidak dapat menggunakan Persistent Disk (regional atau zonal) pada VM yang menggunakan jenis mesin A4X.
- Jenis mesin A4X hanya tersedia di platform NVIDIA Grace.
- Anda tidak dapat mengubah jenis mesin VM yang ada menjadi jenis mesin A4X. Anda hanya dapat membuat VM A4X baru. Setelah membuat VM menggunakan jenis mesin A4X, Anda tidak dapat mengubah jenis mesin.
- Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A4X.
- VM A4X tidak mendukung hal berikut:
Jenis disk yang didukung untuk seri A4X
VM A4X dapat menggunakan jenis block storage berikut:
- Hyperdisk Balanced (
hyperdisk-balanced
): ini adalah satu-satunya jenis disk yang didukung untuk disk boot - Hyperdisk Extreme (
hyperdisk-extreme
) - SSD Lokal: yang otomatis ditambahkan ke VM yang dibuat menggunakan salah satu jenis mesin A4X
Jumlah maksimum disk per VM* | ||||||
---|---|---|---|---|---|---|
Jenis mesin | Semua disk† | Hyperdisk Balanced | Hyperdisk Throughput | Hyperdisk ML | Ekstrem Hyperdisk | SSD Lokal yang Terpasang |
a4x-highgpu-4g |
128 | 128 | T/A | T/A | 8 | 32 |
*Penggunaan Hyperdisk dikenai biaya secara terpisah dari
harga jenis mesin. Untuk mengetahui harga disk, lihat
Harga Hyperdisk.
†Batas ini berlaku untuk Hyperdisk, tetapi tidak mencakup disk SSD Lokal.
Batasan disk dan kapasitas
Anda dapat menggunakan campuran berbagai jenis Hyperdisk dengan VM, tetapi total kapasitas disk maksimum (dalam TiB) di semua jenis disk tidak boleh melebihi:
Untuk jenis mesin dengan kurang dari 32 vCPU: 257 TiB untuk semua Hyperdisk
Untuk jenis mesin dengan 32 vCPU atau lebih: 512 TiB untuk semua Hyperdisk
Untuk mengetahui detail tentang batas kapasitas, lihat Batas ukuran dan lampiran Hyperdisk.
Seri mesin A4
Seri mesin A4 menawarkan jenis mesin dengan hingga 224 vCPU, dan memori sebesar 3.968 GB. Instance A4 memberikan performa hingga 3x lebih tinggi dibandingkan jenis instance GPU sebelumnya untuk sebagian besar workload yang dipercepat GPU. A4 direkomendasikan untuk workload pelatihan ML, terutama pada skala besar—misalnya, ratusan atau ribuan GPU. Seri mesin A4 tersedia dalam satu jenis mesin.
Instance VM yang dibuat menggunakan jenis mesin A4 menyediakan fitur berikut:
Akselerasi GPU dengan GPU NVIDIA B200: GPU NVIDIA B200 secara otomatis terpasang ke instance A4, yang menawarkan memori GPU 180 GB per GPU.
Prosesor Intel Xeon Scalable Generasi ke-5 (Emerald Rapids): menawarkan frekuensi turbo maks single-core berkelanjutan hingga 4,0 GHz. Untuk mengetahui informasi selengkapnya tentang prosesor ini, lihat Platform CPU.
Skalabilitas NVLink terdepan di industri: GPU NVIDIA B200 memberikan bandwidth NVLink GPU sebesar 1.800 GBps, dua arah per GPU.
Dengan topologi NVLink all-to-all antara 8 GPU dalam sistem, Bandwidth NVLink agregat mencapai 14,4 TBps.
Jaringan yang ditingkatkan dengan RoCE: RDMA over Converged Ethernet (RoCE) meningkatkan performa jaringan dengan menggabungkan kartu antarmuka jaringan (NIC) NVIDIA ConnectX-7 dengan jaringan empat arah yang selaras dengan rel di seluruh pusat data Google. Dengan memanfaatkan RDMA over Converged Ethernet (RoCE), instance A4 mencapai throughput yang jauh lebih tinggi antar-instance dalam cluster dibandingkan dengan sebagian besar instance A3, kecuali yang berjalan di jenis mesin A3 Ultra.
Kecepatan jaringan yang ditingkatkan: Menawarkan kecepatan jaringan hingga 4x lipat jika dibandingkan dengan instance A2 generasi sebelumnya.
Untuk mengetahui informasi selengkapnya tentang jaringan, lihat Bandwidth jaringan dan GPU.
Pengoptimalan virtualisasi untuk transfer dan pemulihan data: topologi Peripheral Component Interconnect Express (PCIe) instance A4 memberikan informasi lokalitas yang lebih akurat yang dapat digunakan workload untuk mengoptimalkan transfer data.
GPU juga mengekspos Reset Tingkat Fungsi (FLR) untuk pemulihan yang lancar dari kegagalan dan dukungan operasi atomik untuk peningkatan serentak dalam skenario tertentu.
Dukungan SSD Lokal dan Hyperdisk: 12.000 GiB SSD Lokal otomatis ditambahkan ke instance A4. SSD Lokal dapat digunakan untuk scratch disk cepat atau untuk memasukkan data ke GPU sekaligus mencegah bottleneck I/O.
Untuk aplikasi yang memerlukan performa penyimpanan yang lebih tinggi, Anda juga dapat memasang Hyperdisk hingga 512 TiB ke instance A4.
Dukungan penjadwalan yang sadar topologi dan alokasi padat: Saat menyediakan instance A4 yang menggunakan fitur dan layanan yang tersedia dari Cluster Director, Anda dapat meminta blok kapasitas yang dialokasikan secara padat. Mesin host Anda dialokasikan berdekatan satu sama lain secara fisik, disediakan sebagai blok resource, dan saling terhubung dengan fabric jaringan ML dinamis untuk meminimalkan hop jaringan dan mengoptimalkan latensi terendah. Selain itu, Anda bisa mendapatkan informasi topologi di tingkat node dan cluster yang dapat digunakan untuk penempatan tugas.
Jenis mesin A4
Jenis mesin | Jumlah GPU | Memori GPU* (GB HBM3e) |
Jumlah vCPU† | Memori VM (GB) | SSD Lokal yang Terpasang (GiB) | Jumlah NIC fisik | Bandwidth jaringan maksimum (Gbps)‡ |
---|---|---|---|---|---|---|---|
a4-highgpu-8g |
8 | 1.440 | 224 | 3.968 | 12.000 | 10 | 3.600 |
*Memori GPU adalah memori pada perangkat GPU yang dapat digunakan untuk penyimpanan sementara data. Memori ini terpisah dari memori VM dan dirancang khusus untuk menangani permintaan bandwidth yang lebih tinggi dari beban kerja yang intensif grafis.
†vCPU diimplementasikan sebagai hardware hyper-thread tunggal di salah satu
platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth
traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya.
Lihat Bandwidth jaringan.
Batasan A4
- Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A4.
- Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan berkelanjutan fleksibel untuk VM yang menggunakan jenis mesin A4.
- Anda hanya dapat menggunakan jenis mesin A4 di region dan zona tertentu.
- Anda tidak dapat menggunakan Persistent Disk (regional atau zonal) pada VM yang menggunakan jenis mesin A4.
- Jenis mesin A4 hanya tersedia di platform CPU Emerald Rapids.
- Anda tidak dapat mengubah jenis mesin VM yang ada menjadi jenis mesin A4. Anda hanya dapat membuat VM A4 baru. Setelah membuat VM menggunakan jenis mesin A4, Anda tidak dapat mengubah jenis mesin.
- Jenis mesin A4 tidak mendukung tenancy tunggal.
- Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A4.
Jenis disk yang didukung untuk seri A4
VM A4 dapat menggunakan jenis block storage berikut:
- Hyperdisk Balanced (
hyperdisk-balanced
): ini adalah satu-satunya jenis disk yang didukung untuk disk boot - Hyperdisk Extreme (
hyperdisk-extreme
) - SSD Lokal: yang otomatis ditambahkan ke VM yang dibuat menggunakan salah satu jenis mesin A4
Jumlah maksimum disk per VM* | ||||||
---|---|---|---|---|---|---|
Jenis mesin | Semua disk† | Hyperdisk Balanced | Hyperdisk Throughput | Hyperdisk ML | Ekstrem Hyperdisk | SSD Lokal yang Terpasang |
a4-highgpu-8g |
128 | 128 | T/A | T/A | 8 | 32 |
*Penggunaan Hyperdisk dikenai biaya secara terpisah dari
harga jenis mesin. Untuk mengetahui harga disk, lihat
Harga Hyperdisk.
†Batas ini berlaku untuk Hyperdisk, tetapi tidak mencakup disk SSD Lokal.
Batasan disk dan kapasitas
Jika didukung oleh jenis mesin, Anda dapat menggunakan campuran volume Hyperdisk dan Persistent Disk di VM, tetapi batasan berikut berlaku:
- Jumlah gabungan volume Hyperdisk dan Persistent Disk tidak boleh melebihi 128 per VM.
Total kapasitas disk maksimum (dalam TiB) di semua jenis disk tidak boleh melebihi:
Untuk jenis mesin dengan kurang dari 32 vCPU:
- 257 TiB untuk semua Hyperdisk atau semua Persistent Disk
- 257 TiB untuk campuran Hyperdisk dan Persistent Disk
Untuk jenis mesin dengan 32 vCPU atau lebih:
- 512 TiB untuk semua Hyperdisk
- 512 TiB untuk campuran Hyperdisk dan Persistent Disk
- 257 TiB untuk semua Persistent Disk
Untuk mengetahui detail tentang batas kapasitas, lihat Batas ukuran dan pemasangan Hyperdisk dan Kapasitas maksimum Persistent Disk.
Seri mesin A3
Seri mesin A3 memiliki hingga 224 vCPU, dan memori 2.944 GB. Seri mesin ini dioptimalkan untuk workload pelatihan ML yang terikat jaringan, yang membutuhkan komputasi dan memori intensif, serta workload HPC. Seri mesin A3 tersedia dalam jenis mesin A3 Ultra, A3 Mega, A3 High, dan A3 Edge.
Instance VM yang dibuat menggunakan jenis mesin A3 menyediakan fitur berikut:
Fitur | A3 Ultra | A3 Mega, High, Edge |
---|---|---|
Akselerasi GPU | GPU NVIDIA H200 SXM terpasang, yang menawarkan memori GPU 141 GB per GPU dan menyediakan memori yang lebih besar dan lebih cepat untuk mendukung model bahasa besar dan beban kerja HPC. |
GPU SXM NVIDIA H100 terpasang, yang menawarkan memori GPU 80 GB per GPU dan ideal untuk model bahasa berbasis transformer besar, database, dan HPC. |
Prosesor Intel Xeon Scalable | Prosesor Intel Xeon Scalable Generasi ke-5 (Emerald Rapids) dan menawarkan frekuensi turbo maks single-core berkelanjutan hingga 4,0 GHz. Untuk mengetahui informasi selengkapnya tentang prosesor ini, lihat Platform CPU. |
Prosesor Intel Xeon Scalable Generasi ke-4 (Sapphire Rapids) dan menawarkan frekuensi turbo maks single-core berkelanjutan hingga 3,3 GHz. Untuk mengetahui informasi selengkapnya tentang prosesor ini, lihat Platform CPU. |
Skalabilitas NVLink terdepan di industri | GPU NVIDIA H200 menyediakan bandwidth NVLink GPU puncak sebesar 900 GB/dtk, satu arah. Dengan topologi NVLink all-to-all antara 8 GPU dalam sistem, Bandwidth NVLink agregat mencapai 7,2 TB/dtk. |
GPU NVIDIA H100 memberikan bandwidth NVLink GPU puncak 450 GB/dtk, satu arah. Dengan topologi NVLink all-to-all antara 8 GPU dalam sistem, Bandwidth NVLink agregat mencapai 7,2 TB/dtk. |
Jaringan yang ditingkatkan | Untuk jenis mesin ini, RDMA over Converged Ethernet (RoCE) meningkatkan performa jaringan dengan
menggabungkan
kartu antarmuka jaringan (NIC) NVIDIA ConnectX-7 dengan jaringan yang selaras empat arah di seluruh pusat data kami. Dengan memanfaatkan RDMA over Converged Ethernet (RoCE),
jenis mesin a3-ultragpu-8g mencapai throughput yang jauh lebih tinggi
antar-instance dalam cluster jika dibandingkan dengan jenis mesin A3 lainnya.
|
|
Kecepatan jaringan yang lebih baik | Menawarkan kecepatan jaringan hingga 4x lipat jika dibandingkan dengan seri mesin A2 generasi sebelumnya. Untuk mengetahui informasi selengkapnya tentang jaringan, lihat Bandwidth jaringan dan GPU. |
Menawarkan kecepatan jaringan hingga 2,5X lipat jika dibandingkan dengan seri mesin A2 generasi sebelumnya. Untuk mengetahui informasi selengkapnya tentang jaringan, lihat Bandwidth jaringan dan GPU. |
Pengoptimalan virtualisasi | Topologi Peripheral Component Interconnect Express (PCIe) pada instance A3 memberikan informasi lokalitas yang lebih akurat yang dapat digunakan oleh beban kerja untuk mengoptimalkan transfer data. GPU juga mengekspos Reset Tingkat Fungsi (FLR) untuk pemulihan yang lancar dari kegagalan dan dukungan operasi atomik untuk peningkatan konkurensi dalam skenario tertentu. |
|
Dukungan SSD Lokal, Persistent Disk, dan Hyperdisk |
SSD Lokal dapat digunakan untuk scratch disk cepat atau untuk memasukkan data ke GPU sekaligus mencegah bottleneck I/O. SSD lokal terpasang sebagai berikut:
Anda juga dapat memasang Persistent Disk dan Hyperdisk hingga 512 TiB ke jenis mesin dalam seri ini untuk aplikasi yang memerlukan performa penyimpanan yang lebih tinggi. Untuk jenis mesin tertentu, hingga 257 TiB Persistent Disk juga didukung. |
|
Dukungan kebijakan penempatan rapat | Memberi Anda kontrol lebih besar atas penempatan fisik instance dalam pusat data. Hal ini memungkinkan latensi yang lebih rendah dan bandwidth yang lebih tinggi untuk instance yang berada dalam satu zona ketersediaan. Untuk mengetahui informasi selengkapnya, lihat Tentang kebijakan penempatan rapat. |
Jenis mesin A3 Ultra
Jenis mesin | Jumlah GPU | Memori GPU* (GB HBM3e) |
Jumlah vCPU† | Memori VM (GB) | SSD Lokal yang Terpasang (GiB) | Jumlah NIC fisik | Bandwidth jaringan maksimum (Gbps)‡ |
---|---|---|---|---|---|---|---|
a3-ultragpu-8g |
8 | 1128 | 224 | 2.952 | 12.000 | 10 | 3.600 |
*Memori GPU adalah memori pada perangkat GPU yang dapat digunakan untuk
penyimpanan data sementara. Memori ini terpisah dari memori VM dan dirancang khusus untuk menangani permintaan bandwidth yang lebih tinggi dari workload intensif grafis Anda.
†vCPU diimplementasikan sebagai hardware hyper-thread tunggal di salah satu
platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth
traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya.
Lihat Bandwidth jaringan.
Batasan A3 Ultra
- Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A3 Ultra.
- Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan berkelanjutan fleksibel untuk VM yang menggunakan jenis mesin Ultra A3.
- Anda hanya dapat menggunakan jenis mesin A3 Ultra di region dan zona tertentu.
- Anda tidak dapat menggunakan Persistent Disk (regional atau zonal) pada VM yang menggunakan jenis mesin Ultra A3.
- Jenis mesin A3 Ultra hanya tersedia di platform CPU Emerald Rapids.
- Anda tidak dapat mengubah jenis mesin VM yang ada menjadi jenis mesin A3 Ultra. Anda hanya dapat membuat VM A3-ultra baru. Setelah membuat VM menggunakan jenis mesin A3 Ultra, Anda tidak dapat mengubah jenis mesin.
- Jenis mesin A3 Ultra tidak mendukung sole-tenancy.
- Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 Ultra.
Jenis mesin A3 Mega
Jenis mesin | Jumlah GPU | Memori GPU* (GB HBM3) |
Jumlah vCPU† | Memori VM (GB) | SSD Lokal yang Terpasang (GiB) | Jumlah NIC fisik | Bandwidth jaringan maksimum (Gbps)‡ |
---|---|---|---|---|---|---|---|
a3-megagpu-8g |
8 | 640 | 208 | 1.872 | 6.000 | 9 | 1.800 |
*Memori GPU adalah memori pada perangkat GPU yang dapat digunakan untuk
penyimpanan data sementara. Memori ini terpisah dari memori VM dan dirancang khusus untuk menangani permintaan bandwidth yang lebih tinggi dari workload intensif grafis Anda.
†vCPU diimplementasikan sebagai hardware hyper-thread tunggal di salah satu
platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth
traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya.
Lihat Bandwidth jaringan.
Batasan A3 Mega
- Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A3 Mega.
- Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan abonemen fleksibel untuk VM yang menggunakan jenis mesin A3 Mega.
- Anda hanya dapat menggunakan jenis mesin A3 Mega di region dan zona tertentu.
- Anda tidak dapat menggunakan Persistent Disk regional pada VM yang menggunakan jenis mesin A3 Mega.
- Jenis mesin A3 Mega hanya tersedia di platform CPU Sapphire Rapids.
- Anda tidak dapat mengubah jenis mesin VM yang ada menjadi jenis mesin A3 Mega. Anda hanya dapat membuat VM A3-mega baru. Setelah membuat VM menggunakan jenis mesin A3 Mega, Anda tidak dapat mengubah jenis mesin.
- Jenis mesin A3 Mega tidak mendukung sole-tenancy.
- Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 Mega.
Jenis mesin A3 High
Jenis mesin | Jumlah GPU | Memori GPU* (GB HBM3) |
Jumlah vCPU† | Memori VM (GB) | SSD Lokal yang Terpasang (GiB) | Jumlah NIC fisik | Bandwidth jaringan maksimum (Gbps)‡ |
---|---|---|---|---|---|---|---|
a3-highgpu-1g |
1 | 80 | 26 | 234 | 750 | 1 | 25 |
a3-highgpu-2g |
2 | 160 | 52 | 468 | 1.500 | 1 | 50 |
a3-highgpu-4g |
4 | 320 | 104 | 936 | 3.000 | 1 | 100 |
a3-highgpu-8g |
8 | 640 | 208 | 1.872 | 6.000 | 5 | 1.000 |
*Memori GPU adalah memori pada perangkat GPU yang dapat digunakan untuk
penyimpanan data sementara. Memori ini terpisah dari memori VM dan dirancang khusus untuk menangani permintaan bandwidth yang lebih tinggi dari workload intensif grafis Anda.
†vCPU diimplementasikan sebagai hardware hyper-thread tunggal di salah satu
platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth
traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya.
Lihat Bandwidth jaringan.
Batasan A3 High
- Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A3 High.
- Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan berkelanjutan fleksibel untuk VM yang menggunakan jenis mesin A3 Tinggi.
- Anda hanya dapat menggunakan jenis mesin A3 High di region dan zona tertentu.
- Anda tidak dapat menggunakan Persistent Disk regional pada VM yang menggunakan jenis mesin A3 Tinggi.
- Jenis mesin A3 High hanya tersedia di platform CPU Sapphire Rapids.
- Anda tidak dapat mengubah jenis mesin VM yang ada menjadi jenis mesin A3 High. Anda hanya dapat membuat VM baru dengan ukuran A3 tinggi. Setelah membuat VM menggunakan jenis mesin A3 Tinggi, Anda tidak dapat mengubah jenis mesin.
- Jenis mesin A3 High tidak mendukung sole-tenancy.
- Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 High.
- Untuk jenis mesin
a3-highgpu-1g
,a3-highgpu-2g
, dana3-highgpu-4g
, batasan berikut berlaku:-
Untuk jenis mesin ini,
Anda harus membuat VM menggunakan Spot VM atau fitur
yang menggunakan
Dynamic Workload Scheduler (DWS), seperti
permintaan pengubahan ukuran di MIG. Untuk petunjuk mendetail tentang salah satu opsi ini, tinjau hal berikut:
- Untuk membuat Spot VM, tetapkan model penyediaan ke
SPOT
saat Anda Membuat VM yang dioptimalkan akselerator. - Untuk membuat permintaan pengubahan ukuran di MIG yang menggunakan DWS, lihat Membuat MIG dengan VM GPU.
- Untuk membuat Spot VM, tetapkan model penyediaan ke
- Anda tidak dapat menggunakan Hyperdisk Seimbang dengan jenis mesin ini.
- Anda tidak dapat membuat reservasi.
-
Untuk jenis mesin ini,
Anda harus membuat VM menggunakan Spot VM atau fitur
yang menggunakan
Dynamic Workload Scheduler (DWS), seperti
permintaan pengubahan ukuran di MIG. Untuk petunjuk mendetail tentang salah satu opsi ini, tinjau hal berikut:
Jenis mesin A3 Edge
Jenis mesin | Jumlah GPU | Memori GPU* (GB HBM3) |
Jumlah vCPU† | Memori VM (GB) | SSD Lokal yang Terpasang (GiB) | Jumlah NIC fisik | Bandwidth jaringan maksimum (Gbps)‡ |
---|---|---|---|---|---|---|---|
a3-edgegpu-8g |
8 | 640 | 208 | 1.872 | 6.000 | 5 |
|
*Memori GPU adalah memori pada perangkat GPU yang dapat digunakan untuk
penyimpanan data sementara. Memori ini terpisah dari memori VM dan dirancang khusus untuk menangani permintaan bandwidth yang lebih tinggi dari workload intensif grafis Anda.
†vCPU diimplementasikan sebagai hardware hyper-thread tunggal di salah satu
platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth
traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya.
Lihat Bandwidth jaringan.
Batasan A3 Edge
- Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A3 Edge.
- Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan berkelanjutan fleksibel untuk VM yang menggunakan jenis mesin A3 Edge.
- Anda hanya dapat menggunakan jenis mesin A3 Edge di region dan zona tertentu.
- Anda tidak dapat menggunakan Persistent Disk regional pada VM yang menggunakan jenis mesin A3 Edge.
- Jenis mesin A3 Edge hanya tersedia di platform CPU Sapphire Rapids.
- Anda tidak dapat mengubah jenis mesin VM yang ada menjadi jenis mesin A3 Edge. Anda hanya dapat membuat VM A3-edge baru. Setelah membuat VM menggunakan jenis mesin A3 Edge, Anda tidak dapat mengubah jenis mesin.
- Jenis mesin A3 Edge tidak mendukung sole-tenancy.
- Anda tidak dapat menjalankan sistem operasi Windows pada jenis mesin A3 Edge.
Jenis disk yang didukung untuk seri A3
A3 Ultra
VM A3 Ultra dapat menggunakan jenis block storage berikut:
- Hyperdisk Balanced (
hyperdisk-balanced
): ini adalah satu-satunya jenis disk yang didukung untuk disk boot - Hyperdisk Balanced High Availability (
hyperdisk-balanced-high-availability
) - Hyperdisk Extreme (
hyperdisk-extreme
) - SSD Lokal: yang otomatis ditambahkan ke VM yang dibuat menggunakan salah satu jenis mesin A3
Jumlah maksimum disk per VM* | |||||||
---|---|---|---|---|---|---|---|
Jenis mesin |
Semua disk† | Hyperdisk Balanced | Hyperdisk Balanced High Availability | Hyperdisk Throughput | Hyperdisk ML | Ekstrem Hyperdisk | Disk SSD Lokal yang terpasang |
a3-ultragpu-8g |
128 | 128 | 128 | T/A | T/A | 8 | 32 |
*Penggunaan Hyperdisk dikenai biaya secara terpisah dari
harga jenis mesin. Untuk mengetahui harga disk, lihat
Harga Hyperdisk.
†Batas ini berlaku untuk Hyperdisk, tetapi tidak mencakup disk SSD Lokal.
A3 Mega
VM Mega A3 dapat menggunakan jenis block storage berikut:
- Persistent Disk Seimbang (
pd-balanced
) - Persistent Disk SSD (performa) (
pd-ssd
) - Hyperdisk Balanced (
hyperdisk-balanced
) - Hyperdisk Balanced High Availability (
hyperdisk-balanced-high-availability
) - Hyperdisk ML (
hyperdisk-ml
) - Hyperdisk Extreme (
hyperdisk-extreme
) - Hyperdisk Throughput (
hyperdisk-throughput
) - SSD Lokal: yang otomatis ditambahkan ke VM yang dibuat menggunakan salah satu jenis mesin A3
Jumlah maksimum disk per VM* | |||||||
---|---|---|---|---|---|---|---|
Jenis mesin |
Semua disk† | Hyperdisk Balanced | Hyperdisk Balanced High Availability | Hyperdisk Throughput | Hyperdisk ML | Ekstrem Hyperdisk | Disk SSD Lokal yang terpasang |
a3-megagpu-8g |
128 | 32 | 32 | 64 | 64 | 8 | 16 |
*Penggunaan Hyperdisk dan Persistent Disk dikenai biaya secara terpisah dari
harga jenis mesin. Untuk mengetahui harga disk, lihat
Harga Persistent Disk dan Hyperdisk.
†Batas ini berlaku untuk Persistent Disk dan Hyperdisk, tetapi tidak mencakup disk SSD Lokal.
A3 Tinggi
VM A3 High dapat menggunakan jenis block storage berikut:
- Persistent Disk Seimbang (
pd-balanced
) - Persistent Disk SSD (performa) (
pd-ssd
) - Hyperdisk Balanced (
hyperdisk-balanced
): hanya didukung untuka3-highgpu-8g
- Hyperdisk Balanced High Availability (
hyperdisk-balanced-high-availability
) - Hyperdisk ML (
hyperdisk-ml
) - Hyperdisk Extreme (
hyperdisk-extreme
) - Hyperdisk Throughput (
hyperdisk-throughput
) - SSD Lokal: yang otomatis ditambahkan ke VM yang dibuat menggunakan salah satu jenis mesin A3
Jumlah maksimum disk per VM* | |||||||
---|---|---|---|---|---|---|---|
Jenis mesin |
Semua disk† | Hyperdisk Balanced | Hyperdisk Balanced High Availability | Hyperdisk Throughput | Hyperdisk ML | Ekstrem Hyperdisk | Disk SSD Lokal yang terpasang |
a3-highgpu-1g |
128 | T/A | 32 | 64 | 64 | T/A | 2 |
a3-highgpu-2g |
128 | T/A | 32 | 64 | 64 | T/A | 4 |
a3-highgpu-4g |
128 | T/A | 32 | 64 | 64 | 8 | 8 |
a3-highgpu-8g |
128 | 32 | 32 | 64 | 64 | 8 | 16 |
*Penggunaan Hyperdisk dan Persistent Disk dikenai biaya secara terpisah dari
harga jenis mesin. Untuk mengetahui harga disk, lihat
Harga Persistent Disk dan Hyperdisk.
†Batas ini berlaku untuk Persistent Disk dan Hyperdisk, tetapi tidak mencakup disk SSD Lokal.
A3 Edge
VM A3 Edge dapat menggunakan jenis block storage berikut:
- Persistent Disk Seimbang (
pd-balanced
) - Persistent Disk SSD (performa) (
pd-ssd
) - Hyperdisk Balanced (
hyperdisk-balanced
) - Hyperdisk Balanced High Availability (
hyperdisk-balanced-high-availability
) - Hyperdisk ML (
hyperdisk-ml
) - Hyperdisk Extreme (
hyperdisk-extreme
) - Hyperdisk Throughput (
hyperdisk-throughput
) - SSD Lokal: yang otomatis ditambahkan ke VM yang dibuat menggunakan salah satu jenis mesin A3
Jumlah maksimum disk per VM* | |||||||
---|---|---|---|---|---|---|---|
Jenis mesin | Semua disk† | Hyperdisk Balanced | Hyperdisk Balanced High Availability | Hyperdisk Throughput | Hyperdisk ML | Ekstrem Hyperdisk | SSD Lokal yang Terpasang |
a3-edgegpu-8g |
128 | 32 | 32 | 64 | 64 | 8 | 16 |
*Penggunaan Hyperdisk dan Persistent Disk dikenai biaya secara terpisah dari
harga jenis mesin. Untuk mengetahui harga disk, lihat
Harga Persistent Disk dan Hyperdisk.
†Batas ini berlaku untuk Persistent Disk dan Hyperdisk, tetapi tidak mencakup disk SSD Lokal.
Batasan disk dan kapasitas
Jika didukung oleh jenis mesin, Anda dapat menggunakan campuran volume Hyperdisk dan Persistent Disk di VM, tetapi batasan berikut berlaku:
- Jumlah gabungan volume Hyperdisk dan Persistent Disk tidak boleh melebihi 128 per VM.
Total kapasitas disk maksimum (dalam TiB) di semua jenis disk tidak boleh melebihi:
Untuk jenis mesin dengan kurang dari 32 vCPU:
- 257 TiB untuk semua Hyperdisk atau semua Persistent Disk
- 257 TiB untuk campuran Hyperdisk dan Persistent Disk
Untuk jenis mesin dengan 32 vCPU atau lebih:
- 512 TiB untuk semua Hyperdisk
- 512 TiB untuk campuran Hyperdisk dan Persistent Disk
- 257 TiB untuk semua Persistent Disk
Untuk mengetahui detail tentang batas kapasitas, lihat Batas ukuran dan pemasangan Hyperdisk dan Kapasitas maksimum Persistent Disk.
Seri mesin A2
Seri mesin A2 tersedia dalam jenis mesin A2 Standard dan A2 Ultra. Jenis mesin ini memiliki 12 hingga 96 vCPU, dan memori hingga 1.360 GB.
Instance VM yang dibuat menggunakan jenis mesin A2 menyediakan fitur berikut:
Akselerasi GPU: setiap instance A2 memiliki GPU NVIDIA A100. GPU ini tersedia dalam opsi A100 40GB dan A100 80GB.
Skala NVLink terdepan di industri yang menyediakan bandwidth NVLink GPU ke GPU puncak sebesar 600 GBps. Misalnya, sistem dengan 16 GPU memiliki bandwidth NVLink agregat hingga 9,6 TBps. Keseluruhan 16 GPU ini dapat digunakan sebagai satu akselerator berperforma tinggi dengan ruang memori terpadu untuk memberikan daya komputasi hingga 10 petaFLOPS dan daya komputasi inferensi hingga 20 petaFLOPS yang dapat digunakan untuk kecerdasan buatan, deep learning, dan workload machine learning.
Kecepatan komputasi yang ditingkatkan: GPU NVIDIA A100 yang terpasang menawarkan peningkatan kecepatan komputasi hingga 10x lipat jika dibandingkan dengan GPU NVIDIA V100 generasi sebelumnya.
Dengan seri mesin A2, Anda bisa mendapatkan bandwidth jaringan hingga 100 Gbps.
Dukungan SSD Lokal, Persistent Disk, dan Hyperdisk: untuk scratch disk yang cepat atau untuk memasukkan data ke GPU sekaligus mencegah bottleneck I/O, jenis mesin A2 mendukung SSD Lokal sebagai berikut:
- Untuk jenis mesin Standar A2, Anda dapat menambahkan hingga 3.000 GiB SSD Lokal saat membuat instance.
- Untuk jenis mesin Ultra A2, SSD Lokal otomatis terpasang saat Anda membuat instance.
Untuk aplikasi yang memerlukan performa penyimpanan yang lebih tinggi, Anda juga dapat memasang volume Persistent Disk hingga 257 TiB dan volume Hyperdisk hingga 512 TiB ke instance A2.
Dukungan kebijakan penempatan yang ringkas: memberi Anda kontrol lebih besar atas penempatan fisik instance dalam pusat data. Hal ini memungkinkan latensi yang lebih rendah dan bandwidth yang lebih tinggi untuk instance yang berada dalam satu zona ketersediaan. Untuk mengetahui informasi selengkapnya, lihat Mengurangi latensi dengan menggunakan kebijakan penempatan yang ringkas.
Jenis mesin berikut tersedia untuk seri mesin A2.
Jenis mesin A2 Ultra
Jenis mesin ini memiliki jumlah tetap GPU A100 80 GB. SSD lokal otomatis dipasang ke instance yang dibuat menggunakan jenis mesin Ultra A2.
Jenis mesin | Jumlah GPU | Memori GPU* (GB HBM3) |
Jumlah vCPU† | Memori VM (GB) | SSD Lokal yang Terpasang (GiB) | Bandwidth jaringan maksimum (Gbps)‡ |
---|---|---|---|---|---|---|
a2-ultragpu-1g |
1 | 80 | 12 | 170 | 375 | 24 |
a2-ultragpu-2g |
2 | 160 | 24 | 340 | 750 | 32 |
a2-ultragpu-4g |
4 | 320 | 48 | 680 | 1.500 | 50 |
a2-ultragpu-8g |
8 | 640 | 96 | 1.360 | 3.000 | 100 |
*Memori GPU adalah memori pada perangkat GPU yang dapat digunakan untuk
penyimpanan data sementara. Memori ini terpisah dari memori instance dan
dirancang khusus untuk menangani permintaan bandwidth yang lebih tinggi dari
workload yang intensif secara grafis.
†vCPU diimplementasikan sebagai hardware hyper-thread tunggal di salah satu
platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth
traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya.
Lihat Bandwidth jaringan.
Batasan A2 Ultra
- Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin A2 Ultra.
- Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan berkelanjutan fleksibel untuk VM yang menggunakan jenis mesin Ultra A2.
- Anda hanya dapat menggunakan jenis mesin A2 Ultra di region dan zona tertentu.
- Jenis mesin A2 Ultra hanya tersedia di platform Cascade Lake.
- Jika VM Anda menggunakan jenis mesin A2 Ultra, Anda tidak dapat mengubah jenis mesin. Jika perlu menggunakan jenis mesin Ultra A2 yang berbeda, atau jenis mesin lainnya, Anda harus membuat VM baru.
- Anda tidak dapat mengubah jenis mesin lainnya menjadi jenis mesin A2 Ultra. Jika Anda memerlukan VM yang menggunakan jenis mesin Ultra A2, Anda harus membuat VM baru.
- Anda tidak dapat melakukan format cepat SSD Lokal yang terpasang di VM Windows yang menggunakan jenis mesin
Ultra A2. Untuk memformat SSD Lokal ini, Anda harus membuat format penuh dengan menggunakan utilitas diskpart dan menentukan
format fs=ntfs label=tmpfs
.
Jenis mesin standar A2
Jenis mesin ini memiliki jumlah tetap GPU A100 40 GB.
Jenis mesin | Jumlah GPU | Memori GPU* (GB HBM3) |
Jumlah vCPU† | Memori VM (GB) | SSD Lokal yang Terpasang (GiB) | Bandwidth jaringan maksimum (Gbps)‡ |
---|---|---|---|---|---|---|
a2-highgpu-1g |
1 | 40 | 12 | 85 | Ya | 24 |
a2-highgpu-2g |
2 | 80 | 24 | 170 | Ya | 32 |
a2-highgpu-4g |
4 | 160 | 48 | 340 | Ya | 50 |
a2-highgpu-8g |
8 | 320 | 96 | 680 | Ya | 100 |
a2-megagpu-16g |
16 | 640 | 96 | 1.360 | Ya | 100 |
*Memori GPU adalah memori pada perangkat GPU yang dapat digunakan untuk
penyimpanan data sementara. Memori ini terpisah dari memori instance dan
dirancang khusus untuk menangani permintaan bandwidth yang lebih tinggi dari
workload yang intensif secara grafis.
†vCPU diimplementasikan sebagai hardware hyper-thread tunggal di salah satu
platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth
traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya.
Lihat Bandwidth jaringan.
Batasan Standar A2
- Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin Standar A2.
- Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan berkelanjutan fleksibel untuk VM yang menggunakan jenis mesin Standar A2.
- Anda hanya dapat menggunakan jenis mesin Standar A2 di region dan zona tertentu.
- Jenis mesin Standar A2 hanya tersedia di platform Cascade Lake.
- Jika VM Anda menggunakan jenis mesin Standar A2, Anda hanya dapat beralih dari satu jenis mesin Standar A2 ke jenis mesin Standar A2 lainnya. Anda tidak dapat mengubah ke jenis mesin lainnya. Untuk mengetahui informasi selengkapnya, lihat Mengubah VM yang dioptimalkan untuk akselerator.
- Anda tidak dapat menggunakan sistem operasi Windows dengan jenis mesin Standar A2 <codea2-megagpu-16g< code="" dir="ltr" translate="no">. Saat menggunakan sistem operasi Windows, pilih jenis mesin Standar A2 yang berbeda.</codea2-megagpu-16g<>
- Anda tidak dapat melakukan format cepat SSD Lokal yang terpasang di VM Windows yang menggunakan jenis mesin
Standar A2. Untuk memformat SSD Lokal ini, Anda harus membuat format penuh dengan menggunakan utilitas diskpart dan menentukan
format fs=ntfs label=tmpfs
. - Jenis mesin Standar A2 tidak mendukung tenancy tunggal.
Jenis disk yang didukung untuk seri A2
Instance A2 dapat menggunakan jenis block storage berikut:
- Hyperdisk ML (
hyperdisk-ml
) - Persistent Disk Seimbang (
pd-balanced
) - Persistent Disk SSD (performa) (
pd-ssd
) - Persistent Disk Standar (
pd-standard
) - SSD Lokal: yang otomatis dipasang ke instance yang dibuat menggunakan jenis mesin Ultra A2.
Jika didukung oleh jenis mesin, Anda dapat menggunakan campuran volume Hyperdisk dan Persistent Disk di VM, tetapi batasan berikut berlaku:
- Jumlah gabungan volume Hyperdisk dan Persistent Disk tidak boleh melebihi 128 per VM.
Total kapasitas disk maksimum (dalam TiB) di semua jenis disk tidak boleh melebihi:
Untuk jenis mesin dengan kurang dari 32 vCPU:
- 257 TiB untuk semua Hyperdisk atau semua Persistent Disk
- 257 TiB untuk campuran Hyperdisk dan Persistent Disk
Untuk jenis mesin dengan 32 vCPU atau lebih:
- 512 TiB untuk semua Hyperdisk
- 512 TiB untuk campuran Hyperdisk dan Persistent Disk
- 257 TiB untuk semua Persistent Disk
Untuk mengetahui detail tentang batas kapasitas, lihat Batas ukuran dan pemasangan Hyperdisk dan Kapasitas maksimum Persistent Disk.
Seri mesin G2
Seri mesin G2 tersedia dalam jenis mesin standar yang memiliki 4 hingga 96 vCPU, dan memori hingga 432 GB. Seri mesin ini dioptimalkan untuk workload inferensi dan grafis. Seri mesin G2 tersedia dalam satu jenis mesin standar dengan beberapa konfigurasi.
Instance VM yang dibuat menggunakan jenis mesin G2 menyediakan fitur berikut:
Akselerasi GPU: setiap jenis mesin G2 memiliki GPU NVIDIA L4.
Rasio inferensi yang lebih baik: jenis mesin G2 menyediakan dukungan untuk FP8 (floating point 8 bit) yang mempercepat kecepatan inferensi ML dan mengurangi persyaratan memori.
Performa grafis generasi berikutnya: GPU NVIDIA L4 memberikan peningkatan performa grafis hingga 3X lipat menggunakan core RT generasi ketiga dan teknologi NVIDIA DLSS 3 (Deep Learning Super Sampling).
Bandwidth jaringan berperforma tinggi: dengan jenis mesin G2, Anda bisa mendapatkan bandwidth jaringan hingga 100 Gbps.
Dukungan SSD Lokal, Persistent Disk, dan Hyperdisk: Anda dapat menambahkan hingga 3.000 GiB SSD Lokal ke instance G2. Ini dapat digunakan untuk scratch disk cepat atau untuk memasukkan data ke GPU sekaligus mencegah bottleneck I/O.
Anda juga dapat memasang volume Hyperdisk dan Persistent Disk ke instance G2 untuk aplikasi yang memerlukan penyimpanan persisten yang lebih besar. Kapasitas penyimpanan maksimum bergantung pada jumlah vCPU yang dimiliki VM. Untuk mengetahui detailnya, lihat Jenis disk yang didukung.
Dukungan kebijakan penempatan yang ringkas: memberi Anda kontrol lebih besar atas penempatan fisik instance dalam pusat data. Hal ini memungkinkan latensi yang lebih rendah dan bandwidth yang lebih tinggi untuk instance yang berada dalam satu zona ketersediaan. Untuk mengetahui informasi selengkapnya, lihat Mengurangi latensi dengan menggunakan kebijakan penempatan yang ringkas.
Jenis mesin G2
Setiap jenis mesin G2 memiliki GPU NVIDIA L4 dan vCPU dalam jumlah tetap yang terpasang. Setiap jenis mesin G2 juga memiliki memori default dan rentang memori kustom. Rentang memori kustom menentukan jumlah memori yang dapat Anda alokasikan ke VM untuk setiap jenis mesin. Anda dapat menentukan memori kustom selama pembuatan VM.
Jenis mesin | Jumlah GPU | Memori GPU* (GB GDDR6) | Jumlah vCPU† | Memori VM default (GB) | Rentang memori VM kustom (GB) | SSD Lokal maksimum yang didukung (GiB) | Bandwidth jaringan maksimum (Gbps)‡ |
---|---|---|---|---|---|---|---|
g2-standard-4 |
1 | 24 | 4 | 16 | 16 hingga 32 | 375 | 10 |
g2-standard-8 |
1 | 24 | 8 | 32 | 32 hingga 54 | 375 | 16 |
g2-standard-12 |
1 | 24 | 12 | 48 | 48 hingga 54 | 375 | 16 |
g2-standard-16 |
1 | 24 | 16 | 64 | 54 hingga 64 | 375 | 32 |
g2-standard-24 |
2 | 48 | 24 | 96 | 96 hingga 108 | 750 | 32 |
g2-standard-32 |
1 | 24 | 32 | 128 | 96 hingga 128 | 375 | 32 |
g2-standard-48 |
4 | 96 | 48 | 192 | 192 hingga 216 | 1.500 | 50 |
g2-standard-96 |
8 | 192 | 96 | 384 | 384 hingga 432 | 3.000 | 100 |
*Memori GPU adalah memori pada perangkat GPU yang dapat digunakan untuk
penyimpanan data sementara. Memori ini terpisah dari memori VM dan dirancang khusus untuk menangani permintaan bandwidth yang lebih tinggi dari workload intensif grafis Anda.
†vCPU diimplementasikan sebagai hardware hyper-thread tunggal di salah satu
platform CPU yang tersedia.
‡Bandwidth traffic keluar maksimum tidak boleh melebihi jumlah yang diberikan. Bandwidth
traffic keluar yang sebenarnya bergantung pada alamat IP tujuan dan faktor lainnya.
Lihat Bandwidth jaringan.
Batasan G2
- Anda hanya dapat meminta kapasitas menggunakan opsi penyediaan yang didukung untuk jenis mesin G2.
- Anda tidak menerima diskon untuk penggunaan berkelanjutan dan diskon penggunaan berkelanjutan fleksibel untuk VM yang menggunakan jenis mesin G2.
- Anda hanya dapat menggunakan jenis mesin G2 di region dan zona tertentu.
- Jenis mesin G2 hanya tersedia di platform Cascade Lake.
- Persistent Disk Standar (
pd-standard
) tidak didukung di VM yang menggunakan jenis mesin standar G2. Untuk mengetahui jenis disk yang didukung, lihat Jenis disk yang didukung untuk G2. - Anda tidak dapat membuat GPU Multi-Instance pada jenis mesin G2.
- Jika Anda perlu mengubah jenis mesin VM G2, tinjau Mengubah VM yang dioptimalkan untuk akselerator.
- Anda tidak dapat menggunakan Deep Learning VM Image sebagai boot disk untuk VM yang menggunakan jenis mesin G2.
- Driver default saat ini untuk Container-Optimized OS tidak mendukung GPU L4 yang berjalan pada jenis mesin G2. Container-Optimized OS juga hanya mendukung serangkaian driver tertentu.
Jika Anda ingin menggunakan Container-Optimized OS pada jenis mesin G2, tinjau catatan berikut:
- Gunakan versi Container-Optimized OS yang mendukung versi driver NVIDIA minimum yang direkomendasikan
525.60.13
atau yang lebih baru. Untuk informasi selengkapnya, tinjau catatan rilis Container-Optimized OS. - Saat Anda menginstal driver,
tentukan versi terbaru yang tersedia yang berfungsi untuk GPU L4.
Contoh,
sudo cos-extensions install gpu -- -version=525.60.13
.
- Gunakan versi Container-Optimized OS yang mendukung versi driver NVIDIA minimum yang direkomendasikan
- Anda harus menggunakan Google Cloud CLI atau REST untuk membuat VM G2 untuk skenario berikut:
- Anda ingin menetapkan nilai memori kustom.
- Anda ingin menyesuaikan jumlah inti CPU yang terlihat.
Jenis disk yang didukung untuk seri G2
Instance G2 dapat menggunakan jenis block storage berikut:
- Persistent Disk Seimbang (
pd-balanced
) - Persistent Disk SSD (performa) (
pd-ssd
) - Hyperdisk ML (
hyperdisk-ml
) - Hyperdisk Throughput (
hyperdisk-throughput
) - SSD Lokal
Jika didukung oleh jenis mesin, Anda dapat menggunakan campuran volume Hyperdisk dan Persistent Disk di VM, tetapi batasan berikut berlaku:
- Jumlah gabungan volume Hyperdisk dan Persistent Disk tidak boleh melebihi 128 per VM.
Total kapasitas disk maksimum (dalam TiB) di semua jenis disk tidak boleh melebihi:
Untuk jenis mesin dengan kurang dari 32 vCPU:
- 257 TiB untuk semua Hyperdisk atau semua Persistent Disk
- 257 TiB untuk campuran Hyperdisk dan Persistent Disk
Untuk jenis mesin dengan 32 vCPU atau lebih:
- 512 TiB untuk semua Hyperdisk
- 512 TiB untuk campuran Hyperdisk dan Persistent Disk
- 257 TiB untuk semua Persistent Disk
Untuk mengetahui detail tentang batas kapasitas, lihat Batas ukuran dan pemasangan Hyperdisk dan Kapasitas maksimum Persistent Disk.