アクセラレータ最適化マシン ファミリーは、 Google Cloud が設計し、人工知能(AI)、機械学習(ML)、ハイ パフォーマンス コンピューティング(HPC)などの GPU 高速化ワークロードに必要なパフォーマンスと効率性を実現しています。
アクセラレータ最適化マシン ファミリーは、A3、A2、G2 のマシンシリーズで使用できます。シリーズ内の各マシンタイプには、特定のモデルと数の NVIDIA GPU がアタッチされています。N1 汎用マシンタイプに一部の GPU モデルをアタッチすることもできます。
ワークロード タイプ別のマシンシリーズの推奨事項
次のセクションでは、GPU ワークロードに基づいて推奨されるマシンシリーズについて説明します。
ワークロード タイプ | 推奨されるマシンタイプまたはシリーズ |
---|---|
事前トレーニング モデル | A3 Ultra、A3 Mega、A3 High、A2 最適なものを特定するには、AI Hypercomputer のドキュメントのモデルの事前トレーニングに関する推奨事項をご覧ください。 |
モデルのファインチューニング | A3 Mega、A3 High、A2 最適なものを特定するには、AI Hypercomputer のドキュメントのモデルのファインチューニングに関する推奨事項をご覧ください。 |
推論のサービング | A3 Ultra、A3 Mega、A3 High、A2 最適なものを特定するには、AI Hypercomputer のドキュメントで推論のサービングに関する推奨事項をご覧ください。 |
グラフィックを多用するワークロード | G2、N1+T4 |
ハイ パフォーマンス コンピューティング | ハイ パフォーマンス コンピューティングのワークロードでは、アクセラレータ最適化マシンシリーズが適しています。最適なものは、GPU にオフロードする必要がある計算量によって異なります。 詳細については、AI Hypercomputer のドキュメントで HPC の推奨事項をご覧ください。 |
料金と割引
アクセラレータ最適化マシンタイプはすべて、次の割引と使用量のオプションをサポートしています。
- リソースベースの確約利用割引(CUD)
- Spot VM
- 予約: 予約は次のいずれかの方法で取得できます。
- Reservation API から直接
- Hypercompute Cluster を使用して容量をリクエスト。Hypercompute Cluster はプレビュー版で提供されており、A3 Ultra マシンタイプのみをサポートしています。この方法では、大規模なワークロードの実行に最適な、高密度で割り振られた容量のブロックをプロビジョニングします。
アクセラレータ最適化マシンタイプは、アタッチされている GPU、事前定義された vCPU、メモリ、バンドルされたローカル SSD(該当する場合)に対して課金されます。アクセラレータ最適化 VM の料金の詳細については、VM インスタンスの料金ページのアクセラレータ最適化マシンタイプ ファミリーのセクションをご覧ください。
A3 マシンシリーズ
A3 マシンシリーズは、最大 224 個の vCPU と 2,944 GB のメモリを備えています。このマシンシリーズは、コンピューティングとメモリを大量に消費する、ネットワークにバインドされた ML トレーニング、HPC ワークロード用に最適化されています。
A3 マシンシリーズには、次の機能もあります。
機能 | A3 Ultra | A3 Mega、High、Edge |
---|---|---|
割り当てられる GPU | NVIDIA H200 SXM GPU が割り当てられています。この GPU は GPU あたり 141 GB の GPU メモリを備えており、大規模な言語モデルと HPC ワークロードをサポートするために、より大きく高速なメモリを提供します。 |
NVIDIA H100 SXM GPU が割り当てられています。この GPU は 80 GB の GPU メモリを備えており、大規模な Transformer ベースの言語モデル、データベース、HPC に最適です。 |
CPU プラットフォーム | 第 5 世代 Intel Xeon スケーラブル プロセッサ(Emerald Rapids)を搭載し、シングルコア ターボ時に最大 4.0 GHz の周波数を維持します。このプロセッサの詳細については、CPU プラットフォームをご覧ください。 |
第 4 世代 Intel Xeon スケーラブル プロセッサ(Sapphire Rapids)を搭載し、シングルコア ターボ時に最大 3.3 GHz の周波数を維持します。このプロセッサの詳細については、CPU プラットフォームをご覧ください。 |
業界トップクラスの NVLink スケーリング | NVIDIA H200 GPU は、一方向でピーク時に 900 GB/秒の GPU NVLink 帯域幅を提供します。 システム内の 8 個の GPU 間のオールツーオール NVLink トポロジでは、NVLink 帯域幅の合計は最大 7.2 TB/秒です。 |
NVIDIA H100 GPU は、一方向でピーク時に 450 GB/秒の GPU NVLink 帯域幅を提供します。 システム内の 8 個の GPU 間のオールツーオール NVLink トポロジでは、NVLink 帯域幅の合計は最大 7.2 TB/秒です。 |
ネットワーク プロトコル | このマシンタイプでは、RDMA over Converged Ethernet(RoCE)により、NVIDIA ConnectX-7 ネットワーク インターフェース カード(NIC)と Google のデータセンター全体を網羅する 4 方向のレールに沿ったネットワークを組み合わせ、ネットワーク パフォーマンスを向上させています。a3-ultragpu-8g マシンタイプは、RDMA over Converged Ethernet(RoCE)により、他の A3 アクセラレータ最適化マシンタイプよりもクラスタ内の VM 間のスループットを大幅に向上させています。
|
|
コンピューティング速度とネットワーキングの向上 | 前世代の A2 マシンシリーズと比較して、ネットワーキング速度が最大 4 倍になります。 ネットワーキングの詳細については、ネットワーク帯域幅と GPU をご覧ください。 |
前世代の A2 マシンシリーズと比較して、ネットワーキング速度が最大 2.5 倍向上しています。 ネットワーキングの詳細については、ネットワーク帯域幅と GPU をご覧ください。 |
仮想化の最適化 | A3 VM の Peripheral Component Interconnect Express(PCIe)トポロジは、ワークロードがデータ転送の最適化に使用できる、より正確な局所情報を提供します。 GPU は、障害からの正常な復旧のための関数レベルリセット(FLR)と、特定のシナリオにおける同時実行の改善のためのアトミック オペレーションのサポートも公開しています。 |
|
ストレージ |
ローカル SSD は、高速のスクラッチ ディスクとして、または I/O ボトルネックを防止しながらデータを GPU にフィードする場合に使用できます。ローカル SSD は次のようにアタッチされます。
より高いストレージ パフォーマンスを必要とするアプリケーションの場合は、これらのシリーズのマシンタイプに最大 512 TiB の Persistent Disk と Hyperdisk をアタッチできます。 |
|
コンパクト プレースメント ポリシーのサポート | データセンター内の VM の物理的な配置をより細かく制御できます。 これにより、単一のアベイラビリティ ゾーン内で VM を配置する際、より低いレイテンシと広帯域幅を実現できます。 詳細については、コンパクト プレースメント ポリシーについてをご覧ください。 |
A3 マシンシリーズでは、次のマシンタイプを使用できます。
A3 Ultra マシンタイプ
マシンタイプ | GPU 数 | GPU メモリ* (GB HBM3e) |
vCPU 数† | VM メモリ(GB) | アタッチされたローカル SSD(GiB) | 物理 NIC の数 | 最大ネットワーク帯域幅(Gbps)‡ |
---|---|---|---|---|---|---|---|
a3-ultragpu-8g |
8 | 1128 | 224 | 2,952 | 12,000 | 10 | 3,600 |
*GPU メモリは GPU デバイスのメモリで、データの一時的な保存に使用できます。これは VM のメモリとは別に存在し、グラフィックを多用するワークロードでの帯域幅の高い需要に対応するように設計されています。
†vCPU は、利用可能な CPU プラットフォームのいずれかで単一のハードウェア ハイパースレッドとして実装されます。
‡ 最大下り(外向き)帯域幅は許容数を超えることはできません。実際の下り(外向き)帯域幅は、宛先 IP アドレスやその他の要因によって異なります。ネットワーク帯域幅をご覧ください。
A3 Ultra の制限事項
- A3 Ultra マシンタイプを使用する VM は、継続利用割引とフレキシブル確約利用割引の対象外となります。
- A3 Ultra マシンタイプは、特定のリージョンとゾーンでのみ使用できます。
- A3 Ultra マシンタイプを使用する VM では、Persistent Disk(リージョンまたはゾーン)を使用できません。
- A3 Ultra マシンタイプは、Emerald Rapids CPU プラットフォームでのみ使用できます。
- VM が A3 Ultra マシンタイプを使用している場合、マシンタイプを変更することはできません。マシンタイプを変更するには、新しい VM を作成する必要があります。
- VM のマシンタイプを A3 Ultra マシンタイプに変更することはできません。A3 Ultra マシンタイプを使用する VM が必要な場合は、新しい VM を作成する必要があります。
- A3 Ultra マシンタイプは、単一テナンシーをサポートしません。
- A3 Ultra マシンタイプでは Windows オペレーティング システムを実行できません。
- 容量を予約できるのは、Hypercompute Cluster を使用する場合のみです。
A3 Mega マシンタイプ
マシンタイプ | GPU 数 | GPU メモリ* (GB HBM3) |
vCPU 数† | VM メモリ(GB) | アタッチされたローカル SSD(GiB) | 物理 NIC の数 | 最大ネットワーク帯域幅(Gbps)‡ |
---|---|---|---|---|---|---|---|
a3-megagpu-8g |
8 | 640 | 208 | 1,872 | 6,000 | 9 | 1,800 |
*GPU メモリは GPU デバイスのメモリで、データの一時的な保存に使用できます。これは VM のメモリとは別に存在し、グラフィックを多用するワークロードでの帯域幅の高い需要に対応するように設計されています。
†vCPU は、利用可能な CPU プラットフォームのいずれかで単一のハードウェア ハイパースレッドとして実装されます。
‡ 最大下り(外向き)帯域幅は許容数を超えることはできません。実際の下り(外向き)帯域幅は、宛先 IP アドレスやその他の要因によって異なります。ネットワーク帯域幅をご覧ください。
A3 Mega の制限事項
- A3 Mega マシンタイプを使用する VM は、継続利用割引とフレキシブル確約利用割引の対象外となります。
- A3 Mega マシンタイプは、特定のリージョンとゾーンでのみ使用できます。
- A3 Mega マシンタイプを使用する VM では、リージョン Persistent Disk を使用できません。
- A3 Mega マシンタイプは、Sapphire Rapids CPU プラットフォームでのみ使用できます。
- VM が A3 Mega マシンタイプを使用している場合、そのマシンタイプを変更することはできません。マシンタイプを変更するには、新しい VM を作成する必要があります。
- VM のマシンタイプを A3 Mega マシンタイプに変更することはできません。A3 Mega マシンタイプを使用する VM が必要な場合は、新しい VM を作成する必要があります。
- A3 Mega マシンタイプは、単一テナンシーをサポートしません。
- A3 Mega マシンタイプでは Windows オペレーティング システムを実行できません。
A3 High マシンタイプ
マシンタイプ | GPU 数 | GPU メモリ* (GB HBM3) |
vCPU 数† | VM メモリ(GB) | アタッチされたローカル SSD(GiB) | 物理 NIC の数 | 最大ネットワーク帯域幅(Gbps)‡ |
---|---|---|---|---|---|---|---|
a3-highgpu-1g |
1 | 80 | 26 | 234 | 750 | 1 | 25 |
a3-highgpu-2g |
2 | 160 | 52 | 468 | 1,500 | 1 | 50 |
a3-highgpu-4g |
4 | 320 | 104 | 936 | 3,000 | 1 | 100 |
a3-highgpu-8g |
8 | 640 | 208 | 1,872 | 6,000 | 5 | 1,000 |
*GPU メモリは GPU デバイスのメモリで、データの一時的な保存に使用できます。これは VM のメモリとは別に存在し、グラフィックを多用するワークロードでの帯域幅の高い需要に対応するように設計されています。
†vCPU は、利用可能な CPU プラットフォームのいずれかで単一のハードウェア ハイパースレッドとして実装されます。
‡ 最大下り(外向き)帯域幅は許容数を超えることはできません。実際の下り(外向き)帯域幅は、宛先 IP アドレスやその他の要因によって異なります。ネットワーク帯域幅をご覧ください。
A3 High の制限事項
- A3 High マシンタイプを使用する VM は、継続利用割引とフレキシブル確約利用割引の対象外となります。
- A3 High マシンタイプは、特定のリージョンとゾーンでのみ使用できます。
- A3 High マシンタイプを使用する VM では、リージョン Persistent Disk を使用できません。
- A3 High マシンタイプは、Sapphire Rapids CPU プラットフォームでのみ使用できます。
- VM が A3 High マシンタイプを使用している場合、そのマシンタイプを変更することはできません。マシンタイプを変更するには、新しい VM を作成する必要があります。
- VM のマシンタイプを A3 High マシンタイプに変更することはできません。A3 High マシンタイプを使用する VM が必要な場合は、新しい VM を作成する必要があります。
- A3 High マシンタイプは、単一テナンシーをサポートしません。
- A3 High マシンタイプでは Windows オペレーティング システムを実行できません。
a3-highgpu-1g
、a3-highgpu-2g
、a3-highgpu-4g
マシンタイプには、次の制限が適用されます。-
これらのマシンタイプでは、Spot VM を使用するか、Dynamic Workload Scheduler(DWS)を利用する機能(MIG でのサイズ変更リクエストなど)を使用する必要があります。これらのオプションの詳しい使用方法については以下をご覧ください。
- Spot VM を作成するには、アクセラレータ最適化 VM を作成するをご覧ください。また、プロビジョニング モデルを
SPOT
に設定してください。 - Dynamic Workload Scheduler を使用するように MIG でサイズ変更リクエストを作成するには、GPU VM を使用する MIG を作成するをご覧ください。
- Spot VM を作成するには、アクセラレータ最適化 VM を作成するをご覧ください。また、プロビジョニング モデルを
- これらのマシンタイプでは Hyperdisk Balanced を使用できません。
- 予約を作成できません。
-
これらのマシンタイプでは、Spot VM を使用するか、Dynamic Workload Scheduler(DWS)を利用する機能(MIG でのサイズ変更リクエストなど)を使用する必要があります。これらのオプションの詳しい使用方法については以下をご覧ください。
A3 Edge マシンタイプ
マシンタイプ | GPU 数 | GPU メモリ* (GB HBM3) |
vCPU 数† | VM メモリ(GB) | アタッチされたローカル SSD(GiB) | 物理 NIC の数 | 最大ネットワーク帯域幅(Gbps)‡ |
---|---|---|---|---|---|---|---|
a3-edgegpu-8g |
8 | 640 | 208 | 1,872 | 6,000 | 5 |
|
*GPU メモリは GPU デバイスのメモリで、データの一時的な保存に使用できます。これは VM のメモリとは別に存在し、グラフィックを多用するワークロードでの帯域幅の高い需要に対応するように設計されています。
†vCPU は、利用可能な CPU プラットフォームのいずれかで単一のハードウェア ハイパースレッドとして実装されます。
‡ 最大下り(外向き)帯域幅は許容数を超えることはできません。実際の下り(外向き)帯域幅は、宛先 IP アドレスやその他の要因によって異なります。ネットワーク帯域幅をご覧ください。
A3 Edge の制限事項
- A3 Edge マシンタイプを使用する VM は、継続利用割引とフレキシブル確約利用割引の対象外となります。
- A3 Edge マシンタイプは、特定のリージョンとゾーンでのみ使用できます。
- A3 Edge マシンタイプを使用する VM では、リージョン Persistent Disk を使用できません。
- A3 Edge マシンタイプは、Sapphire Rapids CPU プラットフォームでのみ使用できます。
- VM が A3 Edge マシンタイプを使用している場合、そのマシンタイプを変更することはできません。マシンタイプを変更するには、新しい VM を作成する必要があります。
- VM のマシンタイプを A3 Edge マシンタイプに変更することはできません。A3 Edge マシンタイプを使用する VM が必要な場合は、新しい VM を作成する必要があります。
- A3 Edge マシンタイプは、単一テナンシーをサポートしません。
- A3 Edge マシンタイプでは Windows オペレーティング システムを実行できません。
A3 シリーズでサポートされているディスクタイプ
A3 Ultra
A3 Ultra VM は、次のブロック ストレージ タイプを使用できます。
- Hyperdisk Balanced(
hyperdisk-balanced
): ブートディスクでサポートされている唯一のディスクタイプです。 - Hyperdisk Extreme(
hyperdisk-extreme
) - ローカル SSD: A3 マシンタイプを使用して作成された VM に自動的に追加されます。
VM あたりの最大ディスク数* | ||||||
---|---|---|---|---|---|---|
マシン タイプ |
すべてのディスク† | Hyperdisk Balanced | Hyperdisk Throughput | Hyperdisk ML | Hyperdisk Extreme | アタッチされた ローカル SSD ディスク |
a3-ultragpu-8g |
128 | 128 | なし | なし | 8 | 32 |
*Hyperdisk の使用量は、マシンタイプの料金体系とは別に課金されます。ディスクの料金については、Hyperdisk の料金をご覧ください。
†この上限は Hyperdisk に適用されますが、ローカル SSD ディスクは含まれません。
A3 Mega
A3 Mega VM は、次のブロック ストレージ タイプを使用できます。
- バランス永続ディスク(
pd-balanced
) - SSD(パフォーマンス)Persistent Disk(
pd-ssd
) - Hyperdisk Balanced(
hyperdisk-balanced
) - Hyperdisk ML(
hyperdisk-ml
) - Hyperdisk Extreme(
hyperdisk-extreme
) - Hyperdisk Throughput(
hyperdisk-throughput
) - ローカル SSD: A3 マシンタイプを使用して作成された VM に自動的に追加されます。
VM あたりの最大ディスク数* | ||||||
---|---|---|---|---|---|---|
マシン タイプ |
すべてのディスク† | Hyperdisk Balanced | Hyperdisk Throughput | Hyperdisk ML | Hyperdisk Extreme | アタッチされた ローカル SSD ディスク |
a3-megagpu-8g |
128 | 32 | 64 | 64 | 8 | 16 |
*Hyperdisk と Persistent Disk の使用量は、マシンタイプの料金体系とは別に課金されます。ディスクの料金については、Persistent Disk と Hyperdisk の料金をご覧ください。
†この上限は Persistent Disk と Hyperdisk に適用されますが、ローカル SSD ディスクは含まれません。
A3 High
A3 High VM は、次のブロック ストレージ タイプを使用できます。
- バランス永続ディスク(
pd-balanced
) - SSD(パフォーマンス)Persistent Disk(
pd-ssd
) - Hyperdisk Balanced(
hyperdisk-balanced
):a3-highgpu-8g
でのみサポート - Hyperdisk ML(
hyperdisk-ml
) - Hyperdisk Extreme(
hyperdisk-extreme
) - Hyperdisk Throughput(
hyperdisk-throughput
) - ローカル SSD: A3 マシンタイプを使用して作成された VM に自動的に追加されます。
VM あたりの最大ディスク数* | ||||||
---|---|---|---|---|---|---|
マシン タイプ |
すべてのディスク† | Hyperdisk Balanced | Hyperdisk Throughput | Hyperdisk ML | Hyperdisk Extreme | アタッチされた ローカル SSD ディスク |
a3-highgpu-1g |
128 | なし | 64 | 64 | なし | 2 |
a3-highgpu-2g |
128 | なし | 64 | 64 | なし | 4 |
a3-highgpu-4g |
128 | なし | 64 | 64 | 8 | 8 |
a3-highgpu-8g |
128 | 32 | 64 | 64 | 8 | 16 |
*Hyperdisk と Persistent Disk の使用量は、マシンタイプの料金体系とは別に課金されます。ディスクの料金については、Persistent Disk と Hyperdisk の料金をご覧ください。
†この上限は Persistent Disk と Hyperdisk に適用されますが、ローカル SSD ディスクは含まれません。
A3 Edge
A3 Edge VM は、次のブロック ストレージ タイプを使用できます。
- バランス永続ディスク(
pd-balanced
) - SSD(パフォーマンス)Persistent Disk(
pd-ssd
) - Hyperdisk Balanced(
hyperdisk-balanced
) - Hyperdisk ML(
hyperdisk-ml
) - Hyperdisk Extreme(
hyperdisk-extreme
) - Hyperdisk Throughput(
hyperdisk-throughput
) - ローカル SSD: A3 マシンタイプを使用して作成された VM に自動的に追加されます。
VM あたりの最大ディスク数* | ||||||
---|---|---|---|---|---|---|
マシンタイプ | すべてのディスク† | Hyperdisk Balanced | Hyperdisk Throughput | Hyperdisk ML | Hyperdisk Extreme | アタッチされたローカル SSD |
a3-edgegpu-8g |
128 | 32 | 64 | 64 | 8 | 16 |
*Hyperdisk と Persistent Disk の使用量は、マシンタイプの料金体系とは別に課金されます。ディスクの料金については、Persistent Disk と Hyperdisk の料金をご覧ください。
†この上限は Persistent Disk と Hyperdisk に適用されますが、ローカル SSD ディスクは含まれません。
ディスクと容量の上限
マシンタイプでサポートされている場合、VM で Hyperdisk ボリュームと Persistent Disk ボリュームを組み合わせて使用できますが、次の制限が適用されます。
- Hyperdisk ボリュームと Persistent Disk ボリュームの合計数は、VM あたり 128 以下でなければなりません。
すべてのディスクタイプの最大合計ディスク容量(TiB)は、次の値を超えることができません。
vCPU が 32 個未満のマシンタイプの場合:
- すべての Hyperdisk またはすべての Persistent Disk は 257 TiB
- Hyperdisk と Persistent Disk の組み合わせは 257 TiB
vCPU が 32 個以上のマシンタイプの場合:
- すべての Hyperdisk は 512 TiB
- Hyperdisk と Persistent Disk の組み合わせは 512 TiB
- すべての Persistent Disk は 257 TiB
容量の上限の詳細については、VM あたりの Hyperdisk 容量の上限と Persistent Disk の最大容量をご覧ください。
A2 マシンシリーズ
A2 マシンシリーズは、A2 標準マシンタイプと A2 Ultra マシンタイプで用意されています。これらのマシンタイプは、12~96 個の vCPU と最大 1,360 GB のメモリを備えています。
A2 マシンシリーズには、次の機能もあります。
NVIDIA GPU アタッチ: 各 A2 マシンタイプには NVIDIA A100 GPU があります。これらは、A100 40 GB と A100 80 GB の両方のオプションで利用できます。
業界トップクラスの NVLink スケーリング。GPU 間で 600 GBps のピーク NVLink 帯域幅を実現します。たとえば、16 個の GPU を使用するシステムの場合、NVLink の帯域幅は合計で最大 9.6 TBps となります。これらの 16 個の GPU は、統合されたメモリ領域を備えた 1 つのハイ パフォーマンスなアクセラレータとして使用できます。これにより、最大 10 PFLOPS のコンピューティング能力と、最大 20 PFLOPS の推論コンピューティング能力を実現し、AI、ディープ ラーニング、ML のワークロードを対象として使用できます。
改善したコンピューティング速度: アタッチされた NVIDIA A100 GPU は、前世代の NVIDIA V100 GPU と比較して、コンピューティング速度が最大 10 倍向上しています。
A2 マシンシリーズでは、最大 100 Gbps のネットワーク帯域幅を使用できます。
ストレージ: 高速のスクラッチ ディスクとして、または I/O ボトルネックを防止しながら GPU にデータをフィードするために使用する場合、A2 マシンタイプは次のようにローカル SSD をサポートします。
- A2 標準マシンタイプの場合、最大 3,000 GiB のローカル SSD を追加できます。
- A2 Ultra マシンタイプの場合、VM の作成時にローカル SSD が自動的にアタッチされます。
より優れたストレージ パフォーマンスを必要とするアプリケーションの場合は、最大 257 TiB の Persistent Disk ストレージを A2 VM にアタッチすることもできます。
コンパクト プレースメント ポリシーのサポート: データセンター内の VM の物理的な配置をより細かく制御できます。これにより、単一のアベイラビリティ ゾーン内で VM を配置する際、より低いレイテンシと広帯域幅を実現できます。詳しくは、コンパクト プレースメント ポリシーを使用してレイテンシを短縮するをご覧ください。
A2 Ultra マシンタイプ
これらのマシンタイプには、一定の数の A100 80 GB GPU が使用されます。A2 Ultra マシンタイプを使用して作成された VM には、ローカル SSD が自動的にアタッチされます。
マシンタイプ | GPU 数 | GPU メモリ* (GB HBM3) |
vCPU 数† | VM メモリ(GB) | アタッチされたローカル SSD(GiB) | 最大ネットワーク帯域幅(Gbps)‡ |
---|---|---|---|---|---|---|
a2-ultragpu-1g |
1 | 80 | 12 | 170 | 375 | 24 |
a2-ultragpu-2g |
2 | 160 | 24 | 340 | 750 | 32 |
a2-ultragpu-4g |
4 | 320 | 48 | 680 | 1,500 | 50 |
a2-ultragpu-8g |
8 | 640 | 96 | 1,360 | 3,000 | 100 |
*GPU メモリは GPU デバイスのメモリで、データの一時的な保存に使用できます。これは VM のメモリとは別に存在し、グラフィックを多用するワークロードでの帯域幅の高い需要に対応するように設計されています。
†vCPU は、利用可能な CPU プラットフォームのいずれかで単一のハードウェア ハイパースレッドとして実装されます。
‡ 最大下り(外向き)帯域幅は許容数を超えることはできません。実際の下り(外向き)帯域幅は、宛先 IP アドレスやその他の要因によって異なります。ネットワーク帯域幅をご覧ください。
A2 Ultra の制限事項
- A2 Ultra マシンタイプを使用する VM は、継続利用割引とフレキシブル確約利用割引の対象外となります。
- A2 Ultra マシンタイプは、特定のリージョンとゾーンでのみ使用できます。
- A2 Ultra マシンタイプは、Cascade Lake プラットフォームでのみ使用できます。
- VM が A2 Ultra マシンタイプを使用している場合、マシンタイプを変更することはできません。別の A2 Ultra マシンタイプやその他のマシンタイプを使用するには、新しい VM を作成する必要があります。
- 他のマシンタイプを A2 Ultra マシンタイプに変更することはできません。A2 Ultra マシンタイプを使用する VM が必要な場合は、新しい VM を作成する必要があります。
- A2 Ultra マシンタイプを使用する Windows VM では、アタッチされたローカル SSD のクイック フォーマットを行うことができません。これらのローカル SSD をフォーマットするには、diskpart ユーティリティを使用し、
format fs=ntfs label=tmpfs
を指定して完全フォーマットを行う必要があります。
A2 標準マシンタイプ
これらのマシンタイプには、一定の数の A100 40 GB GPU が使用されます。
マシンタイプ | GPU 数 | GPU メモリ* (GB HBM3) |
vCPU 数† | VM メモリ(GB) | アタッチされたローカル SSD(GiB) | 最大ネットワーク帯域幅(Gbps)‡ |
---|---|---|---|---|---|---|
a2-highgpu-1g |
1 | 40 | 12 | 85 | はい | 24 |
a2-highgpu-2g |
2 | 80 | 24 | 170 | はい | 32 |
a2-highgpu-4g |
4 | 160 | 48 | 340 | はい | 50 |
a2-highgpu-8g |
8 | 320 | 96 | 680 | はい | 100 |
a2-megagpu-16g |
16 | 640 | 96 | 1,360 | はい | 100 |
*GPU メモリは GPU デバイスのメモリで、データの一時的な保存に使用できます。これは VM のメモリとは別に存在し、グラフィックを多用するワークロードでの帯域幅の高い需要に対応するように設計されています。
†vCPU は、利用可能な CPU プラットフォームのいずれかで単一のハードウェア ハイパースレッドとして実装されます。
‡ 最大下り(外向き)帯域幅は許容数を超えることはできません。実際の下り(外向き)帯域幅は、宛先 IP アドレスやその他の要因によって異なります。ネットワーク帯域幅をご覧ください。
A2 標準の制限事項
- A2 標準マシンタイプを使用する VM は、継続利用割引とフレキシブル確約利用割引の対象外となります。
- A2 標準マシンタイプは、特定のリージョンとゾーンでのみ使用できます。
- A2 標準マシンタイプは、Cascade Lake プラットフォームでのみ使用できます。
- VM が A2 標準マシンタイプを使用している場合は、ある A2 標準マシンタイプから別の A2 標準マシンタイプにのみ切り替えることができます。他のマシンタイプには変更できません。詳細については、アクセラレータ最適化 VM を変更するをご覧ください。
- <codea2-megagpu-16g< code="" dir="ltr" translate="no">A2 標準マシンタイプでは Windows オペレーティング システムを使用できません。Windows オペレーティング システムを使用する場合は、別の A2 標準マシンタイプを選択する必要があります。</codea2-megagpu-16g<>
- A2 標準マシンタイプを使用する Windows VM では、アタッチされたローカル SSD のクイック フォーマットを行うことができません。これらのローカル SSD をフォーマットするには、diskpart ユーティリティを使用し、
format fs=ntfs label=tmpfs
を指定して完全フォーマットを行う必要があります。 - A2 標準マシンタイプは、単一テナンシーをサポートしません。
A2 シリーズでサポートされているディスクタイプ
A2 VM は、次のブロック ストレージ タイプを使用できます。
- Hyperdisk ML(
hyperdisk-ml
) - バランス永続ディスク(
pd-balanced
) - SSD(パフォーマンス)Persistent Disk(
pd-ssd
) - 標準 Persistent Disk(
pd-standard
) - ローカル SSD: A2 Ultra マシンタイプを使用して作成された VM には自動的にアタッチされます。
マシンタイプでサポートされている場合、VM で Hyperdisk ボリュームと Persistent Disk ボリュームを組み合わせて使用できますが、次の制限が適用されます。
- Hyperdisk ボリュームと Persistent Disk ボリュームの合計数は、VM あたり 128 以下でなければなりません。
すべてのディスクタイプの最大合計ディスク容量(TiB)は、次の値を超えることができません。
vCPU が 32 個未満のマシンタイプの場合:
- すべての Hyperdisk またはすべての Persistent Disk は 257 TiB
- Hyperdisk と Persistent Disk の組み合わせは 257 TiB
vCPU が 32 個以上のマシンタイプの場合:
- すべての Hyperdisk は 512 TiB
- Hyperdisk と Persistent Disk の組み合わせは 512 TiB
- すべての Persistent Disk は 257 TiB
容量の上限の詳細については、VM あたりの Hyperdisk 容量の上限と Persistent Disk の最大容量をご覧ください。
G2 マシンシリーズ
G2 マシンシリーズは、4~96 個の vCPU と最大 432 GB のメモリを備えた標準マシンタイプで使用できます。このマシンシリーズは、推論ワークロードとグラフィック ワークロード用に最適化されています。
G2 マシンシリーズには、次の機能もあります。
NVIDIA GPU をアタッチ: 各 G2 マシンタイプには NVIDIA L4 GPU がアタッチされています。
推論速度の改善: G2 マシンタイプは、ML 推論速度を速め、メモリ要件を減らす FP8(8 ビット浮動小数点)データ型をサポートしています。
次世代のグラフィックス パフォーマンス: NVIDIA L4 GPU は、第 3 世代 RT コアと NVIDIA DLSS 3(ディープ ラーニング スーパー サンプリング)テクノロジー使用して、グラフィックス パフォーマンスを最大 3 倍向上させています。
高パフォーマンスのネットワーク帯域幅: G2 マシンシリーズでは、最大 100 Gbps のネットワーク帯域幅を使用できます。
ストレージ: G2 VM には最大 3,000 GiB のローカル SSD を追加できます。高速のスクラッチ ディスクとして、または I/O ボトルネックを防ぎながらデータを GPU にフィードするために使用できます。
より多くの永続ストレージを必要とするアプリケーションの場合は、Hyperdisk ボリュームと Persistent Disk ボリュームを G2 VM にアタッチすることもできます。最大ストレージ容量は、VM の vCPU の数によって異なります。詳細については、サポートされているディスクタイプをご覧ください。
コンパクト プレースメント ポリシーのサポート: データセンター内の VM の物理的な配置をより細かく制御できます。これにより、単一のアベイラビリティ ゾーン内で VM を配置する際、より低いレイテンシと広帯域幅を実現できます。詳しくは、コンパクト プレースメント ポリシーを使用してレイテンシを短縮するをご覧ください。
G2 マシンタイプ
各 G2 マシンタイプには、固定数の NVIDIA L4 GPU と vCPU がアタッチされます。各 G2 マシンタイプにはデフォルトのメモリとカスタムメモリ範囲もあります。カスタムメモリ範囲はマシンタイプごとに VM に割り当てることができるメモリの量を定義します。カスタムメモリは VM の作成時に指定できます。
マシンタイプ | GPU 数 | GPU メモリ*(GB GDDR6) | vCPU 数† | デフォルトの VM メモリ(GB) | カスタム VM メモリ範囲(GB) | サポート対象の最大ローカル SSD(GiB) | 最大ネットワーク帯域幅(Gbps)‡ |
---|---|---|---|---|---|---|---|
g2-standard-4 |
1 | 24 | 4 | 16 | 16~32 | 375 | 10 |
g2-standard-8 |
1 | 24 | 8 | 32 | 32~54 | 375 | 16 |
g2-standard-12 |
1 | 24 | 12 | 48 | 48~54 | 375 | 16 |
g2-standard-16 |
1 | 24 | 16 | 64 | 54~64 | 375 | 32 |
g2-standard-24 |
2 | 48 | 24 | 96 | 96~108 | 750 | 32 |
g2-standard-32 |
1 | 24 | 32 | 128 | 96~128 | 375 | 32 |
g2-standard-48 |
4 | 96 | 48 | 192 | 192~216 | 1,500 | 50 |
g2-standard-96 |
8 | 192 | 96 | 384 | 384~432 | 3,000 | 100 |
*GPU メモリは GPU デバイスのメモリで、データの一時的な保存に使用できます。これは VM のメモリとは別に存在し、グラフィックを多用するワークロードでの帯域幅の高い需要に対応するように設計されています。
†vCPU は、利用可能な CPU プラットフォームのいずれかで単一のハードウェア ハイパースレッドとして実装されます。
‡ 最大下り(外向き)帯域幅は許容数を超えることはできません。実際の下り(外向き)帯域幅は、宛先 IP アドレスやその他の要因によって異なります。ネットワーク帯域幅をご覧ください。
G2 の制限事項
- G2 マシンタイプを使用する VM は、継続利用割引とフレキシブル確約利用割引の対象外となります。
- G2 マシンタイプは、特定のリージョンとゾーンでのみ使用できます。
- G2 マシンタイプは、Cascade Lake プラットフォームでのみ使用できます。
- 標準永続ディスク(
pd-standard
)は、G2 標準マシンタイプを使用する VM ではサポートされません。サポートされているディスクタイプについては、G2 でサポートされているディスクタイプをご覧ください。 - G2 マシンタイプでマルチインスタンス GPU を作成することはできません。
- G2 VM のマシンタイプを変更する必要がある場合は、アクセラレータ最適化 VM を変更するをご覧ください。
- G2 マシンタイプを使用する VM のブートディスクに Deep Learning VM Image を使用することはできません。
- Container-Optimized OS の現在のデフォルト ドライバは、G2 マシンタイプで実行される L4 GPU をサポートしていません。Container-Optimized OS は、特定のドライバセットのみをサポートしています。G2 マシンタイプで Container-Optimized OS を使用する場合は、次の点に注意してください。
- 推奨される最小の NVIDIA ドライバ バージョン
525.60.13
以降をサポートする Container-Optimized OS のバージョンを使用します。詳細については、Container-Optimized OS のリリースノートをご覧ください。 - ドライバをインストールするときに、L4 GPU で動作する最新のバージョンを指定します。例:
sudo cos-extensions install gpu -- -version=525.60.13
。
- 推奨される最小の NVIDIA ドライバ バージョン
- 次のシナリオでは、Google Cloud CLI または REST を使用して G2 VM を作成する必要があります。
- カスタムメモリ値を指定する必要があります。
- 表示可能な CPU コアの数をカスタマイズする必要があります。
G2 シリーズでサポートされているディスクタイプ
G2 VM では、次のブロック ストレージ タイプを使用できます。
- バランス Persistent Disk(
pd-balanced
) - SSD(パフォーマンス)Persistent Disk(
pd-ssd
) - Hyperdisk ML(
hyperdisk-ml
) - Hyperdisk Throughput(
hyperdisk-throughput
) - ローカル SSD
マシンタイプでサポートされている場合、VM で Hyperdisk ボリュームと Persistent Disk ボリュームを組み合わせて使用できますが、次の制限が適用されます。
- Hyperdisk ボリュームと Persistent Disk ボリュームの合計数は、VM あたり 128 以下でなければなりません。
すべてのディスクタイプの最大合計ディスク容量(TiB)は、次の値を超えることができません。
vCPU が 32 個未満のマシンタイプの場合:
- すべての Hyperdisk またはすべての Persistent Disk は 257 TiB
- Hyperdisk と Persistent Disk の組み合わせは 257 TiB
vCPU が 32 個以上のマシンタイプの場合:
- すべての Hyperdisk は 512 TiB
- Hyperdisk と Persistent Disk の組み合わせは 512 TiB
- すべての Persistent Disk は 257 TiB
容量の上限の詳細については、VM あたりの Hyperdisk 容量の上限と Persistent Disk の最大容量をご覧ください。