GPU について

Compute Engine で特定のワークロードを高速化するには、GPU がアタッチされたアクセラレータ最適化 VM をデプロイするか、N1 汎用 VM に GPU をアタッチします。

このドキュメントでは、Compute Engine で実行される GPU の機能と制限事項について説明します。

GPU とマシンシリーズ

GPU は、N1 汎用マシンシリーズとアクセラレータ最適化（A4、A3、A2、G2）マシンシリーズでサポートされています。N1 マシンタイプを使用する VM の場合は、VM の作成中または作成後に GPU を VM にアタッチします。アクセラレータ最適化マシンタイプを使用する VM では、VM の作成時に GPU が自動的にアタッチされます。GPU は他のマシンシリーズでは使用できません。

アクセラレータ最適化マシンシリーズ

各アクセラレータ最適化マシンタイプには、特定モデルの NVIDIA GPU がアタッチされています。

A4 アクセラレータ最適化マシンタイプには、NVIDIA B200 GPU がアタッチされます。
A3 アクセラレータ最適化マシンタイプには、NVIDIA H100 80 GB または NVIDIA H200 141 GB GPU がアタッチされます。次のオプションが用意されています。
- A3 Ultra: H200 141 GB GPU がアタッチされるマシンタイプです。
- A3 Mega: H100 80 GB GPU がアタッチされるマシンタイプです。
- A3 High: H100 80 GB GPU がアタッチされるマシンタイプです。
- A3 Edge: H100 80 GB GPU がアタッチされるマシンタイプです。
A2 アクセラレータ最適化マシンタイプには、NVIDIA A100 GPU がアタッチされます。次のオプションが用意されています。
- A2 Ultra: A100 80 GB GPU がアタッチされるマシンタイプです。
- A2 Standard: A100 40 GB GPU がアタッチされるマシンタイプです。
G2 アクセラレータ最適化マシンタイプには、NVIDIA L4 GPU がアタッチされます。

詳細については、アクセラレータ最適化マシンシリーズをご覧ください。

N1 汎用マシンシリーズ

他のすべての GPU タイプには、N1 共有コア（f1-micro および g1-small）を除くほとんどの N1 マシンタイプを使用できます。

このマシンシリーズでは、事前定義されたマシンタイプまたはカスタムマシンタイプのいずれかを使用できます。

Spot VM 上の GPU

Spot VM には、低価格のスポット価格で GPU を追加できます。Spot VM に接続された GPU は、通常の GPU と同様に機能しますが、維持されるのは VM の存続期間中のみです。GPU を接続した Spot VM は、すべての Spot VM と同じプリエンプションプロセスに従います。

Spot VM の GPU に専用の Preemptible GPU 割り当てをリクエストすることを検討してください。詳細については、Spot VM の割り当てをご覧ください。

メンテナンスイベント中は、GPU を使用する Spot VM がデフォルトでプリエンプトされます。この VM を自動的に再起動することはできません。プリエンプトされた後で VM を再作成する場合には、マネージドインスタンスグループを使用します。マネージドインスタンスグループは、vCPU、メモリ、GPU リソースが利用可能であれば、VM インスタンスを再作成します。

VM のプリエンプト前に警告を受けるようにする場合、またはメンテナンスイベントの終了後に VM が自動的に再起動するように構成する場合は、GPU を搭載した標準の VM を使用します。GPU を搭載した標準 VM の場合、Compute Engine はプリエンプションの 1 時間前に通知を送信します。

VM の実行が開始してから 1 分以内に VM がプリエンプトされた場合、Compute Engine では GPU に対する課金を行いません。

GPU がアタッチされた Spot VM の作成方法については、GPU が接続された VM を作成すると Spot VM の作成をご覧ください。たとえば、Spot VM を使用して A3 Ultra インスタンスまたは A4 インスタンスを作成するをご覧ください。

実行時間が事前に定義されている VM 上の GPU

通常、標準プロビジョニングモデルを使用する VM は、プリエンプティブルの数量に基づく割り当てを使用できません。プリエンプティブル割り当ては一時的なワークロードを対象としており、通常はより利用しやすいものです。プロジェクトにプリエンプティブル割り当てがなく、プリエンプティブル割り当てをリクエストしたことがない場合、プロジェクト内のすべての VM は標準の数量に基づく割り当てを使用します。

プリエンプティブルの数量に基づく割り当てをリクエストする場合、標準プロビジョニングモデルを使用する VM は、プリエンプティブルの数量に基づく割り当てを使用するために次のすべての条件を満たす必要があります。

VM に GPU がアタッチされている。
VM は、事前に定義された実行時間の後に自動的に削除されるように、次のいずれかの方法で構成されている。
- maxRunDuration フィールドまたは terminationTime フィールド。詳細については、VM の実行時間を制限するまたは MIG 内の VM の実行時間を制限するをご覧ください。
- requestedRunDuration フィールド。マネージドインスタンスグループ（MIG）でのみ使用可能。詳細については、MIG のサイズ変更リクエストについてをご覧ください。
VM が予約を使用できない。詳細については、コンピューティングインスタンスが予約を使用しないようにするをご覧ください。

時間制限のある GPU ワークロードにプリエンプティブル割り当てを使用すると、連続実行時間とプリエンプティブルの数量に基づく割り当ての高取得可能性の両方のメリットを享受できます。詳細については、プリエンプティブル割り当てをご覧ください。

GPU と Confidential VMs

A3 マシンシリーズで Intel TDX を使用する Confidential VM インスタンスで GPU を使用できます。詳細については、Confidential VM のサポートされている構成をご覧ください。GPU を使用して Confidential VM インスタンスを作成する方法については、GPU を使用して Confidential VM インスタンスを作成するをご覧ください。

GPU とブロックストレージ

GPU プラットフォームで VM を作成するときに、VM に永続的ブロックストレージまたは一時的なブロックストレージを追加できます。一時的でないデータを保存するには、Hyperdisk ML や Persistent Disk などの永続ブロックストレージを使用します。これらのディスクは VM のライフサイクルから独立しているためです。永続ストレージ上のデータは、VM を削除した後も保持できます。

一時的なスクラッチストレージまたはキャッシュの場合は、VM の作成時にローカル SSD ディスクを追加して、一時的なブロックストレージを使用します。

Persistent Disk ボリュームと Hyperdisk ボリュームを使用する永続ブロックストレージ

GPU 対応 VM では、Persistent Disk ボリュームと Hyperdisk ML ボリュームをアタッチできます。

ML のトレーニングとサービングワークロードには、Hyperdisk ML ボリュームの使用をおすすめします。これにより、スループットの向上とデータ読み込み時間の短縮が実現します。GPU アイドル時間が短くなるため、Hyperdisk ML は ML ワークロードにとって費用対効果の高いオプションとなります。

Hyperdisk ML ボリュームは読み取り専用のマルチアタッチをサポートしているため、同じディスクを複数の VM にアタッチして、各 VM が同じデータにアクセスできるようにできます。

GPU をサポートするマシンシリーズでサポートされているディスクタイプの詳細については、N1 とアクセラレータ最適化マシンシリーズのページをご覧ください。

ローカル SSD ディスク

ローカル SSD ディスクは、キャッシュ、データ処理、その他の一時的なデータ用の高速な一時ストレージです。ローカル SSD ディスクが高速なストレージである理由は、VM をホストするサーバーに物理的にアタッチされているためです。一時的である理由は、VM を再起動するとデータが失われるためです。

永続性に関する厳しい要件を持つデータをローカル SSD ディスクに保存しないでください。一時的でないデータを保存するには、代わりに永続ストレージを使用します。

GPU が搭載された VM を手動で停止すると、ローカル SSD のデータを保持できますが、一定の制限があります。詳細については、ローカル SSD のドキュメントをご覧ください。

GPU タイプでのローカル SSD のリージョンサポートについては、GPU リージョンとゾーンごとのローカル SSD の可用性をご覧ください。

GPU とホストのメンテナンス

GPU がアタッチされている VM は、Compute Engine が VM でメンテナンスイベントを実行すると、常に停止します。VM にローカル SSD ディスクがアタッチされている場合、VM の停止後にローカル SSD データが失われます。

メンテナンスイベントの処理については、GPU ホストメンテナンスイベントの処理をご覧ください。

GPU の料金

GPU がアタッチされた VM の場合、次のような費用が発生します。

スポットまたは予約にバインドされたプロビジョニングモデルを使用して GPU をプロビジョニングするように Compute Engine にリクエストすると、GPU のタイプによっては割引価格が適用される場合があります。
GPU がアタッチされているほとんどの VM には、vCPU と同様に継続利用割引（SUD）が適用されます。仮想ワークステーションの GPU を選択すると、Compute Engine によって NVIDIA RTX 仮想ワークステーションライセンスが自動的に VM に追加されます。

GPU の時間単位および月単位の料金については、GPU の料金ページをご覧ください。

確約利用割引で GPU を予約する

特定のゾーンの GPU リソースを予約するには、Compute Engine ゾーンリソースの予約をご覧ください。

特定のゾーンで GPU の確約利用割引を受けるには、GPU のリソースベースのコミットメントを購入して、一致する GPU を指定する予約をコミットメントに関連付ける必要があります。詳細については、リソースベースのコミットメントに予約を関連付けるをご覧ください。

GPU の制限事項

GPU を接続した VM の場合、次の制限事項が適用されます。

GPU は、汎用 N1 またはアクセラレータ最適化の（A4、A3、A2 および G2）マシンタイプでのみサポートされています。
Compute Engine システムとユーザーを保護するため、新しいプロジェクトにはグローバル GPU 割り当てが設定されます。この割り当ては、サポート対象のすべてのゾーンで作成できる GPU の総数を制限するものです。GPU 割り当てをリクエストするときは、各リージョンで作成する GPU モデルに対する割り当てに加え、すべてのゾーンにおけるすべてのタイプの GPU の総数に対するグローバル割り当てもリクエストする必要があります。
GPU が搭載されている VM には、VM に追加する GPU ごとに、vCPU の最大数が設定されます。各種 GPU 構成で使用可能な vCPU とメモリの範囲を確認するには、GPU リストをご覧ください。
GPU が正しく機能するにはデバイスドライバが必要です。Compute Engine で動作する NVIDIA GPU では、最小限のドライババージョンを使用する必要があります。ドライババージョンの詳細については、必要な NVIDIA ドライバのバージョンをご覧ください。
GPU モデルがアタッチされた VM は、そのアタッチされた GPU モデルが一般提供されている場合にのみ、Compute Engine SLA の対象となります。

複数のゾーンがあるリージョンの場合、Compute Engine SLA は、GPU モデルがそのリージョン内の複数のゾーンで使用可能な場合にのみ、VM を対象とします。リージョンごとの GPU モデルについては、GPU のリージョンとゾーンをご覧ください。
Compute Engine では、GPU あたり 1 人の同時利用ユーザーがサポートされています。
また、GPU がアタッチされている各マシンタイプの制限事項もご覧ください。

次のステップ

GPU を接続した VM の作成方法を学習する。
GPU の追加または削除方法を学習する。
GPU を接続した Confidential VM インスタンスの作成方法を学習する。