TPU リソースを管理する

このページでは、Create Node API を使用して Cloud TPU を作成、一覧表示、停止、開始、削除する方法および、Cloud TPU に接続する方法について説明します。Create Node API は、Google Cloud CLI を使用して gcloud compute tpus tpu-vm create コマンドを実行する場合、および Google Cloud コンソールを使用して TPU を作成する場合に呼び出されます。Create Node API を使用すると、リクエストは直ちに処理されます。リクエストを処理するのに十分な容量がない場合、リクエストは失敗します。

Create Node API ではなく、キューに格納されたリソースを使用して TPU を作成することをおすすめします。キューに格納されたリソースをリクエストすると、リクエストは Cloud TPU サービスによって管理されるキューに追加されます。リクエストされたリソースが使用可能になると、すぐに Google Cloud プロジェクトに割り当てられ、すぐに専用で使用できるようになります。詳細については、キューに入れられたリソースを管理するをご覧ください。

マルチスライスを使用する場合は、キューに入れられたリソースを使用する必要があります。詳細については、マルチスライスの概要をご覧ください。

Google Kubernetes Engine（GKE）を使用して TPU リソースを管理する場合は、まず GKE クラスタを作成する必要があります。次に、TPU スライスを含むノードプールをクラスタに追加します。詳細については、GKE の TPU についてをご覧ください。

前提条件

これらの手順を実行する前に、Google Cloud CLI をインストールし、Google Cloud プロジェクトを作成して、Cloud TPU API を有効にする必要があります。手順については、Cloud TPU 環境を設定するをご覧ください。

Google Cloud CLI を使用している場合は、Cloud Shell、Compute Engine VM、またはローカルマシンを使用してコマンドを実行できます。Cloud Shell を使用すると、ソフトウェアをインストールせずに Cloud TPU を操作できます。非アクティブな状態が一定期間続くと、Cloud Shell の接続が解除されます。長時間実行コマンドを実行する場合は、ローカルマシンに Google Cloud CLI をインストールすることをおすすめします。Google Cloud CLI の詳細については、gcloud リファレンスをご覧ください。

Create Node API を使用して Cloud TPU を作成する

Cloud TPU は、gcloud、Google Cloud コンソール、または Cloud TPU API を使用して作成できます。

Cloud TPU を作成するときに、TPU VM イメージ（TPU ソフトウェア バージョンとも呼ばれます）を指定する必要があります。使用する VM イメージを判断するには、TPU VM イメージをご覧ください。

また、TPU 構成を TensorCore または TPU チップの観点から指定する必要があります。詳細については、システム アーキテクチャのお客様が使用している TPU バージョンのセクションをご覧ください。

$ gcloud compute tpus tpu-vm create tpu-name \
  --zone=us-central2-b \
  --accelerator-type=v4-8 \
  --version=tpu-software-version

$ gcloud compute tpus tpu-vm create tpu-name \
  --zone=us-central2-b \
  --type=v4 \
  --topology=2x2x1 \
  --version=tpu-software-version

$ curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" -H "Content-Type: application/json" -d "{accelerator_type: 'v4-8', \
runtime_version:'tpu-vm-tf-2.18.0-pjrt', \
network_config: {enable_external_ips: true}, \
shielded_instance_config: { enable_secure_boot: true }}" \
https://tpu.googleapis.com/v2/projects/project-id/locations/us-central2-b/nodes?node_id=node_name

起動スクリプトを実行する

TPU VM の作成時に --metadata startup-script フラグを指定すると、各 TPU VM で起動スクリプトを実行できます。次のコマンドは、起動スクリプトを使用して TPU VM を作成します。

$ gcloud compute tpus tpu-vm create tpu-name \
    --zone=us-central2-b \
    --accelerator-type=tpu-type \
    --version=tpu-vm-tf-2.18.0-pjrt \
    --metadata startup-script='#! /bin/bash
      pip3 install numpy
      EOF'

Cloud TPU に接続する

$ gcloud compute tpus tpu-vm ssh tpu-name --zone=zone

$ gcloud compute tpus tpu-vm ssh tpu-name

$ gcloud compute tpus tpu-vm ssh tpu-name --worker=1

$ gcloud compute tpus tpu-vm ssh tpu-name \
  --project=your_project_ID \
  --zone=zone \
  --worker=all \
  --command='pip install "jax[tpu]==0.4.20" -f https://storage.googleapis.com/jax-releases/libtpu_releases.html'

$ gcloud compute tpus queued-resources ssh ${QUEUED_RESOURCE_ID} \
  --project=project_ID \
  --zone=zone \
  --node=all \
  --worker=all \
  --command='pip install "jax[tpu]==0.4.20" -f https://storage.googleapis.com/jax-releases/libtpu_releases.html' \
  --batch-size=4

Cloud TPU リソースを一覧表示する

Cloud TPU は、指定したゾーン内にあるすべてを一覧表示できます。

$ gcloud compute tpus tpu-vm list --zone=zone

Cloud TPU に関する情報を取得する

指定した Cloud TPU に関する情報を取得できます。

$ gcloud compute tpus tpu-vm describe tpu-name \
  --zone=zone

Cloud TPU リソースを停止する

単一の Cloud TPU を停止することで、VM の構成とソフトウェアを失わずに課金を停止できます。

$ gcloud compute tpus tpu-vm stop tpu-name \
  --zone=zone

Cloud TPU リソースを起動する

停止した Cloud TPU は再開できます。

$ gcloud compute tpus tpu-vm start tpu-name \
  --zone=zone

Cloud TPU を削除する

セッションの終了時に TPU VM スライスを削除します。

$ gcloud compute tpus tpu-vm delete tpu-name \
  --project=project-id \
  --zone=zone \
  --quiet