使用預留項目

如果您有 TPU 預留項目,可以使用預留資源建立符合保留項目屬性的 TPU。這項操作稱為「使用預訂」。如要瞭解在使用 GKE 時如何使用 TPU 保留項目,請參閱 GKE 說明文件中的「TPU 保留項目」一節。

使用特定預留項目

使用 gcloud alpha compute tpus queued-resources create 指令建立資源時,請使用 --reservation 標記指定要使用的保留項目名稱。對於在日曆模式下建立的未來預訂,您也必須將 --provisioning-model 標記設為 reservation-bound

gcloud alpha compute tpus queued-resources create QUEUED_RESOURCE_ID \
    --node-id=TPU_NAME \
    --zone=ZONE \
    --accelerator-type=ACCELERATOR_TYPE \
    --runtime-version=SOFTWARE_VERSION \
    --reservation=RESERVATION_URL \
    --provisioning-model=reservation-bound # Only required for calendar mode

替換下列的預留位置變數:

  • QUEUED_RESOURCE_ID:使用者為排入佇列的資源要求指派的 ID。
  • TPU_NAME:在排隊的資源要求分配時,使用者為 TPU 指派的 ID (名稱)。
  • ZONE:建立 TPU VM 的區域。如要進一步瞭解支援的區域,請參閱「地區和區域」。
  • ACCELERATOR_TYPE:指定要建立的 Cloud TPU 版本和大小。如要進一步瞭解每個 TPU 版本支援的加速器類型,請參閱「TPU 版本」。
  • SOFTWARE_VERSION:Cloud TPU 軟體版本
  • RESERVATION_URL:預訂的網址。請指定下列其中一個值:
    • 如果預訂項目位於專案中: RESERVATION_NAME
    • 如果預留項目位於其他專案中,且您的專案可以使用該預留項目: projects/OWNER_PROJECT_ID/reservations/RESERVATION_NAME

使用任何相符的保留項目

您可以使用 --reserved 旗標,根據加速器類型、專案 ID 和區域,自動判斷要使用的保留項目。

CreateNode

如要使用 CreateNode API 使用任何相符的預留空間,請使用 gcloud alpha compute tpus tpu-vm create 指令,並加上 --reserved 旗標

gcloud alpha compute tpus tpu-vm create TPU_NAME \
    --zone=ZONE \
    --accelerator-type=ACCELERATOR_TYPE \
    --version=SOFTWARE_VERSION \
    --reserved

替換下列的預留位置變數:

  • TPU_NAME:TPU 的名稱。
  • ZONE:建立 TPU VM 的區域,必須與預留區域相符。
  • ACCELERATOR_TYPE:指定要建立的 Cloud TPU 版本和大小。如要進一步瞭解每個 TPU 版本支援的加速器類型,請參閱「TPU 版本」。
  • SOFTWARE_VERSION:Cloud TPU 軟體版本

排入佇列的資源

如要使用排隊資源消耗任何相符的預留項目,請使用 gcloud alpha compute tpus queued-resources create 指令,並加上 --reserved 標記

gcloud alpha compute tpus queued-resources create QUEUED_RESOURCE_ID \
    --node-id=TPU_NAME \
    --zone=ZONE \
    --accelerator-type=ACCELERATOR_TYPE \
    --runtime-version=SOFTWARE_VERSION \
    --reserved

替換下列的預留位置變數:

  • QUEUED_RESOURCE_ID:使用者為排入佇列的資源要求指派的 ID。
  • TPU_NAME:在排隊的資源要求分配時,使用者為 TPU 指派的 ID (名稱)。
  • ZONE:建立 TPU VM 的區域,也是保留訂單所在的區域。
  • ACCELERATOR_TYPE:指定要建立的 Cloud TPU 版本和大小。如要進一步瞭解每個 TPU 版本支援的加速器類型,請參閱「TPU 版本」。
  • SOFTWARE_VERSION:Cloud TPU 軟體版本

查看預留項目用量

您只能透過擁有者專案檢查共用預留項目的用量。如果您位於消費者專案中,則必須切換至擁有者專案,才能查看預留用量的用量。

如要查看保留項目的使用量,請使用 gcloud compute reservations describe 指令

gcloud compute reservations describe RESERVATION_NAME \
    --project=PROJECT_ID --zone=ZONE

替換下列的預留位置變數:

  • RESERVATION_NAME:預訂名稱。
  • PROJECT_ID:包含預留作業的專案 ID。
  • ZONE:預訂項目所在的區域。

如要列出專案中的所有保留項目,請使用 gcloud compute reservations list 指令

gcloud compute reservations list --project=PROJECT_ID

替換下列預留位置變數:

  • PROJECT_ID:專案 ID。

後續步驟