可用的 GPU

GPU 用于加快工作负载速度，并且 Cloud Workstations 支持将 GPU 附加到工作站。Cloud Workstations 支持许多可附加到 Compute Engine 虚拟机的各种 GPU 型号。要挂接到每个工作站的 GPU 的型号和数量在工作站配置中指定。Cloud Workstations 会处理 GPU 的连接和设备驱动程序的安装。

将 GPU 附加到工作站会影响费用，如 Cloud Workstations 价格概览中所述。

限制

工作站配置可以指定 GPU，但需遵守以下限制：

  • Cloud Workstations 仅支持为指定了 N1 机器系列、A2 机器系列或 A3 机器系列中的机器类型的配置使用 GPU。如需了解详情，请参阅支持的 GPU 型号。
  • 配置必须指定所选 GPU 型号可用的副本可用区。
  • 无法将工作站配置为一次连接多个型号的 GPU。

  • 指定 A2 Ultra 机器类型或 A3 机器系列的配置不得指定永久性存储空间。如果需要永久性文件存储，请考虑使用基于 NFS 的解决方案，例如 Filestore 或 Cloud Storage FUSE。请注意，A2 标准机器类型支持永久性存储空间。如需创建没有持久性存储空间的配置，请使用以下 gcloud CLI 命令：

      gcloud workstations configs create CONFIG_NAME \
    --project=PROJECT_ID \
    --cluster=CLUSTER_NAME \
    --region=LOCATION \
    --machine-type=A2_MACHINE_TYPE \
    --no-persistent-storage

    替换以下内容：

    • PROJECT_ID：包含工作站配置的项目的 ID。
    • LOCATION：工作站集群的区域。
    • CLUSTER_NAME：包含工作站配置的工作站集群的名称。
    • CONFIG_NAME：工作站配置的名称。
    • A2_MACHINE_TYPE：A2 机器的类型。

支持的 GPU 型号

Cloud Workstations 支持 Compute Engine 提供的许多 GPU 型号。支持的型号取决于为工作站配置选择的机器系列，如下表所示。

N1 机器系列

N1 通用机器系列支持多种 GPU 型号，指定了任何 N1 机器类型的工作站配置也可以指定以下 GPU 型号之一。对于所选的 GPU 型号，配置可能会指定要挂接到每个工作站的 GPU 卡数量。

GPU 模型 GPU 数量
NVIDIA T4 (nvidia-tesla-t4) 1 个、2 个或 4 个 GPU
NVIDIA P4 (nvidia-tesla-p4) 1 个、2 个或 4 个 GPU
NVIDIA V100 (nvidia-tesla-v100) 1、2、4 或 8 个 GPU
NVIDIA P100 (nvidia-tesla-p100) 1 个、2 个或 4 个 GPU

A2 机器系列

A2 标准加速器优化机器系列挂接了固定数量的 NVIDIA A100 GPU，具体数量仅取决于所选的机器类型。

下表显示了从机器类型到将附加的卡数量的映射。

GPU 模型 机器类型 GPU 数量
NVIDIA A100 40GB (nvidia-tesla-a100) a2-highgpu-1g 1 个 GPU
a2-highgpu-2g 2 个 GPU
a2-highgpu-4g 4 个 GPU
a2-highgpu-8g 8 个 GPU
a2-megagpu-16g 16 个 GPU

Cloud Workstations 不支持 A2 Ultra 机器类型。

A3 机器系列

A3 Mega 和 A3 High 加速器优化机器系列挂接了固定数量的 NVIDIA H100 GPU，具体数量仅取决于所选的机器类型。

下表显示了从机器类型到将附加的卡数量的映射。

GPU 模型 机器类型 GPU 数量
NVIDIA H100 80GB (nvidia-tesla-h100) a3-highgpu-1g 1 个 GPU
a3-highgpu-2g 2 个 GPU
a3-highgpu-4g 4 个 GPU
a3-highgpu-8g 8 个 GPU
a3-megagpu-8g 8 个 GPU

向现有工作站配置添加 GPU

如需向工作站配置添加 GPU，请完成以下任一标签页中的步骤。

准备工作

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

    After installing the Google Cloud CLI, initialize it by running the following command: 

    gcloud init

    If you're using an external identity provider (IdP), you must first sign in to the gcloud CLI with your federated identity.

    查看 Cloud Workstations 价格概览，了解配置 GPU 会对费用产生哪些影响。请注意，GPU 会挂接到配置的快速启动池大小所指定的预启动虚拟机 (VM)。

    更新现有配置

    控制台

    如需通过Google Cloud 控制台在现有工作站配置中配置 GPU，请执行以下操作：

    1. 在 Google Cloud 控制台中，前往工作站配置页面。

      前往工作站配置

    2. 在工作站配置列表中，点击要向其添加 GPU 的配置的名称。

    3. 在工作站配置详情页面上，依次点击修改 修改。

    4. 在修改工作站配置页面上，点击导航菜单中的机器设置。

    5. 点击相应切换开关，选择 GPU 而不是通用机器系列。

      在 GPU 类型字段中，选择要使用的 GPU 型号。

      在 GPU 数量字段中，选择要附加到每个工作站的 GPU 卡数量。

      在机器类型字段中，选择要使用的机器类型。

    6. 点击保存以更新配置。

    gcloud

    运行 gcloud workstations configs update 命令，在现有工作站配置中配置 GPU。

    不过，首先请收集一些信息，了解哪些 GPU 型号可用，并为您的配置选择一个型号：

    1. 运行以下 gcloud CLI 命令，查看配置指定了哪些副本区域：

      gcloud workstations configs describe \
  --format="table(name.scope(workstationConfigs),replicaZones.list())" \
  --project=PROJECT_ID \
  --region=LOCATION \
  --cluster=CLUSTER_NAME \
  CONFIG_NAME

      替换以下内容：

      • PROJECT_ID：包含工作站配置的项目的 ID。
      • LOCATION：工作站集群的位置。
      • CLUSTER_NAME：包含工作站配置的工作站集群的名称。
      • CONFIG_NAME：工作站配置的名称。

    2. 运行 gcloud compute accelerator-types list 命令，选择在配置的两个副本可用区中均可用的受支持 GPU 型号：

      gcloud compute accelerator-types list \
  --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
  --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
  --project=PROJECT_ID

      将 ZONES 替换为在上一步中确定的副本可用区列表（以英文逗号分隔），例如 us-central1-a,us-central1-c。

      选择在表中列出两次的 GPU 型号，表示该型号在两个副本可用区中均可用。

      请注意，您可以为所选 GPU 型号附加的显卡数量上限。

    3. 使用 gcloud compute machine-types list 命令确定哪些受支持的机器类型在配置的两个副本可用区中均可用。

      1. 如果您在上一步中选择了 NVIDIA A100 40GB GPU 型号，则您的配置必须使用 A2 机器系列：

        gcloud compute machine-types list \
  --format="table(name,zone,guestCpus:sort=1)" \
  --filter="name:a2-highgpu- OR name:a2-megagpu-" \
  --zones=ZONES \
  --project=PROJECT_ID

      2. 如果您在上一步中选择了任何其他 GPU 型号，则您的配置必须使用 N1 机器系列：

        gcloud compute machine-types list \
  --format="table(name,zone,guestCpus:sort=1)" \
  --filter="name:n1-standard-" \
  --zones=ZONES \
  --project=PROJECT_ID

      选择表中列出两次的机器类型，表示该类型在两个副本可用区中均可用。

    4. 现在，您已选择 GPU 型号和兼容的机器类型，请更新配置：

      1. 对于 NVIDIA A100 40GB GPU，请运行以下命令来更新配置：

        gcloud beta workstations configs update \
  --project=PROJECT_ID \
  --region=LOCATION \
  --cluster=CLUSTER_NAME \
  CONFIG_NAME \
  --machine-type=A2_MACHINE_TYPE

        将 A2_MACHINE_TYPE 替换为在上一步中确定的所选 A2 机器类型（例如 a2-highgpu-1g）。

      2. 对于所有其他 GPU 型号，请运行以下命令：

        gcloud beta workstations configs update \
  --project=PROJECT_ID \
  --region=LOCATION \
  --cluster=CLUSTER_NAME \
  CONFIG_NAME \
  --machine-type=N1_MACHINE_TYPE \
  --accelerator-type=ACCELERATOR_TYPE \
  --accelerator-count=ACCELERATOR_COUNT

        替换以下内容：

        • N1_MACHINE_TYPE：从 N1 系列中选择的机器类型（例如 n1-standard-2）。
        • ACCELERATOR_TYPE：所选 GPU 型号的名称（例如 nvidia-tesla-t4）。
        • ACCELERATOR_COUNT：要挂接到每个工作站的 GPU 数量（例如 1、2、4）。必须是 2 的幂，且小于相应 GPU 型号的最大数量。

    创建具有 GPU 的新工作站配置

    如需创建新的工作站配置，以便将 GPU 附加到基于该配置的工作站，请完成以下任一标签页中的步骤。

    准备工作

    Select the tab for how you plan to use the samples on this page:

    Console

    When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

    gcloud

      After installing the Google Cloud CLI, initialize it by running the following command: 

      gcloud init

      If you're using an external identity provider (IdP), you must first sign in to the gcloud CLI with your federated identity.

      REST

      如需在本地开发环境中使用本页面上的 REST API 示例，请使用您提供给 gcloud CLI 的凭据。

        After installing the Google Cloud CLI, initialize it by running the following command: 

        gcloud init

        If you're using an external identity provider (IdP), you must first sign in to the gcloud CLI with your federated identity.

      如需了解详情，请参阅 Google Cloud 身份验证文档中的使用 REST 时进行身份验证。

      选择 GPU 型号，然后查阅 GPU 可用性表格，选择一个区域，该区域至少有两个可用区提供所选的 GPU 型号。

      如果您在所选区域中还没有可用于创建新配置的集群，请按照相关步骤在该区域中创建工作站集群。

      查看 Cloud Workstations 价格概览，了解配置 GPU 会对费用产生哪些影响。请注意，GPU 会挂接到配置的快速启动池大小所指定的预启动虚拟机 (VM)。

      创建新配置

      控制台

      通过Google Cloud 控制台创建具有 GPU 的新工作站配置，方法如下：

      1. 在 Google Cloud 控制台中，前往工作站配置页面。

        前往工作站配置

      2. 在工作站配置页面上，点击 add_box 创建。

      3. 在创建工作站配置页面的基本信息步骤中，在名称字段中指定配置的名称。

        在工作站集群字段中，选择所选区域中的一个集群。

        点击继续，进入机器设置步骤。

      4. 在创建工作站配置页面的机器设置步骤中，首先点击切换开关，选择 GPU 而不是通用机器系列。

        1. 然后，在可用区字段中，选中您所选 GPU 型号可用的两个可用区旁边的复选框（请参阅 GPU 可用性表格）。

        2. 在 GPU 类型字段中，选择要使用的 GPU 型号。

        3. 在 GPU 数量字段中，选择要附加到每个工作站的 GPU 卡数量。

        4. 在机器类型字段中，选择兼容的机器类型。

      5. 点击继续以配置环境设置和 IAM 政策，然后点击创建以预配新的工作站配置。

      gcloud

      使用 gcloud CLI 运行 gcloud workstations configs create 命令，创建具有 GPU 的新工作站配置。

      • 对于 NVIDIA A100 40GB GPU，请运行以下命令来创建配置：

        gcloud beta workstations configs create \
  --project=PROJECT_ID \
  --region=LOCATION \
  --cluster=CLUSTER_NAME \
  CONFIG_NAME \
  --replica-zones=REPLICA_ZONES \
  --machine-type=A2_MACHINE_TYPE

        替换以下内容：

        • PROJECT_ID：将包含新工作站配置的项目的 ID。
        • LOCATION：工作站集群的位置，配置将包含在该集群中。
        • CLUSTER_NAME：将包含新工作站配置的工作站集群的名称。
        • CONFIG_NAME：新工作站配置的名称。
        • REPLICA_ZONES：集群所在区域内提供所选 GPU 型号的两个可用区（例如 us-central1-a,us-central1-c）。
        • A2_MACHINE_TYPE：所选的 A2 系列机器类型（例如 a2-highgpu-1g）。

      • 对于所有其他 GPU 型号，请运行以下命令来创建配置：

        gcloud beta workstations configs create \
  --project=PROJECT_ID \
  --region=LOCATION \
  --cluster=CLUSTER_NAME \
  CONFIG_NAME \
  --replica-zones=REPLICA_ZONES \
  --machine-type=N1_MACHINE_TYPE \
  --accelerator-type=ACCELERATOR_TYPE \
  --accelerator-count=ACCELERATOR_COUNT

        替换以下内容：

        • PROJECT_ID：将包含新工作站配置的项目的 ID。
        • LOCATION：工作站集群的位置，配置将包含在该集群中。
        • CLUSTER_NAME：将包含新工作站配置的工作站集群的名称。
        • CONFIG_NAME：新工作站配置的名称。
        • REPLICA_ZONES：集群所在区域内提供所选 GPU 型号的两个可用区（例如 us-central1-a,us-central1-c）。
        • N1_MACHINE_TYPE：所选的 N1 系列机器类型（例如 n1-standard-2）。
        • ACCELERATOR_TYPE：所选 GPU 型号的名称（例如 nvidia-tesla-t4）。
        • ACCELERATOR_COUNT：要挂接到每个工作站的 GPU 数量（例如 1、2、4）。

      NVIDIA GPU 设备驱动程序

      Cloud Workstations 会在虚拟机启动期间在工作站的主机虚拟机上安装 NVIDIA 设备驱动程序。

      如需确定工作站上已安装的设备驱动程序版本，请运行以下命令：

      nvidia-smi --query-gpu=name,driver_version --format=csv

      按区域和可用区划分的 GPU 可用性

      您可以按位置或 GPU 模型搜索，也可以同时使用两者。

      可用区 位置 GPU 平台
      asia-east1-a 亚太地区台湾彰化 T4、P100
      asia-east1-b 亚太地区台湾彰化
      asia-east1-c 亚太地区台湾彰化 T4、V100、P100、H100
      asia-east2-a 亚太地区香港 T4
      asia-east2-b 亚太地区香港
      asia-east2-c 亚太地区香港 T4
      asia-northeast1-a 亚太地区日本东京 A100 40GB、T4
      asia-northeast1-b 亚太地区日本东京 H100
      asia-northeast1-c 亚太地区日本东京 A100 40GB、T4
      asia-northeast3-a 亚太地区韩国首尔 A100 40GB、H100
      asia-northeast3-b 亚太地区韩国首尔 A100 40GB、T4
      asia-northeast3-c 亚太地区韩国首尔 T4、H100
      asia-south1-a 亚太地区印度孟买 T4
      asia-south1-b 亚太地区印度孟买 T4
      asia-south1-c 亚太地区印度孟买 H100
      asia-southeast1-a 亚太地区新加坡裕廊西 T4
      asia-southeast1-b 亚太地区新加坡裕廊西 A100 40GB、T4、P4、H100
      asia-southeast1-c 亚太地区新加坡裕廊西 A100 40GB、A100 80GB、T4、P4、H100
      australia-southeast1-a 亚太地区澳大利亚悉尼 T4、P4
      australia-southeast1-b 亚太地区澳大利亚悉尼 P4、P100
      australia-southeast1-c 亚太地区澳大利亚悉尼 T4、H100
      europe-central2-b
      europe-central2-c      		 欧洲波兰华沙 T4
      europe-north1-a
      europe-north1-b      		 欧洲芬兰哈米纳
      europe-north1-c 欧洲芬兰哈米纳 H100
      europe-southwest1-a
      europe-southwest1-b
      europe-southwest1-c      		 欧洲西班牙马德里
      europe-west1-b 欧洲比利时圣吉斯兰 H100、T4、P100
      europe-west1-c 欧洲比利时圣吉斯兰 H100、T4
      europe-west1-d 欧洲比利时圣吉斯兰 T4、P100
      europe-west2-a 欧洲英国伦敦 T4
      europe-west2-b 欧洲英国伦敦 T4、H100
      europe-west2-c 欧洲英国伦敦
      europe-west3-a 欧洲德国法兰克福 H100
      europe-west3-b 欧洲德国法兰克福 T4
      europe-west3-c 欧洲德国法兰克福 H100
      europe-west4-a 欧洲荷兰埃姆斯哈文 A100 40GB、A100 80GB、T4、V100、P100
      europe-west4-b 欧洲荷兰埃姆斯哈文 A100 40GB、T4、P4、V100、H100
      europe-west4-c 欧洲荷兰埃姆斯哈文 T4、P4、V100、H100
      europe-west6-a
      europe-west6-b
      europe-west6-c      		 欧洲瑞士苏黎世
      europe-west8-a
      europe-west8-b
      europe-west8-c      		 欧洲意大利米兰
      europe-west9-a
      europe-west9-b
      europe-west9-c      		 欧洲法国巴黎
      europe-west12-a
      europe-west12-b
      europe-west12-c      		 欧洲意大利都灵
      me-west1-a 特拉维夫、以色列、中东 A100 40GB
      me-west1-b 特拉维夫、以色列、中东 A100 40GB、T4
      me-west1-c 特拉维夫、以色列、中东 A100 40GB、T4
      northamerica-northeast1-a 北美洲魁北克省蒙特利尔 P4
      northamerica-northeast1-b 北美洲魁北克省蒙特利尔 P4
      northamerica-northeast1-c 北美洲魁北克省蒙特利尔 T4、P4
      southamerica-east1-a 南美洲巴西圣保罗省奥萨斯库 T4
      southamerica-east1-c 南美洲巴西圣保罗省奥萨斯库 T4
      southamerica-west1-a
      southamerica-west1-b
      southamerica-west1-c      		 南美洲智利圣地亚哥
      us-central1-a 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、A100 80GB、T4、P4、V100、H100
      us-central1-b 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、T4、V100、H100
      us-central1-c 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、A100 80GB、T4、P4、V100、P100、H100
      us-central1-f 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、T4、V100、P100
      us-east1-b 北美洲南卡罗来纳州蒙克斯科纳 A100 40GB、P100
      us-east1-c 北美洲南卡罗来纳州蒙克斯科纳 T4、V100、P100
      us-east1-d 北美洲南卡罗来纳州蒙克斯科纳 T4
      us-east4-a
      us-east4-b      		 北美洲弗吉尼亚阿什本 T4、P4、H100
      us-east4-c 北美洲弗吉尼亚阿什本 A100 80GB、T4、P4、H100
      us-east5-a 北美洲俄亥俄州哥伦布 H100
      us-east5-b 北美洲俄亥俄州哥伦布 A100 80GB
      us-east5-c 北美洲俄亥俄州哥伦布
      us-west1-a 北美洲俄勒冈州达尔斯 T4、V100、P100、H100
      us-west1-b 北美洲俄勒冈州达尔斯 A100 40GB、T4、V100、P100、H100
      us-west1-c 北美洲俄勒冈州达尔斯
      us-west4-a 北美洲内华达州拉斯维加斯 T4、H100
      us-west4-b 北美洲内华达州拉斯维加斯 A100 40GB、T4
      us-west4-c 北美洲内华达州拉斯维加斯

      后续步骤