可用的 GPU

GPU 用于加快工作负载速度,Cloud Workstations 支持将 GPU 附加到工作站。Cloud Workstations 支持许多可附加到 Compute Engine 虚拟机的各种 GPU 型号。要挂接到每个工作站的 GPU 的型号和数量在工作站配置中指定。Cloud Workstations 会负责连接 GPU 并安装其设备驱动程序。

将 GPU 附加到工作站会影响费用,如 Cloud 工作站价格概览中所述。

限制

工作站配置可以指定 GPU,但须遵守以下限制:

支持的 GPU 型号

Cloud Workstations 支持 Compute Engine 提供的许多 GPU 型号。支持的模型取决于为工作站配置选择的机器系列,如下表所示。

N1 机器系列

N1 通用机器系列支持多种 GPU 型号,并且指定任何 N1 机器类型的工作站配置还可以指定以下某种 GPU 型号。对于所选的 GPU 型号,配置可以指定要将多少个 GPU 卡附加到每个工作站。

GPU 模型 GPU 数量
NVIDIA T4 (nvidia-tesla-t4) 1、2 或 4 个 GPU
NVIDIA P4 (nvidia-tesla-p4) 1、2 或 4 个 GPU
NVIDIA V100 (nvidia-tesla-v100) 1、2、4 或 8 个 GPU
NVIDIA P100 (nvidia-tesla-p100) 1、2 或 4 个 GPU

A2 机器系列

A2 标准加速器优化机器系列挂接了固定数量的 NVIDIA A100 GPU,具体数量完全取决于所选的机器类型。

下表显示了机器类型与要附加的卡片数量之间的映射。

GPU 模型 机器类型 GPU 数量
NVIDIA A100 40GB (nvidia-tesla-a100) a2-highgpu-1g 1 个 GPU
a2-highgpu-2g 2 个 GPU
a2-highgpu-4g 4 个 GPU
a2-highgpu-8g 8 个 GPU
a2-megagpu-16g 16 个 GPU

Cloud Workstations 不支持 A2 Ultra 机器类型。

向现有工作站配置添加 GPU

如需向工作站配置中添加 GPU,请完成以下任一标签页中的步骤。

准备工作

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Install the Google Cloud CLI, then initialize it by running the following command:

gcloud init

查看 Cloud Workstations 价格概览,了解配置 GPU 对费用有何影响。请注意,GPU 会附加到配置的快速启动池大小指定的预启动虚拟机 (VM)。

更新现有配置

控制台

如需在 Google Cloud 控制台中为现有工作站配置配置 GPU,请执行以下操作:

  1. 在 Google Cloud 控制台中,前往 Workstation 配置页面。

    前往“工作站配置”

  2. Workstation 配置列表中,点击要添加 GPU 的配置的名称

  3. 工作站配置详情页面上,点击修改 修改

  4. 修改工作站配置页面上,点击导航菜单中的机器设置

  5. 点击切换开关,选择 GPU 而不是通用机器系列。

    GPU 类型字段中,选择要使用的 GPU 型号。

    GPU 数量字段中,选择要连接到每个工作站的 GPU 卡数量。

    机器类型字段中,选择要使用的机器类型。

  6. 点击保存以更新配置。

gcloud

运行 gcloud workstations configs update 命令,在现有工作站配置上配置 GPU。

不过,首先要收集一些信息,以了解有哪些 GPU 型号可用,并为您的配置选择一个:

  1. 运行以下 gcloud CLI 命令,检查配置指定了哪些副本区域:

    gcloud workstations configs describe \
      --format="table(name.scope(workstationConfigs),replicaZones.list())" \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID
    

    替换以下内容:

    • PROJECT_ID:包含工作站配置的项目的 ID。
    • LOCATION:工作站集群的位置。
    • WORKSTATION_CLUSTER_ID:包含工作站配置的工作站集群的名称。
    • WORKSTATION_CONFIG_ID:工作站配置的名称。
  2. 运行 gcloud compute accelerator-types list 命令,选择配置的两个副本可用区中都支持的 GPU 型号:

    gcloud compute accelerator-types list \
      --format="table(name:sort=1,zone,description,maximumCardsPerInstance)" \
      --filter='zone.basename()=(ZONES) AND name~"nvidia-tesla-(a100|p100|p4|t4|v100)$"' \
      --project=PROJECT_ID
    

    ZONES 替换为在上一步中确定的副本区域的英文逗号分隔列表(例如 us-central1-a,us-central1-c)。

    选择表格中列出两次的 GPU 型号,表示该型号在两个副本可用区中均可用。

    记下您可以为所选 GPU 型号附加的卡片数量上限。

  3. 使用 gcloud compute machine-types list 命令确定配置的两个副本可用区中都支持哪些机器类型。

    1. 如果您在上一步中选择了 NVIDIA A100 40GB GPU 型号,则您的配置必须使用 A2 机器系列:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:a2-highgpu- OR name:a2-megagpu-" \
        --zones=ZONES \
        --project=PROJECT_ID
      
    2. 如果您在上一步中选择了任何其他 GPU 型号,则您的配置必须使用 N1 机器系列:

      gcloud compute machine-types list \
        --format="table(name,zone,guestCpus:sort=1)" \
        --filter="name:n1-standard-" \
        --zones=ZONES \
        --project=PROJECT_ID
      

    选择表格中列出两次的机器类型,表示该机器类型适用于两个副本可用区

  4. 现在,您已选择 GPU 型号和兼容的机器类型,请更新配置:

    1. 对于 NVIDIA A100 40GB GPU,请运行以下命令来更新配置:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=A2_MACHINE_TYPE
      

      A2_MACHINE_TYPE 替换为在上一步中确定的所选 A2 机器类型(例如 a2-highgpu-1g)。

    2. 对于所有其他 GPU 型号,请运行以下命令:

      gcloud beta workstations configs update \
        --project=PROJECT_ID \
        --region=LOCATION \
        --cluster=WORKSTATION_CLUSTER_ID \
        WORKSTATION_CONFIG_ID \
        --machine-type=N1_MACHINE_TYPE \
        --accelerator-type=ACCELERATOR_TYPE \
        --accelerator-count=ACCELERATOR_COUNT
      

      替换以下内容:

      • N1_MACHINE_TYPE:从 N1 系列中选择的机器类型(例如 n1-standard-2)。
      • ACCELERATOR_TYPE:所选 GPU 型号的名称(例如 nvidia-tesla-t4)。
      • ACCELERATOR_COUNT:要挂接到每个工作站的 GPU 数量(例如 124)。必须是小于 GPU 型号上限的二进制幂。

创建具有 GPU 的新工作站配置

如需创建新的工作站配置,以将 GPU 附加到基于该配置的工作站,请完成以下任一标签页中的步骤。

准备工作

Select the tab for how you plan to use the samples on this page:

Console

When you use the Google Cloud console to access Google Cloud services and APIs, you don't need to set up authentication.

gcloud

Install the Google Cloud CLI, then initialize it by running the following command:

gcloud init

REST

如需在本地开发环境中使用本页面上的 REST API 示例,请使用您提供给 gcloud CLI 的凭据。

    Install the Google Cloud CLI, then initialize it by running the following command:

    gcloud init

如需了解详情,请参阅 Google Cloud 身份验证文档中的使用 REST 时进行身份验证

选择一个 GPU 型号,然后查看 GPU 可用性表,选择一个至少有 两个可用区提供所选 GPU 型号的区域。

如果您在所选区域中还没有可用于创建新配置的集群,请按照相应步骤在该区域创建工作站集群

查看 Cloud Workstations 价格概览,了解配置 GPU 对费用有何影响。请注意,GPU 会附加到配置的快速启动池大小指定的预启动虚拟机 (VM)。

创建新配置

控制台

如需通过 Google Cloud 控制台创建具有 GPU 的新工作站配置,请执行以下操作:

  1. 在 Google Cloud 控制台中,前往工作站配置页面。

    前往“工作站配置”

  2. 工作站配置页面上,点击 add_box 创建

  3. 创建工作站配置页面的基本信息步骤中,在名称字段中为您的配置指定名称。

    工作站集群字段中,选择所选区域中的某个集群。

    点击继续进入机器设置步骤。

  4. 创建工作站配置页面的机器设置步骤中,首先点击切换开关,选择 GPU 而不是通用机器系列。

    1. 然后,在 Zones(可用区)字段中,选中您选择的 GPU 型号可用的两个可用区旁边的复选框(请参阅 GPU 可用性表)。

    2. GPU 类型字段中,选择要使用的 GPU 型号。

    3. GPU 数量字段中,选择要连接到每个工作站的 GPU 卡数量。

    4. 机器类型字段中,选择兼容的机器类型。

  5. 点击继续以配置环境设置和 IAM 政策,然后点击创建以预配新的工作站配置。

gcloud

运行 gcloud workstations configs create 命令,使用 gcloud CLI 创建带有 GPU 的新工作站配置。

  • 对于 NVIDIA A100 40GB GPU,请运行以下命令以创建配置:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=A2_MACHINE_TYPE
    

    替换以下内容:

    • PROJECT_ID:将包含新工作站配置的项目的 ID。
    • LOCATION:包含配置的工作站集群的位置。
    • WORKSTATION_CLUSTER_ID:将包含新工作站配置的工作站集群的名称。
    • WORKSTATION_CONFIG_ID:新工作站配置的名称。
    • REPLICA_ZONES:集群所在区域中恰好有两个可用区提供所选 GPU 型号(例如 us-central1-a,us-central1-c)。
    • A2_MACHINE_TYPE:所选的 A2 系列机器类型(例如 a2-highgpu-1g)。
  • 对于所有其他 GPU 型号,请运行以下命令以创建配置:

    gcloud beta workstations configs create \
      --project=PROJECT_ID \
      --region=LOCATION \
      --cluster=WORKSTATION_CLUSTER_ID \
      WORKSTATION_CONFIG_ID \
      --replica-zones=REPLICA_ZONES \
      --machine-type=N1_MACHINE_TYPE \
      --accelerator-type=ACCELERATOR_TYPE \
      --accelerator-count=ACCELERATOR_COUNT
    

    替换以下内容:

    • PROJECT_ID:将包含新工作站配置的项目的 ID。
    • LOCATION:包含配置的工作站集群的位置。
    • WORKSTATION_CLUSTER_ID:将包含新工作站配置的工作站集群的名称。
    • WORKSTATION_CONFIG_ID:新工作站配置的名称。
    • REPLICA_ZONES:集群所在区域中恰好有两个可用区提供所选 GPU 型号(例如 us-central1-a,us-central1-c)。
    • N1_MACHINE_TYPE:所选的 N1 系列机器类型(例如 n1-standard-2)。
    • ACCELERATOR_TYPE:所选 GPU 型号的名称(例如 nvidia-tesla-t4)。
    • ACCELERATOR_COUNT:要挂接到每个工作站的 GPU 数量(例如 124)。

NVIDIA GPU 设备驱动程序

Cloud Workstations 会在虚拟机启动期间在工作站的主机虚拟机上安装 NVIDIA 设备驱动程序。

如需确定工作站上安装了哪个版本的设备驱动程序,请运行以下命令:

nvidia-smi --query-gpu=name,driver_version --format=csv

按区域和可用区划分的 GPU 可用性

您可以按位置或 GPU 模型搜索,也可以同时使用两者。

可用区 位置 GPU 平台
asia-east1-a 亚太地区台湾彰化 T4、P100
asia-east1-b 亚太地区台湾彰化
asia-east1-c 亚太地区台湾彰化 T4、V100、P100
asia-east2-a 亚太地区香港 T4
asia-east2-b 亚太地区香港
asia-east2-c 亚太地区香港 T4
asia-northeast1-a 亚太地区日本东京 A100 40GB、T4
asia-northeast1-b 亚太地区日本东京
asia-northeast1-c 亚太地区日本东京 A100 40GB、T4
asia-northeast3-a 亚太地区韩国首尔 A100 40GB
asia-northeast3-b 亚太地区韩国首尔 A100 40GB、T4
asia-northeast3-c 亚太地区韩国首尔 T4
asia-south1-a 亚太地区印度孟买 T4
asia-south1-b 亚太地区印度孟买 T4
asia-south1-c 亚太地区印度孟买 T4
asia-southeast1-a 亚太地区新加坡裕廊西 T4
asia-southeast1-b 亚太地区新加坡裕廊西 A100 40GB、T4、P4
asia-southeast1-c 亚太地区新加坡裕廊西 A100 40GB、T4、P4
australia-southeast1-a 亚太地区澳大利亚悉尼 T4、P4
australia-southeast1-b 亚太地区澳大利亚悉尼 P4
australia-southeast1-c 亚太地区澳大利亚悉尼 T4、P100
europe-north1-a
europe-north1-b
europe-north1-c
欧洲芬兰哈米纳
europe-west1-b 欧洲比利时圣吉斯兰 T4、P100
europe-west1-c 欧洲比利时圣吉斯兰 T4
europe-west1-d 欧洲比利时圣吉斯兰 P100、T4
europe-west2-a
europe-west2-b
欧洲英国伦敦 T4
europe-west2-c 欧洲英国伦敦
europe-west3-a 欧洲德国法兰克福
europe-west3-b 欧洲德国法兰克福 T4
europe-west3-c 欧洲德国法兰克福
europe-west4-a 欧洲荷兰埃姆斯哈文 A100 40GB、T4、V100、P100
europe-west4-b 欧洲荷兰埃姆斯哈文 A100 40GB、T4、P4、V100
europe-west4-c 欧洲荷兰埃姆斯哈文 T4、P4、V100
europe-west6-a
europe-west6-b
europe-west6-c
欧洲瑞士苏黎世
europe-west8-a
europe-west8-b
europe-west8-c
欧洲意大利米兰
europe-west9-a
europe-west9-b
europe-west9-c
欧洲法国巴黎
europe-west12-a
europe-west12-b
europe-west12-c
欧洲意大利都灵
europe-southwest1-a
europe-southwest1-b
europe-southwest1-c
欧洲西班牙马德里
me-west1-a 特拉维夫、以色列、中东
me-west1-b 中东以色列特拉维夫 A100 40GB、T4
me-west1-c 特拉维夫、以色列、中东 A100 40GB、T4
northamerica-northeast1-a 北美洲魁北克省蒙特利尔 P4
northamerica-northeast1-b 北美洲魁北克省蒙特利尔 P4
northamerica-northeast1-c 北美洲魁北克省蒙特利尔 T4、P4
southamerica-east1-a 南美洲巴西圣保罗省奥萨斯库 T4
southamerica-east1-c 南美洲巴西圣保罗省奥萨斯库 T4
southamerica-west1-a
southamerica-west1-b
southamerica-west1-c
南美洲智利圣地亚哥
us-central1-a 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、T4、P4、V100
us-central1-b 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、T4、V100
us-central1-c 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、T4、P4、V100、P100
us-central1-f 北美洲爱荷华州康瑟布拉夫斯 A100 40GB、T4、V100、P100
us-east1-b 北美洲南卡罗来纳州蒙克斯科纳 A100 40GB、P100
us-east1-c 北美洲南卡罗来纳州蒙克斯科纳 T4、V100、P100
us-east1-d 北美洲南卡罗来纳州蒙克斯科纳 T4
us-east4-a
us-east4-b
us-east4-c
北美洲弗吉尼亚阿什本 T4、P4
us-east5-a
us-east5-b
us-east5-c
北美洲俄亥俄州哥伦布
us-west1-a 北美洲俄勒冈州达尔斯 T4、V100、P100
us-west1-b 北美洲俄勒冈州达尔斯 A100 40GB、T4、V100、P100
us-west1-c 北美洲俄勒冈州达尔斯
us-west4-a 北美洲内华达州拉斯维加斯 T4
us-west4-b 北美洲内华达州拉斯维加斯 A100 40GB、T4
us-west4-c 北美洲内华达州拉斯维加斯

后续步骤