创建具有 GPU 虚拟机的 MIG

控制台

1. 转到实例模板页面。

   转到“实例模板”

2. 点击创建实例模板。

3. 在名称字段中，输入实例模板的名称。

4. 在机器配置部分中，执行以下操作：

   1. 点击 GPU 标签页。
   2. 在 GPU 类型列表中，选择 GPU 类型。
   3. 在 GPU 数量列表中，选择 GPU 的数量。
   4. 在机器类型列表中，选择一种机器类型。

5. 可选：如需更改启动磁盘类型或映像的默认值，请在启动磁盘部分中，点击更改。然后，按照提示更改启动磁盘。

6. 展开高级选项部分，然后执行以下操作：

   1. 展开管理部分。
   2. 在预留列表中，选择不使用。

7. 点击创建。

gcloud

使用 instance-templates create 命令创建实例模板。

以下命令会基于 Deep Learning VM Image 映像创建全球实例模板。

gcloud compute instance-templates create INSTANCE_TEMPLATE_NAME \
    --machine-type=MACHINE_TYPE \
    --image-project=deeplearning-platform-release \
    --image-family=common-cu121 \
    --maintenance-policy=TERMINATE \
    --reservation-affinity=none

替换以下内容：

• INSTANCE_TEMPLATE_NAME：实例模板的名称。
• MACHINE_TYPE：支持 GPU 的机器类型。如果您指定 N1 机器类型，请添加 --accelerator 标志以指定要挂接到虚拟机的 GPU 数量和类型。

REST

向 instanceTemplates.insert 方法发出 POST 请求以创建实例模板。

以下请求会基于 Deep Learning VM Image 映像创建全球实例模板。

POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/global/instanceTemplates

{
  "name": "INSTANCE_TEMPLATE_NAME",
  "properties": {
    "machineType": "MACHINE_TYPE",
    "disks": [
      {
        "boot": true,
        "mode": "READ_WRITE",
        "type": "PERSISTENT",
        "initializeParams": {
          "sourceImage": "projects/deeplearning-platform-release/global/images/family/common-cu121"
        }
      }
    ],
    "networkInterfaces": [
      {
        "accessConfigs": [
          {
            "name": "external-IP",
            "type": "ONE_TO_ONE_NAT"
          }
        ],
        "network": "global/networks/default"
      }
    ],
    "reservationAffinity": {
      "consumeReservationType": "NO_RESERVATION"
    },
    "scheduling": {
      "onHostMaintenance": "TERMINATE"
    }
  }
}

替换以下内容：

• PROJECT_ID：您要在其中创建 MIG 的项目的 ID。
• INSTANCE_TEMPLATE_NAME：实例模板的名称。
• MACHINE_TYPE：支持 GPU 的机器类型。如果您指定 N1 机器类型，请添加 guestAccelerators 字段以指定要挂接到虚拟机的 GPU 数量和类型。

控制台

1. 前往实例组页面。

   进入“实例组”

2. 点击创建实例组。

3. 在以下字段中输入相应信息：

   1. 名称：输入组的名称。
   2. 实例模板：选择您在上一部分中配置的实例模板。
   3. 在位置部分：
      1. 选择单个可用区。
      2. 在区域和可用区列表中，选择您要在其中创建实例组的位置。

   在后续步骤中删除自动扩缩配置并关闭修复后，系统会启用实例数字段，以便您进行修改。

4. 按如下方式删除自动扩缩配置：

   1. 在自动扩缩部分中，点击自动扩缩模式列表，然后点击删除自动扩缩配置。
   2. 在删除自动扩缩配置？对话框中，点击删除。

5. 按照以下步骤在 MIG 中关闭修复功能：

   在虚拟机实例生命周期部分中，将失败时的默认操作字段设置为无操作。

6. 指定 GPU 虚拟机的数量和运行时长，以创建调整大小请求：

   1. 在实例数字段中，输入您要一次性创建的所有 GPU 虚拟机的数量。

      

   2. 选中使用调整大小请求，一次创建所有虚拟机复选框。此时会显示用于输入运行时长的字段。

   3. 在请求的运行时长字段和单位列表中，指定 GPU 虚拟机的运行时长。时长必须介于 1 小时到 7 天之间。

7. 点击创建。

gcloud

1. 使用 instance-groups managed create 命令创建可用区级 MIG。

   gcloud compute instance-groups managed create INSTANCE_GROUP_NAME \
      --template=INSTANCE_TEMPLATE_NAME \
      --size=0 \
      --zone=ZONE \
      --default-action-on-vm-failure=do_nothing
   

2. 在 MIG 中，使用 instance-groups managed resize-requests create 命令创建调整大小请求。指定所需的 GPU 虚拟机数量以及您希望运行这些虚拟机的时长。

   gcloud compute instance-groups managed resize-requests create INSTANCE_GROUP_NAME \
      --resize-request=RESIZE_REQUEST_NAME \
      --resize-by=COUNT \
      --requested-run-duration=RUN_DURATION\
      --zone=ZONE
   

替换以下内容：

• INSTANCE_GROUP_NAME：MIG 的名称。
• INSTANCE_TEMPLATE_NAME：GPU 虚拟机的实例模板的名称。
• ZONE：提供 Compute Engine 服务的一个可用区。
• RESIZE_REQUEST_NAME：调整大小请求的名称。
• COUNT：要在实例组中一次性添加的所有虚拟机的数量。
• RUN_DURATION：您希望请求的虚拟机运行的时长。该值的格式必须为天数、小时数、分钟数或秒数，后面分别跟 d、h、m 和 s。例如，指定 30m 表示 30 分钟，或指定 1d2h3m4s 表示 1 天 2 小时 3 分钟 4 秒。该值必须介于 10 分钟到 7 天之间。

REST

1. 向 instanceGroupManagers.insert 方法发出 POST 请求以创建可用区级 MIG。

   POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers
   
   {
    "versions": [
      {
        "instanceTemplate": "global/instanceTemplates/INSTANCE_TEMPLATE_NAME"
      }
    ],
    "name": "INSTANCE_GROUP_NAME",
    "targetSize": 0,
    "instanceLifecyclePolicy": {
      "defaultActionOnFailure": "DO_NOTHING"
    }
   }
   

2. 在 MIG 中，向 instanceGroupManagerResizeRequests.insert 方法发出 POST 请求以创建调整大小请求。在请求正文中，指定要一次性创建的所有 GPU 虚拟机的数量以及您希望运行这些虚拟机的时长。

   POST https://compute.googleapis.com/compute/v1/projects/PROJECT_ID/zones/ZONE/instanceGroupManagers/INSTANCE_GROUP_NAME/resizeRequests
   
   {
    "name": "RESIZE_REQUEST_NAME",
    "resizeBy": COUNT,
    "requestedRunDuration": {
      "seconds": "RUN_DURATION"
    }
   }
   

替换以下内容：

• PROJECT_ID：您要在其中创建 MIG 的项目的 ID。
• INSTANCE_GROUP_NAME：MIG 的名称。
• INSTANCE_TEMPLATE_NAME：GPU 虚拟机的实例模板的名称。
• ZONE：提供 Compute Engine 服务的一个可用区。
• RESIZE_REQUEST_NAME：调整大小请求的名称。
• COUNT：要在实例组中一次性添加的所有虚拟机的数量。
• RUN_DURATION：您希望请求的虚拟机在 MIG 将其自动删除之前运行的时长（以秒为单位）。该值必须介于 600（600 秒，即 10 分钟）和 604800（604,800 秒，即 7 天）之间。