关于 MIG 中的调整大小请求


本文档介绍托管式实例组 (MIG) 中请求调整大小的工作原理及其限制。使用调整大小请求,可以在 MIG 中一次性创建具有 GPU 的虚拟机 (VM) 实例。

在以下情况下,通过调整大小请求在 MIG 中一次性创建所有虚拟机非常有用:

  • 当您需要运行作业的准确数量的虚拟机时,调整大小请求可帮助您一次创建所有虚拟机。这有助于避免在您等待所有资源可用时,为 Compute Engine 创建的部分容量支付不必要的费用。

  • 如果您仅在特定时间内需要 GPU 虚拟机,那么调整大小请求将增加获得这些高需求资源的几率。

调整大小请求的工作原理

以下部分概述了大小调整请求的工作原理。

创建时

创建调整大小请求时,必须指定以下属性:

  • 如需定义要创建的虚拟机数量,请使用以下属性之一:

    • resizeBy:要创建的虚拟机数量。MIG 会自动生成虚拟机的名称。

    • instanceNames:要创建的虚拟机的名称列表。MIG 会创建任意数量的虚拟机,具体数量与您指定的名称数量相同。此属性目前为预览版,如果您的工作负载需要特定的虚拟机名称,此属性非常有用。

  • requestedRunDuration:虚拟机必须运行的时长。持续时间必须介于 10 分钟到 7 天之间。运行时长结束后,MIG 会自动删除虚拟机。在使用 Cluster Director 提供的功能和服务的 MIG 中创建调整大小请求时,此属性是可选的。在此类 MIG 中,如果您没有为调整大小请求指定运行时长,则虚拟机将一直运行,直到 MIG 使用的预留结束。

创建之后

创建调整大小请求后,该请求会经历不同的状态。下图显示了这些状态:

展示 Compute Engine 可将调整大小请求设置为的各种状态的示意图。

上图显示的状态如下:

  • CREATING:Compute Engine 正在创建调整大小请求,MIG 的目标大小会增加请求中指定的虚拟机数量,并且 MIG 会创建处于 CREATING 状态的托管实例。这些代管实例表示调整大小请求成功时 MIG 创建的虚拟机。

  • ACCEPTED:请求已创建并接受。底层调度器机制(即动态工作负载调度程序 (DWS))会根据请求中指定的资源可用性和运行时长来安排创建所请求的资源。如果所请求资源没有配额,或资源暂时不可用,DWS 会保留该请求,直到您获得足够的配额且资源可用为止。

  • SUCCEEDED:MIG 一次性创建了请求的所有虚拟机。虚拟机会一直运行,直到 MIG 在指定运行时长结束后删除它们或直到您删除它们。

  • FAILED:调整大小请求因技术错误而失败,并且 Compute Engine 将 MIG 的目标大小减少了请求的虚拟机数量。

  • CANCELLED:用户取消了调整大小请求。取消调整大小请求会阻止 MIG 创建所请求的资源。取消调整大小请求后,Compute Engine 会根据请求的虚拟机数量缩小 MIG 的目标大小,并在 14 天后自动删除该请求。或者,您可以在 Compute Engine 自动删除调整大小请求之前删除该请求

如果您删除包含调整大小请求的 MIG,则此操作也会删除该 MIG 中的所有调整大小请求和虚拟机。但是,如果您在 MIG 创建虚拟机以满足大小调整请求时删除 MIG,则 Compute Engine 将等待该 MIG 创建完请求的虚拟机数量以及大小调整请求的状态转换为 SUCCEEDED,然后再删除 MIG。

限制

以下部分概述了在 MIG 中创建调整大小请求的限制。

用于调整大小请求

对于调整大小请求,存在以下限制:

  • 您只能使用调整大小请求来获取 GPU 虚拟机。

  • 您只能取消已接受的 (ACCEPTED) 调整大小请求。

  • 只有在大小调整请求成功 (SUCCEEDED)、失败 (FAILED) 或用户取消请求 (CANCELLED) 之后,您才能将其删除。

对于实例模板

对于要在其中创建调整大小请求的 MIG 中使用的实例模板,存在以下限制:

对于 MIG

您要在其中创建调整大小请求的 MIG 存在以下限制:

具有所请求的运行时长的 GPU 虚拟机的配额

配置为在预定义的运行时间(7 天或更短时间)后自动删除的 GPU 虚拟机可以使用抢占式分配配额或标准分配配额。此行为旨在帮助您提高临时但不中断的工作负载的分配配额的可获取性。如需详细了解此行为,请参阅 GPU 虚拟机和抢占式分配配额

价格

创建、取消或删除调整大小请求不会产生任何费用。您只需为通过调整大小请求创建的虚拟机付费(从 MIG 创建虚拟机开始,到 MIG 在运行时长结束时自动删除虚拟机或者您手动删除虚拟机为止)。

如果 MIG 仅创建了所请求的部分虚拟机,并且未能创建其余的虚拟机,则在 MIG 自动删除已创建的虚拟机之前,这些虚拟机可能仍会产生费用。

后续步骤