启用带 GPU 的默认运行时

若要在预览版期间获得支持，请发送电子邮件至 vertex-notebooks-previews-external@google.com。

本文档介绍了如何为项目中的 Colab Enterprise 用户启用具有 GPU 的默认运行时。启用带 GPU 的默认运行时后，用户可以通过点击笔记本电脑中的按钮，从常规默认运行时切换到带 GPU 的默认运行时。

本文档适用于希望为组织中的其他用户启用带 GPU 的默认运行时的 Colab Enterprise 管理员。本教程假定您具备以下知识：

  • 如何管理 Colab Enterprise 运行时和运行时模板。
  • 如何使用 Identity and Access Management (IAM) 来控制访问权限。

概览

如需让用户切换到具有 GPU 的默认运行时，管理员 (roles/aiplatform.colabEnterpriseAdmin) 或具有 aiplatform.notebookRuntimeTemplates.create 权限的用户账号必须先创建具有 GPU 的默认运行时。

当您首次创建带 GPU 的默认运行时时，Colab Enterprise 会创建一个新的默认运行时模板，其规范中包含 GPU。原始默认运行时不会受到影响，并会一直存在，直到其到期或被删除为止。创建新的包含 GPU 的默认运行时模板后，任何对项目具有 aiplatform.notebookRuntimes.assign 权限且对运行时模板具有 aiplatform.notebookRuntimeTemplates.apply 权限的用户都可以创建和使用包含 GPU 的默认运行时。这些权限包含在 Colab Enterprise User (roles/aiplatform.colabEnterpriseUser) 角色中。

规格

带 GPU 的默认运行时与原始默认运行时的规范不同。可用的机器类型、GPU 和数据磁盘类型因区域而异，因此某些规格可能会与原始默认运行时不同。

下表介绍了具有 GPU 的默认运行时的规范，具体取决于默认运行时的区域。

区域说明 默认运行时规范
支持 L4 GPU 的区域
  • 机器类型：g2-standard-4
  • 加速器：1 个 NVIDIA_L4 加速器
  • 数据磁盘：100 GB pd-balanced
不支持 L4 GPU 但支持 T4 GPU 的区域
  • 机器类型：n1-standard-4
  • 加速器：1 个 NVIDIA_TESLA_T4 加速器
  • 数据磁盘：100 GB pd-standard
不支持 L4 或 T4 GPU 的区域 不支持带 GPU 的默认运行时。

加速器可用性

Colab Enterprise 支持具有以下加速器类型的默认运行时：

  • L4
  • T4

如需了解这些加速器在各个区域的可用性，请参阅使用加速器。

准备工作

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Make sure that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

    5.

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  6. Make sure that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

    8.

所需的角色

如需确保您的用户账号具有在 Colab Enterprise 中启用带有 GPU 的默认运行时所需的权限，请让您的管理员为您的用户账号授予项目的 Colab Enterprise Admin (roles/aiplatform.colabEnterpriseAdmin) IAM 角色。

如需详细了解如何授予角色，请参阅管理对项目、文件夹和组织的访问权限。

您的管理员还可以通过自定义角色或其他预定义角色向您的用户账号授予所需的权限。

为默认运行时启用 GPU

如需为默认运行时启用 GPU，请执行以下操作：

  1. 在 Google Cloud 控制台中，前往 Colab Enterprise 我的笔记本页面。

    前往我的笔记本

  2. 在区域菜单中，选择包含您的笔记本的区域。

  3. 点击您要打开的笔记本。如果您尚未创建笔记本，请创建一个笔记本。

  4. 在笔记本中，点击连接。

  5. Colab Enterprise 连接到默认运行时后，请点击笔记本右上角的按钮，切换到具有 GPU 的默认运行时。例如，如果您的笔记本电脑位于支持 L4 加速器的区域，请点击切换到 L4。

Colab Enterprise 会创建一个带有 GPU 的新默认运行时，然后连接到该运行时。为项目中的其他用户启用切换到具有 GPU 的默认运行时的功能。

为默认运行时关闭 GPU

如需停用切换到带 GPU 的默认运行时的功能，您必须删除名为 Default with GPU 的运行时模板。请参阅删除运行时模板。

限制

  • 带 GPU 的默认运行时仅适用于支持特定加速器可用性的区域。请参阅加速器可用性。

  • 您必须先将笔记本连接到默认运行时，才能切换到带 GPU 的默认运行时。

后续步骤