Habilita los tiempos de ejecución predeterminados con GPUs

Para obtener asistencia durante la vista previa, envía un correo electrónico a vertex-notebooks-previews-external@google.com.

En este documento, se describe cómo habilitar un tiempo de ejecución predeterminado con GPUs para los usuarios de Colab Enterprise en un proyecto. Después de habilitar un entorno de ejecución predeterminado con GPUs, los usuarios pueden cambiar de un entorno de ejecución predeterminado normal a uno con GPUs haciendo clic en un botón de su notebook.

Este documento está dirigido a los administradores de Colab Enterprise que deseen habilitar tiempos de ejecución predeterminados con GPUs para otros usuarios de su organización. Se supone que tienes conocimientos sobre lo siguiente:

  • Cómo administrar los entornos de ejecución y las plantillas de entorno de ejecución de Colab Enterprise
  • Cómo usar Identity and Access Management (IAM) para controlar el acceso

Descripción general

Para permitir que los usuarios cambien a un entorno de ejecución predeterminado con GPUs, un administrador (roles/aiplatform.colabEnterpriseAdmin) o una cuenta de usuario con el permiso aiplatform.notebookRuntimeTemplates.create primero deben crear un entorno de ejecución predeterminado con GPUs.

La primera vez que creas un entorno de ejecución predeterminado con GPUs, Colab Enterprise crea una nueva plantilla de entorno de ejecución predeterminado que incluye GPUs en sus especificaciones. El entorno de ejecución predeterminado original no se ve afectado y existe hasta que vence o se borra. Después de que se cree la nueva plantilla de entorno de ejecución predeterminado con GPU, cualquier usuario con el permiso aiplatform.notebookRuntimes.assign en el proyecto y el permiso aiplatform.notebookRuntimeTemplates.apply en la plantilla de entorno de ejecución podrá crear y usar un entorno de ejecución predeterminado con GPU. Estos permisos se incluyen en el rol de usuario de Colab Enterprise (roles/aiplatform.colabEnterpriseUser).

Especificaciones

El entorno de ejecución predeterminado con GPUs tiene especificaciones diferentes a las del entorno de ejecución predeterminado original. Los tipos de máquinas, las GPUs y los tipos de discos de datos disponibles varían según la región, por lo que algunas especificaciones pueden ser diferentes de tu entorno de ejecución predeterminado original.

En la siguiente tabla, se describen las especificaciones de un tiempo de ejecución predeterminado con GPUs según la región del tiempo de ejecución predeterminado.

Descripción de la región Especificaciones de entorno de ejecución predeterminado
Regiones que admiten GPUs L4
  • Tipo de máquina: g2-standard-4
  • Acelerador: 1 acelerador NVIDIA_L4
  • Disco de datos: 100 GB pd-balanced
Regiones que no admiten GPUs L4, pero sí admiten GPUs T4
  • Tipo de máquina: n1-standard-4
  • Acelerador: 1 acelerador NVIDIA_TESLA_T4
  • Disco de datos: 100 GB pd-standard
Regiones que no admiten GPU L4 o T4 No se admiten los tiempos de ejecución predeterminados con GPUs.

Disponibilidad del acelerador

Colab Enterprise admite entornos de ejecución predeterminados con los siguientes tipos de aceleradores:

  • L4
  • T4

Para obtener información sobre la disponibilidad regional de estos aceleradores, consulta Usa aceleradores.

Antes de comenzar

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Make sure that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  6. Make sure that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

    8.

    Roles obligatorios

    Para asegurarte de que tu cuenta de usuario tenga los permisos necesarios para habilitar los tiempos de ejecución predeterminados con GPUs en Colab Enterprise, pídele a tu administrador que le otorgue a tu cuenta de usuario el rol de administrador de Colab Enterprise (roles/aiplatform.colabEnterpriseAdmin) IAM role on the project.

    For more information about granting roles, see Manage access to projects, folders, and organizations.

    Your administrator might also be able to give your user account the required permissions through custom roles or other predefined roles.

    Enable GPUs for default runtimes

    To enable GPUs for default runtimes, do the following:

    1. In the Google Cloud console, go to the Colab Enterprise My notebooks page.

      Go to My notebooks

    2. In the Region menu, select the region that contains your notebook.

    3. Click the notebook that you want to open. If you haven't created a notebook yet, create a notebook.

    4. In your notebook, click Connect.

    5. After Colab Enterprise connects to the default runtime, in the top right corner of your notebook, click the button to switch to a default runtime with GPUs. For example, if your notebook is in a region that supports L4 accelerators, click Switch to L4.

    Colab Enterprise creates a new default runtime that has GPUs, and then connects to the runtime. The ability to switch to a default runtime with GPUs is enabled for other users in the project.

    Turn off GPUs for default runtimes

    To turn off the ability to switch to a default runtime with GPUs, you must delete the runtime template named Default with GPU. See Delete a runtime template.

    Limitations

    • Default runtimes with GPUs are only available in regions that support specific accelerator availability. See Accelerator availability.

    • You must first connect a notebook to a default runtime to be able to switch to a default runtime with GPUs.

    What's next