Ativar ambientes de execução padrão com GPUs

Para receber suporte durante a prévia, envie um e-mail para vertex-notebooks-previews-external@google.com.

Este documento descreve como ativar um ambiente de execução padrão com GPUs para usuários do Colab Enterprise em um projeto. Depois de ativar um ambiente de execução padrão com GPUs, os usuários podem mudar de um ambiente de execução padrão padrão para um ambiente de execução padrão com GPUs clicando em um botão no notebook.

Este documento é destinado a administradores do Colab Enterprise que querem ativar runtimes padrão com GPUs para outros usuários na organização. Pressupomos que você tenha conhecimento sobre o seguinte:

  • Como gerenciar ambientes de execução e modelos de ambiente de execução do Colab Enterprise.
  • Como usar o Identity and Access Management (IAM) para controlar o acesso.

Visão geral

Para permitir que os usuários mudem para um ambiente de execução padrão com GPUs, um administrador (roles/aiplatform.colabEnterpriseAdmin) ou uma conta de usuário com a permissão aiplatform.notebookRuntimeTemplates.create precisa criar um ambiente de execução padrão com GPUs.

Na primeira vez que você cria um ambiente de execução padrão com GPUs, o Colab Enterprise cria um novo modelo de ambiente de execução padrão que inclui GPUs nas especificações. O ambiente de execução padrão original não é afetado e existe até expirar ou ser excluído. Depois que o novo modelo de ambiente de execução padrão com GPUs é criado, qualquer usuário com a permissão aiplatform.notebookRuntimes.assign no projeto e a permissão aiplatform.notebookRuntimeTemplates.apply no modelo de ambiente de execução pode criar e usar um ambiente de execução padrão com GPUs. Essas permissões estão incluídas no papel de usuário do Colab Enterprise (roles/aiplatform.colabEnterpriseUser).

Especificações

O ambiente de execução padrão com GPUs tem especificações diferentes do ambiente de execução padrão original. Os tipos de máquina, GPUs e discos de dados disponíveis variam de acordo com a região. Portanto, algumas especificações podem ser diferentes do runtime padrão original.

A tabela a seguir descreve as especificações de um ambiente de execução padrão com GPUs com base na região do ambiente de execução padrão.

Descrição da região Especificações de execução padrão
Regiões compatíveis com GPUs L4
  • Tipo de máquina: g2-standard-4
  • Acelerador: 1 acelerador NVIDIA_L4
  • Disco de dados: 100 GB pd-balanced
Regiões que não oferecem suporte a GPUs L4, mas oferecem suporte a GPUs T4
  • Tipo de máquina: n1-standard-4
  • Acelerador: 1 acelerador NVIDIA_TESLA_T4
  • Disco de dados: 100 GB pd-standard
Regiões que não oferecem suporte a GPUs L4 ou T4 Não há suporte para ambientes de execução padrão com GPUs.

Disponibilidade do Accelerator

O Colab Enterprise oferece suporte a ambientes de execução padrão com os seguintes tipos de acelerador:

  • L4
  • T4

Para saber mais sobre a disponibilidade regional desses aceleradores, consulte Como usar aceleradores.

Antes de começar

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.
  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Make sure that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  6. Make sure that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

Funções exigidas

Para garantir que sua conta de usuário tenha as permissões necessárias para ativar ambientes de execução padrão com GPUs no Colab Enterprise, peça ao administrador para conceder à sua conta de usuário o papel de Administrador do Colab Enterprise (roles/aiplatform.colabEnterpriseAdmin) do IAM no projeto.

Para mais informações sobre a concessão de papéis, consulte Gerenciar o acesso a projetos, pastas e organizações.

O administrador também pode conceder à sua conta de usuário as permissões necessárias via funções personalizadas ou outros papéis predefinidos.

Ativar GPUs para runtimes padrão

Para ativar as GPUs para runtimes padrão, faça o seguinte:

  1. No console do Google Cloud, acesse a página Meus notebooks do Colab Enterprise.

    Acessar "Meus cadernos"

  2. No menu Região, selecione a região que contém o notebook.

  3. Clique no notebook que você quer abrir. Crie um notebook se ainda não tiver feito isso.

  4. No seu notebook, clique em Connect.

  5. Depois que o Colab Enterprise se conectar ao ambiente de execução padrão, no canto superior direito do notebook, clique no botão para mudar para um ambiente de execução padrão com GPUs. Por exemplo, se o notebook estiver em uma região com suporte a aceleradores L4, clique em Mudar para L4.

O Colab Enterprise cria um novo ambiente de execução padrão com GPUs e se conecta a ele. A capacidade de mudar para um ambiente de execução padrão com GPUs está ativada para outros usuários no projeto.

Desative as GPUs para ambientes de execução padrão

Para desativar a capacidade de alternar para um ambiente de execução padrão com GPUs, exclua o modelo de ambiente de execução chamado Default with GPU. Consulte Excluir um modelo de ambiente de execução.

Limitações

  • Os ambientes de execução padrão com GPUs estão disponíveis apenas em regiões que oferecem suporte à disponibilidade específica do acelerador. Consulte a disponibilidade do acelerador.

  • Primeiro, conecte um notebook a um ambiente de execução padrão para poder alternar para um ambiente de execução padrão com GPUs.

A seguir