Attivare i runtime predefiniti con le GPU

Per assistenza durante l'anteprima, invia un'email all'indirizzo vertex-notebooks-previews-external@google.com.

Questo documento descrive come attivare un runtime predefinito con GPU per gli utenti di Colab Enterprise in un progetto. Dopo aver attivato un runtime predefinito con GPU, gli utenti possono passare da un runtime predefinito normale a un runtime predefinito con GPU facendo clic su un pulsante nel notebook.

Questo documento è rivolto agli amministratori di Colab Enterprise che vogliono attivare i runtime predefiniti con GPU per altri utenti della loro organizzazione. Si presume che tu abbia conoscenza di quanto segue:

  • Come gestire i runtime e i modelli di runtime di Colab Enterprise.
  • Come utilizzare Identity and Access Management (IAM) per controllare l'accesso.

Panoramica

Per consentire agli utenti di passare a un runtime predefinito con GPU, un amministratore (roles/aiplatform.colabEnterpriseAdmin) o un account utente con l'autorizzazione aiplatform.notebookRuntimeTemplates.create deve prima creare un runtime predefinito con GPU.

La prima volta che crei un runtime predefinito con GPU, Colab Enterprise crea un nuovo modello di runtime predefinito che include le GPU nelle relative specifiche. Il runtime predefinito originale non è interessato ed esiste fino alla scadenza o all'eliminazione. Dopo aver creato il nuovo modello di runtime predefinito con GPU, qualsiasi utente con l'autorizzazione aiplatform.notebookRuntimes.assign per il progetto e l'autorizzazione aiplatform.notebookRuntimeTemplates.apply per il modello di runtime può creare e utilizzare un runtime predefinito con GPU. Queste autorizzazioni sono incluse nel ruolo Utente Colab Enterprise (roles/aiplatform.colabEnterpriseUser).

Specifiche

Il runtime predefinito con GPU ha specifiche diverse rispetto al runtime predefinito originale. I tipi di macchine, le GPU e i tipi di dischi dati disponibili variano in base alla regione, pertanto alcune specifiche possono essere diverse dal runtime predefinito originale.

La seguente tabella descrive le specifiche di un runtime predefinito con GPU in base alla regione del runtime predefinito.

Descrizione della regione Specifiche di runtime predefinite
Regioni che supportano le GPU L4
  • Tipo di macchina: g2-standard-4
  • Acceleratore: 1 acceleratore NVIDIA_L4
  • Disco dati: 100 GB pd-balanced
Regioni che non supportano le GPU L4, ma supportano le GPU T4
  • Tipo di macchina: n1-standard-4
  • Acceleratore: 1 acceleratore NVIDIA_TESLA_T4
  • Disco dati: 100 GB pd-standard
Regioni che non supportano GPU L4 o T4 I runtime predefiniti con GPU non sono supportati.

Disponibilità dell'acceleratore

Colab Enterprise supporta i runtime predefiniti con i seguenti tipi di acceleratore:

  • L4
  • T4

Per informazioni sulla disponibilità regionale di questi acceleratori, consulta Utilizzare gli acceleratori.

Prima di iniziare

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Make sure that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

    5.

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  6. Make sure that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

    8.

Ruoli obbligatori

Per assicurarti che il tuo account utente disponga delle autorizzazioni necessarie per attivare i runtime predefiniti con GPU in Colab Enterprise, chiedi all'amministratore di concedere al tuo account utente il ruolo IAM Colab Enterprise Admin (roles/aiplatform.colabEnterpriseAdmin) nel progetto.

Per ulteriori informazioni sulla concessione dei ruoli, consulta Gestire l'accesso a progetti, cartelle e organizzazioni.

L'amministratore potrebbe anche assegnare al tuo account utente le autorizzazioni richieste tramite ruoli personalizzati o altri ruoli predefiniti.

Attivare le GPU per i runtime predefiniti

Per attivare le GPU per i runtime predefiniti:

  1. Nella console Google Cloud, vai alla pagina I miei notebook di Colab Enterprise.

    Vai a I miei quaderni

  2. Nel menu Regione, seleziona la regione contenente il tuo blocco note.

  3. Fai clic sul blocco note che vuoi aprire. Se non hai ancora creato un blocco note, creane uno.

  4. Nel notebook, fai clic su Connetti.

  5. Dopo che Colab Enterprise si è connesso al runtime predefinito, nell'angolo in alto a destra del blocco note, fai clic sul pulsante per passare a un runtime predefinito con GPU. Ad esempio, se il tuo notebook si trova in una regione che supporta gli acceleratori L4, fai clic su Passa a L4.

Colab Enterprise crea un nuovo runtime predefinito con GPU e si connette al runtime. La possibilità di passare a un runtime predefinito con GPU è attivata per gli altri utenti del progetto.

Disattivare le GPU per i runtime predefiniti

Per disattivare la possibilità di passare a un runtime predefinito con GPU, devi eliminare il modello di runtime denominato Default with GPU. Vedi Eliminare un modello di runtime.

Limitazioni

  • I runtime predefiniti con GPU sono disponibili solo nelle regioni che supportano la disponibilità di acceleratori specifici. Consulta la disponibilità degli acceleratori.

  • Per poter passare a un runtime predefinito con GPU, devi prima collegare un notebook a un runtime predefinito.

Passaggi successivi