Ottimizza un modello

Questa pagina mostra come interagire con Vertex AI per ottimizzare un modello utilizzando il riquadro laterale in Colab Enterprise.

Per accedere Google Cloud a servizi e API eseguendo codice nel notebook Colab Enterprise, puoi utilizzare le credenziali associate al tuo Account Google. Per saperne di più, consulta Servizi e API di Access Google Cloud .

Il riquadro laterale è un modo aggiuntivo per interagire con Vertex AI per ottimizzare i modelli senza uscire dall'interfaccia di Colab Enterprise.

Il riquadro laterale viene visualizzato a destra di un blocco note aperto.

Ottimizzazione dei modelli in Vertex AI

L'ottimizzazione del modello è un modo efficace per personalizzare i modelli di grandi dimensioni in base alle tue attività. Si tratta di un passaggio fondamentale per migliorare la qualità e l'efficienza del modello. L'ottimizzazione del modello offre i seguenti vantaggi:

  • Qualità superiore per le tue attività specifiche
  • Maggiore robustezza del modello
  • Latenza e costi di inferenza inferiori grazie a prompt più brevi

Per una panoramica dell'ottimizzazione dei modelli Vertex AI per Gemini, consulta Introduzione all'ottimizzazione.

Prima di iniziare

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Make sure that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  6. Make sure that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

    8.

    Ruoli obbligatori

    Per ottenere le autorizzazioni necessarie per utilizzare il riquadro laterale in un blocco note Colab Enterprise, chiedi all'amministratore di concederti i seguenti ruoli IAM sul progetto:

    Per saperne di più sulla concessione dei ruoli, consulta Gestisci l'accesso a progetti, cartelle e organizzazioni.

    Potresti anche riuscire a ottenere le autorizzazioni richieste tramite i ruoli personalizzati o altri ruoli predefiniti.

    Ottimizza un modello

    Puoi ottimizzare un modello in Vertex AI utilizzando il riquadro laterale in Colab Enterprise.

    1. Nella console Google Cloud , vai alla pagina I miei blocchi note di Colab Enterprise.

      Vai a I miei notebook

    2. Nel menu Regione, seleziona la regione che contiene il notebook.

    3. Fai clic sul notebook che vuoi aprire. Se non hai ancora creato un blocco note, creane uno.

    4. A destra del notebook, nel riquadro laterale, fai clic sul pulsante  Ottimizzazione.

      Il riquadro laterale espande la scheda Sintonizzazione.

    5. Fai clic sul pulsante Ottimizza un modello Gemini.

      Colab Enterprise aggiunge celle di codice al notebook per ottimizzare un modello Gemini.

    6. Nel notebook, individua la cella di codice che memorizza i valori dei parametri. Utilizzerai questi parametri per interagire con Vertex AI.

    7. Aggiorna i valori dei seguenti parametri:

      • PROJECT_ID: l'ID del progetto in cui si trova il notebook.
      • REGION: La regione in cui si trova il notebook.
      • TUNED_MODEL_DISPLAY_NAME: Il nome del modello ottimizzato.

    8. Nella cella di codice successiva, aggiorna i parametri di messa a punto del modello:

      • source_model: il modello Gemini che vuoi utilizzare, ad esempio gemini-2.0-flash-001.
      • train_dataset: l'URL del set di dati di addestramento.
      • validation_dataset: L'URL del set di dati di convalida.
      • Regola i parametri rimanenti in base alle tue esigenze.

    9. Esegui le celle di codice che il riquadro laterale ha aggiunto al notebook.

    10. Dopo l'esecuzione dell'ultima cella di codice, fai clic sul pulsante  Visualizza job di ottimizzazione visualizzato.

    11. Il riquadro laterale mostra informazioni sul job di ottimizzazione del modello.

      • La scheda Monitora mostra le metriche di ottimizzazione quando sono pronte.
      • La scheda Set di dati mostra un riepilogo e le metriche relative al tuo set di dati dopo l'elaborazione.
      • La scheda Dettagli mostra informazioni sul job di ottimizzazione, ad esempio il metodo di ottimizzazione e il modello di base (modello di origine) che hai utilizzato.

    12. Al termine del job di ottimizzazione, puoi passare direttamente dalla scheda Dettagli ottimizzazione a una pagina in cui puoi testare il modello. Fai clic su Testa.

      La console Google Cloud si apre alla pagina Chat di testo di Vertex AI, dove puoi testare il modello.

    Visualizzare i dettagli di un job di ottimizzazione

    Puoi visualizzare i dettagli di un job di ottimizzazione, anche se non l'hai creato ed eseguito in Colab Enterprise. Puoi visualizzare i dettagli di un job di ottimizzazione utilizzando il riquadro laterale in Colab Enterprise.

    1. Nella console Google Cloud , vai alla pagina I miei blocchi note di Colab Enterprise.

      Vai a I miei notebook

    2. Nel menu Regione, seleziona la regione che contiene il notebook.

    3. Fai clic sul notebook che vuoi aprire. Se non hai ancora creato un blocco note, creane uno.

    4. A destra del notebook, nel riquadro laterale, fai clic sul pulsante  Ottimizzazione.

      Il riquadro laterale espande la scheda Sintonizzazione.

    5. Fai clic sul pulsante Visualizza i dettagli del job di ottimizzazione.

      Colab Enterprise aggiunge celle di codice al notebook per ottenere i dettagli di un job di ottimizzazione.

    6. Nel notebook, individua la cella di codice che memorizza i valori dei parametri. Utilizzerai questi parametri per interagire con Vertex AI.

    7. Aggiorna i valori dei seguenti parametri:

      • PROJECT_ID: l'ID del progetto in cui si trova il notebook.
      • REGION: La regione in cui si trova il notebook.
      • TUNING_JOB_ID: l'ID del job di ottimizzazione Vertex AI.

    8. Esegui le celle di codice che il riquadro laterale ha aggiunto al notebook.

    9. Dopo l'esecuzione dell'ultima cella di codice, fai clic sul pulsante  Visualizza job di ottimizzazione visualizzato.

    10. Il riquadro laterale mostra informazioni sul job di ottimizzazione del modello.

      • La scheda Monitora mostra le metriche di ottimizzazione quando sono pronte.
      • La scheda Set di dati mostra un riepilogo e le metriche relative al tuo set di dati dopo l'elaborazione.
      • La scheda Dettagli mostra informazioni sul job di ottimizzazione, ad esempio il metodo di ottimizzazione e il modello di base (modello di origine) che hai utilizzato.

    Passaggi successivi