Modell abstimmen

Auf dieser Seite erfahren Sie, wie Sie über die Seitenleiste in Colab Enterprise mit Vertex AI interagieren, um ein Modell zu optimieren.

Wenn Sie über Code in Ihrem Colab Enterprise-Notebook auf Google Cloud Dienste und APIs zugreifen möchten, können Sie die Anmeldedaten verwenden, die mit Ihrem Google-Konto verknüpft sind. Weitere Informationen finden Sie unter Auf Google Cloud -Dienste und APIs zugreifen.

Die Seitenleiste ist eine zusätzliche Möglichkeit, mit Vertex AI zu interagieren, um Modelle zu optimieren, ohne die Colab Enterprise-Oberfläche zu verlassen.

Die Seitenleiste wird rechts neben einem geöffneten Notebook angezeigt.

Modellabstimmung in Vertex AI

Modellabstimmung ist eine effektive Methode, um große Modelle an Ihre Aufgaben anzupassen. Das ist ein wichtiger Schritt zur Verbesserung der Qualität und Effizienz des Modells. Die Modellabstimmung bietet folgende Vorteile:

  • Höhere Qualität für Ihre spezifischen Aufgaben
  • Erhöhte Robustheit des Modells
  • Niedrigere Inferenzlatenz und Kosten aufgrund kürzerer Prompts

Eine Übersicht über das Optimieren von Vertex AI-Modellen für Gemini finden Sie unter Einführung in die Optimierung.

Hinweise

  1. Sign in to your Google Cloud account. If you're new to Google Cloud, create an account to evaluate how our products perform in real-world scenarios. New customers also get $300 in free credits to run, test, and deploy workloads.

  2. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  3. Make sure that billing is enabled for your Google Cloud project.

  4. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

  5. In the Google Cloud console, on the project selector page, select or create a Google Cloud project.

    Go to project selector

  6. Make sure that billing is enabled for your Google Cloud project.

  7. Enable the Vertex AI, Dataform, and Compute Engine APIs.

    Enable the APIs

    8.

    Erforderliche Rollen

    Bitten Sie Ihren Administrator, Ihnen die folgenden IAM-Rollen für das Projekt zuzuweisen, damit Sie die Seitenleiste in einem Colab Enterprise-Notebook verwenden können:

    Weitere Informationen zum Zuweisen von Rollen finden Sie unter Zugriff auf Projekte, Ordner und Organisationen verwalten.

    Sie können die erforderlichen Berechtigungen auch über benutzerdefinierte Rollen oder andere vordefinierte Rollen erhalten.

    Modell abstimmen

    Sie können ein Modell in Vertex AI über die Seitenleiste in Colab Enterprise abstimmen.

    1. Rufen Sie in der Google Cloud Console die Colab Enterprise-Seite Meine Notebooks auf.

      Zu „Meine Notebooks“

    2. Wählen Sie im Menü Region die Region aus, in der sich Ihr Notebook befindet.

    3. Klicken Sie auf das Notebook, das Sie öffnen möchten. Wenn Sie noch kein Notebook erstellt haben, erstellen Sie ein Notebook.

    4. Klicken Sie rechts neben dem Notebook in der Seitenleiste auf die Schaltfläche  Optimierung.

      Die Seitenleiste maximiert den Tab Feinabstimmung.

    5. Klicken Sie auf die Schaltfläche Gemini-Modell abstimmen.

      Colab Enterprise fügt Ihrem Notebook Codezellen zum Abstimmen eines Gemini-Modells hinzu.

    6. Suchen Sie in Ihrem Notebook nach der Codezelle, in der die Parameterwerte gespeichert sind. Sie verwenden diese Parameter für die Interaktion mit Vertex AI.

    7. Aktualisieren Sie die Werte für die folgenden Parameter:

      • PROJECT_ID: Die ID des Projekts, in dem sich Ihr Notebook befindet.
      • REGION: Die Region, in der sich das Notebook befindet.
      • TUNED_MODEL_DISPLAY_NAME: Der Name Ihres optimierten Modells.

    8. Aktualisieren Sie in der nächsten Codezelle die Parameter für das Modell-Tuning:

      • source_model: Das Gemini-Modell, das Sie verwenden möchten, z. B. gemini-2.0-flash-001.
      • train_dataset: Die URL Ihres Trainingsdatensatzes.
      • validation_dataset: Die URL Ihres Validierungsdatasets.
      • Passen Sie die verbleibenden Parameter nach Bedarf an.

    9. Führen Sie die Codezellen aus, die der Seitenbereich Ihrem Notebook hinzugefügt hat.

    10. Klicken Sie nach dem Ausführen der letzten Codezelle auf die Schaltfläche  View tuning job (Abstimmungsjob ansehen).

    11. In der Seitenleiste werden Informationen zu Ihrem Modellabstimmungsjob angezeigt.

      • Auf dem Tab Beobachten werden Optimierungsmesswerte angezeigt, sobald sie verfügbar sind.
      • Auf dem Tab Dataset sehen Sie nach der Verarbeitung des Datasets eine Zusammenfassung und Messwerte dazu.
      • Auf dem Tab Details finden Sie Informationen zu Ihrem Abstimmungsjob, z. B. die verwendete Abstimmungsmethode und das verwendete Basismodell (Quellmodell).

    12. Nach Abschluss des Abstimmungsjobs können Sie direkt vom Tab Abstimmungsdetails zu einer Seite wechseln, auf der Sie Ihr Modell testen können. Klicken Sie auf Testen.

      Die Google Cloud Console wird auf der Seite Vertex AI-Textchat geöffnet, auf der Sie Ihr Modell testen können.

    Details eines Abstimmungsjobs ansehen

    Sie können die Details eines Abstimmungsjobs ansehen, auch wenn Sie den Abstimmungsjob nicht in Colab Enterprise erstellt und ausgeführt haben. Sie können die Details eines Abstimmungsjobs über die Seitenleiste in Colab Enterprise aufrufen.

    1. Rufen Sie in der Google Cloud Console die Colab Enterprise-Seite Meine Notebooks auf.

      Zu „Meine Notebooks“

    2. Wählen Sie im Menü Region die Region aus, in der sich Ihr Notebook befindet.

    3. Klicken Sie auf das Notebook, das Sie öffnen möchten. Wenn Sie noch kein Notebook erstellt haben, erstellen Sie ein Notebook.

    4. Klicken Sie rechts neben dem Notebook in der Seitenleiste auf die Schaltfläche  Optimierung.

      Die Seitenleiste maximiert den Tab Feinabstimmung.

    5. Klicken Sie auf die Schaltfläche Details des Abstimmungsjobs ansehen.

      In Colab Enterprise werden Ihrem Notebook Codezellen hinzugefügt, um die Details eines Abstimmungsjobs abzurufen.

    6. Suchen Sie in Ihrem Notebook nach der Codezelle, in der die Parameterwerte gespeichert sind. Sie verwenden diese Parameter für die Interaktion mit Vertex AI.

    7. Aktualisieren Sie die Werte für die folgenden Parameter:

      • PROJECT_ID: Die ID des Projekts, in dem sich Ihr Notebook befindet.
      • REGION: Die Region, in der sich das Notebook befindet.
      • TUNING_JOB_ID: Die ID Ihres Vertex AI-Abstimmungsjobs.

    8. Führen Sie die Codezellen aus, die der Seitenbereich Ihrem Notebook hinzugefügt hat.

    9. Klicken Sie nach dem Ausführen der letzten Codezelle auf die Schaltfläche  View tuning job (Abstimmungsjob ansehen).

    10. In der Seitenleiste werden Informationen zu Ihrem Modellabstimmungsjob angezeigt.

      • Auf dem Tab Beobachten werden Optimierungsmesswerte angezeigt, sobald sie verfügbar sind.
      • Auf dem Tab Dataset sehen Sie nach der Verarbeitung des Datasets eine Zusammenfassung und Messwerte dazu.
      • Auf dem Tab Details finden Sie Informationen zu Ihrem Abstimmungsjob, z. B. die verwendete Abstimmungsmethode und das verwendete Basismodell (Quellmodell).

    Nächste Schritte