Few-Shot-Beispielen einfügen

Sie können Beispiele in den Prompt einfügen, die dem Modell zeigen, wie eine gute Antwort aussieht. Das Modell versucht, Muster und Beziehungen aus den Beispielen zu identifizieren und diese beim Generieren einer Antwort anzuwenden. Prompts, die Beispiele enthalten, werden als Few-Shot-Prompts bezeichnet, während Prompts, die keine Beispiele enthalten, als Zero-Shot-Prompts bezeichnet werden. Häufig werden Few-Shot-Prompts verwendet, um die Formatierung, die Formulierung, den Geltungsbereich oder das allgemeine Muster der Modellantworten zu regulieren. Verwenden Sie spezifische und vielfältige Beispiele, damit das Modell den Fokus eingrenzen und genauere Ergebnisse generieren kann.

Wenn Sie Few-Shot-Beispiele in Ihre Prompts aufnehmen, werden sie zuverlässiger und effektiver. Sie sollten Few-Shot-Beispiele jedoch immer mit einer klaren Anleitung versehen. Ohne klare Anweisungen können Modelle unbeabsichtigte Muster oder Beziehungen aus den Beispielen übernehmen, was zu schlechten Ergebnissen führen kann.

Die wichtigsten Punkte dieser Strategie sind:

  • Wenn Sie Beispiele für Prompt-Antworten in den Prompt aufnehmen, helfen Sie dem Modell zu lernen zu antworten.
  • Verwenden Sie ein XML-ähnliches Markup, um die Beispiele auszuzeichnen.
  • Experimentieren Sie mit der Anzahl der einzubeziehenden Prompts. Je nach Modell sind zu wenige Beispiele beim Ändern des Modellverhaltens unwirksam. Zu viele Beispiele können zu einer Überanpassung des Modells führen.
  • Einheitliche Formatierung für alle Beispiele verwenden

Zero-Shot- und Few-Shot-Prompts im Vergleich

Im folgenden Zero-Shot-Prompt wird das Modell aufgefordert, die technischen Spezifikationen aus dem Text zu extrahieren und im JSON-Format auszugeben:

Extract the technical specifications from the text below in JSON format.

Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "Network": "5G",
      "RAM": "8GB",
      "Processor": "Tensor G2",
      "Storage": "128GB",
      "Color": "Lemongrass"
    }

Angenommen, Ihr Anwendungsfall erfordert eine bestimmte Formatierung, z. B. Kleinbuchstaben für Schlüsselnamen. Sie können dem Modell Beispiele in den Prompt einfügen, die zeigen, wie die JSON-Datei formatiert werden soll. Der folgende Few-Shot-Prompt zeigt ein Ausgabeformat, bei dem die JSON-Schlüssel in Kleinbuchstaben geschrieben sind:

Extract the technical specifications from the text below in a JSON format.

<EXAMPLE>
  INPUT: Google Nest Wifi, network speed up to 1200Mpbs, 2.4GHz and 5GHz frequencies, WP3 protocol

  OUTPUT:
  {
    "product":"Google Nest Wifi",
    "speed":"1200Mpbs",
    "frequencies": ["2.4GHz", "5GHz"],
    "protocol":"WP3"
  }
</EXAMPLE>

  Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "product": "Google Pixel 7",
      "network": "5G",
      "ram": "8GB",
      "processor": "Tensor G2",
      "storage": "128GB",
      "color": "Lemongrass"
    }

Beachten Sie, dass im Beispiel die Komponenten des Prompts durch eine XML-ähnliche Formatierung getrennt werden. Weitere Informationen dazu, wie Sie Few-Shot-Prompts mit einer XML-ähnlichen Formatierung optimal formatieren, finden Sie unter Prompts strukturieren.

Optimale Anzahl von Beispielen finden

Sie können mit der Anzahl der Beispiele experimentieren, die in dem Prompt für die gewünschten Ergebnisse bereitgestellt werden sollen. Modelle wie PaLM und Gemini können anhand einiger Beispiele häufig Muster erkennen. Möglicherweise müssen Sie jedoch mit der Anzahl der Beispiele experimentieren, die zu den gewünschten Ergebnissen führen. Wenn Sie zu viele Beispiele hinzufügen, kann das Modell die Antwort auf die Beispiele überanpassen.

Nächste Schritte