Includi esempi con pochi esempi

Puoi includere esempi nel prompt che mostrino al modello come dovrebbe essere una buona risposta. Il modello tenta di identificare pattern e relazioni dagli esempi e li applica durante la generazione di una risposta. I prompt che contengono esempi sono chiamati prompt few-shot, mentre i prompt che non forniscono esempi sono chiamati prompt zero-shot. I prompt few-shot vengono spesso utilizzati per regolare la formattazione, la formulazione, l'ambito o il pattern generale delle risposte del modello. Utilizza esempi specifici e vari per aiutare il modello a restringere il campo e generare risultati più accurati.

L'inclusione di esempi few-shot nei prompt contribuisce a renderli più affidabili ed efficaci. Tuttavia, dovresti sempre accompagnare gli esempi few-shot con istruzioni chiare. Senza istruzioni chiare, i modelli potrebbero rilevare uno schema o una relazione non intenzionale dagli esempi, il che può portare a risultati scadenti.

I punti chiave di questa strategia sono i seguenti:

  • L'inclusione di esempi di prompt-risposta nel prompt aiuta il modello a imparare a rispondere.
  • Utilizza un markup simile a XML per contrassegnare gli esempi.
  • Sperimenta con il numero di prompt da includere. A seconda del modello, un numero troppo basso di esempi non è efficace per modificare il comportamento del modello. Troppi esempi possono causare l'overfitting del modello.
  • Utilizzare una formattazione coerente in tutti gli esempi

Prompt zero-shot e few-shot

Il seguente prompt zero-shot chiede al modello di estrarre le specifiche tecniche dal testo e di generarle in formato JSON:

Extract the technical specifications from the text below in JSON format.

Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "Network": "5G",
      "RAM": "8GB",
      "Processor": "Tensor G2",
      "Storage": "128GB",
      "Color": "Lemongrass"
    }

Supponiamo che il tuo caso d'uso richieda una formattazione specifica, ad esempio l'utilizzo di nomi di chiavi in minuscolo. Puoi includere esempi nel prompt che mostrano al modello come formattare il JSON. Il seguente prompt few-shot mostra un formato di output in cui le chiavi JSON sono in minuscolo:

Extract the technical specifications from the text below in a JSON format.

<EXAMPLE>
  INPUT: Google Nest Wifi, network speed up to 1200Mpbs, 2.4GHz and 5GHz frequencies, WP3 protocol

  OUTPUT:
  {
    "product":"Google Nest Wifi",
    "speed":"1200Mpbs",
    "frequencies": ["2.4GHz", "5GHz"],
    "protocol":"WP3"
  }
</EXAMPLE>

  Google Pixel 7, 5G network, 8GB RAM, Tensor G2 processor, 128GB of storage, Lemongrass
  
    {
      "product": "Google Pixel 7",
      "network": "5G",
      "ram": "8GB",
      "processor": "Tensor G2",
      "storage": "128GB",
      "color": "Lemongrass"
    }

Tieni presente che l'esempio utilizza una formattazione simile a XML per separare i componenti del prompt. Per scoprire di più su come formattare in modo ottimale i prompt few-shot utilizzando una formattazione simile a XML, consulta Strutturare i prompt.

Trovare il numero ottimale di esempi

Puoi sperimentare con il numero di esempi da fornire nel prompt per ottenere i risultati più desiderati. Modelli come Gemini spesso riescono a individuare i pattern utilizzando pochi esempi, anche se potresti dover sperimentare con il numero di esempi che porta ai risultati desiderati. Allo stesso tempo, se includi troppi esempi, il modello potrebbe iniziare a fare overfitting della risposta agli esempi.

Passaggi successivi