Piano di riserva generativo

La funzionalità di ricorso generativo utilizza gli ultimi modelli linguistici di grandi dimensioni (LLM) generativi di Google per generare risposte dell'agente virtuale quando l'input utente finale non corrisponde a un intento o a un parametro per la compilazione del modulo.

La funzionalità può essere configurata con un prompt di testo che indica all'LLM come rispondere. Puoi utilizzare un prompt di testo predefinito o aggiungerne uno personalizzato. Con il prompt predefinito, l'agente virtuale è in grado di gestire situazioni di conversazione di base. Ad esempio:

  • Saluta e congedati dall'utente.
  • Ripeti ciò che ha detto l'agente nel caso in cui l'utente non abbia capito.
  • Tieni la linea quando l'utente te lo chiede.
  • Riepiloga la conversazione.

Puoi attivare il fallback generativo sui gestori di eventi senza corrispondenza utilizzati in flussi, pagine o durante il completamento dei parametri. Quando la funzionalità di riserva generativa è attivata per un evento senza corrispondenza, ogni volta che si attiva, Conversational Agents (Dialogflow CX) tenterà di produrre una risposta generata che verrà detta all'utente. Se la generazione della risposta non va a buon fine, verrà emessa la risposta dell'agente prescritta regolare.

Limitazioni

La funzionalità è disponibile nelle lingue supportate dall'API Gemini.

Attiva il fallback generativo

Puoi attivare il fallback generativo nell'agente per i gestori degli eventi senza corrispondenza, che possono essere utilizzati per l'adempimento di flussi, pagine o parametri.

Attiva il fallback generativo per gli eventi di mancata corrispondenza di un intero flusso:

  1. Vai alla console Dialogflow CX.
  2. Seleziona un progetto.
  3. Seleziona un agente, quindi un flusso.
  4. Fai clic sulla Pagina iniziale del flusso per espanderla.
  5. Fai clic su sys.no-match-default in Gestione eventi.
  6. Seleziona Attiva il fallback generativo in Risposte dell'agente.
  7. Fai clic su Salva.

Attiva il fallback generativo per eventi di mancata corrispondenza specifici:

  1. Vai al gestore degli eventi Nessuna corrispondenza di destinazione (qualsiasi evento che inizia con Nessuna corrispondenza, ad esempio Nessuna corrispondenza predefinita, Nessuna corrispondenza 1 e così via).
  2. Seleziona Attiva il fallback generativo in Risposte dell'agente.
  3. Fai clic su Salva.

Configurare il fallback generativo

Come accennato in precedenza, la funzionalità di ripristino generativo invia una richiesta a un grande modello linguistico per produrre la risposta generata. La richiesta assume la forma di un prompt di testo, ovvero un mix di linguaggio naturale e informazioni sullo stato corrente dell'agente e della conversazione. Il prompt e la risposta generata vengono controllati in base a un elenco di espressioni vietate. Se contengono frasi vietate o sono altrimenti ritenute non sicure, la generazione non andrà a buon fine e verrà emessa la normale risposta prescritta (in L'agente dice nella stessa esecuzione).

La funzionalità può essere configurata in diversi modi:

  1. Seleziona un prompt predefinito.
  2. Definisci un prompt personalizzato.
  3. Aggiungi o rimuovi frasi dall'elenco delle frasi vietate.

Quando crei un prompt, oltre a una descrizione in linguaggio naturale del tipo di contesto da generare, puoi anche utilizzare i seguenti segnaposto:

Termine Definizione
$conversation La conversazione tra l'agente e l'utente, esclusa l'ultima frase dell'utente.
${conversation USER:"<user prefix>" AI:"<agent prefix>" TURNS:<turn count>} Una versione con parametri del segnaposto $conversation. Puoi personalizzare il prefisso dell'utente finale (USER), il prefisso dell'agente (AI) e il numero di svolte precedenti da includere (TURNS). Tutti i valori dei parametri segnaposto devono essere specificati. Ad esempio, ${conversation USER:"Human says:" AI:"Agent says:" TURNS:4}
$last-user-utterance L'ultima frase dell'utente.
$flow-description La descrizione del flusso attivo.
$route-descriptions Le descrizioni delle intenzioni delle intenzioni attive.

Assicurati di avere descrizioni con un buon flusso e un'intenzione chiara.

Scegli un prompt predefinito

  1. In Impostazioni agente, vai alla scheda AI generativa, quindi alla sottoscheda Piano di riserva generativo.
  2. Seleziona una delle opzioni nel menu a discesa Modello.
  3. Fai clic su Salva.

La funzionalità fornisce due prompt di modello, il modello Predefinito (che non è visibile) e il modello Esempio che può essere utilizzato come guida per scrivere i tuoi prompt.

Definisci il tuo prompt

  1. In Impostazioni agente, vai alla scheda AI generativa, quindi alla sottoscheda Piano di riserva generativo.
  2. Seleziona + Nuovo modello nel menu a discesa Modello.
  3. Aggiungi un nome del modello.
  4. Aggiungi un prompt di testo.
  5. Fai clic su Salva.

Puoi anche iniziare modificando il modello Esempio e salvandolo come nuovo modello:

  1. Seleziona Esempio nel menu a discesa Modello.
  2. Fai clic su Modifica.
  3. Modifica il nome del modello.
  4. Modifica il prompt di testo.
  5. Fai clic su Salva.

Modificare l'elenco di frasi vietate

  1. In Impostazioni agente, vai alla scheda IA generativa e poi alla sottoscheda Generali.
  2. Nella sezione Frasi vietate, controlla, aggiungi o rimuovi frasi dall'elenco.
  3. Fai clic su Salva.

Testare il fallback generativo

Puoi testare la funzionalità di ripristino generativo nel simulatore. Ogni volta che un'espressione dell'utente non corrisponde a un flusso/una pagina in cui l'evento di mancata corrispondenza è stato configurato per produrre una risposta generativa (e la generazione va a buon fine), l'agente la mostrerà.

Codelab

Consulta anche il Codelab di fallback generativo.

Risoluzione dei problemi

Se vuoi eseguire il debug della funzionalità, puoi controllare il prompt di input del modello linguistico di grandi dimensioni (LLM) risolto nel simulatore di Console Dialogflow:

  1. Fai clic sul pulsante Risposta originale:

    Risposta originale

  2. Individua il campo "Prompt di riserva generativo". Leggi questi campi come testo normale e controlla se l'input dell'LLM ha senso. Se una frase contiene $, esamina l'input del simulatore e chiarisci se il $ nei prompt è intenzionale (ad esempio, $ in price is $10 probabilmente sarebbe intenzionale, mentre visit $city probabilmente no e potrebbe implicare un uso improprio o un bug). In caso di dubbi, contatta l'assistenza.

  3. Se utilizzi un modello di prompt non predefinito, ma non vedi il campo "Prompt di riserva generativo ", contatta l'assistenza.