Utilizzare le chiamate di funzione SAP con Gemini

Questo documento descrive come utilizzare le chiamate di funzione SAP con Gemini tramite l'SDK Vertex AI per ABAP.

Puoi definire funzioni personalizzate e fornirle ai modelli Gemini utilizzando la funzionalità di chiamata di funzioni. I modelli non invocano direttamente le funzioni personalizzate, ma generano un output di dati strutturati che specifica il nome della funzione e gli argomenti suggeriti. Questo output ti consente di scrivere applicazioni che acquisiscono l'output strutturato e chiamano API esterne. L'output dell'API risultante può quindi essere incorporato in un altro prompt del modello, consentendo risposte alle query più complete.

L'SDK Vertex AI per ABAP semplifica le chiamate di funzione per gli sviluppatori ABAP offrendo loro l'opportunità di richiamare la logica personalizzata scritta nei moduli di funzione SAP:

  • Trasmissione dei nomi dei moduli di funzione SAP al modello come dichiarazioni di funzione, che descrivono il nome della funzione, il suo scopo e i parametri correlati.
  • Impostazione dell'attivazione automatica del modulo di funzione SAP in modo implicito durante l'attivazione del modello.

Di seguito è riportato il percorso tipico di uno sviluppatore ABAP per richiamare la chiamata di funzioni SAP:

  1. L'utente fornisce un prompt di input.
  2. L'SDK passa il prompt di input e le dichiarazioni di funzione al modello.
  3. Il modello esamina il prompt e le funzioni dichiarate per dedurre la funzione da chiamare e suggerisce i valori dei parametri per chiamarla.
  4. Se l'invocazione automatica è impostata, l'SDK chiama il modulo di funzione SAP.
  5. L'SDK richiama quindi il modello con l'output della funzione chiamata.
  6. Il modello risponde con una risposta affidabile per il prompt finale arricchito con l'output della funzione chiamata.
  7. L'SDK restituisce la risposta all'utente.

Chiamate di funzioni SAP con Gemini

Se scegli di non invocare automaticamente i moduli di funzione SAP, l'SDK ti consente di utilizzare la funzionalità di chiamata di funzione senza invocare alcun modulo di funzione SAP. In questo caso, puoi seguire il flusso di lavoro tipico delle chiamate di funzione per utilizzare strumenti esterni come API e funzioni.

Prima di iniziare

Prima di utilizzare l'SDK Vertex AI per ABAP per le chiamate di funzione SAP con Gemini, assicurati che tu o i tuoi amministratori abbiate completato i seguenti prerequisiti:

Arricchisci il contesto del modello di IA di Gemini con i dati SAP

Questa sezione spiega come arricchire il contesto del modello di IA Gemini con i dati SAP utilizzando l'SDK Vertex AI per ABAP.

Crea un'istanza della classe di invocatore multimodale Gemini

Per invocare la chiamata di funzione in SAP, utilizza la classe /GOOG/CL_GENERATIVE_MODEL. Puoi creare un'istanza della classe passando la chiave del modello configurata nei parametri di generazione del modello.

DATA(lo_model) = NEW /goog/cl_generative_model( iv_model_key = 'MODEL_KEY' ).

Sostituisci MODEL_KEY con il nome della chiave del modello, configurata nei parametri di generazione del modello.

Creare un modulo funzione SAP

Per creare un modulo di funzione SAP per la chiamata automatica da parte dell'SDK, segui lo schema fornito:

Categoria Nome parametro Tipo associato
Importazione in corso IT_FUNCTION_PARAMETERS /GOOG/T_FUNCTION_PARAMETERS
In fase di esportazione EV_FUNCTION_RESPONSE STRING
Modifica in corso CV_PROMPT STRING
Eccezioni /GOOG/CX_SDK Exception Class

In base ai parametri di importazione, scrivi la logica personalizzata all'interno del modulo della funzione, che può recuperare i dati SAP tramite query SELECT o chiamare un'API o un modulo esterno per recuperare le informazioni mancanti.

Imposta il parametro di esportazione EV_FUNCTION_RESPONSE con le informazioni da fornire come feedback al contesto LLM. Puoi anche cambiare o modificare il testo del prompt in CV_PROMPT in base alla logica personalizzata e ai requisiti della tua attività per istruire ulteriormente l'LLM in base a diversi scenari aziendali.

Aggiungi la dichiarazione di funzione

Per aggiungere una dichiarazione di funzione al contesto LLM, puoi utilizzare il metodo ADD_FUNCTION_DECLARATION. Chiama il metodo ADD_FUNCTION_DECLARATION ogni volta che devi aggiungere una funzione al contesto.

DATA lt_parameters TYPE /goog/cl_generative_model=>tt_parameter_properties.
APPEND VALUE #( parameter_name = 'PARAMETER_NAME'
                type           = 'PARAMETER_TYPE'
                description    = 'PARAMETER_DESCRIPTION'
                is_required    = 'PARAMETER_IS_REQUIRED' ) TO lt_parameters.
lo_model->add_function_declaration( iv_name        = 'FUNCTION_MODULE_NAME'
                                    iv_description = 'FUNCTION_MODULE_DESCRIPTION'
                                    it_parameters  = lt_parameters ).

Sostituisci quanto segue:

  • PARAMETER_NAME: il nome del parametro.
  • PARAMETER_TYPE: il tipo di dati del parametro, come string, integer o boolean.
  • PARAMETER_DESCRIPTION: una spiegazione chiara dello scopo e del formato previsto del parametro.
  • PARAMETER_IS_REQUIRED: se questo parametro è obbligatorio per il funzionamento della funzione, imposta il valore su ABAP_TRUE.
  • FUNCTION_MODULE_NAME: nome del modulo di funzione SAP.
  • FUNCTION_MODULE_DESCRIPTION: descrizione del modulo della funzione SAP.

Impostare l'invocazione automatica del modulo di funzione SAP

Per impostare l'invocazione automatica della funzione SAP selezionata dal modello, puoi utilizzare il metodo SET_AUTO_INVOKE_SAP_FUNCTION. Se ABAP_TRUE viene passato nel parametro di importazione IV_AUTO_INVOKE, il modulo della funzione viene invocato dall'SDK e la relativa risposta viene inclusa nel contesto dell'LLM per generare la risposta finale.

Devi definire il modulo di funzione seguendo lo schema descritto nella sezione Creare il modulo di funzione SAP.

lo_model->set_auto_invoke_sap_function( abap_true ).

Generare contenuti con chiamate di funzione

Per passare il testo del prompt al modello Gemini, puoi utilizzare il metodo GENERATE_CONTENT. Per ottenere la risposta generata da Gemini con il contesto aggiuntivo aggiunto dal modulo di funzione SAP tramite la chiamata di funzione, utilizza il metodo GET_TEXT.

DATA(lv_response) = lo_model->generate_content( iv_prompt_text ='PROMPT'
                           )->get_text( ).

Sostituisci PROMPT con il prompt di testo.

Esempio di codice

Il seguente esempio di codice illustra come utilizzare le chiamate di funzioni SAP per ricevere una risposta finale dal modello.

DATA lt_parameters TYPE /goog/cl_generative_model=>tt_parameter_properties.
TRY.
  DATA(lo_model) = NEW /goog/cl_generative_model( iv_model_key = 'MODEL_KEY' ).
  APPEND VALUE #( parameter_name = 'PARAMETER_NAME'
                  type           = 'PARAMETER_TYPE'
                  description    = 'PARAMETER_DESCRIPTION'
                  is_required    = 'PARAMETER_IS_REQUIRED' ) TO lt_parameters.
  DATA(lv_response) = lo_model->add_function_declaration(
                                    iv_name        = 'FUNCTION_MODULE_NAME'
                                    iv_description = 'FUNCTION_MODULE_DESCRIPTION'
                                    it_parameters  = lt_parameters
                              )->set_auto_invoke_sap_function( abap_true
                              )->generate_content( iv_prompt_text ='PROMPT'
                              )->get_text( ).
  IF lv_response IS NOT INITIAL.
      cl_demo_output=>display( lv_response ).

  ENDIF.
 CATCH /goog/cx_sdk INTO DATA(lo_cx_sdk).
  cl_demo_output=>display( lo_cx_sdk->get_text( ) ).

ENDTRY.

Sostituisci quanto segue:

  • MODEL_KEY: il nome della chiave del modello, configurato nei parametri di generazione del modello.
  • PARAMETER_NAME: il nome del parametro.
  • PARAMETER_TYPE: il tipo di dati del parametro, come string, integer o boolean.
  • PARAMETER_DESCRIPTION: una spiegazione chiara dello scopo e del formato previsto del parametro.
  • PARAMETER_IS_REQUIRED: se questo parametro è obbligatorio per il funzionamento della funzione, imposta il valore su ABAP_TRUE.
  • FUNCTION_MODULE_NAME: nome del modulo di funzione SAP.
  • FUNCTION_MODULE_DESCRIPTION: descrizione del modulo della funzione SAP.
  • PROMPT: il prompt di testo.

Passaggi successivi