Questa pagina è stata tradotta dall'API Cloud Translation.

Creare e gestire i modelli Model Armor

Questa pagina descrive come creare, visualizzare, aggiornare ed eliminare i modelli Model Armor.

Creare un modello Model Armor

Console

Nella console Google Cloud , vai alla pagina Model Armor.

Vai a Model Armor
Verifica di visualizzare il progetto in cui hai attivato Model Armor.
Nella pagina Model Armor, fai clic su Crea modello. Viene visualizzata la pagina Crea modello.
Specifica l'ID modello. L'ID modello può contenere lettere, cifre o trattini. Non deve superare i 63 caratteri e non può contenere spazi o iniziare con un trattino.
Seleziona una regione per eseguire i modelli Model Armor. Non puoi modificare la regione in un secondo momento.
(Facoltativo) Aggiungi delle Etichette. Le etichette sono coppie chiave-valore che puoi utilizzare per raggruppare i modelli correlati.
Nella sezione Rilevamenti, configura le seguenti impostazioni di rilevamento:
- Rilevamento di URL dannosi: identifica gli indirizzi web (URL) progettati per danneggiare utenti o sistemi. Questi URL potrebbero indirizzare a siti di phishing, download di malware o altri attacchi informatici. Per ulteriori informazioni, vedi Rilevamento di URL dannosi.
- Rilevamento di prompt injection e jailbreaking: rileva contenuti dannosi e tentativi di jailbreak in un prompt. Per un'applicazione più rigorosa, imposta il livello di confidenza su Basso o superiore** per rilevare la maggior parte dei contenuti che probabilmente sono un tentativo di prompt injection e jailbreak. Per ulteriori informazioni, vedi Rilevamento di prompt injection e jailbreaking.
- Sensitive Data Protection: rileva i dati sensibili e aiuta a prevenirne l'esposizione accidentale da attacchi come quelli di prompt injection. Per ulteriori informazioni, consulta Sensitive Data Protection.
  
  Puoi impostare Sensitive Data Protection di base o avanzata.
  - Di base: utilizza infoType predefiniti per rilevare i tipi di dati sensibili. Per ulteriori informazioni sull'infoType predefinito, consulta la sezione Configurazione di base di Sensitive Data Protection.
  - Avanzato: utilizza un modello di ispezione definito nel servizio Sensitive Data Protection come singola origine per gli infoType sui dati sensibili.
    
    Se selezioni la protezione avanzata dei dati sensibili, devi specificare i seguenti parametri:
    - Modello di ispezione: Modelli per il salvataggio delle informazioni di configurazione per i job di scansione di ispezione, inclusi i rilevatori predefiniti o personalizzati da utilizzare. Inserisci il nome del modello nel seguente formato: projects/projectName/locations/locationID/inspectTemplates/templateName
    - (Facoltativo) Modello di anonimizzazione: modelli per il salvataggio delle informazioni di configurazione per i job di anonimizzazione, incluse le trasformazioni di infoType e dei set di dati strutturati. Inserisci un identificatore per il modello di anonimizzazione nel seguente formato: projects/projectName/locations/locationID/deidentifyTemplates/templateName
      
      Verifica che il modello di ispezione e il modello di anonimizzazione esistano in Sensitive Data Protection. Se il modello si trova in un progetto diverso, all'agente di servizio Model Armor devono essere concessi il ruolo Utente DLP (roles/dlp.user) e il ruolo Lettore DLP (roles/dlp.reader) per quel progetto.
      
      Nota: se specifichi solo Ispeziona modello, Model Armor segnala le corrispondenze del filtro se vengono rilevati dati sensibili. Se specifichi Modello di ispezione e Modello di anonimizzazione, Model Armor restituisce i dati sensibili anonimizzati e la versione sanificata dei prompt o delle risposte nel campo deidentifyResult.data.text del risultato.
Nella sezione AI responsabile, puoi impostare il livello di confidenza per ogni filtro dei contenuti. Livello di confidenza rappresenta la probabilità che i risultati corrispondano a un tipo di filtro dei contenuti. I valori possibili sono:
- Nessuno: non rilevare alcun tipo di contenuti.
- Basso e superiore: rileva contenuti con un livello di confidenza basso, medio o alto.
- Medio e superiore: rileva contenuti con un livello di confidenza medio o alto.
- Alto: rileva contenuti con un livello di confidenza alto.
Per un'applicazione più rigorosa, imposta il livello di confidenza su Basso o superiore per rilevare la maggior parte dei contenuti che rientrano in un tipo di filtro dei contenuti. Puoi anche selezionare il livello di confidenza per tutti i tipi di contenuti contemporaneamente.

Nota: se non specifichi un livello di confidenza, per impostazione predefinita viene impostato su MEDIO_E_SUPERIORE.
Fai clic su Crea.

gcloud

Esegui questo comando:

gcloud model-armor templates create TEMPLATE_ID --location LOCATION

Sostituisci quanto segue:

LOCATION è la posizione del modello.
TEMPLATE_ID è l'ID del modello.

Ecco un esempio con tutti i filtri.

 gcloud model-armor templates create --location LOCATION TEMPLATE_ID 

  --rai-settings-filters='[{ "filterType": "HATE_SPEECH", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "HARASSMENT", "confidenceLevel": "MEDIUM_AND_ABOVE" },{ "filterType": "SEXUALLY_EXPLICIT", "confidenceLevel": "MEDIUM_AND_ABOVE" }]' 

  --basic-config-filter-enforcement=enabled  

  --pi-and-jailbreak-filter-settings-enforcement=enabled 

  --pi-and-jailbreak-filter-settings-confidence-level=LOW_AND_ABOVE 

  --malicious-uri-filter-settings-enforcement=enabled 

  --template-metadata-custom-llm-response-safety-error-code=798 

  --template-metadata-custom-llm-response-safety-error-message="test template llm response evaluation failed" 

  --template-metadata-custom-prompt-safety-error-code=799 

  --template-metadata-custom-prompt-safety-error-message="test template prompt evaluation failed" 

  --template-metadata-ignore-partial-invocation-failures 

  --template-metadata-log-operations 

  --template-metadata-log-sanitize-operations

REST

Utilizza questo comando per creare un nuovo modello Model Armor.

  curl -X POST \
    -d "{'FILTER_CONFIG': {} }" \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
        "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

Sostituisci quanto segue:

FILTER_CONFIG è la configurazione del filtro per il modello.
PROJECT_ID è l'ID del progetto a cui appartiene il modello.
TEMPLATE_ID è l'ID del modello da creare.
LOCATION è la posizione del modello.

Segui questi passaggi per ottenere questo token.

L'esempio seguente spiega la configurazione del modello Model Armor.

Crea una configurazione (in questo caso, FILTER_CONFIG) dei filtri che vuoi che il modello Model Armor esamini e a quale livello di confidenza, se applicabile.
Crea un modello Model Armor (in questo caso, ma-template-id-1234) utilizzando la configurazione che hai creato.

Tieni presente che LOW_AND_ABOVE indica che verranno segnalati tutti i contenuti con una probabilità BASSA, MEDIA o ALTA.

  export FILTER_CONFIG='{
   "filterConfig": {
    "raiSettings": {
     "raiFilters": [{
       "filterType": "HATE_SPEECH",
       "confidenceLevel": "MEDIUM_AND_ABOVE"
      }, {
      "filterType": "HARASSMENT",
      "confidenceLevel": "HIGH"
    }, {
      "filterType": "DANGEROUS",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    },{
      "filterType": "SEXUALLY_EXPLICIT",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    }]
  },

  "piAndJailbreakFilterSettings": {
    "filterEnforcement": "ENABLED",
    "confidenceLevel": "LOW_AND_ABOVE"
  },
  "maliciousUriFilterSettings": {
    "filterEnforcement": "ENABLED"
  }
 }
}'

curl -X POST \
 -d  $FILTER_CONFIG \
 -H "Content-Type: application/json" \
 -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/templates?template_id=TEMPLATE_ID"

Per creare un modello Model Armor con il rilevamento multilingue attivato, devi trasmettere il parametro TEMPLATE_CONFIG nel comando. Questo parametro definisce la configurazione per le impostazioni di rilevamento della lingua.

Utilizza questo comando per creare un nuovo modello Model Armor con il rilevamento multilingue attivato.

curl -X POST \
    -d "{'TEMPLATE_CONFIG': {} }" \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
        "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates?template_id=TEMPLATE_ID"

L'esempio seguente illustra la configurazione del modello Model Armor con il rilevamento multilingue attivato.

  export TEMPLATE_CONFIG='{
   "filterConfig": {
    "raiSettings": {
     "raiFilters": [{
       "filterType": "HATE_SPEECH",
       "confidenceLevel": "MEDIUM_AND_ABOVE"
      }, {
      "filterType": "HARASSMENT",
      "confidenceLevel": "HIGH"
    }, {
      "filterType": "DANGEROUS",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    },{
      "filterType": "SEXUALLY_EXPLICIT",
      "confidenceLevel": "MEDIUM_AND_ABOVE"
    }]
  },

  "piAndJailbreakFilterSettings": {
    "filterEnforcement": "ENABLED",
    "confidenceLevel": "LOW_AND_ABOVE"
  },
  "maliciousUriFilterSettings": {
    "filterEnforcement": "ENABLED"
  }
 },
 "templateMetadata": {
    "multiLanguageDetection": {
      "enableMultiLanguageDetection": true
    }
  }
}'

curl -X POST \
 -d  $TEMPLATE_CONFIG  \
 -H "Content-Type: application/json" \
 -H "Authorization: Bearer $(gcloud auth print-access-token)" \
    "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION_ID/templates?template_id=TEMPLATE_ID"

Python

Per eseguire questo comando, devi prima inizializzare un client Model Armor in Python.

  request = modelarmor_v1.CreateTemplateRequest(
    parent="projects/PROJECT_ID/locations/LOCATION",
    template_id="TEMPLATE_ID",
    {
      "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
      "filter_config": FILTER_CONFIG
    }
  )
  response = client.create_template(request=request)

Sostituisci quanto segue:

FILTER_CONFIG è la configurazione del filtro per il modello.
PROJECT_ID è l'ID del progetto a cui appartiene il modello.
TEMPLATE_ID è l'ID del modello da creare.
LOCATION è la posizione del modello.

Per abilitare la registrazione completa su un modello, consulta Audit e registrazione della piattaforma Model Armor.

Visualizzare un modello Model Armor

Console

Nella console Google Cloud , vai alla pagina Model Armor.

Vai a Model Armor
Verifica di visualizzare il progetto in cui hai attivato Model Armor. Viene visualizzata la pagina Model Armor con l'elenco dei modelli creati per il tuo progetto.
Fai clic su un modello qualsiasi dell'elenco per visualizzarne i dettagli.

gcloud

Esegui questo comando:

gcloud model-armor templates describe TEMPLATE_ID --location LOCATION

Sostituisci quanto segue:

LOCATION è la posizione del modello.
TEMPLATE_ID è l'ID del modello.

REST

Esegui questo comando:

curl -X GET \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
  "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"

Sostituisci quanto segue:

PROJECT_ID è l'ID del progetto a cui appartiene il modello.
TEMPLATE_ID è l'ID del modello da visualizzare.
LOCATION è la posizione del modello.

Python

Per eseguire questo comando, devi prima inizializzare un client Model Armor in Python.

  request = modelarmor_v1.GetTemplateRequest(
    name="projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
    )
  response = client.get_template(request=request)

Sostituisci quanto segue:

PROJECT_ID è l'ID del progetto a cui appartiene il modello.
TEMPLATE_ID è l'ID del modello da visualizzare.
LOCATION è la posizione del modello.

Aggiorna un modello Model Armor

Console

Nella console Google Cloud , vai alla pagina Model Armor.

Vai a Model Armor
Verifica di visualizzare il progetto in cui hai attivato Model Armor. Viene visualizzata la pagina Model Armor con l'elenco dei modelli creati per la tua organizzazione.
Fai clic sul modello da aggiornare nell'elenco. Viene visualizzata la pagina Dettagli modello.
Fai clic su Modifica.
Aggiorna i parametri richiesti e fai clic su Salva.

gcloud

Esegui questo comando:

gcloud model-armor templates update TEMPLATE_ID --location LOCATION

Sostituisci quanto segue:

LOCATION è la posizione del modello.
TEMPLATE_ID è l'ID del modello.

REST

Esegui questo comando:

curl -X PATCH \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d $FILTER_CONFIG \
  "https://modelarmor.LOCATION.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID?update_mask=FILTER_CONFIG"

Sostituisci quanto segue:

PROJECT_ID è l'ID del progetto a cui appartiene il modello.
LOCATION è la posizione del modello.
TEMPLATE_ID è l'ID del modello.
FILTER_CONFIG è la rappresentazione JSON della configurazione del filtro.

Tutti gli altri campi sono immutabili. I tentativi di aggiornamento di altri campi (ad esempio, i tentativi di aggiornamento del nome del modello) generano un errore.

Python

Per eseguire questo comando, devi prima inizializzare un client Model Armor in Python.

  request = modelarmor_v1.UpdateTemplateRequest(
    template={
      "name": "projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
      "filter_config": FILTER_CONFIG
    }
  )
  response = client.update_template(request=request)

Sostituisci quanto segue:

FILTER_CONFIG è la configurazione del filtro per il modello.
PROJECT_ID è l'ID del progetto a cui appartiene il modello.
TEMPLATE_ID è l'ID del modello da aggiornare.
LOCATION è la posizione del modello.

Eliminare un modello di Model Armor

Console

Nella console Google Cloud , vai alla pagina Model Armor.

Vai a Model Armor
Verifica di visualizzare il progetto in cui hai attivato Model Armor. Viene visualizzata la pagina Model Armor con l'elenco dei modelli creati per la tua organizzazione.
Fai clic sul modello che vuoi eliminare dall'elenco. Viene visualizzata la pagina Dettagli modello.
Fai clic su Elimina. Viene visualizzata una finestra di dialogo di conferma.
Inserisci il nome del modello per confermare l'eliminazione e fai clic su Elimina.

gcloud

Esegui questo comando:

gcloud model-armor templates delete TEMPLATE_ID --location LOCATION

Sostituisci quanto segue:

LOCATION è la posizione del modello.
TEMPLATE_ID è l'ID del modello.

REST

Esegui questo comando:

curl -X DELETE \
-H "Authorization: Bearer $(gcloud auth print-access-token)"  \
  "https://modelarmor.LOCATION_ID.rep.googleapis.com/v1/projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID"

Sostituisci quanto segue:

PROJECT_ID è l'ID del progetto a cui appartiene il modello.
LOCATION è la posizione del modello.
TEMPLATE_ID è l'ID del modello.

Python

Per eseguire questo comando, devi prima inizializzare un client Model Armor in Python.

  request = modelarmor_v1.DeleteTemplateRequest(
    name="projects/PROJECT_ID/locations/LOCATION/templates/TEMPLATE_ID",
  )
  response = client.delete_template(request=request)

Sostituisci quanto segue:

PROJECT_ID è l'ID del progetto a cui appartiene il modello.
TEMPLATE_ID è l'ID del modello da eliminare.
LOCATION è la posizione del modello.

Metadati dei modelli

I metadati del modello Model Armor ti aiutano a configurare il comportamento di Model Armor, inclusi la gestione dei controlli di sicurezza, la gestione degli errori e il comportamento di logging.

I metadati del modello per Model Armor includono i seguenti campi:

Metadati	Tipo	Descrizione
multi_language_detection	Booleano	Consente il rilevamento multilingue.
enforcement_type	Enum	Definisce il tipo di applicazione. Utilizza uno dei seguenti valori: `INSPECT_ONLY`: esamina le richieste che violano le impostazioni configurate, ma non le blocca. `INSPECT_AND_BLOCK`: blocca le richieste che violano le impostazioni configurate.
log_template_operations	Booleano	Consente la registrazione delle operazioni sui modelli.
log_sanitize_operations	Booleano	Consente la registrazione delle operazioni di sanificazione.

Passaggi successivi

Scopri di più sulla panoramica di Model Armor.
Scopri di più sulle impostazioni di base di Model Armor.
Sanitizza prompt e risposte.
Risolvi i problemi di Model Armor.

Creare e gestire i modelli Model Armor Mantieni tutto organizzato con le raccolte Salva e classifica i contenuti in base alle tue preferenze.

Creare un modello Model Armor

Console

gcloud

REST

Python

Visualizzare un modello Model Armor

Console

gcloud

REST

Python

Aggiorna un modello Model Armor

Console

gcloud

REST

Python

Eliminare un modello di Model Armor

Console

gcloud

REST

Python

Metadati dei modelli

Passaggi successivi

Creare e gestire i modelli Model Armor