AI responsabile

AI Applications consente agli sviluppatori di sfruttare la potenza dei modelli di base, l'esperienza di ricerca e le tecnologie di AI conversazionale di Google per creare applicazioni di AI generativa di livello enterprise. Essendo una tecnologia ancora in fase iniziale, le sue capacità e i suoi utilizzi in evoluzione generano un potenziale di applicazioni errate, usi impropri e conseguenze non volute o impreviste. Ad esempio, le applicazioni AI possono generare output inaspettati, tra cui testi offensivi, insensibili o oggettivamente errati.

Dati questi rischi e queste complessità, AI Applications è progettato in base ai principi di Google AI. Tuttavia, è importante che gli sviluppatori comprendano e testino i propri modelli per eseguirne il deployment in modo sicuro e responsabile. Per aiutare gli sviluppatori, AI Applications ha integrato filtri di sicurezza per aiutare i clienti a bloccare output potenzialmente dannosi nel loro caso d'uso. Per saperne di più, consulta Impostazioni di sicurezza per Vertex AI Search.

Quando AI Applications è integrato nel caso d'uso e nel contesto unici di un cliente, potrebbero essere necessarie ulteriori considerazioni sull'AI responsabile e limitazioni del modello. Invitiamo i clienti a sfruttare l'equità, l'interpretabilità, la privacy e la sicurezza delle best practice consigliate.

Vertex AI Search offre filtri SafeSearch per filtrare i risultati di ricerca espliciti dei siti web. I risultati espliciti potrebbero includere contenuti come pornografia, violenza e spargimenti di sangue. Il filtro SafeSearch non è disponibile per i contenuti privati.

Il riepilogo (sia per la ricerca sui siti web sia per i contenuti privati) filtra risposte come informazioni dispregiative, sessualmente esplicite, tossiche o violente. Inoltre, la risposta di riepilogo contiene attributi di sicurezza, tra cui "categorie dannose" e argomenti che potrebbero essere considerati sensibili.

Ricerca nel sito web

SafeSearch può essere applicato ai contenuti pubblici indicizzati da Vertex AI Search, come i siti web. Se SafeSearch è attivato, Vertex AI Search aiuta a filtrare i contenuti espliciti nei risultati di Vertex AI Search di un cliente per tutte le query relative a immagini, video e siti web. Anche se questi filtri non sono precisi al 100%, valutiamo e aggiorniamo continuamente le funzionalità di filtraggio.

In determinati contesti e casi d'uso, i clienti potrebbero richiedere l'accesso a un'ampia gamma di informazioni, anche se includono contenuti espliciti, per raccogliere approfondimenti e risultati completi da Vertex AI Search. I clienti possono attivare e disattivare i filtri di sicurezza utilizzando l'API impostando safe_search su "true" o "false".

Per abilitare SafeSearch per Vertex AI Search, utilizza la seguente chiamata API:

curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Per abilitare SafeSearch per la ricerca con follow-up in Vertex AI Search, utilizza la seguente chiamata API:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

L'impostazione safe_search si applica ai risultati di ricerca e anche agli output di Vertex AI Search, come il riepilogo (che si basa sui risultati di ricerca).

Gli output di Vertex AI Search, come il riepilogo, vengono valutati in base a un elenco di attributi di sicurezza che filtrano i contenuti potenzialmente dannosi anche quando safe_search è disattivato.

Riepilogo per la ricerca di contenuti privati e siti web

Gli output di Vertex AI Search, come il riepilogo, vengono valutati in base a un elenco di attributi di sicurezza, che filtrano i contenuti potenzialmente dannosi, come informazioni dispregiative, di natura sessuale esplicita, dannose o violente, anche quando safe_search per la ricerca sui siti web è disattivato. Inoltre, puoi filtrare le risposte che includono "categorie dannose" e argomenti che potrebbero essere considerati sensibili utilizzando safetyAttributes nella risposta dell'API Vertex AI Search.

Risposte di riserva

Se il modello di riepilogo risponde a una richiesta con una stringa vuota o una risposta generica, significa che l'input o l'output attiva un filtro di sicurezza. Nella risposta dell'API Vertex AI Search, SummarySkippedReason è impostato su BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION se viene rilevata una potenziale violazione delle norme.

Se ritieni che un filtro per la sicurezza venga attivato in modo inappropriato, segnala il problema tramite la consoleGoogle Cloud .

Risorse aggiuntive