Une IA responsable

Les applications d'IA permettent aux développeurs d'exploiter la puissance des modèles de fondation, l'expertise en recherche et les technologies d'IA conversationnelle de Google pour créer des applications d'IA générative de niveau professionnel. En tant que technologie précoce, ses capacités et ses utilisations en constante évolution peuvent être sujettes à une mauvaise application, une utilisation abusive et des conséquences imprévues ou inattendues. Par exemple, les applications d'IA peuvent générer des résultats inattendus, y compris du texte offensant, insensible ou factuellement incorrect.

Compte tenu de ces risques et de ces complexités, les applications d'IA sont conçues en tenant compte des Principes de Google concernant l'IA. Cependant, il est important que les développeurs comprennent et testent leurs modèles afin d'effectuer un déploiement en toute sécurité et de manière responsable. Pour aider les développeurs, les applications d'IA disposent de filtres de sécurité intégrés qui aident les clients à bloquer les sorties potentiellement dangereuses dans leur cas d'utilisation. Pour en savoir plus, consultez Paramètres de sécurité pour Vertex AI Search.

Lorsque les applications d'IA sont intégrées au cas d'utilisation et au contexte uniques d'un client, des considérations d'IA responsable supplémentaires et des limites de modèle peuvent être nécessaires. Nous encourageons les clients à adopter les pratiques recommandées d'équité, d'interprétabilité, de confidentialité et de sécurité.

Vertex AI Search propose des filtres SafeSearch pour filtrer les résultats de recherche de sites Web explicites. Les résultats explicites peuvent inclure des contenus comme de la pornographie, de la violence et du gore. Le filtrage SafeSearch n'est pas disponible pour le contenu privé.

La synthèse (pour la recherche sur le Web et le contenu privé) filtre les réponses telles que les informations dégradantes, à caractère sexuel explicite, toxiques ou violentes. De plus, la réponse de synthèse contient des attributs de sécurité, qui incluent les "catégories dangereuses" et les sujets pouvant être considérés comme sensibles.

Recherche pour site Web

SafeSearch peut être appliqué au contenu public indexé par Vertex AI Search, comme les sites Web. Lorsque SafeSearch est activé, Vertex AI Search filtre les contenus explicites dans les résultats de recherche Vertex AI d'un client pour toutes les requêtes effectuées sur les images, les vidéos et les sites Web. Bien que ces filtres ne soient pas fiables à 100 %, nous évaluons et mettons à jour en permanence les fonctionnalités de filtrage.

Dans certains contextes et cas d'utilisation, les clients peuvent avoir besoin d'accéder à un large éventail d'informations, même si elles incluent du contenu explicite, pour recueillir des insights et des résultats complets à partir de Vertex AI Search. Les clients peuvent activer et désactiver les filtres de sécurité à l'aide de l'API en définissant safe_search sur "true" ou "false".

Pour activer SafeSearch pour Vertex AI Search, utilisez l'appel d'API suivant :

curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Pour activer SafeSearch pour la recherche avec suivi dans Vertex AI Search, utilisez l'appel d'API suivant :

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Le paramètre safe_search s'applique aux résultats de recherche, mais aussi aux sorties Vertex AI Search, comme la synthèse (qui est basée sur les résultats de recherche).

Les résultats de Vertex AI Search, tels que les résumés, sont évalués par rapport à une liste d'attributs de sécurité qui filtrent le contenu potentiellement dangereux, même lorsque safe_search est désactivé.

Résumés pour le contenu privé et la recherche sur le site Web

Les résultats de Vertex AI Search, tels que les résumés, sont évalués en fonction d'une liste d'attributs de sécurité, qui filtrent le contenu potentiellement dangereux, comme les informations désobligeantes, sexuellement explicites, toxiques ou violentes, même lorsque safe_search pour la recherche sur le site Web est désactivé. De plus, vous pouvez filtrer les réponses qui incluent des "catégories dangereuses" et des sujets pouvant être considérés comme sensibles en utilisant safetyAttributes dans la réponse de l'API Vertex AI Search.

Réponses de remplacement

Si le modèle de synthèse répond à une requête avec une chaîne vide ou une réponse générique, cela signifie que l'entrée ou la sortie déclenche un filtre de sécurité. Dans la réponse de l'API Vertex AI Search, SummarySkippedReason est défini sur BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION si un cas potentiel de non-respect des règles est détecté.

Si vous pensez qu'un filtre de sécurité est déclenché de manière inappropriée, signalez ce problème dans la consoleGoogle Cloud .

Autres ressources