IA responsable

AI Applications permite que los desarrolladores aprovechen el poder de los modelos de base, la experiencia de búsqueda y las tecnologías de IA conversacional de Google para crear aplicaciones de IA generativa de nivel empresarial. Como tecnología en etapa inicial, sus capacidades y usos en evolución generan potencial para aplicaciones incorrectas, usos inadecuados y consecuencias no deseadas o imprevistas. Por ejemplo, las aplicaciones de IA pueden generar resultados inesperados, incluido texto ofensivo, insensible o incorrecto desde el punto de vista fáctico.

Debido a estos riesgos y complejidades, AI Applications se diseñó teniendo en cuenta los principios de la IA de Google. Sin embargo, es importante que los desarrolladores comprendan y prueben sus modelos para implementarlos de manera segura y responsable. Para ayudar a los desarrolladores, AI Applications tiene filtros de seguridad integrados que ayudan a los clientes a bloquear los resultados potencialmente dañinos dentro de su caso de uso. Para obtener más información, consulta Configuración de seguridad de Vertex AI Search.

Cuando AI Applications se integra en el contexto y el caso de uso único de un cliente, es posible que se deban tener en cuenta consideraciones adicionales de IA responsable y limitaciones de modelos. Recomendamos a los clientes que aprovechen las prácticas recomendadas de equidad, interpretabilidad, privacidad y seguridad.

Vertex AI Search ofrece filtros de SafeSearch para filtrar los resultados de la búsqueda de sitios web con contenido explícito. Los resultados explícitos pueden incluir contenido como pornografía, violencia e imágenes sangrientas. El filtro SafeSearch no está disponible para el contenido privado.

El resumen (tanto para la búsqueda en sitios web como para el contenido privado) filtra las respuestas que incluyen información peyorativa, sexual explícita, tóxica o violenta. Además, la respuesta de resumen contiene atributos de seguridad, que incluyen “categorías perjudiciales” y temas que podrían considerarse sensibles.

Búsqueda en sitio web

SafeSearch se puede aplicar al contenido público indexado por Vertex AI Search, como los sitios web. Cuando SafeSearch está activado, Vertex AI Search ayuda a filtrar el contenido explícito en los resultados de Vertex AI Search de un cliente para todas las búsquedas en imágenes, videos y sitios web. Si bien esos filtros no son 100% precisos, evaluamos y actualizamos continuamente las capacidades de filtrado.

En ciertos contextos y casos de uso, es posible que los clientes necesiten acceder a una amplia variedad de información, incluso si incluye contenido explícito, para recopilar estadísticas y resultados integrales de Vertex AI Search. Los clientes pueden habilitar y inhabilitar los filtros de seguridad con la API estableciendo safe_search en "true" o "false".

Para habilitar SafeSearch en Vertex AI Search, usa la siguiente llamada a la API:

curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Para habilitar SafeSearch para la función de búsqueda con seguimiento en Vertex AI Search, usa la siguiente llamada a la API:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

El parámetro de configuración safe_search se aplica a los resultados de la búsqueda y también a los resultados de Vertex AI Search, como el resumen (que se basa en los resultados de la búsqueda).

Los resultados de Vertex AI Search, como los resúmenes, se evalúan según una lista de atributos de seguridad que filtran el contenido potencialmente dañino incluso cuando safe_search está desactivado.

Resumen de contenido privado y búsqueda en sitios web

Los resultados de Vertex AI Search, como los resúmenes, se evalúan en función de una lista de atributos de seguridad, que filtra el contenido potencialmente dañino, como la información peyorativa, sexualmente explícita, tóxica o violenta, incluso cuando safe_search para la búsqueda de sitios web está desactivado. Además, puedes filtrar las respuestas que incluyen “categorías perjudiciales” y temas que podrían considerarse sensibles con safetyAttributes en la respuesta de la API de Vertex AI Search.

Respuestas de resguardo

Si el modelo de resumen responde a una solicitud con una cadena vacía o una respuesta genérica, significa que la entrada o la salida activan un filtro de seguridad. En la respuesta de la API de Vertex AI Search, SummarySkippedReason se establece en BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION si se detecta un posible incumplimiento de política.

Si crees que un filtro de seguridad se está activando de forma inadecuada, informa este problema a través de la consola deGoogle Cloud .

Recursos adicionales