IA responsable

Las aplicaciones de IA permiten que los desarrolladores aprovechen el poder de los modelos de base, la experiencia de búsqueda y las tecnologías de IA conversacional de Google para crear aplicaciones de IA generativa de nivel empresarial. Como tecnología en etapa inicial, las capacidades y los usos que están en evolución podrían generar aplicaciones inadecuadas, usos inadecuados y consecuencias no deseadas o imprevistas. Por ejemplo, las aplicaciones de IA pueden generar resultados que no se esperan, incluido un texto que sea ofensivo, insensible o factualmente incorrecto.

Debido a estos riesgos y complejidades, las aplicaciones de IA se diseñaron teniendo en cuenta los principios de la IA de Google. Sin embargo, es importante que los desarrolladores comprendan y prueben sus modelos para implementarlos de manera segura y responsable. Para ayudar a los desarrolladores, AI Applications tiene filtros de seguridad integrados que ayudan a los clientes a bloquear los resultados potencialmente dañinos dentro de su caso de uso. Para obtener más información, consulta Configuración de seguridad para la Búsqueda de Vertex AI.

Cuando las aplicaciones de IA se integran en el contexto y el caso de uso único de un cliente, es posible que se deban tener en cuenta consideraciones adicionales de IA responsable y limitaciones de modelos. Recomendamos a los clientes que aprovechen las prácticas recomendadas de equidad, interpretabilidad, privacidad y seguridad.

Vertex AI Search ofrece filtros de SafeSearch para filtrar los resultados de la búsqueda de sitios web explícitos. Los resultados con contenido explícito pueden incluir contenido como pornografía, violencia y escenas sangrientas. El filtro SafeSearch no está disponible para el contenido privado.

El resumen (tanto para la búsqueda de sitios web como para el contenido privado) filtra respuestas como información peyorativa, sexual explícita, tóxica o violenta. Además, la respuesta de resumen contiene atributos de seguridad, que incluyen “categorías perjudiciales” y temas que podrían considerarse sensibles.

Búsqueda en sitio web

SafeSearch se puede aplicar al contenido público indexado por Vertex AI Search, como los sitios web. Cuando SafeSearch está activada, Vertex AI Search ayuda a filtrar el contenido explícito de los resultados de Vertex AI Search de un cliente para todas las búsquedas en imágenes, videos y sitios web. Si bien esos filtros no son 100% precisos, evaluamos y actualizamos las capacidades de filtrado de forma continua.

En ciertos contextos y casos de uso, es posible que los clientes requieran acceso a una amplia variedad de información, incluso si incluye contenido explícito, para recopilar estadísticas y resultados integrales de Vertex AI Search. Los clientes pueden habilitar y disabilitar los filtros de seguridad con la API. Para ello, deben establecer safe_search en “verdadero” o “falso”.

Para habilitar SafeSearch para Vertex AI Search, usa la siguiente llamada a la API:

curl -X POST\
 -H "Authorization: Bearer $(gcloud auth application-default print-access-token)"
 -H "Content-Type: application/json"\
"https://discoveryengine.googleapis.com/v1/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/servingConfigs/default_config:search"
     -d '{
      "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

Para habilitar SafeSearch para la Búsqueda con seguimientos en Vertex AI Search, usa la siguiente llamada a la API:

curl -X POST \
-H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
"https://discoveryengine.googleapis.com/v1beta/projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID/conversations/CONVERSATION_ID:converse" \
-d '{
  "query": { "input": "FREE_TEXT"},
  "serving_config": "SERVING_CONFIG_ID",
  "safe_search": "true",
}'

La configuración de safe_search se aplica a los resultados de la búsqueda y también a los resultados de Vertex AI Search, como el resumen (que se basa en los resultados de la búsqueda).

Los resultados de la Búsqueda de Vertex AI, como el resumen, se evalúan en función de una lista de atributos de seguridad que filtran el contenido potencialmente dañino, incluso cuando safe_search está desactivada.

Resumen para el contenido privado y la búsqueda de sitios web

Los resultados de Vertex AI Search, como el resumen, se evalúan en función de una lista de atributos de seguridad, que filtra el contenido potencialmente dañino, como información peyorativa, sexual, tóxica o violenta, incluso cuando safe_search para la búsqueda de sitios web está desactivada. Además, puedes filtrar las respuestas que incluyen “categorías perjudiciales” y temas que podrían considerarse sensibles usando safetyAttributes en la respuesta de la API de Vertex AI Search.

Respuestas de resguardo

Si el modelo de resumen responde a una solicitud con una cadena vacía o una respuesta genérica, significa que la entrada o la salida activan un filtro de seguridad. En la respuesta de la API de Vertex AI Search, SummarySkippedReason se establece en BLOCKED_DUE_TO_POTENTIAL_POLICY_VIOLATION si se detecta un posible incumplimiento de política.

Si crees que un filtro de seguridad se activa de manera inadecuada, informa este problema a través de la consola de Google Cloud.

Recursos adicionales