Fundamentos con Vertex AI Search

En esta página se explica cómo puedes fundamentar las respuestas usando tus datos de Vertex AI Search.

Basar Gemini en tus datos

Si quieres usar la generación aumentada por recuperación (RAG), conecta tu modelo a los datos de tu sitio web o a tus conjuntos de documentos y, a continuación, usa Fundamentos con Vertex AI Search.

La fundamentación con tus datos admite un máximo de 10 fuentes de datos de Vertex AI Search y se puede combinar con la fundamentación con la Búsqueda de Google.

Modelos admitidos

En esta sección se enumeran los modelos que admiten la fundamentación con tus datos.

• Gemini 2.5 Flash-Lite
• Gemini 2.5 Flash con audio nativo de la API Live (versión preliminar)
• Gemini 2.0 Flash con la API Live (versión preliminar)
• Gemini 2.5 Pro
• Gemini 2.5 Flash
• Gemini 2.0 Flash

Requisitos previos

Para poder basar la salida del modelo en tus datos, haz lo siguiente:

1. En la consola de Google Cloud , ve a la página Gestión de identidades y accesos y busca el permiso discoveryengine.servingConfigs.search, que es necesario para que funcione el servicio de grounding.

   Ir a IAM

2. Habilita Aplicaciones de IA y activa la API.

3. Crea una fuente de datos de aplicaciones de IA y una aplicación.

Consulta la introducción a Vertex AI Search para obtener más información.

Habilitar aplicaciones de IA

1. En la Google Cloud consola, ve a la página Aplicaciones de IA.

   Aplicaciones de IA

2. Lee y acepta los términos del servicio y, a continuación, haz clic en Continuar y activar la API.

Aplicaciones de IA está disponible en la ubicación global o en las multirregiones eu y us. Para obtener más información, consulta Ubicaciones de las aplicaciones de IA.

Crear un almacén de datos en Aplicaciones de IA

Para crear un almacén de datos en Aplicaciones de IA, puedes elegir entre usar datos de sitios web o documentos.

Generar respuestas fundamentadas con tu almacén de datos

Sigue estas instrucciones para fundamentar un modelo con tus datos. Se admite un máximo de 10 almacenes de datos.

Si no sabes cuál es el ID de tu almacén de datos, sigue estos pasos:

1. En la Google Cloud consola, ve a la página Aplicaciones de IA y, en el menú de navegación, haz clic en Almacenes de datos.

   Ve a la página Almacenes de datos.

2. Haga clic en el nombre del almacén de datos.

3. En la página Datos de su almacén de datos, obtenga el ID del almacén de datos.

from google import genai
from google.genai.types import (
    GenerateContentConfig,
    HttpOptions,
    Retrieval,
    Tool,
    VertexAISearch,
)

client = genai.Client(http_options=HttpOptions(api_version="v1"))

# Load Data Store ID from Vertex AI Search
# datastore = "projects/111111111111/locations/global/collections/default_collection/dataStores/data-store-id"

response = client.models.generate_content(
    model="gemini-2.5-flash",
    contents="How do I make an appointment to renew my driver's license?",
    config=GenerateContentConfig(
        tools=[
            # Use Vertex AI Search Tool
            Tool(
                retrieval=Retrieval(
                    vertex_ai_search=VertexAISearch(
                        datastore=datastore,
                    )
                )
            )
        ],
    ),
)

print(response.text)
# Example response:
# 'The process for making an appointment to renew your driver's license varies depending on your location. To provide you with the most accurate instructions...'

POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent

{
  "contents": [{
    "role": "user",
    "parts": [{
      "text": "TEXT"
    }]
  }],
  "tools": [{
    "retrieval": {
      "vertexAiSearch": {
        "datastore": projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID
      }
    }
  }],
  "model": "projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID"
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent" | Select-Object -Expand Content

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "You can make an appointment on the website https://dmv.gov/"
          }
        ]
      },
      "finishReason": "STOP",
      "safetyRatings": [
        "..."
      ],
      "groundingMetadata": {
        "retrievalQueries": [
          "How to make appointment to renew driving license?"
        ],
        "groundingChunks": [
          {
            "retrievedContext": {
              "uri": "https://vertexaisearch.cloud.google.com/grounding-api-redirect/AXiHM.....QTN92V5ePQ==",
              "title": "dmv"
            }
          }
        ],
        "groundingSupport": [
          {
            "segment": {
              "startIndex": 25,
              "endIndex": 147
            },
            "segment_text": "ipsum lorem ...",
            "supportChunkIndices": [1, 2],
            "confidenceScore": [0.9541752, 0.97726375]
          },
          {
            "segment": {
              "startIndex": 294,
              "endIndex": 439
            },
            "segment_text": "ipsum lorem ...",
            "supportChunkIndices": [1],
            "confidenceScore": [0.9541752, 0.9325467]
          }
        ]
      }
    }
  ],
  "usageMetadata": {
    "..."
  }
}

Entender tu respuesta

La respuesta de ambas APIs incluye el texto generado por el LLM, que se denomina candidato. Si la petición de tu modelo se basa correctamente en tu fuente de datos, las respuestas incluirán metadatos de fundamentación, que identifican las partes de la respuesta que se han derivado de tus datos. Sin embargo, hay varios motivos por los que es posible que no se proporcionen estos metadatos y que la respuesta a la petición no se base en ellos. Entre estos motivos se incluyen la baja relevancia de la fuente o la información incompleta en la respuesta del modelo.

A continuación, se muestra un desglose de los datos de salida:

• Rol: indica el remitente de la respuesta fundamentada. Como la respuesta siempre contiene texto fundamentado, el rol siempre es model.
• Texto: la respuesta fundamentada generada por el LLM.
• Metadatos de fundamentación: información sobre la fuente de fundamentación, que contiene los siguientes elementos:
  • Fragmentos de fundamentación: lista de resultados de tu índice que respaldan la respuesta.
  • Fuentes: información sobre una afirmación específica de la respuesta que se puede usar para mostrar citas:
  • Segmento: parte de la respuesta del modelo que se basa en un fragmento de información.
  • Índice del fragmento de información de base: índice de los fragmentos de información de base de la lista de fragmentos de información de base que corresponde a esta reclamación.
  • Puntuaciones de confianza: número entre 0 y 1 que indica el grado de fundamentación de la afirmación en el conjunto de fragmentos de fundamentación proporcionado. No disponible en Gemini 2.5 y versiones posteriores.

Siguientes pasos

• Para saber cómo enviar solicitudes de peticiones de chat, consulta Conversación de varios turnos.
• Para obtener información sobre las prácticas recomendadas de la IA responsable y los filtros de seguridad de Vertex AI, consulta el artículo Prácticas recomendadas de seguridad.