Fundamentación con Vertex AI Search

En esta página, se explica cómo puedes fundamentar las respuestas con tus datos de Vertex AI Search.

Fundamenta Gemini con tus datos

Si deseas realizar una generación aumentada de recuperación (RAG), conecta tu modelo a los datos de tu sitio web o a tus conjuntos de documentos y, luego, usa la fundamentación con Vertex AI Search.

La fundamentación en tus datos admite un máximo de 10 fuentes de datos de Vertex AI Search y se puede combinar con la Fundamentación con la Búsqueda de Google.

Modelos compatibles

En esta sección, se enumeran los modelos que admiten la fundamentación con tus datos.

• Gemini 2.5 Flash-Lite
• Gemini 2.5 Flash con audio nativo de la API de Live (versión preliminar)
• Gemini 2.0 Flash con la API en vivo (versión preliminar)
• Gemini 2.5 Pro
• Gemini 2.5 Flash
• Gemini 2.0 Flash

Requisitos previos

Antes de poder fundamentar el resultado del modelo en tus datos, haz lo siguiente:

1. En la consola de Google Cloud , ve a la página IAM y busca el permisodiscoveryengine.servingConfigs.search, que es necesario para que funcione el servicio de fundamentación.

   Ir a IAM

2. Habilita las APIs para AI Applications y activa la API.

3. Crea una fuente de datos y una aplicación de AI Applications.

Consulta la Introducción a Vertex AI Search para obtener más información.

Habilita AI Applications

1. En la consola de Google Cloud , ve a la página AI Applications.

   Aplicaciones basadas en IA

2. Lee y acepta las Condiciones del Servicio y, luego, haz clic en Continuar y activar la API.

Las aplicaciones de IA están disponibles en la ubicación global o en la multirregión eu y us. Para obtener más información, consulta Ubicaciones de las aplicaciones de IA.

Crea un almacén de datos en AI Applications

Para crear un almacén de datos en Aplicaciones basadas en IA, puedes optar por fundamentar la respuesta con datos de sitios web o documentos.

Genera respuestas fundamentadas con tu almacén de datos

Usa las siguientes instrucciones para fundamentar un modelo con tus datos. Se admite un máximo de 10 almacenes de datos.

Si no conoces el ID del almacén de datos, sigue estos pasos:

1. En la consola de Google Cloud , ve a la página AI Applications y, en el menú de navegación, haz clic en Data stores.

   Ve a la página Almacenes de datos.

2. Haz clic en el nombre de tu almacén de datos.

3. En la página Datos de tu almacén de datos, obtén el ID del almacén de datos.

from google import genai
from google.genai.types import (
    GenerateContentConfig,
    HttpOptions,
    Retrieval,
    Tool,
    VertexAISearch,
)

client = genai.Client(http_options=HttpOptions(api_version="v1"))

# Load Data Store ID from Vertex AI Search
# datastore = "projects/111111111111/locations/global/collections/default_collection/dataStores/data-store-id"

response = client.models.generate_content(
    model="gemini-2.5-flash",
    contents="How do I make an appointment to renew my driver's license?",
    config=GenerateContentConfig(
        tools=[
            # Use Vertex AI Search Tool
            Tool(
                retrieval=Retrieval(
                    vertex_ai_search=VertexAISearch(
                        datastore=datastore,
                    )
                )
            )
        ],
    ),
)

print(response.text)
# Example response:
# 'The process for making an appointment to renew your driver's license varies depending on your location. To provide you with the most accurate instructions...'

POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent

{
  "contents": [{
    "role": "user",
    "parts": [{
      "text": "TEXT"
    }]
  }],
  "tools": [{
    "retrieval": {
      "vertexAiSearch": {
        "datastore": projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID
      }
    }
  }],
  "model": "projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID"
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent" | Select-Object -Expand Content

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "You can make an appointment on the website https://dmv.gov/"
          }
        ]
      },
      "finishReason": "STOP",
      "safetyRatings": [
        "..."
      ],
      "groundingMetadata": {
        "retrievalQueries": [
          "How to make appointment to renew driving license?"
        ],
        "groundingChunks": [
          {
            "retrievedContext": {
              "uri": "https://vertexaisearch.cloud.google.com/grounding-api-redirect/AXiHM.....QTN92V5ePQ==",
              "title": "dmv"
            }
          }
        ],
        "groundingSupport": [
          {
            "segment": {
              "startIndex": 25,
              "endIndex": 147
            },
            "segment_text": "ipsum lorem ...",
            "supportChunkIndices": [1, 2],
            "confidenceScore": [0.9541752, 0.97726375]
          },
          {
            "segment": {
              "startIndex": 294,
              "endIndex": 439
            },
            "segment_text": "ipsum lorem ...",
            "supportChunkIndices": [1],
            "confidenceScore": [0.9541752, 0.9325467]
          }
        ]
      }
    }
  ],
  "usageMetadata": {
    "..."
  }
}

Comprende tu respuesta

La respuesta de ambas APIs incluye el texto generado por el LLM, que se denomina candidato. Si la instrucción de tu modelo se fundamenta correctamente en tu fuente de datos, las respuestas incluirán metadatos de fundamentación, que identifican las partes de la respuesta que se derivaron de tus datos. Sin embargo, existen varios motivos por los que es posible que no se proporcionen estos metadatos, y la respuesta a la instrucción no se basará en ellos. Entre estos motivos, se incluyen la baja relevancia de la fuente o la información incompleta en la respuesta del modelo.

A continuación, se muestra un desglose de los datos de salida:

• Rol: Indica el remitente de la respuesta fundamentada. Dado que la respuesta siempre contiene texto fundamentado, el rol siempre es model.
• Texto: Es la respuesta fundamentada que genera el LLM.
• Metadatos de fundamentación: Es información sobre la fuente de fundamentación, que contiene los siguientes elementos:
  • Fragmentos de fundamentación: Es una lista de resultados de tu índice que respaldan la respuesta.
  • Fundamentación compatible: Información sobre una afirmación específica dentro de la respuesta que se puede usar para mostrar citas:
  • Segmento: Es la parte de la respuesta del modelo que se fundamenta en un fragmento de fundamentación.
  • Índice de fragmento de fundamentación: Es el índice de los fragmentos de fundamentación en la lista de fragmentos de fundamentación que corresponde a esta afirmación.
  • Puntuaciones de confianza: Es un número del 0 al 1 que indica qué tan fundamentada está la afirmación en el conjunto proporcionado de fragmentos de fundamentación. No está disponible para Gemini 2.5 y versiones posteriores.

¿Qué sigue?

• Para obtener información sobre cómo enviar solicitudes de instrucciones de chat, consulta Chat de varios turnos.
• Para obtener información sobre las prácticas recomendadas de IA responsable y los filtros de seguridad de Vertex AI, consulta Prácticas recomendadas de seguridad.