Memahami data Anda

Tetap teratur dengan koleksi Simpan dan kategorikan konten berdasarkan preferensi Anda.

Halaman ini menjelaskan cara me-grounding respons menggunakan data Anda dari Vertex AI Search.

Menghubungkan Gemini ke data Anda

Jika Anda ingin melakukan retrieval-augmented generation (RAG), hubungkan model Anda ke data situs atau kumpulan dokumen Anda, lalu gunakan Grounding dengan Vertex AI Search.

Grounding ke data Anda mendukung maksimal 10 sumber data Vertex AI Search dan dapat digabungkan dengan Grounding dengan Google Penelusuran.

Model yang didukung

Bagian ini mencantumkan model yang mendukung grounding dengan data Anda.

• Vertex AI Model Optimizer
• Gemini 2.5 Pro
• Gemini 2.0 Flash

Prasyarat

Sebelum Anda dapat men-grounding output model ke data Anda, lakukan hal berikut:

1. Di Google Cloud console, buka halaman IAM, lalu telusuri izin discoveryengine.servingConfigs.search, yang diperlukan agar layanan pembumian berfungsi.

   Buka IAM

2. Aktifkan Aplikasi AI dan aktifkan API.

3. Buat sumber data dan aplikasi Aplikasi AI.

Lihat Pengantar Vertex AI Search untuk mengetahui informasi selengkapnya.

Mengaktifkan Aplikasi AI

1. Di Google Cloud console, buka halaman AI Applications.

   Aplikasi AI

2. Baca dan setujui persyaratan layanan, lalu klik Continue and activate the API.

Aplikasi AI tersedia di lokasi global, atau multi-region eu dan us. Untuk mempelajari lebih lanjut, lihat Lokasi Aplikasi AI

Membuat penyimpanan data di Aplikasi AI

Untuk membuat penyimpanan data di Aplikasi AI, Anda dapat memilih untuk melakukan grounding dengan data atau dokumen situs.

Membuat respons yang relevan dengan penyimpanan data Anda

Gunakan petunjuk berikut untuk melandasi model dengan data Anda. Maksimum 10 penyimpanan data didukung.

Jika Anda tidak mengetahui ID penyimpanan data, ikuti langkah-langkah berikut:

1. Di Google Cloud console, buka halaman AI Applications dan di menu navigasi, klik Data stores.

   Buka halaman Data stores

2. Klik nama penyimpanan data Anda.

3. Di halaman Data untuk penyimpanan data Anda, dapatkan ID penyimpanan data.

from google import genai
from google.genai.types import (
    GenerateContentConfig,
    HttpOptions,
    Retrieval,
    Tool,
    VertexAISearch,
)

client = genai.Client(http_options=HttpOptions(api_version="v1"))

# Load Data Store ID from Vertex AI Search
# datastore = "projects/111111111111/locations/global/collections/default_collection/dataStores/data-store-id"

response = client.models.generate_content(
    model="gemini-2.0-flash-001",
    contents="How do I make an appointment to renew my driver's license?",
    config=GenerateContentConfig(
        tools=[
            # Use Vertex AI Search Tool
            Tool(
                retrieval=Retrieval(
                    vertex_ai_search=VertexAISearch(
                        datastore=datastore,
                    )
                )
            )
        ],
    ),
)

print(response.text)
# Example response:
# 'The process for making an appointment to renew your driver's license varies depending on your location. To provide you with the most accurate instructions...'

POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent

{
  "contents": [{
    "role": "user",
    "parts": [{
      "text": "TEXT"
    }]
  }],
  "tools": [{
    "retrieval": {
      "vertexAiSearch": {
        "datastore": projects/PROJECT_ID/locations/global/collections/default_collection/dataStores/DATA_STORE_ID
      }
    }
  }],
  "model": "projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID"
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/publishers/google/models/MODEL_ID:generateContent" | Select-Object -Expand Content

{
  "candidates": [
    {
      "content": {
        "role": "model",
        "parts": [
          {
            "text": "You can make an appointment on the website https://dmv.gov/"
          }
        ]
      },
      "finishReason": "STOP",
      "safetyRatings": [
        "..."
      ],
      "groundingMetadata": {
        "retrievalQueries": [
          "How to make appointment to renew driving license?"
        ],
        "groundingChunks": [
          {
            "retrievedContext": {
              "uri": "https://vertexaisearch.cloud.google.com/grounding-api-redirect/AXiHM.....QTN92V5ePQ==",
              "title": "dmv"
            }
          }
        ],
        "groundingSupport": [
          {
            "segment": {
              "startIndex": 25,
              "endIndex": 147
            },
            "segment_text": "ipsum lorem ...",
            "supportChunkIndices": [1, 2],
            "confidenceScore": [0.9541752, 0.97726375]
          },
          {
            "segment": {
              "startIndex": 294,
              "endIndex": 439
            },
            "segment_text": "ipsum lorem ...",
            "supportChunkIndices": [1],
            "confidenceScore": [0.9541752, 0.9325467]
          }
        ]
      }
    }
  ],
  "usageMetadata": {
    "..."
  }
}

Memahami respons Anda

Respons dari kedua API tersebut menyertakan teks yang dihasilkan LLM, yang disebut kandidat. Jika perintah model Anda berhasil dihubungkan ke sumber data Elasticsearch, respons akan menyertakan metadata grounding, yang mengidentifikasi bagian respons yang berasal dari data Elasticsearch Anda. Namun, ada beberapa alasan metadata ini mungkin tidak diberikan, dan respons prompt tidak akan didasarkan. Alasan ini mencakup relevansi sumber yang rendah atau informasi yang tidak lengkap dalam respons model.

Berikut adalah pengelompokan data output:

• Peran: Menunjukkan pengirim jawaban yang berdasar. Karena respons selalu berisi teks yang dirujuk, perannya selalu model.
• Teks: Jawaban yang di-grounding yang dihasilkan oleh LLM.
• Metadata pentanahan: Informasi tentang sumber pentanahan, yang berisi elemen berikut:
  • Potongan dasar: Daftar hasil dari indeks Elasticsearch Anda yang mendukung jawaban.
  • Dukungan grounding: Informasi tentang klaim tertentu dalam jawaban yang dapat digunakan untuk menampilkan kutipan:
  • Segmen: Bagian dari jawaban model yang dibuktikan oleh bagian dasar.
  • Indeks chunk ground: Indeks chunk ground dalam daftar chunk ground yang sesuai dengan klaim ini.
  • Skor keyakinan: Angka dari 0 hingga 1 yang menunjukkan seberapa kuat klaim dalam kumpulan bagian dasar yang diberikan.

Langkah berikutnya

• Untuk mempelajari cara mengirim permintaan dialog chat, lihat Chat multi-giliran.
• Untuk mempelajari praktik terbaik responsible AI dan filter keamanan Vertex AI, lihat Praktik terbaik keamanan.