Membuat atau menggunakan kembali instance Example Store

Halaman ini menunjukkan cara membuat instance Example Store baru atau menggunakan kembali instance Example Store yang ada. Anda dapat menyimpan contoh di Penyimpanan Contoh saat mengembangkan aplikasi LLM dan mengambilnya secara dinamis untuk digunakan dalam perintah LLM.

Untuk mengajari LLM atau agen menggunakan contoh sedikit, Anda harus membuat atau menggunakan kembali instance Example Store untuk project dan lokasi Anda terlebih dahulu, lalu mengupload contoh ke instance tersebut.

Untuk setiap project dan lokasi, Anda dapat memiliki maksimal 50 instance Toko Contoh. Setelah membuat instance Example Store, Anda dapat membagikannya di beberapa aplikasi dan agen LLM.

Ada dua cara untuk menyediakan instance Example Store:

• Buat instance Example Store baru: Saat membuat instance Example Store baru, Anda perlu menentukan model penyematan, yang digunakan Example Store untuk menentukan contoh mana yang relevan dengan kueri pengguna. Contoh Toko mendukung model penyematan berikut:

  • text-embedding-005

  • text-multilingual-embedding-002

  Anda tidak dapat mengubah model sematan setelah membuat instance Example Store. Jika ingin menggunakan model embedding yang berbeda, Anda harus membuat toko contoh lain. Untuk mengetahui informasi selengkapnya tentang embedding teks, lihat artikel Mendapatkan embedding teks.

• Menggunakan kembali instance Example Store yang ada: Instance Example Store dirancang untuk digunakan oleh beberapa agen, sehingga Anda dapat mengakses contoh tersimpan di seluruh aplikasi LLM. Anda tidak dapat mengubah model embedding saat menggunakan kembali instance Example Store yang ada.

Prasyarat

Sebelum menggunakan contoh Python di halaman ini, instal dan lakukan inisialisasi Vertex AI SDK untuk Python di lingkungan Python lokal Anda.

1. Jalankan perintah berikut untuk menginstal Vertex AI SDK untuk Python bagi Example Store.

   pip install --upgrade google-cloud-aiplatform>=1.87.0

2. Gunakan contoh kode berikut untuk mengimpor dan menginisialisasi SDK untuk Example Store.

   import vertexai
   from vertexai.preview import example_stores
   
   vertexai.init(
     project="PROJECT_ID",
     location="LOCATION"
   )
   

   Ganti kode berikut:

   • PROJECT_ID: Project ID Anda.

   • LOCATION: Region Anda. Hanya us-central1 yang didukung.

Membuat instance Example Store

Gunakan contoh berikut untuk membuat instance Toko Contoh bagi project dan lokasi tertentu. Perhatikan bahwa pembuatan instance Example Store memerlukan waktu beberapa menit.

import vertexai
from vertexai.preview import example_stores

vertexai.init(
    project="PROJECT_ID",
    location="LOCATION"
)

my_example_store = example_stores.ExampleStore.create(
    example_store_config=example_stores.ExampleStoreConfig(
        vertex_embedding_model="EMBEDDING_MODEL"
    )
)

POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores

{
  "display_name": "DISPLAY_NAME",
  "example_store_config": {"vertex_embedding_model": EMBEDDING_MODEL}
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores" | Select-Object -Expand Content

{
  "name": "projects/PROJECT_ID/locations/LOCATION/exampleStores/EXAMPLE_STORE_ID/operations/",
  "metadata": {
    "@type": "type.googleapis.com/google.cloud.aiplatform.v1beta1.CreateExampleStoreOperationMetadata",
    "genericMetadata": {
      "createTime": "2024-10-10T02:06:10.417111Z",
      "updateTime": "2024-10-10T02:06:10.417111Z"
    }
  }
}

Menggunakan kembali instance Example Store yang ada

Gunakan contoh berikut untuk menggunakan kembali instance Example Store yang ada untuk project dan lokasi tertentu.

import vertexai
from vertexai.preview import example_stores

vertexai.init(
    project="PROJECT_ID",
    location="LOCATION"
)

example_store = example_stores.ExampleStore(
    "EXAMPLE_STORE_NAME")

Langkah berikutnya

• Upload contoh ke instance Example Store.