Creare o riutilizzare un'istanza di Example Store

Questa pagina mostra come creare una nuova istanza di Example Store o riutilizzarne una esistente. Puoi archiviare gli esempi in un Example Store durante lo sviluppo dell'applicazione LLM e recuperarli in modo dinamico per utilizzarli nei prompt LLM.

Per addestrare un LLM o un agente utilizzando esempi few-shot, devi prima creare o riutilizzare un'istanza di Example Store per il tuo progetto e la tua località, quindi caricare gli esempi.

Per ogni progetto e località, puoi avere un massimo di 50 istanze di Example Store. Dopo aver creato un'istanza di Example Store, puoi condividerla tra più applicazioni e agenti LLM.

Esistono due modi per eseguire il provisioning di un'istanza di Example Store:

• Crea una nuova istanza di Example Store: quando crei una nuova istanza di Example Store, devi specificare il modello di incorporamento, che Example Store utilizza per determinare quali esempi sono pertinenti per le query degli utenti. Example Store supporta i seguenti modelli di incorporamento:

  • text-embedding-005

  • text-multilingual-embedding-002

  Non puoi modificare un modello di incorporamento dopo aver creato l'istanza Example Store. Se vuoi utilizzare un modello di incorporamento diverso, devi creare un altro negozio di esempio. Per saperne di più sugli incorporamenti di testo, consulta la pagina Recuperare gli incorporamenti di testo.

• Riutilizzare un'istanza Example Store esistente: le istanze Example Store sono progettate per essere utilizzate da più agenti, quindi puoi accedere agli esempi archiviati nelle applicazioni LLM. Non puoi modificare il modello di incorporamento quando riutilizzi un'istanza di Example Store esistente.

Prerequisiti

Prima di utilizzare gli esempi Python in questa pagina, installa e inizializza l'SDK Vertex AI per Python nel tuo ambiente Python locale.

1. Esegui il seguente comando per installare l'SDK Vertex AI Python per Example Store.

   pip install --upgrade google-cloud-aiplatform>=1.87.0

2. Utilizza il seguente esempio di codice per importare e inizializzare l'SDK per Example Store.

   import vertexai
   from vertexai.preview import example_stores
   
   vertexai.init(
     project="PROJECT_ID",
     location="LOCATION"
   )
   

   Sostituisci quanto segue:

   • PROJECT_ID: il tuo ID progetto.

   • LOCATION: La tua regione. È supportato solo us-central1.

Crea un'istanza di Example Store

Utilizza gli esempi riportati di seguito per creare un'istanza di Example Store per un progetto e una località specificati. Tieni presente che la creazione di un'istanza di Example Store richiede alcuni minuti.

import vertexai
from vertexai.preview import example_stores

vertexai.init(
    project="PROJECT_ID",
    location="LOCATION"
)

my_example_store = example_stores.ExampleStore.create(
    example_store_config=example_stores.ExampleStoreConfig(
        vertex_embedding_model="EMBEDDING_MODEL"
    )
)

POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores

{
  "display_name": "DISPLAY_NAME",
  "example_store_config": {"vertex_embedding_model": EMBEDDING_MODEL}
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores" | Select-Object -Expand Content

{
  "name": "projects/PROJECT_ID/locations/LOCATION/exampleStores/EXAMPLE_STORE_ID/operations/",
  "metadata": {
    "@type": "type.googleapis.com/google.cloud.aiplatform.v1beta1.CreateExampleStoreOperationMetadata",
    "genericMetadata": {
      "createTime": "2024-10-10T02:06:10.417111Z",
      "updateTime": "2024-10-10T02:06:10.417111Z"
    }
  }
}

Riutilizzare un'istanza Example Store esistente

Utilizza il seguente esempio per riutilizzare un'istanza Example Store esistente per un progetto e una località specifici.

import vertexai
from vertexai.preview import example_stores

vertexai.init(
    project="PROJECT_ID",
    location="LOCATION"
)

example_store = example_stores.ExampleStore(
    "EXAMPLE_STORE_NAME")

Passaggi successivi

• Carica esempi nell'istanza dell'Example Store.