Créer ou réutiliser une instance de magasin exemple

Cette page vous explique comment créer une instance de magasin d'exemples ou réutiliser une instance existante. Vous pouvez stocker vos exemples dans un magasin d'exemples lorsque vous développez votre application LLM et les récupérer de manière dynamique pour les utiliser dans vos requêtes LLM.

Pour enseigner à un LLM ou à un agent à l'aide d'exemples few-shot, vous devez d'abord créer ou réutiliser une instance Example Store pour votre projet et votre emplacement, puis y importer des exemples.

Pour chaque projet et chaque emplacement, vous pouvez disposer d'un maximum de 50 instances de l'Exemple de magasin. Une fois que vous avez créé une instance Example Store, vous pouvez la partager entre plusieurs applications et agents LLM.

Il existe deux façons de provisionner une instance de magasin d'exemples :

• Créer une instance Example Store : lorsque vous créez une instance Example Store, vous devez spécifier le modèle d'embedding qu'elle utilise pour déterminer les exemples pertinents pour les requêtes des utilisateurs. Example Store est compatible avec les modèles d'embedding suivants :

  • text-embedding-005

  • text-multilingual-embedding-002

  Vous ne pouvez pas modifier un modèle d'encapsulation après avoir créé l'instance Example Store. Si vous souhaitez utiliser un autre modèle d'encapsulation, vous devez créer un autre magasin d'exemples. Pour en savoir plus sur les embeddings de texte, consultez Obtenir des embeddings de texte.

• Réutiliser une instance Example Store existante : les instances Example Store sont conçues pour être utilisées par plusieurs agents. Vous pouvez donc accéder aux exemples stockés dans les applications LLM. Vous ne pouvez pas modifier le modèle d'embedding lorsque vous réutilisez une instance Example Store existante.

Prérequis

Avant d'utiliser les exemples Python sur cette page, installez et initialisez le SDK Vertex AI pour Python dans votre environnement Python local.

1. Exécutez la commande suivante pour installer le SDK Vertex AI pour Python pour le magasin d'exemples.

   pip install --upgrade google-cloud-aiplatform>=1.87.0

2. Utilisez l'exemple de code suivant pour importer et initialiser le SDK pour le magasin d'exemples.

   import vertexai
   from vertexai.preview import example_stores
   
   vertexai.init(
     project="PROJECT_ID",
     location="LOCATION"
   )
   

   Remplacez les éléments suivants :

   • PROJECT_ID : ID de votre projet

   • LOCATION : votre région. Seule la région us-central1 est compatible.

Créer une instance de magasin d'exemples

Utilisez les exemples suivants pour créer une instance de magasin d'exemples pour un projet et un emplacement spécifiés. Notez que la création d'une instance de magasin d'exemples peut prendre quelques minutes.

import vertexai
from vertexai.preview import example_stores

vertexai.init(
    project="PROJECT_ID",
    location="LOCATION"
)

my_example_store = example_stores.ExampleStore.create(
    example_store_config=example_stores.ExampleStoreConfig(
        vertex_embedding_model="EMBEDDING_MODEL"
    )
)

POST https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores

{
  "display_name": "DISPLAY_NAME",
  "example_store_config": {"vertex_embedding_model": EMBEDDING_MODEL}
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/exampleStores" | Select-Object -Expand Content

{
  "name": "projects/PROJECT_ID/locations/LOCATION/exampleStores/EXAMPLE_STORE_ID/operations/",
  "metadata": {
    "@type": "type.googleapis.com/google.cloud.aiplatform.v1beta1.CreateExampleStoreOperationMetadata",
    "genericMetadata": {
      "createTime": "2024-10-10T02:06:10.417111Z",
      "updateTime": "2024-10-10T02:06:10.417111Z"
    }
  }
}

Réutiliser une instance de magasin d'exemples existante

Utilisez l'exemple suivant pour réutiliser une instance de magasin d'exemples existante pour un projet et un emplacement spécifiés.

import vertexai
from vertexai.preview import example_stores

vertexai.init(
    project="PROJECT_ID",
    location="LOCATION"
)

example_store = example_stores.ExampleStore(
    "EXAMPLE_STORE_NAME")

Étapes suivantes

• Importer des exemples dans l'instance de magasin d'exemples