Utiliser des représentations vectorielles continues personnalisées

Si vous avez déjà créé vos propres embeddings vectoriels personnalisés pour vos données, vous pouvez les importer dans Vertex AI Search et les utiliser lorsque vous effectuez des requêtes avec Vertex AI Search.

Cette fonctionnalité est disponible pour les data stores contenant des données structurées personnalisées ou des données non structurées avec des métadonnées. Cette fonctionnalité n'est pas disponible pour la recherche de contenus multimédias et de soins de santé.

Par défaut, Vertex AI Search génère automatiquement des embeddings vectoriels sans aucune configuration requise. Si vous ne savez pas comment créer des embeddings, Google vous recommande de laisser Vertex AI Search les créer et les utiliser pour vous. Toutefois, si vous avez créé vos propres embeddings pour vos données, vous préférerez peut-être les utiliser plutôt que ceux générés par Vertex AI Search, en particulier si vos embeddings personnalisés contiennent un contexte supplémentaire qui peut enrichir la récupération et le classement de vos recherches. Exemple :

• Vos embeddings ont été entraînés sur des mots personnalisés, tels que des termes internes dont la similarité sémantique ne serait pas capturée par l'entraînement sur des données publiques (par exemple, des termes spécifiques à l'organisation qui n'apparaissent que dans des documents privés).
• Vous avez créé des embeddings pour les profils utilisateur et vous souhaitez les utiliser pour créer un classement de documents personnalisé et pertinent sémantiquement. Vous pouvez utiliser vos embeddings pour obtenir un classement basé sur la personnalisation, ce qui peut augmenter les embeddings de documents de Google pour un classement basé sur la pertinence.

Pour utiliser vos propres embeddings :

1. Avant de commencer : vérifiez que vos embeddings répondent à toutes les exigences.
2. Ingérer des données avec des embeddings : ingérez vos documents avec leurs embeddings.
3. Mettez à jour votre schéma : mettez à jour votre schéma avec les champs de propriété clés et les spécifications de dimension.
4. Spécifiez votre intégration : spécifiez votre intégration au niveau mondial ou pour chaque demande de recherche.

Avant de commencer

Avant de commencer, assurez-vous que vos embeddings répondent aux exigences suivantes :

• Les embeddings sont compatibles avec les données structurées et les données non structurées avec métadonnées.
• Les embeddings doivent être fournis sous forme de tableaux unidimensionnels.
• La dimensionnalité de l'embedding doit être comprise entre 1 et 768, inclus
• Les embeddings sont acceptés pour le texte et les images. Les vidéos ne sont pas acceptées
• Vous pouvez taguer jusqu'à deux champs comme champs de propriété de clé d'intégration. Vous pouvez utiliser deux champs pour des cas comme les tests A/B pour vos embeddings.
• Il n'est actuellement pas possible de supprimer les désignations de propriété de clé de champ d'intégration une fois qu'elles ont été définies.

Ingérer des données avec des embeddings

Vous pouvez ingérer les embeddings d'un document dans un ou deux champs inclus dans les données ou les métadonnées de ce document lors de l'ingestion.

Pour ingérer des données avec des embeddings :

1. Préparez vos données pour l'ingestion en fonction de leur type :

   • Données structurées : lorsque vous préparez vos données, incluez les embeddings de chaque document sous forme de tableaux unidimensionnels dans un ou deux champs du document. Vous pouvez fournir jusqu'à deux embeddings (par exemple, si vous effectuez un test A/B entre des embeddings). Chaque intégration doit être fournie dans son propre champ du document, par exemple : "example_embedding_vector": [0.1, 0.2, 0.3 ...]

     Suivez les instructions de la documentation Préparer les données pour l'ingestion pour préparer les données structurées.

   • Données non structurées avec métadonnées : lorsque vous préparez vos données, incluez l'embedding de chaque document sous forme de tableau unidimensionnel dans un champ des métadonnées du document. Vous pouvez fournir jusqu'à deux embeddings (par exemple, lors d'un test A/B entre des embeddings). Chaque intégration doit être fournie dans son propre champ des métadonnées du document, par exemple : "example_embedding_vector": [0.1, 0.2, 0.3 ...]

     Suivez les instructions pour préparer les données non structurées avec des métadonnées pour votre méthode d'ingestion (Cloud Storage ou BigQuery) dans la documentation Préparer les données pour l'ingestion.

2. Suivez les instructions correspondant à votre type de données dans Créer un data store de recherche pour ingérer vos documents avec des embeddings.

Ensuite, mettez à jour votre schéma pour utiliser les champs d'intégration appropriés.

Mettre à jour votre schéma

Mettez à jour votre schéma avec les mappages de propriétés clés et les dimensions de vos champs d'intégration à l'aide de la console Google Cloud ou de l'API.

Ensuite, spécifiez votre intégration.

Spécifier votre embedding

Une fois l'indexation à partir de la mise à jour de votre schéma terminée, vous pouvez envoyer des requêtes de recherche incluant une spécification d'embedding.

Il existe deux façons de spécifier un embedding :

• Spécifier un embedding globalement : pour spécifier le même embedding pour toutes les requêtes de recherche, mettez à jour vos paramètres de diffusion afin d'inclure une spécification d'embedding à l'aide de la console Google Cloud ou de l'API.
• Spécifier un embedding par requête de recherche : envoyez embeddingSpec dans chaque requête de recherche à l'aide de l'API. Ce paramètre remplace le paramètre global, s'il est défini.

Spécifier un embedding globalement

Vous pouvez spécifier le même embedding pour toutes les requêtes de recherche à l'aide de la consoleGoogle Cloud ou de l'API.

Spécifier un embedding par requête de recherche

Vous pouvez fournir une spécification d'embedding pour une seule requête de recherche à l'aide de l'API. Une spécification d'embedding par requête remplace toute spécification d'embedding globale.

1. Envoyez une requête de recherche incluant embeddingSpec.

   L'exemple suivant de embeddingSpec utilise des embeddings dans le champ example_embedding_field, spécifie "Exemple de requête" comme vecteur d'entrée et attribue un coefficient de 0,5 à relevance_score et de 0,3 à example_embedding_field lors du calcul du classement.

     "embeddingSpec": {
       "embeddingVectors": [{
         "fieldPath": "example_embedding_field",
         "vector": [
           0.96241474,
           -0.45999944,
           0.108588696
         ]
       }]
     },
     "ranking_expression": "0.5 * relevance_score + 0.3 * dotProduct(example_embedding_field)"
   

   • fieldPath : nom du champ que vous avez mappé à la propriété de clé d'embedding.
   • vector : vecteur d'entrée fourni sous forme de tableau.

   • ranking_expression : contrôle le classement des résultats. Les variables sont pondérées en fonction de l'expression que vous saisissez. L'expression de classement est une ou plusieurs fonctions jointes par + au format function, { " + ", function }.

     Les fonctions compatibles sont les suivantes :

     • DOUBLE * relevance_score
     • DOUBLE * dotProduct(EMBEDDING_FIELD_PATH)

     Les variables suivantes sont acceptées :

     • relevance_score : variable prédéfinie fournie par Vertex AI Search pour mesurer la pertinence d'un document. Le score est compris entre 0 et 1, bornes incluses.
     • dotProduct() : fonction prédéfinie fournie par Vertex AI Search. Vous devez fournir le même nom de champ à cette fonction que pour embeddingVector.fieldPath.

     Exemple :

     • 0.3 * relevance_score
     • 0.5 * relevance_score + 0.3 * dotProduct(example_embedding_field)

2. Obtenez les résultats dans la réponse de recherche. Chaque résultat de recherche inclut son score de pertinence et les valeurs du produit scalaire. Exemple :

   "modelScores": {
     "dotProduct(example_embedding_field)": [0.02150772698223591],
     "relevance_score": [ 0.8828125 ]
   }
   

   • dotProduct() : produit scalaire calculé pour le document de résultat de recherche.
   • relevance_score : score de pertinence calculé pour le document de résultat de recherche.

Étapes suivantes

• Préparer les données pour l'ingestion
• Mettez à jour un schéma.
• Prévisualisez les résultats de recherche.
• Pour comprendre l'impact des embeddings personnalisés sur la qualité de la recherche d'une application de recherche personnalisée, évaluez la qualité de la recherche. Pour en savoir plus, consultez Évaluer la qualité de la recherche.