Utiliser l'analyseur LLM

Cette page explique comment utiliser l'analyseur LLM du moteur RAG Vertex AI.

Introduction

Le moteur RAG Vertex AI utilise des LLM pour l'analyse des documents. Les LLM peuvent traiter efficacement les documents de différentes manières :

• Comprendre et interpréter le contenu sémantique dans différents formats.
• Récupérer les blocs de documents pertinents.
• Extraire des informations pertinentes à partir de documents
• Identifier les sections pertinentes dans les documents.
• Résumer avec précision des documents complexes
• comprendre les éléments visuels et interagir avec eux ;
• Extraire des données à partir de graphiques et de diagrammes
• Décrivez les images.
• comprendre les relations entre les graphiques et le texte ;
• fournir des réponses plus précises et plus riches en contexte ;

Les capacités du moteur RAG de Vertex AI améliorent considérablement la qualité des réponses générées.

Modèles compatibles

L'analyseur LLM n'est compatible qu'avec les modèles Gemini. Si l'API RAG est activée, vous avez accès aux modèles compatibles. Pour obtenir la liste des modèles de génération compatibles, consultez Modèles génératifs.

Types de fichiers compatibles

Le parseur LLM accepte les types de fichiers suivants :

• application/pdf
• image/png
• image/jpeg
• image/webp
• image/heic
• image/heif

Tarifs et quotas

Pour en savoir plus sur les tarifs, consultez la page Tarifs de Vertex AI.

Pour connaître les quotas applicables, consultez Quotas de demandes.

L'analyseur LLM appelle les modèles Gemini pour analyser vos documents. Cela entraîne des coûts supplémentaires, qui sont facturés à votre projet. Le coût peut être estimé approximativement à l'aide de la formule suivante :

cost = number_of_document_files * average_pages_per_document *
(average_input_tokens * input_token_pricing_of_selected_model +
average_output_tokens * output_token_pricing_of_selected_model)

Par exemple, vous disposez de 1 000 fichiers PDF, chacun comportant 50 pages. Une page PDF moyenne contient 500 jetons, et nous avons besoin de 100 jetons supplémentaires pour l'incitation. La sortie moyenne est de 100 jetons.

Gemini 2.0 Flash-Lite est utilisé dans votre configuration pour l'analyse. Il coûte 0,075 $pour un million de jetons d'entrée et 0,3 $pour les jetons de texte de sortie.

cost = 1,000 * 50 * (600 * 0.075 / 1M + 100 * 0.3 / 1M) = 3.75

Le coût est de 3,75 $.

Importer des fichiers avec LlmParser activé

Remplacez les valeurs des variables suivantes utilisées dans les exemples de code :

• PROJECT_ID : ID de votre projet Google Cloud .
• LOCATION : région dans laquelle votre requête est traitée.
• RAG_CORPUS_RESOURCE : ID de votre corpus.
• GCS_URI : URI Cloud Storage des fichiers que vous souhaitez importer.
• GOOGLE_DRIVE_URI : URI Google Drive des fichiers que vous souhaitez importer.
• MODEL_NAME : nom de ressource du modèle utilisé pour l'analyse.

  Format : projects/{project_id}/locations/{location}/publishers/google/models/{model_id}.

• CUSTOM_PARSING_PROMPT : facultatif, invite personnalisée configurée par le client pour que l'analyseur LLM l'utilise pour analyser les documents.

• MAX_PARSING_REQUESTS_PER_MIN : facultatif : nombre maximal de requêtes que le job peut envoyer au modèle Vertex AI par minute. Pour en savoir plus, consultez Limites de débit de l'IA générative sur Vertex AI et la page Quotas et limites du système de votre projet pour définir une valeur appropriée.

  curl -X POST \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer $(gcloud auth print-access-token)" \
  "https://LOCATION-aiplatform.googleapis.com/v1beta1/projects/PROJECT_ID/locations/LOCATION/ragCorpora/RAG_CORPUS_RESOURCE/ragFiles:import" -d '{
    "import_rag_files_config": {
      "gcs_source": {
        "uris":  ["GCS_URI", "GOOGLE_DRIVE_URI"]
      },
      "rag_file_chunking_config": {
        "chunk_size": 512,
        "chunk_overlap": 102
      },
      "rag_file_parsing_config": {
        "llm_parser": {
          "model_name": "MODEL_NAME",
          "custom_parsing_prompt": "CUSTOM_PARSING_PROMPT"
          "max_parsing_requests_per_min": "MAX_PARSING_REQUESTS_PER_MIN"
        }
      }
    }
  }'

  from vertexai import rag
  import vertexai

  PROJECT_ID = "PROJECT_ID"
  CORPUS_NAME = "RAG_CORPUS_RESOURCE"
  LOCATION = "LOCATION"
  MODEL_ID = "MODEL_ID"
  MODEL_NAME = "projects/{PROJECT_ID}/locations/{LOCATION}/publishers/google/models/{MODEL_ID}"
  MAX_PARSING_REQUESTS_PER_MIN = MAX_PARSING_REQUESTS_PER_MIN # Optional
  CUSTOM_PARSING_PROMPT = "Your custom prompt" # Optional

  PATHS = ["https://drive.google.com/file/123", "gs://my_bucket/my_files_dir"]

  # Initialize Vertex AI API once per session
  vertexai.init(project={PROJECT_ID}, location={LOCATION})

  transformation_config = rag.TransformationConfig(
      chunking_config=rag.ChunkingConfig(
          chunk_size=1024, # Optional
          chunk_overlap=200, # Optional
      ),
  )

  llm_parser_config = rag.LlmParserConfig(
      model_name = MODEL_NAME,
      max_parsing_requests_per_min=MAX_PARSING_REQUESTS_PER_MIN, # Optional
      custom_parsing_prompt=CUSTOM_PARSING_PROMPT, # Optional
  )

  rag.import_files(
      CORPUS_NAME,
      PATHS,
      llm_parser=llm_parser_config,
      transformation_config=transformation_config,
  )

Requêtes

L'analyseur LLM du moteur RAG Vertex AI utilise une invite prédéfinie et ajustée pour analyser les documents. Toutefois, si vous disposez de documents spécialisés qui ne conviennent pas à une requête générale, vous pouvez spécifier votre requête d'analyse personnalisée lorsque vous utilisez l'API. Lorsque vous demandez à Gemini d'analyser vos documents, le moteur RAG Vertex AI ajoute une requête à votre requête système par défaut.

Tableau des modèles de requêtes

Pour vous aider à analyser les documents, le tableau suivant fournit un exemple de modèle de requête. Il vous guidera dans la création de requêtes que le moteur RAG de Vertex AI pourra utiliser pour analyser vos documents :

Conseils généraux

Suivez ces consignes pour rédiger votre requête à envoyer au parseur LLM.

• Spécifique : définissez clairement la tâche et le type d'informations à extraire.
• Détaillé : fournit des instructions détaillées sur le format de sortie, l'attribution des sources et la gestion des différentes structures de données.
• Contrainte : indiquez explicitement ce que l'IA ne doit pas faire, comme une analyse ou une interprétation.
• Clair : utilisez un langage clair et directif.
• Structurées : organisez les instructions de manière logique à l'aide de listes numérotées ou à puces pour faciliter la lecture.

Analyse de la qualité de l'analyse syntaxique

Ce tableau présente les résultats de scénarios exécutés par les clients à l'aide du moteur RAG Vertex AI. Les commentaires montrent que l'analyseur LLM améliore la qualité de l'analyse des documents.

Le parseur LLM améliore la capacité du LLM à comprendre le contexte d'un document et à raisonner à son sujet, ce qui permet d'obtenir des réponses plus précises et plus complètes.

Requête de récupération

Après avoir saisi une requête qui est envoyée à un modèle d'IA générative, le composant de récupération de RAG effectue une recherche dans sa base de connaissances afin de trouver des informations pertinentes pour la requête. Pour obtenir un exemple de récupération de fichiers RAG à partir d'un corpus en fonction d'un texte de requête, consultez Requête de récupération.

Étapes suivantes

• Pour en savoir plus sur le moteur RAG de Vertex AI, consultez la présentation du moteur RAG de Vertex AI.
• Pour en savoir plus sur le moteur RAG de Vertex AI, consultez l'API du moteur RAG de Vertex AI.