Extracteur personnalisé avec IA générative

L'entraînement et l'extraction de l'IA générative vous permettent :

• Utilisez la technologie zero-shot et few-shot pour obtenir un modèle très performant avec peu ou pas de données d'entraînement à l'aide du modèle de fondation.
• Utilisez le réglage précis pour améliorer encore la précision à mesure que vous fournissez de plus en plus de données d'entraînement.

Méthodes d'entraînement de l'IA générative

La méthode d'entraînement que vous choisissez dépend du nombre de documents dont vous disposez et de l'effort que vous êtes prêt à consacrer à l'entraînement de votre modèle. Il existe trois façons d'entraîner un modèle d'IA générative :

Versions de modèles d'extracteurs personnalisés

Les modèles suivants sont disponibles pour l'extracteur personnalisé. Pour modifier les versions de modèle, consultez Gérer les versions de l'outil de traitement.

Les versions 1.3, 1.4 et 1.5 sont compatibles avec les scores de confiance, contrairement à la version 1.2.

Pour modifier la version du processeur dans votre projet, consultez Gérer les versions de l'outil de traitement.

Configuration initiale

Si vous ne l'avez pas déjà fait, activez la facturation et les API Document AI.

Créer et évaluer un modèle d'IA générative

1. Créez un processeur et définissez les champs que vous souhaitez extraire en suivant les bonnes pratiques. C'est important, car cela a un impact sur la qualité de l'extraction.

   • Accédez à Workbench > Extracteur personnalisé > Créer un processeur > Attribuer un nom.

   

   • Accédez à Commencer > Créer un champ.

   

2. Importer des documents

   • Importez des documents avec l'étiquetage automatique et attribuez-les aux ensembles d'entraînement et de test.
   • Pour le zero-shot, seul le schéma est requis. Pour évaluer la précision du modèle, seul un ensemble de test est nécessaire.
   • Pour le few-shot, nous recommandons cinq documents d'entraînement.
   • Le nombre de documents de test nécessaires dépend du cas d'utilisation. En règle générale, plus vous disposez de documents de test, mieux c'est.
   • Confirmez ou modifiez les libellés dans le document.

3. Entraîner le modèle :

   • Sélectionnez Compiler, puis Créer une version.
   • Saisissez un nom, puis sélectionnez Créer.

   

1. Évaluation :

   • Accédez à Évaluer et tester, sélectionnez la version que vous venez d'entraîner, puis cliquez sur Afficher l'évaluation complète.

   

   • Vous voyez maintenant des métriques telles que f1, la précision et le rappel pour l'ensemble du document et pour chaque champ.
   • Déterminez si les performances répondent à vos objectifs de production. Si ce n'est pas le cas, réévaluez les ensembles d'entraînement et de test.

2. Définissez une nouvelle version par défaut :

   • Accédez à Gérer les versions.
   • Développez les options, puis sélectionnez Définir comme valeur par défaut.

   

   Votre modèle est désormais déployé. Les documents envoyés à ce processeur utilisent votre version personnalisée. Vous pouvez évaluer les performances du modèle pour vérifier s'il nécessite un entraînement supplémentaire.

Référence d'évaluation

Le moteur d'évaluation peut effectuer une correspondance exacte ou approximative. Pour une correspondance exacte, la valeur extraite doit correspondre exactement à la vérité terrain. Dans le cas contraire, elle est considérée comme une erreur.

Les extractions par correspondance approximative qui présentent de légères différences, comme des différences de casse, sont toujours considérées comme des correspondances. Vous pouvez le modifier sur l'écran Évaluation.

Affinage

Avec l'ajustement, vous utilisez des centaines ou des milliers de documents pour votre entraînement.

1. Créez un processeur et définissez les champs que vous souhaitez extraire en suivant les bonnes pratiques. C'est important, car cela a un impact sur la qualité de l'extraction.

2. Importez des documents avec l'étiquetage automatique, puis attribuez-les à l'ensemble d'entraînement et à l'ensemble de test.

3. Confirmez ou modifiez les libellés dans le document.

4. Entraîner le modèle

   • Sélectionnez l'onglet Créer, puis Créer une version dans la section Finetuning.

   

   • Essayez les paramètres ou les valeurs d'entraînement par défaut fournis. Si les résultats ne vous conviennent pas, essayez ces options avancées :

   • Étapes d'entraînement (entre 100 et 400) : contrôlent la fréquence à laquelle les pondérations sont optimisées sur un lot de données pendant l'ajustement.

     • Si elle est trop faible, l'entraînement risque de se terminer avant la convergence (sous-apprentissage).
     • Si elle est trop élevée, le modèle peut voir le même lot de données plusieurs fois pendant l'entraînement, ce qui peut entraîner un surapprentissage.
     • Moins il y a d'étapes, plus l'entraînement est rapide. Un nombre plus élevé peut être utile pour les documents avec peu de variations de modèle (et un nombre plus faible pour ceux avec plus de variations).

   • Multiplicateur du taux d'apprentissage (entre 0,1 et 10) : contrôle la vitesse à laquelle les paramètres du modèle sont optimisés sur les données d'entraînement. Elle correspond approximativement à la taille de chaque étape d'entraînement.

     • Les taux faibles signifient de petites modifications des pondérations du modèle à chaque étape de l'entraînement. Si elle est trop faible, le modèle risque de ne pas converger vers une solution stable.
     • Des taux élevés indiquent des changements importants. S'ils sont trop élevés, le modèle peut dépasser la solution optimale et converger vers une solution sous-optimale.
     • Le temps d'entraînement n'est pas affecté par le choix du taux d'apprentissage.

   • Attribuez un nom, sélectionnez la version de processeur de base requise, puis cliquez sur Créer.

   

5. Évaluation : accédez à Évaluer et tester, puis sélectionnez la version que vous venez d'entraîner et cliquez sur Afficher l'évaluation complète.

   

   • Vous voyez maintenant des métriques telles que f1, la précision et le rappel pour l'ensemble du document et pour chaque champ.
   • Déterminez si les performances répondent à vos objectifs de production. Si ce n'est pas le cas, des documents de formation supplémentaires peuvent être nécessaires.

6. Définissez une nouvelle version par défaut :

   • Accédez à Gérer les versions.
   • Sélectionnez l'option Définir comme paramètre par défaut.

   

   Votre modèle est désormais déployé et les documents envoyés à ce processeur utilisent désormais votre version personnalisée. Vous souhaitez évaluer les performances du modèle pour vérifier s'il nécessite un entraînement supplémentaire.

Étiquetage automatique avec le modèle de fondation

Le modèle de fondation peut extraire avec précision des champs à partir de types de documents divers, mais vous pouvez également fournir des données d'entraînement supplémentaires afin d'améliorer sa précision pour des structures de documents spécifiques.

Document AI utilise les noms d'étiquettes que vous avez définis et les annotations précédentes pour faciliter et accélérer l'étiquetage des documents à grande échelle grâce à l'étiquetage automatique.

1. Une fois que vous avez créé un processeur personnalisé, accédez à l'onglet Premiers pas.
2. Sélectionnez Créer un champ.

3. Attribuez au libellé un nom descriptif et distinct. Cela permettra d'améliorer la précision et les performances du modèle de fondation.

   

4. Pour améliorer la précision et les performances de l'extraction, ajoutez une description (par exemple, du contexte, des insights et des connaissances préalables pour chaque entité) pour les types d'entités qu'il doit identifier.

   

5. Accédez à l'onglet Créer, puis sélectionnez Importer des documents.

   

6. Sélectionnez le chemin d'accès aux documents et l'ensemble dans lequel ils doivent être importés. Cochez l'option d'étiquetage automatique et sélectionnez le modèle de fondation.

7. Dans l'onglet Compilation, sélectionnez Gérer l'ensemble de données.

8. Lorsque vous voyez vos documents importés, sélectionnez-en un.

   

Les prédictions du modèle sont désormais mises en évidence en violet.

1. Examinez chaque libellé prédit par le modèle et vérifiez qu'il est correct.

2. S'il manque des champs, ajoutez-les également.

   

3. Une fois le document examiné, sélectionnez Marquer comme étiqueté. Le document est maintenant prêt à être utilisé par le modèle.

4. Assurez-vous que le document se trouve dans l'ensemble de test ou d'entraînement.

Imbrication à trois niveaux

L'extracteur personnalisé propose désormais trois niveaux d'imbrication. Cette fonctionnalité permet une meilleure extraction des tableaux complexes.

Vous pouvez déterminer le type de modèle à l'aide des appels d'API suivants :

• processors.get
• processorVersions.get

La réponse est un ProcessorVersion, qui contient le champ modelType dans la version preview v1beta3.

Procédure et exemple

Nous utilisons cet exemple :

1. Sélectionnez Commencer, puis créez un champ :

   • Créez le niveau supérieur.
   • Dans cet exemple, officer_appointments est utilisé.
   • Sélectionnez Il s'agit d'une étiquette parente.
   • Sélectionnez Occurrence : Optional multiple.

   

2. Sélectionnez Ajouter un champ enfant. Vous pouvez maintenant créer le libellé de deuxième niveau :

   • Pour ce libellé de niveau, créez officer.
   • Sélectionnez Il s'agit d'une étiquette parente.
   • Sélectionnez Occurrence : Optional multiple.

   

3. Sélectionnez Ajouter un champ enfant à partir du deuxième niveau officer. Créez des libellés enfants pour le troisième niveau d'imbrication.

4. Une fois votre schéma défini, vous pouvez obtenir des prédictions à partir de documents comportant trois niveaux d'imbrication à l'aide de l'étiquetage automatique.

   

Libeller les entités imbriquées sur plusieurs pages

Le processeur pretrained-foundation-model-v1.5-2025-05-05 accepte l'imbrication sur trois niveaux sur les pages.

1. Attribuez un libellé à une entité normalement sur une page. Remarque : L'entité libellée ne sera visible que sur la page où elle est libellée. La barre de navigation change d'une page à l'autre. En épinglant l'entité parente, cette barre de navigation persiste.

   

2. Épinglez l'entité parente avec les enfants que vous souhaitez étiqueter sur plusieurs pages.

   

3. Accédez à la page contenant la ou les entités enfants à libeller.

Configuration d'ensemble de données

Ensemble de données d'entraînement

• Pour l'affinage, vous avez besoin d'au moins un document pour entraîner un nouveau modèle avec la version pretrained-foundation-model-v1.2-2024-05-10 et pretrained-foundation-model-v1.3-2024-08-31.
• Pour un few-shot, cinq documents sont recommandés.
• Pour le zero-shot, seul un schéma est requis.

Ensemble de données de test

Extracteur personnalisé avec descriptions de propriétés

Les descriptions de propriétés vous permettent d'entraîner un modèle en décrivant les champs étiquetés. Vous pouvez fournir du contexte et des insights supplémentaires pour chaque entité. Cela permet au modèle de s'entraîner en faisant correspondre les champs qui correspondent à la description que vous fournissez et d'améliorer la précision de l'extraction. Les descriptions de propriétés peuvent être spécifiées pour les entités parent et enfant.

De bons exemples de descriptions de propriétés incluent des informations sur la localisation et des modèles de texte des valeurs de propriété, qui aident à lever les ambiguïtés potentielles dans le document. Des descriptions de propriétés claires et précises guident le modèle avec des règles qui favorisent des extractions plus fiables et cohérentes, quelle que soit la structure spécifique du document ou les variations de contenu.

Mettre à jour le schéma de document pour un processeur

Pour savoir comment définir les descriptions des propriétés, consultez Mettre à jour le schéma du document.

Envoyer une demande de traitement avec des descriptions de propriétés

Si des descriptions sont déjà définies dans le schéma du document, vous pouvez envoyer une demande de traitement en suivant les instructions de la section Envoyer une demande de traitement.

Affiner un processeur avec des descriptions de propriétés

Avant d'utiliser les données de requête ci-dessous, effectuez les remplacements suivants :

• LOCATION : emplacement de votre processeur, par exemple :
  • us : États-Unis
  • eu : Union européenne
• PROJECT_ID : ID de votre projet Google Cloud .
• PROCESSOR_ID : ID de votre processeur personnalisé.
• DISPLAY_NAME : nom à afficher du processeur.
• PRETRAINED_PROCESSOR_VERSION : identifiant de la version du processeur. Pour en savoir plus, consultez Sélectionner une version de l'outil de traitement. Par exemple :
  .
  • pretrained-TYPE-vX.X-YYYY-MM-DD
  • stable
  • rc
• TRAIN_STEPS : étapes d'entraînement pour l'affinage du modèle.
• LEARN_RATE_MULTIPLIER : multiplicateur du taux d'apprentissage pour l'affinage du modèle.
• DOCUMENT_SCHEMA : schéma du processeur. Consultez la représentation DocumentSchema.

POST https://LOCATION-documentai.googleapis.com/v1beta3/projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/PROCESSOR_VERSION:process

{
  "rawDocument": {
      "parent": "projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID",
         "processor_version": {
             "name": "projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/DISPLAY_NAME",
             "display_name": "DISPLAY_NAME",
             "model_type": "MODEL_TYPE_GENERATIVE",
         },
         "base_processor_version": "projects/PROJECT_ID/locations/us/processors/PROCESSOR_ID/processorVersions/PRETRAINED_PROCESSOR_VERSION",
         "foundation_model_tuning_options": {
             "train_steps": TRAIN_STEPS,
             "learning_rate_multiplier": LEARN_RATE_MULTIPLIER,
         }
         "document_schema": DOCUMENT_SCHEMA
      }
}

curl -X POST \
     -H "Authorization: Bearer $(gcloud auth print-access-token)" \
     -H "Content-Type: application/json; charset=utf-8" \
     -d @request.json \
     "https://LOCATION-documentai.googleapis.com/v1beta3/projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/PROCESSOR_VERSION:process"

$cred = gcloud auth print-access-token
$headers = @{ "Authorization" = "Bearer $cred" }

Invoke-WebRequest `
    -Method POST `
    -Headers $headers `
    -ContentType: "application/json; charset=utf-8" `
    -InFile request.json `
    -Uri "https://LOCATION-documentai.googleapis.com/v1beta3/projects/PROJECT_ID/locations/LOCATION/processors/PROCESSOR_ID/processorVersions/PROCESSOR_VERSION:process" | Select-Object -Expand Content

Étapes suivantes

Surentraîner un outil de traitement spécialisé