Etudiant : SMILI ELMEHDI

Filière : Master Big Data Analytics & Smart Systems (BDSaS)

Encadrant : Pr. LOQMAN CHAKIR

Annèe : 2024

Résumé : Les grands modèles de langage (LLMs) ont considérablement avancé les tâches de génération de langage naturel (NLG), notamment le résumé de texte, sans nécessiter un Fine-Tuning approfondi. Ce virage vers les technologies few-shot, zero-shot et de prompting représente un bond en avant substantiel. Les applications zero-shot des LLMs en résumé illustrent leur capacité à produire des résumés plus précis et cohérents par rapport aux annotateurs humains et aux modèles fine-tuned, en distillant efficacement les informations essentielles à travers divers types de contenus. Des défis persistent dans les tâches de résumé conditionnelle, notamment avec le few-shot learning nécessitant un contexte suffisant pour une interprétation précise. Cela met en lumière les débats en cours sur l’efficacité coût-efficacité du fine-tuning des LLMs par rapport à l’adaptation des modèles traditionnels à des cas d’utilisation spécifiques. Dans le domaine de la résumé de texte juridique, caractérisé par des complexités structurelles et un vocabulaire spécialisé, les LLMs montrent des promesses malgré les défis liés à la gestion des nuances et au maintient de la validité juridique. Ce travail vise à encapsuler le paysage évolutif des applications des LLMs en summarization de texte, en soulignant leur potentiel Transformer et la nécessité de recherches supplémentaires pour améliorer leur efficacité dans divers domaines.