La structure du contenu textuel a-t-elle un impact sur les modèles linguistiques pour le résumé automatique ?

Eve Sauvage, Sabrina Campano, Lydia Ould-Ouali, Cyril Grouin


Abstract
Le traitement de séquences longues par des modèles de langues reste un sujet à part entière, y compris pour le résumé automatique, malgré des améliorations récentes. Dans ce travail, nous présentons des expériences de résumé automatique d’articles scientifiques à l’aide de modèles BART, prenant en compte les informations textuelles provenant de passages distincts des textes à résumer. Nous démontrons que la prise en compte de la structure du document améliore les performances des modèles et se rapproche des performances de LongFormer en anglais.
Anthology ID:
2025.jeptalnrecital-trad.19
Volume:
Actes des 32ème Conférence sur le Traitement Automatique des Langues Naturelles (TALN), volume 2 : traductions d'articles publiés
Month:
6
Year:
2025
Address:
Marseille, France
Editors:
Frédéric Bechet, Adrian-Gabriel Chifu, Karen Pinel-sauvagnat, Benoit Favre, Eliot Maes, Diana Nurbakova
Venue:
JEP/TALN/RECITAL
SIG:
Publisher:
ATALA \\& ARIA
Note:
Pages:
36
Language:
French
URL:
https://aclanthology.org/2025.jeptalnrecital-trad.19/
DOI:
Bibkey:
Cite (ACL):
Eve Sauvage, Sabrina Campano, Lydia Ould-Ouali, and Cyril Grouin. 2025. La structure du contenu textuel a-t-elle un impact sur les modèles linguistiques pour le résumé automatique ?. In Actes des 32ème Conférence sur le Traitement Automatique des Langues Naturelles (TALN), volume 2 : traductions d'articles publiés, pages 36–36, Marseille, France. ATALA \\& ARIA.
Cite (Informal):
La structure du contenu textuel a-t-elle un impact sur les modèles linguistiques pour le résumé automatique ? (Sauvage et al., JEP/TALN/RECITAL 2025)
Copy Citation:
PDF:
https://aclanthology.org/2025.jeptalnrecital-trad.19.pdf