Flan-T5 avec ou sans contexte, telle est la question à choix multiples

Elias Okat, Hugo Brochelard, Aghilas Sini, Valérie Renault, Nathalie Camelin


Abstract
Ce travail présente les systèmes développés par l’équipe LIUM-CREN pour l’atelier DEFT 2024. Nous avons participé à la tâche principale qui vise à inférer automatiquement les réponses correctes à des questions à choix multiples dans le domaine médical en utilisant le corpus FrenchMedMCQA. Nous avons soumis trois approches : (a) explorer l’espace de plongements afin de mettre en évidence les liens éventuels entre les questions et les réponses associées ; (b) utiliser la capacité de génération des modèles Text-To-Text tels que Flan-T5-Large pour générer les réponses correctes ; et (c) mettre en place une technique basique de Retrieval Augmented Generation (RAG) afin de fournir du contexte spécifique au modèle génératif Flan-T5-Large. Cet article vise à rapporter les résultats que nous avons obtenus et à étudier l’impact du contexte sur la capacité du Flan-T5 à inférer les réponses correctes.
Anthology ID:
2024.jeptalnrecital-deft.6
Volume:
Actes du Défi Fouille de Textes@TALN 2024
Month:
7
Year:
2024
Address:
Toulouse, France
Editors:
Richard Dufour, Benoit Favre, Mickael Rouvier, Adrien Bazoge, Yanis Labrak
Venue:
JEP/TALN/RECITAL
SIG:
Publisher:
ATALA and AFPC
Note:
Pages:
58–69
Language:
French
URL:
https://aclanthology.org/2024.jeptalnrecital-deft.6
DOI:
Bibkey:
Cite (ACL):
Elias Okat, Hugo Brochelard, Aghilas Sini, Valérie Renault, and Nathalie Camelin. 2024. Flan-T5 avec ou sans contexte, telle est la question à choix multiples. In Actes du Défi Fouille de Textes@TALN 2024, pages 58–69, Toulouse, France. ATALA and AFPC.
Cite (Informal):
Flan-T5 avec ou sans contexte, telle est la question à choix multiples (Okat et al., JEP/TALN/RECITAL 2024)
Copy Citation:
PDF:
https://aclanthology.org/2024.jeptalnrecital-deft.6.pdf