Participation du CRIM à DEFT 2024 : Utilisation de petits modèles de Langue pour des QCMs dans le domaine médical

Ahmed Moubtahij, Charles-William Cummings, Azur Handan, Edith Galy, Eric Charton


Abstract
Ce papier décrit le travail de l’équipe du CRIM (Centre de recherche en Informatique de Montréal) dans le cadre du Défi Fouille de textes 2024. Nous présentons les expériences que nous avons menées dans le cadre de la tâche principale consistant à identifier automatiquement, pour une question donnée issue d’annales d’examens de pharmacie, l’ensemble des réponses correctes parmi les cinq proposées. La contrainte est d’utiliser un système de moins de 3 milliards de paramètres dont les données d’entraînement sont connues. Pour ce faire, nous avons testé des approches impliquant du few-shot prompting, du RAG, de l’affinage et de la génération contrainte en dernier recours.
Anthology ID:
2024.jeptalnrecital-deft.2
Volume:
Actes du Défi Fouille de Textes@TALN 2024
Month:
7
Year:
2024
Address:
Toulouse, France
Editors:
Richard Dufour, Benoit Favre, Mickael Rouvier, Adrien Bazoge, Yanis Labrak
Venue:
JEP/TALN/RECITAL
SIG:
Publisher:
ATALA and AFPC
Note:
Pages:
11–22
Language:
French
URL:
https://aclanthology.org/2024.jeptalnrecital-deft.2
DOI:
Bibkey:
Cite (ACL):
Ahmed Moubtahij, Charles-William Cummings, Azur Handan, Edith Galy, and Eric Charton. 2024. Participation du CRIM à DEFT 2024 : Utilisation de petits modèles de Langue pour des QCMs dans le domaine médical. In Actes du Défi Fouille de Textes@TALN 2024, pages 11–22, Toulouse, France. ATALA and AFPC.
Cite (Informal):
Participation du CRIM à DEFT 2024 : Utilisation de petits modèles de Langue pour des QCMs dans le domaine médical (Moubtahij et al., JEP/TALN/RECITAL 2024)
Copy Citation:
PDF:
https://aclanthology.org/2024.jeptalnrecital-deft.2.pdf