Comprendre la Nature des Signaux de Correspondance dans les Modèles Neuronaux pour la RI

Mathias Vast, Basile Van Cooten, Laure Soulier, Benjamin Piwowarski


Abstract
Les architectures de recherche d’information (RI) neuronale, en particulier celles basées sur l’interaction, sont des modèles très performants dont les mécanismes restent largement méconnus. La plupart des travaux visant à expliquer leur comportement se sont attachés à décrire des processus en surface (par exemple, quels éléments de l’entrée influencent la prédiction ? le modèle respecte t-il les axiomes connus de la RI ?) mais ne décrivent pas précisément le processus d’appariement. Dans cet article, nous apportons un nouvel éclairage sur le mécanisme de correspondance en analysant le processus d’attention, et en mettant en évidence le rôle crucial de certaines têtes d’attention ainsi que la nature des signaux qui sont manipulés.
Anthology ID:
2025.jeptalnrecital-coria.8
Volume:
Actes de la 20e Conférence en Recherche d’Information et Applications (CORIA)
Month:
6
Year:
2025
Address:
Marseille, France
Editors:
Frédéric Bechet, Adrian-Gabriel Chifu, Karen Pinel-sauvagnat, Benoit Favre, Eliot Maes, Diana Nurbakova
Venue:
JEP/TALN/RECITAL
SIG:
Publisher:
ATALA \\& ARIA
Note:
Pages:
96–106
Language:
French
URL:
https://aclanthology.org/2025.jeptalnrecital-coria.8/
DOI:
Bibkey:
Cite (ACL):
Mathias Vast, Basile Van Cooten, Laure Soulier, and Benjamin Piwowarski. 2025. Comprendre la Nature des Signaux de Correspondance dans les Modèles Neuronaux pour la RI. In Actes de la 20e Conférence en Recherche d’Information et Applications (CORIA), pages 96–106, Marseille, France. ATALA \\& ARIA.
Cite (Informal):
Comprendre la Nature des Signaux de Correspondance dans les Modèles Neuronaux pour la RI (Vast et al., JEP/TALN/RECITAL 2025)
Copy Citation:
PDF:
https://aclanthology.org/2025.jeptalnrecital-coria.8.pdf