@inproceedings{tighidet-etal-2025-sondage,
title = "Sondage des Mod{\`e}les de Langue sur leur Source de Connaissance",
author = "Tighidet, Zineddine and
Mogini, Andrea and
Mei, Jiali and
Gallinari, Patrick and
Piwowarski, Benjamin",
editor = "Bechet, Fr{\'e}d{\'e}ric and
Chifu, Adrian-Gabriel and
Pinel-sauvagnat, Karen and
Favre, Benoit and
Maes, Eliot and
Nurbakova, Diana",
booktitle = "Actes des 32{\`e}me Conf{\'e}rence sur le Traitement Automatique des Langues Naturelles (TALN), volume 2 : traductions d'articles publi{\'e}s",
month = "6",
year = "2025",
address = "Marseille, France",
publisher = "ATALA {\textbackslash}{\textbackslash}{\&} ARIA",
url = "https://aclanthology.org/2025.jeptalnrecital-trad.26/",
pages = "59--60",
language = "fra",
abstract = "Les grands mod{\`e}les de langue (GML) sont souvent confront{\'e}s {\`a} des conflits entre leurs connaissance interne (connaissance param{\'e}trique, CP) et la connaissance externe fournie pendant l{'}inf{\'e}rence (connaissance contextuelle, CC). Comprendre comment les GML priorisent une source de connaissance par rapport {\`a} l{'}autre reste un d{\'e}fi. Dans cet article, nous proposons un nouveau cadre de sondage pour explorer les m{\'e}canismes r{\'e}gissant la s{\'e}lection entre CP et CC dans les GML. En utilisant des prompts contr{\^o}l{\'e}es con{\c{c}}ues pour contredire la CP du mod{\`e}le, nous d{\'e}montrons que des activations sp{\'e}cifiques du mod{\`e}le sont indicatives de la source de connaissance employ{\'e}e. Nous {\'e}valuons ce cadre sur divers GML de diff{\'e}rentes tailles et d{\'e}montrons que les activations des couches interm{\'e}diaires, en particulier celles li{\'e}es aux relations dans l{'}entr{\'e}e, sont cruciales pour pr{\'e}dire la s{\'e}lection de la source de connaissances, ouvrant la voie {\`a} des mod{\`e}les plus fiables capables de g{\'e}rer efficacement les conflits de connaissances."
}<?xml version="1.0" encoding="UTF-8"?>
<modsCollection xmlns="http://www.loc.gov/mods/v3">
<mods ID="tighidet-etal-2025-sondage">
<titleInfo>
<title>Sondage des Modèles de Langue sur leur Source de Connaissance</title>
</titleInfo>
<name type="personal">
<namePart type="given">Zineddine</namePart>
<namePart type="family">Tighidet</namePart>
<role>
<roleTerm authority="marcrelator" type="text">author</roleTerm>
</role>
</name>
<name type="personal">
<namePart type="given">Andrea</namePart>
<namePart type="family">Mogini</namePart>
<role>
<roleTerm authority="marcrelator" type="text">author</roleTerm>
</role>
</name>
<name type="personal">
<namePart type="given">Jiali</namePart>
<namePart type="family">Mei</namePart>
<role>
<roleTerm authority="marcrelator" type="text">author</roleTerm>
</role>
</name>
<name type="personal">
<namePart type="given">Patrick</namePart>
<namePart type="family">Gallinari</namePart>
<role>
<roleTerm authority="marcrelator" type="text">author</roleTerm>
</role>
</name>
<name type="personal">
<namePart type="given">Benjamin</namePart>
<namePart type="family">Piwowarski</namePart>
<role>
<roleTerm authority="marcrelator" type="text">author</roleTerm>
</role>
</name>
<originInfo>
<dateIssued>2025-06</dateIssued>
</originInfo>
<typeOfResource>text</typeOfResource>
<language>
<languageTerm type="text">fra</languageTerm>
</language>
<relatedItem type="host">
<titleInfo>
<title>Actes des 32ème Conférence sur le Traitement Automatique des Langues Naturelles (TALN), volume 2 : traductions d’articles publiés</title>
</titleInfo>
<name type="personal">
<namePart type="given">Frédéric</namePart>
<namePart type="family">Bechet</namePart>
<role>
<roleTerm authority="marcrelator" type="text">editor</roleTerm>
</role>
</name>
<name type="personal">
<namePart type="given">Adrian-Gabriel</namePart>
<namePart type="family">Chifu</namePart>
<role>
<roleTerm authority="marcrelator" type="text">editor</roleTerm>
</role>
</name>
<name type="personal">
<namePart type="given">Karen</namePart>
<namePart type="family">Pinel-sauvagnat</namePart>
<role>
<roleTerm authority="marcrelator" type="text">editor</roleTerm>
</role>
</name>
<name type="personal">
<namePart type="given">Benoit</namePart>
<namePart type="family">Favre</namePart>
<role>
<roleTerm authority="marcrelator" type="text">editor</roleTerm>
</role>
</name>
<name type="personal">
<namePart type="given">Eliot</namePart>
<namePart type="family">Maes</namePart>
<role>
<roleTerm authority="marcrelator" type="text">editor</roleTerm>
</role>
</name>
<name type="personal">
<namePart type="given">Diana</namePart>
<namePart type="family">Nurbakova</namePart>
<role>
<roleTerm authority="marcrelator" type="text">editor</roleTerm>
</role>
</name>
<originInfo>
<publisher>ATALA \textbackslash\textbackslash& ARIA</publisher>
<place>
<placeTerm type="text">Marseille, France</placeTerm>
</place>
</originInfo>
<genre authority="marcgt">conference publication</genre>
</relatedItem>
<abstract>Les grands modèles de langue (GML) sont souvent confrontés à des conflits entre leurs connaissance interne (connaissance paramétrique, CP) et la connaissance externe fournie pendant l’inférence (connaissance contextuelle, CC). Comprendre comment les GML priorisent une source de connaissance par rapport à l’autre reste un défi. Dans cet article, nous proposons un nouveau cadre de sondage pour explorer les mécanismes régissant la sélection entre CP et CC dans les GML. En utilisant des prompts contrôlées conçues pour contredire la CP du modèle, nous démontrons que des activations spécifiques du modèle sont indicatives de la source de connaissance employée. Nous évaluons ce cadre sur divers GML de différentes tailles et démontrons que les activations des couches intermédiaires, en particulier celles liées aux relations dans l’entrée, sont cruciales pour prédire la sélection de la source de connaissances, ouvrant la voie à des modèles plus fiables capables de gérer efficacement les conflits de connaissances.</abstract>
<identifier type="citekey">tighidet-etal-2025-sondage</identifier>
<location>
<url>https://aclanthology.org/2025.jeptalnrecital-trad.26/</url>
</location>
<part>
<date>2025-6</date>
<extent unit="page">
<start>59</start>
<end>60</end>
</extent>
</part>
</mods>
</modsCollection>
%0 Conference Proceedings
%T Sondage des Modèles de Langue sur leur Source de Connaissance
%A Tighidet, Zineddine
%A Mogini, Andrea
%A Mei, Jiali
%A Gallinari, Patrick
%A Piwowarski, Benjamin
%Y Bechet, Frédéric
%Y Chifu, Adrian-Gabriel
%Y Pinel-sauvagnat, Karen
%Y Favre, Benoit
%Y Maes, Eliot
%Y Nurbakova, Diana
%S Actes des 32ème Conférence sur le Traitement Automatique des Langues Naturelles (TALN), volume 2 : traductions d’articles publiés
%D 2025
%8 June
%I ATALA \textbackslash\textbackslash& ARIA
%C Marseille, France
%G fra
%F tighidet-etal-2025-sondage
%X Les grands modèles de langue (GML) sont souvent confrontés à des conflits entre leurs connaissance interne (connaissance paramétrique, CP) et la connaissance externe fournie pendant l’inférence (connaissance contextuelle, CC). Comprendre comment les GML priorisent une source de connaissance par rapport à l’autre reste un défi. Dans cet article, nous proposons un nouveau cadre de sondage pour explorer les mécanismes régissant la sélection entre CP et CC dans les GML. En utilisant des prompts contrôlées conçues pour contredire la CP du modèle, nous démontrons que des activations spécifiques du modèle sont indicatives de la source de connaissance employée. Nous évaluons ce cadre sur divers GML de différentes tailles et démontrons que les activations des couches intermédiaires, en particulier celles liées aux relations dans l’entrée, sont cruciales pour prédire la sélection de la source de connaissances, ouvrant la voie à des modèles plus fiables capables de gérer efficacement les conflits de connaissances.
%U https://aclanthology.org/2025.jeptalnrecital-trad.26/
%P 59-60
Markdown (Informal)
[Sondage des Modèles de Langue sur leur Source de Connaissance](https://aclanthology.org/2025.jeptalnrecital-trad.26/) (Tighidet et al., JEP/TALN/RECITAL 2025)
ACL
- Zineddine Tighidet, Andrea Mogini, Jiali Mei, Patrick Gallinari, and Benjamin Piwowarski. 2025. Sondage des Modèles de Langue sur leur Source de Connaissance. In Actes des 32ème Conférence sur le Traitement Automatique des Langues Naturelles (TALN), volume 2 : traductions d'articles publiés, pages 59–60, Marseille, France. ATALA \\& ARIA.