Évaluation de la Similarité Textuelle : Entre Sémantique et Surface dans les Représentations Neuronales

Julie Tytgat, Guillaume Wisniewski, Adrien Betrancourt

Abstract
La mesure de la similarité entre textes, qu’elle soit basée sur le sens, les caractères ou la phonétique, est essentielle dans de nombreuses applications. Les réseaux neuronaux, en transformant le texte en vecteurs, offrent une méthode pratique pour évaluer cette similarité. Cependant, l’utilisation de ces représentations pose un défi car les critères sous-jacents à cette similarité ne sont pas clairement définis, oscillant entre sémantique et surface. Notre étude, basée sur des expériences contrôlées, révèle que les différences de surface ont un impact plus significatif que les différences de sémantique sur les mesures de similarité entre les représentations neuronales des mots construites par de nombreux modèles pré-entrainés. Ces résultats soulèvent des questions sur la nature même de la similarité mesurée par les modèles neuronaux et leurs capacités à capturer les nuances sémantiques.
Anthology ID:
2024.jeptalnrecital-taln.6
Volume:
Actes de la 31ème Conférence sur le Traitement Automatique des Langues Naturelles, volume 1 : articles longs et prises de position
Month:
7
Year:
2024
Address:
Toulouse, France
Editors:
Mathieu Balaguer, Nihed Bendahman, Lydia-Mai Ho-dac, Julie Mauclair, Jose G Moreno, Julien Pinquier
Venue:
JEP/TALN/RECITAL
SIG:
Publisher:
ATALA and AFPC
Note:
Pages:
85–96
Language:
French
URL:
https://aclanthology.org/2024.jeptalnrecital-taln.6
DOI:
Bibkey:
Cite (ACL):
Julie Tytgat, Guillaume Wisniewski, and Adrien Betrancourt. 2024. Évaluation de la Similarité Textuelle : Entre Sémantique et Surface dans les Représentations Neuronales. In Actes de la 31ème Conférence sur le Traitement Automatique des Langues Naturelles, volume 1 : articles longs et prises de position, pages 85–96, Toulouse, France. ATALA and AFPC.
Cite (Informal):
Évaluation de la Similarité Textuelle : Entre Sémantique et Surface dans les Représentations Neuronales (Tytgat et al., JEP/TALN/RECITAL 2024)
Copy Citation:
PDF:
https://preview.aclanthology.org/nschneid-patch-4/2024.jeptalnrecital-taln.6.pdf
PDF Search