Adaptation de domaine pour la recherche dense par annotation automatique

Minghan Li, Eric Gaussier


Abstract
Bien que la recherche d’information neuronale ait connu des améliorations, les modèles de recherche dense ont une capacité de généralisation à de nouveaux domaines limitée, contrairement aux modèles basés sur l’interaction. Les approches d’apprentissage adversarial et de génération de requêtes n’ont pas résolu ce problème. Cet article propose une approche d’auto-supervision utilisant des étiquettes de pseudo-pertinence automatiquement générées pour le domaine cible. Le modèle T53B est utilisé pour réordonner une liste de documents fournie par BM25 afin d’obtenir une annotation des exemples positifs. L’extraction des exemples négatifs est effectuée en explorant différentes stratégies. Les expériences montrent que cette approche aide le modèle dense sur le domaine cible et améliore l’approche de génération de requêtes GPL.
Anthology ID:
2023.jeptalnrecital-coria.6
Volume:
Actes de CORIA-TALN 2023. Actes de la 18e Conférence en Recherche d'Information et Applications (CORIA)
Month:
6
Year:
2023
Address:
Paris, France
Editor:
Haïfa Zargayouna
Venue:
JEP/TALN/RECITAL
SIG:
Publisher:
ATALA
Note:
Pages:
93–110
Language:
French
URL:
https://preview.aclanthology.org/build-pipeline-with-new-library/2023.jeptalnrecital-coria.6/
DOI:
Bibkey:
Cite (ACL):
Minghan Li and Eric Gaussier. 2023. Adaptation de domaine pour la recherche dense par annotation automatique. In Actes de CORIA-TALN 2023. Actes de la 18e Conférence en Recherche d'Information et Applications (CORIA), pages 93–110, Paris, France. ATALA.
Cite (Informal):
Adaptation de domaine pour la recherche dense par annotation automatique (Li & Gaussier, JEP/TALN/RECITAL 2023)
Copy Citation:
PDF:
https://preview.aclanthology.org/build-pipeline-with-new-library/2023.jeptalnrecital-coria.6.pdf