Flan-T5 avec ou sans contexte, telle est la question à choix multiples
Elias Okat, Hugo Brochelard, Aghilas Sini, Valérie Renault, Nathalie Camelin
Abstract
Ce travail présente les systèmes développés par l’équipe LIUM-CREN pour l’atelier DEFT 2024. Nous avons participé à la tâche principale qui vise à inférer automatiquement les réponses correctes à des questions à choix multiples dans le domaine médical en utilisant le corpus FrenchMedMCQA. Nous avons soumis trois approches : (a) explorer l’espace de plongements afin de mettre en évidence les liens éventuels entre les questions et les réponses associées ; (b) utiliser la capacité de génération des modèles Text-To-Text tels que Flan-T5-Large pour générer les réponses correctes ; et (c) mettre en place une technique basique de Retrieval Augmented Generation (RAG) afin de fournir du contexte spécifique au modèle génératif Flan-T5-Large. Cet article vise à rapporter les résultats que nous avons obtenus et à étudier l’impact du contexte sur la capacité du Flan-T5 à inférer les réponses correctes.- Anthology ID:
- 2024.jeptalnrecital-deft.6
- Volume:
- Actes du Défi Fouille de Textes@TALN 2024
- Month:
- 7
- Year:
- 2024
- Address:
- Toulouse, France
- Editors:
- Richard Dufour, Benoit Favre, Mickael Rouvier, Adrien Bazoge, Yanis Labrak
- Venue:
- JEP/TALN/RECITAL
- SIG:
- Publisher:
- ATALA and AFPC
- Note:
- Pages:
- 58–69
- Language:
- French
- URL:
- https://aclanthology.org/2024.jeptalnrecital-deft.6
- DOI:
- Cite (ACL):
- Elias Okat, Hugo Brochelard, Aghilas Sini, Valérie Renault, and Nathalie Camelin. 2024. Flan-T5 avec ou sans contexte, telle est la question à choix multiples. In Actes du Défi Fouille de Textes@TALN 2024, pages 58–69, Toulouse, France. ATALA and AFPC.
- Cite (Informal):
- Flan-T5 avec ou sans contexte, telle est la question à choix multiples (Okat et al., JEP/TALN/RECITAL 2024)
- PDF:
- https://preview.aclanthology.org/nschneid-patch-4/2024.jeptalnrecital-deft.6.pdf