Participation du CRIM à DEFT 2024 : Utilisation de petits modèles de Langue pour des QCMs dans le domaine médical
Ahmed Moubtahij, Charles-William Cummings, Azur Handan, Edith Galy, Eric Charton
Abstract
Ce papier décrit le travail de l’équipe du CRIM (Centre de recherche en Informatique de Montréal) dans le cadre du Défi Fouille de textes 2024. Nous présentons les expériences que nous avons menées dans le cadre de la tâche principale consistant à identifier automatiquement, pour une question donnée issue d’annales d’examens de pharmacie, l’ensemble des réponses correctes parmi les cinq proposées. La contrainte est d’utiliser un système de moins de 3 milliards de paramètres dont les données d’entraînement sont connues. Pour ce faire, nous avons testé des approches impliquant du few-shot prompting, du RAG, de l’affinage et de la génération contrainte en dernier recours.- Anthology ID:
- 2024.jeptalnrecital-deft.2
- Volume:
- Actes du Défi Fouille de Textes@TALN 2024
- Month:
- 7
- Year:
- 2024
- Address:
- Toulouse, France
- Editors:
- Richard Dufour, Benoit Favre, Mickael Rouvier, Adrien Bazoge, Yanis Labrak
- Venue:
- JEP/TALN/RECITAL
- SIG:
- Publisher:
- ATALA and AFPC
- Note:
- Pages:
- 11–22
- Language:
- French
- URL:
- https://aclanthology.org/2024.jeptalnrecital-deft.2
- DOI:
- Cite (ACL):
- Ahmed Moubtahij, Charles-William Cummings, Azur Handan, Edith Galy, and Eric Charton. 2024. Participation du CRIM à DEFT 2024 : Utilisation de petits modèles de Langue pour des QCMs dans le domaine médical. In Actes du Défi Fouille de Textes@TALN 2024, pages 11–22, Toulouse, France. ATALA and AFPC.
- Cite (Informal):
- Participation du CRIM à DEFT 2024 : Utilisation de petits modèles de Langue pour des QCMs dans le domaine médical (Moubtahij et al., JEP/TALN/RECITAL 2024)
- PDF:
- https://preview.aclanthology.org/nschneid-patch-4/2024.jeptalnrecital-deft.2.pdf