Les petits modèles sont bons : une étude empirique de classification dans un contexte zero-shot
Pierre Lepagnol, Thomas Gerald, Sahar Ghannay, Christophe Servan, Sophie Rosset
Abstract
Ce travail s’inscrit dans le débat sur l’efficacité des grands modèles de langue par rapport aux petits pour la classification de texte par amorçage (prompting). Nous évaluons ici le potentiel des petits modèles de langue dans la classification de texte sans exemples, remettant en question la prédominance des grands modèles. À travers un ensemble diversifié de jeux de données, notre étude compare les petits et les grands modèles utilisant différentes architectures et données de pré-entraînement. Nos conclusions révèlent que les petits modèles peuvent générer efficacement des étiquettes et, dans certains contextes, rivaliser ou surpasser les performances de leurs homologues plus grands. Ce travail souligne l’idée que le modèle le plus grand n’est pas toujours le meilleur, suggérant que les petits modèles économes en ressources peuvent offrir des solutions viables pour des défis spécifiques de classification de données- Anthology ID:
- 2024.jeptalnrecital-taln.8
- Volume:
- Actes de la 31ème Conférence sur le Traitement Automatique des Langues Naturelles, volume 1 : articles longs et prises de position
- Month:
- 7
- Year:
- 2024
- Address:
- Toulouse, France
- Editors:
- Mathieu Balaguer, Nihed Bendahman, Lydia-Mai Ho-dac, Julie Mauclair, Jose G Moreno, Julien Pinquier
- Venue:
- JEP/TALN/RECITAL
- SIG:
- Publisher:
- ATALA and AFPC
- Note:
- Pages:
- 113–129
- Language:
- French
- URL:
- https://aclanthology.org/2024.jeptalnrecital-taln.8
- DOI:
- Cite (ACL):
- Pierre Lepagnol, Thomas Gerald, Sahar Ghannay, Christophe Servan, and Sophie Rosset. 2024. Les petits modèles sont bons : une étude empirique de classification dans un contexte zero-shot. In Actes de la 31ème Conférence sur le Traitement Automatique des Langues Naturelles, volume 1 : articles longs et prises de position, pages 113–129, Toulouse, France. ATALA and AFPC.
- Cite (Informal):
- Les petits modèles sont bons : une étude empirique de classification dans un contexte zero-shot (Lepagnol et al., JEP/TALN/RECITAL 2024)
- PDF:
- https://preview.aclanthology.org/naacl-24-ws-corrections/2024.jeptalnrecital-taln.8.pdf