Abstract
Les auto-encodeurs variationnels sont des modèles génératifs utiles pour apprendre des représentations latentes. En pratique, lorsqu’ils sont supervisés pour des tâches de génération de textes, ils ont tendance à ignorer les variables latentes lors du décodage. Nous proposons une nouvelle méthode de régularisation fondée sur le dropout « fraternel » pour encourager l’utilisation de ces variables latentes. Nous évaluons notre approche sur plusieurs jeux de données et observons des améliorations dans toutes les configurations testées.- Anthology ID:
- 2021.jeptalnrecital-taln.1
- Volume:
- Actes de la 28e Conférence sur le Traitement Automatique des Langues Naturelles. Volume 1 : conférence principale
- Month:
- 6
- Year:
- 2021
- Address:
- Lille, France
- Venue:
- JEP/TALN/RECITAL
- SIG:
- Publisher:
- ATALA
- Note:
- Pages:
- 2–10
- Language:
- French
- URL:
- https://aclanthology.org/2021.jeptalnrecital-taln.1
- DOI:
- Cite (ACL):
- Alban Petit and Caio Corro. 2021. Auto-encodeurs variationnels : contrecarrer le problème de posterior collapse grâce à la régularisation du décodeur (Variational auto-encoders : prevent posterior collapse via decoder regularization). In Actes de la 28e Conférence sur le Traitement Automatique des Langues Naturelles. Volume 1 : conférence principale, pages 2–10, Lille, France. ATALA.
- Cite (Informal):
- Auto-encodeurs variationnels : contrecarrer le problème de posterior collapse grâce à la régularisation du décodeur (Variational auto-encoders : prevent posterior collapse via decoder regularization) (Petit & Corro, JEP/TALN/RECITAL 2021)
- PDF:
- https://preview.aclanthology.org/auto-file-uploads/2021.jeptalnrecital-taln.1.pdf
- Data
- SNLI