@inproceedings{labeau-allauzen-2018-algorithmes,
    title = "Algorithmes {\`a} base d'{\'e}chantillonage pour l{'}entra{\^i}nement de mod{\`e}les de langue neuronaux (Here the title in {E}nglish)",
    author = "Labeau, Matthieu  and
      Allauzen, Alexandre",
    editor = "S{\'e}billot, Pascale  and
      Claveau, Vincent",
    booktitle = "Actes de la Conf{\'e}rence TALN. Volume 1 - Articles longs, articles courts de TALN",
    month = "5",
    year = "2018",
    address = "Rennes, France",
    publisher = "ATALA",
    url = "https://preview.aclanthology.org/fix-sig-urls/2018.jeptalnrecital-court.29/",
    pages = "455--464",
    language = "fra",
    abstract = "L{'}estimation contrastive bruit{\'e}e (NCE) et l'{\'e}chantillonage par importance (IS) sont des proc{\'e}dures d{'}entra{\^i}nement bas{\'e}es sur l'{\'e}chantillonage, que l{'}on utilise habituellement {\`a} la place de l{'}estimation du maximum de vraisemblance (MLE) pour {\'e}viter le calcul du softmax lorsque l{'}on entra{\^i}ne des mod{\`e}les de langue neuronaux. Dans cet article, nous cherchons {\`a} r{\'e}sumer le fonctionnement de ces algorithmes, et leur utilisation dans la litt{\'e}rature du TAL. Nous les comparons exp{\'e}rimentalement, et pr{\'e}sentons des mani{\`e}res de faciliter l{'}entra{\^i}nement du NCE."
}