@inproceedings{bouhandi-etal-2022-adaptation,
    title = "Adaptation au domaine de mod{\`e}les de langue {\`a} l{'}aide de r{\'e}seaux {\`a} base de graphes (Graph Neural Networks for Adapting General Domain Language Mod{\`e}les Specialised Corpora)",
    author = "Bouhandi, Merieme  and
      Morin, Emmanuel  and
      Hamon, Thierry",
    editor = "Est{\`e}ve, Yannick  and
      Jim{\'e}nez, Tania  and
      Parcollet, Titouan  and
      Zanon Boito, Marcely",
    booktitle = "Actes de la 29e Conf{\'e}rence sur le Traitement Automatique des Langues Naturelles. Volume 1 : conf{\'e}rence principale",
    month = "6",
    year = "2022",
    address = "Avignon, France",
    publisher = "ATALA",
    url = "https://preview.aclanthology.org/ingest-emnlp/2022.jeptalnrecital-taln.26/",
    pages = "270--279",
    language = "fra",
    abstract = "Les mod{\`e}les de langue prodonds encodent les propri{\'e}t{\'e}s linguistiques et sont utilis{\'e}s comme entr{\'e}e pour des mod{\`e}les plus sp{\'e}cifiques. Utiliser leurs repr{\'e}sentations de mots telles quelles pour des domaines peu dot{\'e}s se r{\'e}v{\`e}le {\^e}tre moins efficace. De plus, ces mod{\`e}les n{\'e}gligent souvent les informations globales sur le vocabulaire au profit d{'}une plus forte d{\'e}pendance {\`a} l{'}attention. Nous consid{\'e}rons que ces informations influent sur les r{\'e}sultats des t{\^a}ches en aval. Leur combinaison avec les repr{\'e}sentations contextuelles est effectu{\'e}e {\`a} l{'}aide de r{\'e}seaux de neurones {\`a} base de graphes. Nous montrons que l{'}utilit{\'e} de cette combinaison qui surpassent les performances de baselines."
}