Apprentissage de plongements lexicaux par une approche réseaux complexes

Résumé : La littérature des réseaux complexes a montré la pertinence de l'étude de la langue sous forme de réseau pour différentes applications : désambiguïsation, résumé automatique, classification des langues, etc. Cette même littérature a démontré que les réseaux de co-occurrences de mots possèdent une structure de communautés latente. Nous formulons l'hypothèse que cette structuration du réseau sous forme de communautés est utile pour travailler sur la sémantique d'une langue et introduisons donc dans cet article une méthode d'apprentissage de plongements originale basée sur cette hypothèse. Cette hypothèse est cohérente avec la proximité qui existe entre la détection de communautés sur un réseau de co-occurrences et la factorisation d'une matrice de co-occurrences, méthode couramment utilisée pour l'apprentissage de plongements lexicaux. Nous décrivons notre méthode structurée en trois étapes : construction et pré-traitement du réseau, détection de la structure de communautés, construction des plongements de mots à partir de cette structure. Après avoir décrit cette nouvelle méthodologie, nous montrons la pertinence de notre approche avec des premiers résultats d'évaluation sur les tâches de catégorisation et de similarité. Enfin, nous discutons des perspectives importantes d'un tel modèle issu des réseaux complexes : les dimensions du modèle (les communautés) semblent interprétables, l'apprentissage est rapide, la construction d'un nouveau plongement est presque instantanée, et il est envisageable d'en expérimenter une version incrémentale pour travailler sur des corpus textuels temporels. ABSTRACT Complex networks based word embeddings. Most of the time, the first step to learn word embeddings is to build a word co-occurrence matrix. As such matrices are equivalent to graphs, complex networks theory can naturally be used to deal with such data. In this paper, we consider applying community detection, a main tool of this field, to the co-occurrence matrix corresponding to a huge corpus. Community structure is used as a way to reduce the dimensionality of the initial space. Using this community structure, we propose a method to extract word embeddings that are comparable to the state-of-the-art approaches. MOTS-CLÉS : Plongements lexicaux, réseaux complexes, détection de communautés.
Complete list of metadatas

Cited literature [26 references]  Display  Hide  Download

https://hal.archives-ouvertes.fr/hal-02408156
Contributor : Nicolas Dugue <>
Submitted on : Thursday, December 12, 2019 - 6:34:24 PM
Last modification on : Tuesday, December 17, 2019 - 1:16:23 AM

File

Mod_le_de_document_pour_TALN_2...
Files produced by the author(s)

Identifiers

  • HAL Id : hal-02408156, version 1

Collections

Citation

Victor Connes, Nicolas Dugué. Apprentissage de plongements lexicaux par une approche réseaux complexes. TALN 2019, Jul 2019, Toulouse, France. ⟨hal-02408156⟩

Share

Metrics

Record views

30

Files downloads

30