Expliquer les prédictions des réseaux de neurones par l'exploration de l'espace de représentation et de la frontière de décision à l'aide d'EBBE-Text

Alexis Delaforge (1, 2) , Jérôme Azé (1, 2) , Arnaud Sallaberry (2, 3) , Maximilien Servajean (2, 3) , Sandra Bringay (2, 3) , Caroline Mollevi (4, 5)

1 UM - Université de Montpellier
2 ADVANSE - ADVanced Analytics for data SciencE
3 UPVM - Université Paul-Valéry - Montpellier 3
4 ICM - Institut régional de Cancérologie de Montpellier
5 IDESP - Institut Desbrest de santé publique

In text classification, many recent works deal with the interpretation of neural networks by the production of prediction explanations. In this context, EBBE-Text offers an interactive visualization of the decision boundary, positionings of texts with respect to it (and thus the certainty of a network in its predictions), paths leading from a text to the decision boundary, information concerning the proximity between texts, trought different localities in the text representation space. These information make it possible to intuit how the classification neural network functions and thus helps in its interpretability. Our method creates data on the decision boundary and then uses simplistic fuzzy sets to create a graph before linearly aligning the created data on the decision boundary. Finally an iterative process places the input data around the linear arrangements of the boundary data.

En classification automatique de textes, de nombreux travaux récents portent sur l’interprétation des réseaux de neurones par la production d’explications associées aux prédictions. Dans ce contexte, EBBE-Text offre une visualisation interactive de la frontière de décision, du positionnement es textes vis-àvis de celle-ci (et donc de la certitude d’un réseau en ses prédictions), des chemins menant d’un texte à la frontière de décision, des informations concernant la proximité entre les textes, tout cela au sein de différentes localités dans l’espace de représentation des textes. Ces informations permettent d’intuiter comment le réseau de neurones de classification fonctionne et ainsi aider à son interprétabilité. Notre méthode crée des données sur la frontière de décision puis utilise des ensembles flous simplicials pour créer un graphe avant d’aligner linéairement les données créées sur la frontière de décision. Enfin, un processus itératif place les données d’entrée autour des arrangements linéaires des données de la frontière.

Domaines: Intelligence artificielle [cs.AI]; Informatique et langage [cs.CL]

Alexis Delaforge, Jérôme Azé, Arnaud Sallaberry, Maximilien Servajean, Sandra Bringay, et al.. Expliquer les prédictions des réseaux de neurones par l'exploration de l'espace de représentation et de la frontière de décision à l'aide d'EBBE-Text. EGC 2021 - 21e Conférence Extraction et Gestion des Connaissances, Jan 2021, Montpellier, France. pp.485-492. ⟨hal-03462935⟩