Pourquoi dois-je croire ta prédiction ? Comment expliquer les résultats d'une classification automatique de sentiments à partir de textes

Waleed Ragheb (1) , Jérôme Azé (1) , Sandra Bringay (1) , Maximilien Servajean (1)

1 ADVANSE - ADVanced Analytics for data SciencE

Dans le cadre d'un problème classique de classification de sentiments, nous proposons un modèle qui utilise 1) l'apprentissage par transfert plutôt que les méthodes classiques de word embedding et 2) des mécanismes d'attention permettant de se concentrer sur les parties du texte importantes pour la tâche de classification étudiée. Notre modèle a été évalué sur plusieurs jeux de données et montre des résultats très compétitifs. Or, si ces méthodes d'apprentissage en profondeur s'avèrent très efficaces, elles sont souvent considérées comme des boites noires, difficiles à interpréter. Dans cet article, nous évaluons l'impact des mécanismes d'attention traduits sous la forme de nuages de mots-clés pour aider les utilisateurs à interpréter les résultats de la classification. L'expérimentation d'une telle visualisation sur plus de 85 participants a permis de montrer son intérêt en terme d'interprétabilité.

Mots clés: Classification de sentiments; Mécanisme d’attention et interprétabilité

Domaines: Intelligence artificielle [cs.AI]

Waleed Ragheb, Jérôme Azé, Sandra Bringay, Maximilien Servajean. Pourquoi dois-je croire ta prédiction ? Comment expliquer les résultats d'une classification automatique de sentiments à partir de textes. IC 2019 - 30es Journées francophones d'Ingénierie des Connaissances, AFIA, Jul 2019, Toulouse, France. pp.112-124. ⟨hal-02556888⟩