Détection de messages abusifs au moyen de réseaux conversationnels

Etienne Papegnies (1) , Richard Dufour (1) , Vincent Labatut (1) , Georges Linarès (1)

1 LIA - Laboratoire Informatique d'Avignon

While online communities have become increasingly important over the years, the moderation of user-generated content is still performed mostly manually. Automating this task is an important step in reducing the financial cost associated with moderation, but the majority of automated approaches strictly based on message content are highly vulnerable to intentional obfuscation. In this paper, we discuss methods for extracting conversational networks based on raw multi-participant chat logs, and we study the contribution of graph features to a classification system that aims to determine if a given message is abusive. The conversational graph-based system yields unexpectedly high performance, with results comparable to those previously obtained with a content-based approach. MOTS-CLÉS : Catégorisation de texte, Détection d'abus, Communautés en ligne, Modération

Le nombre et la taille des communautés en ligne ne cessent de s'accroître depuis l'ap-parition du Web. Cependant, la modération du contenu produit par leurs utilisateurs est toujours essentiellement réalisée manuellement. L'automatisation de cette tâche permettrait de réduire son coût financier, mais la majorité des approches utilisées en production s'appuient unique-ment sur le contenu des messages et apparaissent très sensibles aux méthodes d'obfuscation intentionnelles. Dans cet article, nous proposons une méthode pour l'extraction de réseaux conversationnels à partir des logs de conversations (chat), et nous étudions le pouvoir discri-minant d'un ensemble de mesures topologiques pour un problème de classification consistant à identifier les messages abusifs. Notre approche atteint un niveau de performance inattendu, comparable à celui obtenu précédemment sur les mêmes données avec une approche unique-ment basée sur le contenu.

Mots clés: Text categorisation; Abuse detection; Online communities; Moderation

Domaines: Informatique et langage [cs.CL]; Traitement du texte et du document; Réseaux sociaux et d'information [cs.SI]

Etienne Papegnies, Richard Dufour, Vincent Labatut, Georges Linarès. Détection de messages abusifs au moyen de réseaux conversationnels. 8ème Conférence Modèles et Analyse des Réseaux : Approches Mathématiques et Informatiques (MARAMI), Oct 2017, La Rochelle, France. ⟨hal-01614279⟩