Évaluation statistique efficace de la robustesse de classifieurs

Karim Tit (1, 2) , Teddy Furon (2) , Mathias Rousset (3) , Louis-Marie Traonouez (4)

1 Thales LAS France
2 LinkMedia - Creating and exploiting explicit links between multimedia fragments
3 SIMSMART - SIMulation pARTiculaire de Modèles Stochastiques
4 Thales Land & Air Systems |Rennes]

Nous proposons de quantifier la robustesse d'un classifieur aux incertitudes d'entrée avec une simulation stochastique. L'évaluation de la robustesse est présentée comme un test d'hypothèse : le classifieur est considéré comme localement robuste si la probabilité de défaillance estimée est inférieure à un niveau critique. La procédure est basée sur une simulation d'Importance Splitting générant des échantillons d'événements rares. Nous dérivons des garanties théoriques non-asymptotiques par rapport à la taille de l'échantillon. Des expériences portant sur des classifieurs à grande échelle mettent en évidence l'efficacité de notre méthode.

Mots clés: Apprentissage profond; Robustesse; Monte Carlo séquentiel

Domaines: Informatique [cs]

Karim Tit, Teddy Furon, Mathias Rousset, Louis-Marie Traonouez. Évaluation statistique efficace de la robustesse de classifieurs. CAID 2021 - Conference on Artificial Intelligence for Defense, DGA, DGNUM, Ministère des Armées, Nov 2021, Rennes, France. pp.1-11. ⟨hal-03462156⟩