Apprentissage d'arbres de décision optimaux à partir de treillis d'itemsets

Elisa Fromont (1) , Siegfried Nijssen (1)

1 DTAI - Declarative Languages and Artificial Intelligence

Nous présentons DL8, un algorithme permettant d'apprendre des arbres de décision sous contraintes. Cet algorithme permet d'optimiser des critères de taille, de profondeur et de précision de l'arbre. Un algorithme exact est intéressant du point de vue pratique comme du point de vue purement scientifique. Il peut, par exemple, être utilisé comme référence pour évaluer les performances et comprendre le comportement des systèmes d'apprentissage d'arbres de décision utilisant des heuristiques. Du point de vue applicatif, il peut permettre de découvrir des arbres ne pouvant pas être appris par ces systèmes d'apprentissage. DL8 repose essentiellement sur la relation existant entre les contraintes applicables aux arbres de décision et celles applicables aux itemsets. Nous proposons d'exploiter des treillis d'itemsets pour extraire des arbres de décision optimaux en temps linéaire et donnons différentes stratégies permettant de construire ces treillis efficacement. Nos expériences montrent que la précision en test de DL8 est meilleure que celle de systèmes tel que C4.5 en utilisant les mêmes contraintes, ce qui confirme les résultats stipulant qu'une recherche exhaustive n'entraine pas forcement un sur-apprentissage. Ces expériences prouvent également que DL8 est un outil utile et intéressant pour apprendre des arbres de décision sous contraintes.

Mots clés: Arbres de décision; recherche d'itemsets fréquents; treillis d'itemsets; analyse de concepts formels; fouille de données sous contraintes

Domaines: Apprentissage [cs.LG]

Elisa Fromont, Siegfried Nijssen. Apprentissage d'arbres de décision optimaux à partir de treillis d'itemsets. CAp'07 (Conférence d'Apprentissage), Jul 2007, France. pp.141-156. ⟨hal-00378347⟩