OK3: Méthode d'arbres à sortie noyau pour la prédiction de sorties structurées et l'apprentissage de noyau

Pierre Geurts (1) , Louis Wehenkel (2) , Florence d'Alché-Buc (1)

1 IBISC - Informatique, Biologie Intégrative et Systèmes Complexes
2 Institut Montefiore - Department of Electrical Engineering and Computer Science

Dans cet article, nous proposons une extension des méthodes d'arbres pour la prédiction de sorties structurées. Cette extension est basée sur l'utilisation d'un noyau sur la sortie de ces méthodes qui leur permet de construire un arbre à la seule condition qu'un noyau puisse être défini sur l'espace de sortie. Cet algorithme, appelé OK3 (pour output kernel trees), généralise les arbres de classification et de régression ainsi que les méthodes d'ensemble d'arbres. Il hérite de plusieurs caractéristiques de ces méthodes telles que l'interprétabilité, la robustesse aux variables non pertinentes et la résistance à l'échelle sur le nombre d'entrées. Lorsqu'on dispose uniquement d'une matrice de Gram sur les sorties de l'échantillon d'apprentissage, il apprend le noyau de sortie comme une fonction des entrées. Nous montrons que cet algorithme donne de bons résultats sur un problème de complétion d'image et sur un problème d'inférence de réseau biologique.

Domains: Computer science; Bioinformatics [q-bio.QM]; Quantitative Methods [q-bio.QM]; Modeling and Simulation; Machine Learning [cs.LG]; Databases [cs.DB]

Pierre Geurts, Louis Wehenkel, Florence d'Alché-Buc. OK3: Méthode d'arbres à sortie noyau pour la prédiction de sorties structurées et l'apprentissage de noyau. Proc. de la conférence francophone d'apprentissage automatique (CAP'2006), 2006, France. pp.16. ⟨hal-00341947⟩