Apprentissage de bonnes similarités pour la classification linéaire parcimonieuse

Aurélien Bellet (1) , Amaury Habrard (1) , Marc Sebban (1)

1 LHC - Laboratoire Hubert Curien

Le rôle crucial joué par les métriques au sein des processus d'apprentissage automatique a donné lieu ces dernières années à un intérêt croissant pour l'optimisation de fonctions de distances ou de similarités. La plupart des approches de l'état de l'art visent à apprendre une distance de Mahalanobis, devant satisfaire la contrainte de semi-définie positivité (SDP), exploitée in fine dans un algorithme local de type plus-proches-voisins. Cependant, aucun résultat théorique n'établit le lien entre les métriques apprises et leur comportement en classification. Dans cet article, nous exploitons le cadre formel des bonnes similarités pour proposer un algorithme d'apprentissage de similarité linéaire, optimisée dans un espace kernélisé. Nous montrons que la similarité apprise, ne requérant pas d'être SDP, possède des propriétés théoriques de stabilité permettant d'établir une borne en généralisation. Les expérimentations menées sur plusieurs jeux de données confirment son efficacité par rapport à l'état de l'art.

Mots clés: Apprentissage de similarité; apprentissage parcimonieux; classification linéaire

Domaines: Apprentissage [cs.LG]

Aurélien Bellet, Amaury Habrard, Marc Sebban. Apprentissage de bonnes similarités pour la classification linéaire parcimonieuse. Conférence Francophone sur l'Apprentissage Automatique - CAp 2012, May 2012, Nancy, France. 16 p. ⟨hal-00690242⟩