Iterative hard clustering of features

Vincent Roulet 1 Fajwel Fogel 2 Alexandre D'Aspremont 2 Francis Bach 2, 1
1 SIERRA - Statistical Machine Learning and Parsimony
DI-ENS - Département d'informatique de l'École normale supérieure, ENS Paris - École normale supérieure - Paris, CNRS - Centre National de la Recherche Scientifique, Inria de Paris
Abstract : We seek to group features in supervised learning problems by constraining the prediction vector coefficients to take only a small number of values. This problem includes non-convex constraints and is solved using projected gradient descent. We prove exact recovery results using restricted eigenvalue conditions. We then extend these results to combine sparsity and grouping constraints, and develop an efficient projection algorithm on the set of grouped and sparse vectors. Numerical experiments illustrate the performance of our algorithms on both synthetic and real data sets.
Type de document :
Pré-publication, Document de travail
2017
Liste complète des métadonnées

Littérature citée [29 références]  Voir  Masquer  Télécharger

https://hal.archives-ouvertes.fr/hal-01664964
Contributeur : Vincent Roulet <>
Soumis le : vendredi 15 décembre 2017 - 13:49:56
Dernière modification le : jeudi 11 janvier 2018 - 06:28:04

Fichier

Iterative_Hard_Clustering.pdf
Fichiers produits par l'(les) auteur(s)

Identifiants

  • HAL Id : hal-01664964, version 1

Collections

Citation

Vincent Roulet, Fajwel Fogel, Alexandre D'Aspremont, Francis Bach. Iterative hard clustering of features. 2017. 〈hal-01664964〉

Partager

Métriques

Consultations de la notice

142

Téléchargements de fichiers

58