Convex Sparse Matrix Factorizations

Francis Bach 1 Julien Mairal 1 Jean Ponce 1
1 WILLOW - Models of visual object recognition and scene understanding
DI-ENS - Département d'informatique de l'École normale supérieure, ENS Paris - École normale supérieure - Paris, Inria Paris-Rocquencourt, CNRS - Centre National de la Recherche Scientifique : UMR8548
Abstract : We present a convex formulation of dictionary learning for sparse signal decomposition. Convexity is obtained by replacing the usual explicit upper bound on the dictionary size by a convex rank-reducing term similar to the trace norm. In particular, our formulation introduces an explicit trade-off between size and sparsity of the decomposition of rectangular matrices. Using a large set of synthetic examples, we compare the estimation abilities of the convex and non-convex approaches, showing that while the convex formulation has a single local minimum, this may lead in some cases to performance which is inferior to the local minima of the non-convex formulation.
Liste complète des métadonnées


https://hal.archives-ouvertes.fr/hal-00345747
Contributeur : Francis Bach <>
Soumis le : mardi 9 décembre 2008 - 17:54:43
Dernière modification le : mardi 13 décembre 2016 - 15:44:03
Document(s) archivé(s) le : lundi 7 juin 2010 - 23:58:13

Fichiers

matrixfactorization-rr.pdf
Fichiers produits par l'(les) auteur(s)

Identifiants

  • HAL Id : hal-00345747, version 1
  • ARXIV : 0812.1869

Collections

Citation

Francis Bach, Julien Mairal, Jean Ponce. Convex Sparse Matrix Factorizations. 2008. <hal-00345747>

Partager

Métriques

Consultations de
la notice

716

Téléchargements du document

592