A Random Block-Coordinate Douglas-Rachford Splitting Method with Low Computational Complexity for Binary Logistic Regression

Abstract : In this paper, we propose a new optimization algorithm for sparse logistic regression based on a stochastic version of the Douglas-Rachford splitting method. Our algorithm sweeps the training set by randomly selecting a mini-batch of data at each iteration, and it allows us to update the variables in a block coordinate manner. Our approach leverages the proximity operator of the logistic loss, which is expressed with the generalized Lambert W function. Experiments carried out on standard datasets demonstrate the efficiency of our approach w.r.t. stochastic gradient-like methods.
Type de document :
Pré-publication, Document de travail
2017
Liste complète des métadonnées

Littérature citée [45 références]  Voir  Masquer  Télécharger

https://hal.archives-ouvertes.fr/hal-01672507
Contributeur : Giovanni Chierchia <>
Soumis le : lundi 25 décembre 2017 - 21:50:25
Dernière modification le : lundi 1 octobre 2018 - 17:00:03

Fichier

main_optim_LB3.pdf
Fichiers produits par l'(les) auteur(s)

Identifiants

  • HAL Id : hal-01672507, version 1

Citation

Luis Briceño-Arias, Giovanni Chierchia, Emilie Chouzenoux, Jean-Christophe Pesquet. A Random Block-Coordinate Douglas-Rachford Splitting Method with Low Computational Complexity for Binary Logistic Regression. 2017. 〈hal-01672507〉

Partager

Métriques

Consultations de la notice

271

Téléchargements de fichiers

94