Convergence d'un algorithme du gradient proximal stochastique à pas constant et généralisation aux opérateurs monotones aléatoires

Résumé : – L'algorithme du gradient proximal permet de trouver les minimiseurs d'une somme F + G de deux fonctions convexes propres et fermées, l'une étant supposée dérivable. Cet article introduit une version stochastique de cet algorithme. Les itérations font intervenir une suite iid de deux fonctions aléatoires, dont les espérances coïncident respectivement avec F et G, ainsi que des projections aléatoires sur des ensembles convexes fermés. L'objectif est de fournir une analyse de convergence, dans un contexte adaptatif où le pas de l'algorithme est supposé constant. On montre que, en moyenne de Césaro, la probabilité pour que les itérées soient hors d'un voisinage des minimiseurs souhaités est arbitrairement faible lorsque le nombre d'itérations tend vers l'infini, et dans la limite de pas faibles. Le comportement ergodique des itérées est également étudié. Enfin, l'algorithme est étendu au contexte plus général des opérateurs maximaux monotones aléatoires. Abstract – The proximal gradient algorithm allows to find the minimizers of a sum F + G of two proper closed convex functions, one of them being differentiable. This paper introduces a stochastic version of the proximal gradient algorithm. The iterations involve an iid sequence of two random functions, whose expectations coincide with F and G respectively, as well as random projections onto closed convex sets. The aim is to provide a convergence analysis in an adaptive context where the step size of the algorithm is constant. We prove that, in Césaro mean, the probability that the iterates are away from the sought minimizers is small when the number of iterations tends to infinity and in the limit of small step sizes. The ergodic behavior is studied as well. Finally, the algorithm is extended to the context of random maximal monotone operators.
Type de document :
Communication dans un congrès
GRETSI, Sep 2017, Juan-les-Pins, France
Liste complète des métadonnées

Littérature citée [8 références]  Voir  Masquer  Télécharger

https://hal.archives-ouvertes.fr/hal-01725141
Contributeur : Walid Hachem <>
Soumis le : mercredi 7 mars 2018 - 10:37:09
Dernière modification le : jeudi 5 juillet 2018 - 14:45:35
Document(s) archivé(s) le : vendredi 8 juin 2018 - 12:47:28

Fichier

sbh_gretsi17.pdf
Fichiers produits par l'(les) auteur(s)

Identifiants

  • HAL Id : hal-01725141, version 1

Citation

Adil Salim, Pascal Bianchi, Walid Hachem. Convergence d'un algorithme du gradient proximal stochastique à pas constant et généralisation aux opérateurs monotones aléatoires. GRETSI, Sep 2017, Juan-les-Pins, France. 〈hal-01725141〉

Partager

Métriques

Consultations de la notice

48

Téléchargements de fichiers

62