How the augmented Lagrangian algorithm can deal with an infeasible convex quadratic optimization problem

Alice Chiche (1) , Jean Charles Gilbert (2)

1 EDF R&D OSIRIS - Optimisation, Simulation, Risque et Statistiques pour les Marchés de l’Energie
2 POMDAPI - Environmental Modeling, Optimization and Programming Models

This paper analyses the behavior of the augmented Lagrangian algorithm when it deals with an infeasible convex quadratic optimization problem. It is shown that the algorithm finds a point that, on the one hand, satisfies the constraints shifted by the smallest possible shift that makes them feasible and, on the other hand, minimizes the objective on the corresponding shifted constrained set. The speed of convergence to such a point is globally linear, with a rate that is inversely proportional to the augmentation parameter. This suggests us a rule for determining the augmentation parameter that aims at controlling the speed of convergence of the shifted constraint norm to zero; this rule has the advantage of generating bounded augmentation parameters even when the problem is infeasible.\addtext{ Implications on an SQP algorithm using the AL algorithm for solving its osculating quadratic problems are discussed

Cet article analyse le comportement de l'algorithme du lagrangien augmenté lorsqu'il cherche à résoudre un problème d'optimisation quadratique convexe non réalisable. Nous montrons que l'algorithme trouve un point qui, d'une part, réalise les contraintes translatées par la plus petite translation qui les rend compatibles et, d'autre part, minimise l'objectif sur l'ensemble admissible ainsi transformé. La vitesse de convergence vers un tel point est globalement linéaire, avec un taux inversement proportionnel au paramètre d'augmentation. Ceci suggère une règle de mise à jour de ce paramètre, de manière à obtenir une vitesse de convergence donnée des contraintes translatées vers zéro; cette règle a l'avantage de générer des paramètres d'augmentation bornés, même lorsque le problème n'est pas réalisable

Mots clés: augmented Lagrangian algorithm; augmentation parameter update; quasi-global error bound; closest feasible problem; proximal point algorithm; convex quadratic optimization; global linear convergence; feasible shift; infeasible problem; shifted constraint

Domaines: Optimisation et contrôle [math.OC]

Alice Chiche, Jean Charles Gilbert. How the augmented Lagrangian algorithm can deal with an infeasible convex quadratic optimization problem. Journal of Convex Analysis, 2016, 23 (2). ⟨hal-01057577⟩