An elementary introduction to entropic regularization and proximal methods for numerical optimal transport

Une introduction élémentaire à deux méthodes numériques en transport optimal: régularisation entropique et méthodes proximales

François-Xavier Vialard (1)

1 LIGM - Laboratoire d'Informatique Gaspard-Monge

These notes contains the material that I presented to the CEA-EDF-INRIA summer school about numerical optimal transport. These notes are, on purpose, written at an elementary level, with almost no prerequisite knowledge and the writing style is relatively informal. All the methods presented hereafter rely on convex optimization, so we start with a fairly basic introduction to convex analysis and optimization. Then, we present the entropic regularization of the Kantorovich formulation and present the now well known Sinkhorn algorithm, whose convergence is proven in continuous setting with a simple proof. We prove the linear convergence rate of this algorithm with respect to the Hilbert metric. The second numerical method we present use the dynamical formulation of optimal transport proposed by Benamou and Brenier which is solvable via non-smooth convex optimization methods. We end this short course with an overview of other dynamical formulations of optimal transport like problems.

Ces notes présentent le matériel présenté à l'école d'été CEA-EDF-INRIA sur le transport optimal numérique. On décrit à un niveau relativement élémentaire deux méthodes numériques pour approcher le calcul du transport optimal entre deux distributions. Ces deux méthodes reposent sur des méthodes d'optimisation convexe et on présente donc une introduction à ces méthodes d'analyse et d'optimisation convexe. On présente alors la régularisation entropique du transport optimal basée sur la formulation de Kantorovich du transport optimal. On prouve la convergence linéaire de l'algorithme associé par une méthode simple et nouvelle dans le cas continu. La seconde classe de méthodes est l'utilisation de méthodes d'optimisation convexe non-régulière sur la formulation dynamique du transport optimal proposée par Benamou et Brenier.

Domaines: Mathématiques générales [math.GM]; Optimisation et contrôle [math.OC]

François-Xavier Vialard. An elementary introduction to entropic regularization and proximal methods for numerical optimal transport. Doctoral. France. 2019. ⟨hal-02303456⟩