Claude Shannon et la compression des données
Résumé
L'immense majorité des données (texte, son, image, vidéo, etc.) sont stockées et manipulées sous forme numérique, c'est-à-dire à l'aide de nombres entiers qui sont convertis en une succession de bits (des 0 et des 1). La conversion depuis le monde analogique continu vers ces représentations numériques discrètes est décrite par la théorie élaborée par Claude Shannon, le père fondateur de la théorie de l'information. L'impact de cette théorie sur notre société est comparable à celui des théories de Darwin ou d'Einstein. Pourtant son nom est quasi inconnu du grand public. Le centenaire de la naissance de Claude Shannon est donc une bonne excuse pour présenter l'oeuvre d'un très grand scientifique. Cette théorie décrit les trois étapes clés de cette conversion depuis le monde analogique vers le monde numérique : (i) l’échantillonnage, qui permet de passer de fonctions continues à une succession de nombres ;
(ii) la compression, qui permet de passer à une succession la plus compacte possible de chiffres binaires ;
(iii) le codage correcteur d’erreurs, qui rend le message binaire robuste aux erreurs et aux attaques.
Pour chacune de ces étapes, Claude Shannon a établi dans [6, 7], sous des hypothèses précises sur les données et le canal de transmission, des bornes d’optimalité. Dans la deuxième moitié du 20e siècle, des méthodes et des algorithmes de calculs efficaces ont été élaborés permettant d’atteindre les bornes de Shannon, débouchant au 21e siècle sur l’explosion de l’ère numérique. Cet article présente les bases de la compression des données (partie (ii)) telles que définies par Claude Shannon. Les deux autres parties (i) et (iii) ne seront que brièvement mentionnées, et nécessitent des connaissances mathématiques plus avancées.
Origine : Fichiers produits par l'(les) auteur(s)