VampNet : Vampirisation non supervisée de réseaux de convolution
Résumé
Nombre d’applications demandent la résolution simultanée de plusieurs tâches. Nous proposons une méthode non supervisée qui permet à partir de deux réseaux convolutifs profonds A et B de créer un réseau B’ approximant Ben s’alimentant d’une partie des couches de A. Ce réseau, nommé Vampire Network, permet de fortement réduire le poids combiné des deux réseaux. Nous proposons ces contributions : (1) nous montrons que des réseaux de même architecture entraînés à des tâches distinctes ont des propriétés de linéarité assez fortes entre couches; (2) Un algorithme non supervisé, remplaçant des cartes de caractéristiques du réseau vampire par une projection linéaire des cartes du premier réseau; (3) Nous montrons que le réseau vampire généré réduit fortement le nombre de paramètres, donc les calculs du système global.
Origine : Fichiers produits par l'(les) auteur(s)