Adaptation de domaine de vote de majorité par auto-étiquetage non itératif

Emilie Morvant (1, 2, 3)

1 Lampert Group
2 LHC - Laboratoire Hubert Curien
3 IST Austria - Institute of Science and Technology [Klosterneuburg, Austria]

En apprentissage automatique, nous parlons d'adaptation de domaine lorsque les données de test (cibles) et d'apprentissage (sources) sont générées selon différentes distributions. Nous devons donc développer des algorithmes de classification capables de s'adapter à une nouvelle distribution, pour laquelle aucune information sur les étiquettes n'est disponible. Nous attaquons cette problématique sous l'angle de l'approche PAC-Bayésienne qui se focalise sur l'apprentissage de modèles définis comme des votes de majorité sur un ensemble de fonctions. Dans ce contexte, nous introduisons PV-MinCq une version adaptative de l'algorithme (non adaptatif) MinCq. PV-MinCq suit le principe suivant. Nous transférons les étiquettes sources aux points cibles proches pour ensuite appliquer MinCq sur l'échantillon cible ''auto-étiqueté'' (justifié par une borne théorique). Plus précisément, nous définissons un auto-étiquetage non itératif qui se focalise dans les régions où les distributions marginales source et cible sont les plus similaires. Dans un second temps, nous étudions l'influence de notre auto-étiquetage pour en déduire une procédure de validation des hyperparamètres. Finalement, notre approche montre des résultats empiriques prometteurs.

Mots clés: Adaptation de domaine; Vote de majorité; Théorie PAC-Bayésienne

Domaines: Machine Learning [stat.ML]

Emilie Morvant. Adaptation de domaine de vote de majorité par auto-étiquetage non itératif. Conférence Francophone sur l'Apprentissage Automatique (CAp), Jul 2014, Saint-Etienne, France. pp.49-58. ⟨hal-01005776⟩