Régression: bases déformées et sélection de modèles par pénalisation et méthode de Lepski

Abstract : This paper deals with the problem of estimating a regression function $f$, in a random design framework. We build and study two adaptive estimators based on model selection, applied with warped bases. We start with a collection of finite dimensional linear spaces, spanned by orthonormal bases. Instead of expanding directly the target function $f$ on these bases, we rather consider the expansion of $h=f\circ G^{-1}$, where $G$ is the cumulative distribution function of the design, following Kerkyacharian and Picard (2004). The data-driven selection of the (best) space is done with two strategies: we use both a penalization version of a "warped contrast", and a model selection device in the spirit of Goldenshluger and Lepski (2011). We propose by these methods two functions, $\hat{h}_l$ ($l=1,2$), easier to compute than least-squares estimators. We establish nonasymptotic mean-squared integrated risk bounds for the resulting estimators, $\hat{f}_l=\hat{h}_l\circ G$ if $G$ is known, or $\hat{f}_l=\hat{h}_l\circ\hat{G}$ ($l=1,2$) otherwise, where $\hat{G}$ is the empirical distribution function. We study also adaptive properties, in case the regression function belongs to a Besov or Sobolev space, and compare the theoretical and practical performances of the two selection rules.
Type de document :
Pré-publication, Document de travail
MAP5 2010-23. 2011
Liste complète des métadonnées


https://hal.archives-ouvertes.fr/hal-00519556
Contributeur : Gaëlle Chagny <>
Soumis le : mercredi 26 octobre 2011 - 16:31:40
Dernière modification le : mardi 11 octobre 2016 - 14:59:47
Document(s) archivé(s) le : vendredi 27 janvier 2012 - 02:34:37

Fichier

RegressionDetails.pdf
Fichiers produits par l'(les) auteur(s)

Identifiants

  • HAL Id : hal-00519556, version 2

Collections

Citation

Gaëlle Chagny. Régression: bases déformées et sélection de modèles par pénalisation et méthode de Lepski. MAP5 2010-23. 2011. <hal-00519556v2>

Partager

Métriques

Consultations de
la notice

162

Téléchargements du document

58