Asymptotics for regression models under loss of identifiability

Abstract : This paper discusses the asymptotic behavior of regression models under general conditions. First, we give a general inequality for the difference of the sum of square errors (SSE) of the estimated regression model and the SSE of the theoretical best regression function in our model. A set of generalized derivative functions is a key tool in deriving such inequality. Under suitable Donsker condition for this set, we give the asymptotic distribution for the difference of SSE. We show how to get this Donsker property for parametric models even if the parameters characterizing the best regression function are not unique. This result is applied to neural networks regression models with redundant hidden units when loss of identifiability occurs.
Type de document :
Pré-publication, Document de travail
2013
Liste complète des métadonnées

Littérature citée [11 références]  Voir  Masquer  Télécharger

https://hal.archives-ouvertes.fr/hal-00862096
Contributeur : Joseph Rynkiewicz <>
Soumis le : lundi 16 septembre 2013 - 09:35:24
Dernière modification le : lundi 16 septembre 2013 - 13:50:10
Document(s) archivé(s) le : vendredi 20 décembre 2013 - 13:41:02

Fichiers

prepub.pdf
Fichiers produits par l'(les) auteur(s)

Identifiants

  • HAL Id : hal-00862096, version 1
  • ARXIV : 1309.3912

Collections

Citation

Joseph Rynkiewicz. Asymptotics for regression models under loss of identifiability. 2013. 〈hal-00862096〉

Partager

Métriques

Consultations de
la notice

182

Téléchargements du document

88