Access

You are not currently logged in.

Access your personal account or get JSTOR access through your library or other institution:

login

Log in to your personal account or through your institution.

If you need an accessible version of this item please contact JSTOR User Support

Three Sides of Smoothing: Categorical Data Smoothing, Nonparametric Regression, and Density Estimation

Jeffrey S. Simonoff
International Statistical Review / Revue Internationale de Statistique
Vol. 66, No. 2 (Aug., 1998), pp. 137-156
DOI: 10.2307/1403487
Stable URL: http://www.jstor.org/stable/1403487
Page Count: 20
  • Read Online (Free)
  • Download ($12.00)
  • Cite this Item
If you need an accessible version of this item please contact JSTOR User Support
Three Sides of Smoothing: Categorical Data Smoothing, Nonparametric Regression, and Density Estimation
Preview not available

Abstract

The past forty years have seen a great deal of research into the construction and properties of nonparametric estimates of smooth functions. This research has focused primarily on two sides of the smoothing problem: nonparametric regression and density estimation. Theoretical results for these two situations are similar, and multivariate density estimation was an early justification for the Nadaraya-Watson kernel regression estimator. A third, less well-explored, strand of applications of smoothing is to the estimation of probabilities in categorical data. In this paper the position of categorical data smoothing as a bridge between nonparametric regression and density estimation is explored. Nonparametric regression provides a paradigm for the construction of effective categorical smoothing estimates, and use of an appropriate likelihood function yields cell probability estimates with many desirable properties. Such estimates can be used to construct regression estimates when one or more of the categorical variables are viewed as response variables. They also lead naturally to the construction of well-behaved density estimates using local or penalized likelihood estimation, which can then be used in a regression context. Several real data sets are used to illustrate these points. /// Durant les quarantes dernières années, l'estimation fonctionnelle nonparamétrique a connu un développement considérable. Ce travail présente, un bilan des recherches portant sur l'estimation des fonctions de densités et de régression. Les résultats théoriques associés à ces deux problèmes d'estimation sont très similaires. De plus, l'estimateur de Nadaraya-Watson d'une fonction de régression trouve ses racines dans l'estimation de densités multivariées. Un troisième volet de l'estimation fonctionnelle, moins exploité, est celui de l'estimation par lissage de lois de probabilité de données catégoriques. Ce travail explore le fait que ce type d'estimation constitue un pont entre l'estimation nonparamétrique de densités et de fonctions de régression. La régression nonparamétrique fournit un paradigme pour construire de manière efficace des estimateurs de lois de probabilités de données catégoriques. Un choix adéquat de la fonction de vraisemblance permet de construire des estimateurs possédant de nombreuses propriétés intéressantes. Les estimateurs ainsi obtenus peuvent être utilisés en estimation de régression aussi bien dans le cas de variables réponses catégoriques ou dans le cas d'une estimation préalable de densités par le biais de la vraisemblance locale ou pénalisée. Les divers problèmes abordés dans ce travail sont illustrés par l'entremise de plusieurs jeux de données réelles.

Page Thumbnails

  • Thumbnail: Page 
[137]
    [137]
  • Thumbnail: Page 
138
    138
  • Thumbnail: Page 
139
    139
  • Thumbnail: Page 
140
    140
  • Thumbnail: Page 
141
    141
  • Thumbnail: Page 
142
    142
  • Thumbnail: Page 
143
    143
  • Thumbnail: Page 
144
    144
  • Thumbnail: Page 
145
    145
  • Thumbnail: Page 
146
    146
  • Thumbnail: Page 
147
    147
  • Thumbnail: Page 
148
    148
  • Thumbnail: Page 
149
    149
  • Thumbnail: Page 
150
    150
  • Thumbnail: Page 
151
    151
  • Thumbnail: Page 
152
    152
  • Thumbnail: Page 
153
    153
  • Thumbnail: Page 
154
    154
  • Thumbnail: Page 
155
    155
  • Thumbnail: Page 
156
    156