Sobre a utilização de supernúcleos na estimação duma densidade de probabilidade

Abstract

Neste trabalho sobre a utilização de supernúcleos na estimação duma densidade de probabilidade, depois duma breve introdução aos estimadores do núcleo da densidade de probabilidade, estabelecemos a convergência em média quadrática integrada de tais estimadores e obtemos expressões assintóticas para o erro quadrático médio integrado nos casos em que o estimador do núcleo é baseado num núcleo de ordem finita k ≥ 2 ou num supernúcleo. Tendo em conta que os estimadores baseados num supernúcleo não são densidades de probabilidade pois podem tomar valores negativos, estudamos a seguir uma correcção proposta por Glad, Hjort e Ushakov (Scandinavian J. Statist. 30, 415–247, 2003) que permitirá transformá-los em estimadores próprios da densidade tendo o estimador corrigido um erro quadrático médio integrado não superior ao do estimador original. Finalmente, apresentamos um estudo de simulação com o objectivo de comparar os estimadores do núcleo baseados no núcleo normal (núcleo 2.a ordem) e no núcleo trapezoidal (supernúcleo).

In this work on the use of superkernels in the estimation of a probability density function, after a brief introduction to the probability density kernel estimator we establish its mean integrated square error consistency and we obtain asymptotic expressions for the mean integrated square error of kernel estimators based on either finite order kernels or superkernels. Taking into account that superkernel based estimators are not proper density estimators because they may assume negative values, we study a correction proposed by Glad, Hjort and Ushakov (Scandina- vian J. Statist. 30, 415-–247, 2003), that turns any density estimator which integrates to 1 into one which is a proper density estimator with an inferior integrated square error. Finally, we present a simulation study in order to compare the estimators based on the normal kernel (second order kernel) and on the trapezoidal kernel (superkernel).