Please use this identifier to cite or link to this item: http://hdl.handle.net/10316/33692
Title: Sobre a utilização de supernúcleos na estimação duma densidade de probabilidade
Authors: Marques, Ana Raquel Carraco 
Orientador: Cruz, Carlos Manuel Rebelo Tenreiro da
Keywords: Estimação da densidade de probabilidade; Núcleos de 2.ª ordem; Supernúcleos; Erro quadrático médio integrado; Probability density estimation; Second order kernels; Superkernels; Mean integrated squared error
Issue Date: 17-Sep-2013
Serial title, monograph or event: Sobre a utilização de supernúcleos na estimação duma densidade de probabilidade
Place of publication or event: Coimbra
Abstract: Neste trabalho sobre a utilização de supernúcleos na estimação duma densidade de probabilidade, depois duma breve introdução aos estimadores do núcleo da densidade de probabilidade, estabelecemos a convergência em média quadrática integrada de tais estimadores e obtemos expressões assintóticas para o erro quadrático médio integrado nos casos em que o estimador do núcleo é baseado num núcleo de ordem finita k ≥ 2 ou num supernúcleo. Tendo em conta que os estimadores baseados num supernúcleo não são densidades de probabilidade pois podem tomar valores negativos, estudamos a seguir uma correcção proposta por Glad, Hjort e Ushakov (Scandinavian J. Statist. 30, 415–247, 2003) que permitirá transformá-los em estimadores próprios da densidade tendo o estimador corrigido um erro quadrático médio integrado não superior ao do estimador original. Finalmente, apresentamos um estudo de simulação com o objectivo de comparar os estimadores do núcleo baseados no núcleo normal (núcleo 2.a ordem) e no núcleo trapezoidal (supernúcleo).
In this work on the use of superkernels in the estimation of a probability density function, after a brief introduction to the probability density kernel estimator we establish its mean integrated square error consistency and we obtain asymptotic expressions for the mean integrated square error of kernel estimators based on either finite order kernels or superkernels. Taking into account that superkernel based estimators are not proper density estimators because they may assume negative values, we study a correction proposed by Glad, Hjort and Ushakov (Scandina- vian J. Statist. 30, 415-–247, 2003), that turns any density estimator which integrates to 1 into one which is a proper density estimator with an inferior integrated square error. Finally, we present a simulation study in order to compare the estimators based on the normal kernel (second order kernel) and on the trapezoidal kernel (superkernel).
Description: Dissertação de Mestrado em Matemática apresentada à Faculdade de Ciências e Tecnologia da Universidade de Coimbra
URI: http://hdl.handle.net/10316/33692
Rights: openAccess
Appears in Collections:UC - Dissertações de Mestrado
FCTUC Matemática - Teses de Mestrado

Show full item record

Page view(s)

81
checked on Oct 21, 2019

Download(s)

35
checked on Oct 21, 2019

Google ScholarTM

Check


Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.