Approche bayésienne par monte carlo pour estimation à noyau

Abstract

La théorie de l estimation est une des préoccupations majeures des statisticiens. On trouve dans la littérature deux types d approches d estimations de la densité de probabilité : l ap- proche paramétrique et l approche non-paramétrique. L approche paramétrique a comme inconvénient principal de nécessiter une connaissance préalable du phénomène aléatoire considéré. L approche non paramétrique estime la densité de probabilité directement à partir de l information disponible sur l ensemble d observations. L estimation à noyau (ou encore méthode de Parzen-Rosenblatt) est une méthode non- paramétrique d estimation de la densité de probabilité d une variable aléatoire. Elle se base sur un échantillon d une population statistique et permet d estimer la densité en tout point du support. Cette estimateur sont des fonctions de deux paramètres K, appelé noyau, et h dit paramètre de lissage (largeur de fenêtre). Si le choix du noyau n est pas un problème dans l estimation de la densité, il n en est pas de même pour le choix de paramètre de lissage qui ne dépend que de la taille n de l échantillon. Plusieurs travaux ont montré que les estimateurs peuvent changer dramatiquement pour de petites variations du paramètre de lissage. Actuellement il n existe pas de choix optimal pour ce paramètre, le choix optimal qui minimise l erreur quadratique moyenne intégrée dépend de la dérivée seconde de la densité inconnue. L objectif de ce travail est d utiliser l approche Bayesienne pour le choix du paramètre de lissage h dans l estimation de la fonction densité de probabilité par la méthode des noyaux. Cette alternative Bayésienne est dirent des méthodes classiques qui consistent souvent à minimiser ou à maximiser directement un certain critère. Cette loi sert à compenser le manque d information, lorsqu il s agit de données de petite ou moyenne taille. L estimation Bayésienne de h peut-être obtenue par la moyenne a posteriori, en calculant la loi a posteriori à partir de la règle de Bayes. Parmi les trois variantes de l approche Bayésienne, nous proposons l approche Bayésienne globale pour le choix du paramètre de lissage h. Dans l estimation Bayésienne globale, la loi a posteriori est souvent de forme complexe. Cette di¢ culté est, généralement, surmontée grâce aux méthodes populaires de Monte Carlo par Chaînes de Markov (MCMC). Ce mémoire est composé d une introduction, de trois chapitres et d une conclusion. Le pre- mier chapitre présenté de l estimation non paramétrique de la densité de probabilité. En e¤et, après la présentation de la dé nition de l estimateur à noyau de cette fonction de den- sité et ses propriétés et expression (biais, variances,....), nous avons abordé le problème du choix du noyau et du paramètre de lissage par les techniques classiques. Dans le deuxième chapitre présente le cadre théorique dans lequel les outils statistique bayésienne, sont déve- loppés, ainsi qu un rappel de la théorie des méthodes usuelles d approximation exactement MCMC, ensuite nous avons présenté l approche bayésienne globale pour l estimation du paramètre de lissage. Le troisième chapitre regroupera les résultats de simulation des dif- férentes méthodes de sélection du paramètre de lissage. Tous les résultats numériques et graphiques sont e¤ectués à l aide du logiciel R.