ÍNDICE 1. INTRODUCCIÓN A LA PROBABILIDAD... 11

Transcripción

1 ÍNDICE 1. INTRODUCCIÓN A LA PROBABILIDAD Probabldad, espaco muestral y sucesos Espaco muestral y sucesos Probabldad Varable aleatora y fucó de dstrbucó Valores esperados y mometos de ua dstrbucó Dstrbucoes cojutas Dstrbucoes margales Mometos de ua dstrbucó cojuta Dstrbucoes codcoadas Muestra aleatora smple Ejerccos DISTRIBUCIONES Dstrbucoes dscretas Uforme Beroull Bomal Multomal... 3

2 8 FUNDAMENTOS DE ESTADÍSTICA.1.5. Posso Dstrbucoes cotuas Uforme Normal Normal multvarate Expoecal Ejerccos ESTIMACIÓN Estmacó por el método de los mometos Estmacó por mímos cuadrados Estmacó por máxma verosmltud Estmacó bayesaa Propedades de los estmadores putuales Propedades astótcas de los estmadores máxmo verosímles Ejerccos CONTRASTE DE HIPÓTESIS Coceptos fudametales Cotraste medate tervalos de cofaza Teorema de Neyma-Pearso Test de la razó de verosmltud geeralzado Test q de Pearso Ejerccos MODELOS LINEALES Regresó leal Modelo estadístco Estmacó Aálss factoral Modelo estadístco Estmacó... 89

3 ÍNDICE Rotacoes Casos heywood Test del modelo Ejerccos TABLAS DE CONTINGENCIA Esquemas de muestreo Cotraste de hpótess Itroduccó a los modelos log-leales Ejerccos ESTADÍSTICA BAYESIANA Dstrbucoes preva y posteror Estmacó de parámetros Evaluacó del modelo Comparacó de modelos Alguas cosderacoes sobre los métodos estadístcos Estmacó Cotraste Ejerccos BIBLIOGRAFÍA COMENTADA ÍNDICE DE MATERIAS

4 CAPÍTULO 3 ESTIMACIÓN El problema de la estmacó cosste e realzar ua fereca sobre el valor de los parámetros de u modelo estadístco a partr de los datos cotedos e ua muestra. Exste tres métodos fudametales: método de los mometos, mímos cuadrados y máxma verosmltud. Este curso trata fudametalmete del método de máxma verosmltud. E geeral, u parámetro cualquera se va a desgar por θ y su correspodete estmador por θ^. El estmador θ^ es ua fucó de los datos muestrales, cuyo valor depede de la muestra cocreta. Por tato, el parámetro θ toma u valor fjo metras que el estmador θ^ es aleatoro, su valor depede de la muestra Estmacó por el método de los mometos Supogamos que se desea estmar k parámetros (θ 1,θ,...,θ k de ua dstrbucó f(x;θ 1,θ,...,θ k. El método de los mometos cosste e buscar los valores de los parámetros que guala los k prmeros mometos co relacó al orge e la muestra y e la poblacó. Por tato, o se utlza la dstrbucó completa para obteer estmadores so úcamete los mometos dcados.

5 48 FUNDAMENTOS DE ESTADÍSTICA E la poblacó el mometo de orde se ha defdo: el correspodete mometo muestral es: α De esta forma se obtee el sguete sstema de k ecuacoes co k cógtas: α = α = M α = X f X dx = ( = = Los valores de los parámetros que satsface el sstema de ecuacoes costtuye los estmadores (θ^ 1, θ^,..., θ^k. Ejemplo 3.1. (Dstrbucó de Posso. Se obtee ua muestra X 1,..., X de ua dstrbucó de Posso. Estmar λ por el método de los mometos. E esta dstrbucó sólo hay u parámetro que además cumple α = E(X = λ. El prmer mometo muestral es a 1 = X. El estmador es el valor que resuelve: α l = a l, es decr λ^ = X. Ejemplo 3.. (Regresó logístca. Sea Y ua varable dcotómca cuya dstrbucó depede de ua varable depedete X. Se desea estmar el parámetro β de la regresó logístca: = + ββ

6 CAPÍTULO 3. ESTIMACIÓN 49 Dado que Y es dcotómca, para cada valor de X el prmer mometo poblacoal es su valor esperado: = = + = = = El correspodete mometo muestral es Y (X, que represeta la meda de Y para todas las observacoes e las que X toma u valor determado. Por tato, s X toma los valores x 1, x,..., x para cada uo de ellos se dspoe de u mometo poblacoal: E(Y x, E(Y x,...,e(y x y u mometo muestral: Y (x, Y (x,...,y (x. El estmador de β es el valor que guala los mometos e la poblacó y la muestra, es decr: exp( βx = Y ( x 1 + exp( βx = 1 = 1 E esta ecuacó o es posble despejar β. Para resolverla puede utlzarse los deomados métodos umércos, por ejemplo el de la bseccó, Newto-Raphso, etc. 3.. Estmacó por mímos cuadrados Cosste e asgar a los parámetros aquel valor que mmce la dfereca al cuadrado etre los datos observados y los predchos por el modelo estadístco. El método puede etederse co u ejemplo. Supogamos que Y es ua varable aleatora. Se desea estmar la regresó leal de Y sobre u predctor X, es decr para u sujeto : Y = α + βx + E, dode E es u error aleatoro co meda 0 y varaza σ para todos los valores de X. Los parámetros del modelo so α y β. Para cada valor de X el valor predcho de Y es: E(Y = α + βx, por tato para estmar los parámetros se mmza la dfereca cuadrátca etre los datos observados y las predccoes del modelo. S el tamaño muestral es la dfereca es: d( αβ, = ( Y α βx = 1

7 50 FUNDAMENTOS DE ESTADÍSTICA Los estmadores so aquellos valores que mmza la fucó d(a,b, es decr aquellos valores que haga que su prmera dervada sea 0: d( a, b = Â( Y a bx = 0 a = 1 f( a, b = Â( Y a bx X = 0 b = 1 Desarrollado estas ecuacoes se ecuetra los estmadores descrtos e cursos aterores (Pardo y Sa Mart, 1999: a = Y b^ X y b^ = Cov(X, Y/Std(X Std(Y Estmacó por máxma verosmltud El método de máxma verosmltud cosste e asgar a los parámetros aquel valor que haga máxma la probabldad de las datos observados. A dfereca de los aterores utlza la dstrbucó completa de probabldad. E caso de que la dstrbucó de la varable sea ormal los estmadores de mímos cuadrados y máxma verosmltud cocde. Cotuado co el ejemplo ateror, la dstrbucó de Y es: 1 Ê 1 Y X f( Y = Ê a b ˆ ˆ expá Ë Ë s p s Por tato la fucó de desdad de la muestra compuesta por observacoes es: 1 L( a, b = f( Y = s ( p Ê 1 exp Ë / = 1 = 1 ( Y a bx s Los estmadores máxma verosímles so los valores que maxmza la fucó de verosmltud L(a, b, es decr la fucó de desdad de la muestra. Aalzado la forma de esta fucó Â ˆ

8 CAPÍTULO 3. ESTIMACIÓN 51 puede verse que estos valores so aquellos que mmza el térmo e el expoete: Â = 1 ( Y a bx s La forma de este térmo es la msma que la de la fucó d(a,b cometada e relacó co la estmacó por mímos cuadrados. Por tato, los estmadores obtedos por ambos métodos cocde. Esto es ua cosecueca de haber asumdo que la dstrbucó de Y es ormal. Co cualquer otra dstrbucó la forma de proceder sería la msma, obteer la fucó de verosmltud y maxmzarla co respecto a los parámetros. Ejemplo 3.3. (Dstrbucó de Beroull Supogamos que a u sujeto se le preseta 5 veces ua determada tarea. El resultado de cada presetacó se clasfca como éxto o fracaso y se cosdera que la probabldad de éxto π o camba a lo largo de las presetacoes. Cual es la probabldad de éxto asumedo depedeca etre dsttas presetacoes? La varable X descrbe el resultado de la presetacó y sgue la dstrbucó de Beroull: X X f( X ; ( ± (± 1 p = p 1 p La fucó de probabldad del vector de resultados de las 5 presetacoes tee la forma: 5 X X f( X; p = p ( 1 ± p (± 1 = 1 Supogamos que el umero de éxtos se dca por z, sedo z = S 5 =1 X. Etoces la fucó de verosmltud es: z z L( ( ± ( 5 p = p 1 p ±

9 5 FUNDAMENTOS DE ESTADÍSTICA E la práctca se trabaja co el logartmo de la fucó de verosmltud por mayor secllez matemátca: π= π + π El estmador máxmo verosíml es el valor que maxmza log L(π. U crtero ecesaro, pero o sufcete, para que a u valor cocreto de π le correspoda u máxmo de log L(π es que aule su prmera dervada. E el ejemplo: La ecuacó ateror se deoma ecuacó de estmacó. Su solucó es el estmador máxmo verosíml de π: = π π = π π π = E realdad el crtero de la prmera dervada o es sufcete para determar que π^ es u estmador máxmo verosíml porque dcha dervada se aula tato s la fucó tee u máxmo e π^ cómo s tee u mímo. E caso de que la fucó tega u máxmo se cumple que su seguda dervada es egatva. E el ejemplo: π π = π π π = z 5 z log L( π = π ( 1 π La cual es ecesaramete meor que 0, por lo que efectvamete π^ es u máxmo de log L(π.

10 CAPÍTULO 3. ESTIMACIÓN 53 Ejemplo 3.4. Cotuado co el msmo ejemplo, supogamos que se relaja el supuesto de depedeca y se asume úcamete depedeca codcoal. Supogamos que la probabldad de éxto e la tarea depede del úmero de acertos y errores cometdos e las -1 tareas aterores. El úmero de acertos aterores es C =Σ -1 j=1 X j y el de errores D =Σ -1 j=1 (1 X j. Podría platearse el modelo: π exp( α + βc + δd = 1 + exp( α + βc + δd La catdad π debe terpretarse como la probabldad del esayo codcoada e los esayos aterores. La fucó de verosmltud se obtee a partr de la regla del producto y tee la forma: 5 1 L( αβδ,, = π ( 1 π ( = 1 X X 3.4. Estmacó bayesaa La estmacó bayesaa se caracterza porque permte corporar las expectatvas del vestgador acerca de los valores de los parámetros. La estadístca bayesaa se dfereca la deomada estadístca frecuetsta e dos aspectos mportates: E la estadístca bayesaa tato los datos como los parámetros so catdades aleatoras. E los métodos aterores los parámetros se cosdera catdades fjas. Al ser los parámetros catdades aleatoras sgue ua dstrbucó, deomada dstrbucó preva, que expresa las expectatvas del vestgador e auseca de gú dato. E los métodos frecuetstas el valor que toma las estmadores depede úcamete de cuales haya sdo los datos ob-

11 54 FUNDAMENTOS DE ESTADÍSTICA servados. Por el cotraro, e los métodos bayesaos dchas valores depede de los datos y també de las expectatvas prevas. Por esta razó exste dsttas escuelas e el seo de la estadístca, depededo de sí se cosdera legítmo o o utlzar dstrbucoes prevas. Lo certo es que desde u puto de vsta aplcado los métodos bayesaos puede ser de gra utldad para determados problemas. Además, a medda que el tamaño muestral aumeta los estmadores depede mas de los datos y meos de las dstrbucoes prevas, por lo que e el límte el estmador máxmo verosíml y el bayesao cocde. A modo de ejemplo, cosderemos el problema de estmar la meda de ua dstrbucó ormal f(y μ co varaza coocda a partr de réplcas de u expermeto aleatoro. El estmador máxmo verosíml es aquel que maxmza la fucó de verosmltud: μ= μ = Supogamos que la varable e cuestó mde el cocete telectual de los sujetas. Se sabe que e la poblacó geeral su dstrbucó es ormal (100, 16. Por tato, el vestgador puede supoer que e la subpoblacó co la que esta trabajado el valor de la meda osclara e toro a 100, sedo muy esperado ecotrar medas, dgamos, superores a 150 o ferores a 50. Esta expectatva se formalza medate la defcó de ua dstrbucó preva. Por ejemplo, la dstrbucó preva de μ puede ser la ormal (100, 0, deomada f(μ. Es mportate advertr que esta dstrbucó preva o depede de gú dato observado e el expermeto actual so que se defe arbtraramete. E la estadístca bayesaa u objetvo es modfcar las expectatvas prevas del vestgador de acuerdo co la evdeca ecotrada e la muestra. Segú el teorema de Bayes la dstrbucó posteror de μ puede obteerse del sguete

12 CAPÍTULO 3. ESTIMACIÓN 55 modo, a partr de la fucó de verosmltud y la dstrbucó preva: f( μ Y = f( Y μ f( μ f( Y Sedo f(y la dstrbucó margal de Y, es decr: f(y = f(y μ f(μdμ. El estmador bayesao de μ es la dstrbucó posteror f(μ Y. Ua descrpcó mas completa de la estadístca bayesaa aparece e el capítulo Propedades de los estmadores putuales Hasta el mometo se ha descrto varos métodos mas o meos tutvos para obteer estmadores. Puede platearse la cuestó de e qué setdo so uos mejores que otros. Para verfcarlo se ha descrto ua sere de propedades que debería cumplr los estmadores. Para u valor fjo de θ se defe la dstrbucó muestral del estmador θ^, de la cual depede las propedades de dcho estmador: 1. Isesgado. U estmador es sesgado cuado cumple: E( ˆ θ = θ para todo valor de θ e el espaco paramétrco. A la catdad b(θ^ = E(θ^ θ se le deoma sesgo del estmador. Ejemplo 3.5. Segú se ha estudado e cursos aterores, para estmar la meda poblacoal μ se utlza la meda muestral: X = Σ =1 X /. Se trata de u estmador sesgado dado que E(X = μ.

13 56 FUNDAMENTOS DE ESTADÍSTICA. Cosstete. U estmador es cosstete s para cualquer > 0: lm P( θ ˆ θ > = U estmador sesgado y que cumpla Var(θ^ 0 cuado se dce que es cosstete. 0 Ejemplo 3.6. La varaza de la meda muestral es σ /. Esta catdad tede a 0 por lo que la meda muestral es u estmador cosstete de μ. 3. Efcete. U estmador es efcete e caso de que sea sesgado y su varaza míma. Para estmar u parámetro puede utlzarse dsttos estmadores co dferete varaza. Par tato es deseable utlzar aquel que tega meos dspersó. Las dferecas etre el parámetro y el estmador obtedo e las posbles muestras puede cuatfcarse medate el error cuadrátco medo, cuyo valor depede de las tres propedades aterores. Se cooce como MSE(θ^ (Mea squared error o error cuadrátco medo a la catdad MSE(θ^ = E((θ^ θ. Desarrollado esta expresó se llega a: MSE( ˆ θ = E((ˆ θ θ E(([ˆ E(ˆ] [ E( ˆ = θ θ θ θ] E(( ˆ E(ˆ E(( E( ˆ = θ θ + θ θ E((ˆ θ E(ˆ( θ E( ˆ θ θ = Var( ˆ θ + b(ˆ θ El MSE es la suma de la varaza del estmador mas su sesgo al cuadrada y muestra la relacó etre estas tres catdades.