Repaso de conceptos estadís-cos. Apéndice A

Transcripción

1 Repaso de conceptos estadís-cos Apéndice A

2 Revisión de conceptos estadís2cos El conjunto de todos los resultados posibles de un experimento aleatorio se denomina población o espacio muestral, E Un suceso es cualquier subconjunto de E La probabilidad de un suceso A, P(A), es la proporción de veces que ocurre A en ensayos repe-dos del experimento En un experimento llamamos frecuencia rela-va de A, al cociente entre el nº de casos favorables (sucede A) y el número de casos posibles

3 Revisión de conceptos estadís2cos Si el tamaño muestral n es grande, la frecuencia rela-va aproxima bastante bien la probabilidad Propiedades de la probabilidad 0 P(A) 1 Si A, B, C, es un conjunto exhaus-vo de sucesos, P(A+B +C+ ) = 1 Si A, B, C, es un conjunto excluyente de sucesos, P(A +B+C+ ) = P(A)+P(B)+P(C)+ Una variable es aleatoria si su valor está determinado por el resultado de un experimento aleatorio

4 Revisión de conceptos estadís2cos Las variables aleatorias pueden ser, Discretas, si solo toman un número finito o numerable de valores (el resultado del lanzamiento de un dado) Con2nuas, si pueden tomar cualquier valor dentro de un intervalo (la estatura o el peso de un individuo, por ejemplo)

5 Función de densidad de probabilidad Si una v.a. discreta X, toma los valores x 1,, x n, entonces su función de densidad de probabilidad (FDP) viene dada por, f(x) = P(X = x i ), para i = 1, 2,, n f(x) = 0, para x x i Si X es la v.a. suma obtenida en el lanzamiento de dos dados,

6 Función de densidad de probabilidad Si la v.a. es con-nua, su FDP viene dada por, Gráficamente, f ( x) 0 y f ( x) dx = 1 b a ( ) f ( x) dx = Pr a x b

7 Función de densidad de probabilidad Si X, Y son dos v.a. discretas, entonces su FDP conjunta viene dada por ( ) f( x, y) = Pr X = x, Y = y f( x, y) = 0, si X x ey y En relación con f(x,y), f(x) y f(y) son las funciones de desnsidad individuales o marginales y se ob-enen, FDP marginal de f ( x) = f ( x, y) FDP marginal de f (y) = f ( x, y) x y

8 Función de densidad de probabilidad Si X, Y son v.a., la FDP condicional de X viene dada ( ) f( x/ y) = Pr X = x/ Y = y Mide la probabilidad de X tome el valor x cuando Y ha tomado el valor y. Análogamente la FDP condicional de Y será, ( ) f( y/ x) = Pr Y = y/ X = x Las FDP condicionales se ob-enen, f( x, y) f( x, y) f( x/ y) = y f( y/ x) = f(y) f(x)

9 Función de densidad de probabilidad Dos variables aleatorias X e Y son independientes si y solo si, f( x, y) = f( x) f( y)

10 Caracterís2cas de las distribuciones A menudo una distribución de probabilidad se resume en función de algunas de sus caracterís-cas (momentos) Valor esperado E(X), EX ( ) = xf( x), si Xes discreta x EX ( ) = xf( xdx ), si Xcontinua

11 Caracterís2cas de las distribuciones Propiedades de E(X): Si b=cte, E(b) = b Si a y b son ctes E(aX+b) = ae(x) +b Si X e Y son independientes, E(XY) = E(X)E(Y) Sin embargo, E(X/Y) E(X)/E(Y) Para cualquier función de X, g(x) ( ) E g( X) = g( X) f( x), si X es discreta ( ) x E g( X) = g( X) f( x) dx, si X continua

12 Caracterís2cas de las distribuciones Varianza de X, var(x). La varianza de una v.a. X con E(X) = u, se define como var( ) X Mide la dispersión de los valores en torno a su media. Su raíz cuadrada es la desviación estándar La varianza se calcula como, ( ) 2 2 X = σ = E X u ( ) 2 var( X) = X u f( x), X discreta x 2 var(x) = ( X u) f( x) dx, X continua

13 Caracterís2cas de las distribuciones Propiedades de la varianza. La varianza de una constante es nula Puede obtenerse alterna-vamente E X u Si a y b son constantes = E( X ) u 2 var( ax + b) = a var( X ) Si X e Y son independientes var( X + Y) = var( X) + var( Y) var(x Y) = var( X) + var( Y) ( ) 2 2 2

14 Caracterís2cas de las distribuciones Covarianza. Si X e Y -enen medias u X y u y se define la covarianza entre ambas como, La covarianza se calcula [ ] cov( XY, ) = E( X u )( Y u) cov( XY, ) = ( X u)( Y u) f( xy, ), Xdiscreta x y x cov( XY, ) = ( X u)( Y u) f( xydxdy, ), Xcontinua x y X y Y

15 Caracterís2cas de las distribuciones Propiedades de la covarianza. Si X e Y son independientes, su covarianza es nula Si a, b, c y d son constantes, [ ] cov( XY, ) = E( a+ bxc, + dy) = bdcov( XY, ) Coeficiente de correlación. Se define como ρ XY cov( XY, ) cov( XY, ) = = var( X) var( Y) σ σ Cuando X e Y están correlacionadas, var( X + Y) = var( X) + var( Y) + 2cov( X, Y) var(x Y) = var( X) + var( Y) 2 cov(x, Y) X Y

16 Caracterís2cas de las distribuciones Esperanza condicionada Si f(x,y) es la FDP conjunta, se define la esperanza condicional de X dado Y=y, EX ( / Y= y) = xf( xy / = y), Xdiscreta EX ( / Y= y) = xf( xy / = ydx ), Xcontinua Varianza condicionada. Se define como x ( ) 2 var( X / Y = y) = E X E( X / Y = y) / Y = y = x ( ) 2 X E X / Y = y f( x/ Y = y), X discreta ( ) 2 X E X / Y = y f( x/ Y = y) dx, X continua

17 Caracterís2cas de las distribuciones Propiedades de los momentos condicionados E[f(X)/X]=f(X) Si f(x) y g(x) son funciones de X, [ ] E f( X) Y+ g( X)/ X = f( X) E( Y / X) + g( X) Si X e Y son independientes, E(Y/X)=E(Y) Ley de las esperanzas iteradas: EX E( Y / X) = E( Y) Si X e Y son independientes var(y/x)=var(y) [ ] [ ] var( Y) = E var( Y / X) + var E( Y / X)

18 Caracterís2cas de las distribuciones Momentos de orden superior El momento de orden r respecto a la media es, ( u) r E X Los momentos de orden 3 y 4 sirven para estudiar la asimetría y el apuntamiento (curtosis), S = EX ( u) 3 σ 3 (simetría) K EX ( u) = 2 2 ( u) E X 4 (curtosis)

19 Algunas distribuciones importantes Distribución normal 1 1 f( x) = exp σ 2π 2 ( x u) 2 siendo u y σ 2 la media y la varianza de la distribución 2 σ

20 Algunas distribuciones importantes Distribución ji cuadrada Sean Z 1,, Z k variables normales estandarizadas independientes. Entonces, i= 1 se distribuye como una χ 2 con k g.l. Z k = Z 2 i

21 Algunas distribuciones importantes Distribución t- Student. Si Z 1 es una variable N(0,1) y Z 2 es una ji cuadrada con k g.l., entonces, t = se distribuye como t- Student con k g.l.: Z Z 1 2 / k

22 Algunas distribuciones importantes Distribución F- Snedecor. Si Z 1 y Z 2 son v.a. χ 2 con k 1 y k 2 g.l., entonces, Z / k F = Z / k se distribuye como F- Snedecor con k 1 y k 2 g.l.:

23 Inferencia estadís2ca: es2mación Cuando no se conocen los parámetros poblacionales de una distribución de probabilidad podemos es-marlos a par-r de los datos de una muestra Por ejemplo, sea la v.a. X con FDP f(x, θ) donde desconocemos el parámetro θ. Para es-marlo extraemos una muestra de tamaño n y empleamos una función de los valores muestrales para calcular una es-mación θ del verdadero parámetro θ. El es-mador es una v.a. puesto que su valor depende de la muestra empleada para obtenerlo

24 Inferencia estadís2ca: es2mación El procedimiento descrito antes es una es2mación puntual, pero es posible también llevar a cabo es2maciones por intervalos. En la es-mación por intervalos se ob-enen dos valores θ 1 y θ 2 afirmándose con un determinado grado de confianza, que el verdadero parámetro θ se encuentra entre ambos En general θ 1 y θ 2 son funciones de los valores muestrales de forma que, Pr( ˆ θ θ ˆ θ ) = 1 α 1 2 siendo α el nivel de significancia

25 Métodos de es2mación Los métodos principales son, Mínimos Cuadrados Ordinarios Máxima Verosimilitud Método de Momentos Método Generalizado de Momentos En este curso se empleará casi con exclusividad el método MCO. Bajo los supuestos en los que hemos construido el modelo ninguno de los otros métodos proporciona es-madores diferentes

26 Propiedades de los es2madores Esperamos que el método de es-mación empleado proporcione es-madores con buenas propiedades estadís-cas. Se dis-ngue entre propiedades en muestras pequeñas (o exactas, es decir independientes del tamaño muestral) y propiedades asintó-cas o en muestras grandes.

27 Propiedades exactas Insesgadez. Decimos que un es-mador b del parámetro poblacional β es insesgado si E(b)=β o E(b)-β = 0 En otro caso, es decir si esa diferencia no es nula, el es-mador es sesgado y el tamaño del sesgo es, Sesgo = E(b)-β La insesgadez es una propiedad del muestreo repe-do, no de una muestra dada: para n fijo, si tomamos dis-ntas muestras y para cada una calculamos el es-mador, esperamos que su media coincida con el parámetro

28 Propiedades exactas En la siguiente figura se ilustra el concepto de insesgadez, El es-mador θ 1 es insesgado mientras que θ 2 es sesgado

29 Propiedades exactas Varianza. Además de ser insesgado, es deseable que el es-mador tenga la menor varianza posible Diremos que un es-mador es de varianza mínima, si -ene menos varianza que cualquier otro es-mador Pero no es habitual que, independientemente de otras caracterís-cas, haya un es-mador de varianza mínima De dos es-madores insesgados siempre será preferible el de menor varianza Pero si uno es sesgado y el otro no, no está claro cuál de los dos es preferible

30 Propiedades exactas Ilustramos todo ello en la figura siguiente, θ 1 y θ 2 son ambos insegados y por tanto θ 1 es mejor, dado que -ene menos varianza. Pero entre θ 2 y θ 3 (sesgado), no está claro cuál elegir

31 Propiedades exactas Para decidir en situaciones como la anterior, suele emplearse el criterio de minimizar el ECM, definido, Puede demostrarse que, ( ˆ ) 2 ECM ( ˆ θ) = E θ θ ˆ ˆ 2 ˆ ECM ( θ) = var( θ) + sesgo ( θ) Tenemos ahora un criterio de decisión: entre dos es-madores preferiremos el de menor ECM Si dos es-madores son insesgados, será más eficiente el de menor varianza

32 Propiedades asintó2cas A veces, aunque un es-mador no tenga alguna propiedad en muestras pequeñas, se aproxima cada vez más a su cumplimiento a medida que n crece Un es-mador es asintó2camente insesgado si, lim E( ˆ θ ) = θ n n Un es-mador es consistente si a medida que crece n cada vez se aproxima más al verdadero parámetro poblacional, p lim ˆ θ n = θ n

33 Propiedades asintó2cas La siguiente figura ilustra el concepto de consistencia

34 Inferencia: pruebas de hipótesis El problema que pretende resolver el contraste de hipótesis, es si el es-mador θ obtenido a par-r de una muestra, es compa-ble con algún valor hipoté-co del parámetro poblacional (desconocido) La afirmación anterior es la denominada hipótesis nula o H 0 y se presume cierta a menos que podamos aportar evidencia suficiente en contra. H 0 se contrasta contra otra hipótesis, denominada hipótesis alterna-va, H 1. Por ejemplo, H 0 : θ = h H 1 : θ h

35 Inferencia: pruebas de hipótesis Para ver cómo funciona el contraste de hipótesis, emplearemos el ejemplo 24 (p.824). Sabemos que la media muestral X se distribuye como una normal N(µ, σ 2 /n), donde µ y σ 2 son la media y varianza poblacionales y n es el tamaño muestral. Con una muestra de tamaño n=100, se ob-ene una estatura media de cm y se sabe que σ = Es posible que la media de la población sea 175 cm?

36 Inferencia: pruebas de hipótesis En este caso H 0 : θ = 175. Como estamos interesados en cualquier desviación (por encima o por debajo) del supuesto planteado en H 0, la hipótesis alterna-va será H 1 : θ 175. Sabemos que el es-mador empleado se distribuye como una normal, con media µ y varianza σ 2 /n. Por tanto, X µ Z = N(0,1) σ / n El contraste de hipótesis consiste en calcular el valor de Z bajo la hipótesis nula (µ = 175) y ver cuál es la probabilidad de encontrar ese valor en una N(0,1)

37 Inferencia: pruebas de hipótesis Intui-vamente, rechazaremos la hipótesis nula si obtenemos para Z un valor poco probable en una distribución N(0,1) Lo que entendemos por poco es lo que va a definir el nivel de significancia α. Este nivel es el que determina las regiones de aceptación y rechazo. Si elegimos α = 0.05 dichas regiones quedan definidas como se muestra en al figura,

38 Inferencia: pruebas de hipótesis Aceptamos como raros valores menores que o mayores que 1.96 porque son poco probables en una N(0, 1): el 95% de los valores de la distribución están en el intervalo (- 1.96, 1.96). Por tanto si Z cae fuera de dicho intervalo (zona de rechazo) concluimos que H 0 es poco probable: se rechaza a ese α (arbitrario) Zona de rechazo Zona de aceptación Zona de rechazo

39 Inferencia: pruebas de hipótesis Con los datos anteriores, X µ Z = = = 7.59 σ / n 6.35/10 Este valor cae claramente en la región de rechazo: es muy poco probable que la media de la población sea 175 cm, de manera que rechazamos esa hipótesis al nivel de significancia elegido (5%)

40 Inferencia: pruebas de hipótesis El anterior es un ejemplo de contraste bilateral o a dos colas: las zonas de rechazo están en las dos colas de la distribución A veces la zona de rechazo está en una de las colas y no en las dos. Sucede esto cuando podemos excluir la posibilidad de que el parámetro sea posi-vo (nega-vo) En este caso la zona de rechazo estaría en una sola de las colas: para un nivel de significancia del 5%, el valor que delimita las zonas de aceptación o rechazo en una N(0, 1) será 1.69 (- 1.69).

41 Inferencia: intervalos de confianza Alterna-vamente podemos construir un intervalo de confianza de 100(1- α) y ver si dicho intervalo incluye el valor µ*, en cuyo caso no se puede rechazar H 0 (se rechazaría si µ* no estuviera en el intervalo) En el ejemplo anterior, X µ Pr( 1.96 Z 1.96) = Pr = 0.95 σ / n Sus-tuyendo obtenemos µ µ Como µ*=175 no está en el intervalo, rechazamos H 0

42 Errores 2po I y 2po II En las decisiones de esta clase, pueden cometerse dos -pos de errores Decisión H 0 es verdadera H 0 es falsa Rechazar Error -po I No hay error No rechazar No hay error Error -po II Lo ideal sería minimizar ambos errores, pero no es posible En la prác-ca se fija en un nivel bajo la probabilidad de cometer error -po I (α) y luego se reduce al máximo la probabilidad de cometer un error -po II

43 Errores 2po I y 2po II La probabilidad de error -po I es el nivel de significancia α y la probabilidad de cometer un error -po II se representa por β Llamamos potencia de un contraste a la probabilidad de no cometer un error -po II Cuando el verdadero valor del parámetro poblacional difiera mucho del valor postulado por H 0, la probabilidad de rechazar la hipótesis será alta y viceversa. Ello puede ilustrarse mediante la curva de potencia

44 Errores 2po I y 2po II La figura muestra la probabilidad de rechazar H 0 : µ = 50 en función del verdadero valor µ (n = 25, σ=10 y α=0.05) El denominado valor p mide el nivel de significancia exacto del valor obtenido por el estadís-co de prueba. Es por tanto el nivel de significancia más bajo al que puede rechazarse una H 0