ESTADÍSTICA I Tema 5: Contraste de hipótesis

Transcripción

1 ESTADÍSTICA I Tema 5: Contraste de hipótesis Planteamiento del problema. Conceptos básicos: hipótesis nula y alternativa, tipos de errores, nivel de significación, región crítica o de rechazo, tamaño del test, potencia Contrastes paramétricos habituales en una población p-valor Contrastes para dos muestras. Distribución F de Fisher-Snedecor Consistencia de tests. Tests insesgados y UMP Lema de Neyman-Pearson. Tests óptimos Construcción de tests: test de razón de verosimilitudes, test bayesiano. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 1

2 Planteamiento del problema. Conceptos básicos El objetivo de la teoría de contraste de hipótesis es elegir entre dos posibilidades excluyentes (hipótesis nula e hipótesis alternativa) relativas al valor de un parámetro poblacional, a partir de la información proporcionada por los datos muestrales. Sea X 1,..., X n una muestra aleatoria de una v.a. X con función de distribución F θ, donde θ Θ. Objetivo: Dada una partición del espacio paramétrico Θ = Θ 0 Θ 1, deseamos decidir, en base a la muestra obtenida, si θ Θ 0 o si θ Θ 1. Queremos contrastar H 0 : θ Θ 0 H 1 : θ Θ 1 (hipótesis nula) (hipótesis alternativa) Un test para contrastar estas dos hipótesis consiste en proporcionar una regla de decisión que, a cada posible observación de la muestra (x 1,..., x n ), le asigne una decisión: aceptar o rechazar H 0. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 2

3 Los contrastes habituales (no aleatorizados) se definen mediante una región crítica o región de rechazo R R n, de tal manera que, cuando (x 1,..., x n ) R, se rechaza la hipótesis nula. Espacio muestral Región crítica o de rechazo R Decisión Rechazo H 0 (x 1,...,x n ) Región de aceptación A TEST (x 1,...,x n ) Acepto H 0 Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 3

4 Es importante destacar que la metodología de contraste de hipótesis no demuestra la validez de la hipótesis que se acepta en cada caso (en el sentido en el que se demuestra algo mediante un método deductivo, por ejemplo). La manera correcta de interpretar los resultados es decir que los datos disponibles proporcionan (o no proporcionan) evidencia estadística suficiente en contra de la hipótesis nula. En todo caso, la conclusión depende de información incompleta y aleatoria, procedente de una o varias muestras, y siempre existe la posibilidad de cometer un error aceptando una hipótesis equivocada. Los procedimientos que se utilizan habitualmente se suelen denominar contrastes o tests de hipótesis. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 4

5 Posibles errores de un test: Error de tipo I: Rechazar H 0 cuando H 0 es cierta. Error de tipo II: Aceptar H 0 cuando H 0 es falsa. La función de potencia de un test con región de rechazo R para contrastar H 0 : θ Θ 0 frente a H 1 : θ Θ 1 es la función Lo que nos gustaría: β n : Θ [0, 1] θ β n (θ) = P θ {(X 1,..., X n ) R} Potencia = 1 Potencia = 0 Θ 0 Θ 1 θ Θ Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 5

6 Lo que en realidad se suele hacer (teoría de Neyman-Pearson): 1. Acotar la máxima probabilidad de error de tipo I. Se fija un nivel de significación α (0, 1). Típicamente α = 0, 05. Se define el tamaño de un test como la máxima probabilidad de error de tipo I: max P θ (R) = max β n (θ). θ Θ 0 θ Θ 0 Se busca una región de rechazo R tal que max P θ (R) α. θ Θ 0 2. Minimizar la probabilidad de error de tipo II. Se intenta buscar una región de rechazo R que maximice la función de potencia cuando θ Θ 1. Las hipótesis H 0 y H 1 no son simétricas. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 6

7 Como vemos, los test de hipótesis están diseñados para controlar la probabilidad máxima de rechazar H 0 cuando es cierta. En consecuencia, suelen ser conservadores con la hipótesis nula: hace falta mucha evidencia muestral para rechazar H 0. Observemos que es posible que, con los mismos datos, H 0 se rechace para un nivel de significación α = 0.05 y se acepte para α = En una primera aproximación, los problemas de contraste de hipótesis pueden clasificarse en problemas de una muestra (cuando hay una sola población de interés) y problemas de dos muestras (cuando se quiere comparar dos poblaciones y se dispone de una muestra de cada una de ellas). Presentaremos las ideas básicas en el caso de los problemas de una muestra pero pueden extenderse de modo análogo a los de dos muestras. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 7

8 Un ejemplo ilustrativo y sus consecuencias Ejemplo: Se analiza un envío de botellas de aceite envasado con un mecanismo del que se afirma que, en media, rellena las botellas con 100 cl. de aceite. Examinada una muestra de 5 botellas se obtiene que el promedio es 95 cl. y la cuasivarianza es 1.1. Suponemos que la v.a. X = contenido de aceite (en cl.) en una botella sigue una distribución N(µ, σ). Hay suficiente evidencia empírica para afirmar que el contenido medio de las botellas no es 100 cl.? Queremos contrastar H 0 : µ = 100, frente a H 1 : µ 100. Otra posibilidad sería preguntarse si existe evidencia empírica suficiente para afirmar que el consumidor recibe, en promedio, menos cantidad de la que indica la etiqueta. En ese caso, el planteamiento correcto sería contrastar H 0 : µ 100, frente a H 1 : µ < 100. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 8

9 Ejemplo (cont.): Tenemos, por tanto, un problema del tipo: contrastar H 0 : µ = µ 0 frente a H 1 : µ µ 0 (siendo µ 0 un valor prefijado) a partir de una muestra X 1,..., X n extraída de N(µ, σ). Para ello prefijamos el nivel de significación del test α (0, 1) (por ejemplo, α = 0.05) y observamos que, si H 0 fuera cierta, X µ 0 s/ n t n 1. (1) Por otra parte, está claro que deberíamos sospechar que H 0 es falsa (y, por tanto, H 1 es cierta) cuando x resulte estar suficientemente alejada de µ 0. El resultado (1) nos ayuda a decidir, de un modo racional, que es lo que significa suficientemente alejada. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 9

10 Ejemplo (cont.): En efecto, dada una muestra x 1,..., x n, parece muy natural decidir que H 0 es falsa cuando tengamos x µ 0 s/ n > t n 1;α/2. (2) ya que, en este caso, tenemos una muestra que sería muy rara si realmente H 0 fuera cierta. Obsérvese que, de todos modos, hay una probabilidad α, prefijada, de cometer un error de tipo I (rechazar H 0 siendo cierta). Análogamente, si el problema hubiera sido contrastar H 0 : µ µ 0 frente a H 1 : µ < µ 0, un criterio razonable para rechazar H 0 con un nivel de significación α sería x µ 0 s/ n < t n 1;α. (3) Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 10

11 Ejemplo (cont.): En el ejemplo del envasado de aceite x = 95, s 2 = 1.1, n = 5. Por tanto, x µ 0 s/ n = y como > t 4;0.025 = , H 0 : µ = 100 se rechaza al nivel de significación α = 0.05 y, dado que > t 4;0.005 = , también se rechaza al nivel Sin embargo, supongamos que hubiéramos obtenido x = 98, s 2 = 1.1, n = 5. Entonces x µ 0 s/ n = y la hipótesis H 0 se rechazaría al nivel α = 0.05 pero NO se rechazaría al nivel Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 11

12 Ejemplo (cont.): En el ejemplo de las botellas, supongamos que queremos contrastar H 0 : µ 100 frente a H 1 : µ < 100. Entonces el criterio para rechazar H 0 con un nivel de significación α sería x 100 s/ 5 < t 4;α. Supongamos que hubiéramos obtenido x = 98. Entonces x 100 s/ 5 = Como t 4;0.01 = , la hipótesis nula H 0 : µ 100 se rechaza al nivel 0.01 (y también por supuesto, al nivel 0.05, ya que t 4;0.05 = ). Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 12

13 Algunas consecuencias y observaciones: El anterior ejemplo es un sólo un caso particular de contraste de hipótesis, pero nos permite extraer algunas consecuencias y dar algunas definiciones generales sobre la metodología del contraste de hipótesis. Asimetría de las hipótesis: H 0 se acepta a menos que se haya obtenido suficiente evidencia estadística en contra de ella. Por esta razón, cuando H 0 se acepta no debe pensarse que se ha demostrado su validez. H 0 representa la hipótesis que estamos dispuestos a aceptar a menos que se obtengan fuertes indicios en contra. Errores de tipo I y II: En todo caso siempre hay una probabilidad positiva de cometer uno de los dos posibles errores: rechazar H 0 cuando es cierta (error de tipo I) o aceptar H 0 cuando es falsa (error de tipo II). Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 13

14 El nivel de significación: Los tests usuales están construidos de modo que la máxima probabilidad de cometer el error de tipo I está acotada por un valor prefijado α, el nivel de significación (no confundir con el nivel de confianza de los intervalos). La decisión de rechazar o aceptar H 0 depende del nivel de significación elegido. Cuánto más pequeño es α más conservador se hace el test a favor de H 0, es decir, que para aceptar H 1 cuando α es muy pequeño, debemos tener mucha evidencia estadística. Cuando se toma una decisión (aceptar o rechazar H 0 ) debe indicarse siempre el nivel de significación del test que se ha utilizado. Cuando se acepta H 0 no debe pensarse que se ha demostrado H 0 sino que no se ha encontrado suficiente evidencia empírica (al nivel prefijado α) en contra de H 0. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 14

15 Cuando se acepta H 1 debe recordarse también que la interpretación correcta es que los datos obtenidos proporcionan suficiente evidencia estadística al nivel α para aceptar H 1. Una muestra o un nivel de significación diferentes podrían conducir a conclusiones distintas. Dualidad con los intervalos de confianza: en algunos casos de hipótesis nula simple (i.e. del tipo H 0 : θ = θ 0 ) el test usual rechaza H 0 (al nivel de significación α) si y sólo si el intervalo de nivel de confianza 1 α no contiene al valor θ 0. Ejemplo: Si X N(µ, σ) la región de rechazo { } s R = (x 1,..., x n ) : x µ 0 t n 1;α/2 n del contraste equivale a H 0 : µ = µ 0 H 1 : µ µ 0 α R = {(x 1,..., x n ) : µ 0 / IC 1 α (µ)}. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 15

16 Contrastes para la media de una distribución En cada caso se rechaza H 0 cuando (x 1,..., x n ) R. Distribución normal con varianza conocida: Sea X 1,..., X n una muestra aleatoria de X N(µ, σ) con σ conocido. } σ H 0 : µ = µ 0 R = {(x 1,..., x n ) : x µ 0 z α/2 n } σ H 0 : µ µ 0 R = {(x 1,..., x n ) : x µ 0 z α n } σ H 0 : µ µ 0 R = {(x 1,..., x n ) : x µ 0 z 1 α n donde z β es tal que Φ(z β ) = 1 β siendo Φ la función de distribución de la N(0, 1). Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 16

17 Distribución normal con varianza desconocida: Sea X 1,..., X n una muestra aleatoria de X N(µ, σ) con σ desconocido. { } s H 0 : µ = µ 0 R = (x 1,..., x n ) : x µ 0 t n 1;α/2 n { } s H 0 : µ µ 0 R = (x 1,..., x n ) : x µ 0 t n 1;α n { } s H 0 : µ µ 0 R = (x 1,..., x n ) : x µ 0 t n 1;1 α n Cómo hacer un contraste de la t con R: help(t.test) t.test(x, y = NULL, alternative = c("two.sided", "less", "greater"), mu = 0, paired = FALSE, var.equal = FALSE, conf.level = 0.95,...) Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 17

18 Ejemplo: Se certifica que un material estándar de referencia de un suelo contiene 94.6 ppm de un contaminante orgánico. Un análisis repetido arrojó los siguientes resultados: 98.6, 98.4, 97.2, 94.6 y 96.2 ppm. A un nivel de significación α = 0.05 hay suficiente evidencia estadística para concluir que los resultados difieren del valor esperado?. Si se disminuye α a 0.01, se rechazaría H 0?. X = c(98.6, 98.4, 97.2, 94.6, 96.2) t.test(x,alternative="two.sided",mu=94.6) One Sample t-test data: X t = , df = 4, p-value = alternative hypothesis: true mean is not equal to percent confidence interval: sample estimates: mean of x 97 R no parece dar una solución al problema del contraste. O sí? Presentemos el concepto de p-valor. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 18

19 Tests de nivel aproximado α (muestras grandes) para la media de cualquier distribución: Sea X 1,..., X n una muestra aleatoria de X con E(X ) = µ <. H 0 : µ = µ 0, frente a H 1 : µ µ 0 { } R = (x 1,..., x n ) : x µ 0 s/ n > z α/2 H 0 : µ µ 0, frente a H 1 : µ > µ 0 { R = (x 1,..., x n ) : x µ } 0 s/ n > z α H 0 : µ µ 0, frente a H 1 : µ < µ 0 { R = (x 1,..., x n ) : x µ } 0 s/ n < z α Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 19

20 Tests de nivel aproximado α (muestras grandes) para el parámetro p en una Bernoulli: Sea X 1,..., X n una muestra aleatoria de X Bernoulli(p). H 0 : p = p 0, frente a H 1 : p p 0. El criterio de rechazo es (x 1,..., x n ) R, siendo R = (x 1,..., x n ) : x p 0 > z α/2 p 0 (1 p 0 ) n y análogamente para los tests con hipótesis H 1 unilaterales. En el formulario que se puede descargar de la página web hay una lista de las regiones críticas correspondientes a los contrastes de uso más frecuente. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 20

21 El concepto de p-valor Dado un test, definido para todos los niveles de significación posibles, se define el p-valor, para unos datos prefijados, como el ínfimo de los valores α para los cuales se rechaza la hipótesis nula a un nivel de significación α. P(x 1,..., x n ) = inf{α : H 0 es rechazada al nivel α}. Cuánto más pequeño es el p-valor, más evidencia estadística aportan los datos a favor de H 1. El p-valor se puede interpretar como la probabilidad (bajo H 0 ) de obtener un valor al menos tan raro como el obtenido. Los programas informáticos que realizan contrastes de hipótesis (R, Excel, Matlab,... ) no realizan el contraste para un nivel de significación α, sino que directamente nos dan el p-valor del contraste. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 21

22 Ejemplo: Los lagartos del desierto se esconden del calor en verano para evitar que su temperatura corporal interna llegue al nivel letal de 45 o C. Se ha tomado una muestra para estudiar el tiempo X (en minutos) requerido para que la temperatura de un lagarto alcance los 45 o C, partiendo de su temperatura normal mientras estaban en la sombra. Se han obtenido los siguientes datos: Suponiendo que X sigue una distribución N(µ, σ) y, en base a estos datos, puede concluirse que el tiempo medio requerido para alcanzar la temperatura letal es menor que 13 minutos? Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 22

23 Contrastes para la varianza de una normal Sea X 1,..., X n una muestra de X N(µ, σ) con σ desconocido. { } (n 1)s 2 H 0 : σ = σ 0 R = / (χ 2 n 1;1 α/2, χ2 n 1;α/2 ) σ 2 0 = {σ 2 0 / IC 1 α (σ 2 )} { } (n 1)s 2 H 0 : σ σ 0 R = σ0 2 χ 2 n 1;α { } (n 1)s 2 H 0 : σ σ 0 R = χ 2 n 1;1 α σ 2 0 El estadístico del contraste χ 2 (n 1)S 2 n i=1 = = (X i X ) 2 σ 2 0 σ 2 0 (X-squared en R) sigue una distribución χ 2 n 1 si σ2 = V (X ) es igual a σ 2 0. Para hacer este contraste con R, instalar el paquete TeachingDemos y usar la función sigma.test. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 23

24 Ejemplo: X = c(98.6, 98.4, 97.2, 94.6, 96.2) sigma.test(x) One sample Chi-squared test for variance data: X X-squared = 10.96, df = 4, p-value = alternative hypothesis: true variance is not equal to 1 95 percent confidence interval: sample estimates: var of X 2.74 sigma.test(x,sigma=2,alternative="greater") One sample Chi-squared test for variance data: X X-squared = 2.74, df = 4, p-value = alternative hypothesis: true variance is greater than 4 95 percent confidence interval: Inf sample estimates: var of X 2.74 Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 24

25 Contrastes para dos muestras El objetivo es comparar el mismo parámetro en dos poblaciones diferentes. Contrastes con dos poblaciones normales independientes Sean X 1,..., X n1 e Y 1,..., Y n2 muestras aleatorias independientes de X N(µ 1, σ 1 ) e Y N(µ 2, σ 2 ) respectivamente (σ 1 y σ 2 desconocidas). X e Y son v.a. independientes. Para contrastar la hipótesis de homocedasticidad (igualdad de varianzas) de dos poblaciones normales presentamos una nueva distribución auxiliar. Sean Q 1 y Q 2 v.a. independientes con distribuciones χ 2 n 1 y χ 2 n 2, respectivamente. La distribución de Q 1/n 1 Q 2 /n 2 se denomina F de Fisher-Snedecor con n 1 y n 2 grados de libertad, F n1,n 2. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 25

26 c(0, 2) n1=1, n2=1 n1=2, n2=1 n1=5, n2=2 n1=100, n2=1 n1=100, n2=100 range(x) Si s1 2, s2 2 son las cuasi-varianzas de dos muestras independientes de tamaño n 1 y n 2 extraídas, respectivamente, de dos poblaciones N(µ 1, σ 1 ) y N(µ 2, σ 2 ), se tiene (n 1 1)s 2 1 σ 2 1 χ 2 n 1 1, (n 2 1)s 2 2 σ 2 2 χ 2 n 2 1. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 26

27 Por tanto, bajo H 0 : σ 1 = σ 2, s1 2 s2 2 F n1 1,n 2 1. De este resultado se derivan los tests para comparar σ 1 y σ 2. H 0 : σ 1 = σ 2 R = { s 2 1 = s 2 2 H 0 : σ 1 σ 2 R = { s 2 1 s 2 2 H 0 : σ 1 σ 2 R = { s 2 1 s 2 2 / (F n1 1;n 2 1;1 α/2, F n1 1;n 2 1;α/2) { 1 / IC 1 α ( σ 2 1 σ 2 2 )} > F n1 1;n 2 1;α } < F n1 1;n 2 1;1 α } } Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 27

28 Uno de los tests más usuales es el de igualdad de medias para dos poblaciones normales homocedásticas, es decir, con σ 1 = σ 2 = σ: Se puede probar que, bajo H 0 : µ 1 = µ 2, X Ȳ t n1 +n 2 2 s 1 p n n 2 y, por tanto, una región crítica al nivel α es } R = { x ȳ > t n1+n2 2;α/2 s p + 1n1 1n2 siendo s 2 p = (n 1 1)s (n 2 1)s 2 2 n 1 + n 2 2 la varianza combinada (pooled variance), una estimación de σ 2. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 28

29 Ejemplo: Un microbiólogo desea averiguar si hay diferencia en el tiempo que tarda en producir yogur utilizando dos tipos de bacterias: lactobacillus acidophilus (A) y bulgaricus (B). Se prepararon siete remesas de yogur con cada tipo de lactobacilo. A continuación se muestra el tiempo (en horas) hasta que se produjo cada remesa: Cultivo A Cultivo B Suponiendo que la distribución de ambos conjuntos de observaciones se puede considerar normal, contrastar la hipótesis de homocedasticidad (igualdad de varianzas) y la hipótesis de igualdad de medias. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 29

30 Ejemplo (cont.): A = c(6.8, 6.3, 7.4, 6.1, 8.2, 7.3, 6.9) B = c(6.1, 6.4, 5.7, 5.5, 6.9, 6.3, 6.7) var.test(a,b,ratio=1,alternative="two.sided",conf.level =0.9) F test to compare two variances data: A and B F = , num df = 6, denom df = 6, p-value = alternative hypothesis: true ratio of variances is not equal to 1 90 percent confidence interval: sample estimates: ratio of variances Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 30

31 Ejemplo (cont.): t.test(a,b,alternative="two.sided",conf.level=0.95,var. equal=true) Two Sample t-test data: A and B t = , df = 12, p-value = alternative hypothesis: true difference in means is not equal to 0 95 percent confidence interval: sample estimates: mean of x mean of y Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 31

32 Si X N(µ 1, σ 1 ) e Y N(µ 2, σ 2 ) son v.a. independientes con σ 1 σ 2 desconocidas, entonces las regiones de rechazo de los contrastes de comparación de medias son: H 0 : µ 1 = µ 2 R = x ȳ t f ;α/2 H 0 : µ 1 µ 2 R = x ȳ t f ;α H 0 : µ 1 µ 2 R = x ȳ t f ;1 α donde f es el entero más próximo a ( s 2 1 n 1 + s2 2 n 2 ) 2 (s1 2/n 1) 2 n (s2 2 /n 2) 2 n 2 1. s 2 1 n 1 + s2 2 s 2 1 n 1 + s2 2 n 2 n 2 s 2 1 n 1 + s2 2 n 2 Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 32

33 Caso de muestras emparejadas: Surge en aquellas situaciones con n 1 = n 2 en que X i e Y i no son independientes (porque corresponden, por ejemplo, a mediciones sobre el mismo individuo antes y después de un tratamiento). Se reducen a problemas de una muestra para la muestra de diferencias D i = X i Y i. Puede verse un ejemplo en los problemas de la Relación 5. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 33

34 Consistencia de tests. Tests insesgados y UMP Se dice que una sucesión de tests con un nivel prefijado α es consistente cuando lim β n(θ) = 1, θ Θ 1 = Θ \ Θ 0. n Se dice que un test es insesgado cuando β n (θ) α θ Θ 0 y β n (θ) α θ Θ 1. Se dice que un test con función de potencia β n es uniformemente más potente (UMP) dentro de una clase B n,α de tests de nivel α basados en muestras de tamaño n cuando β n (θ) β n (θ), θ Θ 1 siendo β n la función de potencia de cualquier otro test de la clase B n,α. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 34

35 El lema de Neyman-Pearson Se considera el problema de hipótesis nula y alternativa simples H 0 : θ = θ 0 frente a H 1 : θ = θ 1. Denotemos f n (x 1,..., x n ; θ) = n i=1 f (x i; θ). Dado α (0, 1), supongamos que la región R = { (x 1,..., x n ) : verifica P θ0 (R ) = α. Entonces } f n (x 1,..., x n ; θ 1 ) f n (x 1,..., x n ; θ 0 ) > k P θ1 (R ) P θ1 (R), siendo R la región crítica de cualquier otro test tal que P θ0 (R) α. En otras palabras, R es el test óptimo de nivel α para el problema considerado. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 35

36 Demostración del lema de Neyman-Pearson: Denotemos x = (x 1,..., x n ) P θ1 (R ) P θ1 (R) = f n (x; θ 1 )dx f n (x; θ 1 )dx, R R c R c R pero, por definición de R, f n (x; θ 1 )dx k R R c f n (x; θ 0 )dx R R c y también f n (x; θ 1 )dx k f n (x; θ 0 )dx. R c R R c R Por lo tanto [ ] P θ1 (R ) P θ1 (R) k f n (x; θ 0 )dx f (x; θ 0 )dx R R c R c R [ ] = k f n (x; θ 0 )dx f n (x; θ 0 )dx R R = k [P θ0 (R ) P θ0 (R)] 0. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 36

37 Familias paramétricas con cociente de verosimilitudes monótono y tests óptimos Cómo construir tests óptimos en problemas que no sean de hipótesis nula y alternativa simples? Consideremos el caso en que el modelo es de la forma f ( ; θ), siendo θ Θ, donde Θ R es un intervalo. Sea f n (x 1,..., x n ; θ) = n i=1 f (x i; θ). Supongamos que queremos contrastar H 0 : θ θ 0 frente a H 1 : θ > θ 0. Definición.- Se dice que f ( θ) es una familia paramétrica con cociente de verosimilitudes monótono (CVM) si existe un estadístico T n (x 1,..., x n ) tal que, para todo θ 1, θ 2, con θ 1 < θ 2, la razón de verosimilitudes f n (x 1,..., x n ; θ 2 ) f n (x 1,..., x n ; θ 1 ) es una función monótona no decreciente de T n (x 1,..., x n ). Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 37

38 Como consecuencia directa del Lema de Neyman-Pearson y de la anterior definición se tiene Teorema.- Supongamos que f ( ; θ) cumple la propiedad CVM y que k α es tal que P θ0 {T n > k α } = α. Supongamos además que P θ {T n = c} = 0, para todo θ y c. Entonces, R = {(x 1,..., x n ) : T n (x 1,..., x n ) > k α } es la región crítica de un test óptimo (uniformemente más potente) de nivel α para contrastar H 0 : θ θ 0 frente a H 1 : θ > θ 0. Un resultado análogo es válido para H 0 : θ θ 0 frente a H 1 : θ < θ 0 aunque en este caso la propiedad CVM debe cumplirse cambiando no decreciente por no creciente. Para un contraste del tipo H 0 : θ = θ 0 frente a H 1 : θ θ 0 no tiene por qué existir un test UMP (ver Ejemplo de Casella y Berger 2002, p. 392). Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 38

39 Ejemplo: Sea f ( ; θ) una uniforme en (0, θ). La propiedad CVM se cumple con T n (x 1,..., x n ) = max{x 1,..., x n }. Por tanto, el test óptimo de nivel α para H 0 : θ θ 0 frente a H 1 : θ > θ 0 es ( ) n kα R = {(x 1,..., x n ) : max{x 1,..., x n } > k α }, donde 1 = α es decir, k α = exp ( 1 n log(1 α) + log(θ 0) ). Ejemplo: Si f (x; θ) = θe θx 1 [0, ) (x), la propiedad CVM se cumple con T n (x 1,..., x n ) = 1/ n i=1 x i. Por tanto, el test óptimo de nivel α para H 0 : θ θ 0 frente a H 1 : θ > θ 0 es R = {(x 1,..., x n ) : 1 n i=1 x i > k α } donde P θ0 { n i=1 θ 0 X i < 1 k α } = α. El valor k α se puede calcular teniendo en cuenta que, si θ = θ 0, entonces n i=1 X i γ(θ 0, n) porque X exp(θ 0 ) = γ(θ 0, 1). Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 39

40 Construcción de tests. Test de cociente de verosimilitudes Sea f ( ; θ) donde θ = (θ 1,..., θ k ) Θ R k, siendo Θ un intervalo de R k. Dada una muestra x = (x 1,..., x n ), sea f n (x; θ) = n i=1 f (x i; θ). Consideremos el problema de contrastar H 0 : θ i = c i, para i = 1,..., r (con r k) H 1 : θ i c i para algún i = 1,..., r El estadístico del contraste de razón de verosimilitudes es Λ n = sup θ Θ 0 f n (x; θ) sup θ Θ f n (x; θ), donde Θ 0 = {θ Θ : θ = (c 1,..., c r, θ r+1,..., θ k )}. El contraste de razón de verosimilitudes tiene como región de rechazo R = {(x 1,..., x n ) : Λ n (x 1,..., x n ) k α }. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 40

41 Teorema.- Supongamos que (i) El emv ˆθ n es estimador consistente (en probabilidad) del parámetro θ. (ii) Para todo x, la función log f (x; θ) tiene derivadas parciales terceras (respecto a las componentes θ j de θ) continuas. (iii) En las integrales que involucran a la función f (x; θ) se pueden permutar las derivadas con el signo integral. (iv) La matriz ( de información de ) Fisher I(θ) = 2 θ i θ j log f (X ; θ) es invertible para cada θ. Entonces, bajo H 0, 2 log Λ n 1 i,j k d χ 2 r. (4) Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 41

42 Aplicación a tests de bondad de ajuste Sea X una v.a. discreta que toma los valores a 1,..., a k. Denotemos p i = P(X = a i ). Supongamos que se desea contrastar H 0 : p i = p i0, i = 1,..., k basado en una muestra x 1,..., x n. Obsérvese que, en este caso, con la notación del teorema, r = k 1 porque cuando se fijan k 1 probabilidades p i queda fijada la probabilidad restante. Por tanto, H 0 se rechaza al nivel α cuando 2 log Λ n > χ 2 k 1;α, Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 42

43 Aquí el numerador de Λ n es p O po k k0, siendo O j = #{i : x i = a j } las frecuencias observadas de los distintos valores de la variable [nótese que, bajo H 0, (O 1,..., O k ) tiene distribución multinomial M(n; p 10,..., p k0 )]. El denominador de Λ n es ( ) O1 ( ) Ok O1 Ok.... n n Sustituyendo en Λ n es inmediato ver que el estadístico de contraste se puede expresar en la forma 2 log Λ n = 2 k O j log j=1 ( Oj donde e j = np j0, j = 1,..., k son las frecuencias esperadas (bajo H 0 ) de los distintos valores de la variable en una muestra de tamaño n. e j ), Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 43

44 Un ejemplo clásico: el experimento de Mendel En el famoso experimento de Mendel se cruzaron plantas de guisantes con fenotipo rugoso-amarillo con otras de fenotipo lisoverde. En la segunda generación se podían observar cuatro fenotipos (liso-amarillo, rugoso-amarillo, liso-verde, rugoso-verde) cuyas respectivas probabilidades, según la teoría de la herencia mendeliana, debían ser p 10 = 9 16, p 20 = 3 16, p 30 = 3 16, p 40 = Observados n = 556 guisantes en la segunda generación del experimento se obtuvieron los siguientes números de guisantes con estos fenotipos: O 1 = 315, O 2 = 101, O 3 = 108, O 4 = 32. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 44

45 Proporcionan estos resultados alguna evidencia en contra de la teoría mendeliana? Aplicamos el test para contrastar H 0 : p 1 = 9 16,..., p 4 = 1 16 : e 1 = = , e2 = e3 = = , e4 = = En definitiva, el test de cociente de verosimilitudes compara las O i con las e i y rechaza la hipótesis nula cuando hay demasiadas diferencias entre ellas. Esto se hace formalmente mediante el estadístico 2 log Λ n = 2 k O i log i=1 ( Oi e i ) = El p-valor (calculado a partir de la distribución χ 2 3 ) es lo que, por supuesto, no indica ninguna evidencia estadística en contra de H 0. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 45

46 Hay una controversia clásica en la historia de la ciencia en el sentido de que los resultados de Mendel eran demasiado buenos, es decir, había demasiada concordancia entre las O i y las e i (por ejemplo, R.A. Fisher era de esta opinión; ver su artículo de 1936, Has Mendel s work been rediscovered?, en The Annals of Science). Se ha sugerido que este supuesto exceso de concordancia podía deberse a un sesgo de repetición (confirmation bias) producido por la repetición de los resultados hasta que las O i concordasen fuertemente con las e i. También se ha conjeturado que algún ayudante de Mendel pudo actuar con exceso de celo manipulando los resultados. En todo caso, las ideas básicas de Mendel eran acertadas y han tenido una influencia decisiva. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 46

47 Construcción de tests. Test bayesianos Se desea contrastar H 0 : θ Θ 0 frente a H 1 : θ Θ \ Θ 0. Como siempre, la información procede de una muestra x 1,..., x n. La metodología bayesiana supone que la densidad que ha generado los datos es f ( θ) y que el parámetro θ puede considerarse como una v.a. con distribución a priori π(θ). A partir de aquí se calculan la distribución a posteriori π(θ x 1,..., x n ) dada por π(θ x 1,..., x n ) = f n (x 1,..., x n θ)π(θ) Θ f n(x 1,..., x n θ)π(θ)dθ, donde f n (x 1,..., x n θ) = n i=1 f (x i; θ). Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 47

48 El elemento fundamental en la inferencia bayesiana es siempre la distribución a posteriori. A partir de ella se pueden calcular las probabilidades a posteriori de ambas hipótesis P{θ Θ 0 x 1,..., x n } = π(h 0 x 1,..., x n ) = π(θ x 1,..., x n )dθ, Θ 0 P{θ Θ 1 x 1,..., x n } = π(h 1 x 1,..., x n ) = 1 π(h 0 x 1,..., x n ), y decidir dependiendo de sus valores. Típicamente se optará por H 1 cuando π(h 1 x 1,..., x n ) β, donde β (0, 1) es un valor que se fija dependiendo de la gravedad que se atribuya al error de tipo I (rechazar H 0 cuando es cierta). Observemos que la metodología bayesiana de contraste de hipótesis depende fuertemente de la elección de la distribución a priori π. Estadística I (Mat/DG). Profesora: Amparo Baíllo Tema 5: Contraste de hipótesis 48