Definición Una hipótesis es una afirmación acerca de un parámetro.

Transcripción

1 Capítulo 8 Prueba de hipótesis Existen dos áreas de interés en el proceso de inferencia estadística: la estimación puntual y las pruebas de hipótesis. En este capítulo se presentan algunos métodos para desarrollar estas pruebas de forma que puedan ser aplicadas a ciertos problemas de interés Introducción Definición Una hipótesis es una afirmación acerca de un parámetro. Definición Las dos hipótesis complementarias en un problema de prueba de hipótesis son llamadas hipótesis nula e hipótesis alternativa y se denotan por H 0 y H 1 respectivamente. El objetivo de una prueba de hipótesis es decidir, en base a una muestra extraída a partir de la población, cuál de las dos hipótesis complementarias es verdadera. Definición Una prueba de hipótesis es una regla que especifíca: a. Para que valores muestrales la decisión es no rechazar H 0 y suponer que es verdadera. b. Para que valores muestrales la decisión es rechazar H 0 y aceptar H 1 como verdadera. 99

2 CAPÍTULO 8. PRUEBA DE HIPÓTESIS 100 El subconjunto del espacio muestral para el que se rechaza H 0 se denomina región de rechazo o región critica. El complemento de la región de rechazo es llamado la región de no rechazo. En general, una prueba de hipótesis se desarrolla en términos de un estadístico de prueba W (X) = W (X 1,, X n ) que es una función de la muestra Métodos para encontrar pruebas Se presentan a continuación tres métodos para establecer pruebas de hipótesis que pueden ser aplicados a diferentes situaciones Prueba de razón de verosimilitud Recordar que si X 1,, X n es una muestra aleatoria de una población con función de probabilidad o función de densidad f(x θ) entonces la función de verosimilitud es: n L(θ x 1,, x n ) = L(θ x) = f(x i θ) i=1 Definición La prueba estadística de razón de verosimilitud para probar H 0 : θ Θ 0 versus H 1 : θ Θ c 0 es: λ(x) = sup Θ 0 L(θ x) sup Θ L(θ x) donde Θ denota el espacio paramétrico completo. Una prueba de razón de verosimilitud es aquella con región de rechazo de la forma {x : λ(x) c}, donde 0 c 1. Suponga que ˆθ es el estimador de máxima verosimilitud de θ sin restricción. Considerar además que ˆθ 0 es el estimador de máxima verosimilitud de θ asumiendo que el espacio paramétrico restringido es Θ 0, es decir ˆθ 0 es el valor de θ Θ 0 que maximiza L(θ x). Entonces, la prueba de razón de verosimilitud es: λ(x) = L(ˆθ 0 x) L(ˆθ x)

3 CAPÍTULO 8. PRUEBA DE HIPÓTESIS 101 Ejemplo Sea X 1,, X n una muestra aleatoria de una población N (θ, 1). Considerar la hipótesis H 0 : θ = θ 0 versus H 1 : θ θ 0 donde θ 0 es una constante definida a priori por el experimentador. Hallar la prueba de razón de verosimilitud para probar las hipótesis anteriores. Ejemplo Sea X 1,, X n una muestra aleatoria de una población exponencial con función de densidad: e (x θ) x θ f(x θ) = 0 x < θ donde < θ <. Hallar la prueba de razón de verosimilitud para las hipótesis H 0 : θ θ 0 versus H 1 : θ > θ 0 donde θ 0 es una constante definida por el experimentador. Si T (X) es una estadística suficiente para θ con función de probabilidad o densidad g(t θ) entonces se podría considerar construir una prueba de razón de verosimilitud basado en T y su función de verosimilitud L (θ t) = g(t θ) en lugar de X y su función de verosimilitud L(θ x). Teorema Si T (X) es una estadística suficiente para θ y λ (t) y λ(x) son las pruebas de razón de verosimilitud basados en T y X respectivamente, entonces: λ (T (x)) = λ(x) Ejemplo En el ejemplo se tiene que X es una estadística suficiente para θ y en el ejemplo X (1) = mín X i es también una estadística suficiente para θ. Las pruebas de razón de verosimilitud son también útiles en situaciones en las que existen parámetros de ruido, es decir parámetros que estan presentes en un modelo pero sobre los que no existe interés inferencial directo. Ejemplo Suponga X 1,, X n una muestra aleatoria de una población N (µ, σ 2 ) y que un experimentador desea realizar inferencias solamente sobre µ a través de las hipótesis H 0 : µ µ 0 versus H 1 : µ > µ 0. Hallar la prueba de razón de verosimilitud considerando que σ 2 es un parámetro de ruido.

4 CAPÍTULO 8. PRUEBA DE HIPÓTESIS Prueba de Unión-Intersección El método de unión-intersección para construir pruebas de hipótesis se usa cuando la hipótesis nula puede ser expresada como una intersección: H 0 : θ Θ γ (8.2.1) donde Γ es un conjunto de índices que puede ser finito o infinito dependiendo del problema. Suponga que las pruebas disponibles para H 0γ : θ Θ γ versus H 1γ : θ Θ c γ tienen región de rechazo {x : T γ (x) R γ } entonces la región de rechazo para la prueba de unión-intersección es: {x : T γ (x) R γ } (8.2.2) En particular, suponga que cada una de las pruebas individuales tiene región de rechazo de la forma {x : T γ (x) > c}, donde c no depende de γ, entonces la región de rechazo para la prueba de unión-intersección puede expresarse como: {x : T γ (x) > c} = {x : supt γ (x) > c} (8.2.3) En consecuencia el estadístico de prueba es T (X) = supt γ (x). Ejemplo Sea X 1,, X n una muestra aleatoria de una población N (µ, σ 2 ). Usar la prueba de unión-intersección para las hipótesis H 0 : µ = µ 0 versus H 1 : µ µ 0 donde µ 0 es una constante Prueba de Intersección-Unión Suponga que se desea probar la hipótesis nula: H 0 : θ Θ γ (8.2.4) y que para cada γ Γ, {x : T γ (x) R γ } es la región de rechazo para las hipótesis H 0γ : θ Θ γ versus H 1γ : θ Θ c γ. Entonces la región de rechazo para la prueba de intersección-unión para H 0 versus H 1 es:

5 CAPÍTULO 8. PRUEBA DE HIPÓTESIS 103 {x : T γ (x) R γ } (8.2.5) Si las regiones de rechazo para las hipótesis individuales son de la forma {x : T γ (x) c}, donde c no depende de γ, entonces la región de rechazo para H 0 es: {x : T γ (x) c} = {x : ínf T γ(x) c} (8.2.6) Ejemplo Suponga que dos parámetros son importantes al evaluar la calidad en una fábrica: θ 1, la resistencia media a la ruptura y θ 2, la probabilidad de pasar un test de inflamación. Suponga que las hipótesis son: H 0 : {θ 1 50 o θ 2 0,95} versus H 1 : {θ 1 > 50 y θ 2 > 0,95} donde un lote de material es aceptado solo si se acepta H 1. Sean X 1,, X n las mediciones de la resistencia a la ruptura obtenidas en una muestra desde N (θ 1, σ 2 ). La prueba de razón de verosimilitud para H 01 : θ 1 50 se rechaza si n(x 50)/S > t. Suponga que también se tienen los resultados en m pruebas de inflamación denotados por Y 1,, Y m donde Y i = 1 si la i ésima prueba paso el test y Y i = 0 en caso contrario. La prueba de razón de verosimilitud correspondiente rechaza H 02 : θ 2 0,95 si mi=1 Y i > b. La región de rechazo para la prueba de intersección-unión es: { (x, y) : x 50 m } s/ n > t y y i > b 8.3. Métodos para evaluar pruebas Las pruebas de hipótesis se evaluan y comparan a través de sus probabilidades de cometer error al decidir entre rechazar o no rechazar H Probabilidades de error y potencia de la prueba Una prueba de hipótesis para H 0 : θ Θ 0 vs H 1 : θ Θ c 0 puede conducir a dos tipos de error. i=1 Decisión Hipótesis verdadera No se rechaza H 0 Se rechaza H 0 H 0 Decisión correcta Error tipo I H 1 Error tipo II Decisión correcta

6 CAPÍTULO 8. PRUEBA DE HIPÓTESIS 104 Suponga que R denota la región de rechazo de una prueba, entonces: Pr θ (X R) = Pr (Cometer error tipo I) si θ Θ 0 1 Pr (Cometer error tipo II) si θ Θ c 0 Definición La función potencia de una prueba de hipótesis con región de rechazo R es la función de θ definida por: β(θ) = Pr θ (X R) Ejemplo Sea X 1,, X n una muestra aleatoria de una población N (θ, σ 2 ) con σ 2 conocido. Una prueba de razón de verosimilitud para H 0 : θ θ 0 versus H 1 : θ > θ 0 rechaza H 0 si ( x θ 0 )/(σ/ n) > c. La constante c puede ser cualquier número positivo. La función potencia para esta prueba es: ( ) X θ0 β (θ) = Pr θ σ/ n > c ( X θ = Pr θ σ/ n > c + θ ) 0 θ σ/ n ( = Pr Z > c + θ ) 0 θ θ σ/ n El gráfico se muestra a continuación. > set.seed(500) > sigma <- 1 > x <- rnorm(n=15, mean=5, sd=sigma) > media <- mean(x) > n <- length(x) > theta0 <- 6 > theta <- seq(from=4, to=8, by=0.1) > c < > z0 <- c + (theta0 - theta)/(sigma/sqrt(n)) > potencia <- 1 - pnorm(q=z0, mean=0, sd=1) > plot(theta, potencia, type="l")

7 CAPÍTULO 8. PRUEBA DE HIPÓTESIS 105 Figura 8.1: Función potencia usando R potencia theta Es común considerar aquellas pruebas que controlan la probabilidad de cometer error tipo I en un determinado nivel y dentro de ellas buscar la que tenga la menor probabilidad de cometer error tipo II. Definición Para 0 < α < 1, una prueba con es una prueba de tamaño α si: sup β(θ) = α θ Θ 0 Definición Para 0 < α < 1, una prueba con es una prueba de nivel α si: sup β(θ) α θ Θ 0 función potencia β(θ) función potencia β(θ)

8 CAPÍTULO 8. PRUEBA DE HIPÓTESIS 106 Algunos autores no realizan distinción entre los términos tamaño y nivel, que resulta de importancia para aquellas situaciones en las que resulta imposible obtener una prueba de tamaño α Pruebas más poderosas En las secciones previas se presentaron algunas pruebas que controlan la probabilidad de cometer error tipo I. Sin embargo una buena prueba debería tener también una pequeña probabilidad de cometer error tipo II, es decir un valor grande para la potencia. Definición Sea F una familia de pruebas para H 0 : θ Θ 0 versus H 1 : θ Θ c 0. Una prueba en esta familia con función potencia β(θ) es la prueba uniformemente más poderosa de F si para cualquier otra prueba con función potencia β (θ) se tiene que β(θ) β (θ). Teorema (Lema de Neyman-Pearson) Considere las hipótesis H 0 : θ = θ 0 versus H 1 : θ = θ 1 donde la función de probabilidad o densidad conjunta es f(x θ i ) para i = 0, 1. Una prueba con región de rechazo R que satisface: x R si f(x θ 1 ) > kf(x θ 0 ) para k 0 y α = Pr θ0 (X R) se dice que es una prueba uniformemente más poderosa de nivel α. Ejemplo Sea X 1,, X n una muestra aleatoria de una población N (θ, σ 2 ) donde σ 2 es conocido. Hallar la prueba uniformente más poderosa de nivel α para probar H 0 : θ = θ 0 versus H 1 : θ = θ 1 donde θ 0 > θ 1. Las hipótesis H 0 y H 1 en el Lema de Neyman-Pearson que consideran solo una distribución para la muestra X son llamadas hipótesis simples. En muchos problemas las hipótesis de interés consideran más de una distribución para la muestra y son llamadas hipótesis compuestas. En este último caso también se requiere encontrar una prueba uniformemente más poderosa. Teorema (Familias exponenciales I) Sea X 1,, X n una muestra aleatoria de una función de probabilidad o densidad de la forma f(x θ) = h(x)c(θ) exp {t(x)w(θ)} y que T (x) = n i=1 t(x i ). Se desea probar H 0 : θ θ 0 versus H 1 : θ > θ 0.

9 CAPÍTULO 8. PRUEBA DE HIPÓTESIS 107 a. Si w (θ) es monótona creciente y existe c tal que α = Pr θ0 (T (X) > c) entonces la prueba con región de rechazo {x : T (x) > c} es la prueba uniformemente más poderosa de nivel α. b. Si w (θ) es monótona decreciente y existe c tal que α = Pr θ0 (T (X) < c) entonces la prueba con región de rechazo {x : T (x) < c} es la prueba uniformemente más poderosa de nivel α. Teorema (Familias exponenciales II) Sea X 1,, X n una muestra aleatoria de una función de probabilidad o densidad de la forma f(x θ) = h(x)c(θ) exp {t(x)w(θ)} y que T (x) = n i=1 t(x i ). Se desea probar H 0 : θ θ 0 versus H 1 : θ < θ 0. a. Si w (θ) es monótona creciente y existe c tal que α = Pr θ0 (T (X) < c) entonces la prueba con región de rechazo {x : T (x) < c} es la prueba uniformemente más poderosa de nivel α. b. Si w (θ) es monótona decreciente y existe c tal que α = Pr θ0 (T (X) > c) entonces la prueba con región de rechazo {x : T (x) > c} es la prueba uniformemente más poderosa de nivel α. Ejemplo Sea X 1,, X 5 una muestra aleatoria a partir de la distribución N (2, σ 2 ). Hallar la prueba uniformemente más poderosa de nivel α = 0,05 para probar las hipótesis H 0 : σ 2 0,8 versus H 1 : σ 2 > 0,8. Definición Una familia de funciones de probabilidad o densidad tiene la propiedad de razón de verosimilitud monótona (RVM) si para todo θ 1 < θ 2 : ψ = ni=1 f (x i θ 1 ) ni=1 f (x i θ 2 ) es una función creciente o decreciente en T (x). Teorema (RVM I) Sea X 1,, X n una muestra aleatoria de una función de probabilidad o densidad que pertenece a una familia con la propiedad de RVM en T (x) y se desea probar H 0 : θ θ 0 versus H 1 : θ > θ 0. a. Si ψ es creciente y existe c tal que α = Pr θ0 (T (X) < c) entonces la prueba con región de rechazo {x : T (x) < c} es la prueba uniformemente más poderosa de nivel α.

10 CAPÍTULO 8. PRUEBA DE HIPÓTESIS 108 b. Si ψ es decreciente y existe c tal que α = Pr θ0 (T (X) > c) entonces la prueba con región de rechazo {x : T (x) > c} es la prueba uniformemente más poderosa de nivel α. Teorema (RVM II) Sea X 1,, X n una muestra aleatoria de una función de probabilidad o densidad que pertenece a una familia con la propiedad de RVM en T (x) y se desea probar H 0 : θ θ 0 versus H 1 : θ < θ 0. a. Si ψ es creciente y existe c tal que α = Pr θ0 (T (X) > c) entonces la prueba con región de rechazo {x : T (x) > c} es la prueba uniformemente más poderosa de nivel α. b. Si ψ es decreciente y existe c tal que α = Pr θ0 (T (X) < c) entonces la prueba con región de rechazo {x : T (x) < c} es la prueba uniformemente más poderosa de nivel α. Ejemplo Sea X 1,, X n una muestra aleatoria a partir de: f(x θ) = 2x θ 2 0 < x < θ Hallar la prueba uniformemente más poderosa de nivel α para probar las hipótesis H 0 : θ θ 0 versus H 1 : θ < θ Distribución asintótica de la prueba de razón de verosimilitud En muchas situaciones no es posible determinar la distribución exacta de la prueba de razón de verosimilitud. Se hace necesario obtener una prueba aproximada y su distribución asintótica para poder establecer algunas conclusiones. Teorema Sea X 1,, X n una muestra aleatoria de una función de probabilidad o densidad f(x θ). Bajo ciertas condiciones de regularidad la distribución del estadístico: 2 log λ(x) = 2 log L(ˆθ 0 X) L(ˆθ X)

11 CAPÍTULO 8. PRUEBA DE HIPÓTESIS 109 converge a la distribución χ 2 conforme n. Los grados de libertad de la distribución límite se obtienen como la diferencia entre el número de parámetros libres especificados por θ Θ y el número de parámetros libres especificados por θ Θ 0. Ejemplo Suponga que se tiene dos muestras aleatorias independientes X 1,, X n a partir de la distribución exponencial con parámetro θ 1 y Y 1,, Y n a partir de la distribución exponencial con parámetro θ 2. Hallar la prueba de razón de verosimilitud de nivel α = 0,05 para probar H 0 : θ 1 = θ 2 versus H 1 : θ 1 θ 2 considerando que n = 200, x = 8 y y = 9,5.