Autor Dr. Hernán Rey Ultima actualización: Junio 2010

Transcripción

1 ENSAYO DE HIPOTESIS Generalidades Errores tipo I y II Región de rechazo Curva característica/de potencia de un ensayo Relación entre ensayo de hipótesis e IC Otra forma de reportar un ensayo Ejemplos de distintos ensayos Muestras apareadas Teorema de Slutsky Autor Dr. Hernán Rey Ultima actualización: Junio 1

2 GENERALIDADES Un ensayo de hipótesis se puede utilizar para tomar una decisión respecto a una afirmación hecha sobre el valor de uno o más parámetros poblacionales, sobre la forma específica de la distribución de una determinada característica, sobre la independencia (o correlación) de distintas variables, sobre mejoras introducidas (por ej. en tratamientos o procesos), etc. En principio se establece una hipótesis nula (H ) y se analiza si la información estadística obtenida es suficiente o no para rechazarla. Por otro lado, se define la hipótesis alternativa (H 1 ), que sería la afirmación a aceptar cuando la H es rechazada. El resultado del test puede ser rechazar H en favor de H 1 o no rechazar H (también puede no hacerse nada y pedir más datos antes de decidir) A veces también se dice que hay evidencia estadística significativa en contra de H o que no la hay.

3 Rechazar una hipótesis es más fuerte que no hacerlo. Por ello, suele usarse como H a la hipótesis que uno desea rechazar. Hay también un compromiso respecto a la simplicidad (por ej. es más simple el cálculo asumiendo que dos cosas son iguales a que son distintas) El no rechazo de H no implica que sea cierta. Simplemente no se cuenta con evidencia suficiente para rechazarla a favor de H 1. EN UN TEST NO SE HACE UN JUICIO DE VALOR LOGICO (VERDADERO O FALSO) Para tomar la decisión, se utiliza la información de una muestra de la población. Debido a la naturaleza aleatoria de la muestra, es de esperarse que uno pueda cometer errores al tomar la decisión. El test permite cuantificar dichos errores. Si el test es sobre un parámetro de Error tipo I una VA. rechazar H P H es V Error tipo II no rechazar H P H es F rechazar H P H no rechazar H P H1 NO CONFUNDIRSE CON LA NOTACION ( no es VA)

4 Dado n, ambos errores tienen una relación inversa ( q ) La gravedad de cada error es relativa al problema. H : Cierto producto es bueno Si es bueno y no lo compro () quizás no es tan grave como comprarlo y que sea malo () H : Un misil viene hacia nosotros Si no disparo y el misil existía () es más grave que si disparo y no había nada (). Hay infinitos tests (reglas de decisión) que me dan nivel (distintos estadísticos, distintos intervalos para un mismo estadístico, etc), pero tendrán diferentes niveles. Para un fijo, quisiera el que me da el amás pequeño.

5 1) Se presume inocente hasta que se pruebe lo contrario ) Se presenta evidencia EJEMPLO: SISTEMA LEGAL 3) Las pruebas deben ser más allá de una duda razonable 4) El resultado es culpable o no culpable 5) Los errores que pueden cometerse son: - Declarar culpable a una persona que es inocente (tipo I) - Declarar no culpable a una persona que es culpable (tipo II) Una persona políticamente de derecha no tolera el error tipo II mientras que la de izquierda no tolera el tipo I. Si se analizan las políticas sociales, sucede lo contrario.

6 Para analizar la muestra y tomar una decisión se utiliza un estadístico. Su elección depende de la forma de H y de la información sobre la población que se está estudiando. Notar que los pivotes usados para construir intervalos de confianza pueden usarse aquí para testear hipótesis sobre los respectivos parámetros. En base al estadístico, se puede evaluar los errores cometidos al usar una regla arbitraria, o se construye la región crítica (o de rechazo) para satisfacer cierta condición sobre los errores. La región crítica es un conjunto de valores tales que si el valor del estimador para la muestra tomada pertenece a dicha región, se decide rechazar H. Dicha región está delimitada por el/los valor/es crítico/s. También puede obtenerse a partir de una optimización de una función que evalúe las consecuencias/costos asociados a la aparición de cada uno de los errores. La región crítica y la evaluación de los errores son independientes del resultado de una muestra (forman parte del diseño del test). En varios casos prácticos, si no se rechaza H se rehace el test con una nueva muestra (de ser posible). En general, el aumento del tamaño muestral tiende a mejorar ambos errores.

7 Las hipótesis a testear pueden ser simples o compuestas. En gral., la hipótesis H es que apertenece a A, que es un subconjunto cerrado (contiene a su frontera) de los reales. Si A tiene un sólo elemento, entonces la hipótesis es simple. Si no, es compuesta. En el caso de hipótesis simples, el error tipo I está definido según: rechazar H P Respecto al error, en este caso se obtiene una curva ya que hay una probabilidad de no rechazo para cada valor distinto de. Para calcular o se requiere que la distribución del estadístico esté totalmente especificada. Si la H es compuesta, se calculará un distinto para cada uno de los valores de que se incluyen en H y un para cada uno de los valores de que se incluyen en H 1 Al mayor de todos los se lo llama nivel de significancia (NS) del test y lo notaremos. OBSERVAR QUE EN LA BIBLIOGRAFIA TAMBIEN SE USA PARA REPORTAR ESTE VALOR (esto es estrictamente correcto sólo si H es una hipótesis simple)

8 A la hora de reportar los riesgos de un test se suele presentar la curva de potencia: pot( ) rechazar H P o la curva característica de operación (CCO): no rechazar H CCO( ) P CCO ( ) 1 pot ( ) Si pertenece a H, pot()=() Si pertenece a H 1, pot()=1-() Si pertenece a H, CCO()=1-() Si pertenece a H 1, CCO()=() Un ensayo de buena calidad es aquel cuya CCO toma valores altos si H (lo ideal sería 1) y bajos si H 1 (lo ideal sería ). Un ensayo de buena calidad es aquel cuya pot toma valores bajos si H (lo ideal sería ) y altos si H 1 (lo ideal sería 1). En la práctica, puede que me convenga usar una regla arbitraria (por ej. porque consigo gratis un equipo que la ejecuta) si es que los errores que ella provoca no son críticos para el problema a resolver.

9 Típicamente los ensayos son a dos colas (bilaterales). Se realiza a una cola (unilateral) sólo si hay evidencia clara de que los valores a testear aparecen en una semirecta incluida en el espacio paramétrico (por ej. se quiere que una tasa de defectuosos se encuentre por debajo de un cierto valor; allí puedo testear a una cola). H EJEMPLO (media con varianza conocida) : b 3 X 3 NS =.5 n = 1 X = 1 H 1 : b 3 MZ X / n X 3 zc rechazar H MZ z c b P 1/ 1 H es V P b H P b H.4 Si X raya es.35 aprox. normal X b 3b zc.3 b P1/ 1 1/ 1 b H.5. Z~N(,1) f Z (z).15 Decrece con b para b>3 q q z c z z

10 Otra opción MX X X b xc b Decrece con b para b>3 M x b P 1/ 1 1/ 1 q 3 x c X c P b H b H 3 Z~N(,1) z.5 q x c / / f X raya (x raya) (b b) b x raya Si el valor muestral de M Z es menor a -1.64, rechazo H con NS=.5 o Si el valor muestral de M X es menor a.48, rechazo H con NS=.5

11 X 3 no rechazar s zc b H M s Z z CCO P 1/ 1 b P c b P b X b 3b s zc 3 CCO P 1/ 1 1/ 1 b b 1 z b.5 1/ 1 De la otra forma, X b x b s c b M s X x 1/ 1 1/ 1 x c b b CCO b c 1/ Reemplazando x c raya se llega a la expresión en base a M Z CCO P P 1 CCO(b) b Vemos que en este caso, tanto la regla como la evaluación de los errores pueden hacerse en base a un estadístico que toma valores sobre la Z estándar o la variable X raya b

12 Diferentes posibilidades en el diseño de un test a) Definir una región crítica arbitraria, fijar un n y evaluar la pot o CCO. b) Fijar n y, hallar una región crítica que me garantice el nivel y evaluar la pot o CCO. c) Fijar y para determinado/s valores de y luego hallar una región crítica y un tamaño muestral n que satisfagan lo pedido y evaluar la pot o CCO. d) Fijar n y para determinado/s valores de y luego hallar una región crítica que satisfaga lo pedido y evaluar la pot o CCO. Luego de diseñado el test se toma una muestra y se evalúa el valor del estadístico en la regla de decisión. Si pertenece a la región de rechazo, se rechaza H con nivel. Si no se rechaza, se deben evaluar los errores para ver qué decisión conviene tomar (si los son muy altos quizás no me conviene aceptar la hipótesis) Cuando se tienen los valores muestrales, estos deben ser examinados en busca de posibles outliers (datos atípicos ), que pueden aparecer por diferentes procesos presentes durante el muestreo. La alternativa es el uso de estadísticos robustos frente a la presencia de outliers.

13 Si H no puede ser rechazada, tampoco puede concluirse que es cierta. Supongamos que la H es b=, y los datos muestrales son consistentes con la hipótesis. Entonces casi seguro también lo serán con la hipótesis b=.1 o b=-.1. Hay que ser cuidadosos en ensayos de igual contra distinto Si ensayamos b= contra b, cuanto más grande sea el tamaño muestral, si se usa un NS fijo, la región crítica es cada vez más angosta (y centrada respecto a ). Si bien el lugar común es que un ensayo mejora al aumentar n,, esto puede no ser cierto desde un punto de vista ingenieril (podría rechazar la hipótesis si se desvía sólo un 1% del valor real) RELACION ENTRE ENSAYO DE HIPOTESIS E IC Si el IC con 1- de confianza NO está incluido en la H 1, la hipótesis nula NO puede ser rechazada con NS =. Si el IC con 1- de confianza ESTA incluido en la H 1, la hipótesis nula PUEDE ser rechazada con NS =. El ensayo e IC deben hacerse de manera congruente (a 1 ó colas)

14 OTRA FORMA DE REPORTAR UN ENSAYO DE HIPOTESIS Una vez que se ha tomado la muestra y evaluado el estadístico (arrojando un valor pico muestral), calcular el valor p, que representa la probabilidad de que la VA pico tome un valor más alejado del valor pico muestral (en la dirección consistente con H 1 ). El p valor es entonces el menor para el que se hubiese rechazado H (en base a la muestra que se observó). Si el test es bilateral, el p valor surge de plantear que pico supere en módulo a pico muestral. Si p ans, se rechaza H y el resultado es estadísticamente significativo. Como p es tan chico, ocurrió un suceso muy improbable (con H verdadera) o H es falsa. Si p > NS, no se rechaza H y el resultado no es estadísticamente significativo. En estos casos puede buscarse nueva evidencia que permita rechazar H En general es mejor reportar el p obtenido y no sólo si fue mayor o menor a NS (si NS=.5, no es lo mismo p=.49 que p=.1; cuanto menor sea p es más difícil cometer un error tipo I)

15 EJEMPLO (media con varianza desconocida) H : b 3 X 3 H 1 : b 3 Mt S X / n NS =.5 n = 1 Se asume que la población es normal X 3 tc rechazar H Mt tc SX / 1 b P P P H es V b H b H Z~N(,1) n X b n b b n X b n X b n b b M t SX S n X b b n 1 SX 1 m n-1 n 1 N(m,1) t-student no central de parámetro m n X b t La acumulada hasta t n1, m decrece cuando crece maes SX decir, cuando crece b, Pero si m=, la t no central es igual a la t común.5 q tc tn m 1, 1.83 Regla: Si el valor muestral de M t es menor a -1.83, Si se usara como valor crítico a z =.5 = rechazo H con NS= , el NS sería de.67 (34% más)

16 Error tipo 1 ((m)) m (proporcional a b, con m= sii b=b ) CCO(m) m b H 1 b H X 3 M t st CCO m P c c m s t SX / 1 P m En este caso, tanto la regla como la evaluación de los errores DEBE hacerse sólo a partir del estadístico con distribución t-student. Esto pasa porque X raya no puede desacoplarse de la VA S X.

17 Cálculo de n para y dados H : b 3 NS =.5 X 4.8 H 1 : b s3 (31) =.5 X x P c NS b 3.5 x c 3 z / n X x c P 31.5 b 31 x c 31 z / n x 3.5 n q n 5 c q NS

18 EJEMPLO El tiempo (en hrs.) T de duración de un tubo de luz es exponencial de parámetro. Debido a la naturaleza destructiva del ensayo, se decide tomar un único valor muestral (n=1). Según las especificaciones, la producción es correcta si 1/4. Como tampoco se puede esperar demasiado tiempo para tomar una decisión, el jefe de planta dice: Se elige un tubo al azar, se lo enciende y si luego de 1 hora de funcionamiento aun no se rompe, entonces se continua la producción; si no, se para la producción para recalibrar las máquinas. Evaluar las consecuencias de usar esta regla. H H 1 : 1/ 4 : s 1/ 4 Mt T no rechazar s1 CCO P H P M t e M t Exp

19 1 1 CCO() CCO() H H 1 Vemos que con 1/4, la probabilidad de parar la producción cuando se hallaba dentro de las especificaciones es muy baja. Sin embargo, hay alta probabilidad de no detenerla cuando se halla fuera de norma (>1/4)

20 H : 5 M X H 1 : n 1 X EJEMPLO Se tiene una población U[a,a+1]. Se quiere testear si a5 contra su complemento. Se toman n muestras. Elija un estadístico, fije el NS y evalúe la CCO. q M X a U a, a 1 Q NS.5 x s a 1 c rechazar H M X s xc D a H ah c c D c 1 xc 5 xc x c q x c 5.95 a P P a 1x a x a 1 q :5 1.5 a Decrece con a para a<5 Si el valor muestral de M X es mayor a 5.95, rechazo H con NS=.5 no rechazar H M X 5.95 CCO a P P a a la a l4.95 a

21 Si aumento el n, con n>5 puedo aproximar X raya por una normal. q M X N a.5,1/ 1n q 5 x 5.5 Z~N(,1) c z.95 1/ 1n q x 1.64 / 1 n a X a xc a s M s x a P P 1/ 1n 1/ 1n X c a H a H c Crece cuando a disminuye desde 5 Si el valor muestral de M X es mayor a x c, rechazo H con NS= X a xc a no rechazar H CCO a P P 1/ 1n 1/ 1n a a xc a.5 q CCO a 1/ 1n

22 CCO(a) M X (n = 1) M X (n = 1) M X (n = 1) El incremento de n mejora los errores para un mismo NS n = 5 a = 4 a = 4.5 a = a Si ahora se propone como estadístico el mínimo de los n valores muestrales, M min X m a n M s m m P c a H n1 1l q fm ; 1 1 m a x n x a a x a 5 f Xm ;a (x) q x 6 f m M q c ; 5.5 m a x dx

23 q 6.5 m c n Si el valor muestral de M m es mayor a m c, rechazo H con NS=.5 CCO(a) no rechazar H Mm m CCO a P P c a a 1 q 6.5 n m c c l 11 a m c m n1 c 1 1 c 1 a c l 1 a m n x a dx 1 m a m M m (n = 1) M m (n = 1) M m (n = 1) M X (n = 1) M X (n = 1) El estadístico del mínimo es similar al de X raya con n moderado y mejora aun más los errores cuando n es grande n a

24 EJEMPLO H : p.5 M 1 n H 1 : p.5 p X i 1 X i n X i ~ Ber(p) NS =.5 n = 5 rechazar H ˆ M p pc p P P H es V ph M p p pˆ 5 c p p1 p / 5 p1p p P p H q.5 Si n es grande tal que Z~N(,1) min(np,n(1-p)) >5 1 1 q pˆ c z Teorema: 5 pˆ ˆ c p pc,1 Q, h( p) es una función decreciente de p,1 p 1p (derivar h(p) respecto de p y verificar que es negativa) Por otro lado, como M p converge a p: M p M p n p1 p, P 1 M p pˆ c M p pˆ c p1 p q P P p 1 p

25 M p p pˆ 5 c p s M p s pˆ c p1 p / 5 p1p pˆ 5 c p CCO p P P p p p1p H EJEMPLO : p 1/ 3 n H 1 : p 1/ 3 M R Xi X i ~ Ber(p) NS =.5 n = 1 i1 rechazar H m 1 1 MR m p P P H es V p 1/ 3 q 1/ 3 Si bien puede haber varios pares m 1,m, buscaremos m 1 como el mayor fractil que acumula a lo sumo.5 en una binomial(n,p=1/3) y m como el menor que acumula al menos 1-NS+F MR (m 1 ). FM ; p1/3.173 FM ; p1/ q m 1 R q 1NS FM.9673 R Si R ; p 1/3 FM ; p1/ Q M 7,1, rechazo H con NS.37 R R R FM ; p1/ m M m CCO p P F m F m p R R q m 6 1 R M ; p M ; p 1

26 CCO(p).5.5 1/6 1/3 p 1/ /3 5/6 1 Si bien no se nota bien en la figura, para p entre.314 y 1/3 hay (ligeramente) menos potencia que en 1/3. Para mejorar el test, se requiere mayor n o empeorar el

27 Test de diferencia de b s asumiendo s iguales desconocidos Asumiendo poblaciones normales, se puede usar el estadístico: Mt t M n 1 n t X 1 1 P X b b S 1 n 1 n 1 S P n S n S n n 1 Test de de una población normal con media desconocida Se puede plantear el estadístico S n 1 S q n 1 Test de cociente de de normales independientes Se puede plantear el estadístico S S 1 q S 1 S 1 F, 1 1 n 1 1 n 1

28 q Test de diferencia de p de poblaciones independientes H : p1 p H1 : p1 p min n1 p1; n1 1 p1 5 Pˆ p1 1p 1 1 N p1, p1 n1 min n p; n 1 p 5 Pˆ p 1p N p, p Pˆ ˆ n M 1 P p1 p N,1 p 1, p p1 1p 1 p 1p ˆ ˆ ˆ R R n P n P P n1 n p 1 =p n 1 n n 1 n Pˆ 1 P ˆ q M N,1 ˆ ˆ 1 1 P 1P n 1 n Con M~N(,1) puede definirse una regla que tenga el NS deseado Si quisiera testear p 1 -p =. hay muchos pares (p 1,p ) que lo cumplen y no puedo simplificar a M Tampoco puedo plantear una CCO para distintos valores de p 1 -p. Sin embargo, definida ya una regla, si podría calcular la probabilidad de aceptar la H para dos valores de p 1 y p particulares.

29 Cuando se comparan medias o proporciones y se obtiene un p valor muy pequeño esto indica fuerte evidencia de que los parámetros no son iguales, pero no indica qué tan diferentes son. Para ver qué tan diferentes son habría que mirar por ej., el IC. MUESTRAS APAREADAS En este caso se desea comparar la media de dos poblaciones DEPENDIENTES. En particular, se asume que los valores muestrales se obtienen de a pares y las diferencias entre pares siguen una distribución normal. Luego, puede usarse un estadístico t-student para testear si dichas diferencias son significativas (la idea principal es que si hay covarianza positiva entre los valores del par, la diferencia verá su varianza disminuida, mejorando la potencia del test) Los casos típicos involucran apareamientos temporales (antes vs. después), espaciales (lugar 1 vs. lugar ). En cada condición se toma un valor muestral apareado (si se tomaran más valores, se usa un enfoque del tipo ANOVA (analysis of variance)). Si las diferencias no fueran normales, puede usarse el Wilcoxon signed-rank test (test no paramétrico). Hablando de tests no paramétricos, el test de Kolmogorov-Smirnov puede usarse para evaluar si un conjunto de datos proviene de una distribución normal.

30 Paciente Horas adicionales de sueño Droga A (X) Droga B (Y) EJEMPLO Diferencia (W=X-Y) sx x.33. sy y w 1.58 s W 1.3 Se quiere testear ( =.1) si hay diferencia significativa entre los efectos de ambas drogas. a) Se asume que los datos de cada columna tienen distribución normal La ultima columna es entonces una muestra de 1 valores de una población normal. t H : b W w sw / 1 t 9,1 / P T 9 s 4.6 p.8

31 Se concluye que hay diferencias significativas entre ambas drogas ya que si fueran iguales, el evento observado es de muy baja probabilidad. Si se usara un estadístico Z en vez de t, el valor de p que se obtendría sería.5. Se ve que se exagera la significancia y la aproximación no es buena con n=1

32 Horas adicionales de sueño Paciente Droga A (X) Droga B (Y) EJEMPLO Diferencia (W=X-Y) sx x.33. sy y w 1.58 s W 1.3 b) Se toman las columnas X e Y como independientes y normales con igual. En este caso testeamos si hay diferencia entre b X y b Y. T H : bx b Y 18 X S Y X SY t t 18,1 / P T 18 s

33 En este caso, con nivel de significancia.1, se debe concluir que no hay diferencias significativas entre ambas drogas; al revés que en el caso a). EN REALIDAD EL ESQUEMA b) NO ESTA BIEN!! LOS DATOS DE X E Y SON DE LOS MISMOS 1 PACIENTES, VIOLANDO SEGURO LA HIPOTESIS DE INDEPENDENCIA. Se trata de un claro caso de muestras apareadas Si se cumplen las hipótesis de b), se cumplen las de a). Sin embargo, esto no implica que ambos tests arrojen siempre los mismos resultados. Si alguno de ellos da diferencias significativas, entonces se rechaza H.

34 H : 1 : n 1 S H M f M ( ) EJEMPLO Si la población NS =.5 n = 1 es normal n 1 S rechazar H M c c P P P H es V H H n 1 S c decrece para >, entonces se P calcula con = H q c n 1, Si el valor muestral de M es menor a 3.33, rechazo H con NS=

35 Opción Ms S n 1 S n 1 s c M s s P c P.74 H H n 1 decrece para >, entonces Si el valor muestral de M se calcula con S es menor = a.74, rechazo H con NS=.5 n 1 S n 1 s c s M s s s CCO P c P s c n 1,.5 q Error tipo 1 (( )) CCO( )

36 Teorema de SLUTSKY (caso particular) Si la VA W n converge a una VA W con distribución normal (por TCL), y la VA Y n converge en probabilidad a una constante c,, entonces W n Y n converge a cw y W n /Y n converge a W/c (esto último, con c ), ambas con distribución aproximadamente normal. Este teorema nos interesa porque permite mostrar que la mayoría de los estadísticos que hemos visto aquí tendrán asintóticamente una distribución normal aun cuando la población no sea normal. Ejemplo: X i es una VA con cierta distribución, con media b X y desvío estándar X 1 n converge en distribución X b M X q Wn Xi b D X X n n Wn W N, S X / n i1 n p X SX Yn c q Yn n n Wn D q Mn M N Y n converge en probabilidad,1

37 H : H : 1 1 Clasificación (evaluación de errores con regla fija) Se conoce la distribución paramétrica de la población X, dependiente del valor desconocido Si se conoce una regla de decisión, basada en un estadístico del cual se conoce (o deduce) su distribución paramétrica (dependiente del valor de ), pueden entonces evaluarse los errores. EJEMPLO Se cuenta con una moneda. A dice que es legal. B la sostiene y afirma que la probabilidad de cara debe ser.7. Si se decide tirar la moneda 1 veces y darle la razón a B si se observan más de 6 caras, evalúe los errores asociados a dicha regla. H H A B : p.5 : p.7 darle la razon a A R 6 ;.7 6 P P F B tiene razon p.7 R p darle la razon a B R s 6 1 ;.5 6 P P F A tiene razon p.5 R p