Tema 1. Modelo de diseño de experimentos (un factor)

Transcripción

1 Tema 1. Modelo de diseño de experimentos (un factor) Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 1

2 Introducción El objetivo del Análisis de la Varianza es estudiar si existe relación entre el valor medio de una variable respuesta o característica (por ej. el nivel de contaminación) y una variable cualitativa, atributo o factor (por ej. la localización del lugar de medida). Ejemplo 1.1: Se mide la contaminación de un río analizando la cantidad de oxígeno que contiene en disolución el agua. Se toman muestras en cuatro lugares diferentes del río (a 10, 25, 50 y 100 km. del nacimiento), obteniéndose: A 100 km. 4,8 5,2 5 4,7 5,1 A 50 km. 6 6,2 6,1 5,8 A 25 km. 5,9 6,1 6,3 6,1 6 A 10 km. 6,3 6,6 6,4 6,4 6,5 Queremos averiguar si existen diferencias significativas en el nivel medio de contaminación a distintas alturas del cauce. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 2

3 Tenemos una muestra de n = 19 elementos que se diferencian en un factor. En cada elemento de la muestra observamos una característica continua (Y ), que varía aleatoriamente de un elemento a otro. Otros posibles ejemplos: Existe diferencia entre el salario medio mensual entre hombre y mujer? Existen diferencias entre las calificaciones medias de estudiantes de la misma asignatura, pero de distintos grupos? Diferencias entre el consumo medio de carburante en coches de la misma categoría pero distintas marcas. Para determinar si hay diferencias significativas entre las respuestas medias a distintos niveles del factor, el Análisis de la Varianza descompone la variabilidad de un experimento en componentes independientes que se asignan a causas distintas. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 3

4 El modelo En el Ejemplo 1.1 el factor toma I = valores (los niveles, grupos o tratamientos del factor). Se mide la cantidad de oxígeno en disolución n 1 = veces a 100 km. del nacimiento del río, n 2 = veces a 50 km., n 3 = veces a 25 km. y n 4 = veces a 10 km. n i = n o de observaciones de la respuesta para el nivel i del factor Si n 1 = n 2 =... = n I se dice que el diseño es equilibrado. I n = n i = n o total de observaciones de Y i=1 y ij = j-ésimo valor observado de la respuesta en el nivel i, i = 1,..., I, j = 1,..., n i Ejemplo 1.1 (cont.): Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 4

5 Ejemplo 1.1 (cont.): y i Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 5

6 Suponemos que, en el nivel i del factor, la respuesta Y oscila aleatoriamente en torno a un nivel desconocido µ i, la media de la población i-ésima: E(Y ij ) = µ i. Cada observación y ij resulta de una perturbación aleatoria u ij en torno al valor medio µ i. El modelo de Analisis de la Varianza (ANOVA) unifactorial es el modelo lineal Y ij = µ i + U ij, para j = 1,..., n i, i = 1,..., I, con las siguientes hipótesis básicas del modelo: a) E(U ij ) = 0 para todo i, j (linealidad) b) Var(U ij ) = σ 2 para todo i, j (homocedasticidad) c) E(U ij U kl ) = 0 para todo i k, j l (independencia) d) U ij Normal para todo i, j (normalidad) A las U ij también se las llama error experimental. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 6

7 Las anteriores hipótesis equivalen a a) E(Y ij ) = µ i para todo i, j b) Var(Y ij ) = σ 2 para todo i, j c) E(Y ij Y kl ) = 0 para todo i k, j l d) Y ij Normal para todo i, j Según el modelo las n i observaciones y i1, y i2,..., y ini de la población i son una muestra aleatoria de una N(µ i, σ 2 ). Si estas hipótesis no se cumplen las conclusiones del Análisis de la Varianza pueden ser incorrectas. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 7

8 Estimación de los parámetros del modelo El modelo ANOVA con un factor depende de I + 1 parámetros desconocidos: las medias µ 1,...,µ I y la varianza común σ 2. Los estimamos mediante el método de máxima verosimilitud (MV): y ˆσ 2 = 1 n ˆµ i = 1 n i y ij = ȳ i n i j=1 I n i (y ij ȳ i ) 2 = i=1 j=1 I i=1 n i n s2 i, donde si 2 = n i j=1 (y ij ȳ i ) 2 /n i es la varianza muestral en la población i-ésima. Por tanto, ˆσ 2 es la media de las si 2 ponderada por la proporción de observaciones en cada nivel del factor. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 8

9 Ejemplo 1.1 (cont.): i y ij 1 4,8 5,2 5 4,7 5,1 n i ȳ i si ,2 6,1 5,8 3 5,9 6,1 6,3 6, ,3 6,6 6,4 6,4 6,5 n = ˆσ 2 = Los residuos del modelo son valores observados de las perturbaciones U ij : e ij = y ij ȳ i En general en todos los temas de esta asignatura se define Residuo (e ij ) = Valor observado (y ij ) - Valor previsto (ŷ ij ) Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 9

10 Ejemplo 1.1 (cont.): i e ij Los n residuos del modelo verifican las ecuaciones de restricción n i e ij = 0, i = 1,..., I. j=1 Es decir, de los n residuos sólo n I son linealmente independientes: los residuos tienen n I grados de libertad. Grados de libertad (g.l.) de los residuos = Número total de residuos Número de restricciones lineales entre ellos = n I Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 10

11 Propiedades de los estimadores de los parámetros Ȳ i = 1 n i n i ) Y ij N (µ i, σ2 j=1 n i nˆσ 2 σ 2 χ2 n I ˆσ2 no es centrado Un estimador insesgado de σ 2 es la varianza residual que verifica s 2 R = 1 n I I n i eij 2 = i=1 j=1 n n I ˆσ2, Ejemplo 1.1 (cont.): (n I )s 2 R σ 2 χ 2 n I. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 11

12 Usando estas propiedades obtenemos intervalos de confianza para los parámetros: IC 1 α (µ i ) = IC 1 α (σ 2 ) = Ejemplo 1.1 (cont.): (ȳ i ± t n I ;α/2 s R 1ni ) ( (n I ) sr 2 χ 2, (n I ) s2 R n I ;α/2 χ 2 n I ;1 α/2 ) Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 12

13 El contraste de igualdad de medias Bajo el modelo ANOVA unifactorial queremos contrastar H 0 : µ 1 = µ 2 =... = µ I = µ (todas las medias son iguales, el factor no influye) H 1 : µ i µ j para algún par i j. (las medias difieren en al menos dos de los niveles, el factor influye) El contraste compara las diferencias entre medias muestrales con la variabilidad experimental, medida por sr 2, para decidir si ésta ha podido generar esas diferencias o no. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 13

14 La descomposición de la variabilidad Cada dato y ij se puede expresar así donde y ij = ȳ + (ȳ i ȳ ) + e ij ȳ = 1 n I n i i=1 j=1 es la media global e ȳ i ȳ es la modificación debida al grupo. Esto permite descomponer la variabilidad entre los datos y la media global en dos términos: la variabilidad entre las medias por grupos y la media general, y la variabilidad residual, o variabilidad dentro del grupo. y ij Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 14

15 De hecho, se cumple que VT = VE + VNE, donde el término de la izquierda es la variabilidad total VT = I n i (y ij ȳ ) 2, i=1 j=1 VE = I n i (ȳ i ȳ ) 2 i=1 denota la variabilidad explicada por el modelo o por las diferencias entre niveles del factor y VNE = I n i eij 2 = (n I )sr 2 i=1 j=1 denota la variabilidad no explicada o residual. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 15

16 Las propiedades de los estimadores de los parámetros implican que VNE σ 2 χ 2 n I. Además, cuando la hipótesis nula H 0 de igualdad de medias es cierta, se verifica que VE σ 2 χ2 I 1 y los términos VNE σ 2 y VE σ 2 son independientes entre sí. Esto nos permite construir el siguiente contraste. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 16

17 La tabla ANOVA y el contraste Los términos de la descomposición de la variabilidad se disponen en la tabla ANOVA Fuentes de Suma de Grados de variación cuadrados libertad Varianzas Explicada I VE = n i (ȳ i ȳ ) 2 I 1 se 2 = VE I 1 i=1 Residual I n i VNE = eij 2 n I sr 2 Total I n i i=1 j=1 i=1 j=1 (y ij ȳ ) 2 n 1 s 2 y = VT n 1 Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 17

18 Si la hipótesis nula de igualdad de medias H 0 : µ 1 = µ 2 =... = µ I es cierta entonces F = s2 e sr 2 F I 1,n I. Una región de rechazo para el contraste al nivel de significación α es H 0 : µ 1 = µ 2 =... = µ I = µ H 1 : µ i µ j para algún par i j. R = {F > F I 1,n I,α }. Observemos que, para I = 2 poblaciones, este contraste es matemáticamente equivalente al contraste t de Student que compara dos medias de distribuciones normales homocedásticas. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 18

19 Ejemplo 1.1 (cont.): Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 19

20 Ejemplo 1.2: Se examina el contenido de azufre en cinco yacimientos de carbón en Texas. Se toman muestras aleatorias de cada uno de los yacimientos y se analizan, obteniéndose los siguientes datos del porcentaje de azufre por muestra. Yacimientos Contenido de azufre Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 20

21 Ejemplo 1.2 (cont.): Contrastar la igualdad de niveles medios de azufre en los cinco yacimientos y i Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 21

22 El coeficiente de determinación Una medida relativa de la variabilidad explicada por los grupos o niveles del factor es el coeficiente de determinación R 2 = VE VT. Es la proporción de variabilidad total de las observaciones y explicada por el modelo lineal establecido. Observación: 0 R 2 1 Ejemplo 1.1 (cont.): Ejemplo 1.2 (cont.): Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 22

23 Análisis de las diferencias entre medias Si aceptamos H 0 en el contraste H 0 : µ 1 = µ 2 =... = µ I = µ H 1 : µ i µ j para algún par i j. entonces estimamos la media global µ mediante ȳ. Bajo las hipótesis básicas del modelo ANOVA unifactorial, un intervalo de confianza para µ al nivel de confianza 1 α es [ ] s y IC(µ) = ȳ t n 1,α/2, n Observación: Bajo H 0 un estimador insesgado de σ 2 = Var(Y ) es s 2 y. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 23

24 Si se rechaza H 0 queremos determinar qué parejas de medias son distintas entre sí y estimar las diferencias µ i µ j. Utilizando que ȳ i ȳ j (µ i µ j ) s R 1 n i + 1 n j t n I, construimos un intervalo de confianza para µ i µ j ] 1 IC 1 α (µ i µ j ) = [ȳ i ȳ j t n I ;α/2 s R + 1. n i n j También podemos contrastar H 0 : µ i = µ j frente a H 1 : µ i µ j a nivel de significación α. La región de rechazo es R = ȳ i ȳ j (µ i µ j ) s 1 R n i + 1 > t n I ;α/2. n j Esto equivale a rechazar H 0 : µ i = µ j si 0 / IC 1 α (µ i µ j ). Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 24

25 Ejemplo 1.1 (cont.): Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 25

26 Contrastes múltiples ( ) I I! Es posible formar c = = parejas de medias 2 2!(I 2)! distintas µ i, µ j. Luego podemos realizar c contrastes H 0 : µ i = µ j. Ejemplo 1.1 (cont.): Supongamos que tenemos I = 3 poblaciones y hemos rechazado H 0 : µ 1 = µ 2 = µ 3 = µ en el modelo Y ij = µ i + U ij, para i = 1, 2, 3, j = 1,..., n i. Entonces tenemos que decidir si µ 1 µ 2, o si µ 2 µ 3, o si µ 1 µ 3. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 26

27 Cuando tomo 100 muestras de Y puedo construir 100 intervalos de confianza para µ 1 µ 2, para µ 3 µ 2 y para µ 1 µ 3 : y (1) 1,..., y (1) n IC (1) y (2) 1,..., y (2) n IC (2) y (3) 1,..., y (3) n IC (3) 0.95(µ 1 µ 2 ) IC (1) 0.95(µ 3 µ 2 ) IC (1) 0.95(µ 1 µ 3 ) 0.95(µ 1 µ 2 ) IC (2) 0.95(µ 3 µ 2 ) IC (2) 0.95(µ 1 µ 3 ) 0.95(µ 1 µ 2 ) IC (3) 0.95(µ 3 µ 2 ) IC (3) 0.95(µ 1 µ 3 ).... y (100) 1,..., y n (100) IC (100) 0.95 (µ 1 µ 2 ) IC (100) 0.95 (µ 3 µ 2 ) IC (100) 0.95 (µ 1 µ 3 ) Aprox. 95 de los 100 intervalos contienen a µ 1 µ 2. Aprox. 95 de los 100 intervalos contienen a µ 3 µ 2. Aprox. 95 de los 100 intervalos contienen a µ 1 µ 3. Puede que sólo para 90 de las 100 muestras se verifique simultáneamente que µ 1 µ 2 IC 0.95 (µ 1 µ 2 ), µ 3 µ 2 IC 0.95 (µ 3 µ 2 ) y µ 1 µ 3 IC 0.95 (µ 1 µ 3 ). Se puede razonar igual con los contrastes H 0 : µ i µ j al nivel α. Utilizamos el método de Bonferroni para calcular intervalos de confianza o contrastes múltiples. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 27

28 Buscamos el nivel individual α tal que para el 95%(=1 α T =nivel global) de las muestras se verifique simultáneamente que µ 1 µ 2 IC 1 α (µ 1 µ 2 ), µ 3 µ 2 IC 1 α (µ 3 µ 2 ) y µ 1 µ 3 IC 1 α (µ 1 µ 3 ). En el método de Bonferroni se toma α = α T /c = 0.05/3, pues 1 α T = P {µ 1 µ 2 IC 1 α (µ 1 µ 2 ), µ 3 µ 2 IC 1 α (µ 3 µ 2 ), µ 1 µ 3 IC 1 α (µ 1 µ 3 )} α T = P {µ 1 µ 2 / IC 1 α (µ 1 µ 2 ) ó µ 3 µ 2 / IC 1 α (µ 3 µ 2 ) ó µ 1 µ 3 / IC 1 α (µ 1 µ 3 )} P{µ 1 µ 2 / IC 1 α (µ 1 µ 2 )} +P{µ 3 µ 2 / IC 1 α (µ 3 µ 2 )} +P{µ 1 µ 3 / IC 1 α (µ 1 µ 3 )} = cα Observación: Quizá rechacemos H 0 : µ 1 = µ 2 =... = µ I en ANOVA y no encontremos diferencias entre ningún µ i, µ j con Bonferroni, pues es un método conservador si c es grande. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 28

29 Ejemplo 1.1 (cont.): Tomo α T = Como c = ( I 2) = 6, tenemos que α = = α 2 = IC (µ 1 µ 2 ) = [ȳ 1 ȳ 2 t 15, ] = [ , ] Rechazo H 0 : µ 1 = µ 2 IC (µ 1 µ 3 ) = [ 1.42, 0.82] Rechazo H 0 : µ 1 = µ 3 IC (µ 1 µ 4 ) = [ 1.78, 1.18] Rechazo H 0 : µ 1 = µ 4 IC (µ 2 µ 3 ) = [ 0.38, 0.27] No rechazo H 0 : µ 2 = µ 3 IC (µ 2 µ 4 ) = [ 0.74, 0.09] Rechazo H 0 : µ 2 = µ 4 IC (µ 3 µ 4 ) = [ 0.66, 0.06] Rechazo H 0 : µ 3 = µ 4 Con un nivel global de confianza del 95% podemos afirmar que µ 1 < µ 2, µ 3 < µ 4, pero no rechazamos que µ 2 = µ 3. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 29

30 Diagnosis del modelo Consiste en estudiar si los datos de nuestro problema son coherentes con las hipótesis básicas del modelo y qué problemas se derivan si no se verifica alguna. La diagnosis se realiza a través del análisis de los residuos e ij. Podemos obviar que los residuos no son independientes si el tamaño total muestral n es grande comparado con el número de poblaciones, I. Un primer paso en el análisis de los residuos consiste en la representación gráfica de los mismos, por ejemplo, mediante diagramas de puntos si el tamaño muestral n es pequeño (n < 20) o, en caso contrario, mediante histogramas o diagramas de cajas. Esto permite verificar si los residuos incumplen la hipótesis de normalidad y si existen datos atípicos. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 30

31 Ejemplo 1.1 (cont.): Histograma de los residuos Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 31

32 Ejemplo 1.2 (cont.): Histograma de los residuos Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 32

33 Ejemplo 1.2 (cont.): Si retiramos el dato atípico 2.25 de la población 3, Fuentes de Suma de variación cuadrados g.l. Varianzas F Explicada VE = se 2 = F = Residual VNE = Total VT = sr 2 = F 4,36,0.05 = 2.63 Seguimos rechazando la igualdad del contenido medio de azufre en las cinco minas de carbón. Cuando existen datos atípicos (outliers, valores anormalmente grandes o pequeños comparados con el resto de observaciones), se debe buscar la causa de esta discrepancia. Si es debido a un error en la observación de la muestra o por cambios inesperados en las condiciones experimentales, quizá debamos eliminar el dato. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 33

34 Ejemplo 1.2 (cont.): Histograma de los residuos tras retirar el dato atípico Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 34

35 Un gráfico que permite evaluar la normalidad de los residuos es el diagrama probabiĺıstico normal, en el que se representan los residuos ordenados de menor a mayor frente a los correspondientes estadísticos de orden normales. Bajo la hipótesis de normalidad los puntos dibujados se ajustan aproximadamente a una ĺınea recta. Ejemplo 1.1 (cont.): Gráfico probabiĺıstico normal de los residuos Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 35

36 Ejemplo 1.2 (cont.): Gráfico probabiĺıstico normal de los residuos (sin retirar atípico) Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 36

37 Para comprobar la hipótesis de normalidad de manera más rigurosa también podemos hacer algún contraste de bondad de ajuste. El fallo de la hipótesis de normalidad afecta al cálculo de intervalos de confianza para σ 2, aunque no al contraste de igualdad de medias ni al análisis de las diferencias entre medias. El análisis de la varianza es robusto frente a desviaciones de la normalidad. Para comprobar la hipótesis de homocedasticidad representamos los residuos e ij frente a los valores previstos ŷ ij = ȳ i. Así comprobamos que la variabilidad no depende del nivel medio de la respuesta. La heterocedasticidad también influye en la estimación de σ 2. Respecto a los contrastes de igualdad de medias, se consideran válidos si el diseño es bastante equilibrado. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 37

38 Ejemplo 1.1 (cont.): Residuos Valores previstos Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 38

39 Ejemplo 1.2 (cont.): Residuos Valores previstos Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 39

40 Si las varianzas de los residuos varían marcadamente como función del nivel medio de la respuesta, o se detectan desviaciones importantes respecto a la normalidad, se puede probar a transformar la variable respuesta. Algunas transformaciones frecuentes son log(y) o y k. Entonces se contrastaría que el nivel medio de la respuesta transformada no depende del nivel del factor, pero ya no H 0 : µ 1 =... = µ I. Ver Ejemplo 5 de ANOVA con Excel. Estadística (CC. Ambientales). Profesora: Amparo Baíllo Tema 1: Diseño de experimentos (un factor) 40