Modelo Lineal: Diagnóstico. Cómo verificamos todos los supuestos que hemos realizado?

Transcripción

1 Modelo Lineal: Diagnóstico Verificación de Supuestos y Diagnóstico Supongamos que tenemos una muestra(y i,x i ),,...,nquecumple: y i =x iβ+ɛ i dondeɛ i =N(0,σ 2 )sonindependientesyestimamosporelmétododemínimos cuadrados a β y realizamos todas las inferencias que necesitamos. Cómo verificamos todos los supuestos que hemos realizado? 1

2 Modelo Lineal A. M. Bianco FCEyN Los 4 supuestos que revisaremos son: 1.Linealidad:E(Y)=Xβ 2.Homoscedasticidad:Var(ɛ i )=σ 2 =cte. 3.Normalidad:ɛ i tienendistribuciónnormal 4.Independenciadeloserrores:ɛ i independientedeɛ j sii j. Comencemos por considerar los residuos: e i =y i ŷ i,...,n Como sabemos e=(i P)Y porlotanto E(e)=0 Σ e =σ 2 (I P) Porlotanto,V(e i )=σ 2 (1 p ii ),conlocuallosresiduossonheteroscedásticos.

3 Modelo Lineal A. M. Bianco FCEyN Si además, los errores son normales, como hemos supuesto antes e i N(0,σ 2 (1 p ii )) Observemos además, que los residuos no son independientes, en tanto: Definimos otros residuos relacionados: r i = y i ŷ i s (1 p ii ) ri y i ŷ i = s (i) (1 pii ) Cov(e i,e j )= σ 2 p ij residuo standarizado residuo studentizado dondes (i) eseldesvíostandardmuestralcomputadopartirdeunaregresión ajustada sin la observación i. SeaX (i) lamatrizxsinlai ésimafila:x i.probaránenlaprácticaqueson ciertas las siguientes igualdades:

4 Modelo Lineal A. M. Bianco FCEyN X (i)x (i) =X X x i x i ( X (i) X (i) ) 1 =(X X) 1 + (X X) 1 x i x i(x X) 1 conlocual ˆ β β ˆ (i) =(X X) 1 e i x i 1 p ii 1 p ii s 2 (i) = (n p)s2 e 2 i(1 p ii ) n p 1 Distribución de los Residuos A fin de estudiar la distribución de estos residuos podríamos graficar: EsquemasdeTalloyHoja Histogramas

5 Modelo Lineal A. M. Bianco FCEyN Boxplots De esta forma podríamos evaluar: simetría valores extremos valores centrales outliers posibles agrupamientos normalidad summary(salida) Call: lm(formula = BIO K + PH) Residuals: Min 1Q Median 3Q Max

6 Modelo Lineal A. M. Bianco FCEyN Coefficients: Estimate Std. Error t value Pr( t ) (Intercept) K * PH e-10 *** Residual standard error: on 42 degrees of freedom Multiple R-squared: , Adjusted R-squared: F-statistic: on 2 and 42 DF, p-value: 3.074e-10 names(salida) [1] coefficients residuals effects rank fitted.values assign [8] df.residual xlevels call terms model names(lm.influence(salida)) [1] hat coefficients sigma wt.res

7 Modelo Lineal A. M. Bianco FCEyN stem(salida$res/( 401.1*sqrt(1-lm.influence(salida)$hat))) The decimal point is at the boxplot(salida$res/( 401.1*sqrt(1-lm.influence(salida)$hat))) qqnorm(salida$res/( 401.1*sqrt(1-lm.influence(salida)$hat))) Chequeando la Normalidad El QQ plot es un gráfico de percentiles muestrales vs. percentiles teóricos(bajo una cierta distribución asumida F).

8 Modelo Lineal A. M. Bianco FCEyN Figura1:Boxplotder i :DatosdeBiomasa

9 Modelo Lineal A. M. Bianco FCEyN Si la muestra proviniese de una población con distribución F los percentiles muestrales vs. los teóricoscaeŕıanaproximadamentesobreunarectaa45. Para esto ordenamos los residuos standarizados r (1) r (2)... r (n) ygraficamoslospercentilesmuestrales{1/(n+1),2/(n+1),...,n/(n+1)}contralospercentilesteóricosdeunan(0,1) { φ 1 (1/(n+1)),φ 1 (2/(n+1)),...,φ 1 (n/(n+1)) }. Si el gráfico se desviase de la recta, estaŕıamos encontrando evidencia contra la normalidad.

10 Modelo Lineal A. M. Bianco FCEyN Normal Q Q Plot Sample Quantiles Theoretical Quantiles Figura2:QQ-plotder i :DatosdeBiomasa

11 Modelo Lineal A. M. Bianco FCEyN Linealidad ŷ i vs. e i Unodelosgráficosqueserealizadespuésderealizarelajusteeseldeŷ i vs. e i Quéesperamosobservar?Consideremoselmodeloy i =β 0 +β 1 x i β p 1 x i(p 1) Siquisiéramoshacerunaregresiónentree i vs.ŷ i elestimadordelapendientetendŕıacomo numerador: n (e i e)(ŷ i y)= n e i ŷ i =Y(I P)PY=0 Encambiosilaregresiónlahiciésemosentree i vs.y i elestimadordelapendientetendŕıacomo numerador: n (e i e)(y i y)= n esdecir,lasumadecuadradosdelosresiduos. e i y i =Y (I P)Y=Y (I P)(I P)Y=e e= e 2 Más aún, el estimador del coeficiente correspondiente a la pendiente en este caso seŕıa:

12 Modelo Lineal A. M. Bianco FCEyN std.res std.res yhat x1 std.res x2 Figura 3: Linealidad: OK!!

13 Modelo Lineal A. M. Bianco FCEyN std.res std.res x1 x3 Figura 4: Linealidad: MAL!!

14 Modelo Lineal A. M. Bianco FCEyN (a) Representa la situación esperable si el modelo se cumple: una nube de residuos alrededor del 0 sin estructura. (b) y (c) Muestran gráficos en los que el supuesto de igualad de varianzas no se cumple. (d) El supuesto de linealidad no se satisface.

15 Modelo Lineal A. M. Bianco FCEyN std.res yhat Figura6:Boxplotder i :Heteroscedaticidad

16 Modelo Lineal A. M. Bianco FCEyN n e e (y i y) 2= n n (y i ŷ i ) 2 (y i y) 2= n (y i y) 2 n (ŷ i y) 2 =1 R 2 n (y i y) 2 Esdecirqueestapendienteseŕıa0sóloenelcasodeajusteperfecto. El caso(d) correspondeŕıa a un modelo inadecuado. Por ejemplo, supongamos que ajustamos y i =β 0 +β 1 x i1 +ɛ i,peroenrealidades: Luego: oseatantoe i comoy i vaŕıanconx i1. e i vs.cadavariableregresora y i =β 0 +β 1 x i1 +β 2 x i2 +ɛ i E(e i ) = E(y i ŷ i ) = E(y i ˆβ 0 +ˆβ 1 x i1 ) = h+gx i1 +kx i2 Tengamos en cuenta que por las ecuaciones normales:

17 Modelo Lineal A. M. Bianco FCEyN n (e i e)(x ij x.j )= n e i (x ij x.j )= n e i x ij = n (y i ˆβ 0 ˆβ 1 x i ˆβ p 1 x i(p 1) )x ij =0 De manera que, si el modelo elegido fuera correcto no debeŕıa aparecer ninguna estructura en elgráficodee i vs.x ij.porlotanto,losgráficosanteriorestambiénnossirvendeguíaeneste caso. Porejemplo,sienelrazonamientoanteriorreemplazásemosx i2 porx 2 i1 tendŕıamos: el gráfico quedaŕıa cercano a una parábola. e i vs.tiempo E(e i )=h+gx i1 +kx 2 i1 En principio cualquier factor podŕıa influir en Y y debeŕıa incluirse en la regresión como variable explicativa.siunfactorhasidoomitido,podŕıagraficarsee i vs.factoryversihayalguna tendencia o patrón particular. Avecesconlosdatosseregistraeltiempooelordenenquehansidotomadaslasmediciones. Puede ser de interés estudiar si los residuos tienen alguna dependencia en el tiempo.

18 Modelo Lineal A. M. Bianco FCEyN