Figura 10. No se satisface el supuesto de linealidad.

Transcripción

1 Regresió Lieal Simple Dra. Diaa Kelmasky 04 Figura 8 Figura 9. No se satisface el supuesto de homoscedasticidad Si graficáramos los residuos cotra los valores de X los putos debería estar distribuidos e forma de ube alrededor del valor 0 del residuo, para todos los valores de X, como se muestra e la figura 8. E la figura 9 los datos o satisface el supuesto c, ya que los residuos tiee variabilidad creciete a medida que X crece. E la figura 10 se aprecia ua estructura curva e los residuos ivalidado la liealidad. Figura 10. No se satisface el supuesto de liealidad. Cuado los supuestos a, b, c y d se satisface, los errores o está correlacioados y tiee ua distribució Normal co media 0 y variaza costate. Residuos Estadarizados E el método de cuadrados míimos los valores de la variable explicativa alejados de su media tiede a acercar la recta hacia ellos, esto es llamado efecto palaca. Como cosecuecia, los residuos tiee ua tedecia a ser meores para valores de x extremos, es decir que si x i está lejos de su promedio, la variaza de los residuos será chica y el valor ajustado ( ŷ i ) estará cerca del valor observado por efecto palaca.

2 Regresió Lieal Simple Dra. Diaa Kelmasky 05 Var ( e ) =σ (1 h ) i ii Para elimiar la tedecia de los residuos a ser meores para valores de x alejados de su media, cosideramos el residuo estadarizado defiido por: yi yˆ i ei rsi = = (9) σˆ 1 - hii σˆ 1 - hii que es el residuo dividido por su error estádar, dode RSS ( yi yˆ) σ ˆ = = (10) es u estimador de σ, el desvío estádar de los errores, y la catidad aumeta a medida que x i se aleja del promedio x. 1 ( xi - x ) h ii = + ( x - x ) k=1 k Suma fija (11) es ua medida del alejamieto del valor x i respecto de su media llamada palaca, o leverage. Figura 11 La figura 11 muestra el diagrama de dispersió (scatter plot) de los residuos estadarizados correspodietes al ejemplo de la presió de trasició, graficados e fució de los valores ajustados. El gráfico tiee u aspecto satisfactorio. Recordemos: u gráfico de probabilidad Normal de u cojuto de datos idica que estos tiee ua distribució aproximadamete ormal cuado los putos cae aproximadamete sobre ua recta. La figura 1 muestra el gráfico de probabilidad Normal de los residuos correspodietes al mismo ejemplo. Vemos que es razoablemete lieal auque preseta colas u poco más liviaas que lo esperable bajo Normalidad. El valor del estadístico de Shapiro-Wilks es y su valor-p= 0.65 > 0.0 ( cuato más alto es el p-valor mayor es la evidecia a

3 Regresió Lieal Simple Dra. Diaa Kelmasky 06 favor de la hip. ula de Normalidad de los errores). No se rechaza el supuesto. Figura 1 Figura 13 Co respecto al supuesto d, es útil realizar u diagrama de dispersió de los residuos e fució del orde e que fuero realizadas las medicioes, figura 13. Los tests para estudiar la auto-correlació de los errores (ε) se basa e examiar los residuos (e). Usualmete esto es realizado mediate el test de Durbi-Watso: d = (ei- e i-1) i= (e i ) DURBIN-WATSON TEST FOR AUTOCORRELATION DURBIN-WATSON STATISTIC.3061 P-VALUES, USING DURBIN-WATSON'S BETA APPROXIMATION: P (POSITIVE CORR) = , P (NEGATIVE CORR) = EXPECTED VALUE OF DURBIN-WATSON STATISTIC.1065 EXACT VARIANCE OF DURBIN-WATSON STATISTIC (1)

4 Regresió Lieal Simple Dra. Diaa Kelmasky 07 Si los sucesivos residuos so o correlacioados etoces d. Valores de d alejados de idica la presecia de cierto tipo de auto-correlació, la deomiada auto-correlació a lag 1. U p-valor alto asociado a este estadístico, por ejemplo mayor que 0.10, idica que la diferecia de d co o es estadísticamete sigificativa, que puede atribuirse al azar, y por lo tato o se rechaza la hipótesis ula de residuos o correlacioados. La aplicació del test de Durbi-Watso sólo tiee setido cuado los datos está ordeados e el tiempo o e el espacio, o sea por ejemplo, cuado el ídice i represeta el tiempo. Por otra parte, y debido a que el test fue diseñado para detectar cierto tipo especial de auto-correlació, puede ocurrir que co este estadístico o se detecte auto-correlacioes cuado e realidad el supuesto o se satisface. Cocluimos que se satisface razoablemete los supuestos del Método de Cuadrados Míimos Evaluació de la asociació: Asociació positiva, asociació egativa Dos grupos de datos (que correspode a valores de dos variables) está asociados e forma positiva cuado los valores que está por ecima del promedio e uo de ellos tiede a ocurrir mayoritariamete co valores por ecima del promedio del otro. Dos variables está asociadas e forma egativa cuado valores por ecima del promedio de ua suele estar acompañados por valores por debajo del promedio de la otra y viceversa. El sigo de la pediete, b, de la recta ajustada os idica si la asociació es positiva o egativa. Si embargo, la pediete o mide directamete la fuerza (o grado) de la asociació. Esto se debe a que el valor absoluto de la pediete está itrísecamete viculado a las uidades e las que se ha expresado las medicioes. Podemos obteer valores ta grades o ta chicos como queramos co sólo elegir las uidades adecuadamete. Las medidas de asociació que cosideramos a cotiuació o varía co cambios e las uidades de medició Correlació de Pearso r = ( xi - x)( y - y) ( xi - x ) i ( y - y ) i. (13) El coeficiete de correlació de Pearso mide el grado de asociació lieal de u cojuto de datos (x 1, y 1 ),..., (x, y ), de tamaño, correspodiete a observacioes de dos variables cotiuas X e Y

5 Regresió Lieal Simple Dra. Diaa Kelmasky 08 Como la pediete de la recta ajustada por cuadrados míimos está dada por ( xi x)( yi y) i= 1 b = ( xi x) i= 1 resulta que el coeficiete de correlació se puede expresar de la siguiete maera s r = x b s y dode s x y s y so las dispersioes muestrales de X e Y respectivamete. Cuado las dispersioes muestrales so iguales (s x = s y ), la correlació es igual a la pediete. Esto ocurre cuado las variables se ha estadarizado, e cuyo caso ambas variables tiee desvío 1. Es por esta razó que el coeficiete de correlació de Pearso es tambié llamado coeficiete de regresió estadarizado Propiedades del Coeficiete de correlació La correlació, a diferecia de la pediete b, trata a los valores x s e y s e forma simétrica. El valor del coeficiete de correlació muestral r, o depede de las uidades e que se mide las variables y su valor está siempre etre -1 y 1. A mayor valor absoluto de r, mayor el grado de asociació lieal. r tiee el mismo sigo que b. Cuado r = 0 tambié b = 0, o hay ua tedecia lieal creciete o decreciete e la relació etre los valores x s e y s. Los valores extremos, r = 1 y r = -1, ocurre úicamete cuado los putos e u diagrama de dispersió cae exactamete sobre ua recta. Esto correspode a asociacioes positivas ó egativas perfectas. E este caso, el error de predicció es cero al utilizar la recta ajustada ŷ = a + b x, para predecir el valor de Y. Valores de r cercaos a 1 ó -1 idica que los putos yace cerca de ua recta. Valores de r positivos idica que la mayoría de los desvíos x x e y y i i tedrá el mismo sigo, es decir, hay ua asociació positiva etre las variables. Valores de r egativos idica que la mayoría de los desvíos x x e y y i i tedrá sigos opuestos, es decir, hay ua asociació egativa etre las variables. La figura 14 muestra cómo los valores de r se acerca a cero, i.e. se aleja del 1 ó -1, a medida que decrece el grado de asociació lieal etre las variables.

6 Regresió Lieal Simple Dra. Diaa Kelmasky 09 Figura 14. Comportamieto del coeficiete de correlació a medida que decrece el grado de asociació lieal. Figura 15. Comportamieto del coeficiete de correlació ate diferetes tipos de asociacioes o lieales. La figura 15. (a) muestra ua falta total de asociació etre las dos variables y u coeficiete de correlació cercao a cero, e cambio la (b), que tambié tiee u r cercao a cero, muestra ua clara relació fucioal etre las variables y la (c) muestra dos grupos uo co asociació positiva y otro co asociació ula, si

7 Regresió Lieal Simple Dra. Diaa Kelmasky 10 embargo el coeficiete de correlació, -0.75, idica ua asociació egativa. Podemos escribir a la pediete de la recta ajustada como: sy b= r. s X (14) Si ambas variables (X e Y) está estadarizadas, de maera que sus medias sea cero y su desvíos estádar 1, etoces la recta de regresió tiee pediete r y pasa por el orige Coeficiete de determiació El coeficiete de determiació es ua medida de la proporció e que se reduce el error de predicció de ua variable respuesta (Y) cuado se predice Y utilizado los valores de ua variable X e la ecuació de predicció, ŷ = a + b x, co respecto al error de predicció que se obtedría si usarla. El coeficiete de determiació R se defie como R = (TSS - RSS ) / TSS = 1- RSS / TSS (15) TSS, es la suma de cuadrados total. Es decir, la suma de los cuadrados de las desviacioes de cada respuesta observada a la media: TSS = ( yi - y ). (16) Mide el error de predicció si o se tiee e cueta la variable explicativa y se predice la respuesta por y, la media muestral de las respuestas observadas. RSS, es la suma de cuadrados de los residuos: RSS = (y - y $ ) i i. (17) Es ua medida del error de predicció que se comete cuado la variable respuesta se predice por ŷ = a + bx, la teiedo e cueta la variable explicativa. Cuado hay ua fuerte relació lieal etre X e Y, el modelo ajustado provee predictores ŷ mucho mejores que y, e el setido que la suma de cuadrados de los errores de predicció es mucho meor. Como el umerador de R, TSS - RSS es igual a Σ ( Y ˆi Y R ( Yˆ Y ) i ( Yi Y ) =. ), R puede expresarse como El umerador se deomia suma de cuadrados explicada por el modelo (REGRESSION

8 Regresió Lieal Simple Dra. Diaa Kelmasky 11 sum of squares e el STATISTIX, y ESS e otros programas). Por lo tato R mide la proporció de la variació total explicada por la regresió. La correlació al cuadrado coicide co el coeficiete de determiació úicamete e regresió lieal simple: r = R (18) Cosideremos el diagrama de dispersió del presió de trasició versus la temperatura que aparece e la figura 16. La líea horizotal represeta la media de los valores de PRESION, 487, de las 0 observacioes. Los valores observados de Y varía, como lo idica las desviacioes verticales de los putos a la líea horizotal. La otra recta es la de míimos cuadrados. Los desvíos verticales de los putos a esta recta so, e muchísimo meores. Sobre esta recta, cuado x cambia y cambia, de maera que esta relació lieal explica ua parte de la variació de Y. Como R = decimos que la recta de regresió explica el 99% de la variació total observada e la presió de trasició. Figura 16 El coeficiete de determiació o depede de las uidades e que se expresa los datos y toma valores etre cero y uo. Vale 0 cuado la regresió o explica ada; e ese caso, la suma de cuadrados total es igual a la suma de cuadrados de los residuos. Vale 1 cuado la variabilidad observada de la respuesta es explicada totalmete por la regresió; e ese caso, la suma de los cuadrados de los residuos es cero.