Figura 1

Transcripción

1 Regresó Leal Smple 7 Regresó Leal Smple 7. Itroduccó Dra. Daa Kelmasky 0 E muchos problemas cetífcos teresa hallar la relacó etre ua varable (Y), llamada varable de respuesta, ó varable de salda, ó varable depedete y u cojuto de varables (X, X,...) llamadas varables explcatvas, ó varables depedetes ó varables de etrada. Cosderaremos el caso más smple que cosste e descrbr la relacó etre dos varables cotuas medate ua recta. Aú cuado el aálss cluya evetualmete más de ua varable explcatva, es habtual mrar calmete ua varable explcatva por vez. Ejemplo. Iteresa estudar la relacó etre la presó (bar) de trascó de Bsmuto I-II co la temperatura ( o C) TEMP PRESION TEMP PRESION TEMP PRESION TEMP PRESION Fgura Vemos que la presó de trascó de Bsmuto I-II, decrece a medda que aumeta la temperatura, observamos ua tedeca leal decrecete auque los putos del dagrama de dspersó o está perfectamete aleados. 7. Putos sobre ua recta Dremos que la relacó etre dos varables X e Y es perfectamete leal, s todos los pares de valores observados (x,y ) de dchas varables satsface la ecuacó de ua recta: y = α β x () E esta expresó α y β so costates: α es la ordeada al orge y β la pedete. Decmos que X es ua varable predctora de Y, ecuacó (). El valor del subídce dexa las observacoes: =,,3,...,. Para el ejemplo y represeta el valor de la presó obtedo para la temperatura x.

2 Regresó Leal Smple Dra. Daa Kelmasky 0 Fgura Gráfcamete, () defe ua líea recta, dode: α (la ordeada al orge) es el puto dode la recta corta al eje vertcal y β (la pedete), dca cuatas udades camba y cuado x aumeta udad. S β postvo la recta sube β udades por cada aumeto de x e udad. S β es egatvo la recta cae cuado x aumeta. S β = 0 la recta es horzotal. Fgura 3 a Fgura 3 b La fgura 3 muestra dos ejemplos hpotétcos. S la relacó etre X e Y es perfectamete leal y coocemos los valores α y β, la ecuacó () permte predecr qué valor de Y correspode a cualquer valor de X. Más aú, dos pares de datos so sufcetes para determar los parámetros α y β, de la msma maera que dos putos y ua regla alcaza para dbujar ua líea recta. La relacó etre datos reales es rara vez ta smple. 7.3 Modelo de Regresó Leal Smple E forma más realsta podríamos platear que el valor esperado (la meda poblacoal) de Y, más que los valores dvduales, camba lealmete co X: E [ / ] = β, Y X = x α x ()

3 Regresó Leal Smple Dra. Daa Kelmasky 03 dode α es gual a la meda poblacoal de Y cuado X = 0. Co u aumeto de ua udad e X se obtee u aumeto de la meda poblacoal de Y e β udades. Este tpo de modelos tee muchas aplcacoes práctcas. E el caso de la presó y la temperatura el modelo dce que la meda poblacoal de las medcoes de la presó para ua temperatura fja está dada por α β TEMP Otras cosas, además de X, causa que los valores observados de Y varíe alrededor de la meda de todos los valores de Y cuado X toma el valor x, E[Y/X=x]. Esas otras cosas so lo que determa el error (de medcó e uestro ejemplo) ε. El valor de Y es gual a la meda más u error: ( α β ) - E [ / ]. ε = Y - x = Y Y X = x (3) Y =EY [ / X = x ] ε = α β x ε. Por lo tato, otra forma de expresar el modelo leal dado e () es: los valores de la varable respuesta se ecuetra relacoados lealmete co la varable explcatva más u error. Teemos así el sguete Modelo de regresó leal smple Y = α β x ε. (4) S os teresa predecr PRESION a partr de TEMP (tabla), llamaremos a la prmera varable respuesta y a la seguda varable explcatva o predctora. La varable respuesta sempre se grafca e el eje vertcal, o eje Y, y la varable predctora e el eje horzotal, o eje X, como muestra el dagrama de dspersó de la fgura. El problema cosste e ajustar ua recta que represete al cojuto de datos de la mejor maera, para obteer la predccó de Y para cualquer valor de X. Hay muchas maeras de evaluar s ua recta represeta be al cojuto de datos. El efoque tradcoal cosste e hallar la recta que e promedo tega la meor dstaca vertcal, resduo, al cuadrado a cada uo de los putos. Este procedmeto se llama método de Cuadrados Mímos (CM) y lo descrbremos e la Seccó 4.5. UNWEIGHTED LEAST SQUARES LINEAR REGRESSION OF PRESION PREDICTOR VARIABLES COEFFICIENT STD ERROR STUDENT'S T P CONSTANT TEMP La recta de regresó ( y ˆ = ab x ) obteda por el método de cuadrados mímos para los datos de la tabla es:

4 Regresó Leal Smple Dra. Daa Kelmasky 04 PRESION ajustada ( ŷ ) = TEMP (5) El valor ajustado ( ŷ ) puede utlzarse de dos maeras dsttas: a) como estmador de la meda poblacoal de Y para cada x fjo, e este caso como estmador de la meda de la presó de trascó para ua temperatura fja. b) como predctor de u valor futuro de Y para u valor fjo de x. La dfereca etre a) y b) se ecuetra úcamete e la varaza de ŷ. Fgura 4. Dagrama de dspersó juto co la recta ajustada Resduos El resduo de u puto a ua recta e u dagrama de dspersó es la dstaca vertcal del puto a dcha recta. La fgura 5 muestra el dagrama de dspersó de los datos juto co la recta ajustada y el dagrama de dspersó de los resduos vs. la temperatura para los prmeros 8 datos. Fgura 5. Prmeros 8 datos Alguos resduos so postvos, la presó observada está por ecma de la recta, y otros so egatvos, la presó observada está por debajo de la recta. La suma de todos los resduos es cero. La fgura 6 muestra el dagrama de dspersó de los resduos vs. la temperatura del cojuto de datos completo.

5 Regresó Leal Smple Dra. Daa Kelmasky 05 Fgura 6 Para la prmera medcó TEMP = 0.8, PRESION = 576. El resduo = es postvo y se obtee como resduo = valor de Y observado - valor de Y estmado por la recta = y - ŷ = PRESION - { TEMP } = { * 0.8 } = Para la tercera medcó TEMP=, PRESION = 56. El resduo= es egatvo. 7.5 El Método de Cuadrados Mímos La suma de los cuadrados de los resduos (RSS) da ua medda de la "bodad de ajuste" de la recta. Cuato más pequeño es ese úmero tato mejor es el ajuste. Hemos observado valores de dos varables, X (TEMP) e Y (PRESION), y hemos realzado ua "regresó de Y sobre X", obteedo ua recta que da u valor "ajustado" estmado de Y ( ŷ, y "sombrero") para cada valor de la varable X. U estudo comeza por u modelo leal (4) porque exste ua teoría que lo sugere o porque se desea comezar de maera smple. E cualquera de los dos casos, os teresa obteer los mejores estmadores de los parámetros α y β. S llamamos a y b a uestros estmadores, la ecuacó de la recta estmada es: yˆ = ab x, dode ŷ (y "sombrero") dca el valor ajustado (o predcho) de la varable Y para el caso (es el valor de la ordeada para x sobre la recta ajustada) (ver fgura 5). Los resduos e, la cotraparte muestral de los errores (ε ), so las dferecas etre el valor observado y el valor predcho: e = y - yˆ = y -(ab x ).

6 Regresó Leal Smple Dra. Daa Kelmasky 06 Los resduos mde el error de predccó. Como hemos vsto, s el valor observado es mayor que el valor predcho (y > ŷ ) el resduo es postvo; e caso cotraro es egatvo. Co ua predccó perfecta (y = ŷ ) resulta u resduo ulo. La suma de los cuadrados de los resduos (RSS) refleja la precsó y exacttud global de uestras predccoes: RSS = e = ( y yˆ ). = ( y a bx ) (6) Cuato más cerca esté los valores observados de los predchos tato meor será RSS. El método de Cuadrados Mímos (CM) cosste e elegr a y b de maera que la suma de cuadrados de los resduos (RSS) sea lo más pequeña posble. Cómo hallamos a y b? ( y ( y a bx ) = ( y a bx ) = 0 a a bx ) = x ( y a bx ) = 0 b (7) Las ecuacoes aterores defe los estmadores de los parámetros α y β resulta de dervar (6) co respecto a a y a b. Se trata de dos ecuacoes leales co dos cógtas cuyas solucoes so b = ( x x)( y y) ( x x) a = y bx Observacoes De la prmera ecuacó de (7) teemos que la suma de los resduos es 0. La seguda ecuacó de (8), os dce que la recta de cuadrados mímos pasa por ( x, y), ya que y = a bx. Podemos pesar al método de cuadrados mímos como fjado u puto, dado por el promedo de los valores de la varable explcatva (x s) y el promedo de los valores de la varable respuesta (y s) y luego grado la recta que pasa por ese puto elegmos la que deja e promedo, e forma pareja, tatos valores observados por arrba como por abajo. Ngua otra recta tedrá, para el msmo cojuto de datos, ua RSS ta baja como la obteda por CM. E este setdo, el método de mímos cuadrados brda la solucó que mejor ajusta a ese cojuto de datos. Adverteca: e geeral o puede realzarse predccoes fuera del rago de valores observados de la varable depedete. Qué sgfca la ecuacó de la recta ( PRESION estmada ( ŷ ) = TEMP) ajustada?: (8)

7 Regresó Leal Smple Dra. Daa Kelmasky 07 La estmacó de la varable PRESION, obteda a partr de la ecuacó de regresó ajustada, es el valor predcho de PRESION. Para cualquer valor de la varable TEMP u aumeto e u grado de la temperatura produce ua reduccó de (bar) e la presó meda ( verdadera ) de trascó de Bsmuto I-II. El método de CM permte estmar ua recta a partr de u cojuto de datos. S estos datos so ua muestra adecuada de ua poblacó, la recta os permte exteder resultados a dcha poblacó. Certas característcas de los datos podría valdar los resultados del método. 7.6 Supuestos Ates de utlzar el aálss de regresó y cosderar meddas de certeza o dspersó, es ecesaro coocer los supuestos e los que se basa el método. Veremos prmero cuáles so esos supuestos y luego qué procedmetos puede utlzarse para valdarlos Descrpcó de los supuestos USupuesto a:u Normaldad de los errores. Para cada valor x, de la varable predctora X, la varable respuesta Y debe teer dstrbucó Normal Por ejemplo, s se cumple este supuesto, la presó de trascó (Y) es ua varable aleatora Normal co meda μ x que depede de x (temperatura). USupuesto bu: Lealdad La meda de la varable Y varía lealmete co X. 0 0 S pasar de a U UC o fuera lo msmo que pasar 4 a 4 U UC respecto del cambo de la presó de trascó, este supuesto o se cumplría. USupuesto cu: Homoscedastcdad La varabldad de Y, que es medda por su varaza (σ ), o por su desvío estádar (σ ), debe ser la msma para cada valor x de la varable X. Este supuesto o se cumplría por ejemplo s a medda que aumeta (o dsmuye) la temperatura los valores de la presó de trascó de Bsmuto l-ii estuvera compreddos e u rago más amplo. No sabemos s los supuestos se satsface, coocemos los verdaderos valores de los parámetros α y β.

8 Regresó Leal Smple Dra. Daa Kelmasky 08 Fgura 7. Supuestos de Normaldad, lealdad y homoscedastcdad La fgura 7 represeta dos varables para las cuales se satsface los supuestos de lealdad ( μ(x) = α β x, la meda de la varable Y crece lealmete co x ), ormaldad y homoscedastcdad de los errores. USupuesto du: Idepedeca de los errores Hemos vsto que cuado dos varables so depedetes su correlacó es cero, e geeral la recíproca o es certa pero bajo el supuesto de ormaldad el supuesto de depedeca de los errores se reduce a que o esté correlacoados (corr ( ε, ) = 0 j ). ε j Por ejemplo, s las presoes de trascó fuero obtedas e u orde secuecal co la temperatura, podría ocurrr que los errores fuera mayores e temperaturas más bajas que e temperaturas más altas valdado el supuesto de depedeca de los errores Valdacó de los Supuestos La valdacó de los supuestos se realza e base a los datos y a los resduos de los msmos respecto de la recta ajustada. El dagrama de dspersó de los datos permte obteer ua mpresó sobre el supuesto de lealdad y homoscedastcdad. El aálss posteror de resduos permtrá cofrmar la mpresó cal y valdar los supuestos de Normaldad e depedeca. Veamos alguas estructuras que suele verse e los dagramas de dspersó de los resduos.

9 Regresó Leal Smple Fgura 8 Dra. Daa Kelmasky Fgura 9. No se satsface el supuesto de homoscedastcdad 09 S grafcáramos los resduos cotra los valores de X los putos debería estar dstrbudos e forma de ube alrededor del valor 0 del resduo, para todos los valores de X, como se muestra e la fgura 8. E la fgura 9 los datos o satsface el supuesto c, ya que los resduos tee varabldad crecete a medda que X crece. E la fgura 0 se apreca ua estructura curva e los resduos valdado la lealdad. Fgura 0. No se satsface el supuesto de lealdad. Cuado los supuestos a, b, c y d se satsface, los errores o está correlacoados y tee ua dstrbucó Normal co meda 0 y varaza costate. Ejemplo. Retomemos el ajuste leal de la presó (bar) de trascó de Bsmuto I-II co la temperatura ( o C). El Statstx muestra u dagrama de dspersó smlar, los resduos estadarzados e fucó de los valores ajustados. Como los valores ajustados so de la forma a b x, el eje horzotal es smplemete u cambo de udades respecto de los de las fguras 8, 9 y 0. Pero, qué so los resduos estadarzados del eje vertcal?

10 Regresó Leal Smple Dra. Daa Kelmasky 0 Fgura La fgura muestra el dagrama de dspersó (scatter plot) de los resduos estadarzados correspodetes al ejemplo de la presó de trascó, grafcados e fucó de los valores ajustados. El gráfco tee u aspecto satsfactoro. Qué so los Resduos Estadarzados? E el método de cuadrados mímos los valores de la varable explcatva alejados de su meda tede a acercar la recta haca ellos, esto es llamado efecto palaca. Como cosecueca, los resduos tee ua tedeca a ser meores para valores de x extremos. La varaza de los resduos será más chca s x está lejos de su promedo Var( e ) = σ ( h ) y el valor ajustado ( ŷ ) estará cerca del valor observado por efecto palaca. El resduo estadarzado defdo por: y yˆ rs = ˆ σ - h = ˆ σ e - h (9) o sea, el resduo dvddo por su error estádar, dode RSS ( y yˆ) ˆ σ = = (0) es u estmador de σ, el desvío estádar de los errores, y h es ua medda, de la dstaca de cada valor de la varable explcatva (x ) a la meda muestral x, llamada palaca, o leverage :

11 Regresó Leal Smple Dra. Daa Kelmasky aumeta a medda que x se aleja del promedo x. ( x - x ) h = ( x - x ) k= k Suma fja () Recordemos: u gráfco de probabldad Normal de u cojuto de datos dca que estos tee ua dstrbucó aproxmadamete ormal cuado los putos cae aproxmadamete sobre ua recta. Ejemplo. Retomemos mete el ajuste leal de la presó (bar) de trascó de Bsmuto I-II co la temperatura ( o C). La fgura muestra el gráfco de probabldad Normal de los resduos correspodetes al msmo ejemplo. Vemos que es razoablemete leal auque preseta colas u poco más lvaas que lo esperable bajo Normaldad. El valor del estadístco de Shapro-Wlk es y su valor-p= 0.65 > 0.0 ( cuato más alto es el p-valor mayor es la evdeca a favor de la hp. ula de Normaldad de los errores). No se rechaza el supuesto. Fgura Fgura 3

12 Regresó Leal Smple Dra. Daa Kelmasky Co respecto al supuesto d, es útl realzar u dagrama de dspersó de los resduos e fucó del orde e que fuero realzadas las medcoes, fgura 3. Los tests para estudar la auto-correlacó de los errores (ε) se basa e examar los resduos (e). Usualmete esto es realzado medate el test de Durb-Watso: d = (e- e -) (e ) DURBIN-WATSON TEST FOR AUTOCORRELATION DURBIN-WATSON STATISTIC.306 P-VALUES, USING DURBIN-WATSON'S BETA APPROXIMATION: P (POSITIVE CORR) = , P (NEGATIVE CORR) = EXPECTED VALUE OF DURBIN-WATSON STATISTIC.065 EXACT VARIANCE OF DURBIN-WATSON STATISTIC S los sucesvos resduos so o correlacoados etoces d. Valores de d alejados de dca la preseca de certo tpo de auto-correlacó, la deomada autocorrelacó a lag. U p-valor alto asocado a este estadístco, por ejemplo mayor que 0.0, dca que la dfereca de d co o es estadístcamete sgfcatva, que puede atrburse al azar, y por lo tato o se rechaza la hpótess ula de resduos o correlacoados. La aplcacó del test de Durb-Watso sólo tee setdo cuado la varaable explcatva está ordeada e el tempo o e el espaco, o sea por ejemplo, cuado el ídce represeta el tempo. Por otra parte, y debdo a que el test fue dseñado para detectar certo tpo especal de auto-correlacó, puede ocurrr que co este estadístco o se detecte auto-correlacoes cuado e realdad el supuesto o se satsface. Coclumos que se satsface razoablemete los supuestos del Método de Cuadrados Mímos.. () 7.7. Evaluacó de la asocacó: Asocacó postva, asocacó egatva Dado u cojuto de pares de datos (que correspode a valores observados de dos varables aleatoras) decmos que está asocados e forma postva cuado los valores que está por ecma del promedo e ua compoete del par tede a ocurrr mayortaramete co valores por ecma del promedo de la otra. Recíprocamete la

13 Regresó Leal Smple Dra. Daa Kelmasky 3 asocacó es egatva cuado valores por ecma del promedo de ua compoete suele estar acompañados por valores por debajo del promedo de la otra. S se ajusta ua recta por cuadrados mímos e el dagrama de dspersó de u cojuto de pares de datos, el sgo de la pedete, b, de la recta ajustada dca s la asocacó es postva o egatva. S embargo, la pedete o mde drectamete la fuerza (o grado) de la asocacó. Esto se debe a que el valor absoluto de la pedete está trísecamete vculado a las udades e las que se ha expresado las medcoes. Podemos obteer valores ta grades o ta chcos como queramos co sólo elegr las udades adecuadamete. Las meddas de asocacó que cosderamos a cotuacó o varía co cambos e las udades de medcó Correlacó de Pearso r = ( x - x)( y - y) ( x - x ) = ( y - y ). (3) El coefcete de correlacó de Pearso mde el grado de asocacó leal de u cojuto de datos (x, y ),..., (x, y ), de tamaño, correspodete a observacoes de dos varables cotuas X e Y Como la pedete de la recta ajustada por cuadrados mímos está dada por ( x x)( y y) b = ( x x) resulta que el coefcete de correlacó se puede expresar de la sguete maera s r = x b sy ó b= r. s s X y (4) S los desvíos estádar s x y s y so guales o cuado los valores de ambas varables (X e Y) ha sdo estadarzados, de maera que sus medas muestrales so cero y su desvíos estádar, etoces la recta de regresó tee pedete b = r y pasa por el orge. Es por esta razó que el coefcete de correlacó de Pearso es també llamado coefcete de regresó estadarzado Propedades del Coefcete de correlacó La correlacó, a dfereca de la pedete b, trata a los valores x s e y s e forma smétrca. El valor del coefcete de correlacó muestral r, o depede de las

14 Regresó Leal Smple Dra. Daa Kelmasky 4 udades e que se mde las varables y su valor está sempre etre - y. A mayor valor absoluto de r, mayor el grado de asocacó leal. r tee el msmo sgo que b. Cuado r = 0 també b = 0, o hay ua tedeca leal crecete o decrecete e la relacó etre los valores x s e y s. Los valores extremos, r = y r = -, ocurre úcamete cuado los putos e u dagrama de dspersó cae exactamete sobre ua recta. Esto correspode a asocacoes postvas ó egatvas perfectas. E este caso, el error de predccó es cero al utlzar la recta ajustada ŷ = a b x, para predecr el valor de Y. Valores de r cercaos a ó - dca que los putos yace cerca de ua recta. Valores de r postvos dca que la mayoría de los desvíos x x e y y tedrá el msmo sgo, es decr, hay ua asocacó postva etre las varables. Valores de r egatvos dca que la mayoría de los desvíos x x e y y tedrá sgos opuestos, es decr, hay ua asocacó egatva etre las varables. La fgura 4 muestra cómo los valores de r se acerca a cero,.e. se aleja del ó -, a medda que decrece el grado de asocacó leal etre las varables. Fgura 4. Comportameto del coefcete de correlacó a medda que decrece el grado de asocacó leal.

15 Regresó Leal Smple Dra. Daa Kelmasky 5 Fgura 5. Comportameto del coefcete de correlacó ate dferetes tpos de asocacoes o leales. La fgura 5. (a) muestra ua falta total de asocacó etre las dos varables y u coefcete de correlacó cercao a cero, e cambo la (b), que també tee u r cercao a cero, muestra ua clara relacó fucoal etre las varables y la (c) muestra dos grupos uo co asocacó postva y otro co asocacó ula, s embargo el coefcete de correlacó, -0.75, dca ua asocacó egatva Coefcete de determacó El coefcete de determacó es ua medda de la proporcó e que se reduce el error de predccó de ua varable respuesta (Y) cuado se predce Y utlzado los valores de ua varable X e la ecuacó de predccó, ŷ = a b x, co respecto al error de predccó que se obtedría s usarla. El coefcete de determacó R se defe como R = (TSS - RSS ) / TSS = - RSS / TSS (5) TSS, es la suma de cuadrados total. Es decr, la suma de los cuadrados de las desvacoes de cada respuesta observada a la meda: TSS = ( y - y ). (6) Mde el error de predccó s o se tee e cueta la varable explcatva y se predce la respuesta por y, la meda muestral de las respuestas observadas. RSS, es la suma de cuadrados de los resduos: RSS = (y - y $ ). (7)

16 Regresó Leal Smple Dra. Daa Kelmasky 6 Es ua medda del error de predccó que se comete cuado la varable respuesta se predce por ŷ = a bx, la teedo e cueta la varable explcatva. Cuado hay ua fuerte relacó leal etre X e Y, el modelo ajustado provee predctores ŷ mucho mejores que y, e el setdo que la suma de cuadrados de los errores de predccó es mucho meor. Como el umerador de R, TSS - RSS es gual a Σ ( R ( Yˆ Y ) ( Y Y ) = Yˆ. Y ), R puede expresarse como El umerador se deoma suma de cuadrados explcada por el modelo (REGRESSION sum of squares e el STATISTIX, y ESS e otros programas). Por lo tato R mde la proporcó de la varacó total explcada por la regresó. La correlacó al cuadrado cocde co el coefcete de determacó úcamete e regresó leal smple: r = R (8) Cosderemos el dagrama de dspersó del presó de trascó versus la temperatura que aparece e la fgura 6. La líea horzotal represeta la meda de los valores de PRESION,AEA 487, de las 0 observacoes. Los valores observados de Y varía, como lo dca las desvacoes vertcales de los putos a la líea horzotal. La otra recta es la de mímos cuadrados. Los desvíos vertcales de los putos a esta recta so, e muchísmo meores. Sobre esta recta, cuado x camba y camba, de maera que esta relacó leal explca ua parte de la varacó de Y. Como R = decmos que la recta de regresó explca el 99% de la varacó total observada e la presó de trascó. Fgura 6 El coefcete de determacó o depede de las udades e que se expresa los datos y toma valores etre cero y uo. Vale 0 cuado la regresó o explca ada; e ese caso, la suma de cuadrados total es gual a la suma de cuadrados de los resduos. Vale cuado la varabldad observada de la respuesta es explcada totalmete por la regresó; e ese caso, la suma de los cuadrados de los resduos es cero.

17 Regresó Leal Smple Dra. Daa Kelmasky 7 Ejemplo. Retomemos mete el ajuste leal de la presó (bar) de trascó de Bsmuto I-II co la temperatura ( o C). La tabla muestra la salda del Statstx para la regresó de la presó de trascó sobre la temperatura. Tabla UNWEIGHTED LEAST SQUARES LINEAR REGRESSION OF PRESION PREDICTOR VARIABLES COEFFICIENT STD ERROR STUDENT'S T P CONSTANT (a) TEMP (b) s(b) R-SQUARED RESID. MEAN SQUARE (MSE) ˆ σ ADJUSTED R-SQUARED STANDARD DEVIATION σˆ SOURCE DF SS MS F P REGRESSION RESIDUAL ˆ TOTAL CASES INCLUDED 0 MISSING CASES 0 La columa ecabezada COEFFICIENT preseta la ordeada al orge (CONSTANT = a = ) y la pedete ( b = ). La columa ecabezada STD ERROR preseta los correspodetes errores estádar. El cocete etre el valor del coefcete y su error estádar aparece e la columa STUDENT'S T. Sus p-valores, presetados e la columa ecabezada P, permte testear s los coefcetes so sgfcatvamete dsttos de cero. E este caso ambos p-valores ( y ) so meores que 0.0 y decmos que los coefcetes a y b so altamete sgfcatvos. El coefcete de la varable TEMP, es estadístcamete sgfcatvo dstto de cero, etoces decmos que la varable temperatura explca la respuesta, presó de trascó Otros estadístcos cludos e la tabla so: σ R-SQUARED: Coefcete de determacó R = = RESID. MEAN SQUARE ERROR (MSE), σˆ : Cocete etre la suma de cuadrados de los resduos y sus grados de lbertad, RSS / DF = / 8 = STANDARD DEVIATION es la raíz cuadrada del MSE. Es u estmador del desvío σ. E uestro ejemplo σˆ = =

18 Regresó Leal Smple Dra. Daa Kelmasky 8 La salda cluye també ua tabla, deomada tabla de aálss de la varaza correspodete al ajuste, la cuál cotee las sumas de cuadrados, bajo el ecabezado SS, los grados de lbertad de cada suma de cuadrados ( DF ), el cocete etre la suma de cuadrados y sus correspodetes grados de lbertad ( MS ) y falmete el estadístco F y su p-valor asocado. TOTAL SS Es la suma de cuadrados total, TSS = (g.l. = 9) RESIDUAL SS Es la suma de cuadrados resdual, RSS = (g.l. = 8) REGRESSION SS Es la suma de cuadrados explcada por el modelo, TSS - RSS = REGRESSION MS (TSS - RSS) / =37087 / = RESIDUAL MS: RSS / 8 = / 8 = σˆ ESTADISTICO F Es ua medda global de la bodad de la regresó y se calcula como el cocete de los dos últmos valores defdos, es decr ( TSS RSS) / F = = = RSS/ El correspodete valor-p = y por lo tato decmos que la regresó es altamete sgfcatva. Observacó : E la regresó leal smple úcamete, el p-valor del estadístco F cocde co el del test para decdr s la pedete es estadístcamete dstta de cero. Esto o ocurre cuado se cluye más varables explcatvas al modelo. 8 Itervalos de cofaza para la pedete y la ordeada al orge Podemos calcular u tervalo de cofaza para la pedete de la recta ajustada y també realzar u test para decdr s es sgfcatvamete dstta de cero. Ua pedete cero querría decr que o hay relacó leal etre Y y X. Recordemos que la pedete de la recta ajustada es: ( x x)( y y) ( x b = = ( x x) ( x x) y x) Luego Var (b) = σ ( x x) (cosderado que las x s so fjas y s error) y el desvío estádar estmado de la pedete es:

19 Regresó Leal Smple Dra. Daa Kelmasky 9 ˆ σ s( b) = ( x x) (9) dode σˆ es u estmador de σ, calculado como suma de los cuadrados de los resduos dvdda por -. Rara vez será ecesaro utlzar (9) para el cálculo ya que s(b) es u valor que muestra el Statstx automátcamete al realzar u ajuste por cuadrados mímos. E este caso, s(b) = ( Vea la tabla, STD ERROR ). S embargo es teresate deteerse e su expresó ; vemos que: tervee todas las observacoes, a medda que aumeta el úmero de observacoes ( ), s(b) se hace cada vez más pequeño, para u msmo úmero de observacoes, cuato más dspersos esté los valores x tato más pequeño será s(b). Los extremos de u tervalo de cofaza de vel (-α) 00% para la pedete so: b ± t -, α/ * s(b), (0a) Coclusó: s queremos que la estmacó de la pedete de la recta sea lo más precsa posble, debemos elegr u tamaño de la muestra grade y los valores de la varable explcatva lo más espacados que se pueda detro del rago de terés. Tomado α = 0.05, e uestro ejemplo - = 8, b = , s(b) = y t 8, 0.05 =.0, resulta el tervalo del 95% de cofaza ( , -39.4)de las pedetes compatbles co los datos. Como el cero o perteece al tervalo de cofaza obtedo, se rechaza la hpótess de pedete ula al vel U tervalo de cofaza de vel (-α) 00% para la ordeada al orge es de la forma a ± t -, α/ * s(a) dode s( a) = ˆ σ x ( x x) E el ejemplo (tabla ) a= y s(a) = Itervalos de cofaza e tervalos de predccó. Hemos dcho (seccó 7.3) que la recta ajustada puede utlzarse de dos maeras dsttas a) para estmar de la meda poblacoal de Y para cada x fjo. b) para predecr u valor futuro de Y para u valor fjo de x. Agregaremos alguas más

20 Regresó Leal Smple Dra. Daa Kelmasky 0 c) para estmar de la meda poblacoal de Y para varos valores de x dferetes. d) para predecr varos valores futuros de Y para cada uo co u valor fjo de x dferete. e) realzar predccoes del valor de X que do lugar al uevo valor observado de Y. Esto se llama predccó versa. Los tervalos que resulta de a) - d) está todos cetrados e ŷ, dfere úcamete e su ampltud debdo a la dfereca e las varazas. 9. Itervalos de cofaza para la respuesta meda Fgura 7 Debe teerse e cueta la certeza de la recta ajustada. Para ello se costruye ua bada alrededor de la recta de regresó ajustada, tal que para cada valor fjo de x (x ), el tervalo determado por la bada y ua recta vertcal a la abscsa e x, sea u tervalo de cofaza del (-α) 00%: (x x) a b x ± t -, α/ ˆ σ ( x x) S llamamos s(a b x ) a σˆ (x x) ( x x) teemos que los límtes de u tervalo de cofaza para la meda de la varable Y dado el valor x so a b x ± t -, α / s(a b x ) () E partcular s α = 0.05, el 95% de cofaza sgfca que el tervalo es uo de ua famla de tervalos, tal que 95 de cada 00 cotee la verdadera meda de Y para

21 Regresó Leal Smple Dra. Daa Kelmasky ese valor fjo de x (x ) ; 5 o. Podemos cofar e que el que teemos es uo de esos Itervalos de predccó para ua observacó futura Para u msmo valor (x) de la varable explcatva, u tervalo de predccó refleja, además de la varabldad debda a que la recta estmada o represeta exactamete la meda verdadera de la varable respuesta para ese valor de X, la varabldad dvdual de la varable respuesta alrededor de la meda verdadera y es por esa razó es de mayor ampltud que el tervalo de cofaza. Fgura 8. Itervalos de cofaza juto co los tervalos de predccó para ua observacó futura La expresó geeral de los límtes de predccó del (-α) 00 % para ua observacó futura (y ) para el valor x de la varable explcatva es: a b x a b x ± t -, α/ ˆ σ ± t -, α/ ( x x) ( x x) s (pred Y), () La úca dfereca etre el tervalo de cofaza () y el de predccó () es que aparece u detro de la raíz. Esta dfereca hace que la logtud de los tervalos de cofaza pueda hacerse ta pequeña como se quera, co tal de tomar sufcetes observacoes, metras que la logtud de los tervalos de predccó uca pueda ser meor que t -, α/ σˆ S la catdad de observacoes es grade la raíz que aparece e la expresó () es aproxmadamete gual a y la logtud del tervalo de predccó de vel 0.95, resulta cerca de 4s. Por lo tato, s estamos teresados e predccó, 4σˆ es u excelete dco de la caldad del ajuste, y como cosecueca, de la certeza de las predccoes. Ejemplo: Iteresa estudar la relacó etre la pureza del oxgeo (Y) producdo e u proceso de destlacó y el porcetaje de hdrocarburos (X) presetes e el

22 Regresó Leal Smple Dra. Daa Kelmasky codesador prcpal de la udad de destlacó. No se cooce u modelo determístco fucoal que relacoe la pureza del oxígeo co los veles de hdrocarburo. Tabla 3. Nveles de oxgeo e hdrocarburos x(%) y(%) x(%) y(%) x(%) y(%) x(%) y(%) El dagrama de dspersó de la fgura 9 muestra que a pesar de que gua curva smple pasará por todos los putos hay ua tedeca leal crecete de maera que es razoable supoer que la meda de la pureza de oxígeo esté relacoada lealmete co el vel de hdrocarburos. Fgura 9 La tabla 4 los coefcetes y sus errores estádar, resultates de u ajuste de cuadrados mímos a los datos de la pureza de oxígeo. La varable X (% de hdrocarburos) es estadístcamete sgfcatva. Tabla 4 PREDICTOR VARIABLES COEFFICIENT STD ERROR STUDENT'S T P CONSTANT X R-SQUARED RESID. MEAN SQUARE (MSE).8055 ADJUSTED R-SQUARED STANDARD DEVIATION Fgura 0

23 Regresó Leal Smple Dra. Daa Kelmasky 3 Los gráfcos de la fgura 0 os permte coclur que los datos o preseta alejametos de los supuestos de Normaldad y homoscedastcdad. Fgura. Recta ajustada juto co las badas de cofaza y de predccó del 95% La bada tera de la fgura es la bada de cofaza (). El tervalo más agosto, (9.650, 9.67), se ecuetra e el vel promedo de hdrocarburos ( x =.96 %). Los tervalos se va esachado a medda que aumeta la dstaca a dcho valor promedo. U alto porcetaje de valores observados cae fuera de la bada de cofaza. Esto poe de mafesto que dchas badas está formadas por tervalos de cofaza para la respuesta meda, ada dce respecto de los valores de la varable de terés. La logtud de estos tervalos decrece co el aumeto del tamaño de la muestra y/o de la dspersó de los valores de la varable depedete. Sguedo co el ejemplo, e el vel promedo de hdrocarburos (.96 %), el tervalo de predccó es (89.8 ; ). Los tervalos de predccó () del 95% també se esacha co la dstaca al vel promedo de hdrocarburos, auque esto o se ve fáclmete de la fgura.

24 Regresó Leal Smple Dra. Daa Kelmasky Itervalos de predccó para el promedo de m observacoes futuras Para reducr la certeza de las predccoes o alcaza co aumetar defdamete el tamaño de la muestra e la que se basa el ajuste. S embargo es posble reducr la logtud del tervalo de predccó del promedo de m observacoes s ( m s y y = m ) cuyo tervalo de predccó del (-α)00% tedrá la sguete expresó geeral para el valor x de la varable explcatva: a b x ± t -, α/ ˆ σ m ( x x) ( x x), (3) 9.4 Itervalos smultáeos Muchas veces teresa costrur tervalos de cofaza o de predccó para varos valores uevos de la varable x (para varos veles de x) smultáeamete. Esto ocurre, por ejemplo, cuado ua msma recta ajustada es utlzada varas veces para estmar la meda de la varable respuesta o para predecr valores futuros para dsttos valores de x. Auque cada uo de los tervalos de cofaza costrudos, utlzado la expresó (), tega vel de cofaza (-α)00%, o se puede garatzar ese vel global. Esto es smlar al problema de obteer tervalos de cofaza smultáeos e el aálss de la varaza K tervalos de cofaza smultáeos para varas respuestas medas Presetaremos dos tpos de tervalos que se obtee modfcado levemete los tervalos dados por () de maera que se puede asegurar u vel global - α para el cual todos los tervalos so correctos. Procedmeto de Boferro. S teresa costrur K tervalos smultáeos los lmtes de cofaza está dados por: a b xk ± t-, α /K ˆ σ (x x k ) ( x x) a b xk ± t-, α /K s(a bxk ) k K (4) Esta últma expresó es smlar a la de () salvo e que t -, α/ se ha cambado por t -, α / K para obteer u vel global de por lo meos -α, los grados de lbertad o camba porque provee de σˆ = RSS/(-).

25 Regresó Leal Smple Dra. Daa Kelmasky 5 Procedmeto de Hotellg-Scheffé. Este procedmeto está basado e ua bada de cofaza para toda la recta de regresó, de maera que podemos utlzar los límtes de cofaza dados por esta bada para todos los x s de terés y el vel de cofaza global será por lo meos (-α) 00% a b x a b x ± ± f,-, α ˆ σ (x x) ( x x) f,-, α s(a b x ) (5) f El valor crítco (,-, α ) para hallar el tervalo de cofaza de vel aproxmado (-α) 00%, correspode a ua dstrbucó F co y - grados de lbertad. Cuál de las dos famlas de tervalos deberíamos elegr? Debemos comparar t -, α /K f y, -, α. El tervalo de cofaza más precso será el que provega del meor de estos valores. E geeral cuado la catdad de tervalos smultáeos que teresa es pequeña el procedmeto de Boferro será el mejor. E el caso que terese muchos tervalos el procedmeto de Hotellg-Scheffé podrá dar tervalos de meor logtud pues el valor crítco o depede de la catdad de tervalos que terese costrur smultáeamete K tervalos de predccó smultáeos, de vel global aproxmado -α, para s observacoes Los límtes de predccó de Boferro para K observacoes futuras de Y obtedas e K veles dferetes de las x s so a b x a b x k k ± t ± t -, α/k -, α/k ˆ σ (x ) k x ( x x) s (pred Y) k K (6) Itervalos de Hotellg-Scheffé para K observacoes futuras de Y obtedas e K veles dferetes de las x s a b xk ± a b xk ± Kfk,-, α ˆ σ Kfk,-, α s (pred Y) (x ) k x ( x x) k K (7) Cometaros

26 Regresó Leal Smple Dra. Daa Kelmasky 6 Los tervalos de predccó smultáeos de vel -α para K observacoes s de Y para K veles dferetes de x tee mayor logtud que los correspodetes a ua úca predccó. Cuado la catdad de predccoes o es grade esta dfereca es moderada. Para los dos procedmetos la logtud de los tervalos de predccó aumeta a medda que K aumeta. Cuado costrumos tervalos de cofaza smultáeos la logtud de los tervalos de Hotellg-Scheffé o aumetaba. 9.5 Predccó versa. Problema de Calbracó E alguas ocasoes, u modelo de regresó de Y sobre X es utlzado para realzar estmacoes del valor de X que do lugar al uevo valor observado de Y. Este procedmeto es llamado predccó versa. Ejemplo: se desarrolla u método rápdo y ecoómco para medr la cocetracó de azúcar (galactosa) e sagre. Supogamos que las medcoes de la cocetracó de galactosa se relacoa lealmete co la cocetracó verdadera (obteda medate u método precso y exacto, costoso y leto). Esto es que se satsface el modelo cocetracó medda = α β cocetracó verdadera error es decr: Y = α β x ε Co el objetvo de calbrar el método rápdo tomaremos varas muestras co cocetracoes x verdaderas ( determadas co el método precso y exacto ) y obtedremos los valores de Y medate el método rápdo. Utlzaremos los datos para ajustar ua recta: y ˆ = a bx (8) por el método de cuadrados mímos. Fgura. Dagrama de dspersó y recta ajustada a las cocetracoes meddas de muestras que tee cocetracó coocda de galactosa (X), tres muestras para cada uo de cuatro veles dferetes.

27 Regresó Leal Smple Dra. Daa Kelmasky 7 Supogamos que se tee ua observacó y (método barato) y se quere estmar el vel x (método caro), es atural obteer u estmador de x despejado de (8) y a xˆ = b 0 b (9) 9.5. Límtes de estmacó resultates de ua predccó versa La expresó geeral de los límtes de estmacó aproxmados del (-α) 00 % para xˆ basado e ua observacó y es xˆ ± t -, α/ s (pred xˆ ) (30) dode s (pred xˆ ) = σˆ b ( xˆ x) ( x x) (30 a) = σˆ b ( y b y) ( x x) (30 b) UVolvedo al ejemplo Tabla 5. Meddas resume de los datos de galactosa DESCRIPTIVE STATISTICS VARIABLE N MEAN SD VARIANCE X = Y ( x x) / Tabla 6 Resultados del ajuste por cuadrados mímos a los datos de galactosa PREDICTOR VARIABLES COEFFICIENT STD ERROR STUDENT'S T P CONSTANT (a) X.0835 (b) R-SQUARED RESID. MEAN SQUARE (MSE) ADJUSTED R-SQUARED STANDARD DEVIATION σˆ SOURCE DF SS MS F P REGRESSION RESIDUAL TOTAL

28 Regresó Leal Smple Dra. Daa Kelmasky 8 Vemos que la pedete estmada (a).0835 es estadístcamete sgfcatva dstta de cero y que R = es decr que la recta ajustada explca el 99.64% de la varabldad observada e las medcoes de la cocetracó de galactosa. El coefcete de correlacó es R = Supogamos que teresa utlzar la relacó leal etre la galactosa verdadera y la galactosa medda, para estmar el vel verdadero de galactosa (x ) medate u tervalo de cofaza del 95%, para u pacete para el cual el procedmeto rápdo do 5.8 (y ). Los resultados de las tablas 5 y 6 os faclta los cálculos. y a 5.8 ( ) xˆ = = = 5.85 b.0835 La varaza muestral de los valores x s cales que determa la recta ajustada es = ( x x) / ( x x) = * = y x =5.90 Luego de (30 a) teemos ˆ σ ( xˆ x) b ( ) x x s (pred xˆ ) = = 0.46 t -, α/ = t 0, 0.05 =.3 = ( ) Los límtes de cofaza del 95% resulta de aplcar la expresó (30) 5.85 ±.3*0.46 = 5.85 ± 0.54 Por lo tato el tervalo de cofaza del 95% para la verdadera cocetracó de galactosa es (5.3; 6.39) y está represetado e la sguete fgura.

29 Regresó Leal Smple Dra. Daa Kelmasky Límtes de estmacó, tomado el promedo de medcoes repetdas Co el objetvo de reducr la logtud del tervalo de cofaza para ua x es y y recomedable tomar m observacoes s, L, m para u msmo valor m y y descoocdo x m = y estmarlo utlzado m : y a m xˆ = b 0 b (3) La expresó geeral de los límtes de cofaza aproxmados del (-α) 00 % para xˆ y basados e la meda muestral de m observacoes s ( m ) es xˆ ± t -, α/ s (pred xˆ ) (3) dode ahora s (pred xˆ ) = σˆ b m ( xˆ x) ( x x) (3 a)

30 Regresó Leal Smple Dra. Daa Kelmasky 30 = σˆ b m ( y b m ( x y) x) (3 b) UVolvamos al ejemplo Supogamos ahora que se ha realzado m = 0 determacoes de galactosa, co el y método rápdo, sobre la msma muestra obteédose ua meda de 5.8 ( 0 ) obteemos la msma estmacó para la verdadera cocetracó de galactosa, y0 a 5.8 ( ) xˆ = = = 5.85 b.0835 pero ahora de (3 a) s (pred xˆ =0.099 ) = ˆ σ b m ( xˆ x) ( x x) = ( ) = Por lo tato los límtes de cofaza co vel aproxmado 95% para la cocetracó verdadera de galactosa so ahora 5.85 ±.3*0.099 = 5.85 ± 0. Por lo tato el tervalo de cofaza para la cocetracó verdadera es (5.63; 6.07); la logtud se ha reducdo a meos de la mtad. Cometaros La predccó versa, es també coocda como u problema de calbracó debdo a que se puede aplcar cuado medcoes (y) -ecoómcas, rápdas y aproxmadas- so relacoadas co medcoes precsas (x) -habtualmete costosas y que requere mucho tempo-. El modelo de regresó ajustado es utlzado para estmar ua medcó precsa x utlzado ua o más medcoes rápdas ( y m). Auque el modelo de regresó que hemos ajustado requere medcoes de las x s s error, e la práctca se lo puede utlzar cuado la varaza de las x s es desprecable co respecto a la varaza de las y s. Los tervalos de cofaza aproxmados (dados por (30) y (3)) requere que la catdad ( t, α / ) ˆ σ b ( x x) sea pequeña, dgamos, meor a 0..

31 Regresó Leal Smple Dra. Daa Kelmasky 3 Para el ejemplo esta catdad es: = de maera que la aproxmacó resulta adecuada. x K tervalos smultáeos para valores k k K de vel global y aproxmadamete -α basados e K s observacoes k k K, se t obtee reemplazado e (30) el valor crítco -, α/ t por -, α/k o por / ( K fk, -, α ) (Boferro y Scheffé respectvamete). x K tervalos smultáeos para valores k k K de vel global aproxmadamete -α basados e K s medas muestrales y m k, m = j = y kj / m j m, k K, se obtee reemplazado e (3) el valor crítco t -, α/ por respectvamete) t -, α/k o por / ( K fk, -, α ) (Boferro y Scheffé Estas modfcacoes so especalmete útles cuado la msma recta de calbracó es utlzada muchas veces.