Análisis de Regresión Lineal Simple.

Transcripción

1 Aál de Regreó Leal mple. Itroduccó Regreó mple Método de lo mímo cuadrado Propedade de lo etm. m. cuadrado Predccó Evaluacó de la tedad de la relacó leal Ejercco Itroduccó E mu frecuete ecotrar proceo e lo que la/ varable/ de alda depede de algua forma de la/ varable/ de etrada al mmo. El problema de la regreó cote e ecotrar ua relacó etre la varable depedete Y, el cojuto de varable depedete X (Yf(X,X,...,X k )) que aprome a la relacó que realmete ete etre la varable que e decoocda, co el objeto de poder predecr valore de Y, a partr de lo valore de X. egú que la varable de alda depeda de ua o vara varable de etrada: regreó IMPLE (ua ola varable de etrada), regreó MULTIPLE Depededo de la forma que preete la fucó que relacoa la varable: regreó LINEAL (la fucó e ua recta), regreó PARABÓLICA, regreó HIPERBÓLICA, etc...

2 Itroduccó E el aál de regreó deberemo cotemplar lo guete apecto:...) Determar terrelacó etre varable (tet de depedeca, etc Determar tpo de fucó matemátca que relacoa óptmamete la varable. (repreetacó gráfca) Calcular parámetro de dcha fucó matemátca determar bodad de ajute. Realzar predccoe de la varable depedete a partr de la depedete. Regreó mple E ete cao coderamo la eteca de ua úca varable de predccó X. Coderamo u cojuto {(, ),,,...} de medcoe:,..., de ua varable repueta Y, la cuale e ha obervado bajo ua codcoe epermetale que repreeta lo valore de la varable de predccó X:,,... e tomara muetra adcoale co lo mmo valore de, e debe eperar que lo valore de varíe, a que el valor e el par ordeado (, ) e el valor de ua varable aleatora. e defe Y/ como la varable aleatora Y correpodete a u valor fjo, u meda u varaza e dca por µ Y/ σ Y/, repectvamete. Ejemplo: Do cal de droga (X) Catdad de droga a lo 5 muto (Y)

3 Regreó mple upogamo que e admtra ua catdad X de droga. Cuál erá la predccó óptma del valor que tome la varable Y (Y/X)?. El valor promedo de Y codcoado a X (µ Y/ ). E obvo que, para u valor dado de, e mpoble predecr, de maera eacta, la catdad de droga a lo 5 muto e ua peroa e partcular. embargo e poble predecr la catdad de droga a lo 5 muto de todo aquello dvduo que recbero la mma catdad cal de droga. Para cada valor de ete ua dtrbucó de catdad de droga a lo 5 muto lo que e buca e la meda de ea dtrbucó, dado. E mportate hacer otar que e la regreó o e poble etablecer ua relacó caua-efecto etre la Y la, a que u cambo e la o cauará uo correpodete e la varable repueta. De maera obva, ete ua relacó etre la altura el peo de ua peroa, pero mplca eta relacó que pueda cambar la altura de la peroa e modfca u peo?. Regreó mple El teré recae e determar ua fucó matemátca eclla f()µ Y/, por ejemplo u polomo, que decrba de forma razoable, el comportameto de la varable repueta, e decr, la fucó que e ajute mejor a lo dato, o permta predecr valore de la varable repueta. El prmer pao erá determar el modelo o fucó matemátca que e va a utlzar. U procedmeto ecllo para eleccoar el modelo de regreó a utlzar, cote e grafcar la varable repueta cotra la varable de predccó. la gráfca revela ua tedeca leal, deberá upoere u modelo de regreó leal.

4 Regreó mple El lugar geométrco de lo puto (, µ Y/) ) recbe el ombre de curva de regreó poblacoal, o e má que la repreetacó gráfca de la fucó f() que aproma a la relacó etre la varable. Eta curva de regreó o curva de predccó deale, que uualmete o coocemo. Obérvee que µ Y/ e u parámetro, la meda de la v. a. Y/ que, e prcpo habría que etmar a partr de lo dato muetrale de que dpoemo. Y µ / α+β Regreó mple Ua vez e ha eleccoado el modelo, el guete pao e obteer etmacoe para lo parámetro que tervee e el mmo. La REGREIÓN LINEAL IMPLE mplca que µ Y/ etá lealmete relacoado co por la ecuacó de regreó leal poblacoal: µ Y/ α + β co α β R β dode lo coefcete de regreó α β o parámetro que debe etmare a partr de lo dato muetrale. Lo que í podemo coocer a partr de lo dato muetrale e la ecuacó de regreó leal ajutada, que e el reultado de etmar lo parámetro de la epreó ateror, dode la etmacoe a b repreeta la tereccó la pedete de repectvamete µ α + β llamado µ a + b Y/ Y/ a α b β

5 Regreó mple U cojuto de dato podrá dar evdeca de lealdad obre lo valore de cuberto por dcho cojuto. Para valore de X má allá de la zoa cuberta por lo dato o tedremo uca evdeca de lealdad. No e debe uar uca la recta de regreó ajutada para predecr valore de Y correpodete a valore de X fuera del rago cuberto por lo dato. Método de lo mímo cuadrado Al utlzar el modelo de regreó leal, hemo defdo cada varable aleatora Y Y/ de la guete forma: Y µ Y/ + E α + β + E dode E e el error aleatoro (error propo del modelo, debdo al azar que tee meda cero), que para cada obervacó de Y, (, ), toma u valor ε Cuado uamo la líea de regreó ajutada obervacoe (, ) atface: a + b + e a + b, cada par de dode e e el error redual (dtaca vertcal que ete etre el valor obervado e el puto de lo dato el valor ajutado medate la recta de regreó, e )

6 Método de lo mímo cuadrado Dbujado obre el dagrama de dperó la líea de regreó real ajutada lo do tpo de errore, obteemo: Y (, ) ^ a + b ε e µ / α+β e ecotrará a b, etmacoe de α β, de tal forma que la uma de lo cuadrado de lo reduo ea míma. Co frecueca, la uma de lo cuadrado de lo reduo recbe el ombre de uma de lo cuadrado de lo errore alrededor de la líea de regreó e repreeta por E. Ete procedmeto de mmzacó para etmar lo parámetro e llama método de lo mímo cuadrado. Método de lo mímo cuadrado edo {(,, ),,,..., } la ube de puto obervada. e ecotrará a b co objeto de mmzar: E e ( - ) Dferecado E co repecto a a b, e tee: E - b ( - a - b ) ( - a - b ) Al gualar la dervada parcale a cero reacomodar lo térmo, e obtee la ecuacoe guete (llamada ecuacoe ormale): a + b a +b la cuale e puede reolver multáeamete (por Cramer) para dar la fórmula de cálculo de a b: -( )( ) β b -( ) α a E - a -b ( - a - b ) - b

7 Propedade de lo etmadore mímo cuadrado Partmo de u cojuto de dato: X Y Y... Y... dode cada Y Y/ e ua varable aleatora, cua meda vee dada por: µ Y/ α + β que e etma por: a + b, edo a b la etmacoe putuale de lo parámetro α β. Ademá de etmar la relacó leal etre e para propóto de predccó, e puede també etar tereado e la realzacó de fereca acerca de u pedete el puto de tereccó. Para realzar prueba de hpóte la determacó de tervalo de cofaza de α β, e debe hacer la upocó adcoal de que cada Y etá ormalmete dtrbuda, o toda depedete u varaza e la mma para toda vee dada por σ. Por tato: Y N( µ Y/ α + β, σ ) Y Propedade de lo etmadore mímo cuadrado Ua etmacó egada de eta varaza σ vee dada por: E - b E por tato σ dode: E ( - a - b ) como a - b E E E E ( -( - b )- b ) ( - ) -b - b +b - b ( - )( - )+b ( - ) E e ua medda de la varabldad de la obervacoe e toro a la recta de regreó etmada. e ua medda de la varabldad de vee dada por: ( - ) e ua medda de la varabldad de vee dada por: ( - ) e ua medda de la varabldad cojuta de e vee dada por: ( - )( - )

8 Propedade de lo etmadore mímo cuadrado La b de la ecuacó de la recta de regreó ajutada podría etoce poere e fucó de como: b Bajo eta upocoe de depedeca, ormaldad homocedatcdad del modelo, e cumple que lo etadítco: b - β a -α tb t a e dtrbue apromadamete egú ua t de tudet co - grado de lbertad o rve para obteer tervalo de cofaza cotratar hpóte referda a lo parámetro poblacoale. Propedade de lo etmadore mímo cuadrado Itervalo de Cofaza para β U tervalo de cofaza del ( - α) % para el parámetro β e la líea de regreó µ Y/ α + β e: tα/ tα/ b - < β <b+ dode t α/ e u valor de la dtrbucó t co - grado de lbertad, que deja a u derecha ua probabldad α/. Cotrate de Hpóte β β Para probar la hpóte ula H de que β β e cotra de la alteratva apropada (β > β, β < β ),de uevo e utlza la dtrbucó t co - grado de lbertad para etablecer la regó crítca etoce baar la decó e el valor de: b - β R.C. { t b / tb > tα/, } tb R.C. { tb / tb > tα, } R.C. { t / t < tα, } b b

9 Propedade de lo etmadore mímo cuadrado Itervalo de Cofaza para α U tervalo de cofaza del ( - α) % para el parámetro α e la líea de regreó µ Y/ α + β e: tα/ tα/ a - < α < a + dode t α/ e u valor de la dtrbucó t co - grado de lbertad, que deja a u derecha ua probabldad α/. Cotrate de Hpóte α α Para probar la hpóte ula H de que α α e cotra de la alteratva apropada (α > α, α < α ),de uevo e utlza la dtrbucó t co - grado de lbertad para etablecer la regó crítca etoce baar la decó e el valor de: R.C. { ta / ta > tα/, } a -α t a R.C. { ta / ta > t, α R.C. { ta / ta < tα, } Predccó La ecuacó a + b puede utlzare para prootcar o predecr la repueta meda µ Y/ e, dode o e ecearamete uo de lo valore preeleccoado, o puede utlzare para predecr u valor ecllo de la varable Y cuado. Eto e, X e el peo humao, e Y e la etatura humaa, podemo etar tereado e obteer u tervalo de cofaza obre la meda verdadera de etatura de lo humao µ Y/ e u peo elegdo 7 kg; o be podemo etar tereado e u tervalo de cofaza obre ua etatura dvdual Y e u peo elegdo 7 kg. e eperaría que el error de predccó fuera má grade cuado e prootca u valor que cuado e predce ua meda. Eto afectará la ampltud de lo tervalo para lo valore que e prootca. Por tato, lo que e etmacó putual e hacía gual para ambo cao, e etmacó por tervalo, da lugar a do tervalo dferete.

10 Itervalo de Cofaza de µ Y/ Predccó U tervalo de cofaza del (-α) % para la repueta meda µ Y/ e: ( - ) - t + < Y α / µ < +t ( - ) + dode t α/ e u valor de la dtrbucó t co - grado de lbertad. α/ Itervalo de Predcco para Y U tervalo de predccó del (-α) % para ua ola repueta e: ( - ) - t + + < Y α / µ < +t ( - ) + + dode t α/ e u valor de la dtrbucó t co - grado de lbertad. α/ Evaluacó de la tedad de la relacó leal Hata ahora el método que teíamo de aber cuádo era coveete upoer que la relacó etre la varable era leal, era ólo medate el dagrama de dperó. Pero a e u mometo habíamo cometado que ete argumeto era mu débl que etía otro método de aberlo. Bácamete o do lo método de averguarlo. Método del Aál de la Varaza E u procedmeto que ubdvde la varacó total de la varable depedete Y e compoete má gfcatva. upógae que e tee puto de dato epermetale e la forma uual (, ) que e etma la líea de regreó ajutada. Habíamo obtedo E -b, de dode: b + E o be, hacedo T teemo: R b T R + E

11 Evaluacó de la tedad de la relacó leal Hemo decompueto la varacó total de la varable depedete e do compoete má gfcatva para el epermetador. T uma total corregda de lo cuadrado R uma de lo cuadrado de regreó. Refleja la catdad de varacó de lo valore de eplcado por la recta de regreó ajutada E uma de lo cuadrado del error redual. Refleja la varacó alrededor de la líea de regreó. Ieplcada por la recta de regreó. H : β Etamo etoce tereado e probar la hpóte: H : β La hpóte ula afrma que el modelo e µ Y/ α, e decr, que la varacoe de o depedete de lo valore de totalmete aleatora. La hpóte alteratva afrma, e cambo, que ua porcó gfcatva de la varacó de e eplca medate el modelo de regreó leal de obre. Evaluacó de la tedad de la relacó leal Bajo la codcoe de la hpóte ula, puede demotrare que R/σ E/σ o valore de varable depedete χ co - grado de lbertad repectvamete, T/σ també e u valor de varable χ co - grado de lbertad. Para probar la hpóte ula e ua el etadítco: R R : MR R f σ E E ME : ( ) σ ( ) e rechaza H co u vel de gfcacó α cuado f > F α, (, -). Fuete de varacó Regreó Error Total Aál de la varaza para probar β frete a β uma de cuadrado R b E -b T Grado de lbertad - - Cuadrado medo MR R / ME E / - Etadítco calculado f MR/ME Regó Crítca [ F (, -), α, + )

12 Evaluacó de la tedad de la relacó leal Método del Coefcete de Determacó Ete método cote e calcular u etadítco, cuo valor o dcará e puede coderar aceptable o o el modelo de regreó leal. Por etar baado e el coefcete de correlacó empezaremo eplcado la CORRELACION. El aál de CORRELACION teta medr la fuerza de la relacó leal etre do varable, por medo de u mple úmero que recbe el ombre de coefcete de correlacó de Pearo, vee dado por: ρ cov(x,y) VAR(X)VAR(Y) cov(x,y) σ σ dode cov(x,y) E[(X - E[X]) (Y - E[Y])] E[X Y] - E[X] E[Y] valore pequeño de etá aocado a valore pequeño de, valore grade de etá aocado a valore grade de, etoce (X - E[X]) (Y - E[Y]) tedrá el mmo go, por tato (X - E[X]) (Y - E[Y]) > cov (X,Y) > Evaluacó de la tedad de la relacó leal Aálogamete valore pequeño de etá aocado a valore grade de, valore grade de etá aocado a valore pequeño de, etoce (X - E[X]) (Y - E[Y]) tedrá dtto go, por tato (X - E[X]) (Y - E[Y]) < cov (X,Y) < Ete etadítco ólo toma valore compreddo etre - ( ρ ). El valor del coefcete de correlacó poblacoal ρ e cero cuado β, lo cual ocurre eecalmete cuado o ha regreó leal, e decr, la recta de regreó e horzotal cualquer coocmeto de X o e útl para predecr Y. Lo valore de ρ ± ólo ocurre cuado e tee ua regreó leal perfecta etre la do varable. Etoce, u valor ρ + mplca ua relacó leal perfecta co ua pedete potva, metra que u valor de ρ - reulta e ua relacó leal perfecta co ua pedete egatva.

13 Evaluacó de la tedad de la relacó leal Valore de ρ cercao a la udad e magtud, mplca buea correlacó o aocacó leal etre X e Y, metra que valore cercao a cero, mplca poca o gua correlacó ( que o e lo mmo que que la varable ea depedete). ρ X, Y etá correlada, que o mplca que X e Y ea depedete. ρ ρ ρ + ρ - X,Y correlada X,Y correlada Puto al azar relacoada o lealmete Evaluacó de la tedad de la relacó leal Volvemo a ecotraro co el problema de empre: cov(x,y), V(X) V(Y) o parámetro poblacoale que erá, e geeral, decoocdo habrá que etmarlo, co lo que tampoco cooceremo el valor de ρ, o el de u etmacó: r ρ [ ] [ ] [ ] - cov(, ) - cov(, ) E Y X E X Y cov(,) E. - - V() σ σ - - V() σ σ b r ρ

14 Evaluacó de la tedad de la relacó leal dode r e el coefcete de correlacó muetral, que tee el mmo go que b, e decr, ua correlacó potva (egatva) mplca ua recta de regreó co pedete potva (egatva) vcevera. Ua vez coocdo eto, podemo calcular: R r que recbe el ombre de coefcete de determacó muetral repreeta la proporcó de la varacó de eplcada por la regreó de Y e X, e decr, R. E - b E - b E - como b - r - E E R r - Evaluacó de la tedad de la relacó leal r * % e el porcetaje de la varacó total de Y que puede er eplcado por la recta de regreó o que e atrbuble a la relacó leal etre X e Y. U valor de r.89, dca que apromadamete el 89% de la varacó de lo valore de Y e debe a ua relacó leal co X e puede realzar otro cotrate de hpóte equvalete al de β co el coefcete de correlacó, para ver e apropado el método de regreó leal. H : ρ (No e buea la regreó leal) H : ρ El etadítco del cotrate e: t r - - r edo R.C. t / t > t : α, que bajo H, gue ua dtrbucó t de tudet co - grado de lbertad.

15 Ejercco Ejercco 8. Etamo mdedo la relacó etre la altura (X) la logtud (Y) de la cocha de certa epece de lapa (PATELLOIDA CANARIENI) que e ecuetra e la cota de Caara. e obtee pare de medcoe como eta: X Y cua umatora o la guete: e pde calcular: a) Coefcete de correlacó recta de regreó de Y obre X b) E váldo el modelo leal?. Jutfcar la repueta. c) Itervalo de cofaza al 9% de la logtud promedo de la lapa cua altura e. d) Itervalo de cofaza al 95% de la logtud de ua lapa de altura. NOTA: Para lo tervalo de cofaza, tómee α Ejercco a) -( ) 8(7.68)- (56.5 ) ( ) 8(83.85)- (5. ) ( )( ) 8(3.96)-(56.5)(5.) b β.936 r.883 a α - b - b.548 r.7785 a +b Luego el 77.85% de la varacó de Y puede er atrbuda a u aocacó leal crecete ( r > ) co X

16 Ejercco b) La cuetó que e o platea e ete apartado e E ufcete la catdad r obteda e el apartado ateror?. Para averguarlo realzamo el cotrate: H : β H : β para el que e realzaba el guete aál de la varaza: Fuete de varacó Regreó Error Total Aál de la varaza para probar β uma de cuadrado R b E -b T Grado lbertad Cuadrado medo MR R/ ME E/6.487 Etadítco calculado f MR/ME f 9.35 R.C [ F (, 6),.5, + ) [4.3, + ) como 9.35 cae detro de la regó crítca, e rechaza H, por lo que e acepta como váldo el modelo leal. Ejercco Otro cotrate equvalete que podía habere realzado e: H : ρ (o e váldo) H : ρ (e váldo) t - r r R.C :. { t / t > α t -, } { t / t > t6,. 5} { t / t > 56} 9.56 perteece a la regó crítca, luego e rechaza H e codera váldo el modelo leal.

17 c) I µ t / α -,, α ± t t 6,.5 α -,.76 t Ejercco ( - ) + α -, ( - ) +.76 *.3856 * * 5.36 E - ( - ).34 I µ /,. [5.375, ] ( - ) d) I, α ± α t -, α t -, t 6,.5.56 t t α -, Para 95% ( - ) + + I, α ± α t -, α t -, t 6,.5.76 α -, Para 9% ( - ) + + Ejercco ( - ) *.3856 * I ( - ) + +,.5 [4.555,6.69].76 *.3856 * I,. [4.695,6.3]