4.1Regresion de probabilidad simple y curvilínea

Transcripción

1 4 REGRESION Y CORREALCION SIMPLE 4.1Regresio de probabilidad simple y curvilíea Clases de Regresió La regresió puede ser Lieal y Curvilíea o o lieal, ambos tipos de regresió puede ser a su vez: a) Regresió Simple: Este tipo se preseta cuado ua variable idepediete ejerce ifluecia sobre otra variable depediete. Ejemplo: Y = f(x) Esta regresió se utiliza co mayor frecuecia e las ciecias ecoómicas, y sus disciplias tecológicas. Cualquier fució o lieal, es trasformada e lieal para su estudio y efectos. Objetivo: Se utiliza la regresió lieal simple para: 1.- Determiar la relació de depedecia que tiee ua variable respecto a otra. 2.- Ajustar la distribució de frecuecias de ua líea, es decir, determiar la forma de la líea de regresió. 3.- Predecir u dato descoocido de ua variable partiedo de los datos coocidos de otra variable. Por ejemplo: E ua empresa de servicio de Iteret busca relacioar las gaacias que obtiee cada computadora co el umero de usuarios que igresa a dicha cabia diariamete. E la tabla represeta Y (Gaacias S/.) e X (Numero de usuarios) Y X Idica el úmero de uidades e que se modifica la variable depediete Y por efecto del cambio de la variable idepediete X o viceversa e ua uidad de medida. Clases de coeficiete de Regresió: El coeficiete de regresió puede ser: Positivo, Negativo y Nulo. Es positivo cuado las variacioes de la variable idepediete X so directamete proporcioales a las variacioes de la variable depediete Y Es egativo, cuado las variacioes de la variable idepediete X so iversamete proporcioales a las variacioes de las variables depedietes Y Es ulo o cero, cuado etre las variables depedietes Y e idepedietes X o existe relació algua.

2 Procedimieto para hallar el Coeficiete de Regresió Para determiar el valor del coeficiete de regresió de ua maera fácil y exacta es utilizado el método de los Míimos Cuadrados de dos maeras: 1.- Forma Directa De la ecuació de la recta: Si 0 a y 1 a, se obtiee a partir de las ecuacioes ormales: Aplicado ormales Y sobre X teemos: El Coeficiete de Regresió es De la misma maera la recta de regresió de X sobre Y será dada de la siguiete maera: Dode: b 0 y b 1 se obtiee a partir de las ecuacioes ormales:

3 Aplicado ormales X sobre Y teemos: Existe el método por míimos cuadrados b) Regresió Múltiple: Este tipo se preseta cuado dos o más variables idepedietes ifluye sobre ua variable depediete. Ejemplo: Y = f(x, w, z). AJUSTE DE CURVAS E múltiples ocasioes se ecuetra situacioes e las que se requiere aalizar la relació etre dos variables cuatitativas. Los dos objetivos fudametales de este aálisis será: Determiar si dichas variables está asociadas y e qué setido se da dicha asociació (es decir, si los valores de ua de las variables tiede a aumetar o dismiuir- al aumetar los valores de la otra); Estudiar si los valores de ua variable puede ser utilizados para predecir el valor de la otra. La forma correcta de abordar el primer problema es recurriedo a coeficietes de correlació. Si embargo, el estudio de la correlació es isuficiete para obteer ua respuesta a la seguda cuestió: se limita a idicar la fuerza de la asociació mediate u úico úmero, tratado las variables de modo simétrico, mietras que lo que iteresa es modelizar dicha relació y usar ua de las variables para explicar la otra. Para tal propósito se recurrirá a la técica de regresió. Aquí se aalizará el caso más secillo e el que se cosidera úicamete la relació etre dos variables (x e y). Así mismo, se limita al caso e el que la relació que se pretede modelizar es de tipo lieal. E este caso, la media de la distribució de las y sobre x está dada por α + β.x.

4 REGRESIÓN CURVILÍNEA Se cosiderará primero el caso e que la graficació e ua escala adecuada puede ser lieal. Por ejemplo, si u cojuto de parejas de datos que coste de putos (x i,y i ) "se edereza" cuado so graficados sobre ejes escalados adecuadamete. E este caso, al ser represetados sobre papel semilogarítmico, idica que la curva de regresió de y sobre x es expoecial, es decir para cualquier x cosiderada, la media de la distribució está dada por la siguiete ecuació predictora y = α. β x, tomado logaritmos e ambos miembros: log( y) log α ( ) + x log( β ) y se puede estimar ahora log(α) y log(β), y de ahí obteer α y β, aplicado los métodos ateriores a los pares de valores [x i,log(y i )] Distiguir etre variable depediete e idepediete Variable depediete. Es la variable cetral de la ivestigació; a través de ella se mide los cambios ocasioados por la variable idepediete e la població estudiada. Por ejemplo, cácer de pulmó, coocimieto, destreza, satisfacció y utilizació de u servicio. Variable idepediete. Determia a la variable depediete. Es la que va a ocasioar los cambios e la població estudiada. Por ejemplo, úmero de cigarros fumados al día, iterveció educativa, capacitació, calidad de ateció y percepció de ecesidad de salud Defiir ecuació de regresió y cual es su aplicació LA RECTA DE REGRESIÓN Cosidérese ua variable aleatoria respuesta (o depediete) y, que se supoe relacioada co otra variable (o ecesariamete aleatoria) que se llamará explicativa, predictora o idepediete y que se deotará por x.

5 A partir de ua muestra de idividuos para los que se dispoe de los valores de ambas variables, {(x i,y i ),,...}, se puede visualizar gráficamete la relació existete etre ambas mediate u gráfico de dispersió, e el que los valores de la variable x se dispoe e el eje horizotal y los de y e el vertical. El problema que subyace a la metodología de la regresió lieal simple es el de ecotrar ua recta que ajuste a la ube de putos del diagrama así dibujado, y que pueda ser utilizada para predecir los valores de y a partir de los de x. La ecuació geeral de la recta de regresió será etoces de la forma: α + β.x. El problema radica e ecotrar aquella recta que mejor ajuste a los datos. Tradicioalmete se ha recurrido para ello al método de míimos cuadrados, que elige como recta de regresió a aquella que miimiza las distacias verticales de las observacioes a la recta. Cualquier observació i-ésima y i diferirá verticalmete de esa recta (por ahora descoocida) e u valor ε i. Luego ε es el valor de ua variable aleatoria. El valor de ε para cualquier observació determiada depederá de u posible error de medició y de los valores de otras variables distitas de x que podría ifluir sobre y. Habrá que calcular los valores de α y β de la líea de regresió, es decir la ecuació de la recta que de algua maera da el mejor ajuste. E referecia al gráfico aterior, es relativamete fácil trazarla a simple vista co u poco de setido comú. Si embargo, lo habitual es recurrir a u método meos subjetivo.

6 Para platear este problema de maera formal, cosidérese parejas de observacioes (x i,y i ) e las cuales es razoable supoer que la regresió de y sobre x es lieal, y se desea determiar la recta del mejor ajuste. Si se predice y por medio de la ecuació: sea e i el error de predecir el valor de y correspodiete a la x i es: Se quiere determiar a y b de modo que estos errores sea, e cierto modo, lo más pequeños posibles. Ya que o se puede miimizar cada uo de los e i por separado, esto sugiere itetar e i ta cercao a cero como sea posible. Esto o es acosejable puesto que errores positivos y egativos se compesará dado líeas iadecuadas como respuesta. Por lo tato, se miimizará la suma de los cuadrados de e i. Es decir, se elegirá a y b de modo que: 2 y i a + b x i ( ) sea míimo Esto equivale a miimizar la suma de los cuadrados de las distacias verticales a partir de los putos respecto de la líea. Este método (llamado de los Míimos Cuadrados) da valores de a y b (estimacioes de α y β) que tiee muchas propiedades coveietes. Ua codició ecesaria para que exista u míimo relativo es la aulació de las derivadas parciales co respecto a a y b: 2 y i ( a + b x i ) ( 1) 0 derivada respecto de a

7 2 y i ( a + b x i ) ( x i ) 0 derivada respecto de b lo que se puede reescribir como: y i a + b x i y i x i a x i + b ( x i ) 2 esto es u cojuto de ecuacioes lieales co icógitas a y b, deomiadas Ecuacioes Normales. Resolviedo por determiates: a y i ( x i ) 2 ( x i ) 2 y i x i x i 2 x i b x i y i ( x i ) 2 x i x i 2 y i Ejemplo: Los siguietes datos so las medicioes de la Tesió Arterial e 14 pacietes de distitas edades:

8 ajustar ua líea recta a estos datos por el método de míimos cuadrados y utilizarla para estimar la tesió arterial para ua persoa de 36 años. x i y i y i x i ( x i ) de aquí el sistema de ecuacioes queda: 1901 a 14 + b a b co la solucioes: a b 0.79 Para ua persoa de 36 años de edad: y = 0.79.(36) = E el siguiete gráfico se puede apreciar el Diagrama de Dispersió y la recta del mejor ajuste (desde el puto de vista de los míimos cuadrados) y la estimació para ua persoa de 36 años de edad:

9 La siguiete fució Matlab permite obteer los resultados vistos del proceso: fuctio recta % Ajuste lieal de u cojuto de datos por Miimos Cuadrados % co datos presetes e el archivo ascii regre.txt % Etradas: u, vector, obteido del archivo ascii "regre.txt" % Salida: a, real, Ordeada al orige % b, real, pediete de la recta load regre.txt;u=regre;=size(u,1); sy=0; for i=1:, sy=sy+u(i,2);ed sx=0; for i=1:, sx=sx+u(i,1);ed sx2=0; for i=1:, sx2=sx2+u(i,1)^2;ed sxy=0; for i=1:, sxy=sxy+u(i,1)*u(i,2);ed A(1,1)=;A(1,2)=sx;A(2,1)=sx;A(2,2)=sx2;B(1,1)=sy;B(2,1)=sxy; C=iv(A)*B;a=C(1,1);b=C(2,1); i=1:;plot(u(i,1),b*u(i,1)+a,u(i,1),u(i,2),'*') a

10 b El Teorema de Gauss-Markov establece: Etre los estimadores isesgados de α y β que so lieales e los y i, los estimadores de míimos cuadrados tiee la variaza más pequeña Aplicar el método de míimos cuadrados para determiar la recta, parábola ó curva que mejor se ajuste a u cojuto de datos INFERENCIAS BASADAS EN ESTIMADORES DE MÍNIMOS CUADRADOS E lo que sigue se supodrá que la regresió es lieal y, más aú, que las variables aleatorias que tiee valores y i (i=1, 2,, ) so idepedietes y que está distribuidos ormalmete co las medias α + β.x i y la variaza comú σ 2. Si se escribe: y i = α + β.x i + ε i se deriva que los ε i so valores de variables aleatorias idepedietes, distribuidas ormalmete, y que tiee medias 0 y variaza comú σ 2. Gráficamete:

11 E las suposicioes hechas hasta aquí, como se ilustra, se puede advertir las distribucioes de los y i para varios valores de las x i. Ates de establecer u teorema relativo a la distribució de los estimadores de míimos cuadrados de α y β, es coveiete itroducir ua otació especial: Sxx Syy ( x i ) 2 ( y i ) 2 2 x i sx 2 ( 1) 2 y i sy 2 ( 1) Sxy x i y i x i y i sxy ( 1) e base a esto, las ecuacioes ormales, resueltas por determiates, queda: b Sxy Sxx a y b x dode e so, respectivamete las medias de las x y de las y. Debe otarse tambié la estrecha relació etre las Sxx y Syy co las variazas muestrales respectivas de las x y las y (sx y sy). La variaza comú σ 2 puede estimarse e térmio de las desviacioes verticales de los putos muestrales a partir de la líea de míimos cuadrados. La i- ésima de tales desviacioes es: y i a + b x i ( ) De aquí, la estimació, s e 2, es: 2 1 s e 2 2 y i a + b x i ( )

12 dode s e se deomia Error Estádar de Estimació, tambié la suma de los cuadrados dada por s e 2.(-2) recibe el ombre de Suma de Cuadrados Residual o Suma de Cuadrados de Error. Ua fórmula equivalete de esa estimació de σ2 es: s e 2 Sxx Syy Sxy 2 ( 2) Sxx el divisor -2 se emplea para que el estimador resultate de σ 2 sea isesgado. E base a las suposicioes efectuadas relativas a la distribució de las y, se puede probar los siguietes teoremas: Teorema 1: Co las suposicioes dadas, los estadísticos: co valores de variables aleatorias que tiee la distribució t-studet co -2 grados de libertad. Si se requiere itervalos de cofiaza para los coeficietes de regresió α y β, se sustituye el térmio medio de t α/2 < t < t α/2 por el estadístico t adecuado del teorema aterior. Luego, por medio de cálculos simples, se determia los correspodietes itervalos de cofiaza: b t s α e 2 < β < b + t s Sxx α e 2 Sxx

13 4.2 Correlació Correlació. Recordemos que para el caso de ua variable, la variaza era u parámetro que os mostraba cuata variació existía etre la media u cojuto de datos. E el mismo teor, estamos e determiar la depedecia etre dos variables por lo que ua primera propuesta es costruir ua medida que os permita e forma aáloga tratar la variació. Se defie la covariaza como la variació que existe etre los datos de dos variables, expresada como: S xy = ( x x)( y y) i i dode xi y y i so las variables para datos que iterviee e el estudio. E realidad la correlació es ua medida sobre el grado de relació etre dos variables, si importar cual es la causa y cual es el efecto. La depedecia de la que se habla e este setido es la depedecia etre la variaza de las variables. Como hemos visto el maejo de uidades adimesioales os permite teer u coeficiete sobre el que de forma cómoda se pueda trabajar, por lo que podemos dividir etre el producto de las desviacioes de las variables, es decir:

14 S r = xy ( S S ) x y los valores para este coeficiete está compredidos etre -1 y 1. Se tiee los siguietes criterios para r r = 1 r = r = 0 r = 1 la correlació lieal es perfecta, directa o existe correlació lieal o correlació lieal ula la correlació lieal es perfecta, iversa o correlació lieal positiva o correlació lieal egativa etre mas se aproxima a los valores 1 y -1 la aproximació a ua correlació se cosidera buea. Cuado mas se aleja de 1 o de -1 y se acerca a cero se tiee meos cofiaza e la depedecia lieal por lo que ua aproximació lieal será lo meos apropiado, si embargo o sigifica que o existe depedecia, lo úico que podemos decir es que la depedecia o es lieal. U valor positivo para r idica que a medida que ua variable crece la otra tambié lo hace, por el cotrario si su valor es egativo, lo que podemos decir es que a medida que ua variable crece la otra decrece. Datos ifluyetes Ejemplos de correlació Ua vez que se determia que existe depedecia lieal u aspecto sumamete relevate es el ivestigar las características del modelo matemático que relacioa ua variable co otra, así de esta forma podemos decir, ua variable puede clasificarse como

15 determiístico y probabilistico. El modelo determiístico, que o será abordado e este curso, esta ligado a la ecuació que regula de forma determiate el comportamieto de u feómeo, así por ejemplo podemos determiar a partir de la obteció de ua ecuació sobre el potecial de freado e u material, que ate cambios de la logitud de oda la relació es lieal o permitirá predecir cuales será sus valores. Ecuacioes que permite ver como es la oposició a la corriete eléctrica, o resistecia eléctrica, al aumetar la temperatura de u metal, etre otros, es u claro idicio de ua ecuació que es determiística, e ella se podrá describir como cambiara la resistecia eléctrica del material e cuestió ate el aumeto de ua temperatura e el material. Por otro lado, los feómeos probabilísticos está sujetos a la modelos que auque pueda ser descritos por ua ecuació o implica que todos los valores que iterviee e el estudio pueda ser localizados e el gráfico que los represeta, y por supuesto u dato mas o es garatía que sea localizado e la ecuació

16 Bibliografía Caavos G. Probabilidad y Estadística Aplicació y métodos. Ed. e español Mc GRAW- HILL/INTERAMERICANA DE MEXICO Devore, J.L. (2000). Probabilidad y Estadística para Igeiería y Ciecias, Quita Edició, Thomso Learig. Medehall, W. (1998). Estadística para Admiistradores, Seguda Edició, Grupo Editorial Iberoamérica. Motgomery, D.C. y Ruger G.C. (1996). Probabilidad y Estadística Aplicadas a la Igeiería, Primera Edició, Mc Graw Hill. Sheaffer, R. L. y McClave, J.T. (1990). Probabilidad y Estadística para Igeiería, Primera Edició, Grupo Editorial Iberoamérica. Spiegel, M.R. (1970). Estadística, Primera Edició, Serie Schaum, Mc Graw Hill. Walpole, R. E., Myers, R.H., y Myers, S.L. (1998). Probabilidad y Estadística para Igeieros, Sexta Edició, Pretice Hall. Weimer, R.C. (1996). Estadística, Seguda Edició, CECSA.

17 Actividades complemetarias adicioales 1.- Problema: Los siguietes datos so las medicioes de la velocidad del aire y del coeficiete de evaporació de las gotitas de combustible e ua turbia de propulsió: Velocidad del aire (cm/s) Coeficiete Eva-poració (mm 2 /seg) de Costruir u itervalo de cofiaza del 95% para el coeficiete de regresió α. 2.- Las cifras siguietes so datos sobre el porcetaje de llatas radiales producidas por cierto fabricate que aú puede usarse después de recorrer cierto úmero de millas: Miles de Millas recorridas (x) Porcetaje útil (y) Log(y) a) Graficar los datos proporcioados e escala semilogaritmica para advertir si es razoable que la relació es expoecial. b) Ajustar ua curva expoecial aplicado el método de míimos cuadrados a las parejas de putos [xi,log(yi)]. c) Emplear los resultados de la parte b) para estimar qué porcetaje de las llatas radiales del fabricate durará al meos millas.