ANÁLISIS DE REGRESIÓN

Transcripción

1 ANÁLISIS DE REGRESIÓN

2 INTRODUCCIÓN Francis Galtón

3 DEFINICIÓN Análisis de Regresión Es una técnica estadística que se usa para investigar y modelar la relación entre variables. Respuesta Independiente Y Regresada Endógena Regresora Exógena X Dependiente Predictora Predicha

4 MODELO DE REGRESIÓN Análisis de Regresión Es un modelo matemático que explica la relación existente entre el conjunto de variables independientes y la variable dependiente. Y = f ( X ) Y = f ( X1,X2,,Xn)

5 MODELO DE REGRESIÓN Análisis de Regresión Modelos de Regresión Simple Número de V.I. Modelos de Regresión Múltiple Modelos de Regresión Modelos de Regresión Lineal Forma de f Modelos de Regresión No Lineal

6 PROPÓSITOS Describir Datos Y = f ( X1,X2,,Xn) Y y1 y2 y3 y4 X x1 x2 x3 x4

7 PROPÓSITOS Vn Estimar Parámetros V2 V1 tn t2 t1 Tiempo t1 Velocidad V1 V t2... V2... Vf = Vo + at tn Vn t

8 PROPÓSITOS Realizar Pronóstico

9 REGRESIÓN LINEAL SIMPLE

10 MODELOS DE REGRESIÓN LINEAL Variable Independiente Variable Dependiente X Y β 0 y β 1: son constantes no conocidas. Se conocen como coeficientes de regresión Es el componente de error aleatorio. Media Cero Varianza desconocida σ 2 X Y Descorrelacionados Fijada por el investigador Puede variar para el mismo valor de X

11 MODELO DE REGRESIÓN LINEAL SIMPLE y n y 4 y 3 y 2 y 1 x 1 x 2 x 3 x 4 x 5 x 6 x 7

12 MODELO DE REGRESIÓN LINEAL SIMPLE Media E( Y / x) x Recta de regresión 0 1 Varianza V( Y / x) 2

13 MODELO DE REGRESIÓN LINEAL SIMPLE 1 0 es el cambio en la media de la distribución de Y producido por un cambio en una unidad en X El la media de la distribución de la respuesta Y cuando X=0. Si el rango de X no incluye al cero, entonces no tiene interpretación práctica.

14 ESTIMADORES MÍNIMOS CUADRADOS n n n n x y x y i i i i i 1 i 1 i 1 1 n n 2 n x 2 x i i i 1 i 1 ˆ 0 y ˆ 1 x

15 MODELO DE REGRESIÓN LINEAL SIMPLE Recta de regresión muestral ŷ ˆ ˆ x 0 1

16 ESTIMACIÓN DE 2 El estimador de 2 se obtiene a partir de la suma de cuadrados del error Que puede escribirse como Cuyo valor esperado es Por lo tanto un estimador para 2 es

17 PROPIEDADES DE LOS ESTIMADORES 1 Son combinaciones lineales de las observaciones Donde ˆ 0 y ˆ 1x 2 Son estimadores insesgados.

18 PROPIEDADES DE LOS ESTIMADORES 3 Las varianzas son 4 La suma de los residuales es cero 5 La suma de los valores observados es igual a la suma de los valores ajustados

19 PROPIEDADES DE LOS ESTIMADORES 6 La suma de los residuos ponderados por los correspondientes valores de la variable regresora es siempre cero; esto es, 7 La suma de los residuos ponderados por los correspondientes valores ajustados es siempre cero; esto es,

20 PRECISIÓN DE LA REGRESIÓN ESTIMADA y n y 4 y 3 y 2 y 1 x 1 x 2 x 3 x 4 x 5 x 6 x 7

21 PRECISIÓN DE LA REGRESIÓN ESTIMADA y n y 4 y 3 y 2 y 1 x 1 x 2 x 3 x 4 x 5 x 6 x 7

22 PRECISIÓN DE LA REGRESIÓN ESTIMADA Suma de cuadrados sobre la media Suma de cuadrados de regresión Suma de cuadrados del error

23 PRECISIÓN DE LA REGRESIÓN ESTIMADA SS R > SS E SS R S yy SS R SS E SS R S yy 1 x 1 x 2 x 3 x 4 x 5 x 6 x 7 R 2

24 PRECISIÓN DE LA REGRESIÓN ESTIMADA El coeficiente de determinación calcula la proporción de la variación explicada por la variable x Valores cercanos a 1 implican que gran parte de la variabilidad de Y es explicada por el modelo de regresión. La magnitud de R 2 también depende del rango de variabilidad de la variable independiente. Hahn En general, R 2 no mide la magnitud de la pendiente de la recta de regresión.

25 EXAMINANDO LA ECUACIÓN DE REGRESIÓN E( i )=0 y Var( i )= 2 Cov( i, j )=0 E(y i )= x i i N(0, 2 ) i y j no sólo están descorrelacionados sino que además son independientes

26 Inferencias sobre 1. Análisis de Regresión EXAMINANDO LA ECUACIÓN DE REGRESIÓN Como

27 EXAMINANDO LA ECUACIÓN DE REGRESIÓN Inferencias sobre 1. Prueba de Hipótesis H 0 : 1 = 10 Como H 1 : 1 10 Si H 0 es cierta Debido a que por lo general 2 es desconocido usamos su estimador MS E Rechazar si

28 >>? EXAMINANDO LA ECUACIÓN DE REGRESIÓN Inferencias sobre 1. Prueba de Hipótesis H 0 : 1 = 0 H 1 : 1 0 Significancia de regresión. 1 2 Usando el estadístico t. Usando la tabla de análisis de Varianza SS R > SS E

29 EXAMINANDO LA ECUACIÓN DE REGRESIÓN Tabla de Análisis de Varianza Fuente de Variación SS G.L. C.M. F Regresión SS R 1 CM R Error SS E n-2 CM E Total S yy n-1

30 EXAMINANDO LA ECUACIÓN DE REGRESIÓN

31 EXAMINANDO LA ECUACIÓN DE REGRESIÓN Inferencias sobre 1. Intervalo de confianza Bajo el supuesto de normalidad

32 EXAMINANDO LA ECUACIÓN DE REGRESIÓN Inferencias sobre 0. Prueba de Hipótesis H 0 : 0 = 00 Como H 1 : 0 00 Si H 0 es cierta Debido a que por lo general 2 es desconocido usamos su estimador MS E Rechazar si

33 EXAMINANDO LA ECUACIÓN DE REGRESIÓN Inferencias sobre 1. Intervalo de confianza Bajo el supuesto de normalidad

34 EXAMINANDO LA ECUACIÓN DE REGRESIÓN Inferencias sobre 2. Intervalo de confianza Bajo el supuesto de normalidad En consecuencia un intervalo de confianza de 100(1 - )% para 2 es

35 Predicción Media Predicción Sea x 0 un valor de la variable independiente para el cual se desea estimar la respuesta media, es decir E(y/ x 0 ). Estimador puntual Como

36 Predicción

37 Predicción Individual Predicción Sea x 0 un valor de la variable independiente para el cual se desea estimar la respuesta y.

38 Correlación entre X e Y X Y Variables aleatorias Distribución de probabilidad desconocida Mide el grado de asociación lineal entre las variables

39 Correlación entre X e Y V XY 1 t V XY -1 t XY 0 t

40 Correlación entre X e Y Estimación Relaciones

41 Prueba de Hipótesis Correlación entre X e Y H 0 : = 0 H 1 : 0 El estadístico apropiado para esta prueba es Rechazar si