REGRESIÓN Y ESTIMACIÓN TEMA 1: REGRESIÓN LINEAL SIMPLE

Transcripción

1 UNIDAD 3 REGRESIÓN Y ESTIMACIÓN TEMA 1: REGRESIÓN LINEAL SIMPLE Relación entre variables de interés 1

2 Relación entre variables de interés Muchas decisiones gerenciales se basan en la relación entre 2 o más variables. Procedimiento estadístico llamado análisis de regresión para obtener una ecuación que indique cuál es la relación entre las variables: la variable a predecir se llama variable dependiente, y la(s) usada(s) para predecirla son variables independientes. 1. Modelo de regresión lineal simple Ejemplo: Armand s Pizza Parlors cadena de restaurantes de comida italiana tiene sus ubicaciones con mayor éxito cerca de los campus universitarios. Los gerentes creen que las ventas trimestrales de estos restaurantes (y) están directamente relacionadas con el tamaño de la población estudiantil (x) = análisis de regresión. Modelo de regresión y ecuación de regresión : La ecuación que describe cómo se relaciona y con x, y se da un término para el error, se llama modelo de regresión. A la ecuación que describe la relación entre el valor esperado de y, o E(y), y x se le llama ecuación de regresión. La gráfica de la ecuación de regresión lineal simple es una recta. 2

3 1.1 Ecuación de regresión estimada En la práctica no se conocen los valores de los parámetros poblacionales β 0 y β 1 ; es necesario estimarlos con estadísticos muestrales b 0 y b 1 de donde: La gráfica de la ecuación de regresión lineal simple estimada es la recta de regresión estimada: b 0 es la intersección con el eje y, y b 1 es la pendiente (método de mínimos cuadrados). Como el valor de yˆ proporciona tanto una estimación puntual de E(y) para un valor dado de x, como una estimación puntual de un solo valor de y para un x, yˆ = valor estimado de y. 1.2 Método de mínimos cuadrados Procedimiento que usa datos muestrales para hallar la ecuación de regresión estimada Ejemplo: se recolectan datos de una muestra de 10 restaurantes Armand s Pizza Parlors ubicados todos cerca de campus universitarios. Para la iésima observación o restaurante en la muestra, x i = tamaño de la población de estudiantes (en miles) en el campus, y y i = ventas trimestrales (en miles de dólares). Para representar la relación entre las ventas y la población de estudiantes, se elige el modelo de regresión lineal simple. Para el restaurante iésimo, la ecuación de regresión simple estimada es: donde se aplica: y para calcular b 0 y b 1 : 3

4 1.2 Método de mínimos cuadrados Ejemplo: se recolectan datos de una muestra de 10 restaurantes Armand s Pizza Parlors ubicados todos cerca de campus universitarios. Solución: 1º Se calcula y 2º Se calculan y la ecuación es: Se quiere predecir las ventas trimestrales de un restaurante ubicado cerca de un campo de estudiantes, entonces: ventas trimestrales pronosticadas para este restaurante serían de $ Coeficiente de determinación Medida de la bondad de ajuste para la ecuación de regresión estimada. Residual iésimo (y i -yˆi): diferencia (error) entre la observación iésima entre el valor observado de la variable dependiente y i, y el valor estimado de la misma yˆi. La suma de los cuadrados de estos residuales o errores (que Min el MMC) es: SCE = medida del error al utilizar la ecuación de regresión estimada para calcular los valores de la variable dependiente di de la muestra. Ejemplo: SCE para una muestra de 10 restaurantes Armand s Pizza Parlors. SCE=1530; error existente al utilizar la ecuación para predecir las ventas. 4

5 2. Coeficiente de determinación Suma total de cuadrados, STC.: diferencia y i -y que mide el error que implica usar y para estimar la variable dependiente y. Ejemplo: STC para una muestra de 10 restaurantes Armand s Pizza Parlors. STC = medida de cuánto se agrupan las observaciones en torno a la línea y, y la SCE como una medida de cuánto se agrupan las observaciones en torno de la recta yˆ. 2. Coeficiente de determinación Suma de cuadrados debido a la regresión, SCR.: medida de cuánto se desvían de y los valores yˆ en la recta de regresión. La relación entre estas tres sumas de cuadrados (gran importancia estadística) es: La SCR es la parte explicada de la STC, y la SCE es la parte no explicada de la STC. Ejemplo: SCR para una muestra de 10 restaurantes Armand s Pizza Parlors. Coeficiente de determinación (r 2 ): cociente (entre 0 y 1), usada para evaluar la bondad de ajuste de la ecuación de regresión estimada. En % es el porcentaje de la STC que se explica mediante el uso de la ecuación de regresión estimada. Ejemplo: r 2 para una muestra de 10 restaurantes Armand s Pizza Parlors. 90,27% de la STC se explica al usar para predecir las ventas trimestrales 5

6 2.1 Coeficiente de correlación RECUERDE: r xy ; medida descriptiva de la intensidad de la relación lineal entre dos variables x y y (de -1 a +1). Realizado un análisis de regresión y calculado el coeficiente de determinación r 2, el coeficiente de correlación muestral r xy es: El signo de r xy es (+) si la ecuación de regresión estimada tiene pendiente positiva (b 1 >0), y es (-) si dicha ecuación tiene pendiente negativa (b 1 <0). Ejemplo: r para una muestra de 10 restaurantes Armand s Pizza Parlors. El coeficiente de correlación muestral para es r xy = + 0,9027 = 0,9501; existe una fuerte relación lineal positiva entre x y y. 4. Supuestos del modelo En la regresión lineal simple, el modelo de regresión es ; usando MMC se obtienen los valores de b 0 y b 1 (estimaciones de β 0 y β 1 ), llegando a la ecuación de regresión estimada Aun con un valor grande para r 2, la ecuación de regresión estimada no debe ser usada hasta determinar si el modelo empleado es apropiado: pruebas de significancia. Dichas pruebas se basan en supuestos acerca del término del error ε. 6

7 5. Pruebas de significancia Probar si existe una relación de regresión significativa, se debe realizar una prueba de hipótesis a efecto de determinar si β 1 0. Hay 2 pruebas (t, F) muy usadas. Ambas necesitan estimar σ 2 (VAR ε en el modelo). Estimación de σ 2 : VAR ε = VAR y i respecto de la recta de regresión SCE. El error cuadrado medio (ECM o S 2 ) proporciona una estimación de σ 2 : Para estimar σ se calcula la raíz cuadrada de S 2 : error estándar de estimación S. Ejemplo: En Armand s Pizza Parlors, SCE = 1530; calcular σ 2 y σ. Prueba t: Si x y y están relacionadas linealmente, entonces β 1 0. La base para esta prueba de hipótesis la proporcionan las propiedades de la distribución de muestreo de b 1 (estimador de β 1 ) 5.1 Prueba t Para determinar si la relación es significativa se tiene al estadístico de prueba que sigue una distribución t con n-2 grados de libertad. Si H 0 es verdadera, entonces β 1 = 0 y t = b 1 / S b1. Ejemplo: Prueba de significancia con los datos de Armand s Pizza Parlors empleando como nivel de significancia α = 0,01. Considere S=13,829 y Σ(x i -x) 2 = 568. Dado: ahora se calcula: En las tablas t encontramos que para n-2 = 10-2 = 8 grados de libertad y α /2 = 0,005; t=3,355. Según el método de valor crítico; 8,62 > 3,355 por lo que H 0 es rechazada y concluimos β 1 0 Existe una relación significativa entre la población de estudiantes y las ventas trimestrales. 7

8 5.2 Intervalo de confianza para β 1 Fórmula de un intervalo de confianza para β 1 : El coeficiente (nivel) de confianza = 1 - α, y t α /2 = valor t que da un área α /2 en la cola superior de la distribución t con n - 2 grados de libertad (tablas t). Se puede usar un intervalo de confianza para probar hipótesis de dos colas de β 1. Si el valor hipotético de β 1 H 0 no es rechazada. De lo contrario, sí. Ejemplo: Obtener una estimación de β 1 mediante un intervalo de 99% de confianza. con los datos de Armand s Pizza Parlors. En las tablas t encontramos que para n-2 = 10-2 = 8 grados de libertad y α /2 = 0,005; t=3,355. Entonces se tiene, recordando que S b1 = 0,5803: o el intervalo que va de 3,05 a 6,95. Recuerde que la prueba de hipótesis i planteada fue: Como 0, que es el valor hipotético de β 1 al intervalo de confianza (3.05 a 6.95), H 0 puede ser rechazada y concluimos que entre el tamaño de la población de estudiantes y las ventas trimestrales sí existe una relación estadísticamente significativa. 5.3 Prueba F Basada en la distribución de probabilidad F. Cuando sólo se tiene una variable independiente, la prueba F lleva a la conclusión que existe una relación significativa. Se basa en el desarrollo de dos estimaciones independientes de σ2: a) ECM; b) cuadrado medio debido a la regresión: CMR. Ejemplo: Prueba F en el ejemplo de Armand s Pizza Parlors En la tabla F con 1 grado de libertad en el numerador y n-2 =10-2=8 grados de libertad en el denominador, F = 11,26 (área de 0.01 en la cola superior). (74,25 > 11,26) H 0 es rechazada y concluimos que entre el tamaño de la población de estudiantes y las ventas trimestrales existe una relación significativa. 8

9 5.4 Advertencias acerca de la interpretación de las pruebas de significancia Cuando H 0 : β 1 = 0 es rechazada una relación lineal significativa entre x y y pero no una relación de causa y efecto entre x y y (sólo con justificación teórica). Tampoco se puede concluir que la relación entre x y y sea lineal. Si bien x y y están relacionadas; la relación lineal explica una porción significativa de la variabilidad de y sobre el rango de los valores de x observados en la muestra. La ecuación de regresión estimada debe usarse para predicciones asociados a valores de x dentro del rango de los valores de x observados en la muestra. 6. Uso de la ecuación de regresión estimada para estimación y predicción Sólo si existe una relación significativa entre x y y = r 2 indica que el ajuste es bueno,. a) Estimación puntual: estimación puntual del valor medio de y para un determinado valor de x, o se puede predecir el valor individual de y para un valor determinado de x Ejemplo 1: Armand s desea una estimación puntual de la media de las ventas trim. de todos los restaurantes cercanos a campus universitarios con 10 mil estudiantes. Usando obtenemos mil $us. Ejemplo 2: Armand s desea predecir las ventas de un determinado restaurante ubicado cerca de Talbot College, una escuela con 10 mil estudiantes. Así esto será: NOTA: En realidad, la estimación puntual de un solo valor de y es igual a la estimación puntual de la media de los valores de y. 9

10 6. Uso de la ecuación de regresión estimada para estimación y predicción b) Estimación por intervalo: indican la precisión de los resultados de la regresión y son 2 diferentes: 1) intervalo de confianza: estimación del valor medio de las y que corresponden a un valor dado de x. Sea: Ejemplo 1: Intervalo de 95% de confianza para la media de las ventas trimestrales de todos los restaurantes Armand s ubicados cerca de campus con 10 mil estudiantes, Usando S=13,829; x p = 10, x = 14 y Σ(x i -x) 2 = 568 entonces: Por tabla t (α/2=0,025 y n-2=10-2=8) se tiene Como y el intérvalo es: o de $98585 a $ Uso de la ecuación de regresión estimada para estimación y predicción 2) intervalo de predicción: estimación de un solo valor de y para un valor dado de x (mayor margen de error). Se calcula la varianza del uso de yˆp como estimación de un valor individual de y cuando a x=x p ; la cual es la suma de: De ahí la estimación de la desviación estándar de un solo valor de y p es: Ejemplo 1: Intervalo de 95% de confianza para la media de las ventas trimestrales de un solo restaurante cercano a Talbot College, una escuela de alumnos. Usando S=13,829; x p = 10, x = 14 y Σ(x i -x) 2 = 568 entonces: Por tabla t (α/2=0,025 y n-2=10-2=8) se tiene Como y el intérvalo es: o de $76125 a $ NOTA: Ambas estimaciones por intervalo son más precisas cuando x p = x. 10

11 7. Solución por computadora Realizar los cálculos del análisis de regresión manualmente lleva mucho tiempo, que puede minimizarse usando software (Minitab). Ejemplo: Uso de Minitab para los datos sobre población de estudiantes y ventas de Armand s Pizza Parlors cerca de campus universitarios. GRACIAS POR SU ATENCIÓN.. 11