Análisis computacional Modelo de regresión lineal múltiple Incumplimiento de las hipótesis básicas

Transcripción

1 Análisis computacional Modelo de regresión lineal múltiple Incumplimiento de las hipótesis básicas omán Salmerón Gómez 26 de abril de 2014 Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 1 / 28

2 Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 2 / 28

3 Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 3 / 28

4 En el archivo datos2.xls se dispone de 1260 observaciones correspondientes a las siguientes variables: wage: salario por horas (en dólares). exper: años de experiencia de trabajo. union: valor 1 si el trabajador está afiliado a un sindicato y 0 en caso contrario. female: valor 1 si es mujer y 0 en caso contrario. educ: años de educación. A continuación analizaremos con el software econométrico, el entorno de programación y el paquete estadístico el siguiente modelo: wage t = β 1 +β 2 exper t +β 3 union t +β 4 female t +β 5 educ t +u t. Descarga de datos: Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 4 / 28

5 Enlaces interesantes Datos y MCO Menús Guardar, Gráficos y Análisis Menú Contrastes y corrección problemas Software econométrico Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 5 / 28

6 Enlaces interesantes Enlaces interesantes Datos y MCO Menús Guardar, Gráficos y Análisis Menú Contrastes y corrección problemas GUIME: Guía multimedia para la elaboración de un modelo econométrico. Análisis econométrico del modelo lineal general con. es.html. Econometría básica aplicada con. Los contenidos mostrados a continuación corresponden a la versión gretl Para versiones posteriores puede que se produzcan modificaciones, si bien, suelen ser leves. Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 6 / 28

7 Introducción de datos y estimación por MCO Enlaces interesantes Datos y MCO Menús Guardar, Gráficos y Análisis Menú Contrastes y corrección problemas Los datos se pueden o bien introducir directamente a mano (como en cualquier hoja de cálculo) a partir de la ruta: Archivo Nuevo conjunto de datos o bien importándolos de otro formato (lo más común) a partir de: Archivo Abrir archivo de datos Importar Para estimar el modelo hay dos opciones, bien mediante la ruta: Modelo Mínimos cuadrados ordinarios... o bien pinchando sobre el icono ˆβ de la parte inferior de la ventana principal de. En ambos casos aparecerá la misma nueva ventana donde hay que especificar la variable dependiente y las independientes. Una vez hecho esto, pinchando en Aceptar obtendremos los resultados de la estimación por MCO. Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 7 / 28

8 Estimación por MCO Enlaces interesantes Datos y MCO Menús Guardar, Gráficos y Análisis Menú Contrastes y corrección problemas En la ventana de resultados que obtenemos tenemos el número de observaciones usadas, el método de estimación aplicado, cuál es la variable dependiente y cuáles son las independientes, la estimación de los coeficientes de las variables independientes, su desviación típica estimada, el valor experimental para el contraste de significación individual y su p-valor asociado, la media y (cuasi)desviación tipíca de la variable dependiente, la suma de cuadrados de los residuos, la estimación de la varianza de la perturbación aleatoria (más concretamente, de la desviación típica), el coeficiente de determinación y coeficiente de determinación corregido, el valor experimental del contraste de significación conjunta así como su p-valor asociado y, por último, los valores para los tres criterios de información tradicionalmente usados. Además, en la parte superior de esta ventana de resultados hay nuevos menús que pasamos a analizar. Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 8 / 28

9 Menús Guardar, Gráficos y Análisis Enlaces interesantes Datos y MCO Menús Guardar, Gráficos y Análisis Menú Contrastes y corrección problemas En el menú Gráficos podemos: epresentar de forma conjunta los valores originales de la variable dependiente y su estimación. Obtener gráficos para los residuos útiles a la hora de analizar si hay heteroscedasticidad o autocorrelación en el modelo. En el menú Análisis podemos: Mostrar los valores de las variables dependiente, estimada y los residuos. Obtener predicciones. Calcular regiones (intervalos y elipses) de confianza para los coeficientes de las variables. Obtener la estimación de la matriz de covarianzas de los coeficientes: ). Var(ˆβ Obtener la tabla ANOVA. Mediante el menú Guardar se puede almacenar en la ventana principal de información que puede sernos de utilidad como los valores estimados o los residuos. Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 9 / 28

10 Menú Contrastes y corrección problemas Enlaces interesantes Datos y MCO Menús Guardar, Gráficos y Análisis Menú Contrastes y corrección problemas A partir de este menú podemos: ealizar contrastes sobre restricciones lineales de los coeficientes de los regresores. Contrastar si la hipótesis de linealidad es o no cierta. Contrastar si hay heteroscedasticidad en el modelo. Contrastar la normalidad de los residuos. Estudir si hay multicolinealidad en el modelo. Contrastar si hay autocorrelación en el modelo 1. Para estimar bajo heteroscedasticidad, en la ventana principal de : Modelo Otros modelos lineales Corrección de heteroscedasticidad. Para estimar bajo autocorrelación, en la ventana principal de : Modelo Series temporales A(1)... y elegir Cochrane-Orcutt o Prais-Winsten 2. 1 Hay que especificar en la ventana principal de que la estructura del conjunto de datos es la de una serie temporal: Datos Estructura del conjuno de datos... 2 Para que aparezca esta opción la estructura del conjunto de datos tiene que ser la de una serie temporal. Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 10 / 28

11 Función MUM Función GUIME Incumplimiento Incumplimiento Entorno de programación Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 11 / 28

12 Entorno de programación Función MUM Función GUIME Incumplimiento Incumplimiento es un conjunto integrado de programas para manipulación de datos, cálculo y gráficos, que puede definirse como una nueva implementación del lenguaje S desarrollado en AT&T (por lo que muchos de los libros y manuales sobre S son útiles para ). El entorno de programación está disponible como software libre con licencia GNU de la Fundación de Software Libre. Sus principales características son: Almacenamiento y manipulación efectiva de datos. Operadores para el cálculo sobre variables indexadas, en particular, matrices. Una amplia, coherente e integrada colección de herramientas para análisis de datos. Posibilidades gráficas para análisis de datos, que funcionan directamente sobre pantalla o impresora. Un lenguaje de programación bien desarrollado, simple y efectivo, que incluye condicionales, ciclos, funciones recursivas y posibilidad de entradas y salidas. Más información en su web oficial: Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 12 / 28

13 Función MUM Función MUM Función GUIME Incumplimiento Incumplimiento Para afrontar un primer análisis de un modelo econométrico usando el entorno de programación, los alumnos contarán con la ayuda de la función MenuMUM. Destacar que se trata de una función creada por el profesor en la que se van calculando paso a paso cada uno de los conceptos explicados en clase. Pasos a seguir: Descarga e instalación de. Enlace: es.html. Ojo!! Asegurarse que se asocian los archivos.data con. Descargar la función MenuMUM: MenuMUM.Data. Enlace: Ejecutar el archivo anterior. Si se ha instalado bien el programa apararecerá la pantalla de inicio de con el siguiente mensaje donde avisan de que se ha cargado un espacio de trabajo ya creado: [Previously saved workspace restored] Y finalmente, sin más que escribir MenuMUM(), se puede empezar a trabajar!!!!. Ejemplo: Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 13 / 28

14 Función GUIME Función MUM Función GUIME Incumplimiento Incumplimiento A continuación vamos a abordar la estimación y validación de un modelo econométrico así como el estudio del cumplimiento o incumplimiento de las hipótesis básicas de normalidad, heteroscedasticidad y autocorrelación de la perturbación aleatoria, así como la independencia lineal entre las variables explicativas de la regresión. Para poder realizar este análisis se instalarán los paquetes car y lmtest (en Instalar paquete(s)... del menú Paquetes). Así, por ejemplo, usaremos las órdenes: lm para analizar el modelo econométrico empleado. ks.test para el estudio de la normalidad de los residuos mediante el contraste de Kolmogorov-Smirnov. ncv.test para el estudio de la heteroscedasticidad mediante el contraste de Breusch-Pagan. dwtest para el estudio de la autocorrelación mediante el contraste de Durbin- Watson. vif para el estudio de la multicolinealidad a partir del factor de agrandamiento de la varianza de cada coeficiente estimado. Información sobre estas funciones se obtiene a partir del comando help(). Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 14 / 28

15 Función GUIME Función MUM Función GUIME Incumplimiento Incumplimiento Pasos a seguir para usar la función GUIME: Almacenar los datos con el nombre datos2.txt en el directorio de trabajo de en formato.txt separado por tabulaciones. Leer los datos mediante el comando: datos = read.table(file="datos2.txt", header=tue, dec=".", sep="\t"). Agregar las variables al espacio de trabajo: attach(datos). Escribir la relación lineal entre las variables: funcion = wage ~ exper + union + female + educ. Copiar y pegar la función GUIME en la consola de (la cual está disponible en el siguiente enlace: Ejecutar dicha función: GUIME.LM(funcion, datos). Los resultados se almacenarán en un archivo de texto dentro del directorio de trabajo. En el siguiente enlace puedes encontrar un video explicativo: es.html Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 15 / 28

16 GUIME.LM <- function(funcion, datos) { # resultados de la regresión modelo = lm(funcion, data=datos) analisis = summary(modelo) # estudio de la normalidad residuos = modelo$resid desviacióntípica = sd(residuos) normalidad = ks.test(residuos, pnorm, 0, desviacióntípica) # heteroscedasticidad library(car) heteroscedasticidad = ncv.test(modelo) # autocorrelación library(lmtest) autocorrelacion = dwtest(modelo) # multicolinealidad multicolinealidad = vif(modelo) resultado = list(funcion, analisis, normalidad, heteroscedasticidad, autocorrelacion, multicolinealidad) names(resultado) = c("modelo de regresión", "Estimación y validación del modelo", "Normalidad residuos", "Heteroscedasticidad residuos", "Autocorrelación residuos", "Multicolinealidad variables") # salida función sink("análisis.txt") resultado }

17 Corrección de heteroscedasticidad y autocorrelación Para resolver el problema de heteroscedasticidad usaremos los Mínimos Cuadrados Ponderados sin más que especificar la opción weights dentro del comando lm: Función MUM Función GUIME Incumplimiento Incumplimiento reg1 = lm(wage ~ exper + union + female + educ, weights=exper^2) En weights se ha de especificar la inversa de aquella cantidad de la que depende la varianza de la perturbación aleatoria, esto es, si por ejemplo Var(u t ) = σ 2 1 exper 2 t habría que usarexper 2 t. Para resolver el problema de autocorrelación usaremos el procedimiento iterativo de Cochrane-Orcutt (para lo cual hay que instalar y cargar el paquete orcutt): reg1 = lm(wage ~ exper + union + female + educ) reg2 = cochrane.orcutt(reg1) Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 17 / 28

18 Corrección de heteroscedasticidad y autocorrelación Un excelente trabajo sobre el diagnóstico de éstas hipótesis con el entorno de programación, proporcionado por Quick-, puede consultarse en Función MUM Función GUIME Incumplimiento Incumplimiento Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 18 / 28

19 # leo los datos datos = read.table(file="datos2.txt", header=tue, dec=".", sep="\t") attach(datos) especifico relación lineal funcion = wage ~ exper + union + female + educ ejecuto función GUIME GUIME.LM(funcion, datos) leo los datos datos = read.table(file="datos2.txt", header=tue, dec=".", sep="\t") attach(datos) estimación por MCO reg1 = lm(wage ~ exper + union + female + educ) corrección autocorrelación (cargar paquete orcutt ) reg2 = cochrane.orcutt(reg1) corrección de la heteroscedasticidad reg3 = lm(wage ~ exper + union + female + educ, weights=exper^2)

20 Introducción de datos y estadísticos descriptivos Paquete estadístico Estimación del modelo Valores estimados Obtención de los residuos Estimación robusta Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 20 / 28

21 Introducción de datos y estadísticos descriptivos Introducción de datos y estadísticos descriptivos Estimación del modelo Valores estimados Obtención de los residuos Estimación robusta Los datos en se introducen directamente pulsando el botón correspondiente a Data Editor (edit) o importándolos, por ejemplo desde Excel, sin más que copiarlos en la hoja de cálculo y pegándolos en la de (si el nombre de las variables está escrito en la primera fila de la hoja de cálculo aparecerá un mensaje preguntando si dicha fila ha de tratarla como los nombres de las variables o como datos). Adviértase que el delimitador decimal es el punto (al igual que en ). Una vez introducimos los datos (y guardados, por ejemplo, en C:\ como datos2.dta), en primer lugar vamos a calcular los principales estadísticos descriptivos de las variables (excepto de las variables union y f emale por ser dicotómicas). Usaremos los comandos su y corr de : su wage exper educ, detail corr wage exper educ Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 21 / 28

22 Estimación del modelo Para estimar y validar el modelo anterior usaremos el comando reg de : Introducción de datos y estadísticos descriptivos Estimación del modelo Valores estimados Obtención de los residuos Estimación robusta reg wage exper union female educ Dicho comando da como salida fundamentalmente la tabla ANOVA (contraste de significación conjunta) junto a su p-valor asociado, el 2 (y su versión corregida) y las estimaciones de los coeficientes junto a sus p-valores asociados (contrastes de significación individual) e intervalos de confianza. Si se desea estimar el modelo sin término independiente se ha de usar: reg wage exper union female educ, noconstant Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 22 / 28

23 Valores estimados y su representación gráfica Los valores estimados se pueden obtener con el comando predict: Introducción de datos y estadísticos descriptivos Estimación del modelo Valores estimados Obtención de los residuos Estimación robusta predict estimacion gener observacion = [_n] graph twoway line wage estimacion observacion Adviértase que además se han representado de forma conjunta con los valores originales. Si se desea observar y comparar los valores estimados con los originales podemos calcular sus estadísticos principales: l wage estimacion su wage estimacion Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 23 / 28

24 Obtención de los residuos También se podrían obtener los residuos del modelo, cuestión importante a la hora de verificar que se cumplen las hipótesis básicas del modelo lineal general (como es el caso de la normalidad): Introducción de datos y estadísticos descriptivos Estimación del modelo Valores estimados Obtención de los residuos Estimación robusta predict residuos, residuals graph twoway line residuos observacion su residuos swilk residuos Además de calcularlos, se han representado, calculado sus estadísticos principales y realizado el contraste de Shapiro-Wilk para contrastar la normalidad (que es la hipótesis nula). Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 24 / 28

25 Estimación robusta Finalmente destacar que añadiendo vce(robust) al final del comando reg obtenemos estimadores robustos a los problemas de heteroscedasticidad y autorrelación, es decir, si existen dichos problemas los corrige directamente: Introducción de datos y estadísticos descriptivos Estimación del modelo reg wage exper union female educ, vce(robust) predict residuos, residuals swilk residuos Valores estimados Obtención de los residuos Estimación robusta Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 25 / 28

26 clear clear matrix capture log close cd "C:\" use datos2.dta, clear log using ESULTADOS, text replace su wage exper educ, detail corr wage exper educ reg wage exper union female educ, vce(robust) predict estimacion gener observacion = [_n] graph twoway line wage estimacion observacion predict residuos, residuals graph twoway line residuos observacion swilk residuos log close

27 Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 27 / 28

28 En el archivo datos1.xls se dispone de 1174 observaciones correspondientes a las siguientes variables: bwt: peso del bebé al nacer (en kg). gestation: periodo de gestación (en días). parity: valor 1 si la madre es primeriza y 0 en caso contrario. age: edad de la madre (en años). height: altura de la madre (en metros). weight: peso de la madre (en kg). smoke: valor 1 si la madre fuma y 0 en caso contrario. Analizar el siguiente modelo: bwt t = β 1 +β 2 gestation t +β 3 parity t +β 4 age t +β 5 height t +β 6 weight t +β 7 smoke t +u t. Descarga de datos: Análisis computacional del modelo de regresión múltiple e incumplimiento de hipótesis básicas 28 / 28