NOTAS DE CLASES TEORÍA ECONOMÉTRICA. Raimundo Soto* Trabajo Docente Nº 78. Santiago, Mayo 2010

Transcripción

1 Versión impresa ISSN: Versión electrónica ISSN: PONTIFICIA UNIVERSIDAD CATÓLICA DE CHILE INSTITUTO DE ECONOMÍA Oficina de Publicaciones Casilla 76, Correo 17, Santiago NOTAS DE CLASES TEORÍA ECONOMÉTRICA Trabajo Docente Nº 78 Raimundo Soto* Santiago, Mayo 2010 * rsoto@faceapuc.cl

2 Indice 1. Introducción Teoría de Probabilidades Noción de Probabilidad Axiomatización de las Probabilidades Variables Aleatorias Momentos de una Distribución Distribuciones Discretas de Uso Común Distribuciones Continuas de Uso Común Distribuciones Conjuntas Distribuciones Marginales Distribuciones Condicionales Apéndice A: Ejercicios Elementos de Inferencia Estadística Modelo probabilístico, modelo muestral y modelo estadístico Estadísticos muestrales Distribución de la media muestral Características deseables de los estimadores en muestra finita Límite de Cramer-Rao Elementos de teoría asintótica: convergencia Elementos de teoría asintótica: leyes débiles de grandes números Elementos de teoría asintótica: leyes fuertes de grandes números Propiedades de los distintos tipos de convergencia Teoremas del límite central Distribución asintótica Estimación asintóticamente eficiente (máximo verosímil) Tests de hipótesis Tres tests de hipótesis asintóticamente equivalentes Test de hipótesis no anidadas Criterios informacionales Apéndice A: Ejercicios Modelo Clásico de Regresión Lineal Lógica del modelo de regresión Análisis de los supuestos del modelo de regresión lineal Representación gráfica de la regresión lineal Derivación del estimador de mínimos cuadrados Propiedades del estimador de mínimos cuadrados en muestra finita Tests de hipótesis en el modelo multivariado Tests de hipótesis y modelo restringido Propiedades del estimador de mínimos cuadrados en muestra grande Transformaciones de estimadores: el método Delta Predicción Método generalizado de momentos Apéndice A: Ejercicios

3 Capítulo 5 Violación de los Supuestos del Modelo de Regresión Lineal 5.01 Problemas de Especificación I: Regresores Inadecuados Problemas de Especificación II: Cambio de Régimen Problemas de Especificación III: Datos erróneos Problemas de Especificación IV: Colinealidad Modelos de Varianza No Constante Heterocedasticidad Correlación de residuos Variables instrumentales Apéndice A: Ejercicios Capítulo 6: Modelos no lineales 6.01 Elementos de cálculo numérico Optimización no lineal Estimación de mínimos cuadrados no lineales Estimación de variables instrumentales no lineales No linealidad de la variable dependiente Interpretación de los parámetros de un modelo no lineal Tests de hipótesis Capítulo 7: Modelos con Datos de Panel Modelo canónico de datos de panel Modelación con datos de panel Modelos de panel dinámicos Tests de raíces unitarias en panel

4 Capítulo 1 Introducción Without data all you are is just another person with an opinion (Anónimo) Facts are stupid things (Ronald Reagan, 1978). Con frecuencia en el estudio de la economía -y de la econometría en particular se comete el error de empezar con el análisis de modelos económicos sin definir previamente lo que se entiende por modelo y sin explicar por qué es importante construir dichos modelos. Sims (1996) 1 señala que los avances en ciencias naturales y en gran medida en economía se refieren usualmente a descubrimientos sobre nuevos modos de comprimir datos con respecto a algún fenómeno con una mínima pérdida de información. Considere el siguiente ejemplo de la astronomía: Tycho Brahe ( ) acumuló durante muchos años datos confiables sobre los movimientos de los planetas. Su asistente, Johannes Kepler ( ), sin embargo, observó que podían ser modelados como elipses con el sol en uno de sus focos, logrando una notable compresión de información. 2 Los modelos en economía, y en econometría en particular, buscan el mismo objetivo: transmitir información sobre las regularidades que caracterizan a la economía de modo eficiente (máxima compresión) y seguro (menor pérdida). Dichas regularidades al igual que en las ciencias naturales tienen nombres más bien pintorescos (p.e., ley de oferta y demanda, propensión marginal a consumir ) pero poseen el atributo de generalidad que les hace particularmente útiles: cuando se menciona que un fenómeno queda razonablemente descrito por una ecuación de recta (es decir un modelo), el auditor instruido inmediatamente deduce las propiedades de dicho modelo y, a la vez, sabe que para cada situación específica en la que dicho fenómeno se verifique habrá una recta particular que le describe. Uno de los primeros y más famosos econometristas Francis Galton señaló que The object of statistical science is to discover methods of condensing information concerning large groups of allied facts into brief and compendious expressions suitable for discussion (Inquiries into Human Faculty and its Development, Macmillan: London,1883, pp.55). Otra manera de ver el rol de un modelo o teoría es provisto por S. Hawking A theory is a good theory if it satisfies two requirements: it must accurately describe a large class of observations on the basis of a model that contains only a few arbitrary elements, and it must make definite predictions about the results of future observations (A Brief History of Time, New York, 1988). Debiera añadirse que los modelos deben cumplir una restricción adicional, derivada de la célebre sentencia de William de Occam ( ) Essentia 1 C. Sims, Macroeconomics and Methodology, Journal of Economic Perspectives, 10 (Winter): , Desilusionado con la incapacidad del modelo de Ptolomeo (85-165) para describir la trayectoria de los planetas, Copernico enunció su teoría heliocéntrica en 1543 pero sin proveer soporte empírico alguno. La contribución de Brahe fue hacer mediciones precisas del movimiento de los planetas que hicieron posible a Kepler la modelación del fenómeno. La superioridad del modelo de Kepler produjo fuerte agitación social pues la Iglesia la consideró «contraria a las Sagradas Escrituras». El 26 de febrero de 1615, el cardenal jesuita Bellarmino inició el juicio contra Galileo e incluyó los libros de Copernico De revolutionibus, Kepler Mysterium cosmographicum, y Galileo Discorsi en el Indice de Libros Prohibidos donde permanecieron hasta 1835.

5 non sunt multiplicanda praeter necessitatem, es decir, que los elementos de un modelo no deben ser aumentados más allá de lo necesario. La simplicidad es un objetivo de la modelación. Objetivamente, los economistas aún no somos capaces de desarrollar teorías que sean capaces de describir la enorme heterogeneidad de los fenómenos económicos. Recientemente, se ha desarrollado una línea de investigación sobre la pregunta de cuáles son las formas, causas, y consecuencias de las complejidad de los sistemas económicos. Rosser (2004) 3 clasifica la complejidad que enfrenta un agente económico en tres áreas fundamentales. Primero, complejidad en la estructura dinámica y posiblemente no lineal de los fenómenos económicos, es decir, el hecho frecuente que una pequeña perturbación en un sistema económico tenga repercusiones y ramificaciones dinámicas en la economía de gran impacto (p.e., un cambio en un precio clave de la economía como la tasa de interés). Segundo, la complejidad lógica y computacional que enfrenta un agente económico al tomar una decisión cuando existe un gran número de mercados, oferentes y demandantes. En particular la noción de equilibrio de los modelos económicos es muy compleja: por ejemplo, un equilibrio Walrasiano le exige al agente económico la computación de un número enorme de precios relativos, el equilibrio de Nash exige una gran capacidad de análisis lógico para anticipar las reacciones de los otros jugadores frente a diferentes alternativas de decisión. Tercero, la complejidad en la aprehensión del fenómeno económico, es decir, el problema adicional al que el proceso de aprehender la realidad económica es, en sí, también muy complejo y no puede ser llevado a cabo sin costos excesivamente altos. Al problema de la complejidad se le suman las restricciones que enfrenta el análisis económico en términos de información sobre los fenómenos de interés y sus causas. Tradicionalmente las ciencias naturales le han otorgado poco valor al análisis probabilístico de los fenómenos. Ello se debe a que muchos de dichos fenómenos pueden ser replicados en laboratorios bajo condiciones experimentales controladas. En la mayoría de los problemas económicos no resulta factible realizar un análisis experimental en circunstancias absolutamente controladas. Por ejemplo, no es posible pedirle a un grupo de individuos que vuelva a estudiar una carrera profesional para estimar cómo habría sido su perfil de ingreso en estas nuevas circunstancias. En este sentido, los economistas usamos los datos disponibles para inferir probabilísticamente la capacidad de una teoría para comprimir información pertinente sobre un determinado más fenómeno o la congruencia con la que lo hace. Algunas de las ramas de la física o la química han adoptado recientemente el esquema metodológico de la economía: por ejemplo, la astronomía no cuenta salvo honrosas excepciones con muestras de fenómenos de gravitación universal, sino con un fenómeno único. 4 La física subatómica 3 J. Barkley Rosser, Jr. (2004) Epistemological Implications Of Economic Complexity, mimeo, Department of Economics, James Madison University. 4 S. G. Djorgovski reporta que el volumen de observaciones disponibles en astronomía se dobla en aproximadamente cada año y medio. En cada noche, se produce aproximadamente 1 Terabyte de datos adicionales (equivalente a la colección completa de la biblioteca PUC). Ello exige una modelación probabilística de los datos. Virtual Astronomy, Information Technology, and the New Scientific 1.2

6 no puede observar directamente un fenómeno sino sus efectos, de los cuales debe inferir la validez de una hipótesis teórica. En ambos casos el análisis es frecuentemente probabilístico. Es por estas razones complejidad del fenómeno y restricciones de información que la economía se basa en el desarrollo y análisis de modelos de comportamiento validados empíricamente mediante métodos cuantitativos, en especial, los métodos econométricos que se discuten en lo siguientes capítulos. 5 La modelación econométrica propiamente tal comienza de manera significativa a principios del siglo XX con los trabajos de los fundadores de la disciplina (Galton, Pearson, Neyman, Fischer, Frisch, etc.) que desarrollaron la base estadística de gran parte de los tests básicos que se usan en la actualidad. Pero no fue si no hasta los años 1950 que se masificó el uso de modelos econométricos como base del análisis de políticas económicas y para la verificación de diversos postulados teóricos. El gran empuje de mediados del siglo XX proviene principalmente del desarrollo de un fundamento teórico sólido para la econometría en general y para los modelos econométricos de gran escala en particular. Estos últimos se beneficiaron de la aparición de bases de datos adecuadas (p.e., cuentas nacionales) y de una creciente capacidad de computación. El éxito de la econometría como base del análisis empírico es indudable. Ciertamente los modelos empíricos cometerán errores en la descripción de los fenómenos que nos interesa modelar; sin embargo, en este contexto se aplica la célebre frase del padre de la computación Charles Babbage ( ) Errors using inadequate data are much less than those using no data at all. El diseño de modelos analíticos y sus contrapartidas empíricas son, en realidad, dos caras de una más moneda: el modo como avanza nuestro conocimiento es mediante la continua contrastación de teoría y evidencia. En términos pedagógicos, sin embargo, en este libro nos ocuparemos principalmente de los modelos econométricos, los cuales serán desarrollados sobre la base de una serie de supuestos que nos permitirán derivar estimadores que cumplen con requisitos de calidad y los tests estadísticos asociados a dichos estimadores. Luego invalidaremos de manera paulatina dichos supuestos para estudiar qué efectos tiene una violación de uno o más supuestos sobre las características de dichos estimadores. El capítulo 2 realiza una revisión de distintos elementos de probabilidades y desarrolla con algún detalle el enfoque axiomático de Kolmogorov (1933) 6 que es la base de la estadística moderna. Este enfoque ofrece una formalización axiomática de la noción de probabilidad, cuyas ventajas radican en proveer una teoría completa (todas las Methodology, en Computer Architectures for Machine Perception, eds. V. Di Gesu & D. Tegolo, IEEE press (2005). 5 The sciences do not try to explain, they hardly even try to interpret, they mainly make models. By a model is meant a mathematical construct which, with the addition of certain verbal interpretations, describes observed phenomena. The justification of such a mathematical construct is solely and precisely that it is expected to work. John von Neumann. 6 Grundbegriffe der Wahrscheinlichkeitsrechnung, Ergebnisse der Mathematik und ihrer Grenzgebiete, J. Springer eds

7 proposiciones de la teoría se derivan de los axiomas), no-redundante (ningún axioma puede ser derivado de otros), y congruente. El objetivo es que el alumno tenga una sólida base de análisis probabilístico y, más importante aún, que pueda conectar los distintos componentes de la teoría de probabilidades con los componentes básicos del análisis econométrico: entre ellos, el experimento aleatorio, las funciones de distribución conjunta, condicional y marginal, y la noción de la independencia entre variables aleatorias. En particular, esta sección busca que el estudiante entienda cómo los econometristas enfrentan el problema de la complejidad del fenómeno que se desea modelar. El capítulo 3 usa la estructura anterior para enfrentar el segundo problema del análisis econométrico: la limitación de información. La principal adición al modelo de probabilidades desarrollado en el capítulo 2 es la restricción derivada del uso de muestras estadísticas y la inevitable necesidad de usar métodos de inferencia estadística para emitir juicios informados respecto de alguna hipótesis. El capítulo busca que el alumno entienda cómo se transforma la incertidumbre respecto de más los resultados de un experimento aleatorio en incertidumbre sobre los parámetros que caracterizan dicho experimento, y cuáles son las ventajas y limitaciones de dicha transformación. Adicionalmente, se presenta la maquinaria de teoría asintótica que será fundamental en el análisis del modelo de regresión lineal del siguiente capítulo. El capítulo 4 desarrolla el modelo de regresión lineal, que ha sido una de las principales herramientas de análisis empírico de los economistas en los últimos 100 años. Este modelo, al que usualmente se le acopla el método de mínimos cuadrados como técnica de parametrización, permite enfrentar un número muy grande de preguntas en economía. A la vez, es suficientemente flexible como para permitir que, en caso que no se cumplan alguno de los supuestos que le sustentan, se desarrollen estimadores alternativos simples y poderosos. Las propiedades de los estimadores de la familia de mínimos cuadrados deben ser estudiadas tanto en muestra pequeña (finita) como grande (infinita) para entender a cabalidad el papel de los supuestos del modelo. Igualmente, se debe estudiar las propiedades de los tests que se construyen a partir de dichos estimadores de mínimos cuadrados, para determinar más su aplicabilidad en circunstancias prácticas. Finalmente, la técnica de mínimos cuadrados no es la única forma de parametrizar un modelo. En el capítulo se estudian dos alternativas adicionales de gran aplicación práctica: el estimador de máxima verosimilitud y el método generalizado de momentos. En el capítulo 5 se estudian los problemas derivados de la violación de los seis supuestos sobre los cuales se desarrolló el modelo de regresión lineal en el capítulo anterior. La lógica de operar es directa: en primer lugar se estudia el efecto de la violación sobre los estimadores de mínimos cuadrados y los diferentes tipos de tests. En segundo lugar, propondremos, si es posible, alguna solución, examinando el contexto en el que dicha solución es válida. En tercer lugar, se discuten los síntomas que delatan la violación de un supuesto y se desarrollan test formales de detección. Por razones 1.4

8 pedagógicas, en este capítulo se estudian los problemas de manera aislada, es decir, afectando un supuesto a la vez. El capítulo 6 extiende la tecnología anterior al área de los modelos no lineales. Esta es una literatura muy extensa y, posiblemente, aquella que se ha desarrollado con mayor interés en los últimos años como resultado del veloz desarrollo de la computación. La gran mayoría de los modelos no lineales se resuelven por medio de métodos de cálculo numérico debido a que no existen formas cerradas que permitan derivar expresiones matriciales simples para obtener los estimadores. En la primera parte de este capítulo se desarrolla el instrumental necesario para entender los métodos de optimización no lineal que se usan para la estimación de modelos no lineales. En la segunda parte se aplica dicho instrumental para derivar el estimador de mínimos cuadrados no lineales y los tests asociados. El capítulo 7 presenta una introducción a los modelos de datos de panel. Estos métodos combinan observaciones de corte transversal con observaciones de series de tiempo. Así, nos permiten responder preguntas que no pueden ser respondidas por modelos de corte transversal o series de tiempo por separado, porque usan información sobre una cohorte donde hay N individuos heterogéneos a los que se les observa repetidamente durante un periodo de tiempo T. La literatura de la econometría se expande de manera vertiginosa. Por ello, no tiene sentido intentar incluir un gran número de modelos, tests, estimadores y algoritmos de solución. Inevitablemente aparecerán mejores modelos, tests más precisos y estimadores más atractivos. El objetivo del libro es proveer al estudiante de una base sólida para entender las nuevas contribuciones que la econometría nos ofrece. 1.5

9 Capítulo 2 Teoría de Probabilidades 1 Por qué necesitamos estudiar teoría de probabilidades para analizar observaciones o datos de la realidad? Por qué no nos contentamos con hacer histogramas y usar medidas descriptivas? Supongamos que contamos con una muestra de datos de un fenómeno de interés. Podemos hacer un gráfico de frecuencias empíricas de los datos y derivar información útil. Figura 2.1 Inflación mensual en Chile, Aunque el gráfico anterior describe adecuadamente la distribución de una muestra para la inflación mensual en Chile en el periodo , los estadísticos descriptivos están confinados a dicha muestra. Cualquier pregunta respecto de la población de la cual se derivó la muestra no puede ser discutida. La esencia del trabajo econométrico es, en este sentido, proveer resultados generales a partir de muestras cuya información es limitada. La teoría de probabilidades provee un modelo matemático para la inferencia estadística que, al realizarse sobre una muestra de observaciones, permite estudiar fenómenos generales. Por eso, este capítulo repasa la principal teoría de probabilidades, en tanto que el siguiente revisa los fundamentos de la inferencia estadística clásica. 1 Probabilidad documentado por primera vez en francés en 1387 viene del latín probabilis y significa que puede ser probado.

10 Noción de Probabilidad El desarrollo de la noción de probabilidad procedió de manera intuitiva y asistemática hasta mediados del siglo 16. La siguiente definición de probabilidad que como veremos más adelante es insuficiente fue utilizada primero por Abraham De Moivre en y formalizada por Pierre-Simón de Laplace en : Def. 2.1: Si un experimento puede resultar en N resultados mutuamente excluyentes y equiprobables y si N A es uno de dichos resultados, entonces la probabilidad de A es: P A = N A N (2.1) Esta definición tiene dos problemas bastante obvios. Primero, se requiere que el número de posibles resultados sea finito. Segundo, y más importante, al usarse el concepto de equiprobable la definición de Laplace adolece de circularidad. Por ello se necesita una definición formal del concepto de probabilidad. Richard von Mises (1919) sintetiza una primera solución a los problemas anteriores, señalando que la noción de equiprobabilidad puede ser eliminada y, en su reemplazo, se puede hablar de frecuencia empírica de los datos. 4 Para que ésta sea de aplicación general, se requeriría: N A lim N =P A (2.2) N Así, por ejemplo, la probabilidad que al lanzar una moneda salga cara no es ½ porque de dos posibles eventos, cara es uno de ellos sino porque al repetir el experimento un número grande de veces se observa que cara sucede un 50% de los casos. Las limitaciones del enfoque frecuentista son también obvias. Entre ellas, qué significa límite cuando N tiende a infinito? Cómo generamos secuencias infinitas de eventos? Qué hacemos cuando no es posible generar secuencias arbitrarias de datos de un experimento? 2 "The probability of an Event is greater or less, according to the number of chances by which it may happen, compared with the whole number of chances by which it may either happen or fail." The Doctrine of Chances. 3 Théorie Analytique de Probabilités. Laplace expresa de forma sencilla el significado del cálculo de probabilidades: "En el fondo, la teoría de probabilidades es sólo sentido común expresado con números". 4 Grundlagen der Wahrscheinlichkeitsrechnung, Zeitschrift für Angewandte Mathematik und Mechanik, 5:52-99.

11 Lo que se necesita es una teoría de probabilidades con una sólida base matemática. Ella no estuvo disponible sino hasta los años Axiomatización de las Probabilidades El enfoque axiomático de probabilidades procede, naturalmente, de un conjunto de axiomas (verdades a priori) y ofrece una formalización matemática de la noción de probabilidad, cuyas ventajas radican en ser completo (todas las proposiciones de la teoría se derivan de los axiomas), no-redundante (ningún axioma puede ser derivado de otros), y congruente. 5 El trabajo fundacional para la econometría clásica en esta área es el de Andrei Kolmogorov (1933). 6 Existen otros trabajos fundacionales para la econometría Bayesiana. 7 El punto de partida es definir el experimento aleatorio, 8 que describe de manera idealizada y simplista el mecanismo que genera los datos (usualmente llamado proceso generador de los datos, PGD). En particular: Def. 2.2: Un experimento aleatorio, llamado E, es un experimento que satisface: I. Todos los posibles eventos resultantes son conocidos a-priori. II. En cada realización particular, el resultado no es conocido a-priori. III. Se puede repetir en idénticas condiciones. Un problema con la condición I es que es difícil de formalizar. Kolmogorov sugiere utilizar el conjunto S que contiene todos los posibles resultados de un experimento definidos antes de empezar el experimento. Así, 5 Con frecuencia se traduce erróneamente la palabra consistency por consistencia. El término correcto es congruencia (del Latín, coincidir), aunque el uso popular es inexacto como pasa con otras palabras (p.e., sofisticado). 6 Grundbegriffe der Wahrscheinlichkeitsrechnung, Ergebnisse der Mathematik und ihrer Grenzgebiete, J. Springer eds R. T. Cox, The Algebra of Probable Inference, Johns Hopkins University Press, Baltimore, MD, (1961). 8 El término aleatorio se popularizó a raíz del trabajo de Christiaan Huygens (De Ratiociniis in Ludo Aleae, 1657) sobre el cálculo de probabilidades en juegos de dados (aleae en latín). Aunque se considera que este es el primer libro de probabilidades de la historia, hay un libro anterior de Girolamo Cardano (Liber de Ludo Aleae, 1564) que está a mitad de camino entre manual de cómo apostar y libro de probabilidades. Huygens fue además un famoso astrónomo: descubrió la luna más grande de Saturno Titán y sus anillos (en 1655) y la nebulosa de Orión (en 1656).

12 2.4 Def. 2.3: El espacio muestral, llamado S, es el conjunto de todos los posibles resultados del experimento E. Los elementos de S se llaman eventos elementales. Por ejemplo, el experimento que consiste en lanzar una moneda al aire dos veces tiene como espacio muestral: {CC,CS, SC, SS }. Los elementos CC, CS, SC, SS son los eventos elementales. Por otro lado, al examinar la condición II notamos que el evento de interés no tiene por qué ser únicamente referido a eventos elementales y podría ser una función de ellos. Por ejemplo, el evento al menos una cara define el conjunto A 1 ={CC,CS,SC }, que no es un evento elemental. En esta lógica de definir conjuntos ( A 1, los eventos elementales, etc.), resulta natural incorporar los dos elementos clásicos de los conjuntos: el elemento vacío es en este contexto el evento imposible (denotado por ), en tanto que el mismo conjunto S es llamado el evento seguro. Un tercer problema es la noción de incertidumbre implícita en la definición de E. Es directo asociar probabilidad con evento elemental y, si sólo existieran éstos, no sería problema usar dicha asociación. La existencia de eventos no elementales complica el problema porque si A 1 es un evento que ocurre con P A 1, entonces A 1 =S A 1 también ocurre con alguna probabilidad cuando ocurre A 1. De hecho si existen dos eventos, A 1 y A 2, se deduce que A 1 A 2 y A 1 A 2 también ocurren. Entonces, habrá que imponer alguna estructura sobre dichas probabilidades con el fin que el modelo matemático sea congruente. Una alternativa sería usar el conjunto de todos los posibles A i y todas sus combinaciones y relaciones (es decir, el conjunto potencia de S). En el experimento de lanzar la moneda dos veces éste incluiría, aparte de los eventos elementales, eventos tales como que salga al menos una cara, que no salgan dos sellos, etc. Así, el conjunto potencia de este experimento es: F ={S,,CS,CC,SC,SS, SC,CS, SC, CC, SC, SS, CS,CC, CS,SS, CC,SS, CS, SC, CC, CS,SC, SS, CC,SS, SC, CC,SS,CS } (2.3) De esta manera incluiríamos en el espacio de los eventos, F, todas las posibles alternativas. De hecho, no importa cómo combinemos los elementos de F siempre obtenemos un elemento de F.

13 2.5 No obstante, cuando S es infinito es posible observar incongruencias (p.e., suma de probabilidades mayor que 1). 9 Así, debemos definir F independientemente de S o, lo que es lo mismo, debemos dotarlo de estructura matemática. Def. 2.4: Sea F un conjunto de sub-conjuntos de S. F es un σ-álgebra dado A F entonces A F (cerrado para el complemento) dado A i i =1, 2, entonces U i A i F (cerrado para uniones contables o enumerables) Ambas propiedades juntas implican que: S F (porque A A=S ) F (porque S= F ) A i F entonces U i A i F 10 si Dicho de manera más simple, cualquier operación (unión o intersección) de elementos de F produce un elemento de F. Obviamente el conjunto potencia de S es un σ-álgebra. Un resultado fundamental para nuestro análisis posterior de convergencia es que un σ-álgebra contiene todos los límites de secuencias de eventos, en tanto que un álgebra no necesariamente los contiene. Esta propiedad se deriva del hecho que el σ- álgebra es cerrado para uniones contables, en tanto que un álgebra es cerrado para uniones finitas solamente. Hasta aquí hemos resuelto el problema de incongruencias al postular la existencia de un σ-álgebra F asociado con un espacio muestral S (este par constituye un espacio medible). El último paso en la estrategia de Kolmogorov consiste en definir el concepto de probabilidad formalmente, para lo cual se usa el Teorema de Extensión de Constantin Caratheodory y la noción de medida de Henri Lebesgue 11. Empezamos primero con el caso más simple, en el cual S es finito. 9 Ejemplo, S={A 1, A 2, } tal que A 1 A 2 = i j y P A i =a 0, entonces P S = P A i = a 1. i =1 i =1 10 Algebra viene del título de un libro árabe Hisab al jabr w al muqâbalah escrito en 825 por Abu Ja'far Muhammad ibn Musa Al-Khwarizmi (de donde se deriva algoritmo ). De acuerdo a In Khoálsat al- Hisáh (Esencia de la Aritmética) escrito por Behá Eddin en Al-Jabr significa posiblemente reunión de partes quebradas (es decir, completación), en tanto que al-muqâbalah significa reducción o balanceo. El título se refiere a las operaciones de suma y resta necesarias para mantener balanceada una ecuación y resolverla. 11 Ver Probability Theory, S.R.S. Varadhan, Courant Lecture Notes #7, American Mathematical Society, 2001.

14 Def. 2.5: Probabilidad es una función conjunto en F que satisface los siguientes axiomas: Axioma 1: P A 0 para todo A F. Axioma 2: P S =1. Axioma 3: P U A i = P A i si {A i } es una secuencia de eventos mutuamente excluyentes en F (excluyentes significa que A i A j = i j ). 2.6 Es decir, probabilidad es una función conjunto con dominio en F y rango en el intervalo [0, 1]: P : F [0, 1] (2.4) La probabilidad es una medida en el sentido de Lebesgue. Medida es una función definida para un σ-álgebra del conjunto X y que toma valores en el intervalo [0, ] tal que se cumplen dos propiedades: (1) la medida del vacío es cero y (2) se cumple la aditividad contable (σ-aditividad), es decir, si tenemos una secuencia de conjuntos disjuntos, la medida total es la suma de las medidas individuales. Es conveniente notar que el axioma 2 opera simplemente como una normalización. Los dos primeros axiomas calzan tanto con la definición clásica de Laplace como con la frecuentista. El tercero es menos intuitivo, pero se resume en que la probabilidad de la unión de eventos no relacionados es la suma de las probabilidades individuales. Debido a su importancia, el trío S,F, P tiene un nombre particular: Def 2.6: Un espacio muestral S dotado de un espacio de eventos o σ-álgebra F y una función de probabilidades que satisface los axiomas 1 a 3 se llama espacio de probabilidades. Algunas propiedades interesantes de esta teoría de probabilidades son: P A =1 P A A F P =0 Si A 1 A 2 P A 1 P A 2 A 1, A 2 F P A 1 A 2 =P A 1 P A 2 P A 1 A 2

15 Si {A n } n=1 es una secuencia de eventos monótona (ordenada) en P lim n A n =lim n P A n F, entonces Un problema evidente de la construcción de probabilidades hecha de esta manera es que no puede usarse para enfrentar fenómenos con infinitos eventos. Por ejemplo, cómo le asignamos probabilidades al caso en que se tiran dos dados un número infinito de veces? Naturalmente, no podemos escribir el conjunto potencia como en la ecuación (2.3). De hecho, una pregunta crucial es si es posible construir una función que cumpla con las características que se le exige a la función de probabilidades cuando hay infinitos eventos. Usaremos dos elementos para extender el análisis al caso en cuestión: el teorema de extensión de Carathéodory y los álgebras de Borel. Un álgebra de Borel corresponde al siguiente conjunto. Supongamos que S es la recta de los reales R ={x : x } y que el conjunto de eventos de interés es J =B x : x R donde B x ={z : z x }=(,x ]. Es decir, el conjunto J incluye todos los intervalos de reales menores o iguales a x. Podemos construir un σ-álgebra en R? Usando la definición de σ-álgebra debiésemos partir de B x, luego añadir su complemento B x, e incluir todas las uniones enumerables de B x y B x. Con ello tendríamos el mínimo σ-álgebra generado por los eventos en B x, llamado J. Este es un conjunto verdaderamente grande, pues incluye todos los x, todos los (, x ], todos los (, x ), todos los x,, y todos los (x,z) tal que están ordenados, x<z. Esta álgebra es llamada álgebra de Borel, B, y permite incluir cualquier tipo de eventos, sean o no elementales, en R. 13 El teorema de extensión de Constantin Carathéodory prueba que para cualquier medida de probabilidad P(.) en el álgebra F puede extenderse de manera única al σ- álgebra generado por los reales. Note que esta medida extendida es única. La prueba de este teorema excede los objetivos del curso. Si aplicamos el teorema de extensión de Carathéodory al álgebra de Borel, entonces podemos dotar de una medida a cualquier conjunto de eventos. Si esta medida es la medida de probabilidad definida más arriba, podemos dotar de estructura de probabilidades a cualquier conjunto de eventos, pero al costo de generar álgebras verdaderamente complejas. 12 Usaremos esta propiedad frecuentemente más adelante. 13 Los conjuntos de Borel también se denominan conjuntos de Baire ( ).

16 Variables Aleatorias En la sección anterior hemos construido el enfoque axiomático de probabilidades sobre la base del trío S,F, P. Ahora usaremos este enfoque para estudiar variables, probabilidades de eventos y, al final, modelación de incertidumbre. El espacio de probabilidades fue sugerido como una formalización un tanto rígida de un experimento E. Intuitivamente la conexión entre los tres elementos queda descrita en la Figura 2.2. Evidentemente, es difícil pensar en funciones de probabilidades a partir de la Figura 2.2. Habría que tabular todos los elementos de F y luego construir un sistema congruente de P. Figura 2.2 (CC) (CS) (SC) (SS) Ф (CC) (CS) (SC) (SS) (CS,SC,CC) (CS,SC,SS) (SS,CC) S 0 ¼ ½ ¾ 1 S F P( ) Si los resultados del experimento fuesen descritos directamente por medio de atributos cuantificables, entonces tendríamos un enfoque mucho más flexible que S,F, P. Eso es, por lo demás, lo que sucede usualmente en economía. Ese es el papel que juegan las variables aleatorias. La variable aleatoria es una función X que mapea el conjunto S directamente en los reales, R, es decir: X : S R + (2.5)

17 y asigna a cada elemento de S un valor en los reales positivos, x i. Gráficamente, el conjunto de eventos obtener sellos al lanzar dos monedas corresponde a: 2.9 Figura 2.3 (CC) (CS) (SC) (SS) S X( ) R La pregunta que nos preocupa es, obviamente, si esta variable aleatoria es capaz de mantener la congruencia del análisis de probabilidades al haber eliminado F. La respuesta, no muy sorprendentemente, es no. Las probabilidades fueron asignadas a eventos en F, en tanto que X asigna valores a elementos de S. Así el problema radica en cómo escoger X tal que al asignar valores de S en R se preserve el orden impuesto en F, es decir, que preserve uniones, intersecciones y complementos. Ello es equivalente a pensar en que la (imagen) inversa de X debe ser un evento en F. De esta manera, una variable aleatoria será cualquier función que preserve el ordenamiento de los eventos para un σ-álgebra determinado, usualmente el álgebra de Borel, B Def. 2.7: Una variable aleatoria X es una función que toma valores reales y que mapea de S a R y que satisface la condición que para cada conjunto de Borel B B en R, el conjunto X 1 B ={ s : X s B,s S } es un evento en F.

18 2.10 Algunas implicaciones importantes de la definición anterior son: Una variable aleatoria está siempre definida relativa a un espacio de eventos, F. Al decidir si alguna función Y : S R es una variable aleatoria procedemos siempre de los elementos del espacio de Borel B al espacio de eventos, F y no viceversa. Una variable aleatoria no es variable ni aleatoria. Note que la pregunta es Z :S R una variable aleatoria? no tiene ningún sentido si no se especifica el espacio de eventos F asociado. En algunos casos habrá Z 14 que es una variable aleatoria para algunos F y no para otros. Para estos últimos siempre se puede general el mínimo σ-álgebra, tomando uniones, intersecciones y complementos. Es directo demostrar que estos mínimos σ-álgebras no tienen por qué calzar con F, pero que frecuentemente son subconjuntos de éste. Adicionalmente, si X 1 y X 2 están definidos para un mismo espacio de probabilidades y definimos operaciones con ellos, por ejemplo, Z=X 1 X 2, entonces los mínimos σ-álgebras generados por estas variables aleatorias son subconjuntos ordenados de F: X 1 Z F En términos prácticos, este último argumento sugiere que al estudiar una variable aleatoria nos estamos concentrando en una parte (el σ-álgebra asociado) del experimento completo F. Note que la variable aleatoria no es aleatoria en el sentido que la noción de probabilidad no entra en su definición sino que se le asigna para completar el modelo del experimento aleatorio. Y tampoco es una variable, sino que es una función de valor real. Como vemos, la definición popular de variable aleatoria (p.e., Greene 15 usa Función cuyo rango de valores es conocido ex-ante pero el valor que toma es sólo conocido expost) esconde la verdadera naturaleza de la variable aleatoria, porque menoscaba el concepto de función incluido en la definición y enfatiza el de variable. Recapitulando, una variable aleatoria X relativa a F mapea S en un subconjunto de la línea de los reales. El espacio de Borel B en R juega el papel que antes ocupaba F. 14 Esto no es tan extraño: en un experimento en el que hay hombres y mujeres, el género es una variable aleatoria. Pero si sólo seleccionamos hombres o mujeres, el género ya no es una variable aleatoria. 15 Econometric Analysis, Prentice Hall, Tercera Edición, 1997, p. 62.

19 Falta, por lo tanto, asignarle probabilidades a los elementos B de B, es decir, definir una función: P x :B [0,1] tal que P x B =P X 1 B P s : X s B, s S para todo B en B Note que no es necesario definir todos los elementos de B, porque cada uno de sus elementos puede ser escrito como un intervalo semi-cerrado del tipo (-,x]. Así, eligiendo los intervalos de manera adecuada, podemos construir fácilmente la función de probabilidad de X. Por ejemplo, en el caso del lanzamiento de dos monedas descrito en el Cuadro 2.1. Cuadro 2.1 S X 1 X 2 X {C,C} {C,S} {S,C} {S,S} las probabilidades son simplemente: P x ({0})=¼ P x ({1})=½ P x ({2})=¼ P x ({0} {1})=¾ P x ({0} {2})=½ P x ({1} {2})=¾ P x ({0} {1} {2})=1 P x ({0} {1})=0 P x ({0} {2})=0 P x ({1} {2})=0 P x ({0} {1} {2})=0 Note que no es necesario asignarle a cada elemento de la recta real una probabilidad sino que definimos el problema por intervalos: ] =[ 0 x 0 ] P x (, x ¼ 0 x 1 (2.6) ¾ 1 x x

20 2.12 Recapitulando, empezamos con un experimento 16 E definido en el espacio de probabilidades S,F,P y luego hemos definido la variable aleatoria X definida en un espacio de probabilidades equivalente ( R, B, P x ). La ventaja de este último es que es más fácil manejar elementos en la recta real que elementos en conjuntos arbitrarios. Gráficamente: Figura 2.4 (CC) (CS) (SC) (SS) Ф (CC) (CS) (SC) (SS) (CS,SC,CC) (CS,SC,SS) (SS,CC) S 0 ¼ ½ ¾ 1 S F P( ) R B P x ( ) Lo último que falta es definir apropiadamente P x. Hasta el momento esta función sigue siendo arbitraria en un subconjunto de los R +, pero lo que se requiere es una función punto (es decir, que mapee punto a punto). Recordemos que todos los elementos del espacio de Borel pueden ser descritos como intervalos (, x] lo que permite definir la función F : R [0,1] de la siguiente manera: P x (,x ] =F x F =F x (2.7) 16 Tal vez el énfasis en la noción de experimento pueda parecer exagerada. R.A. Fisher nos ofrece una contundente visión de la importancia del diseño del experimento To call in the statistician after the experiment is done may be no more than asking him to perform a postmortem examination: he may be able to say what the experiment died of (Indian Statistical Congress, Sankhya, 1938).