Esperanza condicionada Apuntes de clase Probabilidad II (grupos 31 y 40) Curso

Transcripción

1 Esperanza condicionada Apuntes de clase Probabilidad II (grupos 31 y 40) Curso Antonio Cuevas Departamento de Matemáticas Universidad Autónoma de Madrid

2 Probabilidad y esperanza condicionada: recordatorio del enfoque elemental Sea X una v.a. X : (Ω, A, P) (R k, B(R k )). Recordemos el enfoque elemental a la idea básica de probabilidad condicionada: En teoría de probabilidad elemental, si P(X = x) > 0, y A A se define P(A X = x) = P(A {X =x}) P(X =x) Cuando P(X = x) = 0, se puede obtener, bajo ciertas condiciones reemplazando P(A X = x) pot P(A X ( ɛ, ɛ)) y pasando al ĺımite. Si Y es otra v.a. (con valores reales) se puede definir F (y x) = P(Y y X = x). En el caso absolutamente continuo, bajo condiciones relativamente fuertes, se obtenía que F (y x) es absolutamente continua con densidad f (y x) = f (x,y) f X (x), siendo f (x, y), f X las densidades de (X, Y ) y de X. Se define E(Y X = x) = yf (y x)dy.

3 Inconvenientes del enfoque elemental Es difícil de implementar cuando se desea condicionar a una familia (no necesariamente finita) de v.a. s. Hay que imponer condiciones incómodas y artificiales para garantizar la existencia del ĺımite que define la probabilidad condicionada.

4 El enfoque general, basado en teoría de la medida Nuestro objetivo es dar una definición general, válida bajo condiciones mínimas, de la esperanza condicionada y, como caso particular, de la probabilidad condicionada. Esta definición será aplicable al caso en que la información que condiciona venga dada por una familia cualquiera de variables aleatorias. Para obtener este grado de generalidad utilizaremos nociones de teoría de la medida y renunciaremos a definir la esperanza condicional (o la probabilidad condicional) punto a punto. Las definiremos más bien como funciones cuyos valores pueden alterarse en conjuntos de medida cero y aún siguen cumpliendo las condiciones establecidas en la definición.

5 Por qué son importantes la esperanza condicionada y la probabilidad condicionada? Herramientas de cálculo: P(A) = P(A X = x)dp X (x), E(Y ) = E(Y X = x)dp X (x) Herramientas de predicción: E(Y X ) es la mejor predicción (en el sentido del error cuadrático medio) de Y en términos de X. r(x) = E(Y X = x) se denomina función general de regresión de Y respecto a X. Herramientas conceptuales para definir y manejar algunas ideas naturales y sumamente importantes (procesos markovianos, martingalas, etc.) En todas estas aplicaciones, no interesa tanto tener E(Y X = x) (o P(A X = x)) definida para cada x particular, sino más bien tenerlo definido globalmente como una función medible, que puede cambiarse en un conjunto de puntos de probabilidad 0 sin que eso cambie los resultados y la utilidad del concepto en nada esencial. Necesitaremos unos conceptos preliminares.

6 σ-álgebra generada por una v.a. (I) X : (Ω, A, P) (R k, B(R k )) v.a. Se define la σ-álgebra generada por X, σ(x ), como la clase de los conjuntos de A que se definen en términos de los valores de X. Formalmente σ(x ) = {X 1 (B) : B B} Es claro que σ(x ) A es una sub-σ-álgebra de A. La idea importante es que, dos v.a. que tienen la misma σ-álgebra asociada son función una de otra:

7 σ-álgebra generada por una v.a. (II) Sean X 1, X 2 : (Ω, A, P) (R k, B). Sea σ(x 1 ) la σ-álgebra generada por X 1 en A. Se demuestra que X 2 es σ(x 1 )-medible (es decir, X2 1 (B) σ(x 1 ), para todo B B) si y sólo si existe g : R k R k medible tal que X 2 = g(x 1 ). La dem. es sencilla: Es claro que si X 2 = g(x 1 ) entonces g(x 1 ) es σ(x 1 )-medible. Para el recíproco, recordemos que la clase de funciones medibles (respecto a cualquier σ-álgebra dada) coincide con la mínima clase de funciones que contiene a las indicatrices y es cerrada por adición y convergencia puntual. Pero la clase X de funciones que son de la forma g(x 1 ) verifican exactamente esta propiedad respecto a σ(x 1 ): en efecto, se tiene I A X, para todo A σ(x 1 ) y X es obviamente cerrada por adición. Por último, tomemos una sucesión g n (X 1 ) tal que g n (X 1 ) X 2. Hay que probar que X 2 X. Para verlo definamos el conjunto B = {lim g n existe}. Se tiene que B B y Ω = {X 1 B}. Definamos ahora g = lim g n en B y g = 0 en B c.

8 σ-álgebra generada por una familia de v.a. Sea X t, t I una familia de v.a. s definidas en (Ω, A, P). Se define σ(x t, t I ) = σ ( t σ(x t )). Intuitivamente, σ(x t, t I ) es el conjunto de sucesos que pueden definirse en términos de los valores de las X t.

9 Una definición global basada en nociones de teoría de la medida Sea Y una v.a. real, definida en (Ω, A, P) y con E(Y ) finita. Dada una sub-σ-álgebra D A, se define la esperanza condicionada de Y, dada D como una v.a., denotada por E(Y D), D-medible tal que YdP = E(Y D)dP, D D. D D Cuando D = σ(x ), se denota E(Y D) = E(Y X ). Cuando D = σ(x t, t I ), se denota E(Y D) = E(Y X t, t I ). Cuando Y = I A, para A A, se denota E(I A D) = P(A D).

10 Algunas observaciones a la definición En general Y E(Y D), a menos que Y fuera D-medible. Cuando D = σ(x ) la condición de que E(Y D) sea D-medible equivale simplemente a decir que E(Y X ) es función medible de X. Cuando D = σ(x t, t I ) la condición de que E(Y D) sea D-medible equivale simplemente a decir que E(Y X t, t I ) es una función medible que depende de las X t.

11 Existencia y unicidad La existencia y la unicidad c.s. (P) está garantizada por el Teorema de Radon-Nikodym aplicado a las medidas en (Ω, D), µ 2 (D) = YdP y D µ 1 (D) = P(D). Obsérvese que µ 2 << µ 1 (en general, µ 2 es una medida signada). La unicidad esencial (c.s.) de E(Y D) significa que si E(Y D) y E (Y D) son dos funciones que cumplen la definición (o dos versiones de la esperanza condicionada), entonces E(Y D) = E (Y D), c.s.

12 Expresiones en el espacio final: Definiciones de E(Y X = x) y P(A X = x) (I) Si X es una v.a. con valores en R k, se puede definir las funciones E(Y X = x) y P(A X = x) simplemente utilizando el teorema de cambio de espacio de integración para la integral D E(Y D)dP y recordando que los conjuntos de D son de la forma D = X 1 (B) = {X B} siendo B un conjunto boreliano R k. En definitiva, se definen, respectivamente, E(Y X = x) y P(A X = x) como funciones de R k en R que cumplen las siguientes igualdades:

13 Expresiones en el espacio final: Definiciones de E(Y X = x) and P(A X = x) (II) {X B} YdP = B P(A {X B}) = E(Y X = x)dp X (x), B B (1) B P(A X = x)dp X (x), B B, (2) donde B denota la σ-álgebra de Borel en R k. En particular, poniendo B = R k en (1) y (2), se tiene la fórmula de la esperanza reiterada, E(Y ) = E(Y X = x)dp X (x) y la fórmula de la probabilidad total P(A) = P(A X = x)dp X (x).

14 Propiedades básicas 1. E(Y ) = E(E(Y D)) 2. Si Y es D-medible entonces Y = E(Y D), c.s. 3. Linealidad: E(a 1 Y 1 + a 2 Y 2 D) = a 1 E(Y 1 D) + a 2 E(Y 2 D), c.s. 4. Positividad: Si Y 0 entonces E(Y D) 0, c.s. 5. Conv. monótona: Si 0 Y n Y, E(Y n D) E(Y D), c.s. 6. Convergencia dominada: Si Y n Z con E(Z) <, Y n Y implica E(Y n D) E(Y D), c.s. 7. Des. de Jensen: Si g es convexa con E( g(y ) ) <, E(g(Y ) D) g(e(y D)), c.s. Un corolario importante: E(Y D) p Y p, para p Tower property : Si D 0 D E(E(Y D) D 0 ) = E(Y D 0 ), c.s. 9. Lo que es conocido sale fuera : Si Z es D-medible con E Z <, E ZY <, entonces E(ZY D) = ZE(Y D). 10. Si F es independiente de σ(σ(y ), D), E(Y σ(d, F)) = E(Y D), c.s. En particular si σ(y ) es independiente de D, E(Y D) = E(Y ), c.s.

15 La esperanza condicionada como proyección Sea Y v.a. real con E(Y 2 ) < (es decir, Y L 2 (Ω, A, P)). Sea X otra v.a. (real o vectorial). Se verifica E (Y E(Y X )) 2 = min g G E (Y g(x ))2, donde G denota el espacio de las funciones reales medibles tales que E(g 2 (X )) <. Además, la función E(Y X ) es esencialmente única: si g es cualquier función de G para la que E ( (Y E(Y X ) 2) = E ( (Y g (X ) 2), entonces g (X ) = E(Y X ) c.s. (es decir, con probabilidad 1). Este resultado se puede expresar de manera alternativa (y algo más general) diciendo que E(Y D) es la proyección de la v.a. Y en el subespacio L 2 (D) de L 2 = L 2 (Ω, A, P) formado por las va. s D-medibles de cuadrado integrable.

16 La esperanza condicionada como herramienta de predicción. Definición general de proceso de Markov Predicción.- El anterior razonamiento prueba que E(Y X t, t I ) es la MEJOR APROXIMACIÓN (O PREDICCIÓN ) DE Y a partir de las X t, t I. Esta aplicación es extremadamente importante en las aplicaciones prácticas del cálculo de probabilidades y la estadística en Ciencias Experimentales y Finanzas. La función g(x ) = E(Y X ) se denomina función general de regresión de Y sobre X. Procesos de Markov.- Se dice que un proceso estocástico {X t } t 0 es de Markov si B y s < t se verifica P(X t B D s ) = P(X t B X s ), con D s = σ(x u, u s). Muchos de los procesos estocásticos usuales son markovianos. Éste es, por tanto, un concepto fundamental que se define en términos de esperanza condicionada.

17 Probabilidad condicionada regular (I) Recordemos que P(A D) = P(A D)(ω) es una v.a. Si {A n } es una sucesión de sucesos disjuntos, la probabilidad condicionada verifica P( A n D) = n P(A n D), c.s. (3) Sin embargo, el conjunto excepcional en el que deja de cumplirse (3) depende de la sucesión {A n } de modo que puede cumplirse que, dependiendo de la versión de la pr. condicionada que hayamos elegido, NO se verifique que, para cada ω fijo P( D)(ω) sea una medida de probabilidad.

18 Probabilidad y distribución condicionada regular (II) Dada una v.a. Y estamos especialmente interesados en probabilidades condicionadas de la forma P(Y B D). Puede demostrarse que, entre todas las versiones de P(Y B D) existe una versión canónica, P (Y B D), que define llamada distribución condicionada regular, denotada por P Y (B D) = P (Y B D), tal que P Y ( D)(ω) es efectivamente una medida de probabilidad en (R, B). Se tiene entonces que, para cualquier v.a. Y con esperanza finita, E(Y D)(ω) = ydp Y (y D)(ω) c.s. (P). R En particular, cuando D = σ(x ), expresando esto con la fórmula de cambio de espacio de integración, E(Y X = x) = ydf (y X = x), c.s.(p X ). R Ésta es la forma más usual de calcular esperanzas condicionadas en los problemas elementales. Por ej., si hay densidad conjunta f (x, y), se obtiene la distribución condicionada regular F (y X = x) como la distribución correspondiente a la densidad (en y) f (y x) = f (x,y) f 1(x).