2.3. Análisis bayesiano para datos normales

Transcripción

1 2.3. Análisis bayesiano para datos normales Análisis bayesiano para datos normales Otra de las situaciones más frecuentes en la práctica estadística es aquella en la que nos encontramos con datos que provienen de una población Normal. Esta situación tan frecuente introduce un grado de complejidad superior al que hemos visto en las secciones anteriores pero también puede ser resuelto de forma inmediata bajo la perspectiva bayesiana. Esta complejidad viene determinada por el hecho de que podemos considerar al problema de la inferencia en poblaciones normales como un problema con dos parámetros de interés. Por ejemplo, supongamos el caso más sencillo de una observación muesral x µ, N µ, ), y por lo tanto el parámetro de interés es µ, ). En tal caso, la distribución a posteriori conjunta se deduce también del Teorema de Bayes πµ, x) Lx µ, ) πµ, ), y por tanto la densidad a priori habrá de ser asignada para el parámetro conjunto µ, ). Las densidades a posteriori de cada una de los parámetros marginales) se obtiene entonces de la a posteriori conjunta sin más que considerar πµ x) = + 0 π x) = πµ, x)d = πµ, x)dµ = πµ, x)π x)d, 2.25) + π µ, x)πµ x)dµ, 2.26) Observemos que el cálculo de las marginales puede por tanto hacerse directamente de la conjunta o bien como una mixtura de las distribuciones condicionadas a posteriori. En general por tanto, nos encontramos con una muestra aleatoria simple de una población normal x = x 1,..., x n ) N µ, ), en tal caso la verosimilitud de los datos tendrá la expresión Lx µ, ) = 2π) n/2 ) n/2 exp 1 2 n i=1 x i µ) 2 }. 2.27) Frecuentemente en el análisis bayesiano suele utilizarse el parámetro τ denominado precisión en lugar de la varianza, pues interpreta de forma directa la dispersión de una variable aleatoria ya que viene definido por τ = 1, en términos σ2 de µ y τ la verosimilitud anterior puede reescribirse como } Lx µ, τ) = 2π) n/2 τ) n/2 exp τ n x i µ) ) 2 Mediante diferentes situaciones que paulatinamente irán incrementando el grado de complejidad resolveremos este modelo. i=1

2 88 Inferencia bayesiana Caso de media desconocida y varianza conocida: análisis conjugado Consideremos una primera situación en la que la varianza es conocida y que por tanto, el único parámetro desconocido será la media µ, sobre la que deseamos hacer inferencia. La verosimilitud 2.28) tendrá ahora la expresión Lx µ) exp 1 2 n i=1 x i µ) 2 }, 2.29) donde hemos prescindido en términos de proporcionalidad) de la parte conocida recordemos que aquí es conocida). El único parámetro a estimar en este modelo será la media de la distribución normal. Consideremos para este caso, una densidad a priori para µ del tipo N µ 0, σ0) 2 con µ 0, σ0 2 conocidos, es decir, πµ) exp 1 µ µ 0 ) 2 ) 2.30) 2 Teorema 2.3 Para el caso de verosimilitud Normal con varianza conocida, con densidad a priori πµ) de tipo N µ 0, σ0) 2 se tiene que la densidad a posteriori es también Normal con parámetros a posteriori Eµ x) = µ 0 0) 1 0 ) 1 + /n) 1 Varµ x) = ) + x 0 1) 1 0 ) 1 + /n) 1 ) 2.31) 1 0 ) 1 + n ) ) Además la distribución predictiva de una futura observación es también de tipo Normal. Demostración: En efecto realizando el producto de 2.29) con 2.30) tenemos: πµ x) exp 1 n i=1 x i θ) 2 ) 2 exp 1 µ µ 0 ) 2 ) 2 σ0 2 exp 1 n i=1 x2 i 2µ n i=1 x i + nµ µ2 2µµ 0 + µ 2 )} 0 σ0 2 exp 1 n µ ) n x σ0 2 + µ σ + µ ))} 0 exp 1 µ µ 1 ) 2 } σ 0 2 σ1 2. Observemos además que X N µ, /n), luego para la distribución predictiva de una simple nueva observación y sólo tenemos que considerar que y = y µ)+µ y teniendo en cuenta que ambos sumandos son independientes uno de otro y que y µ) N 0, ),

3 2.3. Análisis bayesiano para datos normales 89 µ N µ 1, 1) se tiene que y N µ 1, + 1). Observemos que en términos de precisión hemos obtenido que la precisión a posteriori cumple la relación τ 1 = τ 0 + nτ, 2.33) es decir, que la precisión a posteriori es la suma de las precisiones a priori y la suma n veces de la precisión de los datos que se supone conocida). Para la media a posteriori también podemos deducir que, Eθ x) = µ 1 = µ 0 τ 0 τ 0 + nτ + x τ 1 τ 0 + nτ es decir, la esperanza a posteriori se puede expresar como una media ponderada de la media a priori y la media muestral. Vemos de nuevo que la familia de distribuciones a priori Normal bajo muestre también Normal en el caso de varianza conocida) es una familia conjugada. Ejemplo 2.21 Una de las cantidades de interés en la estadística actuarial junto con el número de reclamaciones que se reciben, es la cantidad reclamada o también denominada cuantía de la reclamación). Veamos un ejemplo simplificado para esta situación. Supongamos que tratamos de estudiar la cuantía de las reclamaciones en una determinada póliza de un asegurado para una determinada cartera. El investigador asume que dicha cantidad se distribuye de forma normal, con media µ y varianza conocida e igual a 200 euros. Realizar la inferencia bayesiana considerando como densidad a priori para µ N 500, 200), conocidas las últimas 5 reclamaciones de un determinado cliente: 450, 500, 650, 600 y 550 euros, cada una. Solución: Puesto que estamos en las condiciones del teorema 2.3 basta con que identifiquemos cada elemento para obtener de forma inmediata la densidad a posteriori. En este caso, n = 5, µ 0 = 500, = 200 = 0, x = 550, de donde se deduce que la densidad a posteriori de µ es N 541,7; 33,33). Con esta densidad a posteriori podemos desarrollar toda la inferencia sobre µ. El caso Normal-Normal es especialmente bien comportado para la estimación puntual puesto que al ser una distribución simétrica y unimodal, tanto media como mediana y moda coinciden. En este caso valen 541,7 es decir, un estimador bayesiano puntual de la cuantía media de una reclamación para esta cartera es 541,7 euros). Un intervalo bayesiano de credibilidad al 95 % se obtiene fácilmente de cualquier tabla de la distribución Normal o bien, utilizando FirstBayes. En la figura 2.24 puede verse el caso de este ejemplo. Sólo debemos considerar ahora que el análisis que haremos es con varianza conocida Normal sample, known variance en la pestaña de Analyses de FirstBayes) y que en la opción Data variance esquina superior derecha) debemos indicar 200. Los resultados obtenidos pueden verse en la figura 2.25, de

4 90 Inferencia bayesiana donde vemos que el intervalo bayesiano de credibilidad con probabilidad 0,95 es [530,35; 552,98], lo que podemos interpretar como que con probabilidad 0,95 la cuantía media de una reclamación de dicha cartera está comprendida entre 530,35 y 552,98 euros. Figura 2.24: Información a priori para el ejemplo 2.21 Ejemplo 2.22 Continuación ejemplo 2.21) Obtener la distribución predictiva de la cuantía de una nueva reclamación. Solución: Los resultados del Teorema 2.3 nos determinan directamente que la distribución predictiva de una nueva cantidad será N 541,7; 233,33). En la figura 2.26 pueden verse los mismos resultados obtenidos en FirstBayes donde se ha incorporado también un intervalo bayesiano con probabilidad 0,95 para esta futura observación. En este caso, obtenemos que dicho intervalo vale [511,72, 571,61], que interpretaremos de la siguiente manera: con probabilidad 0,95 la cantidad reclamada en una nueva observación estará comprendida entre 511,72 y 571,61 euros. Los contrastes bayesianos para esta situación también se realizan de forma sencilla siguiendo los pasos de la sección Para el caso hipótesis nula simple frente alternativa simple H 0 : µ = µ 0 vs H 1 : µ = µ 1, bastará con obtener el

5 2.3. Análisis bayesiano para datos normales 91 Figura 2.25: Cantidades a posteriori para el ejemplo 2.21 Figura 2.26: Distribución predictiva para el ejemplo 2.22

6 92 Inferencia bayesiana odds a posteriori mediante p 0 p 1 = π 0 π 1 Lx µ 0) Lx µ 1 ) = π 0 π 1 exp exp n 1 2 n 1 2 } i=1 x2 i 2n xµ0+nµ2 0 }, 2.34) i=1 x2 i 2n xµ1+nµ2 1 siendo π 0 y π 1 las probabilidades a priori de cada hípótesis. De donde deducimos que el factor Bayes vale B 01 = exp 1 nµ 2 0 µ 2 } 1) 2n xµ 0 µ 1 ) ) El siguiente ejemplo ilustra el caso de hipótesis nula y alternativa compuesta. Ejemplo 2.23 Continuación ejemplo 2.21) Supongamos que en el caso del ejemplo 2.21 estamos también interesados en realizar el contraste H 0 : µ 525 vs µ > 525. Solución: El contraste propuesto pasa por calcular los odds a priori y posteriori así como el factor Bayes asociados. Cada una de estas cantidades se obtienen directamente de las densidades a priori y a posteriori utilizadas que en este caso son N 500, 200) y N 541,7, 33,33), respectivamente. La figura 2.25 tiene las cantidades necesarias: π 0 π 1 = 0,961 0,339 2,835, p 0 p 1 = 0,002 0,998 0,002, B 01 0,0007, de donde deducimos que los datos no aportan ninguna evidencia en favor de H Caso de media conocida y varianza desconocida: análisis conjugado Analizamos ahora el caso en que la media µ = µ 0 es conocida y es el parámetro desconocido de esta situación sobre el que necesitamos hacer inferencia. La verosimilitud será la siguiente: Lx ) ) n/2 exp 1 n i=1 x i θ) 2 ) 2 ) n/2 exp 1 n i=1 x i x) 2 + n x θ) 2 ) 2 ) n/2 exp 1 2 S + n x θ) 2 ) )

7 2.3. Análisis bayesiano para datos normales 93 donde S = n x i x) 2. i=1 Como distribución a priori del parámetro suponemos una distribución chi cuadrado inversa de parámetro S 0 y ν 0 grados de libertad, en notación χ 2 S 0, ν 0 ), cuya densidad puede ser escrita en la forma: π ) ) ν0/2 1 exp 12 ) S 0/. Sus medidas descriptiva más usuales son: E[ ] = S 0 ν 0 2 para ν 0 > 2, Var[ ] = 2S 2 0 ν 0 2) 2 ν 0 4) para ν 0 > 4, Moda[ ] = S 0 ν La obtención de la distribución a posteriori para se realiza teniendo en cuenta que π x) ) ν0+n)/2 1 exp 1 2 } S 0 + S, 2.36) y por tanto nuevamente tenemos una chi cuadrado inversa de parámetro S 0 + S) y ν 0 + n grados de libertad. Nuevamente la propiedad de conjugación aparece en este caso para facilitarnos el cálculo de las distribuciones a posteriori Caso de media y varianza desconocida: análisis conjugado Generalizamos ahora las situaciones anteriores al caso más complejo posible en el que ambos parámetros se consideran desconocidos. La expresión de la verosimilitud es análoga a las anteriores, siendo S = Lx µ, ) ) n/2 exp 1 2 n x i x) 2. i=1 S + n x µ) 2 ) ) La especificación de las distribuciones a priori es la siguiente: µ N µ 0, /n 0 ),

8 94 Inferencia bayesiana χ 2 S 0, ν 0 ). Los casos anteriores pueden considerarse casos particulares de esta situación puesto que coinciden con ella bajo el supuesto en muchas ocasiones prácticas utilizado) de que ambos parámetros son independientes y cada uno de ellos conocido, en cada caso. La distribución a priori conjunta será del tipo Normal chi cuadrado inversa. πµ, ) ) ν0+1)/2 1 exp 12 } S 0 + n 0 µ µ 0 ) 2 )/ = donde Q 0 µ) es la forma cuadrática ) ν0+1)/2 1 exp 12 ) Q 0µ)/ Q 0 µ) = n 0 µ 2 2n 0 µ 0 )µ + n 0 µ S 0 ). La distribución a posteriori conjunta se obtiene como combinación de la distribución a priori y la verosimilitud normal πµ, x) πµ, ) Lx µ, ) ) ν1+1)/2 1 exp 12 ) Q 1µ)/, 2.37) donde ν 1 = ν 0 + n y la expresión cuadrática Q 1 µ) es: Q 1 µ) = S 1 + n 1 µ µ 1 ) 2 = n 1 µ 2 2n 1 µ 1 )µ + n 1 µ S 1 ) donde n 1 = n 0 + n, µ 1 = n 0µ 0 + n x n 1, S 1 = S 0 + S + n 0 µ n x n 1 µ 2 1. De la distribución conjunta a posteriori podemos ahora deducir las distribuciones marginales a posteriori. La distribución condicional a posteriori πµ, x) La densidad a posteriori de µ dados y x es proporcional a la a posteriori conjunta dada en 2.37) con constante, µ, x N µ 1, /n).

9 2.3. Análisis bayesiano para datos normales 95 La distribución marginal a posteriori, π x) La densidad marginal a posteriori de dados x se obtiene analíticamente de π x) = πµ, x)dµ, siendo πµ, x) la densidad a posteriori conjunta dada en 2.37). Ahora bien separando los términos en los que no están implicados directamente términos en µ se deduce trivialmente que dicha distribución marginal) a posteriori es χ 2 S 1, ν 0 +n). Justamente lo deducido en la sección anterior para el caso de media conocida. La distribución marginal a posteriori, πµ x) Para la obtención de la densidad marginal a posteriori de µ dado x debemos integrar la densidad conjunta con respecto a. Acudiendo a la expresión 2.37) observamos que la marginal será proporcional a πµ x) S 1 + n 1 µ µ 1 ) 2} ν 1+1)/2, 2.38) que corresponde a una distribución t Student con parámetro de localización x, parámetro de escala s y ν 1 grados de libertad. En general, una variable aleatoria tendrá una distribución t Student con parámetro de localización µ, parámetro de escala σ y ν grados de libertad, en notación θ t ν µ, ), cuando su densidad tenga la expresión πθ) = Γν + 1)/2) Γν/2)σ νπ ν La medidas descriptivas más habituales de esta variable son Varθ) = ) ) 2 ν+1)/2 θ µ. 2.39) σ Eθ) = µ, para µ > 1, ν ν 2 σ2, para ν > 2, Moda θ) = µ. Esta distribución puede transformarse a la habitual t Student con ν 1 grados de libertad considerando la transformación siendo s 2 1 = S 1 ν 1 y n 1 = n 0 + n. µ µ 1 s 1 / n 1,

10 96 Inferencia bayesiana Caso desinformativo Al igual que en los modelos considerados en secciones anteriores, existe la posibilidad de realizar una análisis con datos normales considerando el caso en el que el experto no desea incorporar conocimiento a priori porque no lo tenga o porque desee dar todo el peso de su decisión a la información de los datos, o por ambas cosas al mismo tiempo). La asignación desinformativa para este caso consiste en asumir que µ y son independientes y ambas les asignamos las siguientes densidades desinformativas tmabién conocidas como de Jeffreys como veremos en la sección ), πµ) 1, π ) ) 1, de donde se tiene que la densidad a priori conjunta no informativa es πµ, ) ) ) Todo el análisis a posteriori se puede seguir de forma paralela a como se ha realizado anteriormente. Sin embargo, en este caso el cálculo puede ser mucho más sencillo si observamos que estamos ante una situación como la descrita anteriormente pero con valores límite de las cantidades siguiente: ν 0 = 1, n 0 = 0, S 0 = 0 y Q 0 µ) = 0, de donde deducimos automáticamente las densidades a posteriori de los parámetros de interés. Ejemplo 2.24 Continuación ejemplo 2.21: media y varianza desconocidas) Para el caso del ejemplo 2.21 realizar las mismas inferencias para el caso no informativo a priori. Solución: Los resultados obtenidos anteriormente y teniendo en cuenta que estamos en el caso no informativo, es decir, ν 0 = 1, n 0 = 0, S 0 = 0 y Q 0 µ) = 0, junto con n = 5 y x = 550, nos permiten obtener analíticamente todas las distribuciones marginales) a posteriori y en consecuencia sus medidas de interés. FirstBayes incluye también esta posibilidad mediante el análisis Normal sample, unknown variance de su pestaña Analyses. La figura 2.27 muestra los valores obtenidos para los estimadores bayesianos. Como vemos la distribución a posteriori de µ es t Student generalizada cuya media a posteriori) coincide con la mediana y la moda y valen 550 euros. El intervalo bayesiano de credibilidad al 95 % vale [451,,81, 648,19] sensiblemente mayor al caso informativo obtenido anteriormente. Finalmente para el contraste de hipótesis H 0 : µ 525 vs µ > 525, vemos que el odds a posteriori vale p 0 = 0,25931 p 1 0, ,3454 de donde deducimos que a la luz de los datos, la hipótesis nula debería ser rechazada. Observemos que a diferencia con el caso informativo, la distribución a posteriori de µ da, en este caso, cierta probabilidad a valores mayor del parámetro.

11 2.3. Análisis bayesiano para datos normales 97 Figura 2.27: Cantidades a posteriori para el ejemplo 2.21 con media y varianza desconocidas La distribución predictiva a posteriori) de una futura observación, y, puede obtenerse como la mixtura py x) = fy µ, ) πµ, x)dµd, 2.41) donde fy µ, ) N µ, ) y πµ, x) es la densidad a posteriori conjunta obtenida en 2.37). De donde la simulación de esta distribución pasa por generar valores de µ y de la densidad πµ, x) para luego generar valores de y de una N µ, ). De hecho, la distribución predictiva de y es t Student con parámetro de localización x, parámetro de escala n s, con s2 = 1 n x i x) 2 y n 1 n 1 ) i=1 grados de libertad, en notación y t n 1 x, 1 + 1n s. Esta distribución se obtiene integrando en 2.41) respecto a µ y. También podemos identificar este

12 98 Inferencia bayesiana resultado fácilmente mediante la factorización, fy, x) = fy µ,, x) πµ, x)dµ. 2.42) De 2.42) se deduce que fy, x) N x, 1+ 1 n )σ2 ), que resulta ser la idéntica distribución que la de µ dados y x cambiando el factor de escala). Ejemplo 2.25 Continuación ejemplo 2.24) Para el ejemplo 2.24, encontrar un intervalo bayesiano de credibilidad con probabilidad 0,95 para una futura observación sobre la cuantía de una reclamación. Solución: De 2.41) sabemos que la distribución predictiva de una nueva observación para el caso de datos normales con ambos parámetros desconocidos es ) una t Student con parámetro de localización x, parámetro de escala s y n n 1 grados de libertad. Para el caso que nos ocupa tenemos una distribución t 4 550, 7500) ver figura 2.28). Figura 2.28: Distribución predictiva para el ejemplo 2.21 con media y varianza desconocidas El intervalo bayesiano al 95 % es [485,88, 790,52], que nos indica que con probabilidad 0,95 una próxima reclamación estará comprendida entre 485,88 y 790,52 euros.