EL PRINCIPIO DE MÁXIMA VEROSIMILITUD (LIKELIHOOD)

Tamaño: px

Comenzar la demostración a partir de la página:

Download "EL PRINCIPIO DE MÁXIMA VEROSIMILITUD (LIKELIHOOD)"

José Francisco González Morales
hace 7 años
Vistas:

1 EL PRINCIPIO DE MÁXIMA VEROSIMILITUD (LIKELIHOOD) Fortino Vela Peón FVela-0 Objetivo Introducir las ideas básicas del principio de máxima verosimilitud. Problema Considere el experimento en el que se lanza n veces una moneda registrando el resultado: sol o águila. distribución de probabilidad binomial Características del experimento. Consiste de n pruebas.. Cada prueba produce solo dos posibles resultados: éxito (E), y fracaso (F) (queda eliminada la posibilidad que la moneda caiga de canto). 3. Probabilidad de éxito = p, mientras que la de fracaso q=-p. 4. Las pruebas son independientes. 5. Y=número de éxitos observados ( soles ).

2 Se llevan a cabo 90 pruebas (n=90). Se considera p=0.50 (moneda no alterada). Se observan 65 águilas y soles. Es realmente la moneda honesta, en el sentido de que p=0.5 no es verosímil / (likely) de considerar siendo mejor establecer una valor de p cerca de p=/3 (0.6667)? numero de soles p = = = numero total de pruebas 90 / El término verosímil puede interpretarse dentro de este contexto como: posible, creíble, plausible. Si Y= # soles observados en 90 lanzamientos, y sabiendo que Y ~ binomial (90,p), se desea estimar el valor de p. Suponiendo que p=0.50, cuál es la verosimilitud de observar y=? Cuando Y ~ binomial (90, 0.50) se tiene p( y = ) = C (0.50) (0.50) = x Su ocurrencia es muy poco posible (inverosímil). Qué pasa cuando p=0.60? p( y = ) = C (0.60) (0.40) = Continua siendo poco posible (verosímil) esté resultado (pero a diferencia del anterior es casi 4000 veces mayor que cuando p=0.50). Qué sucedería si en lugar de p=0.60 consideramos p=0.6578, qué es el estimador proveniente del enfoque frecuentista? p( y = ) = C (0.6578) (0.34) = Es más verosímil que p=0.60. Ante ello, p= es un mejor estimador que p=0.60. Podemos continuar mejorando?, qué sucederá si p=0.70? p( y = ) = C (0.70) (0.30) = La probabilidad es menor, es decir, es menos verosímil que observar soles con valor de p=0.70 que cuando p= Es posible mostrar gráficamente qué tan verosímil es nuestra observación y= bajo diferentes valores de p.

3 Gráfica. Ilustración del principio de máxima verosimilitud usando la distribución binomial de Y~b(90,p). La gráfica alcanza un máximo. Este es un valor de p en el cual y= es más verosímil que en cualquier otro. El valor p que maximiza la verosimilitud es el estimador de máxima verosimilitud. Función de verosimilitud En la gráfica se tiene en el eje horizontal el valor del parámetro desconocido (en este caso p), mientras que en el eje vertical la observación y=, bajo este valor de p. Como tal, esta función es denominada la función de verosimilitud, la cual depende del parámetro desconocido, en notación es igual a L(p). Así, se tiene L( p) = C p ( p) cuando X~binomial (90,p) En general, si nuestro valor observado fuera X=x mas que y=, la función de verosimilitud es una función de p, dado p(x=x) cuando X~binomial (90,p), por lo que la función de verosimilitud suele expresarse como 90 x 90 x L( x; p) = C p ( p) x Diferencias entre la función de verosimilitud y la función de probabilidad Función de verosimilitud, L(p,y). Función de p para un valor fijo de y. Ofrece la p(y=y) cuando p cambia (aquí y=, y no puede ser cualquier valor). Función de probabilidad, p(y). Función de y para un valor fijo de p. Ofrece la p(y=y) cuando y cambia (aquí p=0.60, y no puede ser cualquier valor). 3

4 Maximización de la verosimilitud Se busca el valor de p que maximiza L. L( y; p) = C p ( p) = C ( p ( p) ) + ( p (65( p) ( )) = = C ( p ( p) ) (65 p ( p) ) = 0 factorizando = C p ( p) ( ( p) ) = 0 simplificando = C p ( p) ( p 65 p) ) = = C p ( p) ( 90 p ) = = C p ( p) ( 90 p ) 0 = expresión que será cero solo si se cumple que: 90 i) C = 0, lo que no puede ser ya que ; o bien ii) p 4 64 C = x ( p) = 0, lo que solo se cumple si p = ; o bien iii)( 90 p ) = 0, única opción viable. resolviendo para p ( p ) 90 = 0 90 p = p = = θ más formal se establecería que dl( y; θ ) d θ θ = p = 0 p = = En la práctica para encontrar el conjunto de estimadores θ para los cuales L( y; θ ) es un máximo, donde y representa un vector de variables aleatorias y un conjunto θ de estimadores, se requiere resolver un sistema de p ecuaciones en p incógnitas. En particular, dado que maximizar L( y; θ ) es computacionalmente equivalente a maximizar al logaritmo natural de L( y; θ ), es más sencillo considerar está transformación. 4

5 Estimación de parámetros mediante el método de máxima verosimilitud Cuando la forma funcional de la distribución de probabilidad del término de error es especificada, es posible obtener estimadores de β, β y σ mediante el método de máxima verosimilitud (MV). En esencia, el método de MV elige como estimadores a aquellos valores de los parámetros que resultan ser más consistentes con los datos observados en la muestra. Elementos básicos del método de MV Considere a una sola población normal cuya desviación estándar es conocida, por ejemplo σ=0, pero cuya media es desconocida. Suponga que se selecciona una muestra aleatoria de la población de tamaño tres (n=3) de donde se obtienen las siguientes observaciones: Y =50, Y =65 y Y 3 =59. El problema a resolver es estimar a la media poblacional, µ, que sea más consistente con los datos observados en la muestra. Se eligen dos posibles estimadores de µ; el primero cuyo valor es de µ=30, mientras que el segundo µ=59. La gráfica siguiente ilustra los valores de los estimadores así como el de las observaciones en la muestra. Como se puede notar, para el caso donde µ=30 (gráfico (a)), los valores observados en la muestran se ubican en el extremo derecho de la distribución, lo que parece no ser consistente con la estimación µ=30. 5

6 Para el caso donde µ=59 (gráfico (b)), los valores observados en la muestra se ubican alrededor de la estimación de la media, lo que parece ser más consistentes. El método de MV emplea a la densidad de la distribución de probabilidad en el valor Y i (es decir, la altura de la curva Y) como una medida de la consistencia de la observación Y i. Siguiendo con el ejemplo, si Y se encuentra en el extremo derecho de la gráfica (.a), la altura de la curva será pequeña pero si Y se encuentra más cerca del centro de la distribución, como el gráfica (.b), la altura es mayor. Dado que se ha supuesto que la distribución de probabilidad de la población de donde se extrajo la muestra es normal, cada Y i tiene como función de densidad y µ f ( y) = exp πσ σ y donde µ y σ son parámetros (y) = µ V ( y) =, σ π =3.46,... y exp= exponencial. De esta manera, utilizando a la función de densidad para una distribución de probabilidad normal, se puede calcular la densidad de Y para cada uno de los casos considerados se tiene E 6

7 Para µ=30 f ( y) = exp = π 0 0 mientras que para µ=59 f ( y) = exp = π 0 0 Continuando con esté procedimiento para las otras observaciones de la muestra, se obtienen las densidades de sus correspondientes: µ=30 µ=59 f f f Adicionalmente, el método de MV emplea al producto de las densidades como una medida de la consistencia del valor del parámetro estimado a parir de los datos observados en la muestra. Este producto recibe el nombre de valor de verosimilitud (likelihood value) y se denota por L(µ). Así, si el valor de µ es consistente con los datos muestrales, las densidades son relativamente altas (lo que implica que el producto tiene un valor alto); en caso contrario, al ser inconsistente el producto tiene un valor reducido. Para los datos del ejemplo se tiene, respectivamente, L( µ = 30) = (0.0054)(0.000)( ) = 3.4 x 0-0 L( µ = 59) = (0.066)(0.0333)( ) = 3.54 x 0-5 Dado que implica que µ=59 es más consistente con los datos observados. De esta manera, el método de MV elige como estimador de MV a aquel que tenga el valor más alto de verosimilitud, es decir, µ=59. Para asegurar elegir el estimador con el valor más alto de verosimilitud, el método propone dos procedimientos posibles: i) por búsqueda numérica sistemática y ii) por solución analítica. Para el ejemplo aquí mostrado, la solución analítica supone que para una población con distribución normal el estimador de la µ es, y su valor de verosimilitud esta dado por =

8 8 Al producto de las densidades vista como una función de los parámetros desconocidos es llamada la función de verosimilitud. Para el ejemplo señalado, la función de verosimilitud es: = exp 0 50 exp 0 ) ( µ µ π µ L 0 59 exp µ buscando el valor del parámetro µ que sea más consistente con los datos observados.

Documentos relacionados

Ejercicios T2 y T3.- DISTRIBUCIONES MUESTRALES Y ESTIMACIÓN PUNTUAL

Ejercicios T2 y T3.- DISTRIBUCIONES MUESTRALES Y ESTIMACIÓN PUNTUAL 1. Se ha realizado una muestra aleatoria simple (m.a.s) de tamaño 10 a una población considerada normal. Llegando a la conclusión que