Estimación de Parámetros

Transcripción

1 Igacio Cascos Ferádez Departameto de Estadística Uiversidad Carlos III de Madrid Estimació de Parámetros Estadística I curso Veremos cómo costruir valores aproximados de los parámetros de los modelos de probabilidad del tema aterior a partir de muestras de variables aleatorias distribuidas segú esos modelos. A estas aproximacioes de los parámetros las llamaremos estimacioes y juega u papel básico e la Iferecia Estadística, proceso de que os permite obteer coclusioes sobre el comportamieto de ua població a partir de los datos de ua muestra. El muestreo aleatorio cosiste e la selecció aleatoria de u úmero fijado de elemetos de ua població. Ua muestra aleatoria de tamaño so variables aleatorias idepedietes X 1, X,..., X que sigue la misma distribució que la població X. 1. Estadísticos (estimadores) Pretedemos obteer iformació acerca de los parámetros de la població (media, variaza, proporció,... ) a partir de ua muestra. U estadístico es cualquier fució de las observacioes de ua muestra aleatoria, es por lo tato ua variable aleatoria. Se llama estimador de u parámetro θ a cualquier fució de ua muestra ˆθ = f(x 1, X,..., X ) que coduce a la obteció de valores aproximados de θ. U estimador es u estadístico. Al valor que toma u estimador e ua muestra específica, lo deomiamos estimació. La estimació es putual cuado el estimador ˆθ toma como valores úmeros reales. 1

2 1.1. Propiedades de los estimadores Estimador isesgado o cetrado. U estimador de u parámetro θ es isesgado si su valor esperado es θ, es decir, ˆθ es isesgado si E[ˆθ] = θ. A la diferecia E[ˆθ] θ se le llama sesgo del estimador, sesgo[ˆθ] = E[ˆθ] θ. Variaza de u estimador. De etre los estimadores isesgados de u parámetro, el mejor, o más eficiete, será aquel de meor variaza. La eficiecia de u estimador es el iverso de su variaza, Eficiecia[ˆθ] = 1 var[ˆθ]. Podemos estudiar cuál es el mejor de etre dos estimadores isesgados comparado sus variazas. La eficiecia relativa se costruye como ER[ˆθ ; ˆθ 1 ] = Eficiecia[ˆθ ] Eficiecia[ˆθ 1 ] = var[ˆθ 1 ] var[ˆθ ]. El error estádar de u estimador es su desviació típica, σˆθ = var[ˆθ]. Si la desviació típica depede del parámetro θ, al o coocer θ tampoco cooceremos el error estádar de su estimació. No obstate, podemos sustituir θ por su estimació ˆθ y obtedremos el error estádar estimado ˆσˆθ. Error Cuadrático Medio. Para comparar estimadores o cetrados o u estimador cetrado co otro que o lo es, dispoemos del Error Cuadrático Medio, que se defie como ECM[ˆθ] = E[(ˆθ θ) ] = var[ˆθ] + sesgo[ˆθ]. Cosistecia. U estimador es cosistete cuado, a medida que aumeta el tamño de la muestra, más se aproxima al valor del parámetro que pretede estimar, hasta coverger a él.

3 . Distribucioes e el muestreo.1. Distribució e el muestreo de la media Sea X ua variable aleatoria co media µ y desviació típica σ coocida. Podemos tomar ua muestra aleatoria simple de X de tamaño, obteiedo X 1, X,..., X, variables aleatorias idepedietes distribuidas como X. La media muestral será X = 1 X i que es claramete ua variable aleatoria. Se trata de u estimador cetrado de µ, es decir, E[X] = µ y su variaza es var[x] = σ / Si X sigue distribució ormal, ecoes X tambié seguirá distribució ormal. Además, por el Teorema Cetral del Límite (si 30) la distribució de X se aproxima a la de ua variable aleatoria N(µ, σ/ ). Distribució e el muestreo de la proporció. La proporció muestral es u caso particular de la media muestral. Dada ua població, llamamos p a la proporció poblacioal de elemetos que preseta ua determiada característica. Si extraemos aleatoriamete u idividuo de dicha població, la variable aleatoria X que toma valor 1 si tal idividuo preseta la característica y 0 si o es así, es ua variable de Beroulli, X B(1, p). Si tomamos ua muestra aleatoria simple de X de tamaño, X 1, X,..., X, etoces X = 1 X i = ˆp represeta el cociete etre el úmero de elemetos que posee la característica y el tamaño de la muestra, es decir, la proporció muestral. Fialmete, si 30, aplicado el Teorema Cetral del Límite, la distribució de ˆp se aproxima por ua ormal, N(p, p(1 p)/ ). 3

4 .. La variaza e el muestreo Teemos dos alterativas para estimar la variaza poblacioal σ. La primera es la variaza muestral que se defie como S = 1 (X i X), y la seguda, la cuasivariaza muestral que es Ŝ = 1 (X i X). 1 La cuasivariaza muestral es u estimador isesgado de σ y, e cosecuecia, la variaza muestral o lo es, ( 1 ) E[Ŝ ] = σ ; E[S ] = σ. Partimos de X N(µ, σ) y ua muestra aleatoria suya X 1, X,..., X de tamaño. Es decir, X 1, X,..., X so variables aleatorias idepedietes que tiee la misma distribució que X..3. Distribucioes e el muestreo de poblacioes ormales Distribució de la variaza muestral de ua població ormal Cuado tomamos ua muestra de ua població ormal, la distribució de la variaza muestral S es tal que ( 1)Ŝ σ = S σ χ 1 dode χ 1 deota la distribució chi cuadrado co 1 grados de libertad. Distribució de la media muestral co variaza descoocida Cuado tomamos ua muestra de ua població ormal y la variaza poblacioal (σ ) es descoocida, podemos reemplazarla por la (cuasi)variaza muestral y obteemos X µ X µ = Ŝ / S /( 1) t 1 dode t 1 deota la distribució t de Studet co 1 grados de libertad. 4

5 Distribució del cociete de variazas Tomamos dos muestras idepedietes procedetes de dos poblacioes ormales. Es decir, a partir de ua variable X N(µ X, σ X ) obteemos ua muestra aleatoria suya X 1, X,..., X y a partir de otra variable Y N(µ Y, σ Y ) obteemos tambié ua muestra aleatoria de ella misma Y 1, Y,..., Y m, de tal modo que las X s y las Y s so idepedietes. Teemos etoces que la distribució de sus cocietes de variazas muestrales cumple, S X /[( 1)σ X ] ms Y /[(m 1)σ Y ] = ˆ S X /σ X ˆ S Y /σ Y F 1,m 1 dode F 1,m 1 es ua distribució de Fisher-Sedecor co 1 y m 1 grados de libertad. 3. Estimació Máximo Verosímil Partimos de ua muestra aleatoria simple X 1, X,..., X que proviee de ua distribució paramétrica coocida. Nuestro objetivo es buscar el valor θ 0 del parámetro θ para el cual es más probable que los datos provega de esa distribució co θ = θ 0. Deotamos uestras observacioes como x = (x 1, x,..., x ), es decir, x es u vector co datos. Para obteer el Estimador Máximo Verosímil (EMV) de u parámetro θ debemos efectuar los siguietes pasos: 1. Fució de verosimilitud. Si teemos u modelo discreto l(θ x) = P (X i = x i θ), mietras que si el modelo de partida es cotiuo, l(θ x) = f(x i θ), dode f( θ) deota la fució de desidad supuesto que el parámetro es θ. El objetivo fial es obteer el valor de θ para el que l(θ x) alcaza el mayor valor. 5

6 . Fució soporte. L(θ x) = l l(θ x) 3. Primera derivada. Resolvemos L(θ x)/ θ para hallar ˆθ, uestro objetivo es buscar el valor de θ dode la fució soporte tiee u máximo. 4. Seguda derivada. Comprobamos L(ˆθ)/ θ < 0 para cofirmar que la fució soporte alcazar u máximo e ˆθ, co lo que será el Estimador Máximo Verosímil. Propiedades de los EMV. Para distribucioes cuyo rago es coocido y o depede de igú parámetro, el método de máxima verosimilitud da lugar a estimadores: Asitóticamete cetrados. E[ˆθ] θ ; Asitóticamete ormales. ˆθ N(θ, var[ˆθ]) ; ( Asitóticamete de variaza míima. var[ˆθ] = L(ˆθ) θ ) 1 ; Ivariates frete a trasformacioes biuívocas. Si ˆθ es EMV de θ, etoces g(ˆθ) es EMV de g(θ). 6