Curso Inferencia. Miguel Ángel Chong R. 10 de septiembre del 2013

Transcripción

1 Curso Estadística Miguel Ángel Chong R. 10 de septiembre del 013

2 Distribución de la diferencia de medias muestrales cuando se conoce la varianza poblacional. En muchas situaciones surge la necesidad de comparar medias muestrales de dos poblaciones distintas. Supongamos que X N µ X, X,yquelavariablealeatoria Y N µ Y, Y. Se selecciona una muestra aleatoria de tamaño n X de la primera población y una muestra aleatoria de tamaño n Y de la otra. Si X y Ȳ son las medias muestrales de ambas muestras y estamos interesados en conocer la distribución muestral de la diferencia X Ȳ para las muestras respectivas de tamaño n X y n Y

3 Teorema Sean (X 1,...,X nx )y(y 1,...,Y ny ) dos muestras aleatorias simples e independientes entre sí, de tamaños n X y n Y, procedentes de las poblaciones N µ X, X y N µ Y, Y respectivamente. Entonces la distribución muestral de la diferencia de medias X Ȳ, tendrá una distribución normal Entonces X Ȳ N µ X µ Y, X n X + Y. n Y Z = X Ȳ (µ X µ Y ) q X n X + Y n Y N (0, 1).

4 Distribución de la diferencia de medias muestrales cuando no se conoce la varianza poblacional Un caso más general es cuando las varianzas poblacionales no son conocidas. Si queremos obtener la distribución de la diferencia de medias muestrales X Ȳ cuando el muestro se realiza sobre dos poblaciones normales, independientes y con varianzas desconocidas. Es decir, consideramos dos poblaciones normales e independientes, N µ X, X y N µ Y, Y y seleccionamos una muestra aleatona simple de tamaño n X de la primera población y otra muestra aleatoria simple de tamaño n Y,independientedela anterior, y procedente de la segunda población, entonces pueden presentarse dos situaciones: Las varianzas poblacionales son iguales = X = Y, Las varianzas poblacionales son distintas X 6= Y.

5 Caso = X = Y Como las muestras son independientes, también serán independientes las varianzas muestrales SX y SY y por tanto los estadísticos (n X 1) S X n X 1 (n Y 1) S Y n Y 1, entoces al sumar las dos expresiones anteriores y usando la independencia tenemos que Por otro lado U = (n X 1) S X +(n Y 1) S Y n x +n Y. Yporlotanto Z = X Ȳ (µ X µ Y ) q N (0, 1). 1 n X + 1 n Y T = q Z U n X +n Y t nx +n Y

6 Desarrollando la igualdad de la lamina anterior tenemos que T = ( X Ȳ) (µ X µ Y ) q 1 nx + 1 n Y q 1 (n X 1)S X +(n Y 1)S Y n X +n Y = p n X + n Y q = X Ȳ (µ X µ Y ) p 1 n X + 1 (nx n Y 1) SX +(n Y 1) SY p nxn Y p nx + n Y p nx + n Y X Ȳ (µ X µ Y ) p (nx 1) S X +(n Y 1) S Y t nx +n Y

7 caso X 6= Y Si las varianzas poblacionales son distintas y desconocidas X 6= Y utilizamos las varianzas muestrales S X y S Y como sus estimadores. Cuando los tamaños muestrales de ambas muestras son mas grandes de 30, entonces usamos el estadístico X Ȳ (µ X µ Y )! t, + S Y n Y q S X n X donde es el entero más próximo a la siguiente cantidad S X + S Y n X ny S X! S! Y nx ny n X 1 + n Y 1

8 Distribución para el cociente de varianzas Sean dos poblaciones X y Y normales N µ X, X y N µ Y, Y independientes, de las cuales seleccionamos dos muestras aleatorias e independientes, de tamaños n X y n Y,(X 1,...,X nx )y(y 1,...,Y ny ), entonces pueden presentarse fundamentalmente dos situaciones: a) Sungamos que µ X y µ Y son conocidas. Si definimos a entonces S X = 1 n X nx i=1 (X i µ X ), S Y = 1 n Y n Y X i=1 (Y i µ Y ). Entonces U = n X SX X n X, V = n Y SY Y n Y. F = U /n X V/n Y = Y X S X SY F nx,n Y

9 b) y por otro lado, supongamos que µ X y µ Y son desconocidas. Si definimos a S X = entonces 1 n X 1 nx i=1 X i X, S Y = 1 n Y 1 n Y X i=1 Y i Ȳ. U = (n X 1)S X X n X 1, V = (n Y 1)S Y Y n Y 1. Entonces F = U /(n X 1) V/(n Y 1) = Y X S X S Y F nx 1,n Y 1

10 Teorema Central del Límite Sea X 1, X, X 3,... una sucesión de v.a.s independientes con función de probabilidades f X (x), con media µ X yvarianza X X.Sea = 1 n (X 1 + X X n )lamediaaritméticadelasprimerasn variables aleatorias que integran la sucesión. Cuando n!1, la distribución de la variable aleatoria X es aproximadamente normal con media µ X yvarianza X n,esdecir X! d N µ X,, cuando n!1, donde el símbolo d! debe leerse converge en distribución. Yporlotanto X n X µ X = px n p n( X µ X ) X d! N(0, 1).

11 El Teorema Central del Límite establece que para un tamaño de muestra grande la distribución de X es aproximadamente normal: 1 independientemente de que la v.a. X 1 de la cual se está muestreando, el teorema funciona aún si la distribución es discreta, 3 sea simétrica o asimétrica la forma de la densidad de f X (x) 4 la expresión tamaño de muestra grande es ambigüa, por lo tanto el tamaño de muestra para el cual la aproximación es buena depende de la forma de f X (x). 1 Siempre y cuanto tenga hasta segundo momento finito.

12 Distribución de la proporción muestral Sea (X 1,...,X n) una muestra aleatoria simple de tamaño n, deunapoblación nx Ber(p). Sea U = X i la v.a. que cuenta los éxitos y por lo tanto el i=1 estadístico proporción muestral que nos servirá para estimár p será la v.a. P x = U. n nx Una vez que tenemos una muestra observada (x 1,...,x n)yu = x i el valor del estadístico proporción muestral es el número ˆp = u n. en donde u representa el número de elementos de la muestra que poseen la característica que estamos investigando y la variable aleatoria U sigue una distribución binomial Bin(n, p). La distribución binomial se puede aproximar por una normal cuando n es grande (n 30), usando el Teorema Central del Límite. Entonces el estadístico muestral sigue una distribución normal i=1 U n d! N p, p(1 p) n

13 Distribución de la diferencia de proporciones Otro problema que se suele presentarse es comparar las proporciones p x y p y de dos poblaciones con distribución Ber(p x )yber(p y ), usando muestras aleatorias simples de tamaño n x y n y,respectivamente, extraídas de ambas poblaciones de forma indepenciente entre ellas. Sean n x n X X y U = X i y V = i=1 i=1 Y i Entonces la distribución muestral de la diferencia de proporciones ˆp x ˆp y = U n x V n y tendrá aproximadamente (para n x y n y grandes) una distribución normal con media y desviación estándar µˆpx ˆp y = p x p y ˆpx ˆp y = p xq x n x ˆp x ˆp y d! N µˆpx ˆp y, ˆp x + p y q y n y ˆp y.

14 El problema de la estimación puntual La estimación de parámetros se divide en dos grandes grupos: 1 La estimación puntual se concentra en obtener un único valor, calculado a partir de las observaciones muestrales, y que es utilizado como estimación del valor del parámetro. En la estimación por intervalos se obtienen dos valores: un ĺımite inferior L i yunĺımitesuperiorl s que definen un intervalo en los reales, el cual contendrá con cierta confianza el valor del parámetro.

15 Como suponemos que la población está representada por su función de distribución F (x; ), donde es el parámetro poblacional desconocido. El estimador del parametro poblacional es una función de la muestra aleatoria ˆ = g(x 1,...,X n ) Cuando tenemos una muestra observada (x 1,...,x n ) se obtiene un valor específico del estimador que recibe el nombre de estimación del parámetro poblacional ˆ = g(x 1,...,x n ) El estimador es un estadístico y además v.a. y el valor de esta variable aleatoria para una muestra dada (x 1,...,x n )esuna estimación puntual. Como hemos visto, estimador ˆ tiene su distribución muestral y para diferentes realizaciones de una muestra de tamaño n se tendrá un valor.

16 Nuestro objetivo es seleccionar el estadístico que usaremos como estimador del parámetro poblacional. Por ejemplo, una propiedad deseable de un estadístico es que para diferentes realizaciones (x 1,...,x n ), el estadístico esté en promedio concentrado alrededor del verdadero valor del parámetro.

17 Propiedades de los estimadores puntuales Supongamos que la población sigue una distribución F (x; ), en donde es un parámetro poblacional desconocido, y lo queremos estimar vía ˆ = g(x 1,...,X n )dadaunamuestraaleatoriade tamaño n, (X 1,...,X n ). Pero nos interesa encontrar un estadístico g(x 1,...,X n ) que nos proporcione el mejor estimador del parámetro desconocido, una medida deseable es calcular error cuadrático medio del estimador.

18 Error cuadrático medio del estimador ˆ. Definimos el error cuadrático medio del estimador, que lo notaremos por ECM(ˆ ), como el valor esperado del cuadrado de la diferencia entre el estadístico ˆ yelparámetro,esdecir ECM(ˆ ) = E apple ˆ. El ECM del estadístico ˆ se puede descomponer en suma de dos cantidades no negativas B ˆ = E ˆ. apple ECM(ˆ ) = E ˆ = Var ˆ ˆ + B, Notemos que ambas cantidades debe de ser tomadas en cuenta para obtener propiedades deseables en un estimador. Quisieramos que tanto la varianza como sesgo, sean lo más pequeños posibles, en otras palabras, sería bueno que la distribución muestral de ˆ se concentre al rededor del parámetro.

19 Suena sencillo, bastaría con tomar el estimador ˆ de con ECM más pequeño de entre todos los posibles estimadores de! Lo que es difícil es obtener entre todos los posibles estimadores de, el que nos de un ECM mínimo para todo. En otras palabras, no siempre existirá un estimador que haga mínimo su ECM para todo. Puede pasar que un estimador ˆ 1 tenga ECM mínimo para algunos valores del parámetro, mientras que otro estadístico ˆ tenga un ECM mínimo para otros valores de. Por lo tanto, el ECM como medida de elección de un buen estimador es insuficiente. Al espacio parametrál lo denotaremos por la letra, y es el conjunto de todos los posibles valores que puede tomar

20 Estimador insesgado Hemos definido el sesgo del estimador ˆ como: B ˆ = E ˆ. en el ECM, que en el segundo sumando nos aparecía el cuadrado del sesgo, también decíamos que el ECM ˆ debería ser lo más pequeño posible y para ello era necesario que la varianza del estimador y el cuadrado del sesgo también fueran lo más pequeños posibles. Será conveniente que el sesgo en valor absoluto sea lo más chico posible, siendo deseable que sea nulo, es decir E ˆ =. Decimos que un estimador ˆ es insesgado si E ˆ =, de lo contrario se dice que es sesgado. Si E ˆ > estamos sobre estimando y si E ˆ < caemos es subestimación.

21 Proposición Si ˆ 1 y ˆ son dos estimadores insesgados del parámetro, entonces el estimador ˆ definido como ˆ = ˆ 1 +(1 )ˆ, (0, 1) es también un estimador insesgado del parámetro.

22 Ejemplo Estimadores insesgados Sea X 1,...,X 10 una muestra aleatoria con media µ yvarianza siguientes estimadores para µ: considere los 1 ˆ 1 = X 1, ˆ = X 1+X, 3 ˆ 3 = X = X 1+X + +X = X. Las esperanzas y las varianzas de los estimadores anteriores son: 1 E ˆ 1 = E (X 1 )=µ, Var ˆ 1 = Var (X 1 )= ˆ E = E X1 +X Var ˆ = Var X1 +X = 1 E (X 1 + X )= 1 (E (X 1)+E (X )) = µ+µ = µ, = 1 4 (Var (X 1 + X )) = 1 4 (Var (X 1)+Var (X )) = = 4. 3 E ˆ 3 = 1 10 E (X X 10 )= 10µ 10 = µ, Var ˆ 3 = Var X1 + +X 10 = (Var(X X 10 )) = (Var(X 1)+ + Var(X 10 )) = = 10. respectivamente. Por lo tanto ˆ 1, ˆ y ˆ 3 son estimadores insesgados de µ. ˆ 3 es más eficiente que ˆ y ˆ 1,puestoqueˆ 3 < ˆ < ˆ 1.

23 Estimador insesgado de minima varianza Si nos restringimos a los estimadores insesgados y de ese conjunto buscamos el que tenga el error cuadrático medio, ECM(ˆ ), mínimo. Es decir, si el estadístico ˆ es insesgado, entonces ECM(ˆ ) = Var(ˆ ) por lo tanto, ahora buscamos un estimador, de entre todos los estimadores insesgados el que tenga la varianza más chica. A éste estimador insesgado de varianza mínima lo llamaremos el estimador insesgado y uniformemente de mínima varianza (UMVUE).

24 Definición Estimador insesgado uniformemente de mínima varianza. Diremos que el estimador insesgado ˆ 0, es insesgado y uniformemente de mínima varianza (UMVUE) para el parámetro, si dado cualquier otro estimador insesgado ˆ de él y, se verifica que Var(ˆ 0 ) apple Var(ˆ ) para todos los valores posibles de. Para llegar a obtener el UMVUE, si es que éste existe, tendríamos que calcular las varianzas de todos los estimadores insesgados para y tomar el estimador que tenga la varianza más chica. Afortunadamente existe un resultado 3 que nos garantiza que existe una cota inferior para la varianza de un estimador. Si bien no nos da este resultado el estimador de mínima varianza, sí nos dice si hemos alcanzado la cota o no. 3 Cota inferior de Cramer y Rao

25 Cota inferior de Cramer y Rao Sea (X 1,...,X n)unamuestraaleatoriadetamafion, deunapoblaciónconfunciónde densidad f (x; ). Entonces la función de densidad conjunta de la muestra cumple con que Z R L (x 1,...,x n; ) = f (x 1,...,x n; ) Z f (x 1,...,x n; ) dx 1...dx n = 1. R Por otro lado, sea ˆ = g (X 1,...,X n)unestimadorinsesgadoparaelparámetro. Ysisecumplenlascondicionesderegularidad,entonceslavarianzadelestimadorestá acotada inferiormente de la siguiente manera Var ˆ = 1 ln f (x; ) 1 h ne ln f (x; A E ln f (x; ) se le conoce como la información de

26 Las condiciones de regularidad son: i) El modelo f (x; ) para la distribución de la población es tal que el soporte de f no depende de. ii) La funcion ln(f (x; )) es dos veces diferenciable y continua, es decir, de clase C. iii) Las operaciones de derivación e integración (o suma en caso discreto) son intercambiables.

27 Si el estimador ˆ hubiera sido sesgado, es decir i E hˆ = + B(ˆ ), en donde B(ˆ ) es el sesgo del estimador, entonces la Cota Inferior de Cramer y Rao tiene la forma Var(ˆ ) 1+B ˆ 0 apple, ln f (x; siendo B 0 (ˆ ) laderivadarespectode del sesgo del estimador.

28 Observaciones Si el modelo de población, X es una variable aleatoria discreta, en vez de usar la función de densidad f (x; ) usamos la función de masa de probabilidad P (X = x). La Cota Inferior de Cramer Rao (CICR) nos da un ĺımite inferior para la varianza del estimador ˆ.