Técnicas Cuantitativas II Estimación puntual de Parámetros. TC II Estimación puntual de parámetros 1 / 34

Transcripción

1 Técnicas Cuantitativas II Estimación puntual de Parámetros TC II Estimación puntual de parámetros 1 / 34

2 TC II Estimación puntual de parámetros 2 / 34

3 : concepto de estimador de un parámetro TC II Estimación puntual de parámetros 3 / 34

4 Concepto de estimador de un parámetro Supongamos que el número medio de mensajes multimedia recibidos en el móvil semanalmente por los estudiantes de la Universidad de Granada puede considerarse como una variable aleatoria con distribución Poisson de parámetro λ. Un problema fundamental en estadística es conocer el valor del parámetro desconocido λ, para lo cual existen distintas técnicas. En el presente tema se presenta la puntual, que consiste en obtener un único número calculado a partir de las observaciones muestrales y que es utilizado como del valor del parámetro desconocido. Así, se entiende por estimador un estadístico muestral usado para calcular una aproximación numérica de un parámetro desconocido de la población. Esto es: Definición 1 Sea θ el parámetro desconocido de una determinada distribución de probabilidad. Un estimador de θ, que se denota como ˆθ(x 1,...,x n ), será un estadístico muestral que aproxime el verdadero valor deθ a partir de la muestra. Téngase en cuenta que el estimador depende sólo de la muestra y, en ningún caso, del parámetro que se desea estimar. Por tanto, el estimador será un valor numérico distinto dependiendo de la muestra considerada. Además, para cada parámetro pueden existir varios estimadores diferentes. En general, escogeremos aquel que posea mejores propiedades. TC II Estimación puntual de parámetros 4 / 34

5 Concepto de estimador de un parámetro Ejemplo 1 La inversión en publicidad de seis empresas automovilistas españolas en millones de euros durante el año 2008 fue 86 6, 69 7, 45 1, 44, 42 y Suponiendo que los datos se distribuyen según una normal, se pide obtener estimaciones puntuales de la inversión media en publicidad y de la proporción de estas cuya inversión en publicidad fue inferior a 45. Como veremos, un estimador de la media poblacional sería la media muestral: ˆµ(x 1,...,x 6 ) = X = = Considerando la proporción muestral como estimador puntual de la proporción poblacional. Dado que tres de las seis empresas no superaron los 45 millones de euros en inversion en publicidad, a partir de A i = { 1, la empresaitiene inversión inferior a 45 0, en otro caso coni = 1,...,6, se tiene que ˆp = 3 6 = 0 5. TC II Estimación puntual de parámetros 5 / 34

6 para la obtención de estimadores puntuales TC II Estimación puntual de parámetros 6 / 34

7 En esta sección empezamos a estudiar los métodos de obtención de estimadores puntuales. Aunque se pueden obtener estimadores de forma simultánea para todos los parámetros poblacionales desconocidos de una distribución, nos centraremos en estudiar el caso en el que la distribución de probabilidad depende de un único parámetro desconocido. El método de máxima consiste en escoger como estimador puntual aquel valor del parámetro que maximice la probabilidad de aparición de los valores muestrales obtenidos, es decir, aquel que maximice la función de probabilidad. Ejemplo 2 Supongamos que el número de inundaciones por año sigue una distribución de Poisson con parámetro desconocidoλ. En una determinada provincia han ocurrido dos inundaciones durante un año, cómo se puede estimar el valor de λ si solo conocemos una observación? Si los posibles valores de λ fueran 1, 1 5, 2, 2 5 y 3, la probabilidad de obtener la observación dos sería, respectivamente, , , , y Observando las tablas correspondientes a la distribución de Poisson se aprecia que el valor de λ que maximiza la probabilidad de aparición del valor observado es 2. TC II Estimación puntual de parámetros 7 / 34

8 Sea X una variable aleatoria (discreta o continua) cuya distribución de probabilidad depende de un único parámetro desconocido θ. Dada una muestra aleatoria simple, X 1,...,X n, dex, se define la función de como n P[X i = x i ;θ], caso discreto L(θ;x 1,...,x n ) = n f(x i ;θ), caso continuo donde p i = P[X i = x i ;θ] denota la función de cuantía y f la función de densidad, dependiendo de la naturaleza de la variable. Adviértase, que mientras que las distribuciones de probabilidad dependen de la muestra, la función de depende del parámetro desconocido, θ. Entonces, el método para encontrar el estimador de θ se convierte en el problema matemático de maximizar la función L(θ;x 1,x 2,...,x n ). Es decir, hallar aquellos valores que anulan la primera derivada de L(θ;x 1,x 2,...,x n ) y hacen negativa a la segunda., TC II Estimación puntual de parámetros 8 / 34

9 Luego θ = θ(x 1,x 2,...,x n ) será el estimador máximo verosímil del parámetro θ si verifica que: θ L( θ;x 1,x 2,...,x n ) = 0, 2 θ 2L( θ;x 1,x 2,...,x n ) < 0. Puesto que al derivar directamente la función de se suelen obtener expresiones complicadas, normalmente se maximiza el logaritmo neperiano de la función de, ya que la solución obtenida es la misma al ser monótona creciente la función logaritmo. Por tanto, el estimador máximo verosímil será aquel valor θ que verifique que: θ lnl( θ;x 1,x 2,...,x n ) = 0, 2 θ 2 lnl( θ;x 1,x 2,...,x n ) < 0. TC II Estimación puntual de parámetros 9 / 34

10 A modo de resumen, para obtener un estimador por máxima, los pasos a seguir son los siguientes: Calcular la función de de la muestra teniendo en cuenta la distribución de probabilidad de los datos obtenidos. Determinar el logaritmo de la función de. Se puede demostrar que si una función alcanza un máximo en un punto, su logaritmo neperiano alcanza el máximo en ese mismo punto. Esto nos facilitará buscar el estimador máximo-verosímil, ya que generalmente es más fácil determinar el máximo del logaritmo de una función que directamente el de la función. Derivar el logaritmo neperiano con respecto al parámetro que se pretende estimar e igualar a cero para determinar el valor que maximiza dicha función. De esta expresión despejaremos el estimador, comprobando que la segunda derivada evaluada en dicho punto es negativa. TC II Estimación puntual de parámetros 10 / 34

11 : Ejemplo 1 A continuación vamos a obtener el estimador máximo verosímil del parámetro λ de la distribución de Poisson para las siguientes muestras correspondientes al número de visitas semanales recibidas por un profesor en tutorías: Muestra 1: 3,3,6,2,1,4,0,2,2,5. Muestra 2: 1,3,1,4,5,3,4,6,1,3. Dada una muestra aleatoria simple X 1,...,X n procedente de una P(λ), sabemos que la función de probabilidad en este caso es P[X i = x i ;λ] = e λ λx i x i!, por lo que la función de se expresará como: L(λ;x 1,x 2,...,x n ) = n e λ λ x i x i! = e λ λ x 1 λ x2 λ xn x 1! e λ x 2! e λ x n! = e nλ λ n x i TC II Estimación puntual de parámetros 11 / 34. x i!

12 : Ejemplo 1 Entonces, tomando logaritmos lnl(λ;x 1,x 2,...,x n ) = ( n ) x i ( n ) lnλ ln x i! nλ, y derivando la expresión anterior λ lnl(λ;x 1,x 2,...,x n ) = x i Igualando a cero la derivada anterior se obtiene la igualdad x i λ n = 0, cuya solución es el posible estimador puntual buscado λ n. λ = 1 n x i. TC II Estimación puntual de parámetros 12 / 34

13 : Ejemplo 1 Finalmente, ya tan sólo queda calcular la segunda derivada 2 λ 2 lnl(λ;x 1,x 2,...,x n ) = x i λ 2. y evaluarla en λ para estudiar su signo. En este caso es evidente que 2 λ 2 lnl( λ;x 1,x 2,...,x n ) = x i λ 2 < 0, ya que λ 2 > 0 y, puesto que la distribución de Poisson solo toma valores positivos, es decir,x {0,1,...}, es claro que x i > 0. Por tanto, para obtener el valor del estimador máximo verosímil para cada una de las muestras consideradas tan sólo hay que calcular la media aritmética de cada colección de datos: x 1 = = 2 8, x 2 = = 3 1. TC II Estimación puntual de parámetros 13 / 34

14 : Ejemplo 2 Una variable aleatoria con distribución gamma, con parámetro α conocido, tiene función de densidad: f(x;θ) = 1 { Γ(α)θ α xα 1 exp x }, x > 0, θ con valor esperadoe[x] = αθ y varianzavar(x) = αθ 2. Para obtener el estimador puntual para θ mediante el método de máxima hay que obtener en primer lugar la función de muestral. Es decir L(θ;x 1,x 2,...,x n ) = 1 Γ(α) n θ nα n x α 1 i exp x i θ. Tomando logaritmo en la lnl(θ;x 1,x 2,...,x n ) = nαlnθ nlnγ(α)+(α 1) lnx i x i θ, TC II Estimación puntual de parámetros 14 / 34

15 : Ejemplo 2 derivando con respecto a θ e igualando a cero se obtiene la solución θ lnl(θ;x 1,x 2,...,x n ) = nα θ + nα θ + θ(x 1,...,x n ) = x i θ 2 = 0, 1 n x i α = x α. x i θ 2, Para confirmar que este valor es un máximo, hay que comprobar que la derivada segunda es negativa cuando se sustituye en ella θ por la solución obtenida. TC II Estimación puntual de parámetros 15 / 34

16 : Ejemplo 2 En efecto, puesto que 2 θ 2 lnl(θ;x 1,x 2,...,x n ) = nα θ 2 si la evaluamos en θ(x 1,...,x n ) se obtiene que 2 θ lnl( θ;x 2 1,x 2,...,x n ) = nα x 2 α 2 donde se ha usado quenx = n x i. 2θ n x i θ 4 2 n x i x 3 α 3 = nα3 x 2 2nα3 x 2 = nα θ 2 2 n x i θ 3, = nα 3 x 2 2nxα3 x 3 = nα3 x 2, Puesto que n,α,x > 0, la segunda derivada evaluada en θ es negativa, por lo que θ es el estimador máximo verosímil de θ. TC II Estimación puntual de parámetros 16 / 34

17 para la obtención de estimadores puntuales TC II Estimación puntual de parámetros 17 / 34

18 Este método se basa en la relación existente entre los parámetros poblacionales desconocidos y los poblacionales. Más concretamente, consiste en trasladar esa relación sustituyendo los poblacionales por los muestrales, para así estimar los primeros. Dada una variable aleatoria, X, cuya distribución de probabilidad depende de un único parámetro desconocido, el método de los consiste en enfrentar características poblacionales,e[x r ], a sus homólogas en la muestra x r i n i. En el caso que se estudia un único parámetro desconocido, habrá que enfrentar un único parámetro poblacional a un único parámetro muestral (r = 1). Es decir, E[X] = X, de forma que se plantea una ecuación, cuya solución es el estimador puntual buscado. TC II Estimación puntual de parámetros 18 / 34

19 : Ejemplo 1 A continuación se van a obtener los estimadores puntuales por el método de los de las distribuciones de Poisson de parámetro λ y binomial de parámetro p. Adviértase que la igualdad a plantear ese[x] = X. En el caso de la binomial,e[x] = np, luego entoncesnp = X, y por tanto, el estimador puntual buscado es p = X n. Mientras que para la Poisson,E[X] = λ, luego directamente se obtiene que λ = X. Obsérvese que los estimadores obtenidos coinciden con los del método anterior. Esto se debe a que, bajo ciertas condiciones, ambos métodos coinciden. TC II Estimación puntual de parámetros 19 / 34

20 : Ejemplo 2 Para estimar el parámetro θ de una variable aleatoria con distribución gamma, con parámetro α conocido, por el método de los, simplemente habría que igualar la media poblacional a la media muestral y despejarθ. Esto es E[X] = X αθ = X θ = X α. Puede parecer que este método es más sencillo de aplicar que el anterior, pero nada más lejos de la realidad. Supongamos que se ignora en este caso quee[x] = αθ, entonces tendría que calcular dicho valor esperado y, por tanto, se empieza a complicar este método. TC II Estimación puntual de parámetros 20 / 34

21 Insesgadez Eficiencia para un estimador : insesgadez, consistencia, eficiencia y suficiencia Consistencia Suficiencia TC II Estimación puntual de parámetros 21 / 34

22 Insesgadez Eficiencia Consistencia Suficiencia Tras estudiar métodos enfocados a la obtención de estimadores, a continuación vamos a preguntarnos por la calidad de las estimaciones que estos proporcionan. Necesitamos alguna medida que nos permita seleccionar el mejor estimador, ya que recordemos que para un mismo parámetro desconocido es posible que exista más de un estimador puntual. De esta forma, desearemos que los valores proporcionados por el estimador para cada muestra se aproximen lo más posible al verdadero valor del parámetro (insesgadez), siendo las posibles diferencias existentes lo más pequeñas posibles (eficiencia). Además, conforme aumente la muestra menor ha de ser el error que se cometa en la 1 (consistencia) y el estimador obtenido debe contener toda la información contenida en la muestra (suficiencia). A continuación se estudiará como comprobar si un estimador verifica cada una de estas propiedades. 1 O lo que es lo mismo, conforme aumente la muestra la aproximación numérica proporcionada por el estimador debe tender al verdadero valor del parámetro. TC II Estimación puntual de parámetros 22 / 34

23 Insesgadez Insesgadez Eficiencia Consistencia Suficiencia Dada una variable aleatoria, X, cuya distribución de probabilidad depende de un parámetro desconocido,θ, se dice que el estimador θ(x 1,...,X n ) deθ es insesgado sie[ θ] = θ. Si no se verifica la condición anterior, se dice que no es insesgado o que es sesgado, y que tiene un sesgod( θ Ejemplo 3 ) ] = E θ [ θ θ. SeaX una variable aleatoria cuya distribución de probabilidad depende de un parámetro desconocido θ tal que E[X] = θ y sea θ(x 1,...,X n ) = X un estimador puntual de dicho parámetro. Puesto que se ha demostrado que E[X] = E[X], entonces se verifica que E[ θ] = E[X] = θ, por lo que θ es un estimador insesgado deθ, es decir, que la media aritmética siempre es estimador insesgado de la media poblacional. Por tanto, en el caso en el que X se distribuya según una Normal, una Poisson o una Bernoulli (θ = µ,θ = λ yθ = p, respectivamente), puesto que en estos casos se verifica que θ(x 1,...,X n ) = X, entonces θ es un estimador puntual insesgado deθ de forma inmediata. TC II Estimación puntual de parámetros 23 / 34

24 Insesgadez Insesgadez Eficiencia Consistencia Suficiencia Ejemplo 4 Dada una muestra aleatoria simple X 1,...,X n procedente de una variable aleatoria,x, distribuida según una normal de parámetrosµyσ 2, entonces se verifica que la media poblacional ese[x] = µ y la varianza poblacional esvar(x) = σ 2. Por tanto, en tal caso hemos demostrado que se verifica que E[Sn 1] 2 = σ 2 y E[Sn] 2 = n 1 n σ2, es decir, la cuasivarianza muestral es un estimador insesgado de σ 2, mientras que la varianza muestral lo es segado. Ejemplo 5 Una vez obtenido el estimador para el parámetroθ de una distribución gamma, para estudiar si es insesgado hemos de comprobar conαconocido, θ(x 1,...,x n ) = x α que se verifica quee[ θ] = θ. En efecto, E[ θ] = E = 1 nα [ X α ] = 1α E[X] = 1α E [ E[X i ] = 1 nα 1 n ] X i αθ = 1 nαθ = θ. nα [ = 1 n ] nα E X i TC II Estimación puntual de parámetros 24 / 34

25 Eficiencia Insesgadez Eficiencia Consistencia Suficiencia Dada una variable aleatoria, X, cuya distribución de probabilidad depende de un parámetro desconocido, θ, y siendo θ un estimador puntual de θ. Bajo condiciones de regularidad, los estimadores de un parámetro θ verifican siempre la siguiente desigualdad ) Var( θ 1 [ ( ]. n E lnl(θ;x)) 2 θ Entonces, un estimador es eficiente si es insesgado 2 y se verifica la igualdad en la expresión anterior. La expresión 1 [ ( ], n E lnl(θ;x)) 2 θ recibe el nombre de cota de Frechet-Cramer-Rao. 2 Por tanto, los estimadores sesgados no son eficientes. TC II Estimación puntual de parámetros 25 / 34

26 Eficiencia: Ejemplo 1 Insesgadez Eficiencia Consistencia Suficiencia De igual forma, para estudiar si es eficiente el estimador para el parámetro θ de una dis- ) tribución gamma con α conocido, hay que comprobar que Var( θ de Frechet-Cramer-Rao. En efecto, ) Var( θ = Var ( X α ) L(θ;x) = 1 { θ exp x } α θ = 1 α 2Var(X) = 1 α 2 Var(X) n coincide con la cota = 1 α 2 αθ2 n = θ2 αn. lnl(θ;x) = αlnθ x θ θ lnl(θ;x) = α θ + x θ = x αθ 2 θ [ 2 ( ) ] [ 2 (X ) ] 2 αθ E θ lnl(θ;x) = E = 1 θ 2 θ 4E[ (X αθ) 2] = = 1 θ 4E[ (X E[X]) 2] = 1 αθ2 θ4var(x) = θ = α 4 θ 2 1 [ ( ] = ne lnl(θ;x)) 2 θ θ 2 αn. TC II Estimación puntual de parámetros 26 / 34

27 Eficiencia: Ejemplo 2 Insesgadez Eficiencia Consistencia Suficiencia Estudiemos a continuación si el estimador puntual λ(x 1,...,X n ) = X del parámetro desconocido λ de una variable aleatoria discreta, X, distribuida según una Poisson, que sabemos que es insesgado, es también eficiente. En este caso, se tiene que la función de cuantía es: P[X = x;λ] = e λ λx x! cone[x] = λ = Var(X). Con dicha información: ) Var( λ, x = 0,1,2,..., λ > 0, = Var ( X ) = Var(X) n = λ n. Mientras que partiendo de la función de para una muestra de tamaño uno, que coincidirá, por tanto, con la función de cuantía anterior: L(λ;x) = e λ λx x!. Tomando logaritmos en la expresión anterior: TC II Estimación puntual de parámetros 27 / 34

28 Eficiencia: Ejemplo 2 Insesgadez Eficiencia Consistencia Suficiencia ln L(λ; x) = ln (e λ λx x! ) = lne λ +ln λx x! = λlne+lnλ x lnx! = λ+xlnλ lnx!, donde se han usado las siguientes propiedades básicas del logaritmo neperiano: ln(a b) = ln a+ln b, lna b = bln a, ln a = ln a ln b, lne = 1. b El siguiente paso será derivar con respecto al parámetro desconocido: λ lnl(λ;x) = 1+ x λ = x λ λ. Entonces, elevando al cuadrado y considerando la esperanza matemática en la expresión anterior: E [ ( λ lnl(λ;x) ) 2 ] [ (X ) ] 2 λ = E λ = E[(X E[X])2 ] λ 2 = Var(X) λ 2 = 1 λ, donde se ha tenido en cuenta la definición de varianza y quee[x] = λ = Var(X). TC II Estimación puntual de parámetros 28 / 34

29 Eficiencia: Ejemplo 2 Insesgadez Eficiencia Finalmente, la cota de Frechet-Cramer-Rao queda 1 [ ( ) ] 2 = ne lnl(λ;x) p Entonces, se deduce que el estimador λ es eficiente ya que ) Var( λ λ n. = λ n = 1 [ ( ]. n E lnl(λ;x)) 2 θ Consistencia Suficiencia TC II Estimación puntual de parámetros 29 / 34

30 Consistencia Insesgadez Eficiencia Consistencia Suficiencia Dada una variable aleatoria, X, cuya distribución de probabilidad depende de un parámetro desconocido,θ, y sea θ(x 1,...,X n ) un estimador puntual de dicho parámetro. Se dice que dicho estimador es consistente cuando [ ] lim P θ(x 1,...,X n ) θ > ǫ = 0, ǫ > 0. n Puesto que la condición dada anteriormente no siempre es fácil de comprobar, en la práctica se trabajará con la siguiente condición suficiente: El estimador es asintóticamente insesgado: lim n E[ θ] = θ. El estimador tiene asintóticamente varianza cero: lim n Var[ θ] = 0. En el caso en el que tales condiciones no se cumplen por un estimador no podemos concluir que dicho estimador no es consistente. Otra opción para estudiar si el estimador es consistente es usar la desigualdad de Tchebychev P [ X E[X] > ǫ] Var(X) ǫ 2, ǫ > 0. TC II Estimación puntual de parámetros 30 / 34

31 Consistencia: Ejemplo 1 Insesgadez Eficiencia Consistencia Suficiencia Dada una variable aleatoria continua con función de densidad f(x,λ) = 2 λ2(λ x), 0 < x < λ, obtener el estimador del parámetroλpor el método de los y comprobar que es consistente. Usando el método de los, el estimador para una muestra de tamañonsaldrá de la igualdad que se obtiene al igualar el momento poblacional de orden uno con su homólogo en la muestra E[X] = x, donde Por tanto, E[X] = λ 0 x f(x)dx = = λ 3. λ 3 = x = λ = 3x. TC II Estimación puntual de parámetros 31 / 34

32 Consistencia: Ejemplo 1 Insesgadez Eficiencia Consistencia Suficiencia Para estudiar la consistencia del estimador obtenido veremos si es asintóticamente insesgado y con varianza cero en el límite: E[ λ] = 3E[X] = 3 n E[X i ] = 3 n Var( λ) = 9Var(X) = 9 n Var(X) = 9 n λ2 18 = λ2 2n lim n λ 2 2n = 0, donde se ha usado que con lo que E[X 2 ] = λ 0 λ 3 = λ = lim n E[ λ] = lim n λ = λ, x 2 f(x)dx = = λ2 6, Var(X) = E[X 2 ] (E[X]) 2 = λ2 6 λ2 9 = λ2 18. Luego se ha demostrado que el estimador obtenido es consistente. = lim n Var( λ) = TC II Estimación puntual de parámetros 32 / 34

33 Consistencia: Ejemplo 2 Insesgadez Eficiencia Consistencia Suficiencia Comprobemos si el estimador puntual para el parámetro θ de una distribución gamma con α conocido es consistente. Puesto que sabemos que θ es una variable aleatoria, a partir de la desigualdad de Tchebychev se verifica que P [ ] θ E[ θ] > ǫ Var( θ) ǫ 2. Teniendo en cuenta que θ es insesgado y quevar( θ) = θ2 αn y entonces considerando límites P [ ] θ θ > ǫ θ2 αnǫ 2, [ ] lim P θ θ > ǫ n lim n θ 2 αnǫ 2 = 0. Puesto que una probabilidad no puede ser negativa, realmente se ha obtenido que [ ] lim P θ θ > ǫ n por lo que el estimador puntual θ es consistente. TC II Estimación puntual de parámetros 33 / 34 = 0,

34 Suficiencia Insesgadez Eficiencia Consistencia Suficiencia Sea X 1,...,X n una muestra aleatoria simple procedente de una variable aleatoria X cuya distribución de probabilidad depende de un parámetro desconocido θ. Se dice que el estimador ˆθ deθ es suficiente si, y solamente si, la función de de la muestra, L(θ;x 1,...,x n ), se puede descomponer como producto de dos factores no negativos L(θ;x 1,...,x n ) = h 1 (x 1,...,x n ) h 2 ( θ;θ), donde h 1 (x 1,...,x n ) no depende del parámetro θ y h 2 ( θ;θ) es una función que depende solo deθ y de la muestra a partir del estimador. Ejemplo 6 El estimador puntual para el parámetro θ de una distribución gamma con α conocido es θ = X α. Puesto que la función de puede factorizarse según el teorema de Neyman se puede decir que ˆθ es un estadístico suficiente: L(θ;x 1,...,x n ) = h 1 (x 1,...,x n ) h 2 ( θ;θ), siendoh 1 (x 1,...,x n ) = n x i y h 2 ( θ;θ) = e ( 1/θ) x i θ αn = e( 1/θ) αn θ θ αn. TC II Estimación puntual de parámetros 34 / 34