6. ESTIMACIÓN PUNTUAL

Transcripción

1 Defcoes 6 ESTIMACIÓN PUNTUAL E la práctca, los parámetros de ua dstrbucó de probabldad se estma a partr de la muestra La fereca estadístca cosste e estmar los parámetros de ua dstrbucó; y e evaluar ua hpótess sobre la dstrbucó de la cual provee ua muestra U estmador putual θ estma el valor de u parámetro de ua dstrbucó Por ejemplo, la meda muestral es u estmador de la meda de la dstrbucó teórca Comúmete se dca al estmador de u parámetro θ, medate el símbolo θ (zeta grega co aceto crcuflejo) E el ejemplo ateror, el estmador µ de la meda µ, es la meda muestral X U estmador putual θ de u parámetro θ es ua varable aleatora El valor de θ dfere de muestra a muestra El adjetvo putual dca que se estma solamete u valor de θ Más adelate veremos la estmacó por tervalo del parámetro θ; e este últmo caso se estma u tervalo que podría coteer al valor de θ, co ua probabldad especfcada De ahora e más, deomaremos a θ smplemete estmador E geeral, hay dspobles más de u estmador de u parámetro de ua dstrbucó de probabldad Etre ellos, se elge al estmador que sea el mejor e el setdo que descrbmos más adelate Propedades de los estmadores A cotuacó descrbmos alguas de las propedades que es deseable que los estmadores posea Solamete alguos estmadores posee estas propedades Ates de pasar a descrbr las propedades más deseables de los estmadores, veamos u teorema sobre la meda muestral X Teorema sobre la esperaza y la varaza de la meda muestral Sea X ua varable aleatora, co E(X) µ; y varaza V(X) σ Se obtuvo ua muestra de valores de la varable aleatora X Sea X el promedo de los valores de esa muestra Se cumple: ) E( X ) µ ) V( X ) σ/ Observemos que estas propedades se cumple depedetemete de la dstrbucó de probabldad de la varable X Demostracó ) Se cumple: E( X ) E ) Se cumple: V( X ) V ERROR CUADRÁTICO MEDIO E ( X ) X X µ V ( X ) El error cuadrátco medo, ECM, de u estmador ˆθ está dado por E[ ( ˆθ θ) ] S se cumple que E( ˆθ ) es gual a θ, se tee etoces ECM V( ˆθ ) EL ECM es ua mportate medda del error de u estmador A partr de la defcó del ECM se deduce dos mportates propedades que debería teer los estmadores para que tega u ECM pequeño σ 98

2 Expadedo la defcó de ECM se tee: ECM E[( ˆθ θ ˆθ + θ )] E[ ˆθ ] θ E[ ˆθ ] + θ Var( ˆθ ) + [E( ˆθ )] θ E[ ˆθ ] + θ Var( ˆθ ) + [θ - E( ˆθ )] Este resultado dca que el ECM será mímo cuado la Var( ˆθ ) sea la meor posble, y la esperaza del estmador ˆθ sea gual al parámetro θ Vemos a cotuacó este últmo caso: ESTIMADOR INSESGADO Defcó: U estmador θ de u parámetro θ de ua dstrbucó de probabldad, es sesgado s se cumple E( θ ) θ Es decr, s el estmador es sesgado, su valor esperado es gual al valor del parámetro La dfereca E( θ ) θ se deoma sesgo del estmador U estmador sesgado, o tee sesgo (el sesgo es ulo) Careca de la propedad de varaza La mayoría de los estmadores sesgados o tee la propedad de varaza Sea θ es u estmador sesgado de θ Supogamos que estamos teresados e el estmador de ua fucó de θ, por ejemplo g( θ ) E la mayoría de los casos, se cumple que g( θ ) o es u estmador sesgado de g( θ ) Solamete s g( θ ) a + b θ, dode a y b so costates, se tee que g( θ ) es u estmador sesgado de g( θ ) Ejemplo (Tomado del lbro de Meyer) X es u estmador sesgado de la meda µ de la dstrbucó de la varable aleatora X S embargo g( X ) X o es u estmador sesgado de µ, porque o se cumple E[ X ] µ Es decr E[g( X )] g[e( X )] Veamos la demostracó: Se tee: V(X) E[ X ] (E[ X ]) Por cosguete: E[ X ] V( X ) + (E[ X ]) Falmete se obtee: E[ X ] σ/ + µ µ ( dode µ (E[ X ]) ) Por cosguete E[ X ] o es estmador sesgado de µ, excepto para Este ejemplo muestra també el caso de u estmador sesgado, que astótcamete es sesgado Ejemplos de estmadores sesgados o sesgados Meda muestral El teorema ateror dca que la meda muestral X es u estmador sesgado de la meda de la dstrbucó teórca µ, porque se cumple E( X ) µ 99

3 Varaza muestral U estmador sesgado de la varaza de la poblacó, σ, está dado por: ( ) V X ( x x) ( ) Por el cotraro el estmador V( X) ( x x) es sesgado Demostracó Obtecó del estmador sesgado de la varaza de X Queremos calcular la esperaza del estmador de la varaza: EV ( ( X ) ) E ( x x ) Para efectuar ese cálculo observamos que se cumple: s x x ( ) ( x x + ) µ µ ( x x x x ) ( )( ) ( ) µ + µ µ + µ ( x x x x µ ) + ( µ )( µ ) + ( µ ) El segudo térmo de esta últma expresó es gual a: ( x µ )( µ x) + ( µ x) El prmer térmo e esta últma sumatora admte la susttucó: y, falmete: ( x µ )( µ x) ( µ x) ( x µ ) ( µ x) x µ ( x µ )( µ x) ( µ x ) ( µ x ) Susttuyedo e la últma expresó de s, se obtee falmete: [ ] s x x ( µ ) ( µ ) ; dode la sumatora se aplca sobre los dos térmos A cotuacó, usamos las sguetes gualdades: E( x µ ) σ X ; E( x µ ) σ X Reemplazado e la expresó para la varaza muestral s se obtee: E σ ( ) ( ) X s σx σx Por cosguete, la varaza muestral de X defda segú s de esa maera es sesgada Se cosgue fáclmete ua varaza sesgada multplcado a la varaza sesgada por u coefcete: 00

4 sesg sesg ( ) σ X ( ) ( ) s s x x E geeral es coveete utlzar la varaza sesgada, auque s es grade (mayor que aproxmadamete 50) usar s sesgado o produce dfereca sgfcatva e los valores umércos De ahora e más utlzaremos el símbolo σ, e vez de σ X, a meos que sea ecesaro usar el últmo símbolo para evtar cofusoes La varaza muestral ssesg ( x x ) ( ) es u estmador sesgado de la varaza de la dstrbucó teórca, σ S embargo, la raíz cuadrada o es u estmador sesgado de σ La dfereca es poca, y geeralmete o se efectúa la correccó sobre s para obteer u estmador sesgado del desvío de la dstrbucó teórca, σ ESTIMADOR MÁS EFICIENTE Defcó: Etre dos estmadores sesgados θ y θ, de u parámetro θ, es más efcete el que tega meor varaza Ejemplo: Vmos que la meda muestral X es u estmador sesgado de la meda de la dstrbucó µ X També se puede estmar la meda de la dstrbucó medate la meda recortada, X recort(p%), dode P % dca el porcetaje de los datos extremos de la muestra que es descartado Por ejemplo, para calcular la meda recortada del 0%, X recort(0%), se descarta el 0% del total de los datos, que tega los meores valores, y el 0% del total de los datos, que tega los mayores valores La meda recortada també es sesgada S embargo, tee mayor varaza que la meda muestral artmétca Ejemplo (Tomado del lbro de Meyer) Meyer e su lbro preseta u excelete ejemplo de dos estmadores sesgados co dsttas varazas, e el cual puede ser más coveete utlzar el estmador co mayor varaza (el meos efcete) Sea T ua varable aleatora co dstrbucó expoecal, que dca el tempo trascurrdo para que falle u certo tpo de lamparta eléctrca La fucó de dstrbucó de T, Fexp(T) está dada por exp( α T) Se desea examar la duracó (tempo hasta que falle) T (,,) de cada ua de lampartas eléctrcas Se quere ua estmacó sesgada del tempo medo etre fallas, E(T) /α Para efectuar esa estmacó sesgada, utlzamos la muestra (T, T,,T) ) Ya sabemos que la meda muestral T es u estmador sesgado de la meda poblacoal E(T) (váldo para cualquer varable aleatora cuyo meda esté defda) La varaza de T está dada por V( T ) Var(T)/ /(α ) )Sea la varable aleatora K el mímo de la muestra, es decr K m(t,, T) Otro estmador sesgado es Y K Cálculo de la esperaza de Y: 0

5 E(Y) E( K) E(K) Ya vmos que E(K) /(β ) Por cosguete, E( K) /β Co lo cual probamos que el estmador Y es sesgado Calculo la varaza de Y: Se tee V(Y) V( K) V(K) (/( β ) ) /β Por cosguete tato T como ( K) so estmadores sesgados S embargo T tee meor varaza [gual a /( β )] que (K) [gual a /β ] Por cosguete, T es u estmador más efcete que ( K) Desde el puto de vsta de costos de la prueba, el estmador ( K) podría ser más coveete que el estmador T Para poder calcular T es ecesaro esperar a que todos los elemetos falle; metras que para calcular ( K) solamete es ecesaro que ocurra la prmera falla etre los elemetos que partcpa e la prueba Defcó: Etre todos los estmadores putuales sesgados de u parámetro θ, el que tee la meor varaza se deoma Estmador sesgado de míma varaza E la medda que sea posble determarlos, se prefere trabajar co estmadores sesgados de míma varaza E el caso de ua dstrbucó Normal, la meda muestral es el estmador sesgado de míma varaza de la meda poblacoal ERROR TÍPICO DE UN ESTIMADOR Defcó: Se deoma error típco de u estmador θ, al valor estmado de su desvío típco σ θ S el cálculo del error típco cluye parámetros co valor descoocdo, pero que puede ser estmados, etoces el error típco se deoma error típco estmado ESTIMADOR CONVERGENTE Defcó: El estmador θ del parámetro θ es u estmador covergete (també deomado cosstete) s se cumple: lm Pr ob( θ θ > ε ) 0, ε > 0 E otras palabras, el estmador θ es covergete s para muestras sucesvamete de mayor tamaño, dsmuye la probabldad de que el valor absoluto de la dfereca etre θ y θ, sea mayor que u úmero postvo y fjo ε El úmero ε se lo elge ta pequeño como se desee El procedmeto para determar s u estmador es covergete, se smplfca usado el sguete teorema Teorema Sea θ u estmador del parámetro θ; el valor de θ se calcula utlzado ua muestra de tamaño S se cumple los sguetes dos límtes: Etoces θ es u estmador covergete lm E( θ ) θ; y lm V( θ ) 0 Ejemplo El estmador putual µ defdo por la meda muestral X, es sesgado, y tee varaza V( µ ) V( X ) σ / La varaza del estmador tede a cero a medda que el valor de θ se calcula sobre muestras más grade Por cosguete la meda muestral es u estmador covergete de la meda de la dstrbucó 0

6 MÉTODOS DE OBTENCIÓN DE ESTIMADORES MÉTODO DE LOS MOMENTOS Defcó: Sea ua muestra aleatora X, X,, X de ua dstrbucó de probabldad co fucó de desdad f(x), o segú correspoda co fucó de probabldad p(x) El mometo de orde k de la dstrbucó es E(X k ); y el mometo de orde k, m k, de la muestra es mk X k Método de los mometos: Sea X, X,,X, ua muestra aleatora tomada de ua dstrbucó co fucó de probabldad p(x, θ, θ,, θ m ), o fucó de desdad f(x,, θ, θ,, θ m ), segú correspoda θ, θ,, θ m so parámetros co valor descoocdo Los estmadores de mometo θ, θ,, θ m de los parámetros θ, θ,, θ m se obtee gualado los prmeros m mometos muestrales co los correspodetes prmeros m mometos de la dstrbucó, y despejado θ, θ,, θ m Ua vetaja del método de los mometos es que es ecesaro coocer la dstrbucó de la poblacó de la que provee la muestra, para calcular el valor de los estmadores θ, θ,, θ m Ejemplo La dstrbucó ormal tee los mometos de prmer orde, µ, y el mometo cetral de segudo orde, σ Igualado los mometos muestrales, y los correspodetes mometos de la dstrbucó se obtee: X µ ; s σ, dode s es la varaza muestral sesgada MÉTODO DE MÁXIMA VEROSIMILITUD Fucó de desdad de ua muestra S ua muestra de la varable aleatora X está compuesta de valores, la muestra puede cosderarse u vector aleatoro (X, X,, X ) co fucó de desdad f(x, x,, x ) S la muestra es aleatora, por cosguete los x so depedetes etre s, se tee: f(x, x,, x ) Π f(x ), dode,,, Ejemplo Supogamos que la muestra de la varable aleatora X cossta de u solo valor observado x E este caso la fucó de desdad de la muestra f(x) es smplemete la fucó de desdad de la varable Lo cual debería ser obvo porque solamete observamos ua varable aleatora Ejemplo Supogamos que la muestra de la varable aleatora X cosste de dos valores, x, y x Cosderamos a la muestra (x, x) como los valores observados de u par de varables aleatoras X, y X La fucó desdad de la muestra e este caso es f(x, x) Por la depedeca de X y X, se tee f(x, x) f(x) f(x) Supogamos que X es ua varable ormal co meda E(X) 0; y varaza La fucó de desdad de la muestra está dada por: f( x, x) exp σ π x µ σ x µ σ 03

7 E razó de que X y X so varables aleatoras depedetes, la fucó de desdad muestral la expresamos como: x f( x, x) f( x) f( x) exp µ exp σ π σ σ π x µ σ La sguete fgura es ua represetacó de la fucó de desdad muestral f(x, x), e fucó de u rago de valores para (X, X) El máxmo de f(x, x) se ecuetra e el puto (µ x, µ x ) (0,0) Represetacó de la fucó de desdad muestral f(x, x), para u rago de valores para (X, X) El máxmo de f(x, x) se ecuetra e el puto (µ x, µ x ) (0,0) Fucó de máxma verosmltud Sea X, X,, X ua muestra aleatora compuesta de elemetos, de ua varable aleatora X co fucó de desdad f(x, θ), dode θ es u parámetro de valor descoocdo Se defe a la fucó de verosmltud, L, medate: L(x, x,, x, θ) f(x,θ) f(x,θ)f(x, θ) La fucó de verosmltud L es ua fucó de θ, y los valores observados de la muestra so parámetros de la fucó Ejemplo (L de ua muestra de la dstrbucó ormal) Sea X ua varable aleatora co dstrbucó ormal (µ, σ) Supogamos que coocemos el valor de σ, y que descoocemos el valor de µ La fucó de verosmltud L está dada por: L(x, x,, x, µ) σ π µ exp x σ, dode x {,, } so los valores muestrales E el caso de que la varable aleatora X sea dscreta, y los valores x de las varables aleatoras X que forma la muestra, tee la correspodete frecueca f (tal que la suma 04

8 de las f sea gual al tamaño de la muestra, ), y se cumpla P(X x ) p (θ); etoces la fucó de verosmltud está dada por: f f f L(x, x,, x, θ) [ p ( ) ] [ p ( ) ] [ p θ θ ( θ) ] Ejemplo (L de ua dstrbucó de Posso) Sea X ua varable aleatora co dstrbucó de Posso Se obtee ua muestra de tamaño La dstrbucó de Posso tee u solo parámetro, λ Descoocemos el valor de λ X puede tomar ftos valores eteros { 0,,, } Supogamos que r sea el mayor valor observado de X Las respectvas frecuecas co que ocurrero esos valores so f 0, f,, f r (se cumple: f 0 + f + + f r ) La fucó de verosmltud es: L(0,,, r, λ) r 0 λ! e λ f El método de máxma verosmltud cosste e elegr como estmador θ del parámetro θ, al valor de θ que hace máxma a la fucó L Para lo cual se debe cumplr: L θ L ; < 0 e θ θ 0 Este requermeto es equvalete a elegr al valor θ como estmador de θ, tal que haga máxma la probabldad de obteer la muestra (x,,x) que fue efectvamete obteda El método de máxma verosmltud requere coocer, o postular, la dstrbucó de probabldad de la que provee la muestra S hay más de u parámetro descoocdo ( por ejemplo θ, θ ) los valores de máxma verosmltud de los parámetros está dados por el sstema de ecuacoes: L L 0; 0 θ θ Las correspodetes dervadas segudas debe ser egatvas e θ, y θ segú correspoda Observemos que al requerr que el valor del estmador θ de θ, haga máxmo a L, estamos requredo que la fucó desdad f(x,,x ) tega u máxmo e θ θ Por cosguete, la muestra observada cae detro de u tervalo { x x x x + x;,, } de máxma probabldad de ocurreca para el x elegdo Ejemplo (L de ua dstrbucó ormal; muestra de elemetos) Supoemos que se tee ua muestra compuesta de dos elemetos de ua varable aleatora X La muestra tee los valores (7, ) Se sabe que la varable aleatora X tee dstrbucó ormal, co meda descoocda, y varaza La fucó de máxma verosmltud, L(µ) está dada por: L ( µ ) f ( x, µ ) f ( x, µ ) x µ x exp exp µ σ π σ σ π σ ; El valor del estmador de µ, X, es el valor que maxmce a la fucó de verosmltud L(µ), que es gual a la fucó de desdad de la muestra, para que la muestra observada tega la mayor desdad de probabldad 05

9 L(L) es ua fucó que alcaza su máxmo para el msmo valor de θ que L E geeral, se prefere trabajar sobre el l(l) ; de esta maera se obtee ua expresó sumatora, e vez de u producto Esto vuelve más fácl resolver la ecuacó: l ( L) 0 ; θ Ejemplo: Estmador de MV del parámetro λ de la dstrbucó de Posso Cotuamos co el ejemplo ateror, de ua varable aleatora X co dstrbucó de Posso Queremos ecotrar el estmador del parámetro λ S tomamos el logartmo de L, se obtee: l L r 0 ( l λ! λ) f A cotuacó gualamos a cero la dervada co respecto a λ: r f 0 l ( L) λ λ ó també: 0 r r λ f ì f Despejado λ, se obtee la expresó para calcular al estmador de máxma verosmltud λ : r r λ f / f 0 0 x x Por cosguete, el estmador buscado λ es la meda muestral Propedades Los estmadores obtedos medate el método de máxma verosmltud tee las sguetes propedades: Bajo codcoes muy geerales, so estmadores covergetes So varates S θ es el estmador de máxma verosmltud de θ; y además g es ua fucó, etoces el estmador de máxma verosmltud de g(θ) es g( θ ) 3 S be puede ser estmadores sesgados, el sesgo puede ser corregdo 4 Bajo codcoes muy geerales, los estmadores de máxma verosmltud para muestras grades so estmadores cas de míma varaza e sesgados Propedad astótca Los estmadores de máxma verosmltud tee la sguete propedad astótca Teorema (versó de Meyer): S θ es u estmador de máxma verosmltud del parámetro θ, defdo sobre ua muestra aleatora de tamaño de ua varable aleatora X; etoces para sufcetemete grade, la varable aleatora θ tee aproxmadamete la dstrbucó: 06

10 N θ, B, dode B ( ) E l f X; θ f(x, θ) es la fucó de θ probabldad, o la fucó de desdad de X, segú X sea ua varable aleatora dscreta o cotua; y θ es u úmero real 07