Estimación de Parámetros. Estimación Puntual. Universidad Técnica Federico Santa María. Estimación de Parámetros. Estimación de Parámetros.

Transcripción

1 Uversdad Técca Federco ata María Estmacó de Parámetros Capítulo 7 Estmacó de Parámetros Estadístca Computacoal II emestre 007 Prof. Carlos Valle Pága : e-mal : cvalle@f.utfsm.cl C.Valle. Método de estmacó Putual: e busca u estmador ϑ que, co base e los datos muestrales, dé orge a ua estmacó uvaluada del valor del parámetro.. Método de estmacó por Itervalos: e determa u tervalo aleatoro I(ϑ, dode co certa probabldad, se ecuetra el valor del parámetro ϑ. 3 Estmacó de Parámetros Estmacó Putual El objetvo de la estmacó de parámetros es proveer de métodos que permta determar co certa precsó, el vector de parámetros descoocdos ϑ, de u modelo estadístco f(x ; ϑ a partr de ua muestra aleatora de ua poblacó bajo estudo.. Método de estmacó Putual. Método de estmacó por Itervalos La dea detrás de la estmacó putual es bastate smple. Cuado muestreamos desde ua poblacó descrta por su fucó de desdad o cuatía, f ( x θ coocer θ sgfca coocer la poblacó etera. Por lo tato, es atural cotar co métodos para ecotrar bueos estmadores del parámetro θ. 4

2 Uversdad Técca Federco ata María Defcó de Estmador U estmador es ua regla que os dca cómo obteer u parámetro de u modelo, basádose e la formacó coteda e ua muestra ( M{ f ( x θ : θ Θ } modelo T : χ τ Θ x T (x T (,,..., T (x : Estmador de θ, varable aleatora, fucó de la muestra, que o depede del parámetro θ. (T (x es ua estadístca basada e la Iformacó χ χ{x : x es ua muestra aleatora} Espaco de Iformacó θˆ E lo que sgue T (,,..., estmador de θ. 5 Método de Mometos Mometos Observados m m m Μ / / / mr r, r,..., Μ,,, Mometos Observados (cetrados e cero E[ ] E[ E[ Μ y resolvemos el sstema de ecuacoes: ] ] 7 Métodos de Estmacó Putual Método de Mometos Método de Máxma Verosmltud Método de Máxma Verosmltud El método de MV es la técca más popular para dervar estmadores. ea,,,, ua muestra desde ua poblacó co fucó de desdad f x θ, θ,..., θ ( La fucó de verosmltud se defe como: L( x θ L( x, x,.., x θ, θ,.., θ f ( x Para cada puto de la muestra, θ, θ,.., θ θ es el estmador de los parámetros e el cual L( x θ alcaza su valor máxmo como fucó del verdadero valor θ. 6 8

3 Uversdad Técca Federco ata María Método de Máxma Verosmltud la fucó de verosmltud es dferecable (e, el estmador de máxma verosmltud (EMV θ θ del verdadero valor θ es aquel que resuelve: L( x θ 0,,..., θ No obstate, habría que chequear que se cumple: L x θ θ θ j ( θ θˆ, < 0, j,..., 9 Métodos de Evaluacó de E.Putual Error Cuadrátco Medo (ECM: El ECM de u estmador T θˆ del parámetro es E[( T θ ] El ECM mde el promedo de la dferecas cuadrátca etre el estmador y el verdadero valor del parámetro, y ha sdo por mucho tempo ua medda razoable del desempeño de todo estmador putual. Ua medda alteratva podría ser E[ T θ ]. No obstate, la medda cuadrátca que utlza ECM tee vetajas sobre otras meddas: prmero que es tratable aalítcamete, y segudo que tee la sguete terpretacó ( dlema sesgo/ varaca: Método de Máxma Verosmltud Depededo de la p.d.f, puede resultar muy complcada la fucó de verosmltud, es por ello que es más fácl trabajar co la fucó de logverosmltud, defda como: ( x θ l L( x θ l f ( θ, θ,..., θ x Equvaletemete, el EMV θˆ es el valor de θ para el cual se cumple: ( x θ 0,,..., θ 0 Métodos de Evaluacó de E.Putual Error Cuadrátco Medo (ECM: ECM ( T E[ T θ ] E[ T Tθ + θ ] E[ T ] θe[ T ] + θ V[ T ] + ( E[ T ] θe[ T ] + θ V[ T ] + ( E[ T ] θ V[ T ] + ( esgo( T Dode se defe el esgo (Bas de u estmador putual como: esgo( T E[ T ] θ 3

4 Uversdad Técca Federco ata María Métodos de Evaluacó de E.Putual Error Cuadrátco Medo (ECM: El ECM corpora dos compoetes, ua que mde la varabldad del estmador (precsó y la otra que mde su sesgo (cercaía al verdadero valor. U bue estmador tee u ECM pequeño,.e. tee varaza y sesgo pequeños. Parece θrazoable etoces escoger como el mejor estmador de, la estadístca que tega el ECM más θ pequeño posble de etre todos posbles los estmadores Métodos de Evaluacó de E.Putual Estmadores Cosstetes: Es razoable esperar que u bue estmador de u parámetro θ sea cada vez mejor coforme crece el tamaño de la muestra. Esto es, coforme la formacó de ua v.a. se vuelve más completa, la dstrbucó de muestreo de u bue estmador se ecuetra cada vez más cetrada alrededor del parámetro θ. 3 5 Métodos de Evaluacó de E.Putual Error Cuadrátco Medo (ECM: No obstate, o exste gú estmador que mmce el ECM para todos los posbles valores de θ. Es decr, u estmador puede teer u ECM mímo para alguos valores de θ, metras que otro estmador tedrá la msma propedad, pero para otros valores de θ. Ejemplo: Cosdere la m.a.,,, de algua dstrbucó tal que E [ ] y V [ ] σ. Cosdere las estadístcas (estmadores: T y T + como posbles estmadores de. 4 Métodos de Evaluacó de E.Putual Estmadores Cosstetes: ea T el estmador del parámetro θ, y sea T, T,..., T ua secueca de estmadores que represeta a T co base e muestras de tamaño,..,, respectvamete. e dce que T es u estmador cosstete para θ s ( θ ε, θ, ε 0 lm P > T Obs.: Esta defcó provee del cocepto de Covergeca e Probabldad. Como ejemplo, aterormete demostramos que la meda muestral es u estmador cosstete de la meda poblacoal. 6 4

5 Uversdad Técca Federco ata María Métodos de Evaluacó de E.Putual Estmadores Isesgados de Varaza Míma: Es dfícl determar u estmador co mímo ECM para todo valor de θ. embargo, podemos efectuar esta búsqueda detro de ua clase de estmadores llamados estmadores sesgados. u estmador T se ecuetra detro de esta clase, se tee que: E[ T ] θ y ECM ( T V[ T ] Etoces, detro de la clase de estmadores sesgados, podemos comparar éstos segú su varaza. 7 Métodos de Evaluacó de E.Putual Estmadores Efcetes: T es u estmador sesgado del parámetro θ, se dce que T es u estmador efcete s se cumple que: l f ( θ V[ T ] E θ Por lo tato, el estmador efcete de θ es el estmador de míma varaza, cuyo valor correspode a la cota feror de Cramér-Rao. El estmador efcete de θ, s se puede ecotrar, es el mejor estmador sesgado de θ, e el cotexto del ECM. 9 Métodos de Evaluacó de E.Putual Estmadores Isesgados de Varaza Míma: ea,,, ua m.a. de ua dstrbucó cuya desdad tee la forma f ( x θ. T es u estmador sesgado de θ, etoces la varaza de T debe satsfacer la sguete desgualdad: l f ( θ V[ T ] E θ Métodos de Evaluacó de E.Putual Estmadores Efcetes: Ejemplo: ea,,, ua m.a. de ua dstrbucó Posso de parámetro. Ecuetre el estmador efcete de. olucó: Cosderemos ua dstrbucó Posso. x dada por p( x e / x!, y su esperaza y varaza está dadas por E[ ] y V[ ] σ. Luego: Esta desgualdad establece u límte feror para la varaza de u estmador de θ (deomado cota feror de Cramér- Rao. 8 l p( x x l( l( x! l p( x x x 0 5

6 Uversdad Técca Federco ata María Métodos de Evaluacó de E.Putual Estmadores Efcetes: Ejemplo: Etoces: l p( x x E E V[ ] E[ x ] por la defcó de efceca, el estmador efcete T de debe ser tal que se cumpla: σ V[ T ] / De aquí fermos que el estmador efcete de es la meda muestral: T. Métodos de Evaluacó de E.Putual Ua estadístca sufcete de u parámetro θ es aquella que utlza toda la formacó coteda e la m.a. co respecto a θ Estmadores ufcetes: ea,,, ua m.a. de ua dstrbucó co desdad de probabldad f ( x θ. e dce que T T(,,, es sufcete para θ sí y sólo s la fucó de verosmltud puede factorzarse de la sguete forma: L( x θ L( x, x,..., x θ h( t θ g( x,..., x para cualquer valor t T(x,x,,x de T (realzacó y e dode g x,..., x o cotee al parámetro θ. ( 3 Métodos de Evaluacó de E.Putual Efceca Relatva: e defe la efceca relatva del estmador T respecto del estmador T como: ECM ( T ef ( T, T ECM ( T La varaza de u estmador sesgado es la catdad más mportate para decdr qué ta bueo es. T y T so dos cualesquera estmadores sesgados de θ : V [ T ] ef ( T, T V [ T ] e dce que T es más efcete que T s V T ] V [ ]. [ T Métodos de Evaluacó de E.Putual Estmadores ufcetes: Ejemplo: ea,,, ua m.a. de ua dstrbucó x Posso co pdf p( x e /. x! Demostrar que el estmador efcete de es a su vez sufcete. olucó: L x, x,..., x p( x p( x Λ p( x ( e x / x! e x e / / x! Λ e x x! / x! x 4 6

7 Uversdad Técca Federco ata María Métodos de Evaluacó de E.Putual Estmadores ufcetes: olucó: L( x, x,..., x h x (,,..., g x x x co h ( ( x x e Etoces x es ua estadístca sufcete para. Dado que el estmador efcete es ua fucó uo a uo de esta estadístca, també es sufcete para. Estmacó por Itervalos E la práctca, teresa o sólo dar ua estmacó de u parámetro, so que además, u tervalo que permta precsar la certdumbre exstete e la estmacó. Defcó: ea x m.a. f ( x, θ. ea θ T (x, θ T (x dos estadístcas de θ : T T x χ ; P [θ θ θ ] - α γ Etoces el I [θ ; θ ] se llama tervalo aleatoro de cofaza del 00 γ % para θ ( 0 < α <. 5 7 Propedades de los Estmadores Máxmo Verosímles Todo estmador máxmo verosímles es: Astótcamete sesgados Astótcamete ormales Astótcamete efcetes Ivarates bajo trasformacoes buívocas estmador sufcete, es sufcete θˆmv Estmacó por Itervalos Fjado α, el problema de determar θ y θ puede resolverse ecotrado ua varable aleatora Q(x,θ cuya dstrbucó esté totalmete defda, que sea depedete de θ. La varable Q(x,θ se deoma Catdad Pvotal. La costruccó del tervalo de cofaza se efectúa co base e el mejor estmador del parámetro descoocdo θ

8 Uversdad Técca Federco ata María Método de la Catdad Pvotal. Ecotrar ua catdad Q.. P [q Q q ] - α γ 3. Ivertr P [θ θ θ ] γ, obteedo así u tervalo I[θ ; θ ] de cofaza para θ de vel 00 γ %. Obs: Para muestras grades exste ua v. a. Q astótca ya que para θˆmv, se tee θ θˆ MV Q Z N (0 ; σ θˆ ( MV [ θˆ ± z σ ( θˆ ] El tervalo para θ estaría dado por: I MV α dode el cuatl z / puede obteerse de la tabla de la dstrbucó Normal estádar. 9 MV Estmacó por Itervalos I. C. para cuado supoemos ormaldad co varaza coocda: ( Puesto que ~ N(, σ, la v.a. Z ~ N(0,, ( σ / etoces: σ σ P[ g( < < g( ] P z / < < + z / g( g( cosderado q z q α / z σ / y σ /, además de z q q z se tee: I α / / σ P z α / < < + z / σ γ ( / 3 I. C. para cuado supoemos ormaldad co varaza coocda: Cosderado como estmador de la meda poblacoal como la meda muestral, deseamos costrur u tervalo de cofaza tal que: Dode Estmacó por Itervalos P [ g( < < g( ] P[ T ( x < < T ( x] g ( g ( f ( x; d x α / y f ( x; d x α / f ( x; es la fucó de desdad de la dstrbucó de muestreo de, y g ( y g ( so fucoes de, las cuales o cotee a gú otro parámetro descoocdo. 30 Estmacó por Itervalos I. C. para cuado supoemos ormaldad co varaza coocda: Luego, el tervalo de cofaza del 00( % para la meda poblacoal es: σ σ I x z + ± /, x z / x z α α / σ dode el cuatl z / puede obteerse de la tabla de la dstrbucó Normal estádar. 3 8

9 Uversdad Técca Federco ata María Estmacó por Itervalos I. C. para cuado supoemos ormaldad co varaza descoocda: abemos que cuado se muestrea ua v.a. ~ N (, σ, dode tato como σ so descoocdos, la v.a. sgue ua dstrbucó t-tudet co (- gl., T / dode es la desvacó estádar y es el tamaño de la muestra. Por lo tato, es posble determar el valor del cuatl de T, para el cual: t α /, P[ t ] /, < T < t /, 33 3 Estmacó por Itervalos I. C. para la dfereca de medas ( dstrbucoes ormales depedetes: ea,,, y,,, m dos m.a. proveetes de dos dstrbucoes ormales depedetes, co medas y y varazas y, respectvamete. σ σ e desea costrur u tervalo de cofaza para la dfereca, co el supuesto que se cooce las varazas. ( Es sabdo que la v.a. Z ~ N(0, σ σ + m 35 Estmacó por Itervalos I. C. para cuado supoemos ormaldad co varaza coocda: Etoces: P t /, < < + t /, Luego, el tervalo de cofaza del 00( α% para la meda poblacoal es: s s I x t + ± /,, x t /, x t /, t α dode el cuatl /, puede obteerse de la tabla de la dstrbucó t-tudet co (- grados de lbertad. s 34 3 Estmacó por Itervalos I.Cofaza para la dfereca de medas cuado se muestrea dos dstrbucoes ormales depedetes: Por lo tato, es posble determar el valor del cuatl z para el cual P[ z < Z < ] / Etoces: / z / σ σ σ σ P z / + < < + z / + m m σ σ El tervalo está dado por: Iγ ( x y ± z / + m dode el cuatl z / puede obteerse de la tabla de la dstrbucó Normal estádar. 36 9

10 Uversdad Técca Federco ata María 3 Estmacó por Itervalos I. C. para la dfereca de medas ( dstrbucoes ormales depedetes: Estmacó por Itervalos 4 I. : C. para σ cuado supoemos ormaldad co meda descoocda: las varazas se descooce, pero so guales, etoces la v.a. ( Z ~ t tudet( + m gl p + m El tervalo está dado por: Iγ ( x y ± t /, s p + m dode el estmado combado de la varaza comú es: ( s + ( m s s p 37 Luego, el tervalo de cofaza del 00( %, para la varaza, co base e los datos de ua muestra de tamaño es: ( s ( s I, χ /, χ α /, χ dode los cuatles α /, y χ /, se obtee de la tabla de la dstrbucó J-Cuadrada co (- g.l. 39 Estmacó por Itervalos 4 I.C. para σ cuado supoemos ormaldad co meda descoocda: abemos que cuado se muestrea ua v.a. ~ N (, σ, dode tato como σ so descoocdos, la v.a. ( sgue ua dstrbucó J-cuadrada co (- gl., χ σ dode es la desvacó estádar y es el tamaño de la muestra. Por lo tato, es posble determar el valor de los cuatles χ α /, y χ /, tales que P[ χ α /, < χ < χ /, ] 38 5 Estmacó por Itervalos I. C. para el cuocete de dos varazas (dstrbucoes ormales depedetes: ea,,, y,,, m dos m.a. de dos dstrbucoes ormales depedetes, co medas y y varazas y, respectvamete. σ σ e desea costrur u tervalo de cofaza para el cuocete σ σ. / Es sabdo que la v.a. F / ~ F(, m σ σ 40 0

11 Uversdad Técca Federco ata María Estmacó por Itervalos I. C. para el cuocete de dos varazas (dstrbucoes ormales depedetes: Por lo tato, es posble determar los cuatles a y b tales que: P[ F < F < ] dode a F b Fa f y F b /,, m f /,, m Itervalo de Cofaza Catdad Pvotal Dfereca ( ( σ descoocd a + P σ σ σ descoocd a σ σ ( ( P + t t + + El tervalo está dado por: s s I Fa, F b s s dode los cuatles F a y F b puede obteerse de la tabla de la dstrbucó F co (- y (m- grados de lbertad. 4 σ /σ p pˆ pˆ mv F(, mv ( pˆ mv N ( 0, 43 Itervalo de Cofaza Para la meda Catdad Pvotal z 0 σ (σ coocdo 0 t (σ descoocdo Para la varaca σ ( χ σ χ 4