Pruebas de bondad de ajuste para distribuciones con parámetro de forma

Transcripción

1 Pruebas de bondad de ajuste para distribuciones con parámetro de forma José A. Villaseñor Alva Colegio de Postgraduados, México ITESM, Monterrey, N.L. 2 de septiembre de 2011 Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 1/29

2 Introducción Una parte importante de la inferencia estadística es obtener información acerca de la población de la cual una muestra aleatoria (m.a.) ha sido extraída. Por ejemplo, mucha metodología estadística está basada en el supuesto de que la población es normal; sin embargo, este supuesto debe de ser verificado antes de continuar con otros aspectos relacionados con la inferencia estadística. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 2/29

3 Introducción (cont.) El problema clásico de bondad de ajuste se presenta cuando suponemos que la hipótesis nula está completamente especificada. Así, con base en una m.a. X 1, X 2,..., X n de F (x) se desea probar la hipótesis nula: contra la hipótesis alternativa H 0 : F (x) = F 0 (x), para toda x (1) H 1 : F (x) F 0 (x), para alguna x, (2) donde F 0 está completamente especificada (no hay parámetros desconocidos). En este caso se dice que H 0 es una hipótesis simple. Algunas pruebas clásicas de bondad de ajuste para este problema son: la prueba de Chi-cuadrada propuesta por Karl Pearson (1900), que ha sido reconocida como uno de los avances científicos más importantes del siglo XX. la prueba de Kolmogorov-Smirnov (Kolmogorov, 1933). la prueba de Anderson-Darling (1952). Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 3/29

4 Introducción (cont.) El problema en que estamos interesados es cuando la hipótesis nula es compuesta, esto es, H 0 : F (x) = F(x; θ) (3) donde θ es un vector de parámetros desconocidos, que puede tomar dos o más valores distintos. Por ejemplo, cuando F(x; θ) es la distribución normal con parámetros desconocidos. Una prueba clásica en esta situación es la prueba A 2 de Anderson-Darling (1952) en donde la media y la varianza son estimadas por máxima verosimilitud. A 2 es invariante bajo transformaciones de escala y localidad. Esto implica que la distribución bajo H 0 de A 2 para probar normalidad no depende de los parámetros de escala y localidad. Así, la distribución nula puede ser obtenida por simulación para cualquier tamaño de muestra n, de donde se obtiene la constante crítica que define la prueba. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 4/29

5 Algunos conceptos relevantes Una prueba de hipótesis basada en una estadística de pruebat es una partición del conjunto de los valores posibles de T en dos regiones, la región de rechazo y la región de aceptación (no rechazo). La distribución de T bajo H 0 es llamada la distribución nula de T. Al usar una prueba se tiene: Error de tipo I: rechazar H 0 cuando es verdadera. Error de tipo II: aceptar (no rechazar) H 0 cuando es falsa. Tamaño de una prueba: una prueba es de tamaño α si α = sup H0 P(Error de tipo I). Potencia de una prueba: es 1 P(Error de tipo II) que es igual a la probabilidad de rechazar H 0 cuando H 0 es falsa. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 5/29

6 Prueba de Shapiro-Wilk Sean x (1) < x (2) <... < x (n) las estadísticas de orden de una m.a. de tamaño n de una función de distribución F. Sea Φ(. ) la función de distribución normal estándar. Para probar la hipótesis de normalidad univariada: ( ) x µ H 0 : F(x) = Φ, donde µ R y σ > 0 son desconocidos, σ Shapiro y Wilk (1965) proponen la estadística de prueba donde x = 1 n n x i y i=1 W = [ n ] 2 a i x (i) i=1 (4) n (x i x) 2 i=1 Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 6/29

7 Prueba de Shapiro-Wilk (cont.) a i es el i ésimo elemento del vector a = (a 1,..., a n ) m V 1 = (m V 1 V 1 m) 1/2 con m = E [Z] y V = cov (Z) donde Z denota al vector de estadísticas de orden de una m.a. normal estándar de tamaño n. La prueba de Shapiro-Wilk rechaza la hipótesis de normalidad con un tamaño de prueba α si W < k α, donde k α es tal que la prueba es de tamaño α. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 7/29

8 Prueba de Shapiro-Wilk (cont.) La estadística W resulta ser una razón de dos estimadores de la varianza y se puede verificar que es invariante bajo transformaciones de escala y localidad. Por lo tanto, para α dada, k α es tal que α = P(W < k α H 0 es verdadera). (5) Es decir, k α es el percentil 100α % de la distribución nula de W. Es importante notar que en general, cuando el vector de parámetros θ es estimado, la distribución nula de la estadística de prueba depende de θ, del tipo de estimador de θ y de la forma de F. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 8/29

9 Pruebas para distribuciones con parámetro de forma Aquí estamos interesados en probar H 0 en (3) cuando el vector de parámetros θ incluye un parámetro de forma. En esta situación, la distribución nula de la estadística de prueba de cada una de las pruebas clásicas de bondad de ajuste depende del parámetro de forma, de su estimador y de la F misma. Ejemplos: Las distribuciones Weibull, lognormal, Pareto clásica Gamma, Pareto generalizada, Normal asimétrica, Alfa-estables, con cola de variación regular. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 9/29

10 1. La distribución Weibull Sea X una v.a. exponencial(λ). Para γ > 0, la v.a. Y = X 1/γ tiene distribución Weibull(γ, λ) con función de distribución donde γ es el parámetro de forma. F(y; λ, γ) = 1 e λy γ, y > 0, Se desea probar H 0 : F(y) = F(y; λ, γ) con base en una m.a. Y 1, Y 2,..., Y n de F(y). Para esto note que Z = log Y tiene distribución Gumbel con parámetro de localidad (log λ)/γ y parámetro de escala 1/γ. Debido a que la distribución Gumbel es de localidad y escala, la prueba de Anderson-Darling puede ser utilizada para probar H 0 con base en los datos transformados y estimando los parámetros por máxima verosimilitud. Stephens (1977) obtuvo los valores críticos para la distribución Gumbel. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 10/29

11 2. La distribución Pareto clásica Se dice que la v.a. X tiene distribución Pareto clásica con parámetro de forma γ si tiene función de distribución F(x; γ) = 1 1/x γ, x > 1, γ > 0. (6) Se desea probar H 0 : F(x) = F(x; γ) con base en una m.a. X 1, X 2,..., X n de F(x). Para esto note que Y = log X tiene distribución Exponencial con parámetro de escala γ. Por lo tanto, para probar H 0 se puede emplear por ejemplo la prueba de exponencialidad de Cox y Oakes (1984) con base en los datos transformados. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 11/29

12 3. Distribución Pareto generalizada Se dice que la v.a. X tiene distribución Pareto Generalizada (PG) si su función de distribución está dada por ( F (x; σ, γ) = γ ) 1/γ σ x, (7) donde σ > 0, y γ R tal que x > 0 para γ 0 y 0 < x < σ/γ cuando γ < 0. Cuando γ 0 +, F (x; σ, γ) 1 exp ( x/σ), la cual es la distribución Exponencial(σ). Cuando γ = 1, F(x; σ, γ) = x/σ, la cual es la distribución Uniforme(0, σ). La familia PG contiene distribuciones de cola pesada, la familia de distribuciones exponencial, así como una subclase de distribuciones Beta y otras de soporte acotado. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 12/29

13 Distribución Pareto generalizada (cont.) Debido a su riqueza, la familia de distribuciones PG ha sido usada para modelar probabilidades en diferentes campos como Finanzas, Ecología e Hidrología entre otras (ver Reiss y Thomas, 2007). Por lo tanto, se requiere contar con una prueba de bondad de ajuste para H 0 : F es una distribución PG(σ, γ), σ, γ desconocidos. (8) con base en una m.a. X 1,..., X n de F. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 13/29

14 Estimador de Hill: caso γ 0 La distribución Pareto con parámetro de forma γ se define como F(x; γ) = 1 x 1/γ, x > 1. Entonces l«ım x F(x; γ) F (x; σ, γ) = l «ım x x 1/γ ( 1 + γ σ x) 1/γ = ( ) 1/γ σ. (9) γ donde F(x) = 1 F (x). Es decir, la distribución PG(σ, γ) es equivalente en la cola a la distribución Pareto(γ). Por lo tanto, el estimador de Hill (1975) para γ es γ N = W n k+1 1 k k donde j=1 W n j+1, (10) W j = log Y (j), j = n k + 1, n k + 2,..., n. (11) y Y (1) < Y (2) <... < Y (n) son las estadísticas de orden correspondientes a una m.a. Y 1, Y 2,..., Y n de la distribución PG(σ, γ). Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 14/29

15 Método combinado: caso γ < 0 Sea U = ( F ) γ, (X) esto es, U = 1 + γ σ X. Note que U tiene distribución Beta( 1/γ, 1). Proponemos el siguiente procedimiento en dos etapas para estimar el parámetro γ. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 15/29

16 Método combinado: caso γ < 0 (cont.) Etapa 1: Método de Momentos Sean X 1, X 2,..., X n una m.a. de tamaño n de la distribución PG(σ, γ). El momento muestral de primer orden de U es donde X = n i=1 X i/n. m = 1 n n i=1 ( 1 + γ ) σ X i = 1 + γ σ X (12) Por otro lado, el valor esperado de U es E{U} = 1/(1 γ). Entonces, por el método de momentos, 1 1 γ = 1 + γ σ X. (13) Resolviendo para γ, γ = 1 σ X. (14) Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 16/29

17 Método combinado: caso γ < 0 (cont.) Etapa 2: Máxima Verosimilitud De la definición de la distribución PG(σ, γ), se tiene que 0 < x < γ < 0. Entonces, el EMV de σ γ es X (n) = m«ax {X 1, X 2,..., X n }. Un estimador ˆσ de σ es: σ γ, cuando ˆσ = γx (n). (15) Por lo tanto, sustituyendo ˆσ arriba por σ se tiene: γ = X X X (n). (16) Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 17/29

18 Prueba de bondad de ajuste para la distribución Pareto generalizada Con base en el parámetro de forma γ, se definen dos subclases de distribuciones PG: y A + = {todas las distribuciones PG con parámetro de forma γ 0} A = {todas las distribuciones PG con parámetro de forma γ < 0}. La hipótesis H 0 en (8) es equivalente a H 0 : F A + A. Se presenta una prueba de intersección-unión para H 0 (Casella y Berger, 1990), la cual considera una prueba para H + 0 : F A+ y una prueba para H 0 : F A. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 18/29

19 Prueba para H + 0 (γ 0) Sea F (x) = 1 F(x). La definición de la distribución PG dada en (7) es equivalente a { } γ γ F(x; σ, γ) = 1 + x, σ > 0, γ R. (17) σ Además, sumando 1 y tomando logaritmos en ambos lados de (17), se tiene log( ( F (x; σ, γ) ) ( γ γ ) 1) = log + log(x), σ > 0, γ R. (18) σ Por (17), bajo H 0 se tiene una relación lineal entre Y = ( F(X; σ, γ) ) γ y X. Además, ( por (18), existe una relación lineal entre las v.a. (F ) Y γ ) = log (X; σ, γ) 1 y X = log(x). Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 19/29

20 Prueba para H + 0 (γ 0) (cont.) Sea Y i = ( F n (X i ) ) ˆγ, i = 1, 2,..., n, donde Fn es la función de distribución empírica de la m.a. y ˆγ = ˆγ k es el estimador dado de Hill. El coeficiente de correlación muestral de X i y Y i, denotado como R 1, es un estimador de la correlación lineal entre Y y X cuando 0 ˆγ < 0.5, donde n ( j=1 Xj X ) ( Y j Y ) R 1 =, (19) n SX 2 S2 Y donde X, SX 2 y Y, SY 2 son la media y varianza muestrales de X 1,..., X n y Y 1,..., Y n. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 20/29

21 Prueba para H + 0 (γ 0) (cont.) = log(x i ) y Y i Sea Xi de correlación muestral de Y ( (F = log n (X i ) ) ) ˆγ 1, i = 1, 2,..., n. El coeficiente i y X i, i = 1, 2,..., n, denotado como R 2, es un estimador de la correlación lineal de Y y X cuando ˆγ 0.5. Para probar H + 0, se propone la estadística de prueba: { R + R1, if 0 ˆγ < 0.5, = R 2, if ˆγ 0.5. Bajo H 0 se espera que el valor de R + esté cerca de 1, entonces la prueba rechaza H + 0 si R+ < c α + donde c α + es el cuantil del 100α % de la distribución de R + bajo H + 0. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 21/29

22 Prueba para H + 0 (γ 0) (cont.) Como la distibución nula de R + depende de γ, usamos bootstrap paramétrico para aproximar el valor crítico c + α como sigue. 1 Calcular ˆγ con base en la m.a. y generar B muestras bootstrap de la distribución PG(σ, γ) = (1, ˆγ). 2 Calcular el valor de R + para cada muestra bootstrap. 3 Sean R + (j) los valores ordenados R+ j, j = 1,..., B. 4 c + α = R + (αb). Note que usamos σ = 1 ya que R + es una estadística escala-invariante. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 22/29

23 Prueba para H 0 (γ < 0) Con base en la relación { } γ γ F(x; σ, γ) = 1 + x, σ > 0, γ R, (20) σ una estadística de prueba para H 0 es el coeficiente de correlación muestral de X i y Z i = ( F n (X i ) ) γ, i = 1, 2,..., n, donde γ es el estimador combinado. Sea R el valor absoluto del coeficiente de correlación muestral de X i y Z i, i = 1,..., n. Por lo tanto, se rechaza H 0 si R < c α donde c α es el cuantil del 100α % de la distribución de R bajo H 0. Para obtener c α usamos bootstrap paramétrico. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 23/29

24 Prueba de Intersección-Unión Una prueba para la hipótesis H 0 : F es una distribución PG (21) rechaza cuando ambas pruebas R + y R rechazan. Para que la prueba sea de nivel α se requiere que cada una de las pruebas R + y R sea de tamaño α. Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 24/29

25 Tamaño estimado de la prueba, n = 50 γ α Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 25/29

26 Potencia estimada de la prueba (α = 0.05) Alternativa n = 50 n = 100 Beta(1,2) Beta(2,1) Beta(5,5) Weibull(2,1) Weibull(3,1) Gama(5,1) Gama(8,1) Gen-Gama(2,1/3).87 1 Gen-Gama(2,1/2) Gen-Gama(1,1/2) Abs(norm(2,2)) Abs(norm(2,1)) Abs(norm(3,1)) Chisq(6) Abs(Gumbel(5,2)) Abs(Gumbel(5,5)) Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 26/29

27 Aplicación Osterman (1993) (Reiss y Thomas, 2001) estudió un conjunto de datos que contiene 135 registros en horas por semana de televidentes. La Tabla 1 presenta los registros que exceden las 20 horas. Tabla: Horas de TV / semana Al aplicar la prueba propuesta, no se rechaza la hipótesis nula de la distribución PG a un nivel de significancia del 10 % ya que R + no rechaza H + 0. Por lo tanto, los datos no presentan evidencia contra la hipótesis nula cuando γ 0. La estimación de γ es γ = Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 27/29

28 Referencias Anderson, T.W. y Darling, D.A. (1952). Asymptotic theory of certain goodness of fit criteria based on stochastic processes. Ann. Math. Statist., 23, Casella, G. y Berger, J. (1990). Statistical Inference. Brooks/Cole, USA. Cox D. y Oakes D. (1984). Analysis of Survival Data. Chapman and Hall. USA. Kolmogorov, A.N. (1933). Sulla determinasione empirica di una legge di distribuzione. Giornale dell Istituto Italiano degli Attuari, 4, Reiss, R.D. y Thomas, M. (2007). Statistical Analysis of Extreme Values with Applications to Insurance, Finance, Hydrology and Other Fields. 3 a Ed. Birkhäuser. Stephens, M.A. (1977). Goodness of Fit for the Extreme Value Distribution, Biometrika, 64, Shapiro, S.S. y Wilk, M. B. (1965). An analysis of variance test for normality: complete samples. Biometrika, 52, No. 3/4, Wand M SemiPar: Conferencia Bimestral Semiparametic de la AME Pruebas para Regression. distribuciones con parámetro R package de forma version28/29

29 Referencias Villaseñor, J.A. y González, E A bootstrap goodness of fit test for the generalized Pareto distribution. Comp. Stat. and Data Analysis, 53, Villaseñor, J.A. y Pérez, P On testing the skew normal hypothesis. J. of Statistical Planning and Inference, 140, Conferencia Bimestral de la AME Pruebas para distribuciones con parámetro de forma 29/29