EL REML SIN LAGRIMAS. A. Blasco Instituto de Ciencia y Tecnología Animal Universidad Politécnica de Valencia

Transcripción

1 1 EL RE SIN LAGRIMAS A. Blasco Istituto de Ciecia y Tecología Aimal Uiversidad Politécica de Valecia El Baby model y i = e i y = X + e = 1 + e dode X = 1 es u vector de uos. La matriz de variazas-covariazas de los errores es V = I, y su determiate es fácil de calcular, V =( ), porque e V sólo hay e la diagoal y el resto so ceros. Máxima verosimilitud () La fució de verosimilitud, e el caso de que el carácter se distribuya de forma ormal N( ) y la muestra tega datos, es L( y cte (-/) exp[- (y-1)' (y-1) / ] Que, por cierto, o es ua fució Normal porque lo que varía es y o los datos, que aquí so costates y proviee de ua muestra determiada y. Derivado esta fució respecto a e igualado a cero, obteemos el valor que hace máximo a L( y), que es ( 1/ )( y1)'( y1) ( 1/ ) (y i ) Obsérvese que debemos coocer para obteer la estima de la variaza. Como o coocemos lo sustituimos por la estima máximo verosímil de ˆ (1/) y i co lo que la estima de la variaza es ( 1 / )( y1 )'( y1 ) Esta estima, a pesar de ser fució de otra, sigue teiedo las mismas bueas propiedades asitóticas que todas las estimas de máxima verosimilitud, y o hay razó formal para rechazarla. Cuado hay muchos efectos fijos la estima máximo verosímil es ˆ (1/ )( y Xb)' ( y Xb)

2 E dode, de uevo, se debe sustituir el verdadero valor de los efectos fijos, que descoocemos, por sus estimas máximo verosímiles, dado lugar a ( 1 / )( y Xb )'( y Xb ) De uevo, esta estima de es fució de otra, pero es tambié máxima verosímil, y auque o hay razó formal para rechazarla, resulta iquietate que el estimador sea el mismo coozcamos o o los valores de los efectos fijos, sobretodo si se ha estimado muchos efectos fijos. Máxima verosimilitud residual o restrigida (RE) Para calcular las estimas RE se proyecta los datos e u subespacio si efectos fijos. Si la matriz de proyecció es K, el método cosiste e hacer K'y = K' 1 + K' e = K' e de forma que K' 1 = 0. Geeramos etoces u uevo vector de datos y* = K y co u modelo e el que ya o está la media. Si llamamos e* = K e, ese modelo es y* = e* Por ejemplo, la matriz K' cumple la codició. Obsérvese que e este caso el vector uevo y* está compuesto de diferecias etre datos y y y * 1 1 y y y * 1 3 y y y * 1 1 La idea es que ua forma de hacer desaparecer la media es hacer el aálisis sobre diferecias de datos e lugar de sobre los propios datos, puesto que y i y k = ( + e i ) ( + e k e i e k dode ha desaparecido. Como para datos sólo hay -1 diferecias etre datos, el uevo vector y* tiee u elemeto meos que el y origial.

3 3 La variaza de K'y es K'VK = K'K. La verosimilitud es, ahora L( K'y cte K'K 1/ + exp [ (K'y)' (K'K) -1 (K'y) / ] Si se hace la multiplicació K'K se deduce imediatamete que K'K = ( ) -1 co lo que se puede obteer el valor que maximiza la verosimilitud, y que ahora es ˆ RE = [1/(-1)] y'k(k'k) -1 K'y y auque se puede demostrar formalmete para el caso geeral ( 1 ), es secillo ver e uestro ejemplo que y'k(k'k) -1 K'y = [y - 1(1/)y i ] ' [y - 1(1/)y i ] = ( y 1 )'( y 1 ) y la estima RE de la variaza es 1 /( 1 )( y1 )'( y1 ) RE que es idética a la estima, pero dividiedo por -1 e vez de por. A pesar de la similitud de las fórmulas hay que hacer otar que, al cotrario que e la estima, o se sustituye el valor verdadero de por el estimado, sio que al deducir la fórmula del estimador de la variaza aparece ua expresió, (1/)y i, que coicide co la estima máximo verosímil de. Para evitar estimar hemos teido que utilizar diferecias etre datos, y como máximo podemos obteer 1 diferecias. Si tuviéramos que hacer ua represetació geométrica de uestra muestra y, ecesitaríamos u espacio de dimesioes; si embargo, al utilizar RE deberíamos represetar uestros datos y* e u espacio de 1 dimesioes, os movemos e u espacio más restrigido, hemos perdido u grado de libertad. El hecho de que se haya perdido u grado de libertad al estimar, se refleja e que se divide por ( 1) e lugar de por. Cuado hay muchos efectos fijos esta distició es otable, puesto que para evitar estimar todos los efectos fijos hay que recurrir a muchas más combiacioes lieales etre datos, y el uevo vector y* = K y tiee muchos meos elemetos. Etoces la estima máximo verosímil es 1 Se puede demostrar que, e geeral, y'k(k'vk) -1 K'y = [y - X (X'V -1 X) - X'V -1 y ]' V -1 [y - X (X'V -1 X) - X'V -1 y ] E uestro caso, X= 1, V = Iσ, co lo que X(X'V -1 X) -1 X'V -1 y = 1 [(1/σ )1'1] -1 (1/σ )1'y = 1[(1/σ ) ] -1 (1/σ ) y i = 1 (1/) y i Muchos textos dice que RE tiee e cueta la pérdida de u grado de libertad dividiedo por -1. Esta frase carece de setido, lo que ocurre simplemete es que y* tiee -1 elemetos e vez de.

4 ( 1 / )( y Xb )'( y Xb ) mietras que la estima RE es /( )( )'( ) RE 1 rgx yxb yxb dode rg X es el rago de X y b la estima máximo verosímil de b. Hay varias matrices que cumple la codició K'1 = 0. El aálisis se podría hacer tambié sobre (K'y) ' = [ y 1 y, y y 3,..., y -1 y ] co el mismo resultado. Esto o quiere decir que cualquier K valga. Ua matriz co la mitad de sus filas compuestas por ceros tambié cumple K'1 = 0, y tambié lo cumple la matriz K = 0. Se trata de ecotrar matrices que o haga perder iformació relativa a la dispersió, lo que se cosigue itroduciedo e K el máximo úmero de cotrastes lieales idepedietes. De hecho o importa la K cocreta, puesto que e la fórmula fial o aparece. No hay u argumeto claro para preferir RE a. E el ejemplo aterior la estima RE es isesgada pero tiee u riesgo mayor que la para todos los valores posibles de la variaza, pero esto puede o ocurrir e casos más complejos. E otras situacioes el riesgo de la estimació RE será mayor o meor que la de depediedo de los valores verdaderos de las compoetes de variaza y de la estructura de los datos. La elecció que e mejora aimal se ha hecho hacia el método RE está relacioada más co argumetos idirectos como los expuestos ates que co ua razó basada e el riesgo del estimador o sus propiedades. Se suele decir que ua vetaja del RE es que coicide co las estimas del ANOVA e diseños equilibrados, y se sabe que estas so las mejores estimas posibles (so isesgadas y de variaza míima). Este argumeto es escasamete covicete e mejora aimal, e dode los diseños está siempre sometidos a fuertes desequilibrios. Si embargo el RE se ha impuesto como el método a escoger, tal vez, porque todo el mudo sabe que es algo que está muy bie. Estima de míimo riesgo cuadrático Si tomamos la estima e forma geeral ˆ (1 / k)( yxbˆ) '( yxb ˆ) el riesgo de estimació es el sesgo al cuadrado más la variaza del estimador; esto es -1 (-1) Riesgo( ˆ ) k k (ver apédice) y derivado respecto a k e igualado a cero para obteer el míimo, teemos que

5 5 k = +1 co lo que la estima de míimo riesgo cuadrático es ˆ (1 / 1)( yxbˆ) '( yxb ˆ) que adie utiliza, si que esté claras las razoes. APENDICE Formas cuadráticas ˆ ( ' ) ( ' ) ' ' ' ' ' ' ' x 1 1x 'x 1 1x x I 11 'I 11 x xaax xax 1 ˆ RE xax ' 1 1 dode A = I 11 ' es ua matriz simétrica idempotete (AA=A, como se puede 1 comprobar co facilidad) co e la diagoal y 1 e el resto. Media de ua forma cuadrática Ua forma cuadrática es u escalar, por lo tato es igual a su traza E (x Ax tr [ A E(xx )] = tr [ A (V + 11 μ ) ] = tr(av) + tr(a11 μ = tr(av) + tr(1 A1μ tr(av) + 1 A1μ Variaza de ua forma cuadrática var (x Ax tr(avav) + 1 AVA1 μ (ver cualquier texto de álgebra matricial)

6 6 ˆ Sesgo de ˆ 1 ˆ = x Ax es ua forma cuadrática. La media de ua forma cuadrática es E( ˆ E ( 1 x Ax 1 tr(av) A1μ = = 1 σ 1 tr(a) + 1 I 11' 1 = ya que el segudo sumado es ulo, como se comprueba co facilidad. sg ( ˆ 1 ˆ es pues u estimador sesgado, auque asitóticamete isesgado. Variaza de ˆ La variaza de ua forma cuadrática es var( ˆ var ( 1 x Ax 1 tr(avav) AVA1 μ = ( 1) tr (A ˆ R( ˆ sg ( ˆ ) + var( ˆ ( 1) ( 1) Sesgo de ˆ RE ˆ RE 1 E( ˆ ) E( ˆ ) E( ˆ ) RE

7 7 sg ( ˆ RE 0 el estimador ˆ RE es u estimador isesgado. Variaza de ˆ RE RE var( ˆ ) var( ˆ ) var( ˆ ) 1 Auque ˆ RE es u estimador isesgado, su variaza es mayor que la de ˆ. ˆ RE R( ˆ RE var( ˆ RE (1) 1 R( ˆ ) E cojuto el estimador ˆ RE tiee más riesgo que el justificado por la propiedad de isesgamieto. ˆ, por lo que su uso sólo está ˆ Sesgo de ˆ 1 1 E( ˆ ˆ ˆ ˆ ) E( ) E( ) E( ) sg ( ˆ ( 1) el estimador ˆ es u estimador sesgado, auque de sesgo meor que el de ˆ Variaza de ˆ var( ˆ ) var( ˆ ) var( ˆ ) 1

8 8 ˆ El estimador tiee meos sesgo y meos variaza que el, por lo que su riesgo es tambié meor. Este riesgo es R( < ˆ sg ( ˆ ) + var( ( 1) = R( ˆ ) ˆ (1) = ( 3) 1 < Como el estimador ˆ tiee meos riesgo que el pleamete justificado. ˆ y que el ˆ RE, su uso está