Apéndice F - Método de cuadrados mínimos análisis avanzado

Transcripción

1 Apéndce F - Método de cuadrados mínmos análss avanzado Método de cuadrados mínmos. Regresón lneal. Funcón χ. Obtencón de los parámetros de un modelo. Incertdumbre de los parámetros de un ajuste. Bondad de ajuste. Intervalos de confanza. Muestras pequeñas. Smulacones: método de Montecarlo Introduccón En la undad 5 se presentaron algunos útles para la de determnacón de los parámetros de una relacón lneal que mejor ajusta un conjunto de datos. Tambén se dscutó brevemente algunos crteros para evaluar la caldad del ajuste logrado. En este apéndce nos proponemos generalzar dchos procedmentos para el caso en que el modelo propuesto no sea lneal los datos que estamos analzando estén afectado de errores. Asmsmo se presentan crteros de análss de bondad de un ajuste. Fnalmente se ntroducen los rudmentos para smular un conjunto de datos expermentales a través del método de Monte Carlo, su mplementacón usando una planlla de cálculo. Método de cuadrados mínmos ncluendo errores - Regresón no lneal Supongamos que tomamos una sere de medcones de dos magntudes cua relacón deseamos determnar. El resultado de nuestras medcones dará lugar a un conjunto de ternas de la forma (x,, σ ), donde σ es la ncertdumbre asocada a la determnacón de. Aquí suponemos que la ncertdumbre de x es desprecable. Supongamos que el modelo que ajusta los datos vene dado por la funcón f(x;a,b,c,...), donde a, b, c, etc., son los n par parámetros del modelo. Al estmador del valor de dado por el modelo lo desgnamos por (x )f(x ;a,b,c,...). Decmos que (x ) representa la varacón determnsta de con x. En este caso general defnmos el valor de Ch-cuadrado como: ( ( x )) χ w ( ( x )) (F.) σ Físca re-creatva -S. Gl E. Rodríguez - Prentce Hall - Madrd 00

2 donde los valores w son los factores de peso de cada trada de datos (x,, σ ); en este caso los tomamos como w /σ. Defnmos el número de grados de lbertad, v, del modelo como: v. (F.) n par (x ) Fgura F.. Dagrama esquemátco de un ejemplo de modelo no lneal representado por la funcón f(x ). σ representa el error absoluto asocado a cada observacón. x x Introducmos la defncón del error medo: σ (F.3) w σ En nuestro caso hemos defndo los factores de peso de cada trada de datos como la nversa del cuadrado de la ncerteza σ, aunque a veces es útl emplear otros factores de peso de los datos, como por ejemplo: w, o w, etc. (F.4) El valor medo de se defne como: w w. (F.5) Físca re-creatva -S. Gl E. Rodríguez - Prentce Hall - Madrd 00

3 S todos los valores tenen el msmo peso (los errores σ son guales), esta expresón se reduce a la (.7). Tambén defnmos la varanca total como: S t w ( ) (F.6) S t es una medda de la dspersón de los datos alrededor del valor medo de. Este valor no depende del modelo (funcón f(x)), o sea que S t gnora toda varacón determnsta de con x. Tambén defnmos la varanza del ajuste o el valor de ch-cuadrado por grado de lbertad, χ v, como: S f w n par v ( ( x )) χ χ v (F.7) La varanza del ajuste, S f, al gual que χ o χ v (Ch-cuadrado por grado de lbertad), mden la dspersón resdual de los datos alrededor del valor determnsta, o sea son meddas de la bondad del ajuste de (x ) a los valores meddo. S el modelo propuesto f(x) fuese el adecuado, su valor estaría asocado a las fluctuacones estadístcas de respecto de su valor (x ). A veces es útl defnr el coefcente de regresón, que tambén da una dea de la caldad del ajuste o bondad del modelo, como: S t St S f R (F.8) S el modelo (x ) es una buena representacón de los datos, es de esperar que tanto S f como χ sean pequeños que S t >> S f, de donde se deduce que R. En caso contraro, tanto S f como χ serán grandes S t S f por lo tanto R 0. Estmacón de las ncertdumbres de los parámetros del modelo Al gual que en el caso del modelo lneal dscutdo en la Undad 5, los mejores valores de los parámetros del modelo se obtenen de la mnmzacón de la funcón Chcuadrado, o sea el mejor valor de del parámetro a del modelo, a*, vendrá dado por: Físca re-creatva -S. Gl E. Rodríguez - Prentce Hall - Madrd 00 3

4 a * χ ( a, b, c,...) a De modo que, χ mn χ (a*, b*, ), es el mínmo de χ. aa * 0. (F.9) La determnacón de las ncertdumbres en los parámetros (a*, b*, c*,...) es un procedmento sofstcado sobre el que exsten dversas ías opnones [,3]. Un método aproxmado práctco para calcular estas ncertdumbres en forma gráfca [3] se ndca en la Fg. F.. χ χ mn + χ mn Fgura F.. Esquema gráfco que lustra un procedmento aproxmado para obtener las ncertdumbres de los parámetros de un modelo no lneal. Para el caso de una varable, a, la técnca consste en grafcar χ en funcón de a. χ pasará por un mínmo (a*) que determna el mejor valor del parámetro a. En este punto el valor de χ será χ. Luego se determna el ancho del ntervalo defndo por las mn χ mn a * a ordenadas que hacen χ +. Este ntervalo de ordenadas determna [3] el ntervalo de ncerteza a del mejor valor a*. Regresón lneal consderando las ncertdumbres de medcón Un caso especal de partcular mportanca es el de la regresón lneal. En este caso es posble resolver las expresones generales en forma analítca, lo que faclta su uso programacón en muchas aplcacones práctcas. Igual que antes supondremos que se tenen una sere de medcones de dos magntudes x e cua relacón se supone lneal, es decr: Físca re-creatva -S. Gl E. Rodríguez - Prentce Hall - Madrd 00 4

5 a x + b donde a b son los parámetros del modelo que deseamos determnar evaluar. El resultado de nuestras medcones dará lugar a un conjunto de ternas de la forma (x,, σ ), donde σ es la ncertdumbre asocada a la determnacón de. Tambén aquí suponemos que la ncertdumbre de x es desprecable. Al gual que antes defnmos: w. (F.0) σ Ya vmos que este modo de defnr el peso de los datos puede vararse según sea el caso. En partcular s no se dspone de las ncertdumbres σ I, los w pueden tomarse guales a. Usando las sguentes defncones: SXn n w x SYn n, w. (F.) SXY w x Sum, w. (F.) < SX SY x > X, < > Y Sum Sum SX Var ( x ) - X Sum Sum SX - (SX) sum Var(x) (F.3) usando (F.7) es posble demostrar [,,3] que: sendo sus ncertdumbres: [ SXY Sum SX SY ] a. (F.4) b [ SX SY SX SXY ] < > a < > (F.5) σ Var(a) σ a b Var(b) ( a ) ( b ) Sum SX ( a x b) w ( ) Sum Var(x) SX Var(a) Sum, (F.6) respectvamente. De modo análogo se demuestra que el coefcente de correlacón vene dado por: Físca re-creatva -S. Gl E. Rodríguez - Prentce Hall - Madrd 00 5

6 SXY Sum x SX Sum x SY Sum Cov ( x, ) Var ( x) Var ( ) ρ (F.7) Este parámetro da una dea de la bondad del modelo lneal propuesto. S ρ es próxmo a, el modelo es adecuado, mentras que s ρ 0 el modelo lneal no es el modelo adecuado. S ρ 0 esto no sgnfca que no haa una vnculacón o correlacón entre x e, sno que el modelo lneal no es el adecuado. Por ejemplo, s los pares de puntos (x,) tene una relacón tal que caen sobre un círculo, tendríamos ρ 0. Desde luego, s los pares (x,) no tenen nnguna correlacón entre ellos, tambén tendríamos que ρ 0. Ver Undad 5. Precausones Vale la pena notar que no sempre es sufcente admtr que dos varables sguen una relacón lneal guándonos por lo que muestra un gráfco de los datos en escalas lneales. Menos aun s sólo evaluamos el coefcente de correlacón del ajuste lneal que propondríamos a partr de este gráfco. Un gráfco de Y X. (varables sn correlacón lneal) puede ajustarse por una recta obtenerse a la vez un coefcente de correlacón lneal de, por ejemplo, Un gráfco de datos expermentales de YX con algo de dspersón fortuta de los puntos, podría devenr en un coefcente de, por ejemplo, 0.995, menor que el anteror. Entre los coefcentes ha una dferenca, apenas, del 3 por ml. Pero en un gráfco log-log, la dferenca de pendentes será la que ha entre..0, lo que representa un 0% de dscrepanca entre los exponentes de la varable X. Estos métodos de análss nos enseñan que los efectos de correlacón pueden estar enmascarados por el efecto del rudo de los datos. Muchas veces es dfícl es establecer s exste correlacón lneal entre las varables, aun cuando los datos tengan relatvamente poca dspersón. Imagnemos un expermento donde se mde la dstanca que recorre un móvl sobre una línea recta mentras una fuerza constante actúa sobre él. Esperamos, por tanto, que el movmento sea unformemente acelerado. Supongamos que el cuerpo parte del reposo, que medmos x(t) que los datos colectados son los de la Fg. F.3. S los datos expermentales se analzan sobre este gráfco con escalas lneales, el ajuste por un modelo lneal es más que tentador. Hecho ésto, se obtene la ecuacón de la mejor recta un coefcente de correlacón ρ Sn embargo, un modelo basado en las ecuacones de la dnámca dce que x at donde a es la aceleracón. En la Fg. F.3.b están los logartmos de los msmos datos, de donde se ve claramente la proporconaldad x t que predce el modelo, dfíclmente percbble a partr del gráfco de la Fgura 3.5.a o del mero análss de ρ. Físca re-creatva -S. Gl E. Rodríguez - Prentce Hall - Madrd 00 6

7 x (cm) (a) 600 ρ log(x) (b) t (s) log(t) pendente Fgura F.3-Representacón de x(t) para un cuerpo que se mueve con movmento unformemente acelerado. (a) o se apreca la curvatura de los datos ben podría suponerse que la correlacón es lneal. El coefcente de correlacón lneal, en efecto, es mu alto. (b) log(x) en funcón de log(t), de donde se ve que la relacón es cuadrátca. 4 Bondad del ajuste- Crteros cuanttatvos Volvendo al caso general de determnar los parámetros de un modelo que mejor ajustan un conjunto de datos expermentales, es útl dsponer de un crtero cuanttatvo de evaluacón de la bondad o caldad del ajuste. Una medda de la bondad de un ajuste está dada por el valor de χ v, defnda por: ( ( x )) χ v χ, (F.8) σ n par v donde v-n par es el número de grados de lbertad. Es evdente que s todos nuestros datos expermentales ( ) tenen desvacones respecto del modelo ((x )) que no Físca re-creatva -S. Gl E. Rodríguez - Prentce Hall - Madrd 00 7

8 sobrepasan el error (σ ), nuestro modelo es una descrpcón adecuada de nuestras observacones. Tambén es claro que en este caso, según (F.8), cada uno de los térmnos de la sumatora será del orden de la undad por lo tanto χ v msma tendrá un valor cercano a uno. En otras palabras, s χ v es del orden de la undad o menor decmos que el modelo propuesto para explcar los datos expermentales es adecuado vceversa. S χ v es mucho maor que uno, el modelo no es una buena descrpcón de nuestros datos. Cuando χ v <<, se dce que el modelo es demasado bueno, lo cual tambén es sospechoso o ndcatvo de que la dstrbucón de los datos no es normal o que se sobre estmaron los errores. El crtero que acabamos de descrbr, aunque cualtatvo, es un crtero práctco útl en la maoría de los casos. Más cuanttatvamente, para el caso en que la dstrbucón estadístca de los valores sea normal, podemos calcular la probabldad que un dado valor de χ χ 0 haa ocurrdo sólo por azar. Esta probabldad vene dada por: con P 0 χ, Q( a,0), n par χ 0 P( χ χ 0 ) Q,, (F.9) CL( χ ) Ch( v, χ ) Dst. Ch( χ, v) Q( a, x) Γ( a) 0 x e t t a Q( a, ) 0 0 dt a > 0 0, (F.0) donde Q(a,x) se conoce como la funcón Gama ncompleta. Los límtes de confanza CL(χ 0 ) [usamos CL de la denomnacón en nglés Confdence Level] están dados por la ntegral de la funcón de dstrbucón Ch-Cuadrado. La funcón de dstrbucón chcuadrado es la dervada Q(v/, χ ), su valor medo es v su varanza es v. CL representa la probabldad de que una repetcón del expermento dará un valor de χ χ 0, sólo por azar, aún cuando el modelo sea correcto. Estas funcones están ncorporadas en dversos programas matemátcos (Mathematca, MatLab, etc.) en planllas de cálculos como Excel. En partcular en esta planlla de cálculo, la funcón se denota con la expresón Dst.Ch(x,v), como se ndca en (F.9). Por lo general se consdera que un valor de Q 0. es ndcatvo de un modelo creíble. Un valor de Q entre ( ) es todavía margnalmente aceptable o ndcatvo de que los errores fueron subestmados. S Q < 0.00 la valdez del modelo debe ser revsada su credbldad es dudosa. ota: Práctcamente todas la planllas de cálculo programas de ajuste realzan estos cálculos, pero sn nclur los errores de las varables. Para tener en cuenta a los msmos es necesaro programar estas funcones en, por ejemplo, Excel. En la hoja de calculo de Excel, Errores_SG.xls, que está a dsponble en se dspone de estas rutnas en VBA (Vsual Basc for Applcaton), que pueden usarse, precsamente, Físca re-creatva -S. Gl E. Rodríguez - Prentce Hall - Madrd 00 8

9 desde una planlla Excel. En estas subrutnas, el parámetro MODE se usa para ndcar el modo como se evalúan los pesos w : MODE 3 4 w no se consderan los errores w / σ w / w / se consderan los errores se consderan los erroresσ se toma como peso la nversa de (F.) 6 Intervalos de confanza nvel de sgnfcacón. Muestras pequeñas En muchos casos práctcos, se realza un conjunto de medcones o se extrae una muestra de ese tamaño, cuos valores son (x, x,...x ), con el objeto de determnar o estmar el valor de algún parámetro desconocdo αα(x,x,...x ). Imagnemos que el estmador de este parámetro es α α (x,x,...x ), cuo valor podría haberse obtendo, por ejemplo, por un proceso de mnmzacón smlar al descrpto en las seccones anterores. Muchas veces es deseable tener una relacón entre dos número postvos pequeños δ ε, tal que podamos afrmar que el mejor valor de α (o en algunos casos el verdadero valor de α) está ncludo en el ntervalo α * ± δ con probabldad -ε, o sea: * * P ( α δ α α δ ) ε (F.) El ntervalo (α * - δ, α * +δ) que con probabldad P-ε contene al mejor valor (o verdadero valor) de α se denomna ntervalo de confanza del parámetro α. La probabldad P-ε se denomna coefcente de confanza. Cuando ε se expresa en porcentaje (ε%00 ε ), se lo denomna el nvel de sgnfcacón. Es mportante destacar que estas defncones no tenen aún carácter unversal, pero las defncones presentadas aquí son las adoptadas por una fraccón mportante de centífcos tecnólogos. Para fjar deas magnemos el sguente ejemplo: supongamos que extraemos una muestra de tamaño de una poblacón que suponemos tene una dstrbucón normal de parámetros m σ desconocdos cuos valores deseamos determnar a partr del análss de la muestra. Imagnemos que el valor medo muestral, <x>, la desvacón estándar muestral, S x, venen dadas por las expresones (.7) (.8) respectvamente son desde luego conocbles a partr de los datos muestrales. uestro objetvo prmero es estmar el valor medo poblaconal m (en este caso sí podemos hablar de verdadero valor de m). S, como supusmos, la poblacón madre tene una dstrbucón normal, los estmadores <x> S x tenen dstrbucones normales (m, S x / ) Ch-cuadrado con - grados de lbertad respectvamente. Entonces se cumple que la varable: Físca re-creatva -S. Gl E. Rodríguez - Prentce Hall - Madrd 00 9

10 < x > m t (F.3) S x tene una dstrbucón t-student con - grados de lbertad. Por lo tanto s t p es un parámetro del ntervalo de confanza asocado al coefcente de confanza p, a través de la dstrbucón de probabldad t-student, tenemos: o lo que es equvalente, x m p P t < > p < < t p S (F.4) x 00 P ( < x > t ) < m < ( < x > t σ )) p p σ x p x. (F.5) 00 donde hemos hecho uso de la relacón (.0) entre S x σ x. Los valores (<x> - t p.σ x ) (<x> + t p.σ x ) defnen un ntervalo de confanza de 00-p para m. Por lo tanto s afrmamos que el mejor valor de m está comprenddo en este ntervalo, la probabldad de equvocarnos cuando hacemos esta afrmacón es de p%. Este valor de p se conoce con el nombre de nvel de sgnfcacón. Cuando se trabaja con muestras grandes ( > 30) o con muchos grados de lbertad, es útl recordar que en este caso la dstrbucón t-student se aproxma mu ben con una curva normal en este caso la relacón entre los valores crítcos t p p son para t p, p%3.73, para t p, p%4.55, para t p 3, p%0.7, etc. Este últmo ejemplo es smlar al que comúnmente encontramos en el caso de determnar el mejor valor de un parámetro que se ha meddo veces. Tambén es claro que un análss smlar podría hacerse para determnar los límtes de confanza de σ x. 7 Smulacón de resultados expermentales Método de Montecarlo A menudo es útl smular las característcas de un expermento antes de llevarlo a cabo. Esto no permte por ejemplo decdr el tamaño de los errores permtdos para observar un dado efecto. La técnca de Montecarlo es un formalsmo probablístco para generar números con una dstrbucón de probabldad prefjada que smulen los resultados de una varable físca. Dado que una famla mu ampla de programas comercales a posee generadores de números aleatoros con dstrbucones de probabldad preestablecda, la tares de realzar smulacones de Montecarlo se ha Físca re-creatva -S. Gl E. Rodríguez - Prentce Hall - Madrd 00 0

11 facltado grandemente. Para fjar deas magnemos que deseamos generar datos sntétcos de un expermento en el que cada medcón dará como resultado la terna (x,,, ). Supongamos además que la relacón esperada entre x e es lneal, de la forma a.x + b. Vamos a suponer que sólo los valores de tenen error (o es el error domnante del problema) con una dstrbucón normal cua desvacón estándar esta caracterzada por un parámetro de dspersón dsp% prefjado. Tambén supondremos que los errores expermentales tendrán una dstrbucón estadístca que puede ser ben descrpta por una dstrbucón Ch-cuadrado con un número grande de grados de lbertad cua magntud está caracterzada por un error relatvo porcentual de err%. Para hacer más claro el ejemplo en consderacón vamos a suponer que trabajamos con una planlla de cálculo. En la prmera columna de la planlla debemos defnr el rango de valores de x en los que estamos nteresados. En la segunda columna, ntroducmos los valores de obtendos a través de la expresón analítca, con los valores de a b que suponemos representatvos del problema en cuestón. A estos valores de lo desgnamos como (a.x+b).en la tercera cuarta columna calculamos los valores que van a caracterzar la dspersón de los datos( err ) dados por: err dsp% 00 err%, 00, (F.6) Estas defncones se proponen a modo de ejemplo en cada caso partcular se pueden consderar otras caracterzacones de la dspersones los errores de los datos. Segudamente procedemos a ntroducr el carácter aleatoro del expermento usando el método de Montecarlo. Para ello, en dos nuevas columnas, usando la funcón de generacón de números aleatoros de la planlla ntroducmos en la prmera columna los números rnd que los elegmos de modo tal que se dstrbuan normalmente con meda 0 desvacón estándar, o sea (0,). En la otra columna ntroducmos los valores de los números al azar rdn que suponemos que tambén tenen una dstrbucón (0,). Con estos valores ahora estamos en condcones de defnr los valores de los datos sntétcos para la varables snt sus errores correspondentes snt defndos como: s nt s nt + rnd, ( rnd + + ) ( rnd + ) (F.7) Los valores de así obtendos tenen las característcas de dspersón preestablecda (caracterzada por dsp%) errores caracterzados por err%. Esta últma expresón para snt se basa en el hecho de que para el caso de muchos grados de lbertad ( > 30) la dstrbucón ( χ ν ) es normal (0,). Esta técnca puede generalzarse para reproducr smular stuacones reales en forma rápda económca. Físca re-creatva -S. Gl E. Rodríguez - Prentce Hall - Madrd 00

12 Usando la hoja de cálculos Errores_SG.xls, (que puede obtenerse de ) defnr una funcón smple, por ejemplo un polnomo de segundo grado (ax +bx+c) de coefcentes conocdos, estos parámetros defnen el modelo orgnal. Usando el modelo de Montecarlo ndcado en la hola de cálculo, generar datos sntétcos al azar sus correspondentes errores, de modo tal que el tamaño de los errores la magntud de la dspersón de los datos pueda regularse de manera controlada, por ejemplo ntroducendo un valor porcentual del error medo la dspersón meda. Segudamente, con el programa de su preferenca: Determnar los parámetros que mejor ajustan los datos sntétcos sus errores. Comparar con los valores de los datos orgnales. Para cada uno de los parámetros del modelo obtendos, realzar un gráfco de χ versus el msmo. Obtener de esta fgura las ncertezas de cada uno de estos parámetros. Comparar con los obtendos con el programa de ajuste usado los valores de los parámetros del modelo orgnal. c) Para por lo menos dos parámetros de modelo, comparar gráfcamente los datos sntétcos con sus correspondentes errores con los ajustes obtendos usando los parámetros que mnmzan χ los ajustes asocados al parámetro varando su valor por su ncerteza obtenda según la Fg. F.. Bblografía. P. Bevngton and D. K. Robnson Data reducton and error analss for the phscal scences, nd ed., McGraw Hll, ew York (993)...W.,H. Press, S.A. Teukolsk, W.T. Veetterlng and B.P. Flanner, edtors umercal recpes n Fortran, nd. Cambrdge Unverst Press,.Y. (99). ISB x. 3. Stuardt L. Meer, Data analss for scentsts and engneers, John Wlle & Sons, Inc.,.Y. (975). ISB Spegel Murra, Estadístca, da ed., McGraw Hll, Schaum, Madrd (995). ISB X. 5. Probablt, statstcs and Montecarlo, Revew of Partcle Propertes, Phs. Rev. D 45, III.3, Part II, June (99). 6. Teoría de probabldades aplcacones, H. Cramér, Agular, Madrd (968); Mathematcal method of statstcs, H. Cramér, Prnceton Unv. Press, ew Jerse (958). Físca re-creatva -S. Gl E. Rodríguez - Prentce Hall - Madrd 00

13 7. Teoría de probabldades aplcacones, H. Cramér, Agular, Madrd (968); Mathematcal method of statstcs, H. Cramér, Prnceton Unv. Press, ew Jerse (958). Físca re-creatva -S. Gl E. Rodríguez - Prentce Hall - Madrd 00 3