Estudio e implementación del algoritmo VND para la obtención de estimaciones en un proceso lognormal-gompertz

Transcripción

1 Unversdad de Granada Departamento de Estadístca e Investgacón Operatva Trabajo fnal del máster en Estadístca Aplcada Estudo e mplementacón del algortmo VND para la obtencón de estmacones en un proceso lognormal-gompertz Realzado por: José María Crespo Garrucho Drgdo por: Desrée Romero Molna Septembre, 2014

2 Índce general Lst of Fgures Lst of Tables III IV 1. Introduccón 1 2. El proceso de dfusón lognormal-gompertz Curva determnístca Obtencón del modelo Característcas prncpales del nuevo proceso Estmacón de los parámetros del modelo Metaheurístca VNS Introduccón Concepto de metaheurístca VNS (Búsqueda de entorno varable) BVNS VNS descendente Otras versones de VNS Algortmos de búsqueda local Algortmo de Nelder-Mead Algortmo MMA Implementacón del algortmo VND Versones VND mplementadas Parámetros del dseño de VND Aplcacón a datos smulados Datos smulados Tpos de errores Estmacones de las dos versones mplementadas del algortmo Comparacones con otros algortmos Estmacón de todos los parámetros Aplcacón a datos reales Característcas de los datos Inda, Vetnam, Indonesa, Bangladesh y Egpto Noruega,Chle y Burma

3 5.4. Chna Talanda Conclusón 50 A. Códgo de los algortmos 52

4 Índce de fguras 2.1. Curva de crecmento con t 0 = 0, m = 0.6, b = 0.3, c = 0.2, x 0 = Curva de crecmento con t 0 = 0, m = 2, b = 1.9, c = 0.1, x 0 = Curva de crecmento con t 0 = 0, m = 1, b = 0.25, c = 0, x 0 = Curva de crecmento con t 0 = 0, m = 1, b = 0.2, c = 0.1, x 0 = Operacones del algortmo Nelder-Mead. Reflexón y expansón Operacones del algortmo Nelder-Mead. Contraccón y encogmento Dagrama de flujo del algortmo Nelder-Mead Trayectoras smuladas σ 2 = Trayectoras smuladas σ 2 = Trayectoras smuladas σ 2 = prncpales países productores Produccón de peces en Inda Produccón de peces en Vetnam Produccón de peces en Indonesa Produccón de peces en Bangladesh Produccón de peces en Egpto Produccón de peces en Noruega Produccón de peces en Chle Produccón de peces en Burma Produccón de peces en Chna Produccón de peces en Talanda A.1. VNDS + MMA A.2. VNDS + NM

5 Índce de cuadros 4.1. Estmacón de los parámetros m, β, c y σ 2 de la funcón a mnmzar,usando los 2 nuevos métodos con 5, 10 y 15 entornos, para las trayectoras smuladas con m=1, β = 0.2 y c= Errores entre las trayectoras smuladas y las funcones medas estmadas usando los dos nuevos métodos con 5, 10 y 15 entornos Estmacón de los parámetros m, β, c y σ 2 de la funcón a mnmzar, usando 6 métodos, para las trayectoras smuladas con m=1, β = 0.2 y c = Errores entre las trayectoras smuladas y las funcones medas estmadas usando los 6 métodos Errores relatvos en valor absoluto Estmacones de todos los parámetros del modelo Errores relatvos en valor absoluto del parámetro σ Estmacón de los parámetros a, b, c y σ de la funcón de verosmltud, usando los métodos NM10 y MMA Predccón de la produccón en el año en los dferentes países usando la meda condconada Predccón de la produccón en el año 2011 en los dferentes países usando la moda condconada Errores cuadrátcos medos de las 5 trayectoras estmadas Estmacón de los parámetros a, b, c y σ 2 de la funcón de verosmltud,usando los métodos NM10 y MMA Predccón de la produccón en el año 2011 en los dferentes países usando la meda condconada Predccón de la produccón en el año 2011 en los dferentes países usando la moda condconada Errores cuadrátcos medos de las 3 trayectoras estmadas Estmacón de los parámetros a, b, c y σ 2 de la funcón de verosmltud,usando el método NM Predccón de la produccón en el año 2011 en Chna usando la meda condconada Predccón de la produccón en el año 2011 en Chna usando la moda condconada Error cuadrátco medo de la trayectora estmada de Chna medante la meda condconada Estmacón de los parámetros a, b, c y σ 2 de la funcón de verosmltud,usando el método NM Predccón de la produccón en el año 2011 en Talanda usando la meda condconada Predccón de la produccón en el año 2011 en Talanda usando la moda condconada v

6 Capítulo 1 Introduccón El estudo de los fenómenos de crecmento se ncó con el análss de la evolucón de poblacones humanas, sn embargo en la actualdad dcha aplcacón se ha extenddo a muchas ramas de la cenca (economía, ecología, bología, hdrología, socología, etc.). Estos modelos determnístcos presentan varos nconvenentes,como son su dfícl aplcacón en poblacones reales, puesto que en el crecmento nfluyen dversos factores que no se tenen presentes, así como fluctuacones aleatoras. Por ello, se hace necesara la consderacón de otros modelos para el ajuste de este fenómeno. Los procesos de dfusón han sdo amplamente utlzados en la modelzacón del crecmento, estos modelos permten la nclusón de factores exógenos que permten nclur en la tendenca varables que nfluyen en el crecmento, lo que permte una mejora en la modelzacón del fenómeno. Se va a trabajar con el proceso de dfusón lognormal-gompertz, que generalza los procesos de dfusón lognormal y Gompertz. Con este proceso se pretende crear modelos que se usarán con datos reales con el fn de obtener predccones sobre su comportamento en el futuro. Para ese fn, es necesaro conocer los parámetros que defnen el proceso, o al menos una estmacón de ellos. Entre los métodos usuales de estmacón se ha optado por usar en este trabajo el método de máxma verosmltud. El motvo de dcha eleccón es que para ajustar el modelo a los datos se van a consderar certas característcas del proceso que dependen de los parámetros del msmo. El método elegdo tene la ventaja de que permte estmar dchas funcones paramétrcas de una forma smple a partr de las estmacones de los parámetros medante el uso del Teorema de Zehna. La estmacón máxmo verosíml de los parámetros de los procesos de dfusón suele ser compleja, por lo que en raras ocasones es posble encontrar una solucón exacta, sendo lo más habtual obtener aproxmacones de las solucones. Esto requere, en ocasones, la resolucón de complejos sstemas de ecuacones y en otras ocasones se trata de optmzar la funcón de verosmltud medante dversos tpos de algortmos. 1

7 Chapter 1. Introduccón 2 En este trabajo se estuda un algortmo que proporcona estmacones para los parmetros medante la optmzacn drecta de la funcn de verosmltud utlzando a su vez otro algortmo de bsqueda local. Con el objetvo de poder comparar se han consderado dos tpos de algortmos locales, uno basado en dervadas y otro que no. La estructura del trabajo es la sguente: En el capítulo 2 se hace un resumen de las prncpales característcas del proceso con el que se va a trabajar. En el capítulo 3 se descrbe la metaheurístca que se va a usar, VNS, las dversas extensones y se mplementan dos versones de la msma. En el capítulo 4, en prmer lugar, se realza una comparacón entre las dos versones mplementadas y, posterormente, se comparan los resultados obtendos con algortmos como son: Newton-Raphson, un método recursvo, smulated annealng y un algortmo evolutvo. En el capítulo 5 se aplca uno de los algortmos a datos reales de produccón de peces en dstntos países, con el objetvo de encontrar los parámetros del proceso que mejor se ajustan los datos y por otro lado, tratar de comprobar la efcenca del proceso ajustado medante la predccón de la produccón en el año 2011.

8 Capítulo 2 El proceso de dfusón lognormal-gompertz En este capítulo se hace un breve estudo del proceso de dfusón lognormal-gompertz, que está asocado a una curva determnístca resultante de la combnacón de una curva Gompertz y una exponencal. Se descrbe como se puede obtener de forma senclla medante la modfcacón de la ecuacón de Fokker-Planck del proceso lognormal y fnalmente termna con un resumen de sus característcas prncpales Curva determnístca En esta seccón se estuda una curva determnístca que es la combnacón de una curva Gompertz y una curva exponencal. La expresón de la curva es la sguente: f(t) = x 0 exp[( m b )(e bt e bt 0 )]e c(t t 0), t R con m > b > 0 y c R Esta nueva curva amplía los tpos de crecmento que puede descrbr la curva Gompertz, convrténdose esta últma en un caso partcular de la nueva curva. S c > 0 la funcón es crecente, sn máxmos n mínmos. La funcón puede presentar nnguno, uno o dos puntos de nflexón según el valor de c. 1. S c > b 4 la curva no muestra puntos de nflexón. 3

9 Capítulo 2. El proceso de dfusón lognormal-gompertz 4 Fgura 2.1: Curva de crecmento con t 0 = 0, m = 0.6, b = 0.3, c = 0.2, x 0 = Cuando c = b 4 presenta un punto de nflexón s y sólo s t 1 = ln(b/4m) b > t 0 El punto de nflexón es ( ln(b/4m) b, x 0 ( 4m b )1/2 e [ m b e bt (1+t 0)] ) Fgura 2.2: Curva de crecmento con t 0 = 0, m = 2, b = 1.9, c = 0.1, x 0 = 5 3. Cuando c < b 4 la funcón puede tener dos puntos de nflexón que se encuentran en t 1 = b 2c+ b ln( 2 4bc ) 2m b, t 2 = ln( b 2c b 2 4bc 2m ) b con t 1 < t 2

10 Capítulo 2. El proceso de dfusón lognormal-gompertz 5 4. S c = 0 se tene la curva de Gompertz, que está acotada superormente por x 0 e m b e bt0 y presenta un punto de nflexón en ( ln(b/m) b, x 0 e m b e bt 0 1 ) Fgura 2.3: Curva de crecmento con t 0 = 0, m = 1, b = 0.25, c = 0, x 0 = S c < 0 se verfca que c < b 4 puesto que b > 0. La funcón puede tener hasta dos puntos de nflexón y presenta una asíntota horzontal en y = x 0 Fgura 2.4: Curva de crecmento con t 0 = 0, m = 1, b = 0.2, c = 0.1, x 0 = 100

11 Capítulo 2. El proceso de dfusón lognormal-gompertz Obtencón del modelo Una forma de obtener este proceso consste en modfcar la meda nfntesmal de Fokker-Planck del proceso lognormal f t = σ2 x [mxf] [x 2 f] x 2 cambando m por me bt + c, de esta forma se obtene una nueva ecuacón de Fokker-Planck f t = x [(me bt + c)xf] + σ2 2 2 [x 2 f], 0 < x <, 0 < b < m, c R x 2 que corresponde a un nuevo proceso cuya solucón, en ausenca de rudo, es la funcón defnda anterormente y cuyos momentos nfntesmales son A 1 (x, t) = (me bt + c)x A 2 (x, t) = σ 2 x 2 con m > β > 0, c R y σ > 0. Puede verse con más detalle este método de obtencón así como otros en [5] y [15] Característcas prncpales del nuevo proceso A contnuacón se resumen las característcas prncpales del nuevo proceso lognormal-gompertz. En [5] se puede encontrar un estudo más detallado de estas característcas. Funcón de densdad de transcón. f(x, t y, s) = 1 x 2πσ 2 (t s) exp( 1 2 que corresponde a una dstrbucón lognormal, para t > s [lnx lny+ m b (e bt e bs ) (c σ2 2 )(t s)]2 (t s)σ 2 ) X(t) X(s) = y Λ 1 (lny m b (e bt e bs ) + (c σ2 2 )(t s), σ2 (t s)) Funcón de dstrbucón de transcón. F (x, t y, s) = (t s)σ 2 ) π Erf( [lnx lny+ m b (e bt e bs ) (c σ2 2 )(t s)]

12 Capítulo 2. El proceso de dfusón lognormal-gompertz 7 donde Erf(x) es la funcón error Erf(x) = x 0 e t2 dt. Dstrbucones fnto-dmensonales. La dstrbucón bdmensonal para el caso de una dstrbucón ncal degenerada (P [X(t 0 ) = x 0 ] = 1) vene dada por (X(t), X(s)) Λ 2 (µ, σ 2 Σ), t, s t 0 donde ( lnx0 m b µ = (e bt e bt 0 ) + (c σ2 2 )(t t ) 0) lnx 0 m b (e bs e bt 0 ) + (c σ2 2 )(s t 0) ( ) t t0 t s t 0 Σ = t s t 0 s t 0 donde t s = mn(t, s) Para el caso de una dstrbucón ncal no degenerada, X(t 0 ) Λ 1 (µ 0, σ 2 0 ) (X(t), X(s)) Λ 2 (µ, Σ), t, s t 0 sendo ( µ0 m b µ = (e bt e bt 0 ) + (c σ2 2 )(t t ) 0) µ 0 m b (e bs e bt 0 ) + (c σ2 2 )(s t 0) ( ) σ 2 (t t 0 ) + σ0 2 σ 2 (t s t 0 ) + σ0 2 Σ = σ 2 (t s t 0 ) + σ0 2 σ 2 (s t 0 ) + σ0 2 donde t s = mn(t, s) A contnuacón se muestran algunas de las funcones paramétrcas del proceso. Funcón meda. m(t) = E[X(t)] = E[X(t 0 )]exp( m b [e bt e bt 0 ] + c(t t 0 )), t t 0 Momentos no centrados de orden n. E[X n (t)] = E[X n (t 0 )]exp( nm b [ebt e bt 0 ] + n(c + (n 1) σ2 2 )(t t 0)), t t 0 Varanza.

13 Capítulo 2. El proceso de dfusón lognormal-gompertz 8 V ar(x(t)) = (E[X(t 0 )]) 2 [exp(ξ) 1] donde ξ es el segundo parámetro de la dstrbucón lognormal correspondente a X(t). Funcón covaranza. R(t, s) = Cov(X(t), X(s)) = (E[X(t 0 )]) 2 exp( m b [e bt e bs 2e bt 0 ]+c(t+s 2t 0 )[exp(σ 12 ) 1] donde σ 12 es el elemento que ocupa la poscón (1,2) de la matrz Σ de la dstrbucón lognormal correspondente a (X(t),X(s)). Funcón moda. M o (t) = Moda(X(t)) = Moda(X(t 0 ))exp( m b [e bt e bt 0 ] + (c 3σ2 2 )(t t 0)) Funcón cuantl. C α (t) = Cuantl α (X(t 0 ))exp( m b [e bt e bt 0 ]+(c σ2 2 )(t t 0)) exp(z 1 α [ σ 2 (t t 0) + var(ln(x(t 0 ))) var(ln(x(t0 )))]) donde z 1 α es el valor de una dstrbucón normal estándar que deja a la derecha una probabldad de 1 α. Funcón meda condconada. E[X(t) X(s)] = E[X(s)]exp( m b (e bt e bs ) + c(t s)) Funcón moda condconada. Moda(X(t) X(s)) = Moda[X(s)]exp( m b (e bt e bs ) + (c 3σ2 2 (t s)) Funcón cuantl condconada. C α (X(t) X(s)) = Cuantl α (X(s))exp( m b [e bt e bs ]+(c σ2 2 )(t s)) exp(z 1 α[ σ 2 (t s+ var(ln(x(s))) var(ln(x(s)))]) donde z 1 α es el valor de una dstrbucón normal estándar que deja a la derecha una probabldad de 1 α.

14 Capítulo 2. El proceso de dfusón lognormal-gompertz Estmacón de los parámetros del modelo En el caso de que se trate de encontrar un modelo que sea capaz de descrbr un proceso de crecmento económco, bológco, demográfco,... y predecr su comportamento es necesaro estmar los parámetros que defnen el proceso. Una vez que se han estmado los parámetros es posble estudar las prncpales característcas del proceso (moda, meda, varanza, cuantles,...). Para ello se utlzará la funcón verosmltud y para construrla se necestan datos que proceden de un muestreo dscreto del proceso en estudo. Se elgen d trayectoras del proceso en estudo y de cada trayectora se extraen n observacones en nstantes de tempo t j ( = 1,..., d, j = 1,..., n ) que no tenen por qué ser necesaramente guales. Por lo general, se consdera que t 1 = t 1, = 1,..., d. Por lo tanto, se dsponen de n d datos del proceso en estudo X(t). Estos datos son x 11,..., x 1n1,..., x d1,..., x dnd S la dstrbucón ncal es degenerada,.e., todas las trayectoras parten del msmo valor,la funcón de verosmltud correspondente a los datos muestrales anterores es L xj (m, b, c, σ 2 ) = d n =1 j=2 f(x j, t j x j 1, t j 1 ) sendo f la funcón de densdad de transcón del proceso. En el caso de que la dstrbucón ncal sea lognormal,.e., X(t 0 ) Λ 1 (µ 0, σ 0 ), los parámetros que deben estmarse son m, b, c, σ 2, µ 0, σ 2 0 y la funcón de verosmltud es L xj (m, b, c, σ 2, µ 0, σ 2 0 ) = d =1 f(x 1) n j=2 f(x j, t j x j 1, t j 1 ) las estmacones máxmo verosímles de µ 0 y σ 2 0 sólo dependen de los valores observados en el nstante ncal y no nfluyen en la estmacón del resto de parámetros y las estmacones de máxma verosmltud de m,b,c y σ 2 sonlos msmos en ambos casos y por tanto se consdera, sn perder generaldad,el caso de que la dstrbucón ncal es lognormal. Habtualmente en lugar de maxmzar L xj (m, b, c, σ 2, µ 0, σ 0 ) se maxmza lnl xj (m, b, c, σ 2, µ 0, σ 0 ), lo que no afecta a los resultados. Una de las posbles formas de determnar el máxmo de una funcón consste en gualar a 0 las dervadas parcales de la funcón de verosmltud respecto de los parámetros µ 0 y σ0 2, s la funcón es dervable. De esta manera se obtenen que las estmacones máxmo verosímles de µ 0 y σ0 2 son ˆµ 0 = 1 d d =1 ln(x 1) y ˆσ 0 2 = 1 d d =1 (ln(x 1) ˆµ 0 ) 2 El resto de parámetros del proceso se pueden determnar de forma smlar,.e.

15 Capítulo 2. El proceso de dfusón lognormal-gompertz 10 lnl m = 0 lnl b = 0 lnl c = 0 lnl σ 2 = 0 El problema que presenta es que se obtene un sstema de ecuacones normales con 4 ncógntas y de las que no se conoce una solucón explícta. Por esta razón es necesaro recurrr a métodos numércos que proporconen solucones aproxmadas para las estmacones de los parámetros. Algunos de estos métodos son método del gradente, gradente conjugado, Fletcher-Reeves, métodos de Newton, cuas-newton (DFP, BFGS),... Otra opcón para obtener estmacones máxmo verosímles es maxmzar drectamente la funcón de verosmltud buscando el óptmo en el espaco de los parámetros. Para ello exsten otros métodos entre los que se encuentan Smulated Annealng, algortmos evolutvos, búsqueda tabú, algortmos genétcos,.. El método que se va a desarrollar en capítulos posterores se encuadra en este últmo grupo.

16 Capítulo 3 Metaheurístca VNS 3.1. Introduccón La resolucón drecta del sstema de ecuacones normales que se obtene al calcular las dervadas parcales de la funcón a optmzar muestra seros nconvenentes debdo a la complejdad y al número de ecuacones que se deben resolver (además de que exste la posbldad de que no se puedan calcular esas ecuacones normales), se ha optado por obtener las estmacones máxmo verosmles medante la maxmzacón drecta de la funcón de verosmltud. Entre los algortmos dsponbles para este fn se ha optado por el VNS por su sencllez, como ahora se mostrará y por su versatldad al permtr la combnacón con otros algortmos locales de búsqueda en algunas de sus varantes y pasos o su combnacón con otras heurístcas. VNS está dseñada para mnmzar funcones, aunque esto no supone nngún problema porque se puede renombrar la funcón cambando el sgno y de esta manera un problema de maxmzacón se converte en un problema de mnmzacón Concepto de metaheurístca El térmno heurístca derva de la palabra grega heursken que sgnfca encontrar o descubrr y se usa en el ámbto de la optmzacón para descrbr una clase de algortmos de resolucón de problemas. La dea de problema dfícl de resolver queda reflejada en el térmno NP-hard utlzado en el contexto de la complejdad algorítmca. De manera nformal se puede decr que un problema de optmzacón dfícl es aquél para el que no se puede garantzar que se encuentre la mejor solucón posble en un tempo razonable. La exstenca de una gran cantdad y varedad de problemas dfícles, que aparecen en la práctca y que necestan ser resueltos de forma efcente, mpulsó el desarrollo de procedmentos efcentes para encontrar buenas solucones aunque no fueran óptmas. Estos métodos, en los que la rapdez del proceso es tan mportante como la caldad de la solucón obtenda, se denomnan heurístcos. 11

17 Capítulo 3. Metaheurístca VNS 12 Además de la posbldad de resolver un problema dfícl, exsten otras razones para utlzar métodos heurístcos, entre las que se encuentran: Aunque exsta un método exacto para resolver el problema, su uso es computaconalmente muy costoso. El método heurístco es más flexble que un método exacto, permtendo, por ejemplo, la ncorporacón de condcones de dfícl modelzacón. El método heurístco se utlza como parte de un procedmento global que garantza el óptmo de un problema. El problema es de una naturaleza tal que no se conoce nngún método exacto para su resolucón. El método heurístco se utlza como parte de un procedmento global que garantza el óptmo de un problema. En los últmos años han aparecdo una sere de métodos bajo el nombre de metaheurístcos con el propósto de obtener mejores resultados que los alcanzados por los heurístcos tradconales. Los procedmentos metaheurístcos son una clase de métodos aproxmados que están dseñados para resolver problemas dfícles de optmzacón combnatora, en los que los heurístcos cláscos no son efectvos. De esta manera los metaheurístcos se stúan conceptualmente por encma de los heurístcos puesto que guían el dseño de éstos. Así, al afrontar un problema de optmzacón, se puede escoger cualquer método heurístco para dseñar un algortmo específco que lo resuelva aproxmadamente. De las dferentes descrpcones de metaheurístcas que se encuentran en la lteratura se pueden destacar certas propedades fundamentales que caracterzan a este tpo de métodos: Las metaheurístcas son estrategas o plantllas generales que guían el proceso de búsqueda. El objetvo es una exploracón efcente del espaco de búsqueda para encontrar solucones (cas) óptmas. Las metaheurístcas son algortmos no exactos y generalmente son no determnstas. Pueden ncorporar mecansmos para evtar regones no prometedoras del espaco de búsqueda. El esquema básco de cualquer metaheurístca tene una estructura predefnda. Las metaheurístcas pueden hacer uso de conocmento del problema que se trata de resolver en forma de heurístcos específcos que son controlados por la estratega de más alto nvel.

18 Capítulo 3. Metaheurístca VNS VNS (Búsqueda de entorno varable) La búsqueda de entorno varable (Varable Neghbourhood Search,VNS) es una metaheurístca usada para resolver problemas de optmzacón que se basa en la dea de cambo sstemátco de entorno dentro de una búsqueda local. Fué propuesta por P. Hansen y M. Mladenovc en Las heurístcas basadas en VNS, al contraro de lo que ocurre con otras metaheurístcas, se mantenen smples; no sólo sus esquemas báscos sno tambén la mayoría de las extensones, requrendo el ajuste de muy pocos parámetros. Esta característca permte que la metaheurístca VNS y sus extensones sean útles para dseñar rápdamente procedmentos heurístcos con los que proporconar buenas solucones con rapdez de manera muy smple dejando al descuberto cuales son las razones que determnan su rendmento, lo que frecuentemente faclta la elaboracón de mplementacones sofstcadas muy efcentes. Contraro a lo que hacen otras metaheurístcas basadas en métodos de búsqueda local,vns no sgue una trayectora sno que explora entornos dstantes de la actual solucón, y pasa de esta solucón a una nueva sólo s exste una mejora. La VNS está basada en tres hechos smples: 1. Un mínmo local con una estructura de entornos no lo es necesaramente con otra. 2. Un mínmo global es mínmo local con todas las posbles estructuras de entornos. 3. Para muchos problemas, los mínmos locales con la msma o dstnta estructura de entornos están relatvamente cerca. VNS cumple varas característcas de las metaheurístcas que se presentan en Hansen y Mladenovc [6] y algunos se presentan aquí: 1. Smplcdad. VNS se basa en una dea precsa y clara,que debe ser amplamente aplcable. 2. Precsón. Los pasos deben ser formulados de manera precsa en térmnos matemátcos. 3. Coherenca. Todos los pasos de la heurístca para un problema partcular deben segur los prncpos de la metaheurístca. 4. Efcenca. Deben encontrar solucones óptmas para la mayoría de problemas que se usan para comparar heurístcas. 5. Efectvdad. Para problemas partculares,debe consegur una solucón óptma o cas óptma en tempo moderado. 6. Robustez. El funconamento debe ser consstente sobre una gran varedad de nstancas.

19 Capítulo 3. Metaheurístca VNS Amgable. Deben estar descrtas claramente,fácles de entender y de usar.por lo tanto, cuantos menos parámetros,mejor. 8. Innovacón. El prncpo de la metaheurístca y/o la efcenca y efectvdad de las heurístcas dervadas de ella deben llevar a nuevos tpos de aplcacones. Más nformacón de esta metaheurístca se puede encontrar en [1], [3] y [6]. En la sguente subseccón se detallan las reglas de las dstntas varantes de la VNS BVNS La búsqueda de entorno varable básca (Basc Varable Neghbourhood Search, BVNS) combna cambos determnístcos y aleatoros de estructura de entornos. La condcón de parada se puede establecer de varas maneras: máxmo tempo de CPU permtdo, número máxmo de teracones del algortmo, máxmo número de teracones entre dos mejoras, dferenca mínma entre dos mejoras,... Descrpcón de los pasos de BVNS. Incalzacón. Selecconar un conjunto de estructura de entornos N k, k = 1,...,k max, que se usarán en la búsqueda; encontrar una solucón ncal x; elegr una condcón de parada. Iteracones. Repetr, hasta que se cumpla la condcón de parada, los sguentes pasos: 1. Hacer k 1 2. Repetr, hasta que k = k max, los pasos: a) Agtacón. Generar al azar una solucón x del k-ésmo entorno de x (x N k (x)). b) Búsqueda local. Aplcar algún método de búsqueda local x como solucón ncal; sea x el mínmo local así obtendo. c) Moverse o no. S la solucón obtenda x es mejor que x, hacer x x y k 1. En otro caso, hacer k k + 1.

20 Capítulo 3. Metaheurístca VNS VNS descendente Una búsqueda local determna la mejor solucón en el entorno de la solucón actual. La clásca búsqueda greedy descendente consste en reemplazar teratvamente la solucón actual por el resultado de la búsqueda local, mentras se produzca mejora. S se realza un cambo de estructura de entornos de forma determnsta cada vez que se llega a un mínmo local, se obtene la búsqueda de entorno varable descendente (Varable Neghbourhood Descent, VND). La solucón fnal proporconada por el algortmo es un mínmo local con respecto a todas las k max estructuras de entornos, y por tanto la probabldad de alcanzar un mínmo global es mayor que usando una sola estructura. Incalzacón. Selecconar un conjunto de estructura de N k, k = 1,..., k max, que se usarán en la búsqueda; encontrar una solucón ncal x; elegr una condcón de parada. Iteracones Repetr, hasta que se cumpla la condcón de parada, los sguentes pasos: 1. Hacer k 1 2. Repetr, hasta que k = k max, los pasos: a) Exploracón del entorno. Encontrar la mejor x del k-ésmo entorno de x(x N k (x)). b) Moverse o no. S la solucón obtenda x es mejor que x, x x y k 1. En otro caso, hacer k k Otras versones de VNS 1. VNS reducda (RVNS). La búsqueda de entorno varable reducda (RVNS) se obtene s se selecconan solucones aleatoras del entorno N k (x), sn aplcar a contnuacón un descenso. Una propedad deseable de este esquema es que permte obtener buenas solucones, no necesaramente próxmas al óptmo, en un tempo razonable. Se pueda usar como paso prevo al VND, para encontrar la solucón ncal. 2. VNS general. En este caso, se susttuye la búsqueda local de la BVNS por la VND.

21 Capítulo 3. Metaheurístca VNS VNS con descomposcón (VNDS). La búsqueda de entorno varable con descomposcón extende el esquema VNS en un esquema de entorno varable en dos nveles basado en la descomposcón del problema. La únca dferenca entre la VNS básca y la VNDS resde en el hecho de que en lugar de aplcar un método de búsqueda local en el espaco completo de búsqueda,en la VNDS se resuelve en cada teracón un subproblema en un subespaco contendo en un entorno de x. 4. VNS sesgada (SVNS). La búsqueda de entorno varable sesgada se aleja de la solucón actual en busca del óptmo. Genera solucones al azar cada vez más alejadas de la solucón actual, degerando en una metaheurístca de arranque múltple que no está entre las mejores heurístcas. Para evtar ese problema SVNS usa una funcón para medr la dstanca entre la solucón actual y el óptmo local encontrado. 5. VNS paralela (PVNS). Las búsquedas de entorno varable se pueden paralelzar de varas maneras. Entre ellas se encuentran: paralelzar la búsqueda local, aumentar el número de solucones obtendas en el entorno de búsqueda y realzar búsquedas locales en paralelo desde cada una de ellas, hacer lo msmo que anterormente pero actualzando la nformacón sobre la mejor solucón encontrada,... Exsten otras versones con un grado de complejdad mayor que mejoran la efcaca de las anterores y que son más adecuados para problemas más complejos. Entre ellas se encuentran Varable Neghbourhood Formulaton Space Search donde el problema se formula de dstntas formas y se pasa de una formulacón a otra una vez que se alcanza un punto estaconaro (en la otra formulacón puede no ser estaconaro), Prmal-dual VNS, VNS Global se basa en la dea de utlzar varas estructuras de entornos y dstrbucones aleatoras en el paso de agtacón. En la mayoría de los casos Glob-VNS utlza 4 pares (entornos, dstrbucón), pero el usuaro puede establecer arbtraramente su número y combnacones, Reactve VNS, Backward-Forward VNS, Exteror Pont VNS, VN Branchng, VN Pump y VN Dvng, VNS Contnuo, Mxed Nonlnear VNS,... Debdo a la smplcdad de VNS, es fácl de combnar con otras metaheurístcas, como pueden ser la búsqueda tab, GRASP, programacón con restrccones,... que se conocen como híbrdos.

22 Capítulo 3. Metaheurístca VNS Algortmos de búsqueda local En VND una de las etapas consste en una exploracón del entorno, exste la posbldad de usar un algortmo de búsqueda local para hallar el óptmo de la funcón en el entorno que se explora. En el trabajo se ha optado por elegr dos algortmos que representan dos grupos dstntos, los métodos drectos e ndrectos. Los métodos drectos son aquéllos que no hacen uso de la dervada de la funcón y los métodos ndrectos sí hacen uso de las dervadas de la funcón. Como representante de los métodos drectos se ha elegdo el algortmo Nelder-Mead y por parte de los métodos drectos, el algortmo MMA (Method of movng assymptotes). Como se menconó anterormente los métodos drectos no hacen uso de la nformacón proporconada por las dervadas, sólo hacen uso de los valores de la funcón, con lo que estos métodos se pueden usar con bastante efectvdad y además tenen la ventaja de que son muy smples de entender y muy fácles de ejecutar. Además son preferbles a los ndrectos cuando la funcón está afectada por rudo, las dervadas son dfícles de calcular o smplemente no son dervables. Por otro lado, en comparacón con los métodos ndrectos la convergenca es más lenta y cuando el número de varables aumenta el resultado de estos algortmos empeora. Por lo tanto, la nclusón en el trabajo de un método drecto e ndrecto de búsqueda local, da lugar a la posbldad de elegr el más adecuado en funcón de las propedades de la funcón de máxma verosmltud (dervabldad, complejdad de la expresón, dfcultad para calcular las dervadas,...), el tempo de computacón que se va a emplear,... A contnuacón se procede a descrbr ambos métodos Algortmo de Nelder-Mead El método símplex de búsqueda drecta fue propuesto por Spendley, Hext y Hmsworth en 1962, y posterormente mejorado por Nelder y Mead en La dea básca de este método es comparar el valor de la funcón objetvo de los n + 1 vértces de un símplex general para, posterormente, mover el símplex gradualmente, aplcando operadores de reflexón, expansón o contraccón, haca el punto óptmo de manera teratva. Lo anteror se logra debdo a que el algortmo explota la propedad de que puede generarse un nuevo símplex sobre cualquer cara del símplex prevo, proyectando cualquer vértce elegdo a una dstanca apropada a través del centrode de los vértces restantes del vejo símplex. El nuevo símplex se forma entonces reemplazando el vejo vértce por el punto proyectado que se acaba de generar. Un símplex en R n es un conjunto de n+1 puntos {x 1,..., x n+1 } en R n tal que el conjunto de vectores {x x 1 : = 2,..., n + 1} es lnealmente ndependente en R n. El algortmo ncorpora normas adconales que permten que el símplex cambe de forma y tamaño con el fn de ajustarse al comportamento de la funcón en la regón local del símplex. El

23 Capítulo 3. Metaheurístca VNS 18 algortmo procede a través de una secuenca de operacones sobre el símplex. Suponendo que el óptmo es un mínmo, el algortmo susttuye el peor vértce en el símplex por un nuevo punto que tene un valor de funcón nferor medante una de las sguentes operacones: reflexón, expansón o contraccón. S todas estas operacones no logran encontrar un nuevo punto que susttuyan el peor punto del símplex, entonces todo el símplex se encoge (shrnkage) haca el vértce con el menor valor de la funcón. Hay un certo desacuerdo sobre la nterpretacón de las normas establecdas por Nelder y Mead (1965); y por lo tanto, hay se encuentran dversas varantes en los documentos y en las mplementacones nformátcas del algortmo. En general exste un consenso sobre las reglas del algortmo orgnal; estas msmas reglas se pueden encontrar en Khur (1987). Un resumen de las reglas para el algortmo símplex Neder-Mead para la funcón de mnmzacón es como sgue: 1. Incalzacón. Dada una funcón de n parámetros, elge n+1 puntos que forman el símplex ncal en el espaco de parámetros R n. Evalúa la funcón en cada uno de los vértces del símplex y los ordena de manera ascendente en funcón de los respectvos valores de la funcón en los vértces. Es decr, x 1 representa el vértce con el valor más pequeño de f, x 2 representa el vértce con el segundo valor más pequeño de f,.. producendo el conjunto ordenado {x 1, x 2,..., x n, x n+1 }. Sea S 0 el símplex ncal. 2. Actualzacón del símplex. Se denota por k el número de teracón de esta etapa, que comenza medante la elmnacón del vértce con el mayor valor de la funcón, x n+1 del símplex actual S k 1. A contnuacón, calcula el centrode de los n restantes puntos de S k 1 medante la fórmula x centrode = 1 n n =1 x Genera un nuevo punto al reflejar x n+1 medante x centrode de acuerdo con la ecuacón x reflejado = (1 + α)x centrode αx n+1 donde el coefcente de reflexón, α, se toma generalmente gual a 1. Luego, dependendo de la poscón de x centrode y de los vértces del símplex actual, se puede realzar una de las sguentes operacones en el símplex actual S k 1. a) Expansón. S f(x reflejado ) < f(x 1 ) entonces se realza la operacón reflexón utlzando la ecuacón x expanddo = γx reflejado + (1 γ)x centrode

24 Capítulo 3. Metaheurístca VNS 19 donde el coefcente de expansón,γ, se toma generalmente gual a 2. 1) S f(x expanddo ) < f(x 1 ), entonces x expanddo reemplaza x n+1 en el símplex 2) En otro caso, x reflejado reemplaza a x n+1 en el símplex. b) Reflexón. S f(x 1 ) < f(x refejado ) f(x n ), entonces x reflejado reemplaza x n+1 en el smplex. c) Contraccón. S f(x reflejado ) > f(x n ), a contnuacón, se ntenta una contraccón del símplex. S f(x reflejado ) f(x n+1 ), entonces x reflejado reemplaza x n+1 y f(x reflejado ) reemplaza x n+1 antes de que se realce una contraccón o un shrnkage. El punto contraccón se calcula utlzando la fórmula x contrado = βx n+1 + (1 β)x centrode donde el coefcente de contraccón, β, se toma generalmente gual a 1/2. 1) S f(x contrado ) f(x n+1 ), entonces x contrado reemplaza x n+1 en el símplex. 2) De lo contraro,reducr todo el símplex a x 1 medante la susttucón de los otros vértces, x,=2,..,n +1, utlzando la ecuacón x = δx + (1 δ)x 1 donde el coefcente de shrnkage, δ, se toma generalmente gual a 1/2. d) Volver a actualzar o Termnar. En este momento, ya sea que un nuevo punto ha susttudo x n+1 dado medante una expansón, reflexón o contraccón, o se han obtendo n nuevos puntos {x 2,..., x n+1 } medante un shrnkage. El nuevo conjunto de puntos se reordena de acuerdo con sus respectvos valores de la funcón y este nuevo conjunto se denota por S k el símplex fnal de la teracn k-ésma. S se satsface el crtero de parada, entonces el algortmo termna; de lo contraro, se realza otra teracón de la etapa de actualzacón. Nelder y Mead propuseron el crtero de parada de error estándar dado por la ecuacón 1 n+1 n+1 =1 (f(x ) f(x)) 2 < 10 8 Más nformacón de este algortmo se puede encontrar en [7], [8] y [9].

25 Capítulo 3. Metaheurístca VNS 20 Operacones en R 2 del algortmo Nelder-Mead. Fgura 3.1: Operacones del algortmo Nelder-Mead. Reflexón y expansón Fgura 3.2: Operacones del algortmo Nelder-Mead. Contraccón y encogmento Esquema del algortmo Nelder-Mead. Fgura 3.3: Dagrama de flujo del algortmo Nelder-Mead

26 Capítulo 3. Metaheurístca VNS Algortmo MMA Es un método que resultó ser muy efcente para problemas de optmzacón en topología, en el entorno académco e ndustral, es el método de las asíntotas móvles (MMA) de Svanberg (1987). Como el método del que derva, CONLIN, MMA trabaja con una secuenca de subproblemas de aproxmacón (smlar a la Programacón SecuencalLneal (SLP) y SQP), pero su aproxmacón se basa en térmnos de varables de dseño drectas y recíprocas. Una ventaja mportante del MMA es que estos modelos locales son convexos y separables y sólo requeren de una funcón y la evaluacón del gradente en el punto de teracón. Este es un hecho mportante, ya que las evaluacones del problema pueden consumr mucho tempo. La separabldad sgnfca que las condcones de optmaldad necesaras del subproblema no se acoplan a las varables de dseño. Esto produce que en lugar de resolver un problema n-dmensonal haya que resolver n problemas undmensonales. La convexdad sgnfca que hay métodos duales que se pueden utlzar para ntentar resolver los subproblemas. Estas valosas propedades permten reducr los costes computaconales necesaros para resolver los subproblemas. La solucón de un subproblema se utlza entonces como el sguente punto teracón. Una formulacón del problema a resolver puede ser la sguente: mnmzar f 0 (x) sujeta a f (x) 0 =1,...,n x mn j x j x m j j=1,...,n donde x = (x 1,..., x n ) R n es el vector de varables, x mn j y x max j son números reales dados para cada j y f 0, f 1,..., f m funcones reales dos veces dferencable. En el trabajo orgnal, Svangerg ntroduce varables artfcales y = (y 1,..., y n ) de forma que el problema anteror se puede formular de la sguente manera: mnmzar f 0 (x) + m =1 (c y d y 2 ) sujeto a f (x) y 0, = 1,..., m x X,y 0 donde X = {x R n : x mn j x j x max j, j = 1,..., n} y c y d son números reales

27 Capítulo 3. Metaheurístca VNS 22 tales que c 0 y d > 0 para =1,...,m. Las constantes c se deben elegr sufcentemente grandes para que las varables y sean 0 en la solucón óptma. Para ncar el algortmo, es necesaro elegr x (1) X, y entonces calcular y (1), obtenendo una solucón factble del problema planteado anterormente. Los índces (k,l) ndcan la k-ésma teracón externa y la l-ésma teracón nterna. Así dado el punto (x (k), y (k) ), se genera y resuelve un subproblema. Este subproblema se obtene a partr del anteror susttuyendo la funcón objetvo y las funcones que defnen las restrccones por funcones g (k,l). El subproblema queda defndo de la sguente manera: mnmzar g (k,l) 0 (x) + m =1 (c y d y 2 ) sujeto a g (k,l) (x) y 0, = 1,..., m x X,y 0 para k {1, 2,...} y l {0, 1, 2,...}, donde X k = {x X : x j [x (k) j El vector σ (k) = (σ (k) 1 0.9σ (k) j, x (k) j + 0.9σ (k) j ], j = 1,..., n}.,..., σ(k) n ) pertenece al conjunto compacto S defndo como sgue S = {σ R n : σ mn j σ j σ max j, j = 1,..., n} donde σj mn y σj max son números reales que verfcan que 0 < σj mn < σj max <. Denotando la solucón óptma del subproblema por (ˆx (k,l), ŷ (k,l) ) obtenda en la l-ésma teracón, s se verfcan las condcones sguentes f (ˆx (k,l) ) g (k,l) (ˆx (k,l) ) =0,1,...,m se hace (x (k+1), y (k+1) ) = (ˆx (k,l), ŷ (k,l) ) y se completa la k-ésma teracón externa, después de l teracones nternas. En caso de que no se verfque alguna de las desgualdades es necesaro realzar una nueva teracón nterna. Para los índces que verfcan la desgualdad se hace g (k,l) (x) = g (k,l+1) (x) y para el resto es necesaro generar una nueva aproxmacón que verfque la desgualdad. g (k,l) Las defncones de las funcones que se han usado son las sguentes: g (k,l) (x) = ( n =1 + q (k,l) j j x j x j l (k) j p (k,l) j u (k) ) + r (k,l) donde los polos de las asíntotas móvles l (k) j y u (k) j son

28 Capítulo 3. Metaheurístca VNS 23 l (k) j = x (k) j σ (k) j y u (k) j = x (k) j + σ (k) j y los coefcentes p (k,l) j,q (k,l) j y r (k,l) venen dados por p (k,l) j = (σ (k) j ) 2 max{0, f x j (x (k) )}+ ρ(k,l) 4 σ (k) j q (k,l) j = (σ (k) j ) 2 max{0, f x j (x (k) )}+ ρ(k,l) 4 σ (k) j r (k,l) = f (x (k) ) n j=1 p (k,l) j +q (k,l) j σ (k) j. Dentro de una teracón externa k, la únca dferenca entre dos teracones nternas son los valores de los parámetros ρ (k,l). Estos parámetros son estrctamente postvos,así que todas las funcones g (k,l) son estrctamente convexas y cada subproblema tene una solucón global óptma. Para l = 0, se usan los sguentes valores: ρ (1,0) = 1 ρ (k+1,0) = max{0.1ρ (k,ˆl(k)), ρ mn } donde ˆl(k) es el número de teracones nterores que se necestan en la teracón externa k-ésma y ρ mn es un número fjo estrctamente postvo como puede ser En cada teracón nteror, la actualzacón de ρ (k,l) se basa en la solucón del subproblema más recente. S g (k,l) (ˆx (k,l) ) < f (ˆx (k,l) ) se elge el valor de ρ (k,l+1) se elge para que g (k,l+1) (ˆx (k,l) ) = f (ˆx (k,l) ) que proporcona ρ (k,l+1) = ρ (k,l) + σ (k,l) donde δ (k,l) = f (ˆx (k,l) ) g (k,l) (ˆx (k,l) ) w(ˆx (k,l),x (k),σ (k) ). De esta manera se tene ρ (k,l+1) = mn{10ρ (k,l), 1.1(ρ (k,l) + δ (k,l) )} s δ (k,l) > 0 ρ (k,l+1) = ρ (k,l) s δ (k,l) 0. Las funcones g (k,l) son aproxmacones de prmer orden de las funcones f de la estmacón actual, esto es, las condcones

29 Capítulo 3. Metaheurístca VNS 24 g (k,l) (x (k) ) = f (x (k) ) y g (k,l) (x (k) ) = f (x (k) ) se verfcan para todo = 0, 1,..., m. Otra condcón que se deben verfcar estas funcones es la separabldad, esto es, g (k,l) (x) = g (k,l) 0 + n j=1) g(k,l) j (x j ). Además estas funcones deben verfcar g (k,l) (x) = v (x, x (k), σ (k) ) + ρ (k,l) w(x, x (k), σ (k) ), = 0, 1,..., m donde v (x, ξ, σ) y w(x, ξ, σ) son funcones reales defndas en el conjunto D = {(x, ξ, σ) : ξ X, σ S, x X(ξ, σ)} sendo X(ξ, σ) un subconjunto de X defndo como X(ξ, σ) = {x j [ξ j 0.9σ j, ξ j + 0.9σ j ], j = 1,..., n}. Más nformacón de este algortmo se puede encontrar en [10] y [12]. Esquema general del algortmo MMA Paso 1 Elegr un punto x (0) y hacer k 0. Paso 2 Dado un punto teracón x (k), calcular f (x (k) ) y los gradentes f (x (k) ) para = 0, 1,..., m. Paso 3 Generar un subproblema reemplazando en el problema orgnal, las funcones f por las funcones g (k), usando los cálculos de la etapa anteror. Paso 4 Resolver el subproblema anteror, y convertr esta solucón óptma en el sguente punto teracón, x (k+1). Hacer k k + 1 e r al paso 1. El algortmo fnalza cuando se verfca el crtero de convergenca o smplemente, cuando la solucón actual x (k) es sufcentemente buena para el usuaro.

30 Capítulo 3. Metaheurístca VNS Implementacón del algortmo VND Para la mplementacón del algortmo VND se ha usado el software estadístco y matemátco R, y en partcular el paquete Nloptr. El paquete Nloptr es una nterfaz R para NLopt, una bbloteca lbre de códgo aberto para la optmzacón no lneal ncado por Steven G. Johnson, que proporcona una nterfaz común para un número de dferentes rutnas de optmzacón gratutas así como mplementacones orgnales de otros algortmos. Se puede usar para mnmzar funcones no lneales con restrccones no lneales y varables acotadas. La forma general de este tpo de problemas es: mn(f(x)) con x R n sujeta a las restrccones g (x) 0 = 1,..., m a x b NLoptr ncluye algortmos tanto de optmzacón global como local. Los algortmos de optmzacn global que ncluye funconan ben en los problemas razonablemente ben educados, s la dmensón n no es demasado grande. El térmno optmzacón global empleado es un algo confuso, lo que realmente garantzan este tpo de algortmos es que partendo de cualquer punto de la regón factble va a hallar un mínmo local. En general, un problema de optmzacón no lneal puede tener muchos mínmos locales, y por lo general el mínmo local obtendo depende del punto de partda que los usuaros sumnstran al algortmo. Los algortmos de optmzacón local, por otro lado, a menudo puede localzar rápdamente un mínmo local, ncluso en los problemas de muy alta dmensón (especalmente utlzando algortmos basados en gradente). Los algortmos de búsqueda local los clasfca en algortmos basados en gradentes y no basados en gradente. Especalmente para optmzacón local, los algortmos basados en gradentes son más efcentes y requeren que el usuaro proporcone el gradente de la funcón además del valor de f para cualquer punto x (y de manera smlar para todas las restrccones no lneales). Éste explota el hecho de que, en prncpo, el gradente puede cas sempre ser calculado en el msmo momento que el valor de f usando muy poco esfuerzo computaconal adconal. Los métodos basados en el gradente son fundamentales para la optmzacón efcente en los espacos de parámetros de muy alta dmensón (por ejemplo, n en los mles o más). En ocasones, el cálculo de la dervada es a veces ncómodo e nconvenente s la funcón objetvo es complcada. Es ncluso peor, s f no es dferencable (o peor, es dscontnua). Es a menudo más fácl usar un algortmo lbre de dervadas para

31 Capítulo 3. Metaheurístca VNS 26 la optmzacón, que requere sólo los valores de f (x) en cualquer punto x. Los algortmos de optmzacón sn gradentes que tene mplementados son los sguentes: COBYLA, BOBYQA, NEWUOA, PRAXIS, Nelder-Mead Smplex y Sbplx. Y los que usan gradentes son: (Method of Movng Assymptotes) y CCSA, SLSQP, Lowstorage BFGS, Precondtoned truncated Newton, Shfted lmted-memory varable metrc y Augmented Lagrangan method. Hay que destacar que no todos los algortmos menconados anterormente son capaces de tratar con restrccones no lneales tanto en el caso de gualdades como desgualdades y que en ocasones los algortmos mplementados son versones de los orgnales. La funcón nloptr ncluye dversos crteros de parada: ftol rel. Se detene cuando en un paso de la optmzacón el valor de la funcón objetvo camba menos que ftol rel multplcado por el valor absoluto del valor de la funcón. ftol abs. Se detene cuando en un paso de la optmzacón camba el valor de la funcón menos que ftol abs. xtol rel. Para cuando en un paso de la optmzacón cada parámetro camba menos que xtol rel multplcado por el valor absoluto del parámetro. xtol abs. xtol abs es un vector de longtud n (el número de elementos en x) dando las tolerancas. Se detene cuando en un paso de la optmzacón (o una estmacón del óptmo) camba cada parámetro x[] menos que xtol abs[]. maxtme. Se detene cuando el tempo de optmzacón (en segundos) excede maxtme. Otros paquetes de R que se pueden usar para realzar la optmzacón son los sguentes: optm, optmx, alabama, Rsolnp, dfoptm, GA, GenSA, maxlk, NMOF, powell, subplex, ucmnf, nleqslv, genalg, regenoud,r malschans,... que usan métodos como BFGS, método del gradente conjugado, Nelder Mead, smulated annealng, Hooke-Jeeves, algortmos genétcos, Newton-Raphson, enjambre de partículas,... Más nformacón se puede encontrar en [13] y [14].

32 Capítulo 3. Metaheurístca VNS Versones VND mplementadas En este trabajo se han mplementado dos versones dstntas basadas en la heurístca VND. La eleccón de mplementar una versón del VND (ncluye un paso de la VNS básca) se debe a que presentan una estructura senclla de programar y entender, aunque más compleja que la versón VNS reducda, en la que todo queda en funcón del azar. Una mplementacón de la versón VNS general es un camno a probar en el futuro, lgeramente más compleja pero que parece realzar una búsqueda más ntensva. El resto de versones descrtas anterormente, presentan una complejdad superor a la descrta hasta ahora, como es el caso de la VNS con descomposcón en el que es necesaro defnr un espaco de búsqueda basado en característcas de las solucones parcales obtendas, algo en prncpo no demasado fácl de mplementar. Esta eleccón responde a los prncpos de sencllez y efcenca. En las pruebas realzadas con datos smulados, ha consegudo resultados smlares a los del método de Newton- Raphson, con la ventaja de que no tene condcones sobre la funcón para asegurar la exstenca de solucón. Implementacones de las versones más complejas de la VNS parecen prometer mejores resultados aunque a costa de un mayor coste computaconal. A contnuacón se presentan dos mplementacones de VND, una de ellos usa el método de Nelder-Mead que puede generar hasta 10 puntos aleatoros por entorno y la otra usa MMA con un punto aleatoro por entorno. Para el método de Nelder-Mead con las característcas anterores se usa la notacón NM10 y para MMA se usa la notacón MMA1. A contnuacón se presentan los pasos de las dos versones. Incalzacón. Esquema de la versón VND NM10. Selecconar un conjunto de estructura de entornos N k, k = 1,...,k max, que se usarán en la búsqueda; generar de forma aleatora un punto x del domno de f. Iteracones. Repetr, hasta que se cumpla la condcón de parada, los sguentes pasos: a) Hacer k 1. b) Repetr, hasta que k = k max, los pasos: 1) Repetr hasta que l = l max, los sguentes pasos: a Agtacón. Generar al azar una solucón x l del k-ésmo entorno de x (x l N k (x)). b Exploracón del entorno. Encontrar la mejor solucón x l del k-ésmo entorno de x, tomando x l como punto de partda del algortmo Nelder-Mead en el entorno N k (x).

33 Capítulo 3. Metaheurístca VNS 28 c Moverse o no. S la solucón obtenda x l es mejor que x, hacer x x l, k 1 y l 1. En otro caso, s l l max 1 hacer l l + 1 y vuelve a a. Fnalmente, s l l max,entonces k k + 1,l 1 y vuelve a 1. Esquema de la versón VND MMA1. Incalzacón. Selecconar un conjunto de estructura de entornos N k, k = 1,..., k max, que se usarán en la búsqueda; generar de forma aleatora un punto x del domno de f. Iteracones. Repetr, hasta que se cumpla la condcón de parada, los sguentes pasos: a) Hacer k 1. b) Repetr, hasta que k = k max, los pasos: 1) Agtacón. Generar al azar una solucón x del k-ésmo entorno de x (x p N k (x)). 2) Exploracón del entorno. Encontrar la mejor solucón x del k-ésmo entorno de x, tomando x como punto de partda del algortmo MMA en el entorno N k (x). 3) Moverse o no. S la solucón obtenda x es mejor que x, hacer x x, k 1. En otro caso, hacer k k + 1. Las prncpales característcas de estas mplementacones son: a) En estas mplementacones el usuaro no necesta proporconar una solucón ncal al algortmo, sno que este msmo genera el punto de partda, generado en el domno de la funcón a optmzar. b) El conjunto de estructuras de entornos están defndas en el domno de la funcón a optmzar y se crean alrededor del punto de partda. Los entornos que usa el algortmo son andados, aunque se pueden dseñar para que tengan forma de anllos concéntrcos. Los entornos de las dos versones son de la forma: (1 + x 1 x 1 +k, x 1 + k) ( x 2 k+1, x 2 + (1 x 2 ) k k+1 ) (x 3 k, x 3 + k) ( x 4 k+1, x 4 + (1 x 4 ) k k+1 ) donde x R 4 es el centro del entorno y k es el rado del entorno. Ésta es sólo una de las posbles opcones. c) En cada entorno, se genera aleatoramente un punto que será el punto de partda del algortmo de búsqueda local. En MMA1 la dependenca del punto de partda no es tan acusada,esto es debdo a que MMA está basado en el uso de dervadas, de esta manera gana en establdad pero a costa de aumentar la complejdad computaconal, por esa razón no es necesaro generar más de un punto por entorno. El NM no usa dervadas y es más nestable, depende más del dato ncal y por ello es bueno usar dstntos ncos en un msmo entorno y quedarse con el mejor, con lo que aumenta la

34 Capítulo 3. Metaheurístca VNS 29 establdad del algortmo. Dseñados de esta forma, ambos obtenen unos resultados smlares. Se pueden mplementar dstntas dstrbucones a la hora de generar el punto aleatoro en el paso de agtacón, ésta es una vía a nvestgar. d) Se han escogdo dos crteros de parada dstntos: el número máxmo de entornos que se puede recorrer alrededor del msmo punto y el número máxmo de teracones que se le permte realzar al algortmo. En realdad, el algortmo se detene cuando se cumple alguna de las condcones anterores. e) Los parámetros que se pueden confgurar son los sguentes: número de entornos máxmos que puede recorrer el algortmo alrededor de un punto y el número máxmo de teracones del algortmo. f ) MMA1 usa el gradente de la funcón a mnmzar, mentras que NM10 no lo necesta, consecuenca de los algortmos de búsqueda local empleados en cada uno de los algortmos Parámetros del dseño de VND La versones VND anterores son, por supuesto, algunas de las que se pueden crear. Elgendo dstntos parámetros podemos consegur dferentes versones que podrían conducr a mejores resultados sobre este problema. A contnuacón se ctan algunos de ellos: a) La eleccón de entornos es uno de los elementos del algortmo que más varabldad permte y más puede nflur en los resultados. La estructura de entornos usada en este trabajo es sólo una de las exstentes. b) Aunque en este trabajo sólo se usa una estructura de entornos, se pueden usar varas estructuras de entornos y por tanto, surge la posbldad de decdr qué estructura de entornos usar en cada paso. c) Las dstrbucones usadas en el paso de agtacón para obtener el punto aleatoro. En este trabajo se ha usado la dstrbucón unforme, aunque otras dstrbucones pueden ofrecer mejores resultados. d) Los algortmos de optmzacón local empleados en el paso de búsqueda local. e) Número de entornos usados en la búsqueda, k max. f ) Orden en el que se pueden utlzar los entornos. g) Procedmento para llevar a cabo el cambo de entorno. La modfcacón, ntroduccón y elmnacón de los dstntos parámetros de VND puede llevar a dferentes rendmentos que consttuye un trabajo a realzar en el futuro.

35 Capítulo 4 Aplcacón a datos smulados En esta seccón, se comparan los resultados obtendos por los dstntos algortmos sobre unos datos smulados. En prmer lugar se presentan las estmacones obtendas por los dos nuevos algortmos, usando para cada uno de ellos 5, 10 y 15 entornos. Una vez obtendas las estmacones, se comparan los resultados usando dstntos tpos de error. Posterormente, se muestran las estmacones de los parámetros obtendas con ses algortmos dstntos, ncluyendo los dos nuevos propuestos NM10 y MMA1. Los restantes algortmos son Newton-Raphson, un método recursvo, Smulated Annealng y un algortmo evolutvo. Fnalmente se pasa a comparar los resultados de los dstntos algortmos medante el uso de dstntas meddas de error. Los conjuntos de datos utlzados y las estmacones de los parámetros mostradas por los algortmos Newton-Raphson, un método recursvo, smulated annealng y un algortmo evolutvo se han obtendo de [15]. Las meddas de error que se usan se agrupan en meddas de error absoluto, meddas de error basadas en porcentaje, meddas de error smétrcas y meddas de error relatvas. Se usan dos meddas de error absoluto MAE (mean absolute error) y MSE (mean squared error), una medda de error basada en porcentajes: MAPE (mean absolute percentage error), una medda de error smétrca: SMAPE (symmetrc mean absolute percentage error) y una medda de error relatvo: MRAE (mean relatve absolute error). 30

36 Capítulo 4. Aplcacón a datos smulados Datos smulados Los tres conjuntos de datos se han generado a partr de la smulacón de un proceso de dfusón lognormal-gompertz de parámetros m=1, β = 0.2, c = y para σ 2 se han consderado los valores: 10 3,10 4,10 5. La naturaleza recursva de los algortmos de resolucón de las ecuacones dferencales estocástcas hacen necesaro un valor ncal x 0. En este caso, se consderó que la dstrbucón ncal seguía una dstrbucón lognormal Λ(0; 1). Los datos generados en cada conjunto están formados por 100 trayectoras con 500 datos cada una de ellas, desde t 0 = 1 a t 500 = 100, con t t 1 = 0.2 como se muestra en las fguras 4.1, 4.2 y 4.3. Fgura 4.1: Trayectoras smuladas con parámetros m=1, β = 0.2, c=0.013 y σ 2 = 10 5 Fgura 4.2: Trayectoras smuladas con parámetros m=1, β = 0.2, c = y σ 2 = 10 4 Fgura 4.3: Trayectoras smuladas con parámetros m=1, β = 0.2 c = y σ 2 = 10 3