Problemas de Optimización usando el modelo de Hopfield

Transcripción

1 CLASE 5 de Marzo de 008 Undad Problema de Optmzacón uando el modelo de Hopfeld Modelo de Hopfeld contnuo Problema de optmzacón: Convertdor A/D, Problema del vaante, etc.

2 Rede autoaocatva Red de Hopfeld Regla de HEBB Cte / w cte S S : número de neurona - Auto-aocatva ( k ( k - w w w ( k > θ ( k θ ( k < θ

3 Capacdad de almacenamento de la red de Hopfeld Conderando patrone almacenado (p y total de neurona ( p C 0.38 Porcentae de errore en la red de Hopfeld en funcón del nvel de almacenamento (Patrone aleatoro, 50% de, 50% de -

4 E capaz la red de recuperar un patrón dtoronado (con rudo? Modfquemo en un patrón n componente h p ( n Sp O(p ( p n: componente modfcada : número de componente número de neurona p: patrone almacenado De donde p<< y n << lo patrone on etable y podremo recuperarlo aún lo modfcamo con certo nvel de rudo

5 Capacdad Una pobldad e utlzar un número de neurona ( muy elevado en comparacón con el número de patrone que queremo memorzar (p. Eto no no aegura reultado excento de error, pero í aceptable. S lo patrone e ecogen ortogonale, el etado de la neurona e mantene. Por tanto, la red e etablza y no devuelve el patrón

6 Patrone ortogonale patrone, Y e Y, on ortogonale Y.Y Producto ecalar (Y, Y [ Y(*Y( Y(*Y( Y(3*Y(3 Y(4*Y(4 ] 0 Y [ - -] Y [ - -] Y3 [ - - ] Un conunto e ortogonal todo lo poble pare de vectore on ortogonale entre í. Exten patrone ortogonale de longtud.

7 Tangente hperbólca x x El modelo de Hopfeld contnuo Etado dcreto {-, } Tempo (actualzacón dcreto, k,,3, n {, } {, } : θ h x 3 - u 0 gn( u u < 0 f Etado contnuo x [-, ] Tempo (actualzacón contnuo, t (0, ] f ( u e e βu βu e e βu βu

8 El modelo de Hopfeld contnuo El modelo de Hopfeld contnuo < >, ( ( ( 0 ( y ( 0 0 ( y ( 0 ( t x t x w f t x w f t x t x w f t x dt t dx θ η θ θ t x t x t x w t E ( ( ( ( θ Dn Dnámca de la computac mca de la computacón Func Funcón de energ n de energía computaconal a computaconal

9 Dferenca entre el modelo de Hopfeld dcreto y contnuo. -- Cualtatvamente hay poca dferenca. -- Ambo modelo convergen a mínmo y on etable. -- Puede defnre la funcón energía en ambo cao. -- El modelo contnuo e útl para poble mplementacone en crcuto dgtale y e bológcamente má realta. -- El modelo contnuo tene una uperfce de energía má uave, con meno etado epuro y por lo tanto la convergenca e meor.

10 Reumen Red de Hopfeld Modelo de red recurrente para memora aocatva Podemo almacenar patrone y recuperarlo uando la regla de Hebb La defncón de una funcón energía e útl para demotrar la convergenca de la dnámca La capacdad de almacenamento no e demaado elevada (p0.38 pero puede meorare (uando otra regla, patrone ortogonale Exten etado epuro no deeado.

11 Paua

12 Problema de Optmzacón Adaptar la funcón de energía del Modelo de Hopfeld a otro problema, para encontrar u olucón utlzando el hecho de que la dnámca conduce a un mínmo. Cudado! Puede paar que la olucón encontrada no ea muy buena (Mínmo local con una energía alta. Uaremo un modelo de neurona de acuerdo al problema : Umbral Modelo Dcreto Modelo Contnuo ( k - ( k w w w ( k > θ ( k θ ( k < θ

13 Energía del modelo de Hopfeld (umbral 0 E( t w x ( t x ( t θ x ( t Intentaremo uar eta funcón de energía para repreentar y reolver problema de optmzacón. Para ello, hay que bucar una funcón Energía cuyo mínmo e correponda con la olucón al problema deeado y calcular lo peo náptco W correpondente.

14 Convertdor análogco dgtal A/D Aproxmar una eñal contnua (analógca Z(t : [0, 3] por medo de una repreentacón bnara de bt (X 0, X Z x 0 x Podemo tomar E [Z (x 0 x ] Dado que erá gual a 0 cuando ocurra Z x 0 x y que e menor cuanto menor e la dferenca entre el valor real análogco y el aproxmado dcreto.

15 Convertdor análogco dgtal A/D Utlzaremo un modelo de Hopfeld contnuo y como queremo que x 0 y x tomen valore [0,] utlzamo la retrccone adconale: R λ 0 [x 0 (x 0 -] R λ [ x (x - ] Y la funcón energía a mnmzar queda entonce: E [Z (x 0 x ] λ 0 [x 0 (-x 0 ] λ [ x (-x ]

16 Convertdor análogco dgtal A/D Dearrollando Obtenemo : E z x 0 (-λ 0 x (4-λ x 0 (λ 0 -z x (λ -4z 4x 0 x De donde por comparacón con la funcón Energía del modelo de Hopfeld Vemo que no hay térmno cuadrátco λ 0 λ 4 para anular lo térmno x 0 y x

17 W 0-4 Convertdor análogco dgtal A/D Comparando lo otro térmno, no lleva a determnar: E.: Z.75 W

18 Problema de la Torre ( k 0 en la fla en la fla y columna y columna hay una torre no hay una torre

19 Problema de la Problema de la Torre Torre torre una hay no y columna fla la en 0 torre una hay y columna fla la en ( k,, ; e decr, K K M K K,, ; e decr, K K M K K

20 Problema de la Torre Funcón de energía: k k k k k k k k k k.

21 Problema de la Torre E k k k r r r k k ( k r r ( r ( w,k w,r θ

22 Problema de la Torre Cada neurona etá conectada con otra neurona de u mma fla y neurona de u mma columna.

23 El problema del vaante de comerco Arqutectura: undade de proceo k la cudad e vta el día k 0 en otro cao. Mnmzar,, k d k ( ( k ( k Sueto a,,,...,.,,,...,.

24 Fn