7 Máquinas Estocásticas

Transcripción

1 7 Máqua Etocátca 7. Itroduccó Cuado tudamo lo modlo rcurrt d Hopfld o cotramo co l covt d qu la rd qu buca la cofguracó d míma rgía computacoal ul qudar atrapada mímo local qu o o global puto qu l qu ua cofguracó d la rd tga mor rgía qu u cofguraco vca o qur dcr qu a la d mor rgía. Por otra part podría par qu para ua rd d Hopfld co udad d proco bataría valuar la fucó d rgía la 2 cofguraco pobl y dtrmar drctamt la d mor rgía. S mbargo la catdad 2 ul r dmaado grad para prmtr dcha valuacó u tmpo d cómputo razoabl. Aí para ttar rolvr dcho problma vamo a rcurrr a método tocátco probablítco d búquda global. E cocrto vamo a tudar u método tocátco gral d búquda global baado cocpto y técca d la fíca pcalmt d la mcáca tadítca llamado l método d rcocdo mulado o d framto tadítco. Ammo vamo a tudar ua vró dtrmítca d dcho método. Falmt vamo a tudar ua rd uroal bara llamada máqua d Boltzma qu utlza dcho método corpora u propa rgla d aprdza y qu prmt mplmtar aocaco tr trada y alda d gra tré para l rcoocmto d patro El Algortmo d Mtrópol El método d optmzacó global baado l algortmo d Mtrópol tá prado la mcáca tadítca qu la dcpla ctral d la fíca d la matra codada y trata dl comportamto d tma co mucho grado d lbrtad qulbro térmco a ua tmpratura fta. El puto d partda d la mcáca tadítca ua fucó d rgía Ex qu md la rgía térmca d u tma fíco u tado cofguracó dado x dod x prtc a u couto d pobl tado S. S la tmpratura aboluta dl tma mayor qu cro l tado x varará l tmpo cauado també varacó d u rgía. Eta varacó ralza co ua tdca a dmur promdo la rgía dl tma y cotúa hata qu alcaza u tado d míma rgía qulbro térmco. U rultado fudamtal d la fíca tablc qu qulbro térmco cada uo d lo tado pobl alcaza co probabldad

2 E x k x E x k π x S dod k la cotat d Boltzma rg/k y la tmpratura aboluta. Al umrador l llama l factor d Boltzma y a ta dtrbucó d probabldad l llama dtrbucó d Boltzma-Gbb. Obérv qu garatza qu u tado cofguracó d mor rgía má probabl qu u tado d mayor rgía. Para modlar t tma dámco utlzarmo ua cada d Markov dcr ua ucó d varabl alatora { o 2....} vrfcado la gut propdad: P { + x + / 0 x 0 x... x x } P{ + x / x dod la varabl alatora o da l tado l qu cutra l tma l tmpo 2 y x + u tado dl couto S d tado pobl. Dcha xpró o dc qu la probabldad codcoada d qu l tma pa al tado x + la tracó + cuado la traco atror taba lo tado ñalado por la varabl alatora 0 ólo dpd drctamt dl tado l qu cotraba la tracó atror. La catdad P{ + x + / x o la probabldad d tracó. ootro tamo trado l comportamto límt dl tma dpué d u gra úmro d traco pu damo qu l tma tablc y tga ua dtrbucó tacoara dcr qu lm P{ x / 0 x'} π x Eta xpró tablc qu la probabldad d cotraro l tado x dpué d u úmro ufctmt grad d traco dpdt dl tado d partda. A la dtrbucó d probabldad πx l llama dtrbucó d tado tabl tacoara o d qulbro. Ua codcó ufct térmo d la probabldad d tracó para qu la dtrbucó a tacoara l prcpo dl balac pormorzado qu tablc qu l qulbro térmco la taa d ocurrca d traco d u tado x a otro x' a gual a la taa d traco vra d traco d x' a x dcr } π x P{ + x' / x} π x' P{ + x / x' dcr P{ P { + + x' / x / x π x' x' π x E k 2 lg como dtrbucó tacoara la dada la xpró do E Ex'Ex. 42

3 Por llo l algortmo d Mtrópol Robluth llr y llr 953 lg como probabldad d tracó P{ E < 0 x / x' E 3 - k E 0 + Prta la vtaa d qu ralc má traco a vl má bao d rgía al mmo tmpo qu prmt algua vc traco a tado d mayor rgía lo qu prmt por ua part qu alcac má rápdamt u tado d qulbro y por otra l prmt capar d mímo local. Obérv qu al paar d u tado x a otro x dcrc la fucó d rgía toc paamo d x a x crmta. E l prmr cao la probabldad d k tracó uo mtra qu l otro y u coct cumpl la codcó 2. E l algortmo d Mtrópol part d u tado x al qu l aplca ua prturbacó alatora x obtdo l uvo tado x+ x; co l uvo tado dmuy la rgía toc acpta dcho tado como uvo puto d búquda; cao cotraro acpta dcho tado como uvo puto d búquda co probabldad xp- E/ pu ootro utturmo la cotat k por l parámtro d cotrol. E 7.3 La técca d Rcocdo Smulado Auqu podríamo aplcar l algortmo d Mtrópol para grar uvo tado a baa tmpratura ya qu a baa tmpratura lo tado d mor rgía o mucho má favorcdo má probabl mbargo la taa d covrgca dl algortmo dmaado lta a muy baa tmpratura. Aí l método prfrdo para morar la fcca computacoal cot hacr qu l tma opr a alta tmpratura dod la covrgca al qulbro rápda y toc matr l tma qulbro coform va dmuydo gradualmt la tmpratura. Eta la técca dl rcocdo d mtal qu cot caltar u mtal a alta tmpratura caldar para dpué r frádolo gradualmt y cogur aí mtal rtt co crto grado d durza y latcdad y rcuprar d uvo la ductldad admtr dformaco frío llgar a rompr o l tmpl qu ul prdr al trabaarlo. Co llo cogu qu u tma fíco como l cottudo por la molécula d u ga o lo átomo magétco ma d u óldo alacó alcac cofguraco d baa rgía. Por lo tato uarmo la técca dl rcocdo mulado darrollada por Krkpatrck Glatt y Vcch 983 qu cota d: U quma d framto qu rgula cómo va dmuydo gradualmt la tmpratura. U algortmo como l algortmo d Mtrópol qu utlza para cotrar la dtrbucó d qulbro para cada uvo valor d la tmpratura obtdo por l quma d framto. 43

4 Al comzo dl algortmo d rcocdo mulado part d u valor alto d y coform progra l algortmo t valor va dmuydo gradualmt hata l valor cro gú l quma d framto lgdo para. Para valor má alto d la probabldad d paar a u tado d mayor rgía má alta mtra qu para valor má pquño d dcha probabldad má baa. El quma d framto o pcfca la forma gradual d r dmuydo lo valor d coform volucoa l algortmo; dmaado rápdo toc pud llgar por ua covrgca prmatura a u mímo local o global mtra qu dmaado lto collva ua catdad xcva d cómputo. Dafortuadamt ha dmotrado tórcamt Gma y Gma 984 qu db rducr muy ltamt comparacó a la vra dl logartmo dl úmro d traco k tmpo dcr o k + l k k23... para garatzar qu l algortmo covra ca mpr a u mímo global. Para aclrar ta búquda ha proputo mucho método. E la práctca ua bua olucó mímo local pud r ufct y para llo podmo utlzar u quma d framto rápdo por mplo: k + k dod Dcho quma upo ua rduccó xpocal d la tmpratura. Ahora vamo a codrar ua rd d Hopfld cottuda por udad d proco bpolar cuya fucó d rgía computacoal para l tado cofguracó x k k 2 k... k prtado la tracó k v dada por la gut xpró: E x k w k k + θ 2 S modfcamo la dámca d la computacó d dcha rd tdo cuta l método d rcocdo mulado d mara qu ua cofgura vca obtda al lgr ua udad d proco alatoramt y cambar u tado coduc a ua cofguracó d mayor rgía toc acpta tal cambo co probabldad xp- Ek/k. Dcha pobldad prmt a la rd capar d mímo local. Por otra part ua cofgura vca obtda al lgr ua udad d proco alatoramt y cambar u tado coduc a ua cofguracó d mor rgía toc ralza dcho cambo lo qu favorcrá la tablzacó d la rd. D ta mara tmo ua dámca d la computacó para la rd d Hopfld baada u método d búquda global lugar d la dámca cláca baada l método dl gradt qu l prmt cotrar l mímo global d la fucó d rgía o mímo local acptabl. Por lo tato tmo l gut algortmo qu dcrb la volucó d la rd l qu rad[0 u úmro alatoro dl trvalo [0: k 44

5 ALGORIMO Pao 0 Elgr ua cofguracó cal d la rd k0 y u quma d framto k. Pao Hacr k k + Pao 2 Elgr alatoramt ua udad d proco; upogamo qu u tado k corrpodt a la cofguracó d la rd x k k k k x k + k 2 k... k... k S la cofguracó vrfca qu Ek+ < Ek toc toma como uva cofguracó S o toc o xp- Ek/k>rad[0 lgr també k+ k para la uva cofguracó o o la uva cofguracó la mma qu la atror k+ k. Pao 3 S k k max u otro crtro d parada cumpl qu garatc qu toda la udad d proco ha do actualzada vara vc parar la cofguracó obtda la bucada. S o volvr al pao. Por otra part l cálculo dl crmto d la rgía Ek dbmo d tr cuta qu E k dod E k 2 k... k... k E k 2 k... k... k 2 k h k h k w k l potcal áptco d la udad d proco. 7.4 La máqua d Boltzma La máqua d Boltzma ua máqua tocátca cottuda por udad d proco uroa tocátca co coxo áptca métrca tr la mma. Dcha udad d proco o d do tpo fucoal: vbl u oculta como mutra la fgura. La udad vbl rv d trfaz tr la rd y l toro l qu opra rcog la formacó umtrada. Durat la fa d tramto auta lo tado d toda la udad vbl a tado pcífco tablcdo por lo patro d tramto toro l qu opra pud r a u vz d trada o d alda mtra qu la udad oculta mpr opra lbrmt y utlza para xplcar rtrcco ubyact cotda lo patro d trada. 45

6 uroa oculta uroa d trada uroa d alda Fgura. Arqutctura d la máqua d Boltzma. La máqua d Boltzma ua máqua tocátca computa por udad d proco tocátca probablítca. Ua udad d proco probablítca aqulla cuya alda S ua varabl alatora bara co ua dtrbucó d probabldad qu fucó d u potcal áptco d trada dfda por la gut xpró: P S + 2h / + Hmo rprtado l tado d la udad d proco por S ya qu trata d ua varabl alatora. La utlzacó d ta dtrbucó d probabldad baa la mcáca tadítca. El parámtro dmpña l papl d la tmpratura y cotrola l grado d alatordad d la alda; cuado grad la rd toma lo do valor pobl co probabldad ca gual pu ca o trv l potcal áptco y cogu qu lo p magétco qu corrpod co utra udad d proco té ortado haca arrba o haca abao co gual probabldad la fluctuaco térmca favorc lo cambo d ortacó d lo p magétco mtra qu próxmo a cro la uroa ca dtrmítca ya qu toma l valor + co probabldad próxma a cuado l potcal áptco potvo y corrpod co qu lo p magétco orta aládo co l campo mprat. La dcrpcó matmátca atror dl fcto d la fluctuaco térmca u modlo Ig co dámca d Glaubr 963: + S k - co probabldad co probabldad g h g h 46

7 do g h 2h / + Hay qu tr cuta també qu g h 2h / + pu -gugu y qu l parámtro pud utlzar para cotrolar la aproxmacó d la fucó g a la fucó go cuado 0 aproxma a dcha fucó. Admá Cuado grad toc P S + 2 h > 0 Cuado pquño toc P S + 0 h < 0 qu comporta como l Modlo d Hopfld dtrmítco. Hto y Sowk 983 troduro ua rgla d aprdza para la máqua d Boltzma cuyo obtvo autar lo po áptco d la rd d forma qu la uroa vbl mplmt ua dtrbucó d probabldad dada dtrmada por lo patro d tramto cada patró d tramto tablc ua rlacó tr ua trada y ua alda dada dcr ua corrpodca aocacó tablcda a travé d u couto d patro d trada y u corrpodt alda dada d mara qu pud habr vara alda pobl para ua trada. U patró d tramto pud tr alda dfrt qu otro co la mma trada y la rd db aprdr també la frcuca apropada co la qu ocurr la dfrt alda. El proco d aprdza llva a cabo do tapa: ua tapa d bloquo o aut dod auta la udad vbl a lo patro d tramto mtra qu la udad oculta volucoa gú la dámca d la rd; la otra tapa lbr ólo auta la uroa d trada y la dmá volucoa lbrmt. Para dducr la rgla d aprdza vamo a rprtar por a ua cofguracó cocrta d lo tado d la uroa vbl y por rprta ua cofguracó cocrta d lo tado d la uroa oculta. Ammo rprtarmo por P : probabldad d qu la uroa vbl prt la cofguracó cuado la rd opra d forma bloquada autada a la codco dl toro dcr la probabldad dada. Q : probabldad d qu la uroa vbl prt la cofguracó cuado la rd opra d forma lbr dpd d lo po áptco d la rd. Para cumplr utro obtvo vamo a dtrmar lo po áptco d forma qu mmc la tropía rlatva mdda d formacó o dvrgca d Kullback- Lblr dfda por la xpró M 2 P H P l Q qu ua mdda d la dcrpaca tr la dtrbucó d probabldad dl modlo qu mplmta la rd y dl modlo dado do M l úmro d udad d 47

8 48 proco vbl y 2 M l úmro total d cofguraco pobl qu pud prtar la M udad d proco vbl bpolar. Obérv qu la tropía o gatva y cuado QP val cro. S trata d modfcar lo po áptco d la rd d mara qu pa a ua uva cofguracó d mor tropía rlatva utlzado para llo l método dl gradt dcr movédo la drccó dl gradt d la tropía pro tdo oputo dcr w Q Q P w H w η η 4 pu P o dpd d w. do cuta qu utlzamo la dtrbucó d Boltzma ta rd t qu Z P Q E dod Z la cotat d ormalzacó para qu a ua dtrbucó d probabldad dcr E Z. Por lo tato 2 / / / Z Z w Q E E E µ λ µ λ µ λ µ λ Q P lbr dod lbr la mda d lo valor la fa lbr. Suttuydo la xpró atror 4 llga a qu lbr P P w η / lbr bloquo η 5 Aí l prmr térmo d la drcha l valor mdo d lo producto cuado la udad vbl tá autada a lo valor dado gú la dtrbucó P la corrlacó la fa d bloquo tr l tado d la uroa y l tado d la uroa ; mtra qu l gudo térmo l valor mdo d lo producto corrlacó cuado la rd opra lbrmt.

9 ALGORIMO d la MÁQUIA d BOLZMA ESOCÁSICA Pao : Ico Ica lo po áptco d la rd co valor alatoro tr y Pao 2: Fa d bloquo Autar la udad vbl a lo patro d tramto. S hay vara alda pobl para ua mma trada toc cada alda db autar co la frcuca apropada. Ralzar u framto tadítco para cada patró trada-alda gú ua cuca dada d valor dcrct d la tmpratura o... fal ; por mplo: k 0.95 k-. Actualzar la rd para cada valor d la tmpratura lgdo alatoramt ua uroa oculta y agarl l valor + co probabldad + P 2h / + Alcazada la tmpratura fal calcular la mda d lo valor dl producto cada actualzacó corrlacó para cada par d uroa. Pao 3: Fa lbr Rptr la computaco dl pao 2 pro autado ólo la uroa d trada y tmar també la corrlaco. Pao 4: Actualzacó d lo po áptco Actualzar lo po áptco gú la rgla d aprdza d Boltzma: η w dod η la taa d aprdza. bloquo Pao 5: Rptr lo pao atror hata qu l procdmto d aprdza covra dcr cuado o produzca cambo l valor d lo po áptco lbr 7.5 El Rcocdo Smulado dtrmítco: Algortmo d rcocdo d campo mdo ma-fld El algortmo atror ul r muy lto tr otra coa porqu va d u vértc a otro dl hprcubo d dmó cuyo vértc corrpod co la cofguraco dfrt d la rd a travé d u arta. o t cuta la valoa formacó qu o umtra l gradt cuado lo tado d la udad d proco o aalógco cotuo dcr qu pud r puto dl tror d dcho hprcubo. Por lo tato u método má rápdo pud cogur prmtmo qu la udad d proco tom valor aalógco dl trvalo [-] y al fal dl proco d búquda forzamo a qu dcho valor a bpolar. Eto 49

10 cogu upomo qu l tado d cada udad d proco v dado por la xpró h k tah 6 2h k + / dod h k w k l potcal áptco d la udad d proco. Obérv qu hmo uttudo la fucó go como fucó d trafrca por la fucó tagt hprbólca y qu coform va dmuydo la fucó d trafrca aalógca cotua aproxma a la fucó go dcotua. El tado aalógco qu prta la udad d proco l valor mdo qu toma ua udad d proco bpolar probablítca pu E S k + + 2h k / 2h k / 2h k / E lo p magétco u ortacó dpd d u campo magétco local potcal áptco d la udad d proco y la toría dl campo mdo cot rmplazar la fluctuacó vrdadra h por u valor mdo dcr por E h w E S 2. Suttuydo l potcal áptco d cada udad d proco por u potcal áptco mdo obtmo u tma o lal d cuaco co cógta E h E S tah 2. Por o dc qu t modlo dtrmítco puto qu pud rducr a la rolucó dtrmítca d u tma d cuaco cuado la tmpratura rducda. ALGORIMO Pao 0 Elgr ua cofguracó cal d la rd k0 y u quma d framto k. Pao Hacr k k + Pao 2 Elgr alatoramt ua udad d proco; upogamo qu u tado k corrpodt a la cofguracó d la rd x k k k.... Calcular 2 k k + 2h k / + Pao 3 S k k max u otro crtro d parada cumpl qu garatc qu toda la udad d proco ha do 50

11 actualzada vara vc parar la cofguracó obtda la bucada. S o volvr al pao. E la práctca ambo algortmo coduc a oluco mlar pro l método d rcocdo dtrmítco mucho má rápdo. 7.6 Aprdza d Boltzma dtrmítco La compldad computacoal dl proco d aprdza d la Máqua d Boltzma muy alta puto qu cada patró t qu prtar vara vc a la dfrt tmpratura umtrada por l quma d framto para obtr lo valor mdo d la corrlaco tr cada par d udad d proco. Por llo prfrbl uttur l algortmo d rcocdo mulado qu utlza dcha máqua por u algortmo d rcocdo mulado dtrmítco qu cot uttur lo valor mdo d la xpró 5 por l producto d lo valor aalógco dado por la xpró 6. Al fal d proco d rcocdo mulado alcaza valor d bpolar d mara qu l tma ha do movdo dtro dl hprcubo y al fal alcaza ua vértc dl mmo corrpodt a ua cofguracó bpolar d la rd. Por lo tato partmo d u couto P d patro d tramto qu tablc ua rlacó o aocacó tr trada y alda u quma d framto y ua taa d aprdza η l algortmo d la máqua d Boltzma dtrmítca l gut: ALGORIMO d la MÁQUIA d BOLZMA DEERMIÍSICA Pao : Ico Slccoar u couto d tramto P u quma d framto y ua taa d aprdza. Icar lo po áptco d la rd co valor alatoro tr y Pao 2: Fa d bloquo Autar la udad vbl a lo patro d tramto. S hay vara alda pobl para ua mma trada toc cada alda db autar co la frcuca apropada. Ralzar u framto tadítco para cada patró trada-alda gú ua cuca dada d valor dcrct d la tmpratura o... fal ; por mplo: k 0.95 k-. Actualzar la rd para cada valor d la tmpratura lgdo alatoramt ua uroa oculta y agarl l valor k + 2h k + / Alcazada la tmpratura fal calcular lo valor dl producto cada actualzacó corrlacó para par d uroa. Pao 3: Fa lbr 5

12 Rptr la computaco dl pao 2 pro autado ólo la uroa d trada y tmar també la corrlaco. Pao 4: Actualzacó d lo po áptco Actualzar lo po áptco gú la rgla d aprdza d Boltzma: η w dod η la taa d aprdza. [ ] [ ] bloquo Pao 5: Rptr lo pao atror hata qu l procdmto d aprdza covra dcr cuado o produzca cambo l valor d lo po áptco lbr Al fal dl algortmo cotramo lo po áptco d la rd co lo qu prtd qu la máqua coga ua rprtacó adcuada d la dtrbucó tadítca o la rlacó-aocacó tr trada y alda qu da mplmtar. Obérv qu la corrlaco mda qu calcula la máqua d Boltzma tocátca o tmada por l mpl producto d lo valor aalógco dcr qu E S E S. 52