Transcripción

1

2 AKiku

3

4 Agradecimientos tucionesquedealgunaformamehanayudadoenestetrabajo: Quieroexpresarmimassinceroagradecimientoatodaslaspersonaseinsti- laconanzaquehandepositadoenmitrabajo.enespecialad.franciscoarguellopedreiraporsuconstanteapoyoysuorientacionenmilabor AlosprofesoresD.FranciscoArguelloPedreirayD.JuanLopezGomez, directoresdeestatesis,porsutrabajodedireccionyayuda,ascomopor investigadora. porsussugerenciasyayudaenciertaspartesdeestetrabajo.enespecial delgrupodeparalelismoyarquitecturasavanzadasdedichodepartamento elapoyoquemehanbrindadoentodomomento.enespecialalosintegrantes Amiscompa~nerosdelDepartamentodeElectronicayComputacionpor comprension,aelisardoanteloporsuamistaddesinteresada,yavicente Blanco,porsulaborcomogestordesistemas. amontseboo,amigayconstanteapoyo,amaramartn,porsuamistady duranteestosultimosa~nos. TambienquisieramencionaraPauloFelixporsuamistadycomprension AKiku,porsusincerocari~noypaciencia. XUGA66B9,XUGA65B96;yalaComisionAsesoradeInvestigacionCientcayTecnicaporelsoporteeconomicoatravesdelosproyectos laxuntadegaliciaporlaayudaeconomicarecibidaatravesdelproyecto ciondeestetrabajomediantelaconcesiondeunabecapredoctoral.a AlaXuntadeGalicia,porelsoporteeconomicodurantelarealiza- TIC9-9-C,TIC96-5-C. LaCoru~naporlaacogidadispensada. DepartamentodeElectronicaySistemasdelaFacultaddeInformaticade Porultimo,peronomenosimportante,amisnuevoscompa~nerosdel

5 IndiceGeneral Resumen Computadoresdetopologamallaconmemoriadistribuida.Conceptosdeteoradegrafos....Introduccion.....Arboles.....Denicionesbasicas... 6.Paralelizaciondealgoritmos.....Representaciondelosgrafos.....Descripciondelproblema....5Permutacionesndice{dgito....Laproyeccionvectorylarepresentacionndice{digito...8..Trabajosprevios...5.6Multiprocesadoresutilizados....6.ElAPdeFujitsu....5.Relacionesentrelaspermutacionesndice{dgito...7.7Rendimientodeunalgoritmoparalelo....6.ElCrayTE... LatransformadarapidadeFourier.LatransformadarapidadeFourier...8.Introduccion...7 i

6 ii..decimacioneneltiempo... INDICEGENERAL.LosalgoritmosFFT...5..Algoritmosparadistintasbases...7..Decimacionenfrecuencia.....Elalgoritmoin{situ...5.5Evaluacioneimplementaciondelatransformadarapidade.Losalgoritmosen-orden.Paralelizacion Elalgoritmocongeometra{constante...5 Fourier Loscoecientestrigonometricos...68 Sistemastridiagonales.5.Resultadosexperimentales...7.Sistemastridiagonales...78.Introduccion...75.Arbolextendido...89.Arbolesdirectoseinversos...8..Elmetododelareduccioncclica...9..ElmetododeMulleryScheerer...8.5Losalgoritmosdivide{y{venceras ElmetododedesacoplamientorecursivodeSpalettay.5.ElmetododeldoblamientosucesivodeWangyMou.9.6Divide{y{vencerasextendido Elmetododelareduccioncclicaparalela...8 Evans...97 Arbolescompletos.7Evaluacion...8.Planteamientodelproblema....Introduccion Mapeadodearbolesr-ariosenarrays...

7 INDICEGENERAL..AsignaciondelarazdelarbolaunodelosPEscentralesdelarray... delarray...5..asignaciondelarazdelarbolalpedeunaesquina.mapeadodearbolesr{ariosenmallas...7..asignaciondelarazdelarbolaunodelospescentralesdelamalla... delamalla...7..asignaciondelarazdelarbolalpedeunaesquina.5mapeadoyplanicaciondearbolesr{arios....6evaluaciondelesquemapropuestoorientadoalaimplementacionvlsi mapeadoyplanicaciondearbolesr{ariosenmallas.5.5.mapeadoyplanicaciondearbolesr-ariossobrearrays6.6.criteriosdeevaluacion areaeciente comparacionconotrosesquemas maximalongituddearco retardodepropagacion AlgoritmosjerarquicosparaelproblemadelosNcuerpos6 5.Metodosjerarquicos Introduccion ElmetododeBarnesHut ElmetododeAppel ElalgoritmoBarnes-Hutparalelo DiferenciaentrelosalgoritmosBHyFMM ElmetododeGreengard Localidadfsica Mapeado Balanceodelacarga...8 iii

8 iv 5..Construcciondelarbolparalelo...86 INDICEGENERAL 5.Implementacionyevaluacion FormulaciondelalgoritmoBH...88 Conclusionesyprincipalesaportaciones Bibliografa 9 95

9 IndicedeTablas.Numerodecomunicacionesydeceldasdememoriarequeridas (WW,W=w).(*)Esteterminosoloexistesiw> porlosalgoritmosbase(n=n)sobremallascuadradas.tiemposdeejecucion(ensegundos)medidossobreelap.7 n p (p=n= sinesparop=bn=csinesimpar). 67.Medidasdeltiempodeejecucion(enmilisegundos)sobreel.Medidasdeltiempodeejecucion(enmilisegundos)sobreel APparaelalgoritmodeMulleryScheerer....Medidasdeltiempodelaejecucion(enmilisegundos)sobreel APparaelalgoritmodedoblamientosucesivodeWangy APparaelalgoritmoRC....Medidasdeltiempodelaejecucion(enmilisegundos)sobreel APparaelalgoritmoPARA-RC... Mou... 5.Tiempodeejecucion(ensegundos)medidossobreelCray...9.5Medidasdeltiempodelaejecucion(enmilisegundos)sobreel APparaelalgoritmodeSpalettayEvans...5 v

10 vi IndicedeFiguras

11 IndicedeFiguras.ComputadordetopologatoroidedePEs....ProyecciondecuatrotareassobredosPEs.EnelejemploA, ladistribuciondelastareasentrelosdospesespeorquela 5.Ungrafoorientadode5nodosy9arcos... opcionparalelaeslamejor,tparalelotsecuencial... opcionsecuencial,tparalelo>tsecuencial.enelejemplob,la.unaparticiondegyelgrafococienteasociado Representaciondeunarbol{ariodealtura.Elnodoes.6Arbol-ariodeniveles,mostrandolanotacionutilizada....7(a)Representaciondelistadeadyacenciasdelgrafodelagura laraz....8distribuciondeunamatrizde6elementossobreunamalla..(b)representaciondelarboldelagura.5conunalista depes.(a)distribucioncclicaporcolumnas.(b) encadenadaarbol....9losoperadoresmariposa(bi;bi;b Distribucionporbloques.(c)Distribucioncclicaporlas....Aplicaciondeloperadormariposa,ByBbase,yBbase 8datos,baser=ei=... i)parasecuenciasden=.implementaciondelosoperadoresbaseintercambio,e;,.losconjuntosdedatosmarcadossonlosqueserecombinan. sobreunasecuenciadelongitud6enunamalladetama~no.estructuradelcomputadormultiprocesadorap... dgito{inverso,;sobreunamalladetama~no...6 barajamientoperfecto,;,desbarajamientoperfecto, ;y.conguraciondelospesdelcomputadorap... vii

12 viii.reddtoro... INDICEDEFIGURAS.6(a)Gracasdeaceleracionestpicas.(b)Gracasdeeciencias.5DiagramadebloquedelPEdelCrayTE....RecurrenciadeltiposumasobreunasecuenciadeN=8datos,(a)realizadasecuencialmente,(b)realizadaenparalelo tpicas...5.evaluaciondeunadftdeochodatosapartirdedosdfts decuatrodatos... aplicandoelmetododeds...9.notaciongracaempleadaparaindicarlasoperacionesquese.evaluaciondeunadftdeunasecuenciade8datosapartir decuatrodftsdedosdatos(algoritmofft)... realizansobrelosdatosenlafftbase....6evaluaciondeunadftdeochodatosapartirdedosdfts.5fftdeunasecuenciade8datosobtenidaporlatecnicadv decuatrodatosusandodef...6 enbase....7evaluaciondeunadftdeochodatosapartirdecuatrodfts.9algoritmofftbaseenunatransformadade6datosusandodet...8.8mariposadelosalgoritmosdet(a)ydef(b)...7 dedosdatosusandodef...6.algoritmofftbaseenunatransformadade6datosusandodef...8.algoritmofftbase8enunatransformadade6datosusandodef...5.flujodedatosdelalgoritmofftin{situdeunatransformada.esquemandice-dgitodelasredistribucionesdedatosenlos de8datos,base,entradadgito{inverso(a)ysalidadgito{ inverso(b)...5 algoritmosin{situ(lema9)delongitudn=r6.loscrculosrepresentanaloperadormariposaylaslneasaloperador dgito{inverso...5

13 INDICEDEFIGURAS.FlujodedatosdelalgoritmoFFTcongeometra{constantede.5Esquemandice-dgitodelasredistribucionesdedatosenlos (a)ysalidadgito{inverso(b)...5 unatransformadade8datos,base,entradadgito{inverso barajamientoperfecto(echaaladerecha)ylaslneasalope- radordgito{inverso...55 operadoresbarajamientoperfecto(echaalaizquierda)ydes- r6.loscrculosrepresentanaloperadormariposa,lasechas algoritmoscongeometraconstante(lema)delongitudn=.6flujodedatosdelalgoritmofften-ordenparaunatransformadade8datos,base,det(a)ydef(b) esquemandice-dgitodelasredistribucionesdedatosenlos algoritmosdetipodelongitudn=r6.loscrculosrepresentanaloperadormariposaylasechasalosoperadores.8esquemandice-dgitodelasredistribucionesdedatosenlos toperfecto(echaaladerecha)...58 barajamientoperfecto(echaalaizquierda)ydesbarajamien- algoritmosdetipodelongitudn=r6.loscrculosrepresentanaloperadormariposaylasechasalosoperadores barajamientoperfectoydesbarajamientoperfecto esquemandice-dgitodelasredistribucionesdedatosenlos.esquemandice-dgitodelasredistribucionesdedatosenlos sentanaloperadormariposaylaslneasaloperadorintercambio.6 algoritmosdetipodelongitudn=r6.loscrculosrepre-.esquemandice-dgitodelasredistribucionesdedatosenlos sentanaloperadormariposaylaslneasaloperadorintercambio.6 algoritmosdetipodelongitudn=r6.loscrculosrepre-.esquemandice-dgitodelasredistribucionesdedatosenun sentanaloperadormariposaylaslneasaloperadorintercambio.6 algoritmosdetipo5delongitudn=r6.loscrculosrepre- representanaloperadormariposaylaslneasalosoperadores intercambio. longitud56sobreunamalladetama~no8.loscrculos algoritmodetipobaseenfunciondeoperacionesbasede.semuestranlastablaslook{upnecesariaencadaunodelos PEs.LosenterosencadacolumnacorrespondenalfactortrigonometricodeWkencadaunadelasetapas ix

14 x.losfactorestrigonometricosparadefdeunfftden= INDICEDEFIGURAS.5TiemposdeejecucionparaPEsdelosalgoritmosen{orden cosquenecesitantransferirseaotrope...69 datossobrepes.laslneasindicanlosfactorestrigonometri- (.))ydelosalgoritmostipoy5...7 calculodeloscoecientesporelmetododetong{swarztrauber detipo(concalculodirectodeloscoecientes(.)ycon.6resultadosexperimentalesdelalgoritmofftparalelodetipo.evolucioneneltiempodeunpaquetedeondasegunlaecuaciondeschrodingerporelmetododediferenciasnitas...77 (b)aceleracion.(c)aceleracionrelativa.(d)eciencia...7 (ecuacion(.))sobreelap.(a)tiemposensegundos..(a)flujodedatosdeunarboldirectoconn=6datossobre unamalladepes(algoritmo6).(b)esquemandice{ (c)esquemandice{dgitodelaredistribuciondedatosenla riposaylascruceseloperadorreduccion. fasedesustitucion.loscrculosrepresentaneloperadorma- dgitodelaredistribuciondedatosenlafasedeeliminacion..metododemulleryscheerer.(a)serealizaunafaselocalde eliminacionenlospespararesolverlasoluciondelsistemaen...8 ununicope.lafasedesustitucionlocaltambienserealizaen.particionamientodeunsistemade6ecuacionesenpespor tucionserealizanenunarboldirectoeinversorespectivamente.86 cadaunodelospes.(b)lasfasesdeeliminacionydesusti-.5elujodedatosdelalgoritmorcparaunsistemaden=6 ecuaciones.laparteizquierdaesunarboldirectoextendido elmetododemulleryscheerer...87 representanlasecuacionesquenoseranusadashastalafase sadasenelsiguientepasomientrasqueloscuadradosblancos yladerechaunarbolinverso.enlafasedeeliminacionlos desustitucion.enestafaseloscuadradosblancosrepresentanlasecuacionesyloscrculosdosincognitasyacalculadas. cuadradosnegrosrepresentanlasecuacionesqueseranproce-.6flujodedatosdeloperadorcol...9 ecuacioneseincognitas...89 Losnodosrepresentanlasoperacionesqueserealizansobre

15 INDICEDEFIGURAS.7Flujodedatosdelalgoritmodivide{y{vencerasparaunsistemadeecuacionesdeN=8.EnelalgoritmodeWangy Losnodosdeesteultimoalgoritmosemuestranenlagura Mouloscuadradosrepresentanunatradadeecuacionesylos nodoslasoperacionesqueserealizansobreestasecuaciones..8(a)flujodedatosdelalgoritmodewangymouparaunsistemadeecuacionesden=6(algoritmo8).(b)representacionndice{dgitodelacadena(.6).(c)representacion.9conmasdetalle...9.9bosquejodeloperadorbenelalgoritmodewangymou.en ndice{dgitodelacadena(.7)...95.flujodedatosdelalgoritmodedesacoplamientorecursivode SpalettayEvansparaunsistemadeecuacionesconN=8... estecaso,cadanododelalgoritmocontienetresecuaciones..96.losvectoresg(j)deunsistemaden=6ecuacionessobre8 lospesquevemosenlagura.algunos,comoenelcasode PEs.Enelprimerpasolosg(j)tienenelementosnonulosen.Flujodedatosdeunalgoritmodivide{y{vencerasextendido g(6),tienenelementosnonulosentredospes,ely... ciales.loscuadradosnegrosrepresentanelresultadodela ecuacion(.56).loscrculosylostriangulostambienrepresentanestacomputacionperoidenticanlaecuacionidentidad Icomoentradassuperioroinferiorrespectivamente.Lagu- PARA-RCloscuadradosnegrosrepresentanlasecuacionesini- paraunsistemadeecuacionesden=8.enelalgoritmo.esquemandice{dgitodelaredistribuciondedatosdelalgoritmo(ecuacion(.55))delongitudn=r7.elcrculo notaciondelasmariposasb...6 radeladerechaeselmismoujodedatosperoutilizandola.implementaciondeloperadorefila;memdeunamatrizdeen representalamariposa...7 PEs.EnelprimerpasoenvalosPEsyalosPEsy, respectivamente.enelsegundopasoseenvadelpealpe completoquealprincipioestabadistribuidoentrelospes....as,alnalensolologpasoselpetienetodoelarray xi

16 xii.5flujodedatosdelalgoritmorccon8datosporpe.losnodos INDICEDEFIGURAS.6FlujodedatosenelPEparaelalgoritmodoblamientosucesivodeWangyMoudeN=6datossobredosPEs.(a) nodosconcuadradosblancossonejecutados... concrculosonenviadosjuntosdespuesdelsegundopasoylos yesperalallegadainactivamentedelosdatosprocedentedel EnestecasoelPEenvatodoslosdatosenununicomensaje PE.(b)Solapamientodecomunicacionesycomputaciones porloqueeltiempodecomunicacionestaenmascaradocon lascomunicaciones.(c)diagramatemporaldeloscasos(a) y(b).tceseltiempodecomputaciondeunamariposa,ts.7(a)gracasdetiemposparalosalgoritmosrc,mullery eseltiempodelatenciaytveltiempodetransferenciadeun elemento... Scheerer,PARA-RCydoblamientosucesivodeWangyMou..6 EcienciaparaN=datosdelosalgoritmosRC,Mullery yspalettayevansparan=datos.(b)eciencia.(c) Scheerer,PARA-RC,doblamientosucesivodeWangyMou.8AceleracionrelativaparaN=,N=6,N=8yN= datos.(a)algoritmomulleryscheerer.(b)algoritmorc.(c) AlgoritmodoblamientosucesivodeWangyMou(d)Algoritmo.Mapeadodeunarbolbinariocompletodecinconivelessobre PARA-RC...7.Elmapeadodeunarbolbinariocompletode5niveles( nodos)sobreunamalladepes.ladistribuciondelos unamalla77conlaaproximacionarbolenh... haasignadoaunodelospescentralesdelamalla... PEquecontieneelnodorazquesolotieneunnodo)ytodas lascomunicacionessonentrepesvecinos.larazdelarbolse nodosentrelospesesbalanceada(nodosporpesalvoel.contracciondeunarbol-ariodenivelessobreotrode adicionalconectadoalarazydesignadocomonodo...5 delprimeroalnododelsegundo.paraquelacontraccion estebiendenidahemosincluidoenambosarbolesunnodo niveles.as,porejemplo,asignamoslosnodos9,y

17 INDICEDEFIGURAS.EjemplodemapeadoquenovericaelLema5.Parai=, loqueladistribuciondelosnodosnopuedeserbalanceada..7 vericaellema5,elpesolopodracontenerelnodo,por esm=(nodos,5y6)ydmi=ri e=.comonose.5ejemplodelasrestriccionesenlaasignaciondelosnodosa 6aalPE5.Estaprimeraasignacionimplicaquelos nodosdelaszonasrayadasdebenasignarseobligatoriamente lospes.hemosjadolaasignaciondelosnodosdendices aloscorrespondientespes.acontinuacion,lospesdeben completarse(hastauntotaldeu=7nodos)connodosdelas zonasespecicadas...8.6mapeadoenanchura(teorema)deunarbol-ariocompleto PEcontieneU=nodos.Amododeejemplo,observar obligatoriamentesonlosdendices9,,,,7y8.este queparaelconjuntodenodosdelpe,losnodosasignados deniveles(nodos)sobreunarraylinealdepes.cada conjuntosecompletaconnodosadicionales(nodosdendices 9a)delnivelmasaltoposible(el)....7Mapeadoenprofundidad(teorema)deunarbol-ariocompletodeniveles(nodos)sobreunarraylinealdePEs. CadaPEcontieneU=nodos.Amododeejemplo,observar obligatoriamentesonlosdendices9,,,,7y8.este queparaelconjuntodenodosdelpe,losnodosasignados conjuntosecompletaconnodosadicionales(nodosdendices,9,,)delosnivelesmasbajosposibles(elyel)...8(a)mapeadoenprofundidaddeunarbolbinariode5niveles nodosasignadosalospesy,segunelteorema... formadoporlosnodosasignadosalospesdelal5,segun elteorema.(c)obtenciondelsubgrafo sobreunarraylinealde5pes.(b)obtenciondelsubgrafo formadoporlos xiii

18 xiv.9mapeadodearbolesr-ariossobrearrayslinealesasignandola INDICEDEFIGURAS razdelarbolaunodelospescentralesdelarray.(a)el arrayconstade8pes.puestoquerespar(r=),dividimos elarbolendossubarbolesyasignamoscadasubarbolauna mitaddelarray(pes).(b)elarrayconstadepes.en estecasoresimpar(r=),porloquedividimoselarbolen conjuntosde8y5nodos,queasignamosacadamitaddel array(pes).(c)elarrayconstade5pes.puestoqueres impar(r=),dividimoselarbolendossubconjuntosde6y.mapeadodeunarbolbinariodenivelessobreunamallade ypes...6 7PEs,queasignaremos,respectivamente,alossubarraysde.Mapeadodeunarbolbinariode7nivelessobreunamallade tama~no.(a)particionamientodelarbol.(b)esquema tama~no.(a)particionamientodelarbol.(b)esquema delmapeado...9.mapeadodeunarbolbinariode7nivelessobreunamallade tama~no5.(a)particionamientodelarbol.(b)esquema delmapeado....mapeadodeunarbol{ariode5nivelessobreunamallade delmapeado....mapeadodeunarbol{ariode5nivelessobreunamallade tama~no.(a)particionamientodelarbol.(b)esquema delmapeado... tama~noasignandolarazdelarbolaunodelospes.5arboltareabinario.elarcoeincideavyv,elprimer centralesdelamalla.(a)particionamientodelarbol.(b) Esquemadelmapeado... sellamanododellegadadelarco.consideramosquecada nodo,vsellamanododesalidadelarboleyelnodov nodorepresentaunatareaylosarcoslasdependenciasentre.6arbolbinarioconcuatronivelesparticionadosobrepes. lastareas.vnopuedecomenzarhastaquevyv5hayan Lascomunicacionesgeneradasporlosarcosnosonrealizadas terminado...5 entrepesvecinos...5

19 INDICEDEFIGURAS.7Particionamientoyplanicaciondeunarbolbinariode5nivelessobreunarrayde5PEs.(a)Elprimernumerosuponeque lastareasempiezanaejecutarsedesdelashojasyelnumero entreparentesisquelastareasempiezanaejecutarsedesdela.8mapeadoyplanicaciondeunarbolcompleto{ariode raz.(b)errorenelparticionamiento:unodelospescontiene nodosdelosniveles,,y5faltandonodosdelnivel...9 niveles(nodos)sobreunarraylinealdepes(algoritmo.9mapeadoyplanicaciondearbolesr{arioscompletos,asignandolarazaunodelospescentrales(algoritmo).los nodo...5 ).Losnumerosindicanelciclodeprocesamientodecada numerosindicanelciclodeprocesamientodecadanodo.(a).particionamientoymapeadodeunarbolbinariocompletode -ariodenivelessobreunarrayde5pes...5 Arbolbinariode5nivelessobreunarrayde8PEs.(b)Arbol.Particionamientoymapeadodeunarbolbinariocompletode nivelessobreunamallade...5.particionamientoymapeadodeunarbol-ariodeniveles sobreunamalla...5 9nivelessobreunamalla Proyecciondeunarboldennivelesconoptimapropagacion..Comparaciondelareaeciente Comparaciondelretardodepropagacion...59 (a)enunarray.(b)enunamalla cuatrotiposdemodulosbasicosdelesquemajerarquicosde.6comparaciondelamaximalongituddearco Mapeadodelespaciofsicoporelmetododelacurvaquellenaelespacio.(a)OrdenamientoMorton.(b)Ordenamiento YounySingh....6 Peano-Hilbert.(c)Ordenamientoporlas.(d)Ordenamiento 5.Aproximaciondeungrupodecuerposporununicocuerpo mientoespiral...65 serpiente.(e)ordenamientocantor{diagonal.(f)ordena- equivalente...66 xv

20 xvi 5.(a)UnejemplodelajerarquadeceldasdeAppel.(b)Un INDICEDEFIGURAS 5.ReordenamientodelasceldasporelprocedimientodeAppel Unadistribuciondecuerposendosdimensionesyelcorrespondientequadtree...69 arbolbinarioequivalentealconjuntodeceldasde(a) TestgeometricodelcriterioMACdeBarnesyHut.Laaproximacionmultipoloesaceptablesiysolosild< TestgeometricodelcriterioMACdedistanciamaximadeorigenmonopolar.Laaproximacionmultipolaresaceptablesiy solosibmax aproximacionmultipolaresaceptablesiysolosild< TestgeometricodelcriterioMACdedistanciamnima.La 5.9(a)Partculadeambulandodentrodesucelda.(b)Partcula deambulandoentredosceldasdelarbol.(c)partculadeam- d<...7 (lnearayada)aumentadaconunaregiondeseguridadpara reducirlafrecuenciadepartculasdeambulandofueradelos trucciondelarbolcompleto.(d)regiondesimulacionoriginal bulandofueradelacajacomputacional,requeriendolarecons- 5.CriteriodeceldasbienseparadasenelalgoritmoFMM OrganigramadeunpasotemporalenelalgoritmoBH...75 lmitesdelarbol ListasdeinteraccionparaunaceldadelalgoritmoFMM Divisionenceldasquegeneraelarbollocalesencialparaun 5.ParticionORB Ilustraciondelmapeadodeunaclave.Losbitsdelascoordenadassonintercalados,yunbitdeiniciosecolocaenla PEenlaesquinainferiorizquierdadelsistema...8 coordenadas\x",\y"y\z",semapeanaunaclavede5-bits.8 unaambiguedadentrelasclavesenquetodossusbitsmas signicativossonceros.enesteejemplo,los8bitsdelas posicionmassignicativa.sinelbitdeinicio,podraresultar 5.6Ordenamientodelasceldas (a)Elresultadodelaparticionsiseaplicalatecnicadelas 5.6.(b)Arbolgenerado...85 zonasdecosteconelordenamientodelasceldasdelagura

21 INDICEDEFIGURAS 5.8ResultadosdelaimplementaciondelalgoritmoBHsobreel CrayTEconN=,N=5yN=6datos.(a) Aceleracion.(b)Eciencia...9 xvii

22 Resumen evaluaciondeunalgoritmosobreunmulticomputadoresnecesarioredistribuirlosdatosentrelosprocesadoresenunagranvariedaddeformas,tantgoritmosdivide-y-vencerassobrecomputadoresparalelosdetopologamalla ymemoriadistribuida.eltrabajopartedelaobservaciondequedurantela Enestamemoriaseproponenvariastecnicasparaparticionaryproyectaral- regularescomoirregulares.engeneral,estoimplicacomplejosmovimientos dedatos,cuyavisualizacionpuedeserbastantedifcil. ndice{dgito.estastecnicasnospermitenformulardeformaprecisaelujo raparticionaryproyectarestosalgoritmossobreelmulticomputadorutiliza- mosunacombinaciondedostecnicas:laproyeccionvectorylapermutacion Comenzaremosconsiderandoalgoritmosdivide-y-vencerasregulares.Pacaciones. dedatosdelosalgoritmosy,enmuchoscasos,realizarimportantessimpli- lospropuestosenlabibliografareciente.losprimerospresentanunujo goritmosderesoluciondesistemastridiagonalesmassignicativosdeentre versionesmasimportantesdelatransformadarapidadefourierylosal- Comoejemplosconcretosdeestaclasedealgoritmosconsideraremoslas dedatosdivide-y-vencerasestandar,aunqueincluyenlapermutaciondgito{ algoritmosyunaimplementacionparalelaecientebasadaensubrutinasque inverso,mientrasqueelujodedatosdelossegundosesmasvariadoy puedeclasicarseen:normal,extendido,arbolyarbolextendido.lastecnicaspropuestasnospermitenrealizarunadescripcionunicadadetodosestos sontraduccionesdelascorrespondientespermutacionesndice{dgito. macionparalelacomoparalaimplementacionvlsi:laproyecciondearboles r-arioscompletossobrelastopologasarraylinealymalla.enestamemoria presentamosunanuevametodologapararealizarestaproyeccionquepuede Tambienabordamosunproblemadegraninterestantoparalaprograsas(tiles).Entodosloscasos,ladistribuciondelosnodosdelarbolentrelos serunaalternativaalastecnicasusuales,basadasenarbolen\h"oenbaldo-

23 procesadoresesbalanceadaylascomunicacionessonsoloentreprocesadores Resumen vecinos. lastecnicasanteriormenteempleadasa~nadiremosladelllenadodelespacio vencerasirregularessobremulticomputadoresdetopologamalla.tomamos comoejemploelalgoritmobarnes{hutdelproblemadelosncuerpos.a Porultimo,abordaremoslaparticionyproyecciondealgoritmosdivide-y- atravesdeunacurva(space{llingcurve),quenospermitemantenerla localidaddelosdatosyreducirlascomunicaciones. mosenarquitecturasmultiprocesador"delgrupodearquitecturasavanza- dasdelauniversidaddesantiago(departamentodeelectronicaycomputa- ciondelafacultaddefsica).otralneageneraldelgrupoeseldise~novlsi Eltrabajoseenmarcaenlalneadeinvestigacion\ProyecciondeAlgorit- formasyprocesamientodeimagenes. dearquitecturasdeaplicacionespeccaenelcampodelreconocimientode paralelas;yporlaxuntadegalicia,xuga66b9:dise~nodeciaesyherramientasparalaparalelizacionautomaticadealgoritmosnumericosyxuga65b96:dise~no dearquitecturasyparalelizadoresencomputacionmasivamenteparalela:y/obasadasen 5-C-:Dise~nodealgoritmosnumericosirregularessobrearquitecturasmasivamente 9-C-:Computacionmasivamenteparalela:dise~nodearquitecturasVLSI,TIC-96- InvestigacionnaciadaatravesdelosproyectosconcedidosporlaCICYT,TIC9- matricesdispersas.

24 Captulo mallaconmemoriadistribuida Computadoresdetopologa Unsistemamultiprocesadoresuncomputadorcompuestoporunconjuntode procesadores(pes)quepuedencomunicarseatravesdeunareddeinterconexion.elobjetivodeestossistemasesquelospestrabajenconcurrentemente velocidad. pararesolverundeterminadoproblemademaneraqueseconsigaunamayor lossistemasmultiprocesadoreshandejadoelcampodelainvestigacionpara introducirseenelcampocomercial.esindicativoquelasgrandesempresas nalesfueronlosdominantesenelcampodelacomputacion.ultimamente, Enlosultimosa~nos,loscomputadoresvectorialesyescalaresconvencio- dedesarrollodelacomputacion,enconcreto,ibmcorporationycrayresearch,hayanintroducidoenelmercadomaquinasparalelasenrespuestaa lademandadesusclientes.. LosdostiposdearquitecturasparalelasmasextendidassonloscomputadoresSIMD(SimpleujodeInstrucciones,MultipleujodeDatos)ylos Introduccion programasobrediferentesconjuntosdedatosbajolasupervisiondeunaunidadcentral.loscomputadoresmimdsediferenciandelosanterioresenqutos)[7,6].enuncomputadorsimdtodoslospesejecutanelmismo computadoresmimd(multipleujodeinstrucciones,multipleujodeda- lospesejecutandistintosprogramassobredistintosconjuntosdedatos.

25 ElfactormasutilizadoparaclasicarloscomputadoresMIMDeselmeto- Captulo.Computadoresdetopologamallaconmemoriadistribuida tadoresdememoriacompartidaofrecenalusuariounamemoriaglobalala blescompartidasenmemoria,coninstruccionesdecargayalmacenamiento doutilizadoparacompartirlainformacionentrelospes.losmulticompu- quetodoslospespuedeacceder.lospessecomunicanatravesdevaria- capacesdeaccederacualquierposiciondememoria.lamemoriaestaestructuradaenmodulos.enestossistemassepuedenproducirconictos puedeprovocarunaperdidasignicativadelrendimiento.estosconictos segestionanporunaseriedetecnicas,ysepuedendisminuirincorporando dememoriacuandovariospespretendenaccederalmismomodulo,loque multiprocesadorcomosgi-powerchallengeosunenterprise. cachesomemoriaslocales.ejemplosdeestossistemassonlosservidores tremultiprocesamientosimetrico,dondetodoslosprocesadorestienenigual capacidadparaejecutarprogramas,yaseandeusuario,delsistemaoperativo osubrutinasdeentrada/salida,ylosdeprocesamientoasimetrico,dondeun Enlossistemasdememoriacompartidatambienpodemosdistinguiren- sistemaoperativoomanejarlosprocesosdeentrada/salida.actualmente, lossistemassimetricosdememoriacompartidasymmetricmultiprocessing (SMP)sonmasutilizadosparalasaplicacionescomerciales,porqueproporcionanunrendimientoaltoenlaejecuciondeaplicacionesyaexistentespara sistemasmonoprocesador,yaqueelefectodelaredestransparenteparalas sistemasmassivelyparallelprocessors(mpp)ysehanvistoforzadosaque, dememoriadistribuida. porrazonestecnologicas,lossistemasporencimadeunciertotama~nosean unicoprocesadorounsubconjuntodeellospuedenejecutarlasrutinasdel actualesaplicaciones.aunas,todoslosvendedoresahoraestanpresentando propioprogramaymemoriadedatosalosquelosdemasnopuedenacceder directamente.lacomunicaciondelosdatoscompartidossehaceporpase demensajesentrelospesatravesdeunareddeinterconexion(paradigma EnloscomputadoresMIMDconmemoriadistribuidacadaPEtienesu esuncomputadormimdconmemoriadistribuidaytopologamalla.los delpasedemensajes). situadosenlosbordes,tienecuatroconexionesconloscuatropesvecinos PEsestanorganizadosenunamatrizbidimensional.CadaPE,exceptolos Eltipodecomputadorquevamosaconsideraralolargodeestamemoria lacolumnamasaladerecha,formandountoro,vergura..estehecho conectadosconloscorrespondientespesdelaultimala.ylospesdela columnamasalaizquierdaestanconectadosconloscorrespodientespesde inmediatos.untoroideessimilar,perolospesdelaprimeralaestan

26 ..Introduccion 5 noescrucial,peromejoraelrendimiento. ALU CU M ALU CU M ALU CU M ALU CU M ALU CU M ALU CU M ALU CU M ALU CU M ALU CU M ALU CU M ALU CU M ALU CU M ALU CU M ALU CU M ALU CU M ALU CU M Figura.:ComputadordetopologatoroidedePEs. CadaPEtienesupropiamemorialocalyprocesasuspropiosdatos.El espaciodelosdatosalmacenadosenlamemorialocalpuedeversecomo unanuevadimensiona~nadida,resultandounaestructuratridimensional.el accesoesaleatorioalolargodeestadimension,peroelaccesoenlasdos restantesdimensionesimplicaunaoperaciondecomunicacionentredospes. EsteaccesoserealizasiemprequeunPErequieradatosremotosyserealiza atravesdelareddeinterconexion. Unacualidaddeseableenlosalgoritmosparaleloseslaescalabilidad,es decir,quelascaractersticasdedichoalgoritmonodependendeltama~no delsistemanideltama~nodelproblema.porotrolado,sedebeconseguir unrepartoequilibradodelacargacomputacionalentrelospes.tambien esdeseableminimizarelvolumendecomunicacionesinterprocesadoryaque suponeunconsumotemporalimportante,queafectaraalaecienciadelos algoritmosparalelos.enconcreto,sedebeminimizarlaredistribucionde datosentrelasetapasdeunalgoritmo,puestoqueestoimplicaunnumero importantedecomunicaciones. Laasignaciondedatosycomputacionesdeunproblemaalosdistintos PEsconstituyeunproblemamatematicoconocidocomomapeado(mapping). Ennuestrocasoelmejormapeadoeselqueminimizaeltiempodeejecucion. Engeneral,eltiempodeejecuciondeunalgoritmosobreunmulticomputadorsepuededescomponerendoscomponentes:eltiempodecomputacion, tc,yeltiempodecomunicacion(routing),tcom.normalmente,eltama~no delproblemaesmayorqueelnumerodepes.entalescasossetieneque particionarelalgoritmoymultiplexarelhardwareeneltiempo.

27 6 Consideremos,porejemplo,unproblemaquepuededescomponerseen Captulo.Computadoresdetopologamallaconmemoriadistribuida dos,peroconrespectoalotroparprecisaninteractuardurantelaejecucion. cuatroprocesos;losprocesospuedenejecutarseconcurrentementededosen Enestecaso,cadapardeprocesospuedenproyectarseendosPEsdiferentes. cisendatosremotos.enestepunto,losdatossonenviadosdeunpeaotro, Laejecucionserealizaraenparaleloconlosprocesosyhastaquesepre- despuesdelocuallaejecucioncontinuaconlosprocesosy,vergura seejecutaransecuencialmente.eltiempoperdidoenlacomunicacioninterprocesadorpuedecompensarsemedianteelparalelismo,casodelagura..b,mientrasqueestonosucedeenelcaso..a.estosugiereque,un..a.enelcasodequelosprocesosysemapearanalmismoprocesador, analisisprevioconsiderandolarelacionentretcytcom,puededeterminarel mapeadoqueconsiguelasolucionmasecienteparaelproblema. sentaremoselproblemadelmapeadoysutratamientoenlabibliografa.en degrafosqueseranutilizadosenelrestodeltexto.enlaseccion.pre- lassecciones.y.5veremoslaproyeccionvectorylapermutacionndice{ Enlasiguientesecciontrataremosalgunosconceptosbasicosdelateora enlaimplementaciondelosalgoritmosynalmente,enlaseccion.7,una dgitorespectivamente.usaremoslacombinaciondeestasdostecnicaspara mapearlosdatosalospesydenirlasdiferentesoperacionesrealizadasen seriedeparametrosempleadosparamedirlaefectividaddelosalgoritmos. elalgoritmo.enlaseccion.6presentamoslosmultiprocesadoresutilizados..conceptosdeteoradegrafos Siguiendoa[97,5]usamoslasiguientenotacion. Denicionesbasicas juntodenodosv=fv;v;gyenunconjuntodearcose=fe;e;g, endondecadaarcoe=<u;v>conectaloselementosdeunpardenodos fu;vg;u;vv,quenotienenquesernecesariamentedistintos.uyvson DenicionUngrafoG(V;E)esunaestructuraqueconsisteenuncon- llamadoslosextremosdeeysedicequeuyvsonadyacentes. Enlagura.semuestraungrafode5nodosy9arcos.Enestecaso, DesignaremosVGalconjuntodenodosdeGyEGalconjuntodearcos. VG=fa;b;c;d;eg

28 ..Conceptosdeteoradegrafos 7 Tiempo PE t com t t PE t t com t tparalelo PE t t t t EJEMPLO A tsecuencial PE t t com t PE t t com t tparalelo PE t t t t EJEMPLO B Figura.:ProyecciondecuatrotareassobredosPEs.EnelejemploA, tsecuencial tparalelotsecuencial. cial,tparalelo>tsecuencial.enelejemplob,laopcionparalelaeslamejor, ladistribuciondelastareasentrelosdospesespeorquelaopcionsecuen- PEs

29 8 y Captulo.Computadoresdetopologamallaconmemoriadistribuida EG=fe=<a;b>;e=<b;c>;e=<c;d>; e=<a;c>;e5=<a;e>;e6=<c;e>; talque<u;v>egsiysolosi<(u);(v)>eh.yungrafohesun DosgrafosGyHsedicenisomorfossiexisteunabiyeccion:VG!VH e7=<b;d>;e8=<d;c>;e9=<e;b>g: subgrafodegsivhvgyeheg. eselnumerodearcosdeloscualesesextremo,quedenotaremospord(v). V,sedenotausualmenteporjVj.Analogamente,elnumerodearcosesla cardinalidaddelconjuntoe,quedenotaremosporjej.elgradodelnodov Elnumerodenodosenungrafo,esdecir,lacardinalidaddelconjunto losnodosdeg. (G)denotaelmaximogradodelosnodosdeGy(G)elmnimogradode elgradodeentrada,din(v),sedenesimilarmente.claramente,paratodos nodov,dout(v),eselnumerodearcosquetienenavcomonododeinicio; decir,existeunnododeentradayunnododesalida.elgradodesalidadel Ungrafosediceorientadosienlosarcossedeneunaorientacion,es grafos Xi=din(vi)=jVj Xi=dout(vi): Enelejemplodelagura.semuestraungrafoG(V;E)dondejVj=5, (.) jej=9,(g)=5ylosgradosdelnodoa,porejemplo,serand(a)=, din(a)=ydout(a)=. arcosfe;e;;ekgylosnodosfvo;v;;vkgdelacadena sondistintos, cos,talque,paraik,losnodosextremosdeeisonvi yvi.silos fvo;e;v;e;v;;ek;vkg,cuyosterminossonalternativamentenodosyar- UnacadenaenGesunasecuencianitanonula [v;vk]= esllamadouncamino.elenterokeslalongituddelcamino.ungrafog, nodou;yacadaarco<u;v>egpuedeasociarseleunenteroc(<u;v>), sediceconectadosi8(u;v)vexisteuncaminodesdeuav. losnodosylosarcos,esllamadoungrafoconpesos.elcaminomnimo llamadoelpesodelarco<u;v>.entoncesg,juntoconlospesosde AcadanodouVGpuedeasociarseleunenterow(u),llamadopesodel llamaraladistanciaentreuyvyseradenotadapord(u;v). [u;v](obtenidosumandolospesosdelosarcos)queunelosnodosuyvse

30 ..Conceptosdeteoradegrafos 9 c d e a ConsideremoselgrafoconpesosG(V;E)yelenteropositivop.Una Figura.:Ungrafoorientadode5nodosy9arcos. b particionpdevesunconjuntonovaco}=fv;;vpgdesubconjuntos delospesosdetodoslosnodosquepertenecenaesesubconjunto,jvij dev,talquep[i=vi=v.elcostedeundeterminadosubconjuntoeslasuma uvi.elcostedelaparticioneselmaximodeloscostesdecadaunode Xi=w(u), lossubconjuntos.denimoselgrafococientedegconrespectoa}algrafo QG=(};")donde<Vi;Vj>"siysolosi9<u;v>EparaalgunuVi yvvj.enlagura.mostramosunaparticionp=degyelgrafo cocienteasociado.lossubconjuntosson V=fa;bg V=feg V=fc;dg }=fv;v;vgy"=f<v;v>;<v;v>;<v;v>;<v;v>g. ElgrafococienteasociadoQG=(};")conrespectoalaparticionp=es son'(u)y'(v). cacioninyectiva':g!hdelosnodosdegenlosnodosdehyuna asignaciondecadaarcoe=<u;v>egauncamino'(e)cuyosextremos Unaproyeccion(embedding)deungrafoGenungrafoHesunaapli-

31 Captulo.Computadoresdetopologamallaconmemoriadistribuida c d V e a V V Figura.:UnaparticiondeGyelgrafococienteasociado. b es camino( ('(u);'(v))yladilataciondeunaproyeccion',denotadapor, Ladilatacion,d('(u);'(v)),deunarco<u;v>enHeslalongitudde Laexpansionde'sedenotapor, =max(d('(u);'(v));8<u;v>eg: =jvhj (.) cuyaimagenenhcontieneelarcoparticulare,x decargade'sedenotaporlf, Porultimo,elfactordecargadeunarcoeEHeselnumerodearcosenG eegfeg\e'(e).elfactor yeselmaximofactordecargasobretodoslosarcosdeh.intuitivamente, lf=max eeh(x podemosverquesiproyectamoselgrafodeunalgoritmosobreelgrafodeun eegjfeg\e'(e)j): (.) multiprocesadorentoncesladilatacionmidelamaximadistanciaenelgrafo midelautilizaciondelospes.yelfactordecargamideelretardodecola delmultiprocesadordetareasvecinasenelgrafoalgoritmo.laexpansion delosmensajes. jvgj: (.)

32 ..Conceptosdeteoradegrafos raz. Figura.5:Representaciondeunarbol{ariodealtura.Elnodoesla 5 estaunidoacualquierotronododelgrafoporununicocamino.elnodo.. DenicionUnarbol,T,esungrafoenelcualexisteunnodozque Arboles zrecibeelnombrederazytzdenotaunarbolconrazz. ciertasrelacionestpicasentrelosnodosconectadosatravesdeunarco.as, enelejemplo,losnodosysonhijosdelaraz,elnodo.mientrasque elnodoeselpadredelosnodosy.unahojaesunnodosinhijos,por Enlagura.5semuestralarepresentacionusualdeunarbol.Existen ejemplo,losnodosf;;5g.elrestodelosnodosrecibenelnombredenodos v.comosimplicacionenlanotacionconsideraremos [v;z] [v].la internos. longituddelcamino [v]eselnumerodearcosdequeconstaesecamino.el niveldelnodov,l(v),eslalongituddelcamino [v].elniveldelarazes Elcamino [v;z]eslasecuenciadenodosqueunelarazzconelnodo.elmaximoniveldelarbol,max(l(v));8vt,esllamadolaalturadel completoalarbolenquetodossusnodosinternostienenrhijos.unarbol arbol.as,enlagura.5elnodotienenivelylaalturadelarboles. nivel,losrhijosdelarazconstituiranelnivel,losrhijosdeestos r-ariocompletodealturantienenniveles.larazdelarbolconstituirael Enunarbolr{ariocadanodotienecomomaximorhijos.Sellamaraarbol mientrasqueelnumerototaldelnodosesn=rn arbolr-ariocompletodenniveles,elnumerodenodosdelniveliesri, alosmasproximosalarazynivelesmasaltosalosmasalejados.enun ultimos,elnivel,yassucesivamente.denominaremosnivelesmasbajos r.

33 Captulo.Computadoresdetopologamallaconmemoriadistribuida NIVEL Figura.6:Arbol-ariodeniveles,mostrandolanotacionutilizada. 5 queconstituyelarazdelarbolleasignaremoselndice,mientrasquealos Identicaremoscadanododelarbolmedianteunndiceentero.Alnodo rhijosdelnodokleasignaremoslosndicesfkr+jjj<rg.as,el fr+j;j<rg,yassucesivamente.estanotaciontienecomoventaja conjuntodenodosdelsegundonivelserafr+j;j<rg,eldeltercernivel lagura.6mostramosunarbol-ariodeniveles. desventajaesquelosenterosutilizadosnoson,engeneral,consecutivos.en queesmuyfacildeterminarelpadreyloshijosdeundeterminadonodo.la.. Existendosmetodosestandarpararepresentarungrafoenuncomputador. Elprimermetodoutilizaunamatrizdeadyacenciasyelsegundometodo, Representaciondelosgrafos matrizdeadyacenciasdeestegrafoesunamatriznn,a=(ai;j),denida unalistaencadenada[,68]. delasiguienteforma: ConsideremosungrafoG(V;E)conNnodosnumeradosf;;Ng.La ai;j=8<:si(vi;vj)eg Lasmatricesdeadyacenciasdelosgrafosdelasguras.5y.son,respectivamente, enotrocaso (.5)

34 ..Conceptosdeteoradegrafos 5 B@ 5 abcde CA abcde B@ CA (.6) Vemosquelamatrizdeadyacenciasdeungrafonoorientadoessimetrica. Estamatrizpuedesermodicadafacilmenteparalosgrafosconpesos, ai;j= 8 >< > : w(v i;vj)si(vi;vj)eg sii=j enotrocaso (.7) almacenarlocomounamatriznnyaquelamayoradeloselementos dennodoseso(n).ungrafog(v;e)esdisperso(sparse)sijej O(jVj),enotrocasoesdenso.Sielgrafoesdispersoseramuyineciente Elespacionecesarioparaalmacenarlamatrizdeadyacenciasdeungrafo delamatrizsoncerosynonecesitanseralmacenadosexplictamente.para matricesdispersasesmuycomunalmacenarsololasentradasnonulasysus posicionesenlamatriz,[6]. atodoslosnodosutalque(u;v)eg.lagura.7.amuestralarepresentaciondeestalistaparaelcasodelagura..enelcasodeunarbol Adj[jVj]delistas.ParacadavV,Adj[v]esunalistaencadenada taencadenada.pararepresentarelgrafog(v;e)seconstruyeelarray Lasegundaformaderepresentaciondeungrafoesmedianteunalis- larepresentacionpuedehacerseconunalistaencadenadaarbolcomoseve loshijos. elementotieneunpunteroqueindicasupadreyotrospunterosqueindican enlagura.7.b.estaeslarepresentaciondelarboldelagura.5.cada cuencialmenteporniveles.deestaformalarazseraelelementoas[],el unalistasecuencial[].elarbolsealmacenaenunarrayas[n],se- conjuntodenodosdelsegundonivelseraf+j;j<rg,eldeltercernivel Parasimplicarelalmacenamientodeunarbolcompletoutilizaremos fr r +j;j<rgyassucesivamente.estarepresentaciontienecomo

35 Captulo.Computadoresdetopologamallaconmemoriadistribuida a b c e b d c c (a) d e d c 5..(b)Representaciondelarboldelagura.5conunalistaencadenada Figura.7:(a)Representaciondelistadeadyacenciasdelgrafodelagura e b arbol. ventajassufacilidadparadeterminarelpadreyloshijosdeundeterminado. nodoyahorrodememoria,puesocupasoloo(n)elementosdememoria. Laparalelizaciondealgoritmossobresistemasmultiprocesadoresconmemoriadistribuidaprecisadeunbuenbalanceodelacargacomputacionalentre Paralelizaciondealgoritmos PEsesconsiderablementedifcil. conseguirunbuenmapeadodelosdatosydelascomputacionessobrelos lospesydelareducciondelascomunicaciones.paraalgunasaplicaciones, Unaaplicacionparalelapuededescribirsemedianteungrafoconpesos.. G(VG;EG)llamadografodetareas.Losnodosdelgraforepresentanlas Descripciondelproblema tareasquequizaspuedanserejecutadasconcurrentementeylosarcosrepresentanlasdependenciasentreellas.existeunnodovvgparacadatarea pesodeunnododeg,wg(u),eseltiempodeejecuciondelacorrespondiente yunarcoorientado<u;v>egsilatareauenvadatosalatareav.el tarea,queasuvezesdependientedelnumerodeinstruccionesodeopera- (b)

36 ..Paralelizaciondealgoritmos cionesenpuntootanteejecutadasporv.elpesodeunarco,cg(<u;v>), 5 delnumerodedatostransmitidos. eseltiempodelascomunicacionesdesdeuav,queasuvezesdependiente depes. Elproblemadelmapeadoconsisteenencontrarunafuncion ElsistemaparaleloserepresentaporungrafoP(VP;EP),llamadografo VP,queasignetareasalosPEsdemaneraqueeltiempodeejecucion, :VG! tareaseejecutaidenticamentesobrecualquierpe,todoslospesoscpywp seamnimo.suponiendoqueelcomputadoreshomogeneo,esdecir,una te=tc+tcom: (.8) laslatenciasasociadasalacomunicacioninterprocesador.unacargabien sonidenticos.unatecnicademapeadoecientedebeencontrarunbuen balanceadapermitequetodoslospesterminenaproximadamentealmismo compromisoentrelalocalidaddelosdatosyelbalanceodelacarga.la tiempoyminimizaelvolumendelascomunicaciones. localidaddelosdatosinuyeenlaminimizacionyenelocultamientode PEs(PPEs). disjuntosy,acontinuacion,proyectarelgrafococientesobreelgrafodelos enprimerlugar,realizarunaparticiondelosnodosvgenpsubconjuntos Enresumen,lasoluciondelproblemadelmapeadoconstadedosfases: blemanp{completo[9,5]querequiereunagrancantidaddecomputacion. Encontrarunasolucionexactayoptimaalproblemadelmapeadoesunpro-.. Trabajosprevios esequivalentealproblemadeisomorsmodegrafos,delquesesabequees NP-completo(esdecir,quenoexisteningunalgoritmodecomplejidadpolinomicapararesolverlo[]).Algunosmetodosheursticoshanaparecidoen alnumerodepes,entonceselproblemadebuscarunaproyeccionoptima Estoesasporquesiconsideramosqueelnumerodenodosdelgrafoesigual casioptimaenuntiemporazonable. labibliografaquenoencuentranunasolucionexactaperosunasolucion paraasignarproblemasasistemasdepesdememoriadistribuida.enel casodeunsistemadedospeslaasignacionesoptima.noesconocidauna extensiondelatecnicanetworkowasistemasconmasdedospes.en[] Unalgoritmoconocidocomonetworkowhasidopropuestoen[]

37 6 seproponeunaasignacionparaelcasodetrespes,peronoeslasolucion Captulo.Computadoresdetopologamallaconmemoriadistribuida optima. transferenciafsicaydesarrollaronlatecnicalinearmappingenunesfuerzopormapearalgoritmosenredesdeinterconexionjas.linymoldovan [75]utilizancyclicmappingparamapearalgoritmossobremulticomputadoresdetopologamallayelmapeadodealgoritmosconpermutacionescon KungyStevenson[75]estudiaronlarelacionentretransferencialogicay barajamientoperfecto. ter,yconsiderandoelnumerodeverticesdelgrafoigualalnumerodepes. ElementMachine(FEM)desarrolladaenelNASALangleyResearchCen- determinsticosyprobabilsticos,paraproyectarungrafosobrelafinite Bokhari[9,]utilizaunaheursticaiterativa,quecombinametodos EstemetodointentamaximizarlaB{cardinalidaddelaproyeccion.LaB{ mapeadoatravesdelnumerodearcosdelgrafodelproblemaquesonproyectadossobrearcosdelgrafodelospes.esdecir,seintentamaximizar elnumerodenodosvecinosenelgrafoqueseproyectansobrepesvecinos cardinalidaddeunafunciondemapeadoesunamedidadelacalidaddel vecinosasignadosapesmuyseparadosentres. Ademas,almaximizarlaB{cardinalidadnosetienenencuentalosnodos plejidadesmuyelevada,porloqueesinecienteparaproblemasgrandes. enlafem.estemetodotienevariosproblemas.enprimerlugar,sucom- (CPE),intentaminimizarlafuncionobjetivo,,querepresentalasuma tionmachinecm{.estemetodo,denominadocyclicpariwiseexchange grafonoestructuradodetareassobreunhipercubo,enconcreto,laconnec- Otrometodoiterativoeselpresentadoen[5]paralaproyecciondeun puedenserllevadasacaboenparalelo. objetivo,nosetieneencuentaqueexistencomunicacionesentretareasque paratodaslasaristasdelgrafo,delcostedecomunicacionesdecadaarista.elprincipalproblemadeestemetodoesque,altomar comofuncion tiras. sicionscatter,ladescomposicionbinariaylosmetodosdedistribucionen Otrosmetodosheursticosnoiterativosson,porejemplo,ladescompo- eldominiodelproblemaenunnumeroggrandedeclustersrectangulares, irregurales[8].estemetodointentabalancearlacargadescomponiendo aplicadaaladescomposicionyposteriorproyecciondedominiosaltamente Ladescomposicionscatter(tambienllamadaproyeccionmodular)hasido tecnicapuedenencontrarseen[77]. siendogmuchomayorqueelnumerodepes.posteriormenteestosbloques sedistribuyendeformacclicaentrelospes.discusionesdetalladasdeesta

38 ..Paralelizaciondealgoritmos Ladescomposicionbinariarecursiva(BRD)[7]intentamaximizarlafuncionobjetivo B.Paraello,elgrafoesdivididoensubgrafosporunabiseccion ortogonalrecursivamultiple.inicialmente,elgrafosepartealamitadpor unalneahorizontalovertical,intentandoquecadamitadtengalamisma cargacomputacional.cadaunadelasdosmitadesesdivididaconunalnea ortogonalalaanterior,manteniendoelcriteriodereparticiondelacarga. 7 gitudmayorqueuno.romeroyzapata[86]proponenunamodicacionque notieneencuentaelefectoquepuedenproducirlascomunicacionesdelon- PEs.Estatecnicaaseguraunbuenbalanceodelacargapero,sinembargo, Elprocesoserepitehastaqueelnumerodesubgrafosigualaalnumerode denominanmetododedescomposicionrecursivamultipleparaimplementar elproductomatrizdispersa{vectorsobreunmulticomputadorcontopologa dedistribucionentirasostrippartitioning.estastecnicassebasanenlas malla. descomposiciondelgrafoenunconjuntodeptiras(strip),dondepesel numerodepes,todasconlamismacargacomputacional,ydondecadatira Otrogrupodetecnicasdeproyeccioneselqueseenglobabajoelnombre solonecesitacomunicarseconsusdostirasvecinas.estastirasseproyectan mallas,etc.).sepuedennombrarentreotras,{dstrippartition[87],la turaslineales,uotrasarquitecturasquepuedenemularaestas(hipercubos, sobreelcomputadorparalelodeformaquetirasvecinassesituenenpes distribucionentirasenunsentido({waystrippartition)odts[8,8], adyacentes.portanto,estatecnicaesespecialmenteadaptableaarquitec- yla{dstrippartition[87]. [].Estemetodoestabasadoenlaconversiondecoordenadasmultidimensionalesandicesunidimensionalesdeformaquesemantengalaproximidad Otrometododemapeadoeselmapeadobasadoenndices(index{based) delosnodosenelespaciomultidimensional.losnodosdelprimergrafose enndiceunidimensionalusandounacurvaquellenaelespacio(space{lling proyectanenunareddetama~nollld.cadanodoserepresenta ahoraporunatupla(coord;coord;;coordd).estatuplasetransforma curve).unavezquesehanobtenidolosndicesdecadanodo,estosse ritmosdeordenamiento[7],operacionesquadtree[95],imagenesdispersas representaunaparticion.estemetodosehaaplicadoecientementeaalgo- Psubconjuntosconsecutivosdeigualcargacomputacional.Cadasublista ordenansegunelvalordesundice.acontinuacionsedividelalistaen brehipercuboseselpropuestoporrivera,zapataycol.[85].elprocedi- [96]ysimulaciondeNcuerpos[,79,8]sobremaquinasparalelas. Unametodologageneralparaelmapeadodealgoritmossecuencialesso-

39 8 mientoimplicalassiguientesetapas: Captulo.Computadoresdetopologamallaconmemoriadistribuida.Analisisdelalgoritmosecuencialaniveldelazo,identicandoloslazos.Particionadodelasdimensionesdelhipercuboensubconjuntosasociadosconloslazosindepedientesdelalgoritmosecuencial. anidadosindependientes.estoslazosdenenelnumerodedimensiones delalgoritmosecuencial..distribucionentrelospesdelasvariablesqueparticipanenelalgoritmodeacuerdoaladistribucionymododealmacenamientoelegido..dise~nodelalgoritmoparalelo.estealgoritmoparaleloeselresultado transferenciasinterprocesadordelosdatosnecesariosquenoestanen lamemorialocal. delospasosy,a~nadiendolosmensajesdecomunicacionparalas 5.Optimizaciondelalgoritmomediantelaelecciondelaparticionenel realizautilizandoparametroscomoeciencia,aceleracion,redundancia pasoyladistribuciondelosdatosdelpaso.estaoptimizacionse Laaplicaciondeesteprocedimientohapermitidoobteneralgoritmospa- delosdatosybalanceodelacarga,entreotros. ralelosecientesenloscamposdelalgebreamatricialdensayenelprocesa- mientodeimagenyse~nal[,,]. naryproyectarlosalgoritmossobremaquinasparalelasdetopologamalla. yproduceunbuenmapeadoparaunaampliaclasedealgoritmos. Mostraremosqueestemetodoesextremadamenterapido,facildeparalelizar, Nosotrosutizaremoslaproyeccionvector(mappingvector)paraparticio-. ndice{digito Laproyeccionvectorylarepresentacion redistribuirlosdatosdentroyentrelasmemoriaslocalesdelospesenuna Durantelaevaluaciondeunalgoritmosobreunmultiprocesadoresnecesario datosysaberdondeestandespuesdelasredistribucionespuedeserbastante difcil. implicacomplejosmovimientosdedatos;visualizarelmovimientodelos granvariedaddeformas,tantoregularescomoirregulares.engeneral,esto

40 ..Laproyeccionvectorylarepresentacionndice{digito Elmetodoqueempleamossimplicalatareaparaungranrangodeproblemasusandounarepresentacioncompactadelmapeadodelosdatossobre lamemoria[5,,7].sebasaenlaproyeccionvector[6]yenlarepresen- 9 siendolabaserunapotenciade.denotaremosestasecuenciadedatos tacionndice{dgito[9]. datodelasecuenciasedenotaporladescomposicionenbaserdesundice. usandolarepresentacionndice-dgito[9].enestarepresentacion,cada Consideremosunasecuenciaunidimensionaldedatosdetama~noN=rn, laforma, Esdecir,eldatoa(t)conndicet=tnrn ++tr+tseescribeen conmemoriadistibuida.lazonadememoriaenestecomputadorpuede Consideremosunmulticomputadorcontopologamallabidimensionaly [tntt]: (.9) considerarsetridimensional,dondedosdelasdimensioneslocalizanlacoordenadasdelpedentrodelamalla(fila;columna),ylaterceralaposicion enlamemorialocaldecadape.silasdimensionesdeestazonadealmacenamientoson larepresentacionndice{dgitosepuedeescribirdelaforma, rurvrw; (.) sobrelamemoriadelospesmediantelaasignacionbiyectivadendicesde Elmetododelaproyeccionvectorrealizaelmapeadodelarraydedatos [xux;yvy;zwz]: (.) datosandicesdelasposicionesdememoriadelospes.laasignacionpuede escribirse, memoria,laocolumna,segunladistribucionqueserealice(n=u+v+w). dondelosndicestiseasocianconunodeloscamposx,yoz,esdecir, [tntt]![xux;yvy;zwz] (.) desplazados,cclicobalanceadoyladistribucioncclicaplegada. quesyelcclico[9].tambiensepuedenutilizarlosesquemasporbloques Losmodosdedistribucionmasutilizadossonelalmacenamientoporblo- envlasywcolumnas).cadapedispondradeunamemorialocalde ConsideraremosquelamallaestacompuestadeVWPEs(distribuidos

41 U=N=(VW)datos.EnelcasoparticulardequeVyWseanpotencias Captulo.Computadoresdetopologamallaconmemoriadistribuida [9],laexpresion(.)puedeescribirseenlaforma delabase(v=rvyw=rw)yconunadistribucioncclicadelosdatos twt.esdecir,eldatodendicedelaecuacion(.)seasignaala conlaasignacionmemoriatntv+w+;filatv+wtw+ycolumna [memoria;fila;columna] menossignicativosdelosndices, posiciondememoriamemoriadelpedecoordenadas(la,columna).con unadistribucionporbloques,lacoordenadamemoriaseasignaraalosdgitos confilatntw+u+;columnatw+utu+;memoriatut.para elcasodeunamalla,unamatrizde8elementosydistribucioncclica [fila;columna;memoria] (.) resulta, conunadistribucionporbloques, [8765 {z} mem; {z} fila; {z} col] (.5) yconunadistribucioncclicaporlas, [87 {z} fila;65 {z} col; {z} mem] (.6) Enlagura.8mostramoslastresdistribucionesparaunamallay [8765 {z} mem; {z} col; {z} fila] (.7) unamatrizde6elementos. vecinos,ladistribucionapropiadaesseguirunordenamientoserpiente, ParatenerlosdatosconndicesadyacentesenelmismoPEoenPEs col memtut filatntw+u+: 8<:tw+utu+sitw+u+= tw+utu+sitw+u+= (.8)

42 ..Laproyeccionvectorylarepresentacionndice{digito [ 6 5 ] mem fila col (a) [ 6 5 ] fila col mem (b) [ 6 5 ] mem col fila Figura.8:Distribuciondeunamatrizde6elementossobreunamalla bloques.(c)distribucioncclicaporlas. depes.(a)distribucioncclicaporcolumnas.(b)distribucionpor