Software de bloqueo automático de páginas web que incitan a la violencia a través de un algoritmo híbrido de aprendizaje computacional* 1

Transcripción

1 Software de bloqueo automátco de págnas web que nctan a la volenca a través de un algortmo híbrdo de aprendzaje computaconal* Auto lock software web pages ncte volence through a hybrd computatonal learnng algorthm Jorge Enrque Rodríguez** 3 Ángela Paola Herrera*** 4 Martha Llana Rojas**** Fecha de recepcón: febrero de 04 Fecha de aprobacón: abrl de 04 Resumen El sguente artículo se basa en un proyecto de nvestgacón que consste en la creacón de un algortmo híbrdo de aprendzaje computaconal supervsado para el bloqueo automátco de págnas web que nctan a la volenca a través de contendo snuff. En este se hace una descrpcón de la stuacón actual del problema a resolver y se da a conocer el proceso de seleccón de los algortmos para la construccón del algortmo híbrdo y con ello la explcacón de su funconamento y modelo matemátco. Palabras clave: sstema de bloqueo, aprendzaje computaconal, volenca en Internet. 4 * Artículo de nvestgacón. ** Ingenería en Telemátca, Unversdad Dstrtal Francsco José de Caldas, Bogotá D.C, Colomba. Contacto: jrodr@ udstrtal.edu.co *** Ingenería en Telemátca, Unversdad Dstrtal Francsco José de Caldas, Bogotá D.C, Colomba. Contacto: apherrerad@udstrtal.edu.co **** Ingenería en Telemátca, Unversdad Dstrtal Francsco José de Caldas, Bogotá D.C, Colomba. Contacto: mlrojaso@ udstrtal.edu.co Revsta Vnculos Vol. # úmero #

2 J o r g e E n r q u e R o d r í g u e z - Á n g e l a P a o l a H e r r e r a - M a r t h a L l a n a R o j a s V Í C U L O S E E R O D E 0 4 VOLUME ÚMERO Abstract In ths paper we development a hybrd algorthm of machne learnng for the automatc lockng of web pages that ncte to volence through content snuff. We descrbe of the current stuaton of the problem to be solved, and we gve to know the selecton process of the technques for the development of the hybrd algorthm. Also, we show the mathematcal model and results analyss. Keywords: Lockng system, Machne Learnng, Internet Volence Introduccón En países como Colomba, las leyes que rgen la produccón y comercalzacón de materal audovsual resultan nsufcentes [], razón por la cual, las personas pueden acceder fáclmente a contendo volento, sobre todo a través de Internet donde se comparten recursos sn restrccón alguna. Aunque en el presente, las empresas dsponen de polítcas para el buen uso de los recursos corporatvos por parte de los empleados, tener fácl acceso a págnas con contendo volento puede empeorar el consumo del ancho de banda exstente y a su vez expone la segurdad de la red ante malware. Por tal razón, para un admnstrador es de suma mportanca mantener su red protegda de vrus, espías y sobretodo lmtar los recursos al uso corporatvo objeto sobre el cual fue dseñada. Por ello, en el sguente artículo se hará una revsón al desarrollo de un sstema de bloqueo automátco como herramenta de apoyo al proceso de gestón en una red LA, puesto que por medo del análss de un patrón de comportamento con algortmos de aprendzaje computaconal supervsado, se pueden detectar automátcamente y de manera constante nuevas págnas que, según su experenca, ndquen contendo snuff. En este artículo se descrbe el problema, se presenta la explcacón del modelo matemátco utlzado en el algortmo hbrdo y el resultado de las pruebas realzadas.. Problema Internet es una excelente herramenta de comuncacón, donde se puede adqurr nformacón de dversas fuentes y con ello multplcar el conocmento, facltando de esta manera que se creen nuevas tendencas haca grupos que favorecen la nvestgacón y el aprendzaje. Las fuentes generalmente se encuentran en dferentes ubcacones geográfcas, lo que es nadvertdo para los cbernautas; pero a su vez, Internet puede ser una tecnología pelgrosa, ya que acceder fáclmente a cualquer fuente de nformacón puede conllevar a vstar págnas web de contendo que promoconan dferentes tendencas, por ejemplo el racsmo, la xenofoba, terrorsmo cbernétco, groomng, cberbullyng, sextng, pornografía nfantl y trata de personas, entre otros. Además, en alguno de estos stos web se hacen nvtacones al sucdo y al asesnato a través del sadsmo y snuff por ejemplo, grabacones de asesnatos reales. Actualmente, en Colomba las empresas proveedoras de telecomuncacones, ofrecen productos que bloquean contendo volento, 5 Revsta Vnculos Vol. úmero

3 I + D S O F T W A R E D E B L O Q U E O A U T O M Á T I C O D E P Á G I A S W E B 6 por ejemplo ETB (Empresas de Telecomuncacones Bogotá) ofrece el guardán de contendos, donde los padres pueden admnstrar las págnas que podrán ser accesbles por sus hjos. Sn embargo, cada día se crean nuevas págnas web de contendo volento, lo que mplca ngresar cada una de estas URL manualmente, tarea que resulta ser tedosa. Igualmente, en las redes LA los admnstradores deben hacer una verfcacón dara de la creacón de págnas Web de contendo volento e ngresarlas manualmente en el squd para que estas sean bloqueadas a través de servdores proxy; al realzar esta labor algunas veces se carece de tempo sufcente, lo que favorece la omsón de algunos stos Web cuyo contendo debería ser restrngdo.. Algortmohbrdo SVM RBF El algortmo SVM es un clasfcador lneal y no lneal, el cual ha estado tomando mportanca porque se basa en el concepto de la mnmzacón del resgo estructural y posee una sólda fundamentacón matemátca en la clasfcacón y regresón de datos. En este proyecto se aplca el SVM no lneal, ya que en la fase de ntegracón y recoplacón se construyó un conjunto de datos con ocho (8) atrbutos, lo que nos ndca que los datos no pueden ser lnealmente separables puesto que la nformacón no es fáclmente predecble para separarla en dos clases. A dferenca del SVM lneal, el no lneal adcona un núcleo o funcón kernel, el cual aplca una transformacón a los datos para que puedan ser dvddos, esta funcón kernel puede convertrse en una debldad para el algortmo s la funcón escogda no es efectva en el proceso de transformacón, por esta razón para Mnmzacón de resgo estructural (SRM). Mnmza la probabldad de clasfcacón errónea sobre nuevos ejemplos, especalmente cuando se dsponen de pocos datos de entrenamento. este proyecto se optó por el Kernel gaussano, es decr, un algortmo basado en Funcón Base Radal (RBF). A contnuacón se descrbe el concepto y modelo matemátco del SVM lneal y del SVM no lneal con el RBF. a. SVM lneal [] Las SVM lneal con margen máxmo es el modelo más sencllo de SVM y el que tene menos condcones de aplcabldad, debdo a que parte del supuesto de que el conjunto de entrada es lnealmente separable en el espaco de entrada, es decr, que los ejemplos pueden ser separados por un hperplano de forma que, en cada lado del msmo, solo queden ejemplos de una msma clase sn hacer nnguna transformacón de los datos, como se puede observar en la fgura []. Fgura. Caso lnealmente separable Fuente: tomado de repostorum/archves.php?d=all&page=6593&s ort=author Matemátcamente, dadas muestras x, con sus correspondentes etquetas asocadas, y, que defnrán a qué clase pertenece cada muestra, tenemos: Revsta Vnculos Vol. # úmero #

4 J o r g e E n r q u e R o d r í g u e z - Á n g e l a P a o l a H e r r e r a - M a r t h a L l a n a R o j a s V Í C U L O S E E R O D E 0 4 VOLUME ÚMERO ( ) ( ) ( ) + = { } j x y, x y,..., x y ; x R, y, () Sendo J el número de dmensones o componentes de los vectores que contenen los datos. Un clasfcador es lneal s su funcón de decsón puede expresarse medante una funcón lneal en x. Así pues, la ecuacón del hperplano de separacón será el lugar de los puntos x en los que se cumple: H : x w+ b=0 () Sendo b una constante que ndca la poscón del plano respecto al orgen de coordenadas. Esta constante recbe el nombre de sesgo. es el vector normal al hperplano y tene la forma: w= α yx = (3) Donde los son los multplcadores de Lagrange, los cuales como se ha menconado anterormente, serán nulos en su mayoría, salvándose úncamente los que sean vectores soporte. La clasfcacón se realza determnando en qué zona del hperplano está el punto a clasfcar. Así pues, el clasfcador puede representarse medante las expresones: x w+ b >+ paray =+ (4) y{ x w + b} S el resultado de la operacón es postvo, la muestra pertenecerá a una clase, y s es nega- Multplcadores de Lagrange. Es un método para trabajar con funcones de varas varables que nos nteresa maxmzar o mnmzar, y está sujeta a certas restrccones. tvo a la otra. Las expresones anterores pueden combnarse en una únca: y{ x w + b} (5) En un problema lnealmente separable habrá nfntos hperplanos que cumplan esta condcón. El que buscamos es aquel que tenga un mayor margen. Es decr, queremos maxmzar la dstanca entre los datos y la frontera de decsón. Los puntos que caen sobre cada uno de los hperplanos son los que cumplen: H : x w+ b=+ (6) H : x w+ b= Por tanto, estos dos hperplanos son paralelos entre sí y paralelos al hperplano H (). El margen será la dstanca entre H y H. Lo que se busca aquí es aumentar la generalzacón, es decr, que una vez entrenada la máquna, clasfque correctamente las nuevas muestras. Por ello, cuanto mayor sea la dstanca entre los datos y la frontera de clasfcacón, mejor. S se desea que los datos más cercanos a la frontera tengan una salda ±, la dstanca de los datos al plano será d =, que será la w dstanca de y a H. Así pues, el margen del hperplano H (dstanca a los vectores más cercanos pertenecentes a dferentes clases) a maxmzar es d =. Maxmzar este margen es equvalente a mnmzar la norma de w. De este w modo, el problema de encontrar el hperplano óptmo puede formularse como: L( w)= mn w (7) 7 Revsta Vnculos Vol. úmero

5 I + D S O F T W A R E D E B L O Q U E O A U T O M Á T I C O D E P Á G I A S W E B Con la restrccón (5) que garantza que el hperplano separará las muestras de dstntas clases. S usamos los multplcadores de Lagrange e ncorporamos la restrccón (4), la expresón a mnmzar queda de la forma: De este modo, en las muestras ben clasfcadas se cumplrá que 0< ξ <, dependendo de qué tan cerca esté de la frontera la muestra, mentras que en las mal clasfcadas ξ >. Ld = w α y( x w+ b) = ( ) (8) En esta ocasón, la ecuacón a mnmzar (7), es modfcada de la forma: 8 Así pues, para mnmzar la expresón anteror debemos dervar con respecto a w y b e gualar a cero. Esto nos deja dos ecuacones: w= α y x = α y = 0 = (9) Tenendo en cuenta las ecuacones anterores, la máquna de vectores soporte, actuando como clasfcador y para el caso en el que el problema sea lnealmente separable, puede escrbrse como: f ( x)= sgn α y( xx )+ b = (0) Caso no separable lnealmente [] En el caso que no sea posble separar lnealmente los datos, hay dos solucones: buscar una frontera no lneal, o tratar de encontrar el hperplano que cometa un menor número de errores. Para esta últma opcón, vamos a ntroducr unas varables postvas ξ, que controlan el error permtdo y penalzan las muestras mal clasfcadas. Así pues, la ecuacón (5) es modfcada de la forma: y{ x w+ b} ξ () ξ 0, () Lp = w + C = ξ (3) Sujeta a las restrccones () y (). C es una constante que penalza las muestras mal clasfcadas y que determna la mportanca de la maxmzacón de la dstanca frente a la mnmzacón de los errores. En el presente proyecto, el valor de esta constante se ha calculado medante valdacón cruzada, tal y como se explcará en el sguente capítulo. Usando multplcadores de Lagrange, la ecuacón (3) queda de la forma: Lpd = w + C y x w b ( + ) + = = = ξ µξ α ξ (4) ( ) Donde es el multplcador de Lagrange ntroducdo para forzar la postvdad de. S ahora dervamos con respecto a cada varable e gualamos a cero para obtener la solucón óptma, como hcmos en el caso separable, obtenemos las ecuacones (9) y: C µ α = 0 (5) El problema cuadrátco queda de la forma: φ ( x SVM no lneal [] La SVM no lneal se puede nterpretar como ) (6) una generalzacón del hperplano óptmo de decsón, ya que permte la resolucón de problemas no separables y trazar fronte- Revsta Vnculos Vol. # úmero #

6 J o r g e E n r q u e R o d r í g u e z - Á n g e l a P a o l a H e r r e r a - M a r t h a L l a n a R o j a s V Í C U L O S E E R O D E 0 4 VOLUME ÚMERO ras de clasfcacón no lneales. Para el caso en el que los datos no son lnealmente separables, puede aplcarse una transformacón φ ( x)sobre el espaco de trabajo con el objetvo de obtener un espaco de característcas, generalmente de dmensón superor, donde sí sean separables las muestras y donde se debe trazar el hperplano óptmo de separacón (ver fgura ). La formulacón es báscamente la msma, úncamente reemplazando x por φ ( x). Lneal k( x, x )= x x (8) Polnómca k( x, x )= yxx + c ( ) α (9) Gaussana k( x, x )= exp y x x ( ) (0) Sendo una constante de proporconaldad, c un coefcente y el rango del polnomo. En el presente trabajo se ha optado por un kernel gaussano (RBF). Fgura. Transformacón espacal del espaco de entrada Fuente: tomado de handle/006/99 El Teorema de Cover proporcona la justfcacón de por qué una transformacón no lneal a un espaco de mayor dmensón aumenta las posbldades de dsponer de un conjunto de datos separables, s estos no lo eran en el espaco de entrada. Para construr una SVM en el espaco resultante, este debe ser un Espaco de Hlbert5, y por tanto cumplr: ( )=<( ) ( )> k x, x x, φ x (7) Donde la funcón k es llamada Funcón núcleo o Funcón kernel. Tenendo esta funcón, es posble aplcar el algortmo de entrenamento de las SVM sn conocer. Exsten dstntas funcones kernel que permten adaptar la SVM a cada conjunto de muestras, con el fn de obtener mejores resultados. Las más usadas son: La funcón de clasfcacón de la SVM (0) con el RBF es redefnda de la sguente manera: ( ( ) = ) f ( x)= sgn α y k( xx, )+ b () El Teorema de Mercer expone que para garantzar que la funcón sea un producto nterno en un espaco de alta dmensonaldad, se debe cumplr la condcón: ( ) ( ) > k u, v g v dudv 0 () Es decr, la funcón kernel debe ser una funcón defnda postva. Por tanto, el problema cuadrátco de entrenar la SVM queda de la forma: Ld = α y yk x x j j j ( j) = αα,, = (3) Sujeto a las restrccones: 0 α c (4) α y = 0 El vector del hperplano resultante es: w αyφ x = ( ) = (5) Se puede dar el caso de que el problema tampoco sea separable en el nuevo espaco. En 9 Revsta Vnculos Vol. úmero

7 I + D S O F T W A R E D E B L O Q U E O A U T O M Á T I C O D E P Á G I A S W E B estos casos, se actúa de gual manera que en el problema lneal: ntroducendo un térmno de coste C y las pérddas ξ. De esta forma, reescrbendo las ecuacones () y () para el caso no lneal, obtenemos: y{ φ( x w+ b) } ξ (6) ξ 0, De este modo, la nueva funcón objetvo será la msma que en el caso lneal para problemas no separables: mn,, wbs w C ξ = (7) S ntroducmos las ecuacones (6) en (7), el langrangano del problema queda de la forma: Lpd = w + C ξ y x w b ( ( ) + ) + = µξ = α φ ξ = ( ) (8) Ecuacón smlar a (4) en la que úncamente se ha susttudo x por φ ( x ). Las condcones que debe cumplr un vector para ser solucón de (6) venen determnadas por el Teorema de Karush-Kuhn-Tucker (KKT) que es una generalzacón del Teorema de los Multplcadores de Lagrange. Se puede decr que resolver el problema de la SVM es equvalente a encontrar una solucón para las condcones KKT. SVM no Lneal con Kernel Lneal Se aplca a la base de datos SVM no lneal el Kernel Lneal. Para el Kernel Lneal se requere sólo un parámetro, C, que representa la cota superor del vector α. Se varía este parámetro usando los sguentes valores: C={0.;0.3;0.5;0.7;;0;0;30;40;50;60;70;80;90; 00;00;300;400;500;700;000} El mejor resultado se obtene para un coefcente C=00, con un promedo de un 94,55% de efectvdad en la valdacón cruzada. En la tabla se muestra el detalle de los resultados obtendos. Tabla. Valdacón SVM Kernel Lneal Valdacón SVM Kernel Lneal Subconjunto Acerto (%) 89,47 9, ,74 4 9, , , , , ,5 0 96,43 Promedo 94,55 Fuente: elaboracón propa. 0 Pruebas y resultados Para la realzacón de las pruebas se dvdó el dataset construdo en 0 subconjuntos, donde cada uno contenía 753 regstros. A contnuacón se presenta el resultado comparatvo sobre la efcenca que se obtene entrenando los datos con el algortmo SVM, el algortmo RBF y el hbrdo SVM RBF. Fgura 3. Gráfca SVM Kernel Lneal Fuente: elaboracón propa. Revsta Vnculos Vol. # úmero #

8 J o r g e E n r q u e R o d r í g u e z - Á n g e l a P a o l a H e r r e r a - M a r t h a L l a n a R o j a s V Í C U L O S E E R O D E 0 4 VOLUME ÚMERO Con el resultado de la gráfca (fgura 3) se puede observar que la efcenca va ncrementando constantemente, de tal forma que nos hace deducr que, en cada entrenamento, el algortmo SVM aumenta la efectvdad de su aprendzaje en cada subconjunto. En el subconjunto 9 se presenta la efcenca más alta ya que se utlzó el coefcente C = 00, el cual es un parámetro ajustable; un valor grande de C equvale a una mayor penalzacón de los errores. Funcón Base Radal (RBF) Se hceron pruebas colocando desde hasta 0 neuronas para la capa de neuronas cuya funcón de actvacón es del tpo radal. Los grupos dependen de la ncalzacón de los que se realce al prncpo del algortmo. Por esta razón, y con el objetvo de encontrar la mejor red posble, se decdó realzar un total de 50 teracones para cada uno de los 0 subconjuntos, guardando el resultado de aquella para la cual se obtenga un error de clasfcacón nferor. En la tabla se muestran los resultados: Tabla. Valdacón RBF Valdacón SVM KernelPolnomal Subconjunto Acerto (%) 7,3 7, , , , , , ,06 0 7,4 Promedo 65,54 Fuente: elaboracón propa. Fgura 4. Gráfca RBF Fuente: elaboracón propa En la tabla se evdenca que la efectvdad del RBF en la clasfcacón de datos es menor que la del SVM. La fgura 4 expone que el valor más alto se presentó con en el subconjunto 4, este valor puede darse por los datos que regstra el dataset y las neuronas de la capa oculta. Hbrdo SVM - RBF El Kernel Gaussano o RBF, vene dado por la sguente expresón: x xs k( x, xs)= exp, p > 0 (9) p El parámetro a varar es ρ y de acuerdo a lo realzado en el trabajo, es decr, se utlzan los valores {0,, 0,5,,, 3, 4, 0, 0,00}. La mejor confguracón {ρ,c} se tene para ρ = C=00, con un promedo de un 98.5 % de efectvdad en la valdacón cruzada. En la tabla 3 se muestra el detalle de los resultados obtendos en la valdacón cruzada. Tabla 3. Valdacón Hbrdo SVM RBF Valdacón SVM Kernel RBF Partcón Acerto (%) 96,49 96, , , Revsta Vnculos Vol. úmero

9 I + D S O F T W A R E D E B L O Q U E O A U T O M Á T I C O D E P Á G I A S W E B Valdacón SVM Kernel RBF Partcón Acerto (%) 8 98, Promedo 98,5 Fuente: elaboracón propa. Fgura 5. Gráfca Híbrdo SVM - RBF Fuente: elaboracón propa. La gráfca (fgura 5) que generó el sstema hbrdo muestra que, a medda que transcurre el proceso de aprendzaje del algortmo, este va aumentando su efcenca en la clasfcacón de datos, en cnco subconjuntos se observa un acerto del 00 por cento, esto podría sgnfcar que el parámetro C confgurable del SVM no tene tanta nfluenca mentras el parámetro p se mantenga en valores bajos. Conclusones Se realzó una recoleccón de datos (dataset) sobre págnas web cuyo contendo sea volento, determnando los atrbutos con base a la descrpcón prncpal de la estructura SEO en stos web. A este conjunto de datos se le aplcó un proceso de preparacón, lmpeza e ntegracón donde se concluye que sus nstancas se encuentran correctamente defndas para ser usadas en el aprendzaje del algortmo híbrdo. El estudo de fortalezas y debldades de los cnco algortmos preselecconados, permtó determnar que el algortmo SVM, a pesar de que es una de los más recentes, ha tomado fuerza en la Intelgenca Artfcal, ya que su flexbldad de uso de datos lneales y no lneales lo ha convertdo en uno de los algortmos de clasfcacón más usados y exactos. En las pruebas realzadas se detectó que en el algortmo híbrdo SVM-RBF se consgue un porcentaje menor de error en la clasfcacón de datos. En este hbrdo se puede ajustar el coefcente C del SVM y el parámetro p del RBF, jugar con el valor de estos datos ha permtdo lograr un acerto del 00 por cento que no fue posble consegur con cada uno de los algortmos por separado. Trabajos futuros Estudar y comparar otras técncas de representacón y clasfcacón, con el fn de dentfcar y converger en una solucón que permta en determnado momento mplementar este tpo de técncas en clasfcacón de otro tpo de contendo Web, de esta forma podrán controlarse todos aquellos contendos que expongan la segurdad en las redes y por tanto el uso napropado de los recursos corporatvos haca los cuales éstas están destnadas. Referencas [] F. Valle Padlla, Implementacón efcente de clasfcadores Pror-SVM para MAT- LAB. Acceso: enero del 04. Dsponble en handle/006/99> [] M. Márquez Vera, Clasfcacón de sedmentos Clástcos medante Máqunas de Vectores de Soporte Acceso: enero del 04. Dsponble en Revsta Vnculos Vol. # úmero #

10 J o r g e E n r q u e R o d r í g u e z - Á n g e l a P a o l a H e r r e r a - M a r t h a L l a n a R o j a s V Í C U L O S E E R O D E 0 4 VOLUME ÚMERO ves.php?d=all&page=6593&sort=aut hor> [3] Aplcacón de las técncas de redes neuronales para el dagnóstco on-lne del proceso de electroerosón por hlo. Acceso: septembre del 0. Dsponble en profesores-ets blbo/~jtpcaax/pfc/ wwwa/aprndzaje_de_las_ann. htm#_toc > [4] E. Cacedo Bravo, Funcones de Base Radal, Unversdad del valle Acceso: abrl del 03. Dsponble en De_Computacon_Inttelgente/materal/R_RBF_Feb005.pdf> [5] Técncas de Análss de Datos en WEKA. Acceso: enero del 04. Dsponble en turoralweka.pdf< [6] O. Comell, A. Garmenda, Redes de Funcones de Base Radal, Insttuto Tecnológco Autónomo de Méxco, 00. Acceso: abrl del 03. Dsponble en < S00/RS/Presentacones/RBF/ Funcones/de/base/radal.doc> [7] LbSVM A Lbrary for Support Vector Machnes. Acceso: enero del 04. Dsponble en tw/~cjln/lbsvm/> [8] S. Maldonado, R. Weber, Modelos de Seleccón de Atrbutos Para Support Vector Machnes, Revsta Ingenería de Sstemas, Vol. XXVI, septembre 0. Acceso: julo del 03. Dsponble en VI/maldonado.pdf> [9] F. Valle Padlla, Implementacón Efcente de Clasfcadores Pror SVM para MATLAB, Unversdad Carlos III de Madrd. [Acceso: enero del 04. Dsponble en handle/006/99> 3 Revsta Vnculos Vol. úmero