Sesión 12. Aprendizaje neuronal

Transcripción

1 Iteligecia Artificial Sesió 2 Apredizaje euroal Ig. Sup. e Iformática, 4º Curso académico: 200/20 Profesores: Sascha Ossowski y Matteo Vasirai Apredizaje Resume: 3. Apredizaje automático 3. Itroducció al apredizaje automático 3.2 Algoritmos geéticos 3.3 Apredizaje por refuerzo 3.4 Árboles de decisió 3.5 Redes euroales

2 Cerebro humao Célula erviosa o euroa: cada célula cotiee u cuerpo (soma), varias fibras (detridas) y ua fibra larga (axó) cada euroa se coecta co otras (etre 0 y ) (coexió: siapsis) euroas propaga señales mediate reaccioes electroquímicas las señales: cotrola la actividad del cerebro (pesamieto) permite establecer cambios de posició y coectividad de las euroas (apredizaje) Siapsis Axo Siapsis Dedritas Axo Dedritas Soma Soma Siapsis Cerebro humao Fucioamieto de ua euroa: las detridas recibe las señales de (muchas) otras euroas (etradas) la ifluecia colectiva de todas sus etradas puede activar ua euroa ua euroa activada trasporta ua señal a las euroas co las que está coectada (salida) E este procedimieto: la euroa sólo se activa si la ifluecia colectiva de todas sus etradas supera u ivel míimo de potecial eléctrico las siapsis ifluye de forma distita e la activació de la euroa alguas refuerza la activació (co diferetes grados) otras ihibe la activació (co diferetes grados) la salida de ua euroa es, a su vez, la etrada para muchas otras euroas Variabilidad de las siapsis el grado de ifluecia de ua siapsis puede cambiar co el tiempo icluso, se crea uevas siapsis Se cree que esta variabilidad es la base del apredizaje humao.

3 Neuroas artificiales Señales Etrada Pesos Señales de salida x w w 2 Neuroa g x w x,,x etradas w,,w pesos salida g fució de activació: g(x,,x )= Fucioes más comues de activació x w w 2 e = i= w i x i g x w Fució Umbral Fució Sigo Fució Sigmoide Fució Lieal 0 U - e 0 U e 0 - e 0 e - -, si e > U = 0, e caso cotrario, si e > U =, e caso cotrario e = + e = e

4 Red euroal biológico y artificial Red Biológica Soma Dedrita Axo Siapsis Reacció electroquímica e la célula Red Artificial Neuroa Etrada Salida Peso Fució de activació Siapsis Dedrites Axo Soma Siapsis Dedrites Axo Soma I p u t S i g a l s O u t p u t S i g a l s Siapsis Middle Layer Iput Layer Output Layer Neuroa más simple: el perceptró Neuroa artificial co ua fució de activació umbral, si = 0, e caso cotrario x w x > U w i i i= U w 2 Etradas y salidas biarias El perceptró para clasificació: puede represetar ua fució booleaa de sus etradas Ejemplos: x,5 x 0,5 AND OR

5 Red Perceptró Varias perceptroes compoe ua red euroal simple (de ua capa) x x 3 Salida: - codificació de las clases x 4 Pesos Etradas: - codificació biaria de los casos Perceptroes: - determia las salidad Ejemplo: recoocimieto de úmeros: cada pixel represeta ua etrada x i o bie 4 euroas (salidas: 0000, 000, 000, 00, ) o 9 euroas (salidas: , , , ) 2 Apredizaje de perceptróes Supoemos u perceptró de etradas (x,,,x ) y ua salida y x i e y so biarios Supoiedo u cojuto de ejemplos de etreamieto: { (X,y), (X2,y2), } co Xi=(x i,x i2,,x i ) Objetivo: apreder u perceptró que cocuerde co los ejemplos, es decir, que implemeta la fució booleaa: f (x,,,x )= x w U x w Para ello hay que apreder los pesos w,,w y el umbral U E el caso de ua red, se cosidera cada perceptró por separado

6 Apredizaje de perceptróes Idea: Se preseta los ejemplos de etreamieto de forma iterativa al perceptró Para cada ejemplo, se compara el resultado de la clasificació del perceptro co el resultado deseado Si hay diferecias, se realiza pequeños ajustes e los pesos de las etradas para reducir estas diferecia Se repite este procedimieto hasta que los resultados coverge (el perceptró haya apredido) x w U x w Apredizaje de perceptróes Pasos e la iteració i co ejemplo de etreamieto ((x i,x i2,,x i ),yi). Clasificar el ejemplo (x i,x i2,,x i ) co el perceptró: se obtiee el valor de clasificació actual yi actual 2. Compara el valor actual co el valor deseado: Calcular el Error: e(i)= yi- yi actual 3. Calcular la correcció de pesos co la regla delta: w j =α x ij e(i), para j=, (α es ua costate de apredizaje) 4. Actualizar los pesos (w,,w ): w j (i+) = w j (i) + w j, para j=, Ejemplo i ((x i,,x i ),yi) : x i x x w U yi actual e(i)= yi- yi actual x i w w (i+)=w (i)+ w w (i+)=w (i)+ w w =α x i e(i) w =α x i e(i)

7 Aálisis de situacioes: Apredizaje de perceptróes Caso : yi = yi actual (ambos tiee o valor 0 o valor ) e(i)= yi- yi actual =0 w j =α x ij e(i)=α x ij 0 = 0 o se modifica los pesos w j (i+) = w j (i) Ejemplo: (X i,yi)= ((0,,),0) x =0 = x 3 = 0,5, si wi xi > U = i= 0, e caso cotrario = 0 Apredizaje de perceptróes Aálisis de situacioes: Caso 2: yi = e yi actual =0 (clasificado como egativo cuado debe ser positivo) e(i)= yi- yi actual = w j =α x ij e(i)=α x ij se aumeta los pesos de etradas activas: si x ij = etoces w j (i+) = w j (i)+ α aumetado los pesos de las etradas positivas se aumeta la posibilidad de que la salida sea positiva o se modifica los pesos de etradas egativas (si x ij =0 etoces w j (i+) = w j (i)) Ejemplo: (X i,yi)= ((0,,),) co α=0, x =0 = x 3 = 0,5 y=0 x =0 = x 3 = 0,3 0,3 0,5 y=

8 Apredizaje de perceptróes Aálisis de situacioes: Caso 3: yi = 0 e yi actual = (clasificado como positivo cuado debe ser egativo) e(i)= yi- yi actual =- w j =α x ij e(i)=-α x ij se dismiuye los pesos de etradas activas: si x ij = etoces w j (i+) = w j (i)- α o se modifica los pesos de etradas egativas (si x ij =0 etoces w j (i+) = w j (i)) dismiuyedo los pesos de las etradas positivas se aumeta la posibilidad de que la salida sea egativa Ejemplo: (X i,yi)= ((0,,),0) co α=0, x =0 = x 3 = 0,4 0,4 0,5 y= x =0 = x 3 = 0,3 0,3 0,5 y= Apredizaje de perceptróes Algoritmo de apredizaje:. Iizializacio: Fijar los pesos iiciales w,, w y el umbral U aleatoriamete e el rago [ 0.5, 0.5]. 2. Dado el ejemplo de etreamieto ((x i,x i2,,x i ),yi) realiza los pasos:. Clasificar el ejemplo (x i,x i2,,x i ) 2. Calcular el error e(i)= yi-yi actual 3. Calcular la correcció de pesos co la regla delta w j =α x ij e(i) 4. Actualizar los pesos w j (i+) = w j (i) + w j 3. Repite el paso 2 co el siguiete ejemplo hasta que el algoritmo coverge U criterio de covergecia habitual: el úmero de errores etre los últimos ejemplos es meor que u determiado umbral

9 Ejercicio Apredizaje de u perceptró: Realiza el apredizaje de u perceptró co tres etradas y ua salida (vea el dibujo) y co los siguietes ejemplos de etreamieto: {((0,,0),),((,0,0),0), ((,,0),),((0,0,),0)} Supó que los pesos y el umbral está iicializados a y que el parámetro α tiee el valor 0,3. x y x 3 Aálisis perceptró El objetivo del perceptro es clasificar etradas, (x,..., x ), e dos clases, por ejemplo A y A 2. La clasificació se realiza segú la siguiete regla de decisió: Si xiwi U > 0 etoces devuelve A. i= E realidad, el perceptró divide el espacio -dimesioal de etradas e dos regioes. La divisió viee dada por el hiperplao defiido por: j= w x U = 0 j j

10 Aálisis perceptró E dos dimesioes: E tres dimesioes: x Regió A Regió A 2 x x 3 Regió A Regió A hiperplao El hiperplao es u separador lieal Hay clases que o se puede separar co separadores lieales Ejemplo: XOR (itételo e u ejercicio) x hiperplao?? 0 Redes perceptoes de ua capa: cometarios Bueos para problemas secillos Como red euroal, bueo cuado las etradas y salidas so subsimbolicas etradas y salidas biarias o existe atributos claramete difereciados y idetificados Ejemplos: recoocimieto de patroes Es capaz de tratar ruido Apto para apreder fucioes aparetemete idepedietes de los valores cocretos de los atributos (p.e.: fució mayoría) Problemas: No puede represetar cualquier fució lógica (XOR) No fucioa co atributos de alto ivel (requiere la traducció de los casos a valores biarios)

11 Redes euroales para clases o liealmete separables Redes multicapa: x x 3 x 4 Etradas ua o varias capas ocultas Pesos Capa de salida el fucioamieto de cada euroa es igual que e el caso de la red de ua capa Represetabilidad de fucioes co redes multicapa Ejemplo: XOR x ,5-0,5 a a x a a 2 y Teorema: Co ua úica capa oculta (suficietemete grade) es posible represetar cualquier fució cotiua de las etradas co ua precisió arbitraria. -,5 y

12 Apredizaje e redes multicapa Idea: Igual que e el caso del perceptró simple: ajustar pesos para miimizar el error (diferecias etre salidas actuales y deseadas) Pero: Hay varias salidas posibles Se sabe los errores de la capa de salida, pero o los errores de las capas ocultas (o sabemos que valor ha de tomar los odos ocultos) x w,, O w 2,, S y w,,k w,, x w,,k w 2,k, w 2,,j O k S w j 2,k,j y j Solució: propagació hacia atrás del error Apredizaje e redes multicapa Pasos (co ua capa oculta): Para la capa de salida (w 2,r,s ): Calcular el error para cada salida: e 2,s =y s y s_actual Actualizar los pesos: w 2,r,s w 2,r,s + α O r e 2,s (O r es la salida de la euroa oculta O r ) Para la capa oculta (w,r,s ): Propagar el error hacia atrás: Actualizar los pesos: w,r,s w,r,s + α x r e,s x w,, O w 2,,, s = j= e S w 2, s, j y e 2, j Cada odo oculto es resposable de ua fracció de los errores cometidos por los odos de salida. w,,k w,, x w,,k w 2,k, w 2,,j O k S w j 2,k,j y j

13 Redes multi-capa: resume Teorema: Co ua úica capa oculta (suficietemete grade) es posible represetar cualquier fució cotiua de las etradas co ua precisió arbitraria. Problema: o se sabe la estructura (de la red) óptima para cada problema Idea: apreder la estructura y los pesos Sólo hemos visto redes muy simples. Existe otros efoques para: la propagació de los errores el ajuste de los pesos E geeral so útiles para tareas dode o se dispoe de atributos claramete idetificados (p.e. recoocimieto escritura)