Modelos con adversario [GANs] Fernando Berzal,

Transcripción

1 [] Fernando Berzal, 1

2 Generative Adversarial Networks SlideShare, Thomas da Silva Paula, HP 2 Generative Adversarial Networks Combinación de dos modelos: Modelo discriminativo(tradicional): Probabilidad condicional, P(y x) Modelo generativo: Probabilidad conjunta, P(x,y) 3

3 Generative Adversarial Networks SlideShare, Thomas da Silva Paula, HP 4 Generative Adversarial Networks SlideShare, Thomas da Silva Paula, HP 5

4 Generative Adversarial Networks Los dos modelos compiten entre sí: El modelo generativointenta construir instancias que confundan al modelo discriminativo. El modelo discriminativo utiliza tanto el conjunto de entrenamiento como las muestras sintetizadas por modelo discriminativo para ser más robusto. 6 Generative Adversarial Networks Más formalmente: 7

5 Generative Adversarial Networks Como problema de optimización: SOLUCIÓN Algoritmo de aprendizaje basado en el gradiente ascendente para el discriminador y en el gradiente descendente para el generador 8 Generative Adversarial Networks Algoritmo original 9

6 Modelo generativo Probabilidad conjunta, P(x,y) Modelo de la distribución de probabilidad que da lugar a los datos observados en el conjunto de entrenamiento. 10 Modelo generativo Ejemplos de muestras generadas 11

7 Modelo generativo Ejemplos de muestras generadas Dormitorios 12 Modelo generativo Ejemplos de muestras generadas Orientación de las caras 13

8 Modelo generativo Ejemplos de muestras generadas Aritmética de caras 14 Modelo generativo Ejemplos de muestras generadas Caras generadas (fila superior), envejecidas (fila central) y con una sonrisa (fila inferior) 15

9 Modelo generativo Discriminador Generador 16 Entrenamiento: Al principio Generador Discriminador 17

10 Entrenamiento: Con algo más de práctica Discriminador Generador 18 DCGAN Deep Convolutional GAN Recomendaciones arquitectónicas: Stridedconvolutions: Sustituir las capas de poolingpor convoluciones con paso >1. Sin capas completamente conectadas: La salida se conecta directamente a las capas convolutivas. Entrenamiento usando normalización por lotes (escala las entradas de cada capa, de forma que tengan media 0 y varianza 1). Generador con unidades ReLU y discriminador con unidades leaky ReLU (para imágenes en color). 19

11 DCGAN Deep Convolutional GAN Generador 20 Ejemplos diseñados por un adversario (o cómo engañar fácilmente a una red neuronal) 21

12 El proceso de entrenamiento habitual 22 Lo deseable 23

13 Lo que puede pasar 24 Ejemplos diseñados por un adversario (o cómo engañar fácilmente a una red neuronal) Si conocemos la red, podemos saber exactamente cómo modificar mínimamente la entrada para confundir a la red neuronal en la dirección del gradiente!!! 25

14 Ejemplos diseñados por un adversario (o cómo engañar fácilmente a una red neuronal) 26 Ejemplos diseñados por un adversario (o cómo engañar fácilmente a una red neuronal) 27

15 Implicaciones en seguridad 28 Referencias Ian J. Goodfellow, Jean Pouget-Abadie, Mehdi Mirza, Bing Xu, David Warde-Farley, SherjilOzair, Aaron Courville& Yoshua Bengio: Generative Adversarial Networks arxiv, June DC Alec Radford, Luke Metz & SoumithChintala: Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks arxiv, November

16 Referencias Adversarial examples(ejemplos diseñados por un adversario) Christian Szegedy, WojciechZaremba, Ilya Sutskever, Joan Bruna, Dumitru Erhan, Ian Goodfellow& Rob Fergus: Intriguing properties of neural networks arxiv, December Ian J. Goodfellow, Jonathon Shlens& Christian Szegedy: Explaining and Harnessing Adversarial Examples arxiv, December 2014 & ICLR Nicolas Papernot, Patrick McDaniel, Ian Goodfellow, Somesh Jha, Z. Berkay Celik& Ananthram Swami: Practical Black-Box Attacks against Machine Learning arxiv, February 2016 & ACM CCS