Neuronas Artificiales

Transcripción

1 Modelos básicos b de Redes de Neuronas Artificiales Julián n Dorado Departamento de Tecnologías de la Información n y las Comunicaciones Universidade da Coruña Contenidos Tema 10: Procesado temporal mediante RNA Datos temporales: Las series temporales Procesados de datos temporales Soluciones desde las RNA Ventana temporal Inclusión n de Retardos Soluciones intermedias Desenvolver en el tiempo RNA parcialmente recurrentes RNA recurrentes Tema 11: Optimización n de arquitecturas de RNA 1

2 Series temporales Definición: n: Secuencia ordenada de observaciones Orden: tiempo -> > horas, días, d años Importante Todas las observaciones son dependientes entre ellas están n correlacionadas En estadística: stica: independencia en los datos NO se da en este caso Análisis de series temporales Aplicación: múltiples m campos Economía, medicina, meteorología Objetivos de su estudio Comprensión n del modelo Predicción n de valores futuros Control óptimo de un sistema En general -> > toma de decisiones Series temporales Métodos de modelización Cualitativos El pasado no proporciona información Ej: : respuesta del mercado a un nuevo producto Expertos Cuantitativos Se dispone de datos históricos del fenómeno Métodos Modelos de descomposición ARIMA 2

3 Series temporales Modelos de descomposición Conocer los componentes subyacentes de la serie Y t =D t +N t Determinísticos y aleatorios D t =T t +C t +E t +I t Tendencia Global Factor cíclicoc clico Largo plazo Movimiento estacional Movimiento irregular Distinto de aleatorio, se podría a prever Series temporales Tipos de series Estacionaria No estacionaria En la media En la varianza Caótica Ejemplo: billetes de avión tica Ejemplo: tiempo atmosférico 3

4 Series temporales Modelo ARIMA Modelización Parámetros Autorregresivo Integrativo Medias móvilesm Series Estacionarias Características Predicción n a corto plazo Desarrollo por expertos Iden tificación Estimación V alid ació n Predicción Datos de la serie Cálculo de estadísticos de la serie No Es la serie estacionaria? Si Selección de p, q y decisión sobre la inclusión d e μ -- Cálculo de estimadores -- Cálculo de estadísticos de los estimadores y de los residuos No Es el modelo adecuado? Si Selección de los períodos de predicción -- Cálculo de predicciones -- Cálculo de estadísticos para evaluación de la capacidad predictiva Transformación de la serie Selección de d y λ Predice correctamente? No Si Procesado de datos temporales Series temporales e Inteligencia Artificial Simbólica vs Conexionista Simbólica Emula la función Necesidad de experto Explicación Conexionista Emula la estructura Aprende de ejemplos Valores de certeza IA Simbólica Problemática Representación n de datos temporales Razonamiento Desarrollos Almacenamiento: BBDD temporales Contextos y relaciones Razonamiento Ajuste de la granularidad Modelo de Allen: : lógica l de predicados IA conexionista 4

5 RNA: Introducción Tareas de clasificación Algoritmo Back-propagation Poca flexibilidad (optimización) Tareas en el ámbito temporal Reconocimiento Secuencia - Valor Producción Valor - Secuencia Asociación Predicción A corto plazo A largo plazo RNA: Introducción Antecedentes Necesidad de recurrencias en las RNA McCulloch y Pits en 1943 Imposible por la realización n de algoritmos de aprendizaje Ventajas Almacenamiento de más m s información Se pueden emplear a patrones dinámicos y estáticos: ticos: Redes de Hopfield para clasificación n y asociación Inconvenientes Aprendizaje más m s inestable Necesita más m s tiempo 5

6 RNA: tipos de procesado Tipos: Ventana temporal Redes Back-propagation Retardos Temporal Back-propagation Time Delay Neural Networks (TDNN) Cuasi-recurrentes Back-Propagation Through Time (BPTT) Redes parcialmente recurrentes Recurrentes Neurona temporal Real Time Recurrent Learning (RTRL) RNA: Ventana temporal Series temporales simples Generación n de los conjuntos de entrenamiento Definir el tamaño o de ventana Construir ejemplos con entrada y salida El contexto va implícito en el ejemplo y es fijo 6

7 RNA: Time Delay Neural Networks RNA: Temporal Back-propagation 7

8 RNA: BackPropagation Through Time RNA: Parcialmente recurrentes Jordan b) Elman a) 8

9 RNA: neurona temporal Comportamiento temporal de la neurona RNA: Real Time Recurrent Learning Evaluación n hacia delante en el tiempo Alta carga computacional Evaluación n por tiempo, no por capas 9