DISEÑO EXPERIMENTAL Y OPTIMIZACIÓN DE SISTEMAS CON MÚLTIPLES RESPUESTAS

Transcripción

1 DISEÑO EXPERIMENTAL Y OPTIMIZACIÓN DE SISTEMAS CON MÚLTIPLES RESPUESTAS Parte 5: Redes neuronales Héctor Goicoechea hgoico@fbcb.unl.edu.ar

2 Redes Neuronales No se basan en un modelo algebraico explícito sino en un conjunto de unidades de activación o neuronas.

3 Redes Neuronales Emplean un modelo universal no-lineal para ajustar los datos. Modelan exitosamente relaciones no-lineales entre factores y respuestas.

4 Redes Neuronales Analogía con la neurología básica Dendritas = entradas Señales de entrada (x 1, x2,... xi,... xm) x 3 x i x 2 Sinapsis = contacto Soma = procesamiento x 1 x m Salida s k Axón = salida

5 Redes Neuronales Esquema de una neurona artificial x 1 x 2 w 1 w 2 w 3 w 4 suma transferencia Salida = s k x 3 x 4

6 Redes Neuronales Obtención de la señal de entrada a la neurona: x w 0.18 NET= 0.1x0+0.2x1+(-0.3x-1)+(-0.02x1) = 0.48 NET = x T w

7 Redes Neuronales Aprendizaje lineal: NET i W (t+1) W inicial (w 1, w 2,,w m ) W (t)

8 Redes Neuronales nd i 1 w ij ( x i ')

9 Redes Neuronales Importancia del BIAS: y = ax y = ax + n

10 Redes Neuronales Función de transferencia sigmoidea: Salida 1 1/a 0.5 n NET 0 sf (NET, a,n) = 1 / [1 + exp (- a (NET n))] Se puede considerar a n y a como una constante de contacto en la sinapsis llamada bias

11 Arquitectura de una red

12

13

14 Redes Neuronales La suma ponderada de las entradas se calcula como: X i * = nd i 1 w ij ( x i ') donde w es el peso y θ el sesgo o bias La respuesta estimada se puede expresar como: yˆ f o '' nh j 1 w j '' f h nd i 1 w ij '( x i ') W ij, Wj, θ y θ son parámetros ajustados por el algoritmo (gradiente descendente)

15 x 1 W ij Redes Neuronales Entrenamiento por retroalimentación del error: W j + f h x 2 x 3 + f h + f o yˆ = y yˆ E= y- + f h x 4 Entrada Escondida Salida Procedimiento iterativo que comienza con un valor al azar de los w y luego se van ajustando suavemente para disminuir el error

16 Redes Neuronales Entrenamiento: juegos de calibración, monitoreo y validación MLR o PLS Juego de entrenamiento Validación cruzada o parámetros de ajuste ANN Datos de calibración Modelo Juego de entrenamiento Juego de monitoreo Validación del modelo Datos de validación

17 Redes Neuronales Entrenamiento: elección del mejor modelo 6.0 RMSETrain and RMSEMonit stopping point Monitoring set Training set Iterations

18 Uso de ANNs en optimización Se guardan los pesos correspondientes al mejor modelo LS ANN

19 Uso de ANNs en optimización Una vez que se obtuvo el mejor modelo, se predicen muchas combinaciones posibles que cubran el espacio experimental Mejor modelo: contiene los pesos correspondientes al mejor modelo

20

21

22

23

24

25

26

27

28

29 Desarrollo de un diseño apropiado para ANNs Total de experimentos: 62 Esto resulta más económico que 125 experimentos de un Factorial Completo a 5 niveles

30 Diseño con buenas propiedades: evaluación del leverage para modelo cúbico

31 Modelo LS para respuesta en metanol Se sugiere un modelo cúbico

32 Ecuación final para metanol x 1 = Solvente x 2 = Acetileno x 3 = Muestra Y (metanol) = x x x x 1 x x 1 x x 2 x x x x 1 x 2 x x 22 x x 2 x x x 3 3

33 Evaluación del modelo

34 Predicciones de puntos experimentales usados para construir el modelo

35 Predicciones de 27 puntos experimentales usados para comprobar el modelo

36 Arquitectura de la ANN Retroprogación del error Set de Entrenamiento Relación Combustiblecomburente Capa de entrada Capa escondid a N = 50/60 Capa de salida Proporción de alcohol en el solvente Absorbancia Caudal de muestra...

37 Se guardan los pesos correspondientes al mejor modelo w 1 w 2 w n S LS Se compara la salida con las respuestas experimentales y se repite el cálculo buscando minimizar el error ANN

38

39 Predicciones con la ANN Set de predicción 27 muestras nuevas Capa de entrada Capa escondid a N = 50/60 Capa de salida Relación Combustiblecomburente Proporción de alcohol en el solvente Caudal de muestra... Predicción de la Absorbancia

40 LS 0.4 ANN Regresión LS (r2=0.862) Regresión ANN (r2=0.981) Predicho Nominal

41 Archivos: Rcal_1.txt para las combinaciones del diseño xcal_1_1.txt, xcal_1_2.txt y xcal_1_3.txt para los tres alcoholes

42

43

44 Otro tipo de ANN: Radial Basis Functions

45

46 Diseño D-optimal: 23 experimentos

47 Modelo explicito muy complejo

48

49 Uso del programa sro_ann

50

51

52

53

54

55

56

57

58 Varias respuestas

59

60

61

62

63

64