Least Squared Methods for System Identification. 1. Modelamiento de datos - Least Squared Estimator

Transcripción

1 16/4/2011 UNIVERSIDAD TECNICA FEDERICO SANTA MARIA DEPARTAMENTO DE ELECTRONICA ELO325 SoftComputing y Aplicaciones Least Squared Methods for System Identification Tomás Arredondo Vidal - 1. Modelamiento de datos - Least Squared Estimator Dado un grupo de observaciones uno muchas veces quiere crear un modelo de las observaciones que sea una representación de lo observado. Generalmente lo ideal es que el modelo tenga parámetros ajustables que se puedan variar para acercar el modelo lo mas posible al sistema observado. Algunas aplicaciones de esto son: Predecir el funcionamiento futuro de un sistema complejo (Ej. la bolsa, el clima). Explicar las interacciones y relaciones entre entradas y salidas de un sistema con varios componentes (Ej. un receiver con varios DACs de 8 bits: REF, ANT, PRE, VCO para un sintetizador de frecuencias) FREQout = θ 1 DAC 1 + θ 2 DAC 2 + θ 3 DAC 3 + θ 4 DAC 4 Diseño de controladores basado en modelos/algoritmos y simulación del sistema siendo controlado (Ej. un controlador PID con varios parámetros k 1, k 2, k 3 ) Definiciones C(s, k) = k 1 + k 2 /s + k 3 s Matrices son representadas en capitales negritas (e.g. A, B) Vectores se asumen como vectores de columnas, representados con minúsculas negritas (e.g. x, y) Escalares y funciones escalares son representados como letras no en negritas (e.g. a, b, C, D) Un matriz de nxn A se considera invertible o no-singular si es que existe un matriz de nxn B para el cual se cumpla que: AB = BA = I n donde I n denota el matriz de identidad de nxn. Si este es el caso entonces la matriz B esta únicamente determinado por A y se denomina el inverso de A o A -1. Si A no tiene un inverso entonces se denomina como singular.

2 Modelo y función de merito Tipicamente hay que elegir una función de merito (function of merit) que mide la diferencia entre nuestro modelo (con un set determinado de parámetros) y los datos observados. Valores pequeños de la función indican que hay poco error entre el modelo y las observaciones. Input: u i Sistema Output: y i Modelo f(u;θ) Output: ŷ i Error: y i - ŷ Dependiendo del sistema se pueden utilizan funciones diferentes ( f ) y si no se tiene conocimiento con anterioridad del sistema hay que determinar cual tipo de función a usar. El output del modelo puede ser una expresión lineal en θ: (1) y = θ 1 f 1 (u) + θ 2 f 2 (u) θ n f n (u) en el cual u = [ u 1,u 2,...,u p ] T es el vector de input, f 1, f 2,..., f n son funciones conocidas de u, y θ 1, θ 2,..., θ n son los parámetros a ser estimados (coeficientes de regresión). Ajustar una función lineal (en θ) a un grupo de datos es lo que se llama regresión lineal. Considerando un set de input (training data set) compuesto de pares de datos {( u i ; y i ), i = 1, 2,..., m} que representan m pares de input-output deseados (porque representan correctamente el funcionamiento del sistema) o disponibles (como resultados de experimentos). Substituyendo el set de input en (1): y 1 = θ 1 f 1 (u 1 ) + θ 2 f 2 (u 1 )+...+ θ n f n (u 1 ) y 2 = θ 1 f 1 (u 2 ) + θ 2 f 2 (u 2 )+...+ θ n f n (u 2 )... y m = θ 1 f 1 (u m ) + θ 2 f 2 (u m )+...+ θ n f n (u m )

3 Escrito como matriz, (2) Aθ = y En el cual A es un matriz de m x n que se llama el matriz de diseño (design matrix): m x n n x 1 m x 1 f 1 (u 1 )... f n (u 1 ) θ y 1 1 A = f 1 (u 2 )... f n (u 2 ), θ = θ y 2, y = f 1 (u m )... f n (u m ) θ y n n a i T es la fila i de la matriz A. Se considera (a i T ; y i ) como el input-output par de datos (data pair) de la fila i del set completo de entrenamiento. En el caso de que A sea invertible (AA -1 = I) y m = n se puede calcular θ : (3) θ = A -1 y Generalmente m > n indicando que hay mas pares de datos que parámetros. En este caso una solución exacta puede no ser posible y los datos pueden estar contaminados por errores. En ese caso se modifica (2) y se le incorpora un vector de error e: (4) Aθ + e = y La idea ahora es encontrar un θ que minimiza la suma del error cuadrado (sum of squared error) o e T e : (5) i=m E θ= y i a T i θ 2 = y Aθ T y A θ=e T e i=1 en el cual e es el vector de error producido por una selección de θ. La idea es encontrar a θ que minimize el error E(θ) El error cuadrado en (5) es minimizado cuando θ, llamado el estimador del cuadrado mas pequeño (least squares estimator o LSE) satisface la ecuación normal: (6) A T A θ = A T y Si A T A es no-singular, θ es único y dado por: (7) θ = (A T A) -1 A T y

4 Demostración: (Jang p. 106) Ya que: θ T A T y= y T A θ, E θ= y T A T θ T y A θ=θ T A T Aθ 2 y T A θ y T y Tomando el derivado de E con respecto a θ, E θ/ θ=2 A T A θ 2 A T y Asignando el derivado de E = 0 para obtener θ = θ min, (A T A)θ min = A T y y si A T es no-singular entonces (8) θ min = (A T A) -1 A T y Ejemplo 1: Hooks Law: k 0 + k 1 F = l l F Experimento Fuerza Largo Hagamos un modelo un least square estimator que minimiza el error...

5 Substituyendo los valores del experimento de Hook en a la ecuación (4): Aθ + e = y Asumiendo el modelo: k 0 F 0 + k 1 F 1 = l [ e [ ] k e 3 0 k 1] [e1 7] e 4 =[ e e e 5.0] Usando (8) se calcula el estimador de least squares que minimiza e T e: θ min = (A T A) -1 A T y Este es el modelo que minimiza el error cuadrado (LSE) para los datos del experimento: l = F Si el modelo lineal no esta de acuerdo a los datos obtenidos es posible incrementar los grados de libertad de nuestro modelo. Después se puede utilizar el mismo proceso para obtener los parámetros que minimizan el error. Esto se ve en el siguiente ejemplo: Ejemplo 2: A e y [ k 0 1] k = AT A 1 A T y= [ ] Hooks Law II : k 0 + k 1 F + k 2 F 2 = l Experimento Fuerza Fuerza 2 Largo

6 Substituyendo los datos en (4): Aθ + e = y [ ] [k k 2] k A e 2 e 3 [e1 7] e 4 e 5 e 6 e e =[ ] y El estimador de least squares que minimiza e T e es igual a: θ min = (A T A) -1 A T y A T A 1 A T y=[k 0 k 1 k 2] Tarea para la casa: Calcular (A T A) -1 A T y Con k 0, k 1 y k 2 tiene el nuevo modelo que minimiza el error cuadrado (LSE optimizer): k 0 + k 1 F +k 2 F 2 = l 1.1 LSE optimizer recursivo y sistemas que varían temporalmente El estimador (LSE) derivado en la sección anterior puede ser expresado como: θ k = (A T A) -1 A T y Si los resultados experimentales no son todos disponibles inmediatamente es deseable utilizar los resultados que se tienen para calcular un valor inicial del LSE θ k e ir agregando valores experimentales disponibles para obtener θ k+1 incrementalmente: θ k 1 = [ A T] a T[ A a T] 1 [ A T] T a [ y y]

7 Esto es básicamente un método de optimizar para no tener que recalcular el A -1 por cada dato (a T ; y) nuevo. Para esto se calcula un vector de ganancia adaptativo P k+1 que se multiplica por el error de predicción producido por el antiguo estimador θ k : θ k = P k A T y y θ k+1 = θ k + P k+1 a(y - a T θ k ) En el cual: P k = (A T A) -1 y P k+1 = (A T A + aa T ) -1 En el caso de que el sistema siendo estudiado varia temporalmente es posible introducir un factor λ que le da mas importancia a los datos mas recientes 1.2 Propiedades estadísticas y Maximum Likelihood Estimador (MLE) Para examinar las propiedades del optimizador LSE se estudia la ecuación Aθ + e = y desde un punto de vista estadístico. Se asume que θ es el vector de parámetros correcto, e es un vector aleatorio y que y es también un vector aleatorio dado que depende de e. Definiciones Un estimador θ e de θ min no tiene bias (unbiased) si E(θ e ) = θ min, E( ) indica el operador de la expectación estadísticas. La idea es que el estimador este centrado con respecto a θ min (el estimador de cuadrado más pequeño o LSE). Un estimador θ e de θ min es consistente si lim Prob θ e θ =0 para cualquier 0 k Si una variable aleatoria X tiene un promedio μ = E(X) entonces la variancia de X es dada por : var(x) = E[( X - μ ) 2 ] La covariancia entre dos variables aleatorias X e Y considerando que μ = E(X) y ρ = E(Y) esta dada por : cov(x, Y) = E[( X - μ )( Y - ρ )] Un estimador θ e de θ min tiene minima variancia si para cualquier otro estimador θ*: cov(θ e ) cov(θ*) En el cual cov(x) es el matrix de covariancia del vector aleatorio x. Esto tiene importancia ya que es un indicador es preciso y su distribución no tiene gran dispersión.

8 Teorema Gauss-Markov: Bajo las condiciones Gauss-Markov: E[e] = 0, E[ee T ] = σ 2 I. Que indican que e es un vector de m variables aleatorias no correlacionadas, con promedio cero y con la misma varianza σ 2. El estimador LSE (Least Squared Error) no tiene bias (unbiased) y tiene variance minima. El estimador LSE (Least Squared Error) es consistente. MLE El Maximum Likelihood Estimator (MLE) es un método usado para estimar parámetros de distribuciones estadísticas. Definición El pdf es un histograma continuo en el cual el área entre dos puntos (el integral) representa la probabilidad que la variable aleatoria este entre esos dos puntos: f(x) : Prob [x 1 < X < x 2 ] = f(x) dx Asumiendo que hay una muestra x 1, x 2,..., x n de una variable aleatoria x que esta tomada de una función de probabilidades desconocida f 0 (x; θ) en la cual f 0 corresponde a θ = θ 0 que es llamado el valor verdadero de los parámetros a ser estimados. Para un grupo de n observaciones iid de esta variable x 1, x 2,..., x n la pdf es: f(x 1, x 2, x n θ) = f(x 1 ; θ) f(x 2 ; θ)... f(x n ; θ) Si lo miramos de otro punto de vista, los valores observados x 1, x 2,..., x n son los parámetros fijos de esta función y se permite variar los valores de θ. Desde este punto de vista la función se llama verosimilitud (likelyhood) y hay una cierta probabilidad de que el valor de la estimación de los parámetros θ e corresponda a los datos observados. L(θ x 1, x 2, x n ) = f(x 1 ; θ) f(x 2 ; θ)... f(x n ; θ) Sin saber apriori información sobre el valor real de θ queremos elegir un valor de θ que da una alta probabilidad de obtener los valores observados x 1, x 2,..., x n Se define el MLE, θ e, como el valor de θ que maximiza L dado que θ=θ e : L/ θ=0 El MLE es valor de θ que tomando el derivado parcial de L con respecto a θ es igual a 0. Existe equivalencia entre el LSE y el MLE si se asume que cada elemento del vector de error e es una variable aleatoria con distribución normal.

9 Referencias: [1] Jang, J.S. Neuro-Fuzzy and Soft Computing, Prentice Hall, 1997 [2] Apendice: Ejemplo de E( ), var( ) Si tenemos una variable aleatoria X (el numero de puntos en un dado bueno). E(X) = μ = Σ x P(x) = 1(1/6) + 2(1/6) + 3(1/6) + 4(1/6) + 5(1/6) + 6(1/6) = 3.5 E(X 2 ) = Σ x 2 P(x) = 1 2 (1/6) (1/6) (1/6) (1/6) (1/6) (1/6) = Var(X) = E((X-μ) 2 ) = Σ (x - E(X)) 2 P(x) = Σ E(X 2 ) - Σ [E(X)] 2 = = Si tenemos una variable aleatoria Y (el numero de puntos en un dado arreglado). E(Y) = 1(1/12) + 2(1/12) + 3(2/6) + 4(2/6) + 5(1/12) + 6(1/12) = 3.5 E(Y 2 ) = 1 2 (1/12) (1/12) (2/6) (2/6) (1/12) (1/12) = Var(Y) = Σ E(Y 2 ) - Σ [E(Y)] 2 = = Funciones de probabilidades de X e Y P(X) P(Y) 4/12 4/12 3/12 3/12 2/12 2/12 1/12 1/ x y

10