Introducción. En el tema anterior se ha visto como aproximar la frontera de decisión óptima h(x)=p(w 1

Transcripción

1 Recoocmeto de Patroes ema 5: Clasfcadores o Leales Itroduccó E el tema ateror se ha vsto como aproxmar la frotera de decsó óptma h(x)p( x)-p( x) medate: Ua fucó leal: g(x) x x x... d x d Ua combacó de fucó leal y logístca: /(exp(- g(x))) E ambos casos la frotera de decsó geerada es leal. E la práctca, cuado la frotera de decsó óptma o es leal los resultados obtedos co clasfcadores leales o so satsfactoros. E este tema se verá métodos para dvdr el espaco de característcas e regoes de decsó cuya frotera o es leal. Se presetará dos tpos de clasfcadores: Clasfcador polomal. Máqua del vector soporte. Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

2 Recoocmeto de Patroes ema 5: Clasfcadores o Leales Clasfcador Polomal () Cómo trasformar el clasfcador leal para obteer froteras de decsó o leales? Ua dea smple: La forma del clasfcador leal es: g(x) x x x... d x d Itroduzcamos los térmos de grado : g(x) x x x... d x x d x x... dd x d x x... d x d Este tpo de fucó ya la ecotramos e el ema : es ua fucó dscrmate cuadrátca. Podemos segur co el grado : g(x) x x x... y segur hasta u grado arbtraro. Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

3 Recoocmeto de Patroes ema 5: Clasfcadores o Leales Clasfcador Polomal () Las fucoes dscrmates polomales aterores tee ua forma comú: g(x) φ (x) φ (x)... d φ d* (x) Eemplo: S la fucó g es: g(x) x x x x x x x x Etoces defedo: φ (x) x, φ (x) x x, φ (x) x x, φ (x) x, φ 5 (x) x, φ 6 (x) x Podemos escrbr: g(x) φ (x) φ (x) φ (x) φ (x) φ 5 (x) φ 6 (x). Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

4 Recoocmeto de Patroes ema 5: Clasfcadores o Leales Fucó Dscrmate Leal Geeralzada (FDLG) Llamaremos Fucó Dscrmate Leal geeralzada a toda fucó dscrmate co la forma: d* g(x) φ (x) φ (x)... d φ d* (x) φ ( x) Las fucoes φ puede ser polomales o de otro tpo: Gausaas, Sples, etc... La dea de descompoer ua fucó complea como suma de otras más smples es ua dea recurrete e Matemátcas: Seres de aylor (75). Seres de Fourer (8). Seres de Wavelets. (986) De hecho, ya la hemos usado co las vetaas de Parze: pˆ( x) δ( x x ) Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

5 Recoocmeto de Patroes ema 5: Clasfcadores o Leales FDLG: Notacó y Represetacó Gráfca Notacó: al y como ocurró co las FDL escrbremos: g(x) φ (x) φ (x)... d φ d* (x). g(x) φ (x) φ (x)... d φ d* (x) φ (x) dode φ (x) es la fucó que sempre vale uo. Etoces: g(x) φ(x) (,,..., d*, ), φ(x)(φ (x), φ (x),...,φ d* (x),φ (x)) Represetacó gráfca: g(x) g... g c d* c c d* cd* φ (x) φ (x)... φ d* (x) x x d FDL geeralzada: Represetacó gráfca (dos clases) φ (x) φ (x)... φ d* (x) x x d FDL geeralzada: Represetacó gráfca (c clases) Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

6 Recoocmeto de Patroes ema 5: Clasfcadores o Leales FDLG: Etreameto Ua observacó crucal: Las fucoes φ trasforma el el espaco orgal de característcas e u uevo espaco. E este uevo espaco el problema es determar ua fucó dscrmate leal. Espaco rasformado Espaco Orgal φ (x) x g(x) d* φ (x)... φ d* (x) x d Por tato, el esquema de apredzae es: Paso : rasformar los datos de etrada co las fucoes φ Paso : Aplcar a los datos trasformados alguo de los métodos del tema ateror Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

7 Recoocmeto de Patroes ema 5: Clasfcadores o Leales Clasfcador Cuadrátco:Eemplo U clasfcador cuadrátco capaz de resolver el problema del XOR: g(x) -/ - φ (x) φ (x)x φ (x)x φ (x) x x x x El Problema del XOR: Solucó cuadrátca La fucó dscrmate es: g(x)-/ - x x x x Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

8 Recoocmeto de Patroes Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua ema 5: Clasfcadores o Leales Separabldad Leal: eorema de Cover Observacó: El problema del XOR se resuelve porque hemos pasado del espaco de característcas orgal de dmesó defdo por x(x, x ) a u espaco de trasformado de dmesó defdo por φ(x)(, x, x, x x ) dode el problema sí es lealmete separable. Puede probarse que el cremeto de la dmesoaldad hace más fácl lograr la separabldad leal eorema de Cover La probabldad de que dos clases sea lealmete separables se aproxma a cuado la dmesoaldad del espaco de característcas d tede a fto y el úmero de muestras crece de lmtado por (d). La aproxmacó tee por tato múltples vetaas: Aumetado el úmero de característcas es más probable que las clases sea lealmete separables ( esto puede hacerse para clasfcadores polomales cremetado el grado del polomo) Se tee algortmos de etreameto para determar los pesos.

9 Recoocmeto de Patroes Problemas... El úmero de parámetros a estmar es meso. ema 5: Clasfcadores o Leales Por eemplo para dez característcas y u polomo de grado el úmero de parámetros es: La preseca de u úmero ta grade de parámetros hace que el clasfcador sufra de sobreauste: FDLG Polomal: Grado FDLG Polomal: Grado FDLG Polomal: Grado 5 FDLG Polomal: Grado 9 Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

10 Recoocmeto de Patroes Sobreauste: Regularzacó Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua ema 5: Clasfcadores o Leales Observacó: E geeral, cuado se produce sobreauste los pesos so cada vez más grades. Podemos troducr como formacó adcoal que pesamos que el vector de pesos debe ser pequeño. La sercó de formacó adcoal e el esquema estadístco bayesao se hace medate la probabldad a pror. Por tato defremos: p()n(;σ I) Apredzae: Puesto que hay formacó a pror se utlza la estmacó MAP (ya se ha vsto como se hace e el tema ateror para regresó logístca). Cuál es el valor de σ? Como sempre se determa medate u couto de etreameto y otro de testeo Este esquema se suele llamar regularzacó. Aú así queda el problema de estmar u eorme úmero de parámetros.

11 Recoocmeto de Patroes ema 5: Clasfcadores o Leales Máqua del Vector Soporte (MVS) La MVS Support Vector Mache (SVM) es u clasfcador desarrollado por Vapk (995). Está basada e la teoría de apredzae computacoal de Vapk- Cheroveks (VC). Además de utlzarse e problemas de clasfcacó puede extederse a: Regresó Estmacó de fucoes de desdad. Como clasfcador está dseñado tato para proporcoar ua alta capacdad de geeralzacó como para trabaar e espacos de alta dmesoaldad. Comba ua sólda fudametacó teórca co bueos resultados e problemas reales. Represeta actualmete el estado del arte e clasfcacó. Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

12 Recoocmeto de Patroes MVS: Caso Leal (CL) Caso Lealmete Separable: ema 5: Clasfcadores o Leales Dados coutos lealmete separables Qué frotera leal proporcoa ua meor capacdad de geeralzacó? Froteras de separacó leal Al abordar este problema desde la teoría de apredzae VC se demuestra que la frotera óptma es aquella que proporcoa u mayor marge Frotera Óptma Marge Frotera óptma segú la teoría VC Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

13 Recoocmeto de Patroes Recordamos: MVS:(CL).Separacó Leal oda frotera leal se escrbe como: g(x) x ema 5: Clasfcadores o Leales La regla de decsó es: Elegr s g(x) ; Elegr s g(x) (S g(x) es postvo elegr, s g(x) es egatvo elegr ). Represetaremos el sgo deseado para cada elemeto del couto de etreameto como: y s x, y - s x Para que todo el couto de etreameto esté be clasfcado es ecesaro que: El sgo deseado y el obtedo cocda: y ( x )>,... g(x)> g(x) y g(x)< y - Sgos deseados y obtedos Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

14 Recoocmeto de Patroes ema 5: Clasfcadores o Leales U Eemplo Ical () Clasfcacó udmesoal: g(x)x Couto de etreameto:x -, x ; x, x 5 Sgos deseados: y, y, y -, y - y y y - y - x - x x x 5 Codcoes de separabldad leal: (x )>: - > (x )>: > -(x )>: -- > -(x )>: -6- > Regó sombreada: valores de y que produce separacó leal Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

15 Recoocmeto de Patroes ema 5: Clasfcadores o Leales MVS:(CL).Formulacó Ical E el caso de separabldad leal: La dstaca de u puto x a la frotera leal g(x) x es: y ( x ) dst( x, g) Por tato para calcular el marge debemos calcular la meor dstaca del couto de etreameto H a la frotera. marge(, ) m... y ( para los valores de y que represeta froteras que separa los putos del couto de etreameto: x y ( x )>,... ) g(x) Por lo tato se obtee u problema de optmzacó co restrccoes: max marge(, ) s.a y ( x ) >... Marge Marge y frotera de decsó Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

16 Recoocmeto de Patroes MVS:(CL).Normalzacó () U problema para buscar la frotera óptma: Ua frotera leal o tee ua represetacó úca. ema 5: Clasfcadores o Leales S se tee g(x) x y se multplca e ambos membros de la ecuacó por ua costate o ula la ecuacó o camba. Es decr, la frotera leal represetada por g(x) x es equvalete a λ( x ), λ. Esto hace que el problema de optmzacó sea complcado de resolver. Solucó: Elegr de todas las represetacoes de ua frotera leal dada aquella para la que el meor valor de g(x ) y ( x ) sea gual a. g(x) g(x)- g(x) Normalzacó Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

17 Recoocmeto de Patroes MVS:(CL).Normalzacó () De esta forma se tee que: El marge se calcula de forma smple como: y ( x ) marge (, ) m x H ema 5: Clasfcadores o Leales Las ecuacoes y ( x ) pasa a y ( x ) pues el meor valor que toma y ( x ) es uo. Por tato se obtee el problema: max ( ) / s.a y ( x )... Para hacer máxmo el cocete podemos hacer mímo el deomador co lo que se obtee el problema equvalete: m s.a y ( x )... Este u problema de programacó cuadrátca, tee u úco óptmo y puede resolverse co compledad computacoal polomal. Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

18 Recoocmeto de Patroes U Eemplo Ical () Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua ema 5: Clasfcadores o Leales Clasfcacó udmesoal: g(x)x Couto de Etreameto :x -, x ; x, x 5 Sgos deseados: y, y, y -, y - Normalzacó: Eemplo La frotera determada por g(x)x co (, )(-,/) cumple las restrccoes de separacó leal. Para ormalzarla, el meor valor de g(x) y (x ) debe ser gual a. Calculamos los valores: y (x )5/ ; y (x )/; y (x )/; (x )7/ El meor valor es / y ocurre para x. Etoces dvdedo por / obteemos el uevo vector (, )(-,) que defe exactamete la msma frotera que ates g(x)-x pero ahora: y y y - y - Marge/ y (x )5 ; y (x ); y (x ); (x )7 Frotera: -x Además ahora sempre y (x ) x - x x x 5 y el marge es / / g(x)-x/ Marró: g(x) s ormalzar.naraa: g(x) ormalzada

19 Recoocmeto de Patroes ema 5: Clasfcadores o Leales U Eemplo Ical ():Solucó Clasfcacó udmesoal: g(x)x Cto. Etreameto H:x -, x ; x, x 5 Sgos deseados: y, y, y -, y - Codcoes de separabldad leal ormalzadas: (x ) : - (x ) : -(x ) : -- -(x ) : -6- Fucó a mmzar: / ( )/ Valor óptmo: Óptmo El meor valor que puede tomar / e la regó sombreada se obtee co -. g(x) Por tato el clasfcador MVS es: g(x)-x y la frotera g(x) es x -- Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua Regó sombreada: separabldad leal ormalzada y y y - y - x - x x x 5 Frotera: x Marge Clasfcador MVS

20 Recoocmeto de Patroes ema 5: Clasfcadores o Leales MVS:(CL).Resolucó Práctca () Para resolver el problema: m s.a y ( x )... Se halla su problema dual: max yy s.a y... Ua vez resuelto el problema dual: ^ ^ ^ ^ S la solucó óptma es (,,..., ) el valor óptmo de es: El valor óptmo de se obtee como:,, ˆ ˆ ( x y x ˆ ˆ x, co x x ) y ˆ > Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

21 Recoocmeto de Patroes Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua ema 5: Clasfcadores o Leales MVS:(CL).Resolucó Práctca () Vectores soporte E la solucó óptma del problema dual ^ (^, ^,...,^ ) los úcos valores o ulos so los correspodetes a las muestras sobre el marge. Estas muestras se llama vectores soporte. E la práctca so pocos los elemetos que Vectores Soporte Vectores Soporte: Represetacó está sobre el marge. Por tato la mayoría de los so ulos. Llamaremos Sop a los ídces correspodetes a los vectores soporte. Etoces: ˆ ˆ y x ˆ y x Sop ˆ ˆ y ( x x ), co x y ˆ > Sop ˆ x ˆy ˆy ( ) x x x x Sop Sop g( x) Frotera Óptma

22 Recoocmeto de Patroes ema 5: Clasfcadores o Leales MVS:(CL).Resolucó Práctca () Productos escalares E la formulacó del problema dual los elemetos del couto de etreameto solo tervee a través de sus productos escalares (x x ). max yy ( x x ) s.a y,,... Para calcular solo aparece los productos escalares ˆ ˆ y ( x x ), co x y ˆ > Sop Para calcular la clase de u vector x de uevo solo aparece productos escalares: g( x) ˆ y ( x x) Sop Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

23 Recoocmeto de Patroes ema 5: Clasfcadores o Leales Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua U Eemplo Ical ():Solucó Dual Clasfcacó udmesoal: g(x)x Cto. Etreameto H:x -, x ; x, x 5 Sgos deseados: y, y, y -, y - Problema a resolver: Problema dual: 5 s.a m... ) ( s.a m y x,,, s.a / max,... s.a ) ( max, x x y y y

24 Recoocmeto de Patroes ema 5: Clasfcadores o Leales U Eemplo Ical (5):Solucó Dual Solucó óptma: ^ (,/,/,) Vector óptmo: ˆ ˆ y x Costate óptma: ^ ^ -x -(-) Clasfcador: Por tato el clasfcador MVS es g(x)-x y la frotera g(x) es x Sop (/ ) (/ ) ( ) g(x) Vectores Soporte y y y - y - Marge x - x x x 5 Frotera: x Clasfcador MVS Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

25 Recoocmeto de Patroes ema 5: Clasfcadores o Leales MVS: Caso o Separable () E el caso o separable o es posble clasfcar s errores todo el couto de etreameto medate u clasfcador leal. Ya o será posble cumplr todas las codcoes y ( x ) Por tato será y ( x ) - ξ I co ξ I Etoces: S ξ I la muestra está e la zoa de su clase. S ξ I la muestra se mete e la zoa del marge. S ξ I > se mete e la zoa de la otra clase. Ahora teemos dos crteros: Obteer la frotera de mayor marge. Que esta frotera tega pocas equvocacoes (es decr que ξ I sea lo más cercao a ). Lo que se hace es combar los dos crteros. Caso o leal ξ g(x) g(x)- g(x) Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

26 Recoocmeto de Patroes ema 5: Clasfcadores o Leales Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua MVS: Caso o Separable () Combacó de crteros: El prmer térmo de la suma a optmzar busca el mayor marge, el segudo el meor úmero de equvocacoes. La mportaca de cada uo se expresa a través de la costate C que poe el usuaro. Problema dual: Vector óptmo:... ) ( s.a m N y C ξ ξ ξ x C y y y... s.a ) ( max, x x Sop y x ˆ ˆ

27 Recoocmeto de Patroes MVS o leal Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua ema 5: Clasfcadores o Leales Co ua MVS leal solo puede obteerse froteras leales La forma de obteer ua MVS para froteras o leales se basa e la msma dea que las Fucoes Dscrmates geeralzadas. rasformar los datos de etrada medate u couto de fucoes o leales φ(x)(φ (x), φ (x),...,φ d* (x)) y luego aplcar la MVS leal. ras esta trasformacó se tee (por e. para el caso separable): Problema dual: max s.a y óptmo: óptmo: ˆ, y... ^ Clasfcador óptmo: g(x) φ(x) y ( φ( x ) φ( x ˆ ˆ φ( x ), co x y ˆ > ^ ˆ yφ( x Sop ) ))

28 Recoocmeto de Patroes Problema: El ruco del Núcleo () Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua ema 5: Clasfcadores o Leales Ya vmos que uo de los problemas de trabaar co fucoes o leales φ(x)(φ (x), φ (x),...,φ d* (x)) cosste e que geeralmete el úmero de ellas d* es muy grade. El costo computacoal de calcular los productos escalares (φ(x ) φ( x )) es també d* y por tato muy grade. Observacó: E determadas crcustacas e posble evaluar los productos escalares (φ(x ) φ( x )) s calcular las fucoes φ. Eemplo: S φ(x)(x, x, x x ) etoces: (φ(x) φ( y)) (x, x, x x ) (y, y, y y ) (x y) ruco: El truco del úcleo cosste e calcular (φ(x) φ( y)) medate algua fucó de las muestras orgales k(x,y). A esta fucó se la llama fucó úcleo.

29 Recoocmeto de Patroes El ruco del Núcleo () ema 5: Clasfcadores o Leales odo el problema MVS o leal se puede poer co fucoes úcleo. Por eemplo para el caso lealmete separable: Problema dual: max s.a óptmo: y Clasfcador óptmo: g( x) ˆ yk( x, x) Sop, y y,... k( x, x ˆ ˆ yk( x, x ), co x ˆ ) y ˆ > Sop Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

30 Recoocmeto de Patroes El ruco del Núcleo () ema 5: Clasfcadores o Leales La fucó úcleo k(x, y) mde la smltud etre las muestras x e y. No toda fucó k (x, y) puede ser utlzada como fucó úcleo. Debe satsfacer la deomada codcó de Mercer. Alguas fucoes úcleo: Leal: k(x, y)x y Polomal: k(x, y)(λ (x y) θ) p, p,,... Fucó de base radal: k(x, y) exp(- λ (x -y) (x -y) ), λ> agete hperbólca: k(x, y) tah(λ (x y) - θ) Observacó: La forma fal del clasfcador leal: g( x) ˆ yk( x, x) Sop ˆ dca que el clasfcador g(x) está sedo aproxmado por las fucoes k(x, x ) correspodetes a los vectores soporte. Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

31 Recoocmeto de Patroes Eemplo o Leal () ema 5: Clasfcadores o Leales El problema del XOR resuelto co ua MVS o leal (s úcleo). Cto. etreameto:x (,), x (,) x (,), x (,) Sgos deseados: y, y, y -, y - Fucoes φ: φ(x)(x, x, x x, x, x, ) Putos trasformados (,) (,,,,,); (,) (,,,,,); (,) (,,,,,); (,) (,,,,,); Productos Escalares (φ(x ) φ( x )) (φ(x ) φ( x )) (,,,,,) (,,,,,) (φ(x ) φ( x )) (,,,,,) (,,,,,) (φ(x ) φ( x )) (,,,,,) (,,,,,)9 Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

32 Recoocmeto de Patroes ema 5: Clasfcadores o Leales Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua Eemplo o Leal () Problema a resolver: Solucó: (8/,8/,/,)... s.a 9 max y y y... s.a )) ( ) ( ( max, φ φ x x ^

33 Recoocmeto de Patroes Vector : ˆ ˆ yφ( x Sop Eemplo o Leal () ) ema 5: Clasfcadores o Leales ^ (8/)(,,,,,)(8/)(,,,,,)-(/)(,,,,,)- - (,,,,,)(/,/,-,/,/,) Costate : ˆ φ( x ), co x y ˆ ˆ > ^ -(/,/,-,/,/,) (,,,,,)- Clasfcador: ^ ^ g(x) φ(x) g(x)(/,/,-,/,/,) (x, x, x x, x, x, )- / x / x - x x / x / x - Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

34 Recoocmeto de Patroes ema 5: Clasfcadores o Leales Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua Eemplo o Leal () El problema del XOR resuelto co ua MVS o leal (co úcleo). Cto. etreameto:x (,), x (,) x (,), x (,) Sgos deseados: y, y, y -, y - Fucoes φ: φ(x)(x, x, x x, x, x, ) Productos escalares: (φ(x ) φ( x )) ((x x ) ) Por tato la fucó úcleo es k(x,y)((x y) ) k(x, x ) ((x x ) ) ( (,) (,) ) k(x, x ) ((x x ) ) ( (,) (,) )... k(x, x ) ((x x ) ) ( (,) (,) ) 9 Problema dual (el msmo de ates):... s.a 9 max y k y y..., s.a ), ( max, x x

35 Recoocmeto de Patroes ema 5: Clasfcadores o Leales Solucó: Eemplo o Leal (5) ^ (8/,8/,/,) Costate (la msma de ates): ˆ yk( x, x ), co x ˆ y ˆ > Sop ^ -((8/)8/-(/)-(6/))- Clasfcador (el msmo de ates): g( x) ˆ yk( x, ) ˆ x Sop g(x) g(x) g(x)(8/) (x ) (8/)(x ) - (/) (6/)(x x ) (/)( (x /) (x /) 6(x /)(x /) /) g(x)- Frotera de decsó de la MVS (roo) Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

36 Recoocmeto de Patroes MVS: Aspectos Práctcos A la hora de clasfcar es coveete segur esta guía: Escalar: Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua ema 5: Clasfcadores o Leales Es recomedable escalar todas las característcas al rago [-,] o [,] De esta forma se evta que ua característca dome a los demás y se evta dfcultades umércas Seleccó del modelo E geeral se suele utlzar la fucó de base radal como ua prmera eleccó. La razó fudametal es que la fucó úcleo tee u úco parámetro y además tee el proceso de optmzacó tee meos dfcultades umércas La seleccó de los parámetros de las fucoes úcleo y el parámetro C del caso o leal se hace medate u couto de testeo. E el caso de fucoes de base radal se suele seleccoar las sucesoes: C -5, -,..., 5, λ -5, -,..., Clasfcacó multclase: Se costruye ua MVS por clase. El problema a resolver es el de esa clase cotra el resto. Se elge la clase a partr del máxmo valor de los clasfcadores

37 Recoocmeto de Patroes ema 5: Clasfcadores o Leales Clasfcacó co MVS: Eemplo Dstrbucoes verdaderas: p(x,θ )~ N,, p(x,θ )~ P( ).5, P( ).5 N, Clasfcacó: Couto de testeo: 5 muestras por clase Couto de etreameto: 5 muestras por clase Núcleo: leal Valor óptmo calculado para C:.5 Error de clasfcacó estmado:.8 Error bayesao:. Eemplo de clasfcacó tras estmacó por MVS Crculos: muestras de la clase Aspas: muestras de la clase Lea egra: Frotera de decsó a partr de la estmacó Lea roa: Frotera de decsó bayesaa Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua

38 Recoocmeto de Patroes Resumedo... Los clasfcadores o leales: Permte trabaar co froteras de decsó o leales Escuela écca Superor de Igeería Iformátca. Uversdad de La Lagua ema 5: Clasfcadores o Leales Los clasfcadores presetados e este tema se basa e:. Realzar trasformacoes o leales de las característcas.. Aplcar a los datos trasformados u clasfcador leal U prmer problema: S el úmero de trasformacoes es muy grade el clasfcador sufre de sobreauste. Solucó: Clasfcador cuadrátco: Regularzacó MVS: Máxmo marge. U segudo problema: Cuál debe ser la trasformacó o leal de los datos? Ua Solucó: Elegr ua de las coocdas (Polomal, fucoes de base radal...)