Tema 4. Transformaciones geométricas.

Transcripción

1 PROCESMIENTO UDIOVISUL Programa de teoría. dquisición y representación de imágenes. 2. Procesamiento global de imágenes. 3. Filtros y transformaciones locales. 4. Transformaciones geométricas. 5. Espacios de color y el dominio frecuencial. 6. nálisis de imágenes. 7. Vídeo y sonido digital. Tema 4. Transformaciones geométricas. 4.. Interpolación y transformaciones básicas Transformaciones bilineal y perspectiva..4. Transf. geométricas OpenCV. (c) Ginés García Procesamiento Mateos, udiovisual Dept. Tema de 4. Informática Transformaciones y Sistemas, geométricas. Universidad de Murcia Procesamiento udiovisual Interpolación y transf. básicas Entrada R(,y):= (f (,y), f 2 (,y)) 78 Transf. global Transf. local Tr. geométrica 69 Transformación geométrica: el valor de un píel depende de otro píel (o varios) cuya posición es calculada a través de un par de funciones f y f 2. El tamaño de la imagen de salida puede ser distinto del tamaño de la imagen de entrada. 2 Procesamiento udiovisual Salida 4.. Interpolación y transf. básicas. Ejemplo. Desplazamiento y recorte (trim): dada una imagen, seleccionar un trozo rectangular, desde el punto (, y ) con tamaño (t X, t ). R: imagen de (..t X -,..t -) R(,y):= (+, y+y ), (,y) R t X (,y ) Qué pasa si (+, y+y ) está fuera de rango? t signar alguna constante a R. No modificar lo que hubiera antes en R. Normalmente esta transformación no aparece de forma eplícita, sino implícitamente, al trabajar con ROI Procesamiento udiovisual 4 R 4.. Interpolación y transf. básicas. Reflejos y rotaciones eactas (s. horario) Sea la imagen de entrada, de (..m X,..m ) La esquina superior izquierda es (, ) Espejo horizontal: R(,y):= (m X -, y) R: (..m X,..m ) Espejo vertical: R(,y):= (, m -y) R: (..m X,..m ) Rotar 9º: R(,y):= (y, m -) R: (..m,..m X ) Rotar 8º: R(,y):= (m X -, m -y) R: (..m X,..m ) Rotar 27º: R(,y):= (m -y, ) R: (..m,..m X ) Procesamiento udiovisual Interpolación y transf. básicas. En general la transformación tendrá la forma: R(, y):= (f (,y), f 2 (,y)) Siendo f y f 2 dos funciones cualesquiera del tipo: f, f 2 : N N R f : posición en X del original para el píel resultante (,y) f 2 : posición en del original para el píel resultante (,y) Ejemplo. En la rotación de 8º f (,y):= m X - f 2 (,y):= m -y 2 2 R Procesamiento udiovisual 6

2 4.. Interpolación y transf. básicas.... R Qué ocurre si el resultado es un número no entero? Por ejemplo, se puede conseguir un aumento de 2 con una transformación del tipo: R(,y):= (/2, y/2), con R: (..2m X +,..2m +) R 2 3 R(, ):= (/2, /2) = (, ) OK R(, ):= (/2, /2) = (.5, ) R(, ):= (/2, /2) = (.5,.5) Índices no definidos en el array. Qué hacer ahí? Procesamiento udiovisual Interpolación y transf. básicas. Problema: las imágenes son señales discretas, pero la transformación geométrica las trata como si fueran continuas (definidas en todo el plano). 2 X Cuánto vale la imagen ahí? Solución: aplicar una interpolación. Tipos de interpolación: vecino más próimo, bilineal, bicúbica, supermuestreo. Procesamiento udiovisual Interpolación y transf. básicas. Interpolación: Vecino más próimo Cualquier punto del espacio toma el valor del píel más cercano. 2 X 4.. Interpolación y transf. básicas. Ejemplo. Zoom de con vecino más próimo. R(,y):= ( /, y/ ) Implementación: f (,y) f (,y) +,5 f 2 (,y) f 2 (,y) +,5 R(,y)= ( f (,y) +,5, f 2 (,y) +,5 ) Procesamiento udiovisual 9 Imagen original 2526 Imagen ampliada 2526 Ventajas: Es muy sencilla y rápida de calcular. Inconvenientes: El efecto de cuadriculado es evidente, y da lugar imágenes de poca calidad. Procesamiento udiovisual 4.. Interpolación y transf. básicas. Interpolación bilineal En una dimensión, una interpolación lineal significa trazar una línea recta entre cada par de puntos consecutivos. Valores interpolados Media ponderada, () a -a de los valores de i y d según la p 2 X distancia a Cálculo de la interpolación lineal. Sea p el punto que queremos interpolar. Sup. que p se encuentra entre i y d, es decir: i= p, d= i+ El valor interpolado en p será: (p):= (-a)(i) + a(d) siendo a= p-i Procesamiento udiovisual 4.. Interpolación y transf. básicas. En dos dimensiones, la interpolación bilineal consiste en aplicar dos interpolaciones lineales:. Interpolar la función horizontalmente, en las filas eistentes. 2. Interpolar la función verticalmente en todo el espacio (usando la anterior). (,y) 2 X º interpolar horizontalmt. 2º interpolar verticalmt. Cómo calcular el valor interpolado de un punto (p, py), (p,py)? Procesamiento udiovisual 2 2

3 4.. Interpolación y transf. básicas. Sea p= (p, py), con i= p, d= i+, s= py, r= s+ con a= p-i, b= py-s (,y) s r i d X (p,py) a -a Cálculo de la interpolación bilineal: (p, s) = (-a)(i, s) + a(d, s) (p, r) = (-a)(i, r) + a(d, r) (p, py) = (-b) (p, s) + b (p, r) (p, py) = (-a)(-b)(i, s) + a(-b)(d, s) + (-a)b(i, r) + ab(d, r) Procesamiento udiovisual 3 b -b Media ponderada de los 4 píeles circundantes Esto recuerda a una convolución, no? 4.. Interpolación y transf. básicas. Ejemplo. Zoom de con interpolación bilineal. R(,y):= (/, y/) Imagen original 2526 Vecino más próimo Interpolación bilineal Indicación: un zoom entero de K con interpolación bilineal es parecido (= a veces) a un zoom de K con vecino más próimo, seguido de un filtro de media de KK. Procesamiento udiovisual Interpolación y transf. básicas. La interpolación bilineal mejora la de vecino más próimo, pero produce un efecto de zonas rectangulares. Interpolación bicúbica: basada en dos interpolaciones cúbicas. En una dimensión, la interpolación cúbica consiste en trazar una cúbica entre los 4 puntos más próimos (2 a la izquierda y 2 a la derecha). () () = c 3 + c c 3 + c 4 Valores interpolados i- i p i+ i+2 X Procesamiento udiovisual Interpolación y transf. básicas. Cálculo de la interpolación cúbica. Sea p el punto que queremos interpolar. i= p Obtener las 4 ecuaciones: (i-)=(i-); (i)=(i); (i+)=(i+); (i+2)=(i+2) 4 ecuaciones, 4 incógnitas despejar y obtener c, c 2, c 3, c 4 plicar las constantes, obteniendo (p) Interpolación bicúbica. Igual que la bilineal, se basa en dos interpolaciones cúbicas:. Interpolación cúbica horizontal, en las filas eistentes (usando 4 puntos). 2. Interpolación cúbica vertical en todo el espacio usando 4 puntos (usando la anterior interpolación). En la interpolación bicúbica de un punto (p, py) intervienen los 6 puntos circundantes. Procesamiento udiovisual Interpolación y transf. básicas. Cálculo de la interpolación bicúbica. Igual que con la bilineal, el valor del punto se puede calcular como una media ponderada de los 44 píeles circundantes. i- i i+ i+2 j- j j+ j+2 (p,py) (p,py) = Σ n=-..2 Σ m=-..2 (i+n,j+m) P(n-a) P(b-m) Siendo: P(k) = /6(C(k+2) 3-4C(k+) 3 +6C(k) 3-4C(k-) 3 ) C(k) = ma(, k) Procesamiento udiovisual 7 a b X 4.. Interpolación y transf. básicas. Ejemplo. Zoom de con interpolación bicúbica. Imagen original 2526 umento de con interpolación bilineal umento de con interpolación bicúbica Procesamiento udiovisual 8 3

4 4.. Interpolación y transf. básicas. Comparación. Detalle del zoom de, con vecino más próimo, interpolación bilineal y bicúbica. Se ha aplicado un perfilado en las 3, para destacar el efecto del zoom. 4.. Interpolación y transf. básicas. La interpolación también es importante en las rotaciones no eactas (que veremos más adelante) y, en general, en cualquier transformación geométrica. Este artificio de escalonamiento abrupto es conocido como aliasing Vecino más próimo Interpolación bilineal Interpolación bicúbica En todos los casos se nota la falta de detalle (obviamente), pero en la bilineal son más evidentes los artificios horizontales y verticales que en la bicúbica. Procesamiento udiovisual 9 Vecino más próimo Interpolación bilineal Interpolación bicúbica La interpolación bicúbica siempre suele producir el mejor resultado, aunque es algo más costosa. Merece la pena el aumento de tiempo respecto a la bilineal? Procesamiento udiovisual Interpolación y transf. básicas. En las operaciones de reducción también se aplican interpolaciones, pero... Observar estas Reducción de k: R(, y):= (k, k y), con estructuras R: m X /k etrañas. m /k Ejemplo. Reducción de 5. Esto tb. es aliasing 4.. Interpolación y transf. básicas. El problema no se soluciona con interpolación bilineal o bicúbica. Imagen original 5386 Reducción de 5 con vecino más próimo Procesamiento udiovisual 2 Imagen original 5386 Reducción de 5 con interpolación bilineal Reducción de 5 con interpolac. bicúbica El problema se debe a que los detalles son más pequeños que la resolución de salida. Pero, además, los métodos de interpolación no mejoran la situación: cada píel de salida es un muestreo ordenado de uno de entrada. Procesamiento udiovisual Interpolación y transf. básicas. Ejemplo. Reducción de 3. R(,y) = (3, 3y) Todos esos píeles no influyen en el resultado R Solución: cada píel de salida debería ser la media de los 33 píeles de entrada correspondientes. Interpolación por supermuestreo (super sampling) Idea: considerar el píel como un volumen con cierto área. plicar varias veces la transformación y tomar la media. Procesamiento udiovisual Interpolación y transf. básicas. Supermuestreo uniforme, en rejilla cuadrada. R(,y) X (f (,.5), f 2 (,.5)) (f (.25,.75), f 2 (.25,.75)) (f (,), f 2 (,)) (f (.25,.5), f 2 (.25,.5)) R(,y):= media {(f (-.5,y-.5), f 2 (-.5,y-.5)),... (f (-.5,y+.5), f 2 (-.5,y+.5)),..., (f (,y-.5), f 2 (,y-.5)),..., (f (,y+.5), f 2 (,y+.5)),..., (f (+.5,y-.5), f 2 (+.5,y-.5)),..., (f (+.5,y+.5), f 2 (+.5,y+.5))} Procesamiento udiovisual 24 4

5 4.. Interpolación y transf. básicas. Ejemplo. Reducción de 5, con supermuestreo. 4.. Interpolación y transf. básicas. Una alternativa al supermuestreo es aplicar primero un filtro de suavizado (por ejemplo, de media) y después un simple vecino más próimo. Imagen original 5386 Reducción de 5 con interpolación bilineal Reducción de 5 con supermuestreo Resultado: el supermuestreo logra un resultado de mucha más calidad. Evita el problema del aliasing. Sin embargo, el supermuestreo es mucho más costoso, requiere más cálculos. Cuanto mayor reducción, mayor es el efecto del aliasing. Procesamiento udiovisual 25 Imagen suavizada con media de 55 Reducción de 5 con vecino más próimo, de la suavizada Reducción de 5 con supermuestreo, de la original Pero esto sólo es aplicable en las transformaciones que impliquen una reducción de resolución. Procesamiento udiovisual Interpolación y transf. básicas. Conclusiones Transformación geométrica: cada píel de salida depende de uno de entrada cuya posición es calculada de acuerdo a un par de funciones. Como las posiciones pueden ser no enteras, es necesario aplicar interpolaciones: vec. más próimo, bilineal, bicúbica. En zoom, funciona mejor la bicúbica. En reducción, el supermuestreo. Pero son más costosas que las otras. Las interpolaciones bilineal y bicúbica (y otras más avanzadas) dan la sensación de mejorar la resolución de la imagen, pero cuidado... Cualquier detalle aparente de resolución inferior a un píel es una mera alucinación. Procesamiento udiovisual 27 Las transformaciones afines son cualquiera de los cuatro tipos siguientes, o combinaciones de las mismas. Traslación Escala Rotación Inclinación Procesamiento udiovisual 28 Transformación de traslación (desplazamiento): R(,y):= (+d, y+d y ) Ejemplos. Traslación (, ) R (,y):= (+,y+) Traslación (-, -) R 2 (,y):= (-,y-) (d,d y ) t t X Trasladar (d, d y ) y recortar (t, t y ) R Si las imágenes y R tienen el mismo tamaño, algunos píeles caen fuera de la imagen. Qué valor toman? Más que una interpolación sería una etrapolación... Pero no tiene mucho sentido. Se puede usar mejor un valor constante predefinido. O no modificar el contenido previo. Procesamiento udiovisual 29 plicaciones: Seleccionar y recortar una región rectangular. unque, como ya hemos visto, no suele aparecer de forma eplícita, sino al manejar ROI. También suele aparecer en combinación con las otras operaciones, para centrar la imagen resultante. Ejemplo. Recordar la operación de rotación de 8º: R(, y):= (m X -, m -y) Procesamiento udiovisual 3 5

6 Transformación de escala: R(,y):= (e, e y y) e = escala en el eje X e y = escala en el eje Normalmente será igual en ambos ejes (e =e y ), aunque puede ser distinta. Pero es más intuitivo el concepto de aumento o zoom: R(,y):= (/a, y/a y ) a = aumento en el eje X = /e a y = aumento en el eje = /e y Si la imagen es de tamaño m X m, la imagen resultante R será de m X a m a y Procesamiento udiovisual 3 a, a y mayor que umento o zoom de la imagen plicar interpolación bilineal o bicúbica. a, a y menor que Reducción (decimate) de la imagen plicar supermuestreo o suavizado previo. Ejemplos. Transformaciones de escala. R a = a y =,8 Reducir al 8% El aumento sirve para hacer zoom digital, pero recordar sus limitaciones. R 2 a = 2 a y =,5 umentar el doble en X y reducir a la mitad en Procesamiento udiovisual 32 Transformación de rotación: Hemos visto las rotaciones eactas (9º, 8º, 27º), pero cómo realizar una rotación de un ángulo cualquiera α (en sentido horario)? Punto en Punto en R α α (,) X Punto en R (,y) Punto en El punto (, ) en R corresponde en a ( cos α, - sen α) El punto (, y) en R en a (y sen α, y cos α) (, y) en R ( cos α + y sen α, - sen α + y cos α) en Procesamiento udiovisual 33 Rotación de una imagen en un ángulo α: R(,y):= ( cos α + y sen α, - sen α + y cos α) La rotación se suele epresar matricialmente: Ejemplos. R(,y):= ( cos α -sen α sen α cos α ) y Lo que cae fuera de la imagen no se modifica Rotar º Rotar -º Ojo: estas rotaciones son respecto al punto (,). Cómo hacerlas respecto a un centro arbitrario (c,c y )? Procesamiento udiovisual 34 Rotación de en un ángulo α, respecto a un centro (c,c y ) Idea: es equivalente a una rotación respecto a (,), seguida de un desplazamiento (d, d y ) adecuado. Cuánto? El centro no se debe modificar: R(c,c y ):= (c,c y ) R(c,c y ):= (c cos α+c y sen α+d, -c sen α+c y cos α+d y ) Solución: d = c -c cos α -c y sen α ; d y = c y + c sen α -c y cos α Matricialmente, la rotación α con centro (c,c y ) sería: R(,y):= ( cos α -sen α sen α cos α c -c cos α -c y sen α c y + c sen α -c y cos α Procesamiento udiovisual 35 y ) Ejemplos. Rotaciones respecto a un centro cualquiera. Imagen de entrada Rotar -º Rotar º Se ha utilizado interpolación bicúbica. Recordar la importancia de la interpolación. Vecino más próimo Interpolación bilineal Procesamiento udiovisual 36 6

7 Transformación de inclinación (shear): La inclinación transforma una región rectangular en un rombo. Sirve para simular una perspectiva. Posibilidades: inclinación en X, en o en ambos ejes. Imagen de entrada Inclinación en X de b/a Inclinación en X de -b/a a b b Inclinación en de b/a Inclinación en de -b/a Inclinación en X e a b a b El valor de inclinación es la tangente del ángulo. Procesamiento udiovisual 37 a Cómo obtener la transformación de inclinación? Ejemplo. Inclinación en X de cantidad i. X Punto en a ( r, y r ) y a ( a, y a ) i Punto en R ( a, y a ) = ( r -g, y r ). Pero, cuánto vale g? Por analogía de triángulos: g/y r = i / g= i y r Inclinación en X en cantidad i : R(, y):= ( - i y, y) g Procesamiento udiovisual 38 De manera similar... inclinación en en cantidad i y : R(, y):= (, y - i y ) Inclinación X en i, en i y : R(, y):= ( - i y, y - i y ) Matricialmente: -i R(,y):= ( ) -i y y Ejemplos. Inclinación i =-,4; i y = Inclinación i =; i y =,2 Parte de la imagen se sale. Solución: igual que antes, aplicar un desplazamiento para centrar el resultado. De cuánto? O bien, ampliar el tamaño de la imagen resultado para que quepa toda la imagen. Cuánto? En X: abs(i ) m ; en : abs(i y ) m X Ejemplos. Inclinación i y =,2 Inclinación i =,;i y =,3 Inclinación i =-,4 Procesamiento udiovisual 39 Procesamiento udiovisual 4 Qué tienen en común todas las transformaciones afines? Todas ellas se pueden epresar de forma matricial: R(,y):= ( c c 2 c 2 c 3 c 22 c 23 y ) Traslación Escala Rotación Inclinación d e cos α sen α -i -sen α cos α -i y d y e y Es más, cualquier combinación de transformaciones afines es una transformación afín, y se puede epresar de forma matricial. Procesamiento udiovisual 4 + Podemos definir una transformación afín genérica: R(,y):= ( c c 2 c 2 c 3 c 22 c 23 y ) La matriz ((c,c 2,c 3 ),(c 2,c 22,c 23 )) son los parámetros de la transformación. Puede implicar escalas, traslaciones, rotaciones, etc. Cómo calcular la tr. afín equivalente a dos tr. afines? Usar el producto matricial, añadiendo una fila con (,, ). c c 2 c 3 d 2 d 3 c 22 c 23 d 22 d 23 c 2 d r r 2 r 3 d 2 = r 2 r 22 r 23 Procesamiento udiovisual

8 Ejemplo. Sobre una imagen aplicamos º) traslación (a, b), 2º) escala (c, d), 3º) rotación e, y 4º) traslación (f, g). Podemos calcular la matriz de transformación equivalente: f g cos e sen e c -sen e cos e d a b Uso. Una transformación afín permite mapear una región rectangular cualquiera en un rombo cualquiera. O, en general, cualquier rombo en otro rombo (se supone que un rectángulo es también un rombo). Transformación afín genérica = c cos e -c sen e d sen e d cos e a c cos e+f+b d sen e b d cos e+g-a c sen e En lugar de aplicar 4 transformaciones sobre toda la imagen, basta con aplicar la transformación equivalente. Procesamiento udiovisual 43 Cómo calcular los parámetros de esta transformación? Problema: dado un rombo en la imagen original y otro rombo en la imagen de destino, calcular la transformación afín que realiza ese mapeo. Procesamiento udiovisual 44 + Nota: un rombo queda completamente definido por 3 puntos. Coordenadas en X ( a, y a ) ( 2a, y 2a ) Transformación afín genérica ((c,c 2,c 3 ), (c 2,c 22,c 23 )) Coordenadas en R X ( r, y r ) ( 2r, y 2r ) ( 3a, y 3a ) ( 3r, y 3r ) 6 incógnitas (c ij ) Necesitamos 6 ecuaciones para resolverlas. Cuáles? Cada punto produce ia c c 2 c 3 dos ecuaciones: y ir ia = c 2 c 22 c 23 y ir Procesamiento udiovisual 45 + Ecuaciones a resolver: c a + c 2 y a + c 3 = r c 2 a + c 22 y a + c 23 = y r c 2a + c 2 y 2a + c 3 = 2r c 2 2a + c 22 y 2a + c 23 = y 2r c 3a + c 2 y 3a + c 3 = 2r c 2 3a + c 22 y 3a + c 23 = y 3r 6 ecuaciones y 6 incógnitas Se resuelven las incógnitas (método de Cramer) y despachados. Eistirá solución si los 3 puntos de no están en la misma recta, y los 3 de R tampoco. Una vez resueltas las incógnitas, aplicamos la transformación afín buscada: R(,y):= ( c c 2 c 2 c 3 c 22 c 23 y ) Procesamiento udiovisual 46 Ejemplo. La aplicación más inmediata y típica de las transformaciones afines es etraer y redimensionar un área de interés, dándole una forma predefinida de antemano. Esto es lo que se llama normalización. Por ejemplo, detectar una cara humana, seleccionar los ojos y la boca y mapearlos a un rectángulo predefinido. Imagen de entrada Cara detectada Cara normalizada Transf. afín Este proceso de normalización se puede aplicar sobre vídeo, para conseguir una estabilización de los objetos de interés. Procesamiento udiovisual 47 Procesamiento udiovisual 48 8

9 Ejemplo 2. La normalización es fundamental en muchas aplicaciones de reconocimiento de objetos, como los OCR (Optical Character Recognition). Se aplica: umbralización, segmentación, normalización y comparación. Rectificar: detectar Imagen de entrada Umbralizar orientación y rotar Sería conveniente una técnica adaptativa Procesamiento udiovisual 49 Teto rectificado Detectar y separar las líneas Segmentar los caracteres Normalizar cada carácter a un tamaño estándar quí se usan integrales proyectivas Comparar con un conjunto de patrones (p.ej. diferencia) a e i Tomar el máimo Es una a!! Procesamiento udiovisual 5 Las transformaciones bilineal y perspectiva se pueden ver como generalizaciones de las afines: Transformación afín: cualquier rombo se mapea en un rombo. Transf. bilineal y perspectiva: cualquier cuadrilátero se transforma en otro cuadrilátero (ambos conveos). Imagen original Transf. afín Transf. bilineal Las transformaciones afines conservan el paralelismo de las líneas; bilineales y perspectivas no. La transf. perspectiva es la proyección perspectiva de un plano, colocado en un espacio 3D. La transf. bilineal se suele usar como una variante rápida de la transf. perspectiva, aunque no es eactamente igual. Es decir, se debería aplicar perspectiva, pero se usa bilineal por eficiencia. Imagen original Transform. afín Transform. bilineal Transform. perspectiva Transf. perspectiva Procesamiento udiovisual 5 Procesamiento udiovisual 52 Transformaciones afines: c c 2 c 3 R(,y):= ( y ) c 2 c 22 c 23 Observar el nuevo factor Transformaciones bilineales: que aparece R(,y):= ( c c 2 c 2 c 22 c 3 c 23 Transformaciones perspectivas: R(,y):= ( /z, y /z ) con: y c 4 c 24 y y ) c c 2 c 2 c 22 c 32 c 3 c 23 z c 3 c 33 Procesamiento udiovisual 53 = Pero, cuántos grados de libertad hay aquí? y + Recordar la proyección perspectiva en el proceso de formación de imágenes. Distancia focal = La proyección del X, punto P = (, y, z) Punto es P = (/z, y/z) principal Centro de P Proyección (,,) Plano de Proyección Eje óptico La idea de la transf. perspectiva es: dado un plano (la imagen de entrada) colocarlo en una posición cualquiera del espacio 3D y después proyectarlo sobre el plano de imagen Z=. Procesamiento udiovisual 54 Z P = (,y,z) 9

10 X Centro de Proyección Plano de Proyección ) Colocar la imagen plana en el espacio 3D c c 2 c 3 y = c 2 c 22 c 23 y z c 3 c 32 c 33 Procesamiento udiovisual 55 Z Eje óptico 2) Proyección perspectiva de la imagen en el espacio R(,y):= ( /z, y /z ) La transf. bilineal es una simulación de la perspectiva. También mapea un rectángulo en un cuadrilátero. Pero el resultado no es eactamente una perspectiva. La diferencia es mayor cuanto mayor efecto de perspectiva. Transformac. bilineales Transformac. perspectivas Procesamiento udiovisual 56 Problema: dados 4 puntos en la imagen original y otros 4 en la imagen de destino, calcular las transformaciones bilineal y perspectiva que producen ese mapeo. Solución: plantear los sistemas de ecuaciones correspondientes y resolver las incógnitas. Coordenadas en X ( a, y a ) ( 2a, y 2a ) ( 4a, y 4a ) ( 3a, y 3a ) Transformación bilineal / perspectiva Coordenadas en R X Procesamiento udiovisual 57 ( r, y r ) ( 2r, y 2r ) ( 4r, y 4r ) ( 3r, y 3r ) Transformación bilineal: 8 incógnitas. Cada par de puntos equivalentes produce 2 ecuaciones con 4 puntos es necesario y suficiente. R(,y):= ( c c 2 c 2 c 22 c 3 c 23 Ecuaciones a resolver: c a +c 2 y a +c 3 a y a +c 4 = r ; c 2 a +c 22 y a +c 23 a y a +c 24 = y r c 4a +c 2 y 4a +c 3 4a y 4a +c 4 = 4r ; c 2 4a +c 22 y 4a +c 23 4a y 4a +c 24 = y 4r Para que haya solución, los cuadriláteros deben ser conveos y no deben haber tres puntos en la misma recta. c 4 c 24 y ) y Procesamiento udiovisual 58 Transformación perspectiva: 9 incógnitas, 4 puntos...? y = z c c 2 c 2 c 22 c 3 c 32 c 3 c 23 c 33 y R(,y):= ( /z, y /z ) Cada par de puntos ( ia,y ia ), ( ir,y ir ) produce dos ecuaciones: (c ia +c 2 y ia +c 3 )/(c 3 ia +c 32 y ia +c 33 )= ir (c 2 ia +c 22 y ia +c 23 )/(c 3 ia +c 32 y ia +c 33 )= y ir Sistema homogéneo e indeterminado (8 ec., 9 inc.). Observar que aparece un factor de escala. Si multiplicamos todas las constantes por k el sistema no cambia. Se puede resolverlo fijando la incógnita c 33 =. Nos quedamos con 8 incógnitas, resolvemos y listos. Procesamiento udiovisual 59 Indicaciones: Las transformaciones bilineales y perspectivas contienen a las afines: Transf. bilineal: será equivalente a una afín si c 3 =c 23 = Transf. perspectiva: equivalente a una afín si c 3 =c 32 = Los tres tipos de transformaciones son invertibles: dada una transf. se puede definir la transf. inversa, de manera que se obtenga la imagen original (o casi). Procesamiento udiovisual 6

11 Transformaciones inversas: Cómo obtener las transformaciones inversas? Si una transf. perspectiva está definida por una matriz (33), la transf. perspectiva inversa usará la matriz -. En el caso de la transf. afín, se puede etender la matriz de (32) a una de (33) y obtener la inversa. c c 2 c 3 c c 2 c 3 c c c 2 c 22 c 2 c Calcular la inversa de la matriz Ejercicio. Calcular la inversa de una transf. bilineal dada por una matriz de coeficientes, de (42). Ejemplo. La invertibilidad de la proyección perspectiva puede ser útil en navegación de robots. Idea: dada una imagen tomada con una cámara desde el robot, obtener una vista superior. De esta forma, el robot puede conocer las zonas por las que se puede mover. Inverse Perspective Mapping: transformación inversa a la perspectiva producida por la cámara, respecto a cierto plano. Imagen de entrada I.P.M. quí se pueden tomar distancias y ángulos. En la original no Procesamiento udiovisual 6 Procesamiento udiovisual 62 La técnica de I.P.M. se ha aplicado en conducción automática de vehículos. I.P.M. de la imag. Imag. capturada capturada (vista desde el coche TOP) Procesamiento udiovisual 63 El proyecto es un poco antiguo, pero bueno... Ejemplo 2. Integración de elementos visuales artificiales en un entorno. El objetivo es hacer que algo que no está parezca que realmente está. Problema: qué transformación perspectiva se debe aplicar para que la integración sea realista. Calibración. Pasos: ) Detectar el suelo (color verde). 2) Transformación perspectiva del elemento. 3) Media ponderada entre el suelo y la imagen transformada. Procesamiento udiovisual 64 Cómo hacer la calibración? Manualmente: seleccionar el cuadrilátero en la imagen donde se proyectará el elemento. utomáticamente. Más complejo. P.ej. encontrando las líneas del campo, las blancas y las del corte del césped. Una vez localizado el campo, colocar los elementos en unos sitios predefinidos Procesamiento udiovisual 65 Ejemplo 3. Engañando a la perspectiva. Usando mapeo inverso de perspectiva, se puede hacer que un dibujo (real) visto en perspectiva parezca tener otra perspectiva, y por tanto ocupe un espacio que realmente no ocupa. Este efecto visual sólo funciona desde un punto de vista dado. Está diseñado para ese punto. Idea: el dibujo real a poner es el I.P.M. del original, según la transf. perspectiva observada en la escena. Procesamiento udiovisual 66

12 Pasos: ) Poner el panel donde irá el dibujo en la escena, y capturar una imagen desde el punto deseado. 2) Calibrar: encontrar los 4 puntos del rectángulo del panel. 3) ñadir sobre la imagen tomada el dibujo que se quiere poner (con la escala y traslación adecuadas). Procesamiento udiovisual 67 4) Sobre la imagen del paso 3, aplicar una transformación perspectiva, desde el cuadrilátero del paso 2, hasta el rectángulo dado por el tamaño del panel. 5) Imprimir el panel y colocarlo en el mismo sitio. 6)... Voilà!! Procesamiento udiovisual 68 Ejemplo 4. Transformaciones de malla. Es una transformación libre y que da mucho juego. Sobre la imagen original definimos una malla de puntos de control. Estos puntos se pueden mover, y la imagen resultande debe modificarse coherentemente con los puntos de control. Imagen original Imagen transformada Cómo conseguir la transformación de malla? La idea es muy sencilla: La malla define una serie de rectángulos de posiciones conocidas. Después de mover los puntos de la malla, conocemos el cuadrilátero al que se debe mapear cada rectángulo original. En este caso, suele ser más conveniente aplicar una transformación bilineal. Se repite el proceso para todos los rectángulos originales. Transformación bilineal específica para cada trozo Procesamiento udiovisual 69 Procesamiento udiovisual 7 Conclusiones: Las transformaciones afines, bilineales y perspectivas son esenciales en generación, procesamiento, análisis de imágenes, y en visión artificial. Transformaciones afines: mapean un rombo en otro rombo. 3 puntos en la imagen origen y 3 en el destino. Transf. bilineales y perspectivas: mapean un cuadrilátero conveo en otro cuadrilátero conveo. 4 puntos en el origen y 4 en el destino. Las transformaciones afines conservan el paralelismo de las rectas. Hay que conocer el significado de cada transformación para saber cuál conviene aplicar. Cómo se podría etender la idea a vídeo, considerando la escala temporal? Procesamiento udiovisual 7 Recordemos que una transformación geométrica es cualquier operación del tipo: R(, y):= (f (,y), f 2 (,y)) Siendo f y f 2 dos funciones cualesquiera: f, f 2 : N N R f : posición en X del original para el píel resultante (,y) f 2 : posición en del original para el píel resultante (,y) Las transformaciones vistas hasta ahora tienen formas particulares y son continuas. Un mapeo (mapping) es cualquier transformación arbitraria, definida por un par de funciones f y f 2, continuas o escalonadas. Procesamiento udiovisual 72 2

13 f (,y) R f 2 (,y) (,y) (,y) g (,y) g 2 (,y) Mapeo inverso: el mapeo puede venir dado al revés: R(g (,y), g 2 (,y)):= (,y) Significado: el píel (,y) en la imagen original se mueve a la posición (g (,y), g 2 (,y)). Normalmente trabajaremos con mapeo directo. Eisten infinitos mapeos. Cualquier par de funciones locas, (f, f 2 ), es posible, pero cuáles son plausibles? Procesamiento udiovisual 73 Ejemplo. Difuminado aleatorio, de radio a: f (,y):= +random(2a+)-a f 2 (,y):= y+random(2a+)-a R R 2 R 3 a = 5 Procesamiento udiovisual 74 a = a = 2 Ejemplo 2. Pielado: f (,y):= /8 *8; f 2 (,y):= y/8 *8 R plicado sólo en la ROI. Los mapeos pueden servir para simular las deformaciones producidas por fenómenos físicos naturales. Por ejemplo, cómo se deforma una imagen pegada a un cilindro (como una etiqueta de una botella)? Ejemplo 3. Efecto de cristal a cuadros: f (,y):= mod 3+y mod 3; f 2 (,y):= y y mod 3+ mod 3 R La coordenada no se modifica: f 2 (, y):= y Qué pasa con la X? La X de R es el coseno del ángulo correspondiente en. R Procesamiento udiovisual 75 Procesamiento udiovisual 76 α = arcos (- R /(m /2)) = α m /π - - R /(m /2) m /2 m α R m Ejemplo. plicación de la transformación cilíndrica. Imagen de entrada Tr. cilíndrica en X Tr. cilíndrica en m /2 Conclusión. Transformación cilíndrica en X: R(,y):= (arcos(-/(m /2)) m /π, y) Representación de la función f():= arcos(-/(m /2)) m /π con m = Interpretación de la transformación cilíndrica Procesamiento udiovisual 77 Procesamiento udiovisual 78 3

14 El efecto se puede graduar, si en lugar de un semicírculo consideramos una semielipse, más o menos ovalada. m m m R Ejemplos. Transformaciones elípticas. a =,3 a =,2 a = 2 a a a En hora tenemos que medir el ángulo en una elipse. Si tomamos = - R /(m /2), ent.: f (, y):= atan(a sqrt(- 2 )/ )m /π siendo a el segundo radio de la elipse (en relación al ancho de la imagen). a=4 a=2 a= a=/2 a=/4 En X Procesamiento udiovisual 79 Procesamiento udiovisual 8 De forma parecida, podemos definir otros muchos tipos de transformaciones, basados en deformaciones producidas por fenómenos físicos naturales (o no). Método: estudiar la forma (matemática) de la deformación, y obtener el par de funciones f (,y), f 2 (,y). Ejemplo. Transformaciones geométricas genéricas. Estirar: simula un panel abombado hacia afuera Pinchar: simula apretar la superficie del panel Ondulación: simula una deformación por ondas de agua Procesamiento udiovisual 8 Cómo unificar todas estas deformaciones? Es decir, crear un marco común a todas ellas. Idea: supongamos que sobre una imagen podemos colocar una capa de agua. Podemos poner gotas, hacer ondas, formar olas, etc. La deformación de la imagen es el resultado de la refracción de la luz, al pasar del aire al agua. Imagen deformada Superficie de agua Imagen original Procesamiento udiovisual 82 R Esta es la idea, pero en 2D S Ojo, la superficie deformante, S, no es ni más ni menos que una imagen, donde el valor de un píel S(,y) indica la altura del agua en ese punto. S. Superficie de efecto pinchar/estirar S 2. Superficie de efecto de ondas marinas S(,y):= e -((-c)2 +(y-cy) 2 )/σ 2 S(,y):= sen(f sqrt((-c) 2 +(y-cy) 2 )) hora sólo hay que calcular los rayos incidentes, el ángulo de refracción de cada uno, y el sitio donde choca con el fondo... Procesamiento udiovisual 83 Objetivo: dada una imagen, una superficie deformante S (imagen de solo canal) definir la transformación geométrica correspondiente: R(,y):= (f (,y,s), f 2 (,y,s)) En una dimensión: en el caso de mayor refracción, el rayo se desvía perpendicularmente a la superficie del agua. Imagen deformada Superficie deformante Imagen original R S S() α t Esto es lo que nos interesa! Cuánto vale? t/s() = tan(α) Pero tan(α) es la pendiente de S en t = S() S () Procesamiento udiovisual 84 4

15 a está! R():= ( + S() ds()/d ) en dos dimensiones: R(,y):= ( + S(,y) ds(,y)/d, y + S(,y) ds(,y)/dy ) le, todos a derivar! S(,y) ds(s,y)/d = e -((-c)2 +(y-cy) 2 )/σ 2 d(e-((-c)2 +(y-cy) 2 )/σ 2 )/d = = -2(-c)/σ 2 e-2((-c)2 +(y-cy) 2 )/σ 2... Cachis... no así para cualquier función... habrá una forma más sencilla? Pero, qué vimos en el tema anterior? La derivada en X (o en ) de una imagen se puede calcular con un filtro de convolución adecuado: Sobel, Prewitt, Scharr, etc. demás, de esta forma podemos usar cualquier superficie deformante arbitraria. Procesamiento udiovisual 85 lgoritmo. Transformación de una imagen según la superficie deformante S. S ) Calcular G:= S S - siendo S una máscara de derivada en X ) Calcular Gy:= Sy S - siendo Sy una máscara de derivada en Sy 3) Calcular MapaX(,y):= + a S(,y) G(,y) ) Calcular Mapa(,y):= y + a S(,y) Gy(,y) 5) Obtener la imagen resultante: 2 R(,y):= (MapaX(,y), Mapa(,y)) Notas: todas las imágenes (, S, G, Gy, MapaX, Mapa, R) son del mismo tamaño. El parámetro a indica el grado de la transformación. Cuanto mayor, más pronunciada. Procesamiento udiovisual 86 Ejemplo. plicación de la deformación de ondas. Im. de entrada, Sup. deformante, S Superficie en 3D Im. de salida, R Derivada X, G Derivada, Gy Mapa X, S G Mapa, S Gy Transformación de ondas: S(,y):= sen(f sqrt((-c) 2 +(y-cy) 2 )+p) (c, cy): centro de las ondas f: frecuencia; p: fase Transformación apretar/pinchar: S(,y):= e -((-c)2 +(y-cy) 2 )/σ 2 (c, cy): centro de la deformación σ: anchura de la zona deformada a: fuerza de la deformación; a< pinchar, a> estirar Variación de frecuencia Variación de fase Variación de fuerza Ojo: -=Negro, +=Blanco Procesamiento udiovisual 87 Procesamiento udiovisual 88 Lo interesante de esta transformación es que se puede usar cualquier imagen como superficie deformante. S 2 S 2 Las transformaciones geométricas son esenciales en las composiciones panorámicas. Idea: obtener la imagen que debería estar pegada a un cilindro que envuelve todo el campo visual del sujeto. Cuestión: cómo se proyectan las imágenes individuales en el cilindro? R R 2 Procesamiento udiovisual 89 Imágenes de entrada Imagen resultado Procesamiento udiovisual 9 5

16 Idea: la X en la panorámica es el ángulo en el cilindro. La proyección de un punto ( a,y a ) de la imagen viene dada por la intersección de la recta que pasa por ( a,y a,) y (,,), y el cilindro con radio, a lo largo del eje. R X XR Vista superior Procesamiento udiovisual 9 Z ( a,y a ) Dónde toca la imagen con el cilindro? Centro: ( c,y c ) X Si todas las fotos se toman desde el centro, sin mover la cámara (sólo girarla en ), el punto ( c,y c ) será el centro de la imagen (m X /2, m /2). Si hay giro arriba o abajo, sí que se modifica y c. también puede haber giro a lo largo de Z. Otro parámetro es cuántos grados corresponden al ancho de una foto, es decir cuánto es el campo visual. Lo podemos medir en el número de píeles que representan 45º, fp. Con estos parámetros, la transformación será: R := arctan (( - c )/fp) y R := (y -y c )/sqrt(( - c ) 2 + (y -y c ) 2 + fp)) R estará entre -9º y 9º, y R entre -m /2 y m /2. Ojo, esta fp no es ni más ni menos que la distancia focal Podrá variar según el valor del zoom Procesamiento udiovisual 92 Pero, cuidado, lo que necesitamos son las funciones f (,y) y f 2 (,y) (de R(,y):= (f (,y), f 2 (,y)) que vienen dadas por las inversas: f (,y):= c + fp tan f 2 (,y):= y c + y sqrt(+tan 2 ) En definitiva, tenemos una transformación con 3 parámetros: El centro de la imagen (c, cy). La distancia focal, en píeles, fp. Ejemplo. Variación de df, con centro (m /2, m y /2), df = 2 pi. df = 2 pi. df = 53 pi. Procesamiento udiovisual 93 La distancia focal no cambia, si no cambiamos el zoom entre una foto y otra. Se puede calibrar una vez y usarla en todas las fotos de la composición. El centro en X se puede dejar en la mitad de la imagen, si no cambiamos el eje de rotación. El centro en, c y, puede cambiar. El giro en el eje Z también. Se puede corregir con una rotación afín a priori. Por último, se debe encontrar el desplazamiento en X para ajustar las imágenes. Calibración previa Calibración para cada grupo de imágenes Procesamiento udiovisual 94 Proceso: ) Buscar puntos análogos (de forma manual o automática) entre cada par de imágenes consecutivas. 2) Calcular los parámetros de la transformación, usando los puntos definidos. 3) Transformar las imágenes individualmente. 4) Componer las imágenes resultantes. Procesamiento udiovisual 95 Versión simplificada (aunque ineacta): Normalmente la distancia focal será grande y se puede sustituir la transf. anterior por una simple transf. afín. Parámetros de la transf. afín: desplazamiento (d,dy), escala s (igual en ambos ejes) y rotación r. No hay inclinac. Con dos puntos análogos basta para resolver los 4 parámetros. Es mucho más sencillo, pero peor. Observar la línea quebrada del canal Procesamiento udiovisual 96 6

17 Corrección de la distorsión radial La distorsión radial es una deformación introducida por las lentes de las cámaras, que da lugar a un curvado de las zonas periféricas de las imágenes. Observar la curvatura de la puerta Corrección de la distorsión radial: R(,y):= ((-c)(+k r 2 +k 2 r 4 )+c, (y-cy)(+k r 2 +k 2 r 4 )+cy) con r 2 = (-c) 2 + (y-cy) 2 Para poder aplicarla, tenemos que encontrar valores adecuados de k, k 2, c y cy. Calibración. Posibilidades: hacer pruebas, o bien obtener 4 ecuaciones. Imagen de entrada (384288) Imagen resultante con k = -2,9-7, k 2 = - -3 La distorsión radial se modela como un desplazamiento radial, según la distancia, r, al centro de la imagen de la forma: p ( + k r 2 + k 2 r 4 ) Procesamiento udiovisual 97 Procesamiento udiovisual 98 Otro tipo de transformaciones geométricas interesantes son las de morphing, muy usadas en efectos especiales. El morphing es un efecto de transición suave y progresiva entre dos (o más) imágenes. Está basado en algunas ideas ya estudiadas: Una transformación geométrica, definida por un conjunto de puntos de origen, S, y otro de destino, D. El proceso es similar a la transformación de malla, pero en lugar de rectángulos se usan segmentos equivalentes. La transf. geométrica está graduada, entre las posiciones de origen y de destino. %: posiciones de origen, %: posiciones de destino, 5%: término medio entre ambos. El color de un píel es una media ponderada, entre la imagen origen y destino, según el grado de la transformación. Procesamiento udiovisual 99 Morphing entre dos imágenes basado en líneas. Paso. Establecer segmentos equivalentes B entre dos imágenes. S= (s, s 2,..., s n ) D= (d, d 2,..., d n ) Segmentos origen, S Paso 2. Repetir el proceso para g desde hasta. En el paso g, los segmentos intermedios son: i k = (-g)s k + g d k Segmentos destino, D Procesamiento udiovisual Morphing entre dos imágenes basado en líneas. 2.. Transformar, moviendo los puntos de S a I R 2.2. Transformar B, moviendo los puntos de D a I R Media ponderada: R= (- g)r + g R2 Conclusiones: Las transformaciones de mapeo son el caso general de las transformaciones geométricas. Permiten modelar los efectos producidos por fenómenos físicos naturales. Para simularlos (efecto de ondas, pinchar, estirar...). Para corregirlos (distorsión radial, aberraciones en las lentes...). también otras cosas no naturales: efectos especiales. La transformación de mapeo está definida por un par de funciones f, f 2, (RR R) o bien un par de imágenes mapa, mapa y. Procesamiento udiovisual Procesamiento udiovisual 2 7

18 4. Transformaciones geométricas. Conclusiones: Eisten muchos tipos de transformaciones geométricas, desde las más simples a las más complejas: fines, bilineales, perspectivas, basadas en superficies deformantes, morphing, mapeo arbitrario, etc. Pero todas ellas tienen el mismo formato: R(, y):= (f (,y), f 2 (,y)) todas requieren usar interpolación. La cuestión clave: cómo están definidas las funciones f y f 2 para el efecto que necesitamos? Ojo, en algún caso podemos tener lo contrario: R(g (,y), g 2 (,y)):= (,y) En ese caso, habrá que obtener las funciones inversas. Procesamiento udiovisual 3 neo.4. Transformaciones geométricas en OpenCV. Transformaciones afines predefinidas Transformaciones afines genéricas Transformaciones perspectivas Transformaciones de mapeo arbitrario Ejercicios Procesamiento udiovisual 4 Podemos clasificar las operaciones de transformación geométrica en los siguientes tipos: ) Transformaciones afines predefinidas. 2) Transformaciones afines genéricas. 3) Transformaciones perspectivas. 4) Transformaciones de mapeo arbitrario. Un parámetro de las operaciones es el tipo de interpolación a aplicar. Se definen las constantes: Interpolación Vecino más próimo Bilineal Bicúbica Supermuestreo En OpenCV CV_INTER_NN CV_INTER_LINER CV_INTER_CUBIC CV_INTER_RE Procesamiento udiovisual 5 Comportamiento de las operaciones de transformación geométrica en OpenCV: Las operaciones permiten usar ROI. No se pueden usar máscaras (mask). Se permite el modo in-place, es decir, la salida se almacena en la misma imagen de entrada. Por defecto, los píeles de salida no afectados se ponen a negro (ver flag CV_WRP_FILL_OUTLIERS). Pero se puede indicar que se rellenen con otro valor constante (parámetro fillval) o dejarlos sin modificar (si no se activa ese flag). La principal carencia de OpenCV son las transformaciones bilineales. No se pueden hacer... hay que programárselas uno mismo. Procesamiento udiovisual 6 Transformaciones afines predefinidas: cvresize, cvflip (cvmirror), cv2drotationmatri Transformaciones afines genéricas: cvwarpffine, cvgetffinetransform Transformaciones perspectivas: cvwarpperspective, cvgetperspectivetransform Transformaciones de mapeo arbitrario: cvremap Procesamiento udiovisual 7 Redimensionar una imagen: void cvresize (Cvrr* src, Cvrr* dst, int inter=cv_inter_liner) Redimensionar la imagen src al tamaño de la imagen dst. Puede ser aumento o reducción. El método de interpolación va en inter. Las dos imágenes deben ser de la misma profundidad y el mismo número de canales. Recordar: se permite ROI, tanto en src como en dst; y si dst tiene ROI, no se modifican los valores eteriores (esta función no admite FILL_OUTLIERS). Ejemplo. Zoom 2 de una imagen img: IplImage *res= cvcreateimage(cvsize(img->width*2,img->height*2), img->depth, img->nchannels); cvresize(img, res, CV_INTER_CUBIC); cvshowimage("zoom", res); Procesamiento udiovisual 8 8

19 Espejo de una imagen: void cvflip (const Cvrr* src, Cvrr* dst=null, int flip_mode=) (cvmirror es sinónimo de cvflip) Calcula el espejo de la imagen src. Según flip_mode: espejo horizontal; espejo vertical; - ambos. Permite modo in-place (que, además, es el modo por defecto, cuando dst==null). Nota: estas operaciones son importantes si el origen de las imágenes (origin) es bottom-left, ya que OpenCV trabaja siempre con top-left. l obtener las imágenes habrá que hacer: if (img->origin==) { cvflip(img); img->origin= ; } Ojo: esto puede ser necesario cuando trabajamos con vídeo en Windows Procesamiento udiovisual 9 Rotar una imagen. No eiste una función única para rotar una imagen, sino que hay que: Calcular una matriz de rotación (cv2drotationmatri). plicar dicha transformación afín (cvwarpffine). Las matrices de transformación afín son matrices CvMat de tamaño 23 y tipo CV_64FC o CV_32FC. CvMat *mafin= cvcreatemat(2, 3, CV_64FC); Ejemplo. Rotar una imagen respecto al centro de la misma en un ángulo angulo. CvMat *mafin= cvcreatemat(2, 3, CV_64FC); CvPoint2D32f centro= cvpoint2d32f(img->width/2., img->height/2.); cv2drotationmatri(centro, angulo,., mafin); cvwarpffine(img, res, mafin); Si hay que usar otro desplazamiento, se deben modificar las posiciones (,2) y (,2) de mafin: cvrealset2d(mafin,, 2, d); cvrealset2d(mafin,, 2, dy); Procesamiento udiovisual Transformaciones afines genéricas plicar una transformación afín arbitraria en OpenCV: void cvwarpffine (const Cvrr* src, Cvrr* dst, const CvMat* c, int flags=..., CvScalar fillval= cvscalarll()) plicar una transformación afín genérica, dada por la fórmula: c[][] dst(,y):= src( c[][] c[][] c[][] c[][2] c[][2] y ) La matriz c, de tipo CV_64FC o CV_32FC, indica los coeficientes de la transformación. La matriz c se puede rellenar usando cvsetreal2d. flags indica el tipo de interpolación (bilineal por defecto) y además... Procesamiento udiovisual Si flags = CV_WRP_INVERSE_MP, la transformación es inversa, es decir, se aplica: c[][] c[][] c[][2] dst( y ) := src(,y) c[][] c[][] c[][2] Ejemplo. Inclinar (shear) la imagen img en X en angulo grados y desplazar en X para que se quede centrada. sal= cvcreateimage(cvgetsize(img), img->depth, img->nchannels); cvzero(sal); double inc= tan(angulo*m_pi/8.); CvMat *c= cvcreatemat(2, 3, CV_32FC); cvsetreal2d(c,,,.); cvsetreal2d(c,,, inc); cvsetreal2d(c,, 2, -inc*img->height/2.); cvsetreal2d(c,,,.); cvsetreal2d(c,,,.); cvsetreal2d(c,, 2,.); cvwarpffine(img, sal, c, CV_INTER_LINER); cvreleasemat(&c); Procesamiento udiovisual 2 Calcular los coeficientes de una transformación afín: CvMat* cvgetffinetransform (const CvPoint2D32f* src, const CvPoint2D32f* dst, CvMat* mat); src es un array de 3 puntos, en la imagen de origen. dst es un array de 3 puntos, en la imagen de destino. Significado: calcular la transformación afín necesaria para mapear src en los puntos dst, almacenando en resultado en la matriz mat (matriz de 23), que es la misma que se devuelve. Esta operación resuelve el sistema de ecuaciones de las páginas 44-45, para mapear un rombo dado en otro rombo. También se podrían resolver de forma eplícita usando la función cvsolve para resolver sistemas de ecuaciones en general. Ejemplo. plicar una transformación afín a una imagen img, suponiendo que tenemos 3 puntos en img y los 3 puntos correspondientes en destino. CvMat *mat= cvcreatemat(2, 3, CV_64FC); CvPoint2D32f src[3]; CvPoint2D32f dst[3]; src[]= cvpoint2d32f(, y);... cvgetffinetransform(src, dst, mat); cvwarpffine(img, destino, mat, CV_INTER_CUBIC); cvreleasemat(&mat); Procesamiento udiovisual 3 Procesamiento udiovisual 4 9

20 Transformaciones perspectivas Para las transformaciones perspectivas, las operaciones disponibles en OpenCV son similares a las afines. plicar una transformación: cvwarpffine cvwarpperspective Calcular los coeficientes: cvgetffinetransform cvgetperspectivetransform En este caso la matriz que define la transformación es un CvMat de 33 de tipo CV_64FC o CV_32FC. OpenCV no tiene las transformaciones bilineales. Procesamiento udiovisual 5 plicar una transformación perspectiva: void cvwarpperspective (const Cvrr* src, Cvrr* dst, const CvMat* c, int flags=..., CvScalar fillval= cvscalarll()) plica una transf. perspectiva de la imagen src en dst. La matriz c[][] c[][] c[][2] de coeficientes c es de 33. y = c[][] c[][] c[][2] y z c[2][] c[2][] c[2][2] flags indica el tipo de interpolación (por defecto bilineal). si vale CV_WRP_INVERSE_MP, se usa la inversa de la matriz c. Si flags vale CV_WRP_FILL_OUTLIERS significa que lo que caiga fuera en dst, se rellene de color fillval. Procesamiento udiovisual 6 Calcular los coeficientes de una transformación afín: CvMat* cvgetperspectivetransform (const CvPoint2D32f* src, const CvPoint2D32f* dst, CvMat* mat); src es un array de 4 puntos, en la imagen de origen. dst es un array de 4 puntos, en la imagen de destino. Significado: calcular la transformación perspectiva necesaria para mapear los puntos src en los puntos dst, almacenando en resultado en la matriz mat (matriz de 33), que es la misma que se devuelve. Esta operación resuelve el sistema de ecuaciones de la página 59, para mapear un cuadrilátero dado en otro Procesamiento udiovisual 7 lgunas propiedades interesantes de la matriz c: Si ambos cuadriláteros son rombos, la transformación anterior será afín, por lo que c[2][]=, c[2][]=, c[2][2]=. La inversa de una transformación perspectiva asociada a c, se obtiene usando la matriz inversa de c, es decir, c -. Ver cvinvert para invertir matrices. El modo CV_WRP_INVERSE_MP consiste simplemente en usar la matriz c -. La aplicación sucesiva de dos transformaciones perspectivas c y luego c2, equivale a la transf. asociada al producto matricial de c2 por c. Ver cvmatmuldd. Procesamiento udiovisual 8 Ejemplo. Transformación perspectiva de una imagen, img, para producir un efecto similar al de la página 56. IplImage *sal= cvcloneimage(img); cvset(sal, cvscalarll(255)); CvMat *c= cvcreatemat(3, 3, CV_32FC); int w= img->width-; int h= img->height-; CvPoint2D32f src[4]= // Cuatro puntos en el origen {{,}, {w,}, {w,h}, {,h}}; CvPoint2D32f dst[4]= // Cuatro puntos en el destino {{w*.4,}, {w*.55,}, {w,h}, {,h}}; cvgetperspectivetransform(src, dst, c); cvwarpperspective(img, sal, c, CV_INTER_CUBIC); cvreleasemat(&c); Procesamiento udiovisual 9 Transformaciones de mapeo arbitrario: Consisten en definir el par de funciones f (,y) y f 2 (,y) de la transformación geométrica genérica: R(,y):= (f (,y), f 2 (,y)) f y f 2 indican para cada píel de salida, cuál es el píel correspondiente de entrada. Recordar que f y f 2 se pueden ver, a su vez, como imágenes, que tendrán un solo canal. Cuando el valor de las funciones no sea entero, se aplicará algún método de interpolación. Si el valor asociado a un píel cae fuera de la imagen origen, el contenido de la imagen no se modifica o se pone a un valor constante. La única función necesaria es cvremap. Procesamiento udiovisual 2 2

21 plicar un mapeo arbitrario: void cvremap (const Cvrr* src, Cvrr* dst, const Cvrr* Map, const Cvrr* ymap, int interpol, CvScalar fillval) plica la transformación de mapeo: dst(,y):= src(map(,y), ymap(,y)) Es decir, f está dada en Map, y f 2 en ymap. Map e ymap deben ser imágenes solo canal, de profundidad float (IPL_DEPTH_32F) y del mismo tamaño que dst. La profundidad de las imágenes src y dst debe ser la misma. Recordar: cvremap admite modo in-place. Lo realmente importante de esta función es cómo calcular las imágenes Map e ymap para conseguir el efecto deseado. Procesamiento udiovisual 2 Ejemplo. Transf. aleatoria de una imagen img, con un radio m: IplImage* img= cvcreateimage(cvgetsize(img), IPL_DEPTH_32F, ); IplImage* imgy= cvcreateimage(cvgetsize(img), IPL_DEPTH_32F, ); CvScalar s, sy; for (int y= ; y<img->height; y++) for (int = ; <img->width; ++) { s.val[]= + rand()%(2*m+) - m; // m indica el radio de la sy.val[]= y + rand()%(2*m+) - m; cvset2d(img, y,, s); cvset2d(imgy, y,, sy); } cvremap(img, res, img, imgy, CV_INTER_CUBIC); cvreleaseimage(&img); cvreleaseimage(&imgy); // transformación aleatoria Ejemplo 2. Tr. de acristalado. Sustituir las líneas comentadas por: s.val[]= - %m + y%m; sy.val[]= y - y%m + %m; Procesamiento udiovisual 22 Ejemplo 3. plicación de varias transformaciones cilíndricas a la imagen img, con distintos grados de transformación. IplImage* res= cvcloneimage(img); IplImage* img= cvcreateimage(cvgetsize(img), IPL_DEPTH_32F, ); IplImage* imgy= cvcreateimage(cvgetsize(img), IPL_DEPTH_32F, ); for (int yy= ; yy<img->height; yy++) for (int = ; <img->width; ++) cvsetreal2d(imgy, yy,, yy); double 2, v, a; for (int kk= ; kk<2; kk++) { // OJO: esto es para hacer una animación a=./(5.5-kk/4.); // a es el segundo radio de la elipse for (int yy= ; yy<img->height; yy++) for (int = ; <img->width; ++) { 2=.-2.*/img->width; v= 2?atan2(a*sqrt(-2*2),2)*img->width/M_PI:img->width/2.; cvsetreal2d(img, yy,, v); } cvremap(img, res, img, imgy, CV_INTER_CUBIC); cvnamedwindow("remap", ); cvshowimage("remap", res); cvwaitkey(2); } cvreleaseimage(&img); cvreleaseimage(&imgy); Procesamiento udiovisual 23 2