Comunicaciones Digitales Codificación de Canal

Transcripción

1 Comunicaciones Digitales Codificación de Canal Turbo Códigos Bibliografía Turbo códigos!! S. B. Wicker. Error Control Systems. Prentice Hall 1995!! L. Hanzo, T.H. Liew y B.L. Yeap. Turbo Coding, Turbo Equalization and Space-Time Coding. Wiley 2002!! C. Berrou y A. Glavieux. 'Near optimum error correcting coding and decoding: Turbo codes'. IEEE Transactions on Communications, vol. 44, pp , 1996 Curso 2009/10 Codificación de Canal 2

2 Problema!! Límite Shannon: k!!, n!!!! Códigos bloques: aumentar n y k (n/k fijo)!! Aumenta la distancia!! Decodificadores no prácticos (2 k palabras código)!! Códigos convolucionales: aumentar memoria!! Mejora su distancia libre!! Decodificador óptimo no es práctico. Curso 2009/10 Codificación de Canal 3 Problema Codificador lineal n,k Resolución Óptima: inabordable Curso 2009/10 Codificación de Canal 4

3 Alternativa Cod conv. Entrelazador Cod conv. Solución Óptima abordable Curso 2009/10 Codificación de Canal 5 Turbo códigos!! Descubiertos en 1993.!! Concatenación de dos códigos convolucionales sistemáticamente recursivos.!! Empleando un entrelazador (interleaver).!! Decodificación!! Óptima pero muy costosa!! Subóptima, pero abordable (iterativa). Curso 2009/10 Codificación de Canal 6

4 Turbo códigos paralelo k Código n 1 Convolucional 2 n 1 +n 2 Entrelazador Código Convolucional 2 n 2 Curso 2009/10 Codificación de Canal 7 Turbo códigos Serie k Código n 1 Convolucional 2 n 2 Entrelazador Código Convolucional 2 n 2 Curso 2009/10 Codificación de Canal 8

5 Idea de la codificación Turbo!! Codificador complicado!! Concatenación de codificadores simples!! Entrelazado: errores de un codificador en distintas palabras código del otro!! Codificador externo (n 1,k 1 )!! Codificador interno (n 2,k 2 )!! Entrelazador k 2 x n 1 Curso 2009/10 Codificación de Canal 9 Idea de la codificación Turbo!! Códigos Bloque (para ejemplo) serie Curso 2009/10 Codificación de Canal 10

6 Idea de la decodificación Turbo!!o : errores recibidos!!x : errores introducidos!! por decodificador interno!!+: errores introducidod!! por decodificador externo!! Detección errores: iterar el proceso!! Problema: realimentación de errores!! Solución: decodificación blanda Curso 2009/10 Codificación de Canal 11 Turbo códigos!! Generalmente emplean codificadores convolucionales sistemáticos y recursivos!! Entrelazador: básico en el diseño!! Determina la ganancia de codificación!! Entrelazadores seudoaleatorios!! Decodificación: Soft-In, Soft-Out (SISO)!! Información intrínseca: datos recibidos!! Información extrínseca: entre decodificadores Curso 2009/10 Codificación de Canal 12

7 Decodificación!! Decodificación blanda empleando el algoritmo BCJR (tipo MAP) para el primer codificador.!! Información se pasa por el interleaver.!! Decodificación blanda empleando el algoritmo BCJR (tipo MAP) para el segundo codificador.!! Vuelta al primer decodificador. Curso 2009/10 Codificación de Canal 13 Algoritmo BCJR (MAP)!! Decodificadores!! Aceptan entradas blandas!! Proporcionan salidas blandas!! Entradas del decodificador!! Información intrínseca!! Bits sistemáticos!! Bits redundancia (de cada decodificador)!! Información extrínseca!! Cociente de verosimilitud (Likelihood ratio) Curso 2009/10 Codificación de Canal 14

8 Algoritmo MAP: definiciones!! Secuencia de información: M=2 m símbolos!! Se transmiten N símbolos u k {0,1, M-1}!! Codificador u k! x k!! Canal: AWGN!! x k! y k = x k + n k!! Decodificador!! y k! Curso 2009/10 Codificación de Canal 15 Algoritmo MAP: planteamiento!! Evalúa las probabilidades a posteriori!! A k,m =P(u k =m y)!! Decisión: Símbolo con máximo A k,m!! Algoritmo MAP: calcula A k,m!! Bayes!! P(a,b)=P(a b)p(b)!! P(a,b c)=p(a b,c)p(b c) Curso 2009/10 Codificación de Canal 16

9 Algoritmo MAP!! Diagrama de Trellis para símbolos S-1!!u 1!!x 1!!u 1 =0 S-1 S-1!!u k!!x k!!u k =0 S-1 S-1!!u N!!x N!!u N =0 S-1!!u 1 =M-1!!u 1 =1!!u k =M-1!!u k =1!!u N =M-1!!u N =1 S-2 S-2 S-2 S-2 S-2 S !!y -!!y k!!y!!g + k!!b k!!a k-1 Curso 2009/10 Codificación de Canal 17 Algoritmo MAP: Probabilidades!! Probabilidades a posteriori Curso 2009/10 Codificación de Canal 18

10 Algoritmo MAP Curso 2009/10 Codificación de Canal 19 Algoritmo MAP!! Calcular g(z,s)=n(x k,! 2 )P(u k =m)!! Calcular a k-1 (z) (estado inicial j)!! Calcular b k (s)!! Calcular Curso 2009/10 Codificación de Canal 20

11 Log Likelihood Ratio (LLR)!! Logaritmo del cociente de verosimilitud!! Signo: decisión!! Magnitud: probabilidad de acierto Curso 2009/10 Codificación de Canal 21 Algoritmo BCJR!! Estima probabilidades condicionales!! Decisión: máximo a posteriori (MAP)!! Estados del codificador convolucional Curso 2009/10 Codificación de Canal 22

12 Algoritmo BCJR!! Términos de los sumatorios del cociente!! Expresiones MAP Curso 2009/10 Codificación de Canal 23 Resumen BCJR!! Entradas al decodificador!! Salidas del canal y k!! Información a priori L(u k )!! Algoritmo!! Calcular g k (z,s)! b k (s) y a k-1 (z)!! Calcular L(u k ) Curso 2009/10 Codificación de Canal 24

13 Turbo Decodificador DEC 1 interleaver DEC 2 Curso 2009/10 Codificación de Canal 25 Turbo Decodificador DEC 1 interleaver DEC 2 Curso 2009/10 Codificación de Canal 26

14 Turbo Decodificador DEC 1 interleaver DEC 2 MAP BCJR Curso 2009/10 Codificación de Canal 27 Turbo Decodificador DEC 1 interleaver DEC 2 MAP BCJR Curso 2009/10 Codificación de Canal 28

15 Turbo Decodificador DEC 1 interleaver DEC 2 MAP BCJR MAP BCJR Curso 2009/10 Codificación de Canal 29 Turbo Decodificador Deinter- leaver DEC 1 interleaver DEC 2 MAP BCJR MAP BCJR Curso 2009/10 Codificación de Canal 30

16 Turbo Decodificador Deinter- leaver DEC 1 interleaver DEC 2 MAP BCJR MAP BCJR Curso 2009/10 Codificación de Canal 31 Turbo Decodificador Deinter- leaver DEC 1 interleaver DEC 2 Deinter- MAP BCJR MAP BCJR leaver Curso 2009/10 Codificación de Canal 32

17 Prestaciones!! A 0.7 db del límite de Shannon!!! Curso 2009/10 Codificación de Canal 33 Prestaciones: comentarios!! Entrelazador 64Kbit!! Voz: retardo de 8 segundos!! Voz: 40 ms! Latencia 320 (2 db)!! Error floor!! Decrece con longitud del entrelazado Curso 2009/10 Codificación de Canal 34

18 Extensiones!! Turbo product codes!! Concatenación serie de codificadores bloque!! Turbo Trellis-Coded Modulation (TTCM)!! Aplicación del principio Turbo!! Igualación!! Estimación de canal!! Detección multiusuario!!... Curso 2009/10 Codificación de Canal 35 Comunicaciones Digitales Codificación de Canal Códigos LDPC (Low Density Parity Check Codes)

19 Bibliografía LDPC!! R. Gallager. 'Low-Density Parity-Check Codes'. IRE Transactions on Information Theory, pp , Enero 1962.!! D. J. C. MacKay. Information theory, inference and learning algorithms. Cambrigde Curso 2009/10 Codificación de Canal 37 Historia de los códigos LDPC!! Inventados en 1962 (Gallager)!! Ignorados durante largo tiempo!! Requerimientos computacionales!! Introducción de los códigos Reed-Solomon!! Redescubiertos en 1995 (MacKay)!! Principio Turbo (1993) Curso 2009/10 Codificación de Canal 38

20 Fundamentos de los códigos bloque lineales!! Estructura del código!! Matriz generadora G!! Matriz de chequeo de paridad H!! Capacidad de corrección! d min!! d min : menor peso en las filas de G!! d min : mínimo número de columnas de H que sumen 0!! Ejemplo: Código Hamming (7,4) Curso 2009/10 Codificación de Canal 39 Códigos LDPC!! Matriz de paridad H dispersa (pocos 1's)!! Distancia mínima alta!! Aproximan la capacidad de Shannon!! No sufren el 'error floor'!! d min proporcional a la longitud del código!! Complejidad lineal de la decodificación!! Implementación paralelo sencilla Curso 2009/10 Codificación de Canal 40

21 Tipos de códigos LDPC!! Códigos LDPC Regulares!! H (rxn) tiene i f 1's por fila y i c 1's por columna!! r i f = n i c con i c << r (i f << n)!! i c " 3 es necesario para códigos 'buenos'!! Códigos LDPC irregulares!! Número de 1's por fila o columna no constante Curso 2009/10 Codificación de Canal 41 Generación códigos.!! Matriz de chequeo de paridad se construye asegurando que hay i c (>2) unos en cada columna.!! Se verifica que el número de unos por fila también sea lo más uniforme posible.!! Mayor i c más capacidad de corrección y más complejidad en decodificación. Curso 2009/10 Codificación de Canal 42

22 !! i c =3 Ejemplo de código LDPC!! Dos columnas se solapan como mucho en un 1!! Dispersión de 1's!! d min grande Curso 2009/10 Codificación de Canal 43 Matriz de Chequeo Paridad Curso 2009/10 Codificación de Canal 44

23 Matriz generadora del código.!! Mediante eliminación de Gauss: H! [I r P]!! Se puede construir la matriz generadora del código como: G=[P T I k ].!! Si hace falta permutar columnas también habrá que hacerlo en la matriz H original. Curso 2009/10 Codificación de Canal 45 Transformaciones!! Permutar filas 1ª y 5ª.!! Restar a las filas 6ª y 7ª la primera.!! Permutar filas 2ª y 3ª.!! Restar a las filas 4ª y 7ª la segunda.!! Permutar filas 3ª y 5ª.!! Restar a las filas 1ª y 6ª la tercera.!! Restar a todas las filas la cuarta.!! Permutar filas 5ª y 6ª.!! Restar a las filas 3ª y 7ª la quinta.!! Restar a las filas 3ª y 7ª la sexta.!! Restar a las filas 2ª y 4ª la séptima. Curso 2009/10 Codificación de Canal 46

24 Matriz generadora Curso 2009/10 Codificación de Canal 47 Codificación de códigos LDPC!! Generalmente, G es muy grande!! G no es en general dispersa!! Ejemplo: LDPC(10000,5000)!! P es 5000x5000!! Densidad de 1's=1/2! 12.5 x 's!! Códigos estructurados!! Codificación con registros de desplazamiento Curso 2009/10 Codificación de Canal 48

25 Decodificación iterativa de LDPC's!! Decodificación general de códigos bloque!! ch T =0!! s=rh T! e!! Algoritmos basados en grafos!! MAP (BCJR) para códigos basados en Trellis!! Suma-Producto (Paso de mensajes) para códigos basados en grafos bipartidos Curso 2009/10 Codificación de Canal 49 Grafo de Tanner!! Grafo bipartido!! Nodos separados en dos clases!! Conexiones entre nodos de distinta clase!!f 0!!f 1!!f 2!!f 3!!Nodos de!!chequeo!!nodos!!c 0!!C 1!!C 2!!C 3!!C 4!!C 5!!C 6!!C!!de bit 7 Curso 2009/10 Codificación de Canal 50

26 Decodificación: definiciones!! N(i) conjunto de las entradas no nulas de la fila i de H, p.e:!! N(3)={2,4,8,9,10,12}!! M(j) conjunto de las entradas no nulas de la columna j de H, p.e:!! M(10)={2,3,6}!! N(i)\j : es N(i) sin la columna j. Idem para M(j)/i. Curso 2009/10 Codificación de Canal 51 Matriz de Chequeo Paridad Curso 2009/10 Codificación de Canal 52

27 Decodificación: definiciones II!! Se transmiten 1's y 0's (niveles ±1) con una varianza de ruido " 2 y se recibe y.!! Para el bit n, la probabilidad que sea 1:!! y que sea cero: Curso 2009/10 Codificación de Canal 53 Decodificación: definiciones III!! : mensajes de nodo C i a nodo f j!! prob. bit j sea x con los chequeos (sin i)!! : mensajes nodo f i a nodo C j!! prob. bit de chequeo i correcto fijado bit j =x!! resto de bits: probabilidades de!! Similar a la información extrínseca intercambiada en los Turbo-Códigos Curso 2009/10 Codificación de Canal 54

28 Algoritmo decodificación!! Inicialización!! Solo se definen para los valores a 1 en H.!! Paso 1 (horizontal): Para todo i=1,...,r y j=1,...n: Se obtiene: Curso 2009/10 Codificación de Canal 55 Algoritmo decodificación II!! Paso 2 (vertical): Para todo i=1,...,r y j=1,...n:!! Se normalizan y para que sumen 1. Curso 2009/10 Codificación de Canal 56

29 Algoritmo decodificación III!! Decisión blanda (probabilidades a posteriori)!! Decisión dura!! Criterio de parada Curso 2009/10 Codificación de Canal 57 Ejemplo!! Palabra transmitida c=[0... 0]!! Palabra recibida r=[ ].!! Decisión dura d=[ ].!! Probabilidades: p 0 =[ ] Curso 2009/10 Codificación de Canal 58

30 Inicializar #q!! p 0 -p 1 =[ ] Curso 2009/10 Codificación de Canal 59 Cálculo #r!! #r 13 = $ Curso 2009/10 Codificación de Canal 60

31 Cálculo #r!! #r 14 = $ Curso 2009/10 Codificación de Canal 61 Cálculo #r!! Cálculo de!! Cálculo de probabilidades a posteriori Curso 2009/10 Codificación de Canal 62

32 Calculo q ij!! = $ Curso 2009/10 Codificación de Canal 63 Calculo q j!! = $ Curso 2009/10 Codificación de Canal 64

33 Cálculo q 0 y q 1!! q 0 =[ ]!! q 1 =[ ]!! Normalizar para que q 0 +q 1 =1. q0=[ ]!! Recordamos que: p 0 =[ ] Curso 2009/10 Codificación de Canal 65 decisión dura!! Primera decisión dura!! c e =sign(p 1 -p 0 )=[ ].!! Hc e %0.!! Segunda decisión dura!! c e =sign(q 1 -q 0 )=[ ].!! Hc e %0. Curso 2009/10 Codificación de Canal 66

34 Segunda Iteración!! q 0 =[ ]!! c e =sign(q 1 -q 0 )=[ ].!! Hc e =0 (palabra correcta). Curso 2009/10 Codificación de Canal 67 Diseño de códigos LDPC!! Objetivo: maximizar d min!! Evitar ciclos cortos en el grafo de Tanner!! Problema combinatorio!! Método de búsqueda!! Métodos basados en geometría!! Limitan el orden de los ciclos Curso 2009/10 Codificación de Canal 68

35 Problemas abiertos!! LDPC con rendimiento cercano a la capacidad!! Longitudes de código largas, muchas iteraciones, relaciones S/N bajas!! LDPC de palabras código relativamente cortas!! Alta tasa de codificación R#1!! Codificación simple!! Combinación con otras tecnologías!! OFDM, MIMO,... Curso 2009/10 Codificación de Canal 69