Teoría de la Información y Codificación

Transcripción

1 SEGUNDA EDICIÓN Construcción de sistemas y servicios VoIP Yolanda Blanco Fernández Martín López Nores Dispositivos y circuitos eléctricos analógicos Alfonso Lago Ferreiro Andrés A. Nogueiras Meléndez Problemas de Teoría de Colas Rebeca P. Díaz Redondo José J. Pazos Arias Ana Fernández Vilas Cándido López García Manuel Fernández Veiga Arquitectura de Ordenadores: Problemas de programación en ensamblador Fernando A Mikic Fonte Martín Llamas Nistal Este libro contiene las ideas básicas de la Teoría de Información y la Teoría de la Codificación, dos campos esenciales para la compresión cabal de la ingeniería de los modernos sistemas de transmisión digital. Los autores han querido dar: > Una presentación autocontenida y actualizada, en un solo volumen, de la Teoría de la Información, las técnicas de codificación de fuente, las de codificación de canal y los fundamentos de los protocolos de retransmisión. > Un estudio detallado de los códigos algebraicos de control de errores más utilizados en las aplicaciones: los códigos lineales, los códigos cíclicos, los códigos BCH y los códigos ReedSolomon, con abundantes ejemplos de los métodos de decodificación más apropiados para cada clase. TEORÍA DE LA INFORMACIÓN Y CODIFICACIÓN Otros títulos publicados por Andavira Editora > Una exposición precisa de los códigos convolucionales en cuanto que técnicas de control de errores; la mayoría de textos los tratan solo desde la prespectiva de las modulaciones digitales. Programación avanzada orientada a objetos J. Baltasar García Pérez-Schofield Francisco Ortín Soler Protección de instalaciones y redes eléctricas Juan M. Suárez Creo Radiocomunicación Marcos Arias Acuña Óscar Rubiños López Sistemas operativos Martín López Nores Yolanda Blanco Fernández TV-Anytime Alberto Gil Solla Rafael G. Sotelo Bovino ISBN Cándido López García Manuel Fernández Veiga Teoría de la Información y Codificación

2

3 Teoría de la Información y Codificación Cándido López Manuel Veiga Universidad de Vigo

4

5 Teoría de la Información y Codificación Cándido López García Manuel Fernández Veiga

6 c 2013, los autores Ninguna parte de esta publicación puede ser reproducida, almacenada, registrada o transmitida cualquiera que sea la forma o el medio, impreso, mecánico, electrónico, fotoquímico, fotográfico o de otra naturaleza, sin el permiso expreso por escrito del editor.

7 Índice general 1 Introducción Un modelo de sistema de comunicación Los modelos matemáticos de las fuentes discretas y los canales discretos La codificación de fuente La codificación de canal Estructura del libro I Teoría de la Información 2 La entropía Definición de entropía Funciones convexas Propiedades de la entropía Entropía conjunta Codificación de fuente Códigos de bloques Síntesis de códigos instantáneos Códigos óptimos Algoritmo de Huffman Tasa de entropía de un proceso estocástico Tasa de entropía de una cadena de Markov A La propiedad de equipartición asintótica iii

8 iv Índice general 3.B Técnicas de compresión Información mutua y capacidad de canal Entropía condicional Información mutua Información mutua condicional El teorema de procesamiento de la información Información mutua entre vectores aleatorios Capacidad de canal: concepto y propiedades Cálculo de la capacidad El teorema de codificación de canales ruidosos Introducción El teorema de Shannon de codificación de canales ruidosos Interpretación del teorema A Decodificación óptima II Conceptos básicos de control de errores 6 Códigos lineales Introducción Códigos lineales Matriz generadora Matriz de comprobación de paridad Decodificación por síndrome Matriz típica Detección y corrección de errores Probabilidad de error Códigos Hamming Identidad de MacWilliams A Cotas de distancia

9 Índice general v 7 Códigos cíclicos Definición Descripción matricial Códigos cíclicos sistemáticos Circuitos codificadores Detección de errores Decodificación de códigos cíclicos Estructura cíclica de los códigos Hamming Códigos cíclicos acortados Códigos cíclicos irreducibles A Códigos cíclicos, anillos e ideales Protocolos de retransmisión Estrategias ARQ Análisis de la cadencia eficaz A Sobre la cadencia eficaz III Códigos BCH, códigos Reed Solomon y códigos convolucionales 9 Cuerpos finitos Definición Construcción de cuerpos finitos Estructura Polinomios mínimos Factorización de x n Periodo de un polinomio Códigos BCH Construcción y propiedades Códigos BCH binarios Dimensión y distancia Métodos de decodificación algebraica

10 vi Índice general 11 Códigos Reed Solomon Definición Códigos RS modificados Decodificación de códigos RS Decodificación por localización Decodificación por lista Decodificación con símbolos borrados Códigos RS generalizados A Los códigos cíclicos y la transformada de Fourier B El algoritmo de Berlekamp Massey Códigos convolucionales Definición Representación reticular Terminación de un código convolucional Decodificación Enumeración de caminos Distancia mínima y codificadores catastróficos Probabilidad de error Punción de códigos convolucionales Bibliografía 455

11

12 SEGUNDA EDICIÓN Construcción de sistemas y servicios VoIP Yolanda Blanco Fernández Martín López Nores Dispositivos y circuitos eléctricos analógicos Alfonso Lago Ferreiro Andrés A. Nogueiras Meléndez Problemas de Teoría de Colas Rebeca P. Díaz Redondo José J. Pazos Arias Ana Fernández Vilas Cándido López García Manuel Fernández Veiga Arquitectura de Ordenadores: Problemas de programación en ensamblador Fernando A Mikic Fonte Martín Llamas Nistal Este libro contiene las ideas básicas de la Teoría de Información y la Teoría de la Codificación, dos campos esenciales para la compresión cabal de la ingeniería de los modernos sistemas de transmisión digital. Los autores han querido dar: > Una presentación autocontenida y actualizada, en un solo volumen, de la Teoría de la Información, las técnicas de codificación de fuente, las de codificación de canal y los fundamentos de los protocolos de retransmisión. > Un estudio detallado de los códigos algebraicos de control de errores más utilizados en las aplicaciones: los códigos lineales, los códigos cíclicos, los códigos BCH y los códigos ReedSolomon, con abundantes ejemplos de los métodos de decodificación más apropiados para cada clase. TEORÍA DE LA INFORMACIÓN Y CODIFICACIÓN Otros títulos publicados por Andavira Editora > Una exposición precisa de los códigos convolucionales en cuanto que técnicas de control de errores; la mayoría de textos los tratan solo desde la prespectiva de las modulaciones digitales. Programación avanzada orientada a objetos J. Baltasar García Pérez-Schofield Francisco Ortín Soler Protección de instalaciones y redes eléctricas Juan M. Suárez Creo Radiocomunicación Marcos Arias Acuña Óscar Rubiños López Sistemas operativos Martín López Nores Yolanda Blanco Fernández TV-Anytime Alberto Gil Solla Rafael G. Sotelo Bovino ISBN Cándido López García Manuel Fernández Veiga Teoría de la Información y Codificación