Repblica Bolivariana de VenezuelaMinisterio del Poder Popular para la Defensa y EducacinUniversidad Nacional Experimental Politcnica de la Fuerza ArmadaUNEFANcleo Anzotegui Sede San TomIngeniera en TelecomunicacionesComunicaciones II

Teora de la Informacin y Codificacin

Facilitador: Bachilleres:Norgeilys Maita Fernndez, Jos C.IFreitas, Oriana C.I: 20.741.846Gonzlez, Evelyn C.I:Lpez, Beatriz C.I:Requena, Manuel C.I:Torrealba, Miguel C.I: 23.519.438Valera6to semestre, seccin D-01

Octubre, 2014NDICEContenido PgINTRODUCCINMEDIDA DE LA INFORMACIN Y CODIFICACIN DE LA FUENTE4CONCEPTO Y MEDIDA DE INFORMACION5ENTROPA E INFORMACIN9TEOREMA DE SHANNON9CODIFICACIN PARA UNA FUENTE DISCRETA SIN MEMORIA10CODIFICACIN PREDICTIVA PARA FUENTES CON MEMORIA10TRANSMISIN DE INFORMACIN EN CANALES DISCRETOS12INFORMACIN MUTUA12CAPACIDAD DE UN CANAL DISCRETO14CODIFICACIN PARA EL CANAL BINARIO SIMTRICO15CANALES CONTINUOS Y COMPARACIN DE SISTEMAS17INFORMACIN CONTINUA17CAPACIDAD DE CANAL CONTINUO18SISTEMAS IDEALES DE COMUNICACIONES19COMPARACIN DE SISTEMAS20ESPACIO DE SEAL21SEALES COMO VECTORES21PROCEDIMIENTO DE GRAM-SCHMIDT22DETECCIN DIGITAL PTIMA23DETECCIN DIGITAL PTIMA23DETECCIN PTIMA Y RECEPTORES MXIMO A POSTERIORI (MAP)23PROBABILIDADES DE ERROR24CONCLUSINBIBLIOGRAFA

INTRODUCCIN

La transmisin de datos no es tan rpida como se quisiera, los dispositivos de almacenamiento no tienen capacidad ilimitada, las cantidades muy grandes de datos son poco manejables... los que menos se desea es que la mitad de los datos que se reciben, encima, no sirvan para nada. Sera interesante reducir la cantidad de datos, pero sin perderinformacin.La Teora de la Informacin muestra, entre otras cosas, el camino a seguir para determinar la cantidad de informacin til de unos datos y para comprimir la informacin de manera que los datos se representen de una manera eficiente. La Teora de la Informacin se desarrolla en trminos de probabilidades, ya que la informacin tiene una naturaleza aleatoria (si supisemos de antemano la informacin, para qu la querramos?). Por supuesto, en la realidad no disponemos a priori de las probabilidades necesarias, por lo que habr que estimarlas de los datos existentes.

MEDIDA DE LA INFORMACIN Y CODIFICACIN DE LA FUENTE

El concepto de informacin supone dos objetos: La fuente de informacin(Tx) y El destinatario de la informacin(RX)Los tipos de problemas que surgen en el estudio de la informacin son de alguno de estos tres tipos: Tcnicos: Relativos a la exactitud, confiabilidad, velocidad de transmisin, etc. Semnticos: Estn dirigidos a las investigaciones que pretenden resolver el problema de cmo es posible transmitir exactamente el significado del mensaje con ayuda de textos. Pragmticos: Analizan el grado de eficiencia en que influye la informacin sobre el comportamiento del destinatario.Se ocupa de la descripcin matemtica y evaluacin de los mtodos y transmisin, conservacin, extraccin, clasificacin y medida de la informacin.A continuacin veremos el diagrama de bloques de un sistema de transmisin digital:

Se dice que los smbolos son generados por una fuente y a la conversin se le llama codificacin de fuente (por ejemplo PCM o DPCM). El codificador de fuente tambin se puede encargar de codificar eficientemente los datos binarios, asignando, por ejemplo, mas bits a los smbolos menos probables y menos bits a los ms probables. Por su parte, el codificador de canal introducir bits redundantes de una manera controlada, con el fin de fortalecer la informacin frente al ruido o a la interferencia que pueda conseguir en el canal. Luego de pasar por un canal que, entre otras cosas, agrega ruido, el receptor se encarga de realizar todas las operaciones inversas a fin de rescatar el mensaje original.

CONCEPTO Y MEDIDA DE INFORMACION

CONCEPTOS BSICOSLos principales conceptos a desarrollar en la Teora de la Informacin son: La medida de la informacin La capacidad de un canal de comunicacin para transferir la informacin La codificacin como medio de utilizar el canal a plena capacidad.Estos tres conceptos bsicos se encuentran reunidos en lo que puede llamarse Teorema fundamental de la teora de la informacin. La codificacin se emplea para adaptar la fuente al canal para una transferencia de informacin con un mximo de confiabilidad.MEDIDA DE LA INFORMACIN.CONCEPTO DE INFORMACIN, MENSAJE O AUTOINFORMACINSea un mensaje A de probabilidad de ocurrencia P(A), la informacin que conlleva ese mensaje definida como autoinformacin es:

Ecuacin No 1donde f(P(A)) debe ser determinada.Para encontrar f(P(A)) se suponen los siguientes requerimientos:

1. donde 0P(A) 1

2.

3.>Para P(A) K 1 es el retador de deteccin. Adems, las operaciones requeridas por el MAP Tipo II son OMAP = MMAPAG, (2.29) donde indica las operaciones requeridas para calcular la mtrica de las ramas (|X| multiplicaciones y |X| sumas). Este algoritmo requiere adems operaciones de exponenciacin que incrementan notablemente su complejidad. No obstante, existen versiones subptimas con un desempeo muy prximo al ptimo. Estas versiones subptimas no requieren de operaciones de exponenciacin y su complejidad viene dada por la cantidad de memoria (2.28) y de operaciones (2.29). La complejidad del MAP crece de manera exponencial no slo con la cantidad de usuarios sino tambin con la cantidad de bits m por smbolo codificado. Esto hace que la complejidad del MAP sea excesiva para canales con alta eficiencia espectral, an cuando la cantidad de usuario no sea demasiado grande. Del anlisis anterior se desprende que la complejidad del receptor MAP+SVA est determinada fundamentalmente por la del detector MAP. Para reducir la complejidad del detector MAP, se emplean detectores multiusuarios subptimo. Entre los detectores con mejor nivel de desempeo en canales con fuerte interferencia se encuentra el detector multiusuario retroalimentado por decisiones que se denota con la sigla MDFE. PROBABILIDADES DE ERROR

La estructura de un receptor ptimo no sirve de mucho sin el conocimiento de la probabilidad de error. As que aqu formulamos en general y expresiones especficas para la probabilidad media de error en un sistema M-ario con smbolos equiprobables y ptimo deteccin. Como punto de partida, tomar un Mj. smbolo arbitrario y sea representan la probabilidad de deteccin errnea de la seal correspondiente. Donde P (c I m,) representa la probabilidad de deteccin correcta. Usaremos geomtrica argumentos de vectores para determinar P (e 1 MJ) o P (c (MJ).Figura 16.5-7a representa la situacin en que, cuando s (t) ha sido corrompida por ruido, (t), resultando en el vector v = sj + n. Tambin se muestra otro vector de la seal sin cuya punta a punta "distancia" de sj es d,, travesao = 11 si -. Un error de deteccin se produce si la proyeccin de n en la direccin del si - sj excede dU / 2, por lo que v cae en el lado equivocado a mitad de camino de la frontera de decisin entre si y sj. Este evento de error se denominar no por e U. T encuentre la probabilidad de P (UE) l, et los vectores se traduzca nativa y / o girar.

CONCLUSIN

Las medidas de posicin en un conjunto de datos estn diseadas para proporcionar al analista algunas medidas cuantitativas de donde est el centro de los datos en unamuestra.En las medidas de posicin se trata de encontrar medidas que sinteticen las distribuciones de frecuencias. En vez de manejar todos los datos sobre las variables, tarea que puede ser pesada, se puede caracterizar su distribucin de frecuencias mediante algunos valores numricos, eligiendo como resumen de los datos un valor central alrededor del cual se encuentran distribuidos los valores de la variable. Ladescripcinde un conjunto de datos, incluye como un elemento de importancia la ubicacin de stos dentro de un contexto de valores posibles.En cuanto a la codificacin efectiva los datos pueden ser capturados precisa y efectivamente, mediante el uso de conocimiento de varios cdigos la codificacin es de gran ayuda para el analista de sistemas ya que le permite el alcance de un objetivo eficiente para la captura de datos que estn codificados.En los tipos de cdigos se ve que cada uno de ellos tiene maneras diferentes para el maneja-miento de procesamiento de la captura de los datos. Estos tipos de cdigos que se especifican permiten tratar los datos en una forma particular.

BIBLIOGRAFA

http://es.wikipedia.org/wiki/Teor%C3%ADa_de_la_informaci%C3%B3nhttp://es.slideshare.net/tarazona19/semana-9html.rincondelvago.com/introduccion-a-la-teoria-de-la-informacion.html