Teoria de informacion II: canales, errores y aplicaciones modernas
La teoria de informacion II avanza hacia problemas practicos de comunicacion: cuanta informacion puede transmitirse por un canal ruidoso, como corregir errores automaticamente y como se aplica la teoria de informacion en inteligencia artificial✦ y machine learning.
Capacidad de canal
La capacidad de canal es la maxima tasa de informacion que puede transmitirse confiablemente por un canal de comunicacion. Shannon demostro que existe un limite fundamental: si se transmite por debajo de esa capacidad, se puede lograr comunicacion sin errores usando codigos adecuados.
El teorema de capacidad de canal de Shannon establece que la capacidad C de un canal con ancho de banda B y relacion senal-ruido S/N es C igual a B por logaritmo de uno mas S/N. Este teorema es la base de todas las comunicaciones digitales modernas.
- Canal ruidoso: canal donde se introducen errores aleatoriamente
- Capacidad: maxima tasa de transmision confiable en bits por segundo
- Relacion senal-ruido: potencia de la senal dividida entre potencia del ruido
- Ancho de banda: rango de frecuencias que el canal puede transmitir
- Codigos correctores: agregan redundancia para detectar y corregir errores
| Concepto | Formula o definicion | Unidad |
|---|---|---|
| Entropia | H igual a menos suma de p por log p | Bits por simbolo |
| Capacidad | C igual a B por log de 1 mas S/N | Bits por segundo |
| Redundancia | Informacion extra para corregir errores | Bits adicionales |
| Tasa de codigo | Bits de informacion entre bits totales | Adimensional |
| Distancia de Hamming | Numero de posiciones diferentes | Bits |
Codigos correctores de errores
Los codigos correctores de errores agregan bits extra (redundancia) a los datos para que el receptor pueda detectar y corregir errores sin necesidad de retransmision. Se usan en discos duros, comunicaciones espaciales, CDs, DVDs y telefonos moviles.
Paso 1: Codificar en el emisor
Agregar bits de redundancia a los datos originales usando un codigo corrector como Hamming, Reed-Solomon o LDPC.Paso 2: Transmitir por el canal
Enviar los datos codificados por el canal ruidoso donde pueden ocurrir errores.Paso 3: Detectar errores en el receptor
Usar los bits de redundancia para identificar si ocurrieron errores y en que posiciones.Paso 4: Corregir errores
Aplicar el algoritmo de correccion para recuperar los datos originales sin necesidad de retransmision.
Paso 1 de 4
La teoria de informacion algoritmica, desarrollada por Kolmogorov, define la complejidad de un objeto como la longitud del programa mas corto que puede generarlo. Un objeto es aleatorio si no puede comprimirse, es decir, si su complejidad de Kolmogorov es igual a su tamano.
Piensa y responde
¿Que establece el teorema de capacidad de canal de Shannon?
Los codigos correctores de errores eliminan completamente la necesidad de retransmision.
La capacidad de un canal aumenta con el de banda y la relacion -ruido.
Relaciona cada concepto con su aplicacion:
Clasifica estos conceptos de teoria de informacion:
Arrastra cada ficha a su categoría (o tócala y luego toca la categoría). También puedes usar el teclado.
Ordena el proceso de transmision con correccion de errores:
Coloca los elementos en orden y pulsa Comprobar.
¿Como permite la teoria de informacion que tu telefono funcione en una zona con mala senal? ¿Que tecnicas se usan para mantener la comunicacion?
Tu texto se guarda sólo en este dispositivo.
Para dominar este tema
- Domina el concepto de capacidad de canal y el teorema de Shannon
- Comprende como funcionan los codigos correctores de errores
- Conoce aplicaciones practicas en telecomunicaciones
- Entiende la relacion entre teoria de informacion y machine learning
Verificacion de dominio
Aquí se mira lo que ya fuiste acertando. Pulsa «Comprobar» para saber si puedes seguir.
Comentarios
Inicia sesión para comentar.
Todavía no hay comentarios. Sé la primera persona en opinar.