Gente, tengo una duda con un ejercicio de Comunicaciones, perteneciente a la guía 4. El ejercicio dice así:

10. Dado un tren de pulsos correspondientes a la siguiente secuencia: 010101000001, calcular la información suministrada con la aparición de un uno o de un cero y la ENTROPÍA de la fuente.

Rta:
HS = 0,92 Shannon/Símbolo


Alguien me puede dar una mano y explicar cómo fue que calculó la entropía de esa manera? Cómo fue que obtuvo las probabilidades de ocurrencia de cada uno de los símbolos de la cadena de ceros y unos? Probé haciendo P(0) = 8/12 y P(1) = 4/12, y también probé usando P = 1/2 y no me dió.

Muchas gracias!

(15-04-2017 20:09)valtimore escribió:  Gente, tengo una duda con un ejercicio de Comunicaciones, perteneciente a la guía 4. El ejercicio dice así:

10. Dado un tren de pulsos correspondientes a la siguiente secuencia: 010101000001, calcular la información suministrada con la aparición de un uno o de un cero y la ENTROPÍA de la fuente.

Rta:
HS = 0,92 Shannon/Símbolo


Alguien me puede dar una mano y explicar cómo fue que calculó la entropía de esa manera? Cómo fue que obtuvo las probabilidades de ocurrencia de cada uno de los símbolos de la cadena de ceros y unos? Probé haciendo P(0) = 8/12 y P(1) = 4/12, y también probé usando P = 1/2 y no me dió.

Muchas gracias!

Las probabilidades son p(0) = 8/12 y p(1) = 4/12
Info de cada simbolo: log2 (1/p(x) )
Info del cero log2 (12/8) = 0.58 shannon
Info del uno log2 (12/4) = 1.58 shannon
Entropia: -Sumatoria( p(x) *log2 (p(x))) = -(4/12)*log2(4/12)-(8/12)*log2(8/12)= 0.9182... aprox 0.92

Ah sí tenés razón, estaba multiplicando 4*log2(12/4) en lugar de hacer 4/12*log2(12/4). Muchas gracias!!