Redundanz (Informationstheorie)

Vorlage:Stub Als Redundanz (Weitschweifigkeit) bezeichnet man in der Informationstheorie die Differenz zwischen der mittleren Kodewortlänge ($l_{m}$) einer Nachrichtenquelle und der mittleren Entropie ($H_{m}$) der selben Nachrichtenquelle.

$R=l_{m}-H_{m}$

Da die Kodewortlänge nicht kleiner als die Entropie sein kann, ist die Redundanz nie negativ.