Die Entropie frequenzbandbegrenzter Zeitfunktionen

Eine auf Frequenzen ≤ B begrenzte Zeitfunktion kann nach dem Shannonschen Abtastsatz ohne Informationsverlust durch äquidistante Abtastwerte in Abständen ≤ 1/(2B) dargestellt werden. Ein solcher Abtastwert hat im Mittel über n solcher Abtastungen X_ν die Entropie

äquidistante Abtastungen im Mindestabstand 1/(2B) sind unabhängig voneinander. Die Verbundwahrscheinlichkeit ist dann das Produkt der unbedingten Einzelwahrscheinlichkeiten:

Für die Entropie eines Abtastwertes gilt dann im Mittel:

Nehmen wir an, daß die Entropie eines beliebigen Abtastwertes unabhängig vom Zeitpunkt gleich H(X) sei, dann ist _{_.} Die Entropie pro Zeiteinheit ist daher

Wir können hiermit die Kapazität pro Zeit eines bandbegrenzten gestörten Kanals berechnen. Dies soll an einem wichtigen Beispiel betrachtet werden.

Die Kapazität eines kontinuierlichen Kanals bei additivem gaußschem Rauschen:

Die Kanalkapazität pro Zeiteinheit beträgt nach dem Gesagten

Hiernach ist die Kanalkapazität also proportional zur Bandbreite B des Nutzsignals. Sie nimmt außerdem, jedoch schwächer, nämlich logarithmisch mit dem Signal-Rausch-Leistungsverhältnis S/N zu und kann dabei (in bit/sec) ein Mehrfaches der Bandbreite annehmen, wie folgende linke Abbildung zeigt.

Wenn die Rauschleistung ein weißes Spektrum mit einer Rauschleistungsdichte n₀ hat, dann ist

Die rechte Abbildung zeigt, wie sich die Kanalkapazität C bei vorgegebener Rauschleistungsdichte n₀ mit der Bandbreite B ändert. Bei sehr niedrigem Signal-Rausch-Leistungsverhältnis erhöht eine größere Bandbreite die Kanalkapazität nicht. Sie strebt, wie man bei linearer Approximation des Logarithmus erkennt, gegen den Grenzwert

Die Kanalkapazität ist dann also nur noch durch mehr Signalleistung zu erhöhen.