Pagina:Codifica numerica del segnale audio.djvu/100

Da Wikisource.
82 Codifica numerica del segnale audio

seguente tabella:

x1 x2 x3 x4
codifica 0 10 110 111
Rk 1 2 3 3

Tab. 3.1 - Codifica dei simboli emessi dalla sorgente.


Calcolando la sommatoria presente nella disuguaglianza di Kraft si ottiene

  (3.18)

Tornando al problema di determinare il valor medio minimo di bit per campione, il teorema fondamentale della codifica per canali discreti in assenza di rumore (o primo teorema di Shannon) afferma che il minimo teorico di R coincide con il valore dell’entropia H(x) della sorgente. Considerando il caso di codifica di simboli isolati, è infatti, possibile dimostrare che

  (3.19)

Nella dimostrazione di tale teorema, è utile considerare separatamente i limiti inferiori e superiori

  (3.20)

Per il limite inferiore, che può essere riscritto come H(x) — R < 0, si ha

  (3.21)

Sfruttando la relazione

  (3.22)