Pagina:Codifica numerica del segnale audio.djvu/102

84

Codifica numerica del segnale audio

Moltiplicando entrambi i membri di quest’ultima equazione per P_k e sommando si prova il limite superiore del primo teorema di Shannon

${\bar {R}}<H(x)+1$

(3.30)

Passando al caso di codifica a lunghezza variabile di blocchi di simboli, l’inefficienza di codifica risulta ulteriormente ridotta in quanto, considerando blocchi di N simboli, risulta

$N\cdot H(x)\geq {\bar {R}}_{N}>N\cdot H(x)+1$

(3.31)

dove ${\bar {R}}_{n}$ è il numero medio di bit per blocco. Per il numero medio di bit per simbolo si ha

${\begin{cases}{\bar {R}}={\frac {{\bar {R}}_{N}}{N}}\\H(x)\geq {\bar {R}}>H(x)+\epsilon \end{cases}}$

(3.32)

dove ε è un numero positivo che può essere reso arbitrariamente piccolo. Ipotizzando di raggiungere un numero medio di bit per campione pari all'entropia della sorgente, il miglioramento che si otterrebbe rispetto all'uscita di un quantizzatore uniforme sarebbe pari a

$\Delta R=log_{2}L-H(x)$

(3.33)

Una codifica a lunghezza variabile notevolmente diffusa è la codifica di Huffman. Tale codifica viene eseguita ordinando i simboli emessi dalla sorgente discreta in una lista secondo le probabilità decrescenti. Innanzitutto si assegnano alla codifica dei due simboli con probabilità inferiore i bit “0” ed “1”. Si considera poi l’unione dei due come un nuovo simbolo con probabilità pari alla somma delle loro probabilità, procedendo al riordino della lista. Si procede quindi all'iterazione di assegnazione di un bit alla codifica dei simboli meno probabili della lista ed al suo riordino fino a che tutti i simboli non abbiano avuto almeno due bit di codice.

Esempio: si consideri una sorgente che emetta otto simboli con la seguente probabilità: