Teoria degli errori e fondamenti di statistica/C.4.1

by Maurizio Loreti

C.4.1 Riscrittura delle equazioni dei minimi quadrati

../C.4 ../C.4.2 IncludiIntestazione 3 settembre 2022 100% Da definire

Questo testo è stato riletto e controllato.

Maurizio Loreti - Teoria degli errori e fondamenti di statistica (2006)

C.4.1 Riscrittura delle equazioni dei minimi quadrati

◄

C.4

C.4.2

►

C.4.1 Riscrittura delle equazioni dei minimi quadrati

Sebbene i valori della $x$ siano scelti dallo sperimentatore e privi di errore, e non siano pertanto variabili casuali in senso stretto; e sebbene la variabilità delle $y$ sia dovuta non solo agli errori casuali di misura ma anche alla variazione della $x$, introduciamo ugualmente (in maniera puramente formale) le medie e le varianze degli $N$ valori $x_{i}$ e $y_{i}$, date dalle espressioni

${\bar {x}}\;=\;{\frac {\sum _{i}x_{i}}{N}}$

e

${\text{Var}}(x)\;=\;{\frac {\sum _{i}\left(x_{i}-{\bar {x}}\right)^{2}}{N}}\;=\;{\frac {\sum _{i}{x_{i}}^{2}}{N}}-{\bar {x}}^{2}$

(e simili per la $y$); e la covarianza di $x$ e $y$, data dalla

${\text{Cov}}(x,y)\;=\;{\frac {\sum _{i}x_{i}\,y_{i}}{N}}\,-\,{\bar {x}}{\bar {y}}$.

Queste grandezze permettono di riscrivere le equazioni (11.9) risolutive del problema dell'interpolazione lineare per un insieme di dati, che abbiamo già incontrato a pagina 181, nella forma

$\left\{{\begin{array}{lclcl}a&+&b\,{\bar {x}}&=&{\bar {y}}\\[1ex]a\,{\bar {x}}&+&b\,{\bigl [}{\text{Var}}(x)+{\bar {x}}^{2}{\bigr ]}&=&{\text{Cov}}(x,y)\;+\;{\bar {x}}{\bar {y}}\end{array}}\right.$

La prima equazione intanto implica che la retta interpolante deve passare per il punto $({\bar {x}},{\bar {y}})$ le cui coordinate sono le medie dei valori misurati delle due variabili in gioco; poi, ricavando da essa $a={\bar {y}}-b{\bar {x}}$ e sostituendo nella seconda equazione, dopo aver semplificato alcuni termini si ottiene la soluzione per l'altra incognita:

$b\;=\;{\frac {{\text{Cov}}(x,y)}{{\text{Var}}(x)}}\;\equiv \;{\text{Corr}}(x,y)\,{\sqrt {\frac {{\text{Var}}(y)}{{\text{Var}}(x)}}}$

(C.6)

e la retta interpolante ha quindi equazione

$y\;=\;a+bx\;=\;\left({\bar {y}}-b{\bar {x}}\right)+bx$

o anche

$\left(y-{\bar {y}}\right)\;=\;b\left(x-{\bar {x}}\right)$

(in cui $b$ ha il valore (C.6)). Introduciamo ora le due variabili casuali ausiliarie $\xi =x-{\bar {x}}$ e $\eta =y-{\bar {y}}$, per le quali valgono le

${\bar {\xi }}\;=\;0$

e

${\text{Var}}(\xi )\;=\;{\text{Var}}(x)$

(con le analoghe per $\eta$ ed $y$), ed inoltre la

${\text{Cov}}(\xi ,\eta )={\text{Cov}}(x,y)$

ed indichiamo poi con ${\widehat {y}}_{i}$ il valore della $y$ sulla retta interpolante in corrispondenza dell’ascissa $x_{i}$:

${\widehat {y}}_{i}=a+bx_{i}={\bar {y}}+b\left(x_{i}-{\bar {x}}\right)$

(C.7)

e con $\delta _{i}$ la differenza ${\widehat {y}}_{i}-y_{i}$. Le differenze $\delta _{i}$ prendono il nome di residui, e di essi ci occuperemo ancora più avanti; risulta che

$\sum \nolimits _{i}{\delta _{i}}^{2}$	$=\sum \nolimits _{i}{\Bigl \{}\left[{\bar {y}}+b\left(x_{i}-{\bar {x}}\right)\right]-y_{i}{\Bigr \}}^{2}$
	$=\sum \nolimits _{i}\left(b\xi _{i}-\eta _{i}\right)^{2}$
	$=b^{2}\sum \nolimits _{i}{\xi _{i}}^{2}+\sum \nolimits _{i}{\eta _{i}}^{2}-2b\sum \nolimits _{i}\xi _{i}\eta _{i}$
	$=N\,b^{2}\,{\text{Var}}(\xi )+N\,{\text{Var}}(\eta )-2Nb\,{\text{Cov}}(\xi ,\eta )$
	$=N\,b^{2}\,{\text{Var}}(x)+N\,{\text{Var}}(y)-2Nb\,{\text{Cov}}(x,y)$
	$=N\,{\text{Var}}(x)\left[{\frac {{\text{Cov}}(x,y)}{{\text{Var}}(x)}}\right]^{2}+N\,{\text{Var}}(y)-2N\,{\frac {{\text{Cov}}(x,y)}{{\text{Var}}(x)}}\,{\text{Cov}}(x,y)$
	$=N\left\{{\text{Var}}(y)-{\frac {\left[{\text{Cov}}(x,y)\right]^{2}}{{\text{Var}}(x)}}\right\}$
	$=N\,{\text{Var}}(y)(1-r^{2})$

in cui $r$ è il coefficiente di correlazione lineare calcolato usando, sempre solo formalmente, i campioni dei valori misurati delle $x$ e delle $y$.

Visto che quest’ultimo, nel calcolo dell’interpolazione lineare fatto con le calcolatrici da tasca, viene in genere dato come sottoprodotto dell’algoritmo, la sua conoscenza permette (usando questa formula) di ottenere facilmente l’errore a posteriori sulle ordinate interpolate (studiato nel paragrafo 11.4.2):

$\mu _{y}={\sqrt {\frac {\sum \nolimits _{i}\delta _{i}^{2}}{N-2}}}={\sqrt {{\frac {N}{N-2}}{\text{Var}}(y)(1-r^{2})}}$

(C.8)

oltre a fornire una grossolana stima dell’allineamento dei punti; quanto più infatti esso è rigoroso, tanto più $r$ si avvicina a $\pm 1$.

Il valore $\mu _{y}$ dell’errore rappresenta sempre anche una stima dell’allineamento dei punti, a differenza del coefficiente di correlazione lineare, per cui $r=\pm 1$ implica allineamento perfetto, ma non inversamente: potendo essere ad esempio (punti su di una retta parallela all’asse $x$) $r=0$ e ${\text{Var}}(y)=0$ ancora con allineamento perfetto.

È opportuno qui osservare che $r$ non è il coefficiente di correlazione fra gli errori delle grandezze $x$ ed $y$; infatti, per ipotesi, la $x$ non è affetta da errore e, se pur lo fosse, la correlazione fra gli errori sarebbe nulla qualora ciascuna $x_{i}$ fosse misurata indipendentemente dalla corrispondente $y_{i}$ o, altrimenti, sarebbe tanto più prossima ai valori estremi $\pm 1$ quanto maggiore fosse il numero di cause d’errore comuni alle misure di $x$ e di $y$.

Invece $r$ è il coefficiente di correlazione per l’insieme dei punti aventi coordinate date dalle coppie di valori misurati, e nell’ipotesi di effettiva dipendenza lineare delle grandezze $x$ ed $y$ sarebbe sempre rigorosamente uguale a $\pm 1$ se non intervenissero gli errori sperimentali.