Covarianza (probabilità)

In teoria della probabilità la covarianza di due variabili aleatorie è un numero Cov(X,Y) che fornisce una misura di quanto le due varino assieme, ovvero della loro dipendenza.

Definizione

La covarianza di due variabili aleatorie X e Y è il valore atteso dei prodotti delle loro distanze dalla media:

${\text{cov}}(X,Y)=E{\Big [}{\big (}X-E[X]{\big )}(Y-E[Y]{\big )}{\Big ]}$.

La covarianza di X e Y può anche essere espressa come la differenza tra il valore atteso del loro prodotto e il prodotto dei loro valori attesi:

${\text{cov}}(X,Y)=E[XY]-E[X]E[Y]\$.

Infatti per la linearità del valore atteso risulta

$E{\Big [}XY-XE[Y]-E[X]Y+E[X]E[Y]{\Big ]}=E[XY]-E[X]E[Y]-E[X]E[Y]+E[X]E[Y]=E[XY]-E[X]E[Y]\$.

Proprietà

La covarianza rispetta le seguenti proprietà, per variabili aleatorie X, Y e Z, e costanti a e b:

• ${\text{cov}}(X,Y)={\text{cov}}(Y,X)\$
• ${\text{cov}}(aX+b,Y)=a{\text{cov}}(X,Y)\$
• ${\text{cov}}(X+Y,Z)={\text{cov}}(X,Z)+{\text{cov}}(Y,Z)\$

Due variabili aleatorie indipendenti hanno covarianza nulla, poiché dalla loro indipendenza segue

$E[XY]=E[X]E[Y]\$

Due variabili aleatorie che hanno covarianza nulla sono non correlate.

Due variabili aleatorie dipendenti possono essere non correlate. Ad esempio, se X è una variabile aleatoria di legge uniforme sull'intervallo [-1,1] e Y=X², allora

$\textstyle {\text{cov}}(X,Y)={\text{cov}}(X,X^{2})=E[X^{3}]-E[X]E[X^{2}]=0-0E[X^{2}]=0$.

Varianza

La covarianza può essere considerata una generalizzazione della varianza

${\text{Var}}(X)={\text{cov}}(X,X)\$

e compare come termine di correzione nella relazione

${\text{Var}}(X+Y)={\text{Var}}(X)+{\text{Var}}(Y)+2{\text{cov}}(X,Y)\$

Più in generale, per variabili aleatorie $X_{1},...,X_{n}$ e $Y_{1},...,Y_{m}$ vale

$\textstyle {\text{Var}}(\sum _{i}X_{i})={\text{cov}}(\sum _{i}X_{i},\sum _{j}X_{j})=\sum _{i,j}{\text{cov}}(X_{i},X_{j})=\sum _{i}{\text{Var}}(X_{i})+2\sum _{i>j}{\text{cov}}(X_{i},X_{j})$

come caso particolare di

$\textstyle {\text{cov}}\left(\sum _{i}X_{i},\sum _{j}Y_{j}\right)=\sum _{i,j}{\text{cov}}(X_{i},Y_{j})$.

Statistica

In statistica la covarianza è anche indicata come

$\sigma _{X,Y}={\text{cov}}(X,Y)\$.

Su un campione di n osservazioni congiunte (x_i,y_i), di rispettive medie osservate ${\bar {x}}$ e ${\bar {y}}$, la covarianza osservata è

$\textstyle \sigma _{X,Y}={\frac {1}{n}}\sum _{i}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})={\frac {1}{n}}\sum _{i}x_{i}y_{i}-{\frac {1}{n^{2}}}(\sum _{i}x_{i})(\sum _{i}y_{i})$.

Uno stimatore della covarianza per N osservazioni congiunte (X_i,Y_i) è

$S_{X,Y}={\frac {\sum _{i}X_{i}Y_{i}}{N}}-{\frac {\sum _{i}X_{i}}{N}}{\frac {\sum _{i}Y_{i}}{N}}$

La varianza e la covarianza intervengono per definire l'indice di correlazione di Pearson

$\rho _{X,Y}={\frac {\sum _{i}(X_{i}-{\bar {X}})(Y_{i}-{\bar {Y_{i}}})}{\sqrt {\sum _{i,j}(X_{i}-{\bar {X}})(Y_{i}-{\bar {Y}})}}}$,

ovvero uno stimatore del coefficiente di correlazione lineare

${\text{Corr}}(X,Y)={\frac {{\text{cov}}(X,Y)}{\sqrt {{\text{Var}}(X){\text{Var}}(Y)}}}$

Voci correlate

• Valore atteso
• Variabili indipendenti
• Varianza
• Matrice delle covarianze