Distanza di Cook

La distanza di Cook, introdotta nel 1977 dallo statistico statunitense Ralph Dennis Cook, è una funzione comunemente usata per stimare l'influenza di un singolo punto in un'analisi di regressione ai minimi quadrati.

Punti con elevato residuo (outlier) o elevato leverage possono distorcere il risultato e l'accuratezza di un'analisi di regressione. La distanza di Cook misura l'effetto causato sull'analisi dalla rimozione di un certo dato, e nell'analisi con il metodo dei minimi quadrati ordinario può essere usata per indicare punti ad alta influenza, di cui sarebbe importante controllare la validità, o per individuare regioni dello spazio nelle quali sarebbe necessario acquisire più dati.

Definizione

Un modello di regressione può essere definito come

${\underset {n\times 1}{\mathbf {y} }}={\underset {n\times p}{\mathbf {X} }}\quad {\underset {p\times 1}{\boldsymbol {\beta }}}\quad +\quad {\underset {n\times 1}{\boldsymbol {\epsilon }}}$

dove ${\boldsymbol {\epsilon }}\sim {\mathcal {N}}\left(0,\sigma ^{2}\mathbf {I} \right)$ è il termine di errore, ${\boldsymbol {\beta }}=\left[\beta _{0}\,\beta _{1}\dots \beta _{p-1}\right]^{\mathsf {T}}$ è la matrice dei coefficienti, $p$ il numero di variabili indipendenti, e $\mathbf {X}$ è la matrice del modello. Lo stimatore dei minimi quadrati è $\mathbf {b} =\left(\mathbf {X} ^{\mathsf {T}}\mathbf {X} \right)^{-1}\mathbf {X} ^{\mathsf {T}}\mathbf {y}$, e di conseguenza la risposta predetta per la media di $\mathbf {y}$ è

$\mathbf {\hat {y}} =\mathbf {X} \mathbf {b} =\mathbf {X} \left(\mathbf {X} ^{\mathsf {T}}\mathbf {X} \right)^{-1}\mathbf {X} ^{\mathsf {T}}\mathbf {y} =\mathbf {H} \mathbf {y}$

dove $\mathbf {H} \equiv \mathbf {X} (\mathbf {X} ^{\mathsf {T}}\mathbf {X} )^{-1}\mathbf {X} ^{\mathsf {T}}$ è la matrice di proiezione. L'$i$-esimo elemento della diagonale di $\mathbf {H} \,$, dato da $h_{i}\equiv \mathbf {x} _{i}^{\mathsf {T}}(\mathbf {X} ^{\mathsf {T}}\mathbf {X} )^{-1}\mathbf {x} _{i}$, è noto come leverage dell' $i$-esima osservazione. Analogamente, l' $i$-esimo elemento del vettore dei residui $\mathbf {e} =\mathbf {y} -\mathbf {\hat {y}} =\left(\mathbf {I} -\mathbf {H} \right)\mathbf {y}$ è indicato con $e_{i}$.

La distanza di Cook $D_{i}$ dell'osservazione $i\;(\forall i=1,\dots ,n)$ è definita come la somma dei cambiamenti nel modello di regressione quando l'osservazione $i$ è rimossa dall'analisi

$D_{i}={\frac {\sum _{j=1}^{n}\left({\hat {y}}_{j}-{\hat {y}}_{j(i)}\right)^{2}}{ps^{2}}}$

dove ${\hat {y}}_{j(i)}$ è la risposta ottenuta escludendo l'$i$-esima osservazione, e $s^{2}\equiv \left(n-p\right)^{-1}\mathbf {e} ^{\top }\mathbf {e}$ è l'errore quadratico medio del modello di regressione. Equivalentemente, la distanza di Cook può essere espressa come funzione del leverage

$D_{i}={\frac {e_{i}^{2}}{s^{2}p}}\left[{\frac {h_{i}}{(1-h_{i})^{2}}}\right]$

Determinazione di osservazioni ad alta influenza

Vi sono diverse opinioni riguardo al valore di soglia da usare per stabilire quali osservazioni hanno influenza elevata sull'analisi. Una regola del pollice che richiede $D_{i}>1$ è usata da alcuni autori, mentre altri autori suggeriscono $D_{i}>4/n$, dove $n$ è il numero di osservazioni.

Bibliografia

• Anthony Atkinson e Marco Riani, Deletion Diagnostics, in Robust Diagnostics and Regression Analysis, New York, Springer, 2000, pp. 22–25, ISBN 0-387-95017-6.
• Richard M. Heiberger e Burt Holland, Case Statistics, in Statistical Analysis and Data Display, Springer Science & Business Media, 2013, pp. 312–27, ISBN 978-1-4757-4284-8.
• William S. Krasker, Edwin Kuh e Roy E. Welsch, Estimation for dirty data and flawed models, in Handbook of Econometrics, vol. 1, Elsevier, 1983, pp. 651–698, DOI:10.1016/S1573-4412(83)01015-6.
• Herman Aguinis, Ryan K. Gottfredson e Harry Joo, Best-Practice Recommendations for Defining Identifying and Handling Outliers (PDF), in Organizational Research Methods, vol. 16, n. 2, Sage, 2013, pp. 270–301, DOI:10.1177/1094428112470848. URL consultato il 4 dicembre 2015.

Voci correlate

• Outlier
• Leverage (statistica)
• Leverage parziale
• DFFITS
• Residuo studentizzato