Legge dei grandi numeri

Da Wikipedia, l'enciclopedia libera.

La legge dei grandi numeri, detta anche legge empirica del caso oppure teorema di Bernoulli (in quanto la sua prima formulazione è dovuta a Jakob Bernoulli), descrive il comportamento della media di una sequenza di n variabili casuali indipendenti e caratterizzate dalla stessa distribuzione di probabilità (n misure della stessa grandezza, n lanci della stessa moneta ecc.) al tendere ad infinito della numerosità della sequenza stessa (n). In altre parole, grazie alla legge dei grandi numeri, possiamo fidarci che la media che calcoliamo a partire da un numero sufficiente di campioni sia sufficientemente vicina alla media vera. Che cosa significhi ragionevolmente sicuri dipende da quanto vogliamo essere precisi nel nostro test: con dieci prove avremmo una stima grossolana, con cento ne otterremmo una molto più precisa, con mille ancora di più e così via: il valore di n che siamo disposti ad accettare come sufficiente dipende dal grado di casualità che riteniamo necessario per il dado in questione.

In termini generici, per la legge dei grandi numeri si può dire:

  • che la media della sequenza è un'approssimazione, che migliora al crescere di n, della media della distribuzione;
  • e che, viceversa, si può prevedere che sequenze siffatte mostreranno una media tanto più spesso e tanto più precisamente prossima alla media della distribuzione quanto più grande sarà n.

Un caso particolare di applicazione della legge dei grandi numeri è la previsione probabilistica della proporzione di successi in una sequenza di n realizzazioni indipendenti di un evento E: per n che tende a infinito, la proporzione di successi converge alla probabilità di E (vedi esempio).

Legge forte dei grandi numeri[modifica | modifica wikitesto]

Se, data una successione di variabili casuali X_1, X_2, ..., X_n, ... indipendenti e identicamente distribuite con media {\mu}, si considera la media calcolata

\bar{X}_n = \frac{X_1 + X_2 + \cdots + X_n}{n}

la legge (forte) dei grandi numeri afferma che

\operatorname{P}\left(\lim_{n\rightarrow\infty}\bar{X}_n=\mu\right)=1,

ossia la media campionaria converge quasi certamente alla media comune delle X_i.

Legge debole dei grandi numeri[modifica | modifica wikitesto]

Se, data una successione di variabili casuali X_1, X_2, ..., X_n, ... aventi la stessa media {\mu}, la stessa varianza finita e indipendenti, si considera la media campionaria

\bar{X}_n = \frac{X_1 + X_2 + \cdots + X_n}{n}

la legge (debole) dei grandi numeri afferma che per ogni \ \varepsilon>0:

\lim_{n\rightarrow\infty}\operatorname{P}\left(\left|\bar{X}_n-\mu\right|<\varepsilon\right)=1.

ossia la media campionaria converge in probabilità alla media comune delle X_i.

Con maggior rigore[modifica | modifica wikitesto]

Sia \{(\Omega_i, \mathcal{A}_i, \operatorname{P}_i)\}_{i\in\mathbb{N}} una successione di spazi di probabilità. Si consideri lo spazio prodotto (\Omega, \mathcal{A}, \operatorname{P}) e in esso una successione bernoulliana di eventi (stocasticamente indipendenti e con probabilità costante p) \{E_k\}_{k\in\mathbb{N}}\subseteq\mathcal{A}. Assegnato un elemento \omega\in\Omega si definisce la frequenza di successo in n prove\phi_n:\Omega\to\mathbb{R}, \omega\mapsto\frac{N_n}{n}, dove N_n=\#\{i:\omega\in E_i\}^n_{i=1} indica il numero di successi ottenuti in n prove.

Dimostrazione della legge debole dei grandi numeri[modifica | modifica wikitesto]

Nelle condizioni sopra enunciate, si vuole dimostrare che: \forall\varepsilon\in\mathbb{R}^+_0, \lim_{n\to\infty}\operatorname{P}\{\omega\in\Omega: |\phi_n(\omega)-p|>\varepsilon\}=0.

Fissato \varepsilon, si consideri la disuguaglianza di Bienaymé-Čebyšëv:

\operatorname{P}\{\omega\in\Omega:|\phi_{n}(\omega)-\operatorname{E}(\phi_n)|>\varepsilon\}\leq\frac{\operatorname{var}(\phi_n)}{\varepsilon^2} ;

poiché N_n è distribuito in modo binomiale, il suo valore atteso è

\operatorname{E}(N_n)=np,

e la sua varianza è

\operatorname{var}(N_n)=np(1-p);

abbiamo allora che il valore atteso e la varianza di \phi_n sono, rispettivamente:

\operatorname{E}(\phi_n)=\operatorname{E}\left(\frac{N_n}{n}\right)=\frac{\operatorname{E}(N_n)}{n}=p,
\operatorname{var}(\phi_n)=\operatorname{var}\left(\frac{N_n}{n}\right)=\frac{\operatorname{var}({N_n})}{n^2}=\frac{p(1-p)}{n}.

Sostituendo nella disuguaglianza, si ottiene:

\operatorname{P}\{\omega\in\Omega:|\phi_{n}(\omega)-p|>\varepsilon\}\leq\frac{p(1-p)}{n\varepsilon^2},

e, passando al limite per n \to +\infty,

 \lim_{n\to\infty}\operatorname{P}\{\omega\in\Omega: |\phi_n(\omega)-p|>\varepsilon\}\leq 0

Ma la probabilità non può essere negativa:

\operatorname{P}:\mathcal A \to [0,1],

da cui la tesi.

Osservazioni[modifica | modifica wikitesto]

La legge debole dei grandi numeri non assicura che, comunque scelto \varepsilon>0, quasi certamente a partire da un certo n_\varepsilon il valore |\phi_n-p| si mantenga minore o uguale a \varepsilon, ovvero che l'insieme \{\omega\in\Omega: \exists n_\varepsilon:\forall n>n_\varepsilon,|\phi_n(\omega)-p|>\varepsilon\} sia \operatorname{P}-trascurabile. Infatti, esplicitando la definizione di limite, si trova: \forall\varepsilon>0,\forall\eta>0,\exists n_{\varepsilon,\eta}:\forall n\geq n_{\varepsilon,\eta},\operatorname{P}\{\omega\in\Omega: |\phi_n(\omega)-p|>\varepsilon\}\leq\eta ma niente sembra assicurare che n_{\varepsilon,\eta} non diverga per \eta\to 0.

Dimostrazione della Legge Forte dei grandi numeri[modifica | modifica wikitesto]

Ciò è invece assicurato, nelle medesime condizioni, dalla proposizione: \operatorname{P}\{\omega\in\Omega:\lim_{n\to\infty}\phi_n(\omega)=p\}=1 che, in effetti, implica sia \forall\varepsilon\in\mathbb{R}^+_0, \operatorname{P}\{\omega\in\Omega: \exists n_\varepsilon:\forall n>n_\varepsilon,|\phi_n(\omega)-p|>\varepsilon\}=0 sia la legge debole dei grandi numeri.

Dimostrazione delle due implicazioni
la legge forte può essere formulata, esplicitando la Definizione di limite e passando al complementare, come:
\operatorname{P}\{\omega\in\Omega:\exists\varepsilon\in\mathbb{R}^+_0: \forall n_\varepsilon\in\N, \exists n>n_\varepsilon: |\phi_n(\omega)-p|>\varepsilon\}=0
che a sua volta è equivalente, trasformando il quantificatore esistenziale in un'unione, a:
\operatorname{P}(\bigcup_{\varepsilon\in\mathbb{R}^+_0} \{\omega\in\Omega: \forall n_\varepsilon\in\N, \exists n>n_\varepsilon: |\phi_n(\omega)-p|>\varepsilon\})=0
e per monotonia di \operatorname{P}
\forall\varepsilon\in\mathbb{R}^+_0, \operatorname{P}\{\omega\in\Omega: \exists n_\varepsilon\in\N:\forall n>n_\varepsilon,|\phi_n(\omega)-p|>\varepsilon\} \leq
\leq\operatorname{P}(\bigcup_{\varepsilon\in\mathbb{R}^+_0} \{\omega\in\Omega: \forall n_\varepsilon\in\N, \exists n>n_\varepsilon: |\phi_n(\omega)-p|>\varepsilon\})
da cui, per confronto, la prima implicazione.
Trasformando anche gli altri due quantificatori in operazioni insiemistiche, si ha:
0=\operatorname{P}\{\omega\in\Omega: \exists n_\varepsilon\in\N:\forall n>n_\varepsilon,|\phi_n(\omega)-p|>\varepsilon\}=
=\operatorname{P}(\bigcap_{n_\varepsilon\in\N}\bigcup_{n>n_\varepsilon}\{\omega\in\Omega: |\phi_n(\omega)-p|>\varepsilon\}) =
ma, si è in presenza dell'intersezione di una successione non crescente di insiemi, dunque per monotonia di \operatorname{P}, si ha:
=\lim_{n_\varepsilon\to\infty}\operatorname{P}(\bigcup_{n>n_\varepsilon}\{\omega\in\Omega: |\phi_n(\omega)-p|>\varepsilon\})\geq
e ancora:
\geq\lim_{n\to\infty}\{\omega\in\Omega: |\phi_n(\omega)-p|>\varepsilon\}
da cui anche la seconda implicazione, ricordando che questo è valido per ogni \varepsilon.
Dimostrazione della legge forte
si è già visto che l'asserto è equivalente a:
\operatorname{P}(\bigcup_{\varepsilon\in\mathbb{R}^+_0} \{\omega\in\Omega: \forall n_\varepsilon\in\N, \exists n>n_\varepsilon: |\phi_n(\omega)-p|>\varepsilon\})=0
Discretizzando, come consueto nel caso dei limiti, si ha:
\operatorname{P}(\bigcup_{k\in\mathbb{N}_0} \{\omega\in\Omega: \forall n_k\in\N, \exists n>n_k: |\phi_n(\omega)-p|>\frac{1}{k}\})=0
Per subadditività
\operatorname{P}(\bigcup_{k\in\mathbb{N}_0} \{\omega\in\Omega: \forall n_k\in\N, \exists n>n_k: |\phi_n(\omega)-p|>\frac{1}{k}\})\leq
\leq\sum_{k\in\mathbb{N}_0} \operatorname{P}\{\omega\in\Omega: \forall n_k\in\N, \exists n>n_\varepsilon:|\phi_n(\omega)-p|>\frac{1}{k}\}
Dunque, se quest'ultima espressione sarà nulla, si sarà dimostrata la legge forte. Essendo \operatorname{P} non negativa, si dovrà avere:
\forall k\in\mathbb{N}_0, \operatorname{P}(\limsup_{n\to\infty}\{\omega\in\Omega: |\phi_n(\omega)-p|>\frac{1}{k}\})=0
si vuole mostrare che questo è vero considerando la sottosuccessione \phi_{n^2}. Si vuole applicare il lemma di Borel-Cantelli, pertanto si verifica che converga l'espressione
\sum^{\infty}_{n=1}\operatorname{P}\{\omega\in\Omega: |\phi_{n^2}(\omega)-p|>\frac{1}{k}\}
Per la disuguaglianza di Bienaymé-Čebyšëv si trova:
\forall k,\forall n,\operatorname{P}\{\omega\in\Omega: |\phi_{n^2}(\omega)-p|>\frac{1}{k}\}\leq\textrm{var}(\phi_{n^2})k^2=k^2\frac{p(1-p)}{n^2}
da cui:
\sum^{\infty}_{n=1}\operatorname{P}\{\omega\in\Omega: |\phi_{n^2}(\omega)-p|>\frac{1}{k}\}\leq p(1-p)k^2\sum^{\infty}_{n=1}\frac{1}{n^2}
Ma questa serie è notoriamente convergente. Pertanto,
\forall k\in\mathbb{N}_0, \operatorname{P}(\limsup_{n\to\infty}\{\omega\in\Omega: |\phi_{n^2}(\omega)-p|>\frac{1}{k}\})=0
Si noti ora che ogni numero naturale n è compreso tra due quadrati consecutivi:
\forall n\in\N, \exists q\in\N: q^2\leq n<(q+1)^2
da cui
\frac{N_n}{(q+1)^2}\leq\phi_n\leq\frac{N_n}{q^2}
si noti ora che n-q^2 è la massima differenza possibile tra N_{q^2} e N_n, da cui:
N_{q^2}\leq N_n\leq N_{q^2}+(n-q^2)
pertanto:
\frac{N_{q^2}}{(q+1)^2}\leq\frac{N_n}{(q+1)^2}\leq\phi_n\leq\frac{N_n}{q^2}\leq\frac{N_{q^2}+(n-q^2)}{q^2}
ora però si ha n-q^2\leq (q+1)^2-q^2, dunque:
\frac{N_{q^2}}{q^2}\frac{q^2}{(q+1)^2}\leq\phi_n\leq\frac{N_{q^2}}{q^2}+\frac{(q+1)^2-q^2}{q^2}
passando al limite (n\to\infty \Rightarrow q\to\infty)e applicando il risultato ottenuto per \phi_{n^2}, si ottiene che, quasi certamente:
p\cdot 1=p\lim_{q\to\infty}\frac{q^2}{(q+1)^2}\leq\lim_{n\to\infty}\phi_n\leq p+\lim_{q\to\infty}\frac{q^2+2q+1-q^2}{q^2}=p+0
il che conclude la dimostrazione.

Voci correlate[modifica | modifica wikitesto]

Collegamenti esterni[modifica | modifica wikitesto]

matematica Portale Matematica: accedi alle voci di Wikipedia che trattano di matematica