Legge dei grandi numeri

Da Wikipedia, l'enciclopedia libera.

La legge dei grandi numeri, detta anche legge empirica del caso oppure teorema di Bernoulli (in quanto la sua prima formulazione è dovuta a Jakob Bernoulli), descrive il comportamento della media di una sequenza di n variabili casuali indipendenti e caratterizzate dalla stessa distribuzione di probabilità (n misure della stessa grandezza, n lanci della stessa moneta ecc.) al tendere ad infinito della numerosità della sequenza stessa (n).

Un caso particolare di applicazione della legge dei grandi numeri è la previsione probabilistica della proporzione di successi in una sequenza di n realizzazioni indipendenti di un evento E: per n che tende a infinito, la proporzione di successi converge alla probabilità di E (vedi esempio).

Legge forte dei grandi numeri[modifica | modifica sorgente]

Se, data una successione di variabili casuali X_1, X_2, ..., X_n, ... indipendenti e identicamente distribuite con media {\mu}, si considera la media calcolata

\bar{X}_n = \frac{X_1 + X_2 + \cdots + X_n}{n}

la legge (forte) dei grandi numeri afferma che

\operatorname{P}\left(\lim_{n\rightarrow\infty}\bar{X}_n=\mu\right)=1,

ossia la media campionaria converge quasi certamente alla media comune delle X_i.

Legge debole dei grandi numeri[modifica | modifica sorgente]

Se, data una successione di variabili casuali X_1, X_2, ..., X_n, ... aventi la stessa media {\mu}, la stessa varianza finita e indipendenti, si considera la media campionaria

\bar{X}_n = \frac{X_1 + X_2 + \cdots + X_n}{n}

la legge (debole) dei grandi numeri afferma che per ogni \ \varepsilon>0:

\lim_{n\rightarrow\infty}\operatorname{P}\left(\left|\bar{X}_n-\mu\right|<\varepsilon\right)=1.

ossia la media campionaria converge in probabilità alla media comune delle X_i.

Con maggior rigore[modifica | modifica sorgente]

Sia \{(\Omega_i, \mathcal{A}_i, \operatorname{P}_i)\}_{i\in\mathbb{N}} una successione di spazi di probabilità. Si consideri lo spazio prodotto (\Omega, \mathcal{A}, \operatorname{P}) e in esso una successione bernoulliana di eventi (stocasticamente indipendenti e con probabilità costante p) \{E_k\}_{k\in\mathbb{N}}\subseteq\mathcal{A}. Assegnato un elemento \omega\in\Omega si definisce la frequenza di successo in n prove\phi_n:\Omega\to\mathbb{R}, \omega\mapsto\frac{N_n}{n}, dove N_n=\#\{i:\omega\in E_i\}^n_{i=1} indica il numero di successi ottenuti in n prove.

Dimostrazione della legge debole dei grandi numeri[modifica | modifica sorgente]

Nelle condizioni sopra enunciate, si vuole dimostrare che: \forall\varepsilon\in\mathbb{R}^+_0, \lim_{n\to\infty}\operatorname{P}\{\omega\in\Omega: |\phi_n(\omega)-p|>\varepsilon\}=0.

Fissato \varepsilon, si consideri la disuguaglianza di Bienaymé-Čebyšëv:

\operatorname{P}\{\omega\in\Omega:|\phi_{n}(\omega)-\operatorname{E}(\phi_n)|>\varepsilon\}\leq\frac{\operatorname{var}(\phi_n)}{\varepsilon^2} ;

poiché N_n è distribuito in modo binomiale, il suo valore atteso è

\operatorname{E}(N_n)=np,

e la sua varianza è

\operatorname{var}(N_n)=np(1-p);

abbiamo allora che il valore atteso e la varianza di \phi_n sono, rispettivamente:

\operatorname{E}(\phi_n)=\operatorname{E}\left(\frac{N_n}{n}\right)=\frac{\operatorname{E}(N_n)}{n}=p,
\operatorname{var}(\phi_n)=\operatorname{var}\left(\frac{N_n}{n}\right)=\frac{\operatorname{var}({N_n})}{n^2}=\frac{p(1-p)}{n}.

Sostituendo nella disuguaglianza, si ottiene:

\operatorname{P}\{\omega\in\Omega:|\phi_{n}(\omega)-p|>\varepsilon\}\leq\frac{p(1-p)}{n\varepsilon^2},

e, passando al limite per n \to +\infty,

 \lim_{n\to\infty}\operatorname{P}\{\omega\in\Omega: |\phi_n(\omega)-p|>\varepsilon\}\leq 0

Ma la probabilità non può essere negativa:

\operatorname{P}:\mathcal A \to [0,1],

da cui la tesi.

Osservazioni[modifica | modifica sorgente]

La legge debole dei grandi numeri non assicura che, comunque scelto \varepsilon>0, quasi certamente a partire da un certo n_\varepsilon il valore |\phi_n-p| si mantenga minore o uguale a \varepsilon, ovvero che l'insieme \{\omega\in\Omega: \exists n_\varepsilon:\forall n>n_\varepsilon,|\phi_n(\omega)-p|>\varepsilon\} sia \operatorname{P}-trascurabile. Infatti, esplicitando la definizione di limite, si trova: \forall\varepsilon>0,\forall\eta>0,\exists n_{\varepsilon,\eta}:\forall n\geq n_{\varepsilon,\eta},\operatorname{P}\{\omega\in\Omega: |\phi_n(\omega)-p|>\varepsilon\}\leq\eta ma niente sembra assicurare che n_{\varepsilon,\eta} non diverga per \eta\to 0.

Dimostrazione della Legge Forte dei grandi numeri[modifica | modifica sorgente]

Ciò è invece assicurato, nelle medesime condizioni, dalla proposizione: \operatorname{P}\{\omega\in\Omega:\lim_{n\to\infty}\phi_n(\omega)=p\}=1 che, in effetti, implica sia \forall\varepsilon\in\mathbb{R}^+_0, \operatorname{P}\{\omega\in\Omega: \exists n_\varepsilon:\forall n>n_\varepsilon,|\phi_n(\omega)-p|>\varepsilon\}=0 sia la legge debole dei grandi numeri.

Dimostrazione delle due implicazioni
la legge forte può essere formulata, esplicitando la Definizione di limite e passando al complementare, come:
\operatorname{P}\{\omega\in\Omega:\exists\varepsilon\in\mathbb{R}^+_0: \forall n_\varepsilon\in\N, \exists n>n_\varepsilon: |\phi_n(\omega)-p|>\varepsilon\}=0
che a sua volta è equivalente, trasformando il quantificatore esistenziale in un'unione, a:
\operatorname{P}(\bigcup_{\varepsilon\in\mathbb{R}^+_0} \{\omega\in\Omega: \forall n_\varepsilon\in\N, \exists n>n_\varepsilon: |\phi_n(\omega)-p|>\varepsilon\})=0
e per monotonia di \operatorname{P}
\forall\varepsilon\in\mathbb{R}^+_0, \operatorname{P}\{\omega\in\Omega: \exists n_\varepsilon\in\N:\forall n>n_\varepsilon,|\phi_n(\omega)-p|>\varepsilon\} \leq
\leq\operatorname{P}(\bigcup_{\varepsilon\in\mathbb{R}^+_0} \{\omega\in\Omega: \forall n_\varepsilon\in\N, \exists n>n_\varepsilon: |\phi_n(\omega)-p|>\varepsilon\})
da cui, per confronto, la prima implicazione.
Trasformando anche gli altri due quantificatori in operazioni insiemistiche, si ha:
0=\operatorname{P}\{\omega\in\Omega: \exists n_\varepsilon\in\N:\forall n>n_\varepsilon,|\phi_n(\omega)-p|>\varepsilon\}=
=\operatorname{P}(\bigcap_{n_\varepsilon\in\N}\bigcup_{n>n_\varepsilon}\{\omega\in\Omega: |\phi_n(\omega)-p|>\varepsilon\}) =
ma, si è in presenza dell'intersezione di una successione non crescente di insiemi, dunque per monotonia di \operatorname{P}, si ha:
=\lim_{n_\varepsilon\to\infty}\operatorname{P}(\bigcup_{n>n_\varepsilon}\{\omega\in\Omega: |\phi_n(\omega)-p|>\varepsilon\})\geq
e ancora:
\geq\lim_{n\to\infty}\{\omega\in\Omega: |\phi_n(\omega)-p|>\varepsilon\}
da cui anche la seconda implicazione, ricordando che questo è valido per ogni \varepsilon.
Dimostrazione della legge forte
si è già visto che l'asserto è equivalente a:
\operatorname{P}(\bigcup_{\varepsilon\in\mathbb{R}^+_0} \{\omega\in\Omega: \forall n_\varepsilon\in\N, \exists n>n_\varepsilon: |\phi_n(\omega)-p|>\varepsilon\})=0
Discretizzando, come consueto nel caso dei limiti, si ha:
\operatorname{P}(\bigcup_{k\in\mathbb{N}_0} \{\omega\in\Omega: \forall n_k\in\N, \exists n>n_k: |\phi_n(\omega)-p|>\frac{1}{k}\})=0
Per subadditività
\operatorname{P}(\bigcup_{k\in\mathbb{N}_0} \{\omega\in\Omega: \forall n_k\in\N, \exists n>n_k: |\phi_n(\omega)-p|>\frac{1}{k}\})\leq
\leq\sum_{k\in\mathbb{N}_0} \operatorname{P}\{\omega\in\Omega: \forall n_k\in\N, \exists n>n_\varepsilon:|\phi_n(\omega)-p|>\frac{1}{k}\}
Dunque, se quest'ultima espressione sarà nulla, si sarà dimostrata la legge forte. Essendo \operatorname{P} non negativa, si dovrà avere:
\forall k\in\mathbb{N}_0, \operatorname{P}(\limsup_{n\to\infty}\{\omega\in\Omega: |\phi_n(\omega)-p|>\frac{1}{k}\})=0
si vuole mostrare che questo è vero considerando la sottosuccessione \phi_{n^2}. Si vuole applicare il lemma di Borel-Cantelli, pertanto si verifica che converga l'espressione
\sum^{\infty}_{n=1}\operatorname{P}\{\omega\in\Omega: |\phi_{n^2}(\omega)-p|>\frac{1}{k}\}
Per la disuguaglianza di Bienaymé-Čebyšëv si trova:
\forall k,\forall n,\operatorname{P}\{\omega\in\Omega: |\phi_{n^2}(\omega)-p|>\frac{1}{k}\}\leq\textrm{var}(\phi_{n^2})k^2=k^2\frac{p(1-p)}{n^2}
da cui:
\sum^{\infty}_{n=1}\operatorname{P}\{\omega\in\Omega: |\phi_{n^2}(\omega)-p|>\frac{1}{k}\}\leq p(1-p)k^2\sum^{\infty}_{n=1}\frac{1}{n^2}
Ma questa serie è notoriamente convergente. Pertanto,
\forall k\in\mathbb{N}_0, \operatorname{P}(\limsup_{n\to\infty}\{\omega\in\Omega: |\phi_{n^2}(\omega)-p|>\frac{1}{k}\})=0
Si noti ora che ogni numero naturale n è compreso tra due quadrati consecutivi:
\forall n\in\N, \exists q\in\N: q^2\leq n<(q+1)^2
da cui
\frac{N_n}{(q+1)^2}\leq\phi_n\leq\frac{N_n}{q^2}
si noti ora che n-q^2 è la massima differenza possibile tra N_{q^2} e N_n, da cui:
N_{q^2}\leq N_n\leq N_{q^2}+(n-q^2)
pertanto:
\frac{N_{q^2}}{(q+1)^2}\leq\frac{N_n}{(q+1)^2}\leq\phi_n\leq\frac{N_n}{q^2}\leq\frac{N_{q^2}+(n-q^2)}{q^2}
ora però si ha n-q^2\leq (q+1)^2-q^2, dunque:
\frac{N_{q^2}}{q^2}\frac{q^2}{(q+1)^2}\leq\phi_n\leq\frac{N_{q^2}}{q^2}+\frac{(q+1)^2-q^2}{q^2}
passando al limite (n\to\infty \Rightarrow q\to\infty)e applicando il risultato ottenuto per \phi_{n^2}, si ottiene che, quasi certamente:
p\cdot 1=p\lim_{q\to\infty}\frac{q^2}{(q+1)^2}\leq\lim_{n\to\infty}\phi_n\leq p+\lim_{q\to\infty}\frac{q^2+2q+1-q^2}{q^2}=p+0
il che conclude la dimostrazione.

Voci correlate[modifica | modifica sorgente]

Collegamenti esterni[modifica | modifica sorgente]

matematica Portale Matematica: accedi alle voci di Wikipedia che trattano di matematica