Loi faible des grands nombres
Lemme [Inégalité de Markov]
Soient \( a{>}0\) et \( Z\) une variable aléatoire réelle presque surement à valeur positive. \[\Proba(Z\geqslant a)\leqslant \dfrac{\Esp{Z}}{a}\]
Démonstration
Notons \( p\) la fonction de densité de \( Z\) . Comme \( Z\) est supposée presque surement à valeur positive, on peut supposer que pour tout \( z\in\R\) , \( p(z)=p(z)\Un_{\R_+}(z)\) . Alors, par le relation de Chalses :
\begin{eqnarray*}
\Esp{Z}&=&\int_\R zp(z)\ dz\\
&=&\int_{[0 ; +\infty[} zp(z)\ dz\\
&=& \int_{]0 ; a]} zp(z)\ dz+\int_{]a ; +\infty[} zp(z)\ dz\\
&\geqslant & \int_{]a ; +\infty[} zp(z)\ dz\\
&\geqslant & \int_{]a ; +\infty[} ap(z)\ dz\\
&=& a\int_{]a ; +\infty[} p(z)\ dz\\
&=& a\Proba(Z\geqslant a)
\end{eqnarray*}
Lemme [Inégalité de Bienaymé-Tchebychev]
Soient \( X\) une variable aléatoire réelle de variance \( \sigma^2\) et \( a\) un réel strictement positif.
\[\Proba\left(|X-\Esp{X}|\geqslant a\right)\leqslant \dfrac{\sigma^2}{a^2}\]
Démonstration
C'est l'inégalité de Markov pour \( Z=|X-\Esp{X}|^2\)
Ce lemme permet de démontrer le célèbre résultat suivant :
Théorème [Loi faible des grand nombre]
Soient \( (X_n)_{n\in \N_{{>}0}}\) une suite de variable aléatoire indépendante et identiquement distribuée de moyenne \( \mu\) .
\[\forall\varepsilon{>}0,\ \lim{n\rightarrow+\infty}\Proba\left(\left|\dfrac{1}{n}\sum_{k=1}^nX_k-\mu\right|\geqslant \varepsilon\right)=0\]
Démonstration
On applique l'inégalité de Bienaymé-Tchebychev à \( X=\dfrac{1}{n}\sum_{k=1}^nX_k\) (et \( a=\varepsilon\) ) qui vérifie par hypothèse \( E(X)=\mu\) et \( V(X)=\dfrac{V(X_1)}{n}\) :
\[\Proba\left(\Big|\dfrac{1}{n}\sum_{k=1}^nX_k-\mu\Big|\geqslant \varepsilon\right)=\Proba\left(|X-\Esp{X}|\geqslant \varepsilon\right)\leqslant \dfrac{V(X)}{n\varepsilon^2}\]
qui tend bien vers \( 0\) lorsque \( n\) tend vers l'infini.
