\chapter{Concentration et\\loi des grands nombres}

\section{Inégalité de Bienaymé-Tchebychev}

\begin{exointro}{\null}
On suppose que le nombre de pièces sortant d'une usine donnée en l'espace d'une semaine est une variable aléatoire d'espérance 50.
\begin{questions}
\item Peut-on estimer que la probabilité pour que la production de la semaine suivante dépasse 75 pièces soit supérieure à 0,75 ?
\item On sait, de plus, que la variance de la production hebdomadaire est de 25. Peut-on estimer la probabilité que la production de la semaine\linebreak suivante soit strictement comprise entre 40 et 60 ?
\end{questions}
\vspace*{-1.5em}
\end{exointro}

\subsection{Introduction}

Considérons deux variables aléatoires $X$ et $Y$ telles que $X \leqslant Y$.

Nous pouvons dans un premier temps écrire que si $X \geqslant 0$ alors $E(X) \geqslant 0$. 

De plus, 
\[
E(Y)-E(X)  = E(Y-X)
\]

et comme $Y-X \geqslant 0$, on en déduit:
\[
E(Y-X) \geqslant 0\qquad\text{soit :}\qquad E(X) \leqslant E(Y).
\]
De ces résultats, on peut démontrer le théorème suivant:
\enlargethispage*{3em}

\begin{thm}[inégalité de Markov]
Soit $X$ une variable aléatoire discrète d'espérance finie, et à valeurs positives. Alors :
\[
\forall a > 0,\quad P(X \geqslant a) \leqslant \dfrac{E(X)}{a}.
\]
\end{thm}

\textit{Une démonstration de ce théorème est à faire dans l'exercice \ref{inegalite-markov-exo} page \pageref{inegalite-markov-exo}.}

\subsection{Inégalité de Bienaymé-Tchebychev}

À l'aide de l'inégalité de Markov, on déduit le théorème suivant:

\begin{thm}[inégalité de Bienaymé-Tchebychev]
Soit $X$ une variable aléatoire d'espérance $\mu$ et de variance $V(X)$. 

Quel que soit le réel $\delta > 0$, 
\[
P\big(|X-\mu| \geqslant \delta\big) \leqslant \dfrac{V(X)}{\delta^2}.
\]
\end{thm}

\textit{Une démonstration de ce théorème est à faire dans l'exercice \ref{inegalite-tchebychev-exo} page \pageref{inegalite-tchebychev-exo}.}

De ce théorème (fondamental), on peut notamment conclure que pour une variable aléatoire quelconque $X$ d'écart-type $\sigma$ et d'espérance $\mu$:
\[
P\big(|X-\mu| \geqslant 2\sigma \big) \leqslant \dfrac{\sigma^2}{(2\sigma)^2}
\]
soit:
\[
P\big(|X-\mu| \geqslant 2\sigma \big) \leqslant \dfrac{1}{4}.
\]
Cela signifie alors que la probabilité que les valeurs prises par $X$ diffèrent de $2\sigma$ de sa moyenne est inférieure à 0,25.

\begin{Remarque}
par simulation (manuelle ou informatique), on s'aperçoit en fait que cette probabilité est très souvent majorée par 0,05.
\end{Remarque}

\begin{solintro}
\begin{questions}
\item Commençons par poser $X$ la variable aléatoire représentant le nombre de pièces sortant de l'usine en l'espace d'une semaine. 

$X$ est positive et d'espérance finie. D'après l'inégalité de Markov, 
\[
P(X > 75) \leqslant \dfrac{50}{75}\qquad\text{soit:}\qquad P(X > 75) \leqslant 0,67.
\]
On ne peut donc pas estimer que la probabilité pour que la production de la semaine suivante dépasse 75 pièces soit supérieure à 0,75.

\item Commençons par écrire:
\[
P(40 < X < 60) = P(-10 < X - 50 < 10) = P(|X - 50| < 10).
\]
L'inégalité de Bienaymé-Tchebytchev donne:
\[
P\big( | X-50| \geqslant 10\big) \leqslant \dfrac{25}{10^2}
\]
soit:
\[
P\big( | X-50| \geqslant 10\big) \leqslant 0,25.
\]
\BreakWithoutItem
On en déduit alors que:
\[
1-P\big( | X-50| < 10\big) \leqslant 0,25
\]
et donc:
\[
P\big( | X-50| < 10\big) \geqslant 0,75.
\]
La probabilité pour que la production de la semaine suivante soit comprise entre 40 et 60 est donc au moins de 75\%.
\end{questions}
\end{solintro}

\section{Loi faible des grands nombres}

\begin{exointro}{\null}
On dispose d'une urne dans laquelle sont mises 7 boules rouges et 3 noires. On tire au hasard une boule de cette urne et on la remet dans l'urne; si la boule choisie est noire, on gagne 1 point. Sinon, on ne gagne pas de point.

On note $M_n$ le gain moyen de points après $n$ répétitions indépendantes de cette expérience.

Déterminer une valeur de $n$ pour laquelle la probabilité que la différence (en valeur absolue) entre $M_n$ et 0,3 soit supérieure ou égale à $0,1$ et inférieure ou égale à~$0,5$.
\end{exointro}

\subsection{Inégalité de concentration}

\begin{prop}
Soient $X_1,\ X_2,\ \ldots,\ X_n$ $n$ variables aléatoires discrètes réelles indépendantes ayant
toutes la même loi d'espérance $\mu$ et de variance $\sigma^2$. Alors,
\[
\forall \delta >0, \quad P\left( \left| \dfrac{X_1+\cdots+X_n}{n}-\mu \right| \geqslant \delta \right) \leqslant \dfrac{\sigma^2}{n\delta^2}.
\]
\end{prop}

\textit{Une démonstration de ce théorème est à faire dans l'exercice \ref{inegalite-concentration-exo} page \pageref{inegalite-concentration-exo}.}

\enlargethispage*{5em}

\subsection{Loi des grands nombres}

\begin{thm}[théorème de Khintchine (loi faible des grands nombres)]
Soient $X_1$, ..., $X_n$ $n$ variables aléatoires indépendantes de même loi, d'espérance $\mu$. Alors, pour tout réel $\delta > 0$, 
\[
\lim_{n\to+\infty}P\left( \left| \dfrac{X_1+\cdots+X_n}{n}-\mu \right| \geqslant \delta \right)=0.
\]
\end{thm}

\begin{plusloin}
Au premier abord, ce dernier théorème peut paraître simpliste, puisqu'il résulte de l'inégalité de concentration prise lorsque $n$ tend vers $+\infty$. Il est au contraire très important, et permet notamment de justifier le principe des sondages. En effet, il permet d'interpréter la probabilité (valeur théorique) comme une fréquence (valeur observée) et présente l'espérance comme une moyenne. Ce théorème signifie que la \textit{moyenne empirique} c'est-à-dire la moyenne calculée sur les valeurs observée sur un échantillon de population, converge vers l'espérance quand la taille de cet échantillon devient très grand. 
\end{plusloin}

\begin{solintro}
On cherche un entier $n$ tel que:
\[
P\big( |M_n - 0,3| \geqslant 0,1 \big) \leqslant 0,5.
\]
Notons $X_k$ le nombre de points gagnés au $k$-ième tirage, $1\leqslant k\leqslant n$.

$X_k$ suit la loi de Bernoulli de probabilité $p=\dfrac{3}{10}=0,3$ et de variance $\sigma^2 = 0,3\times(1-0,3)=0,21$.

De plus, par définition, les variables $X_k$ sont indépendantes donc on peut utiliser\linebreak l'inégalité de concentration:
\[
P\left( \left| M_n - 0,3 \right| \geqslant 0,1 \right) \leqslant \dfrac{0,21}{0,1^2n}.
\]
On souhaite que $P\left( \left| M_n - 0,3 \right| \geqslant 0,1 \right) \leqslant 0,5$ donc il suffit de choisir $n$ tel que :
\begin{align*}
\dfrac{0,21}{0,1^2n} \leqslant 0,5 & \iff \dfrac{0,1^2n}{0,21} \geqslant \dfrac{1}{0,5}\\
& \iff 0,1^2n \geqslant \dfrac{1}{0,5}\times0,21\\
& \iff n \geqslant \dfrac{1}{0,5}\times\dfrac{0,21}{0,1^2}\\
& \iff n \geqslant 42.
\end{align*}
\end{solintro}