Probabilités et variables aléatoires discrètes

Une expérience aléatoire est décrite par son univers $\Omega$ (ensemble des issues). Un événement est une partie de $\Omega$ ; $\varnothing$ est l'événement impossible, $\Omega$ l'événement certain, $\overline{A}$ l'événement contraire. Deux événements sont incompatibles si $A\cap B=\varnothing$. Une probabilité $P$ sur un univers fini ou dénombrable associe à chaque événement un réel de $[0,1]$ tel que $P(\Omega )=1$ et $P(A\cup B)=P(A)+P(B)$ pour $A$, $B$ incompatibles (additivité, étendue aux réunions dénombrables).

Conséquences : $P(\overline{A})=1-P(A)$ ; $P(\varnothing )=0$ ; si $A\subset B$ alors $P(A)\le P(B)$ ; et pour deux événements quelconques

$$P(A\cup B)=P(A)+P(B)-P(A\cap B).$$

En situation d'équiprobabilité sur un univers fini, $P(A)=\frac{\mathrm{card}(A)}{\mathrm{card}(\Omega )}$ : le calcul se ramène à un dénombrement ($n!$ permutations, $\frac{n!}{(n-k)!}$ arrangements, $\left(\genfrac{}{}{0ex}{}{n}{k}\right)=\frac{n!}{k!(n-k)!}$ combinaisons).

Si $P(B)>0$, la probabilité conditionnelle de $A$ sachant $B$ est

$$P_B(A)=P(A\mid B)=\frac{P(A\cap B)}{P(B)}.$$

L'application $P_B$ est elle-même une probabilité. Formule des probabilités composées : $P(A\cap B)=P(B)P_B(A)$, et plus généralement $P(A_1\cap \cdots \cap A_n)=P(A_1)P_{A_1}(A_2)\cdots P_{A_1\cap \cdots \cap A_{n-1}}(A_n)$ : c'est le produit des probabilités le long d'une branche d'un arbre.

Un système complet d'événements $(B_i)$ est une famille d'événements deux à deux incompatibles dont la réunion est $\Omega$ (par exemple $(B,\overline{B})$). Formule des probabilités totales :

$$P(A)=\sum _{i}P(A\cap B_i)=\sum _{i}P(B_i)P_{B_i}(A).$$

Formule de Bayes (inversion du conditionnement) : pour $P(A)>0$,

$$P_A(B_j)=\frac{P(B_j)P_{B_j}(A)}{{\sum }_{i}P(B_i)P_{B_i}(A)}.$$

Application aux tests diagnostiques : avec $M$ « malade », $T$ « test positif », la sensibilité est $P_M(T)$, la spécificité $P_{\overline{M}}(\overline{T})$, et la valeur prédictive positive $P_T(M)$ se calcule par Bayes : elle dépend fortement de la prévalence $P(M)$. Pour une maladie rare, même un test excellent donne une majorité de faux positifs.

Deux événements sont indépendants si $P(A\cap B)=P(A)P(B)$, ce qui équivaut à $P_B(A)=P(A)$ lorsque $P(B)>0$. Si $A$ et $B$ sont indépendants, $\overline{A}$ et $B$ le sont aussi. Des événements $A_1,\dots ,A_n$ sont mutuellement indépendants si pour toute sous-famille, la probabilité de l'intersection est le produit des probabilités. L'indépendance deux à deux n'entraîne pas l'indépendance mutuelle : avec deux dés, $A$ « premier dé pair », $B$ « second dé pair », $C$ « somme paire » sont deux à deux indépendants mais $P(A\cap B\cap C)=\frac{1}{4}\ne \frac{1}{8}$.

Une variable aléatoire discrète $X$ est une application de $\Omega$ dans un ensemble fini ou dénombrable $X(\Omega )$. Sa loi est la donnée des $P(X=x)$ pour $x\in X(\Omega )$, avec ${\sum }_{x}P(X=x)=1$. Les événements $(X=x)$ forment un système complet. La fonction de répartition $F(x)=P(X\le x)$ est croissante, en escalier, de limites 0 en $-\infty$ et 1 en $+\infty$.

Espérance : $E(X)={\sum }_{x}xP(X=x)$ (sous réserve de convergence absolue dans le cas dénombrable). C'est une moyenne pondérée. Théorème de transfert : $E(g(X))={\sum }_{x}g(x)P(X=x)$. Linéarité : $E(aX+bY)=aE(X)+bE(Y)$, toujours vraie, même sans indépendance. Si $X\ge 0$, $E(X)\ge 0$.

Variance : $V(X)=E((X-E(X){)}^2)=E(X^2)-E(X{)}^2$ (formule de König-Huygens), positive, nulle si et seulement si $X$ est presque sûrement constante. Écart-type $\sigma (X)=\sqrt{V(X)}$, de même unité que $X$. $V(aX+b)=a^{2}V(X)$.

Deux variables sont indépendantes si $P(X=x,Y=y)=P(X=x)P(Y=y)$ pour tous $x,y$. Alors $E(XY)=E(X)E(Y)$ et $V(X+Y)=V(X)+V(Y)$. En général, $V(X+Y)=V(X)+V(Y)+2\mathrm{Cov}(X,Y)$ avec $\mathrm{Cov}(X,Y)=E(XY)-E(X)E(Y)$ ; une covariance nulle n'implique pas l'indépendance.

Points clés :

• Une variable binomiale est une somme de $n$ variables de Bernoulli indépendantes de même paramètre, d'où $E=np$ et $V=np(1-p)$. Le tirage avec remise (ou dans une population très grande) donne une binomiale, le tirage sans remise une hypergéométrique ; lorsque $N\gg n$ ($N>10n$ en pratique), $\mathcal{H}(N,n,p)\approx \mathcal{B}(n,p)$.
• La loi géométrique est sans mémoire : $P(X>n+m\mid X>n)=P(X>m)$, avec $P(X>n)=(1-p{)}^n$.
• Approximation de Poisson : si $n$ est grand et $p$ petit ($n\ge 30$, $p\le 0,1$, $np$ modéré), $\mathcal{B}(n,p)\approx \mathcal{P}(np)$. La loi de Poisson modélise les comptages d'événements rares : mutations par génome, colonies sur une boîte de Petri, désintégrations par seconde.
• Si $X\sim \mathcal{P}(\lambda )$ et $Y\sim \mathcal{P}(\mu )$ sont indépendantes, $X+Y\sim \mathcal{P}(\lambda +\mu )$ ; de même deux binomiales indépendantes de même $p$ s'ajoutent en $\mathcal{B}(n_1+n_2,p)$.

Inégalité de Markov : si $X\ge 0$ et $a>0$, $P(X\ge a)\le \frac{E(X)}{a}$.

Inégalité de Bienaymé-Tchebychev : pour $\epsilon >0$,

$$P(|X-E(X)|\ge \epsilon )\le \frac{V(X)}{{\epsilon }^2}.$$

Elle majore la probabilité d'un écart à la moyenne sans connaître la loi : avec $\epsilon =2\sigma$, l'écart dépasse deux écarts-types avec une probabilité au plus $1/4$.

Loi faible des grands nombres : si $X_1,\dots ,X_n$ sont indépendantes, de même loi, d'espérance $m$ et de variance ${\sigma }^2$, la moyenne empirique ${\overline{X}}_n=\frac{1}{n}{\sum }_{i=1}^n{X}_i$ vérifie $E({\overline{X}}_n)=m$, $V({\overline{X}}_n)=\frac{{\sigma }^2}{n}$ et, par Bienaymé-Tchebychev,

$$P(|{\overline{X}}_n-m|\ge \epsilon )\le \frac{{\sigma }^2}{n{\epsilon }^2}\underset{n\to \infty }{\to }0.$$

On dit que ${\overline{X}}_n$ converge en probabilité vers $m$ : la fréquence observée d'un événement tend vers sa probabilité. C'est le fondement de l'estimation d'une proportion (fréquence allélique, taux de germination) par un échantillon, et la précision croît en $1/\sqrt{n}$.

• Génétique mendélienne : croisement $Aa\times Aa$, chaque descendant est $aa$ avec probabilité $1/4$ ; sur $n$ descendants indépendants, le nombre de $aa$ suit $\mathcal{B}(n,1/4)$.
• Hardy-Weinberg : si les allèles sont indépendants (panmixie), fréquences génotypiques $p^2$, $2pq$, $q^2$ avec $p+q=1$.
• Dépistage : prévalence 1 %, sensibilité 99 %, spécificité 95 % ; par Bayes, $P_T(M)=\frac{0,01\times 0,99}{0,01\times 0,99+0,99\times 0,05}\approx 0,17$ : seuls 17 % des positifs sont malades.