Probabilités sur un univers dénombrable et variables discrètes

Une tribu $\mathcal{A}$ sur $\Omega$ contient $\Omega$ et est stable par complémentaire et par réunion dénombrable (donc aussi par intersection dénombrable). Une probabilité est une application $P:\mathcal{A}\to [0,1]$ telle que $P(\Omega )=1$ et $P\left(\bigcup A_n\right)=\sum P(A_n)$ pour toute suite d'événements deux à deux incompatibles (σ-additivité).

Sur un univers dénombrable muni de $\mathcal{P}(\Omega )$, une probabilité est donnée par une famille $(p_{\omega })$ positive de somme 1. Il n'existe pas de probabilité uniforme sur $\mathbb{N}$ : des $p_n$ tous égaux ne peuvent pas sommer à 1.

Continuité monotone

• $(A_n)$ croissante : $P\left(\bigcup A_n\right)=\lim P(A_n)$.
• $(A_n)$ décroissante : $P\left(\bigcap A_n\right)=\lim P(A_n)$.
• Sous-additivité : $P\left(\bigcup A_n\right)\le \sum P(A_n)$ pour toute suite.

Une réunion dénombrable d'événements négligeables est négligeable ; une intersection dénombrable d'événements presque sûrs est presque sûre.

Conditionnement et indépendance

• Probabilités totales : pour un système complet dénombrable $(A_n)$, $P(B)=\sum P(A_n)P(B\mid A_n)$.
• Bayes : $P(A_k\mid B)=\frac{P(A_k)P(B\mid A_k)}{{\sum }_{n}P(A_n)P(B\mid A_n)}$.
• Indépendance mutuelle d'une famille : la probabilité de toute intersection finie est le produit des probabilités. L'indépendance deux à deux est strictement plus faible.

$X:\Omega \to E$ est discrète si $X(\Omega )$ est au plus dénombrable et si chaque $\{X=x\}$ est un événement. Sa loi est la donnée des $P(X=x)$. Pour un couple, les lois marginales s'obtiennent par sommation de la loi conjointe, mais ne la déterminent pas en général. Si $X$ et $Y$ sont indépendantes, $f(X)$ et $g(Y)$ aussi ; plus généralement, le lemme des coalitions s'applique à des fonctions de blocs disjoints de variables mutuellement indépendantes.

Lois usuelles

- La loi **géométrique** est la loi du rang du premier succès ; elle est **sans mémoire** : $P(X>n+k\mid X>n)=P(X>k)$, et c'est la seule loi sur ${\mathbb{N}}^{\ast }$ ayant cette propriété.

• La loi de Poisson est limite de binomiales : si $n{p}_n\to \lambda$, $P(X_n=k)\to e^{-\lambda }\frac{{\lambda }^k}{k!}$. La somme de deux Poisson indépendantes de paramètres $\lambda$ et $\mu$ suit $\mathcal{P}(\lambda +\mu )$.

Pour $X\ge 0$, $E(X)=\sum xP(X=x)\in [0,+\infty ]$. Pour $X$ réelle, $X$ est d'espérance finie si la famille $(xP(X=x))$ est sommable.

• Transfert : $E(f(X))=\sum f(x)P(X=x)$, sous réserve de sommabilité.
• Formule des queues ($X$ à valeurs dans $\mathbb{N}$) : $E(X)={\sum }_{n\ge 1}P(X\ge n)$.
• Linéarité, positivité, croissance ; si $X\ge 0$ et $E(X)=0$, alors $X=0$ presque sûrement.
• Indépendance : $E(XY)=E(X)E(Y)$ pour $X$, $Y$ indépendantes d'espérance finie.

Si $X^2$ est d'espérance finie, la variance $V(X)=E(X^2)-E(X{)}^2$ existe, $V(aX+b)=a^{2}V(X)$, et $V(X+Y)=V(X)+V(Y)+2\mathrm{Cov}(X,Y)$. Des variables deux à deux indépendantes ont des covariances nulles ; la réciproque est fausse ($X$ uniforme sur $\{-1,0,1\}$, $Y=X^2$).

Pour $X$ à valeurs dans $\mathbb{N}$, $G_X(t)=E(t^X)=\sum P(X=n)t^n$ est une série entière de rayon $\ge 1$, normalement convergente sur $[-1,1]$.

• Caractérisation : $G_X$ détermine la loi, $P(X=n)=\frac{G_X^{(n)}(0)}{n!}$.
• Espérance : $X$ est d'espérance finie si et seulement si $G_X$ est dérivable en 1, et $E(X)=G_X^{\prime }(1)$.
• Variance : si $G_X$ est deux fois dérivable en 1, $V(X)=G_X^{\prime \prime }(1)+G_X^{\prime }(1)-G_X^{\prime }(1{)}^2$.
• Somme indépendante : $G_{X+Y}=G_X{G}_Y$. C'est l'outil le plus rapide pour identifier la loi d'une somme.

• Markov : si $X\ge 0$ est d'espérance finie et $a>0$, $P(X\ge a)\le \frac{E(X)}{a}$.
• Bienaymé-Tchebychev : si $X$ admet un moment d'ordre 2, $P(|X-E(X)|\ge \epsilon )\le \frac{V(X)}{{\epsilon }^2}$.

Loi faible des grands nombres : si $(X_n)$ est une suite de variables deux à deux indépendantes, de même loi, admettant un moment d'ordre 2, d'espérance $m$ et de variance ${\sigma }^2$, alors avec $S_n=X_1+\cdots +X_n$ :

$P\left(\left|\frac{S_n}{n}-m\right|\ge \epsilon \right)\le \frac{{\sigma }^2}{n{\epsilon }^2}⟶0$.

Application : la fréquence empirique d'un succès de probabilité $p$ approche $p$ ; comme $p(1-p)\le \frac{1}{4}$, une taille $n\ge \frac{1}{4{\epsilon }^2\delta }$ garantit une erreur inférieure à $\epsilon$ avec probabilité au moins $1-\delta$.

• Justifier toute manipulation de série par la sommabilité (familles positives ou absolument sommables).
• Pour un événement asymptotique, penser continuité monotone ; pour une majoration, penser sous-additivité.
• Pour une somme de variables indépendantes à valeurs entières, penser fonction génératrice.
• Markov et Bienaymé-Tchebychev donnent des majorations souvent grossières mais universelles ; vérifier leurs hypothèses (positivité, moment d'ordre 2).