Probabilités — Mathématiques

§ 1 Espace probabilisé

Triplet $(\Omega, \mathcal{A}, \mathbb{P})$

$\Omega$ : univers (issues possibles)
$\mathcal{A}$ : tribu (stable par complémentaire et unions dénombrables)
$\mathbb{P}:\mathcal{A}\to[0,1]$ : mesure de probabilité, $\mathbb{P}(\Omega)=1$, $\sigma$-additive

Propriétés

$\mathbb{P}(\emptyset)=0$, $\mathbb{P}(A^c)=1-\mathbb{P}(A)$
$\mathbb{P}(A\cup B)=\mathbb{P}(A)+\mathbb{P}(B)-\mathbb{P}(A\cap B)$
Continuité : $A_n\nearrow A \Rightarrow \mathbb{P}(A_n)\to\mathbb{P}(A)$

Indépendance mutuelle

$$\mathbb{P}\!\left(\bigcap_{i\in I} A_i\right) = \prod_{i\in I} \mathbb{P}(A_i), \quad \forall I\subset\{1,\ldots,n\}$$

§ 2 Probabilités conditionnelles

Probabilité conditionnelle

$$\mathbb{P}(A\mid B) = \frac{\mathbb{P}(A\cap B)}{\mathbb{P}(B)}, \quad \mathbb{P}(B)>0.$$

Formule des probabilités totales

$$\mathbb{P}(A) = \sum_i \mathbb{P}(A\mid B_i)\,\mathbb{P}(B_i)$$

pour tout système complet $(B_i)$ d'événements.

Théorème de Bayes

$$\mathbb{P}(B_j\mid A) = \frac{\mathbb{P}(A\mid B_j)\,\mathbb{P}(B_j)}{\displaystyle\sum_i \mathbb{P}(A\mid B_i)\,\mathbb{P}(B_i)}$$

Test médical

Prévalence 1%, sensibilité 99%, spécificité 99% :

$$\mathbb{P}(M\mid +) = \frac{0.99\times 0.01}{0.99\times 0.01 + 0.01\times 0.99} = 50\%$$

Un test positif n'implique pas la maladie si la prévalence est faible.

§ 3 Variables aléatoires discrètes

Variable aléatoire discrète

$X:\Omega\to E$ mesurable (E dénombrable). Sa loi : $(\mathbb{P}(X=k))_{k\in E}$ avec $\sum\mathbb{P}(X=k)=1$.

Fonction génératrice

$$G_X(t) = \mathbb{E}[t^X] = \sum_{k=0}^{+\infty} \mathbb{P}(X=k)\,t^k$$

Si $X\perp Y$ : $G_{X+Y}(t) = G_X(t)\cdot G_Y(t)$.

§ 4 Lois discrètes classiques

Loi	$\mathbb{P}(X=k)$	$\mathbb{E}[X]$	$\mathrm{Var}(X)$
$\mathcal{B}(p)$	$p^k(1-p)^{1-k}$	$p$	$p(1-p)$
$\mathcal{B}(n,p)$	$\binom{n}{k}p^k(1-p)^{n-k}$	$np$	$np(1-p)$
$\mathcal{P}(\lambda)$	$e^{-\lambda}\lambda^k/k!$	$\lambda$	$\lambda$
$\mathcal{G}(p)$	$(1-p)^{k-1}p$	$1/p$	$(1-p)/p^2$

Approximation de Poisson

Si $X_n\sim\mathcal{B}(n,p_n)$ avec $np_n\to\lambda$, alors $X_n\xrightarrow{\mathcal{L}}\mathcal{P}(\lambda)$.

§ 5 Variables aléatoires continues

Densité et fonction de répartition

$$\mathbb{P}(a\leq X\leq b)=\int_a^b f(t)\,dt, \quad F(x)=\int_{-\infty}^x f(t)\,dt$$

$f\geq 0$, $\int f = 1$, $F'=f$ p.p.

Changement de variable

Si $Y=g(X)$, $g$ bijection $\mathcal{C}^1$ : $f_Y(y) = f_X(g^{-1}(y))\cdot|(g^{-1})'(y)|$.

§ 6 Lois continues classiques

Loi	Densité $f(x)$	$\mathbb{E}$	$\mathrm{Var}$
$\mathcal{U}([a,b])$	$1/(b-a)$	$(a+b)/2$	$(b-a)^2/12$
$\mathcal{E}(\lambda)$	$\lambda e^{-\lambda x}$, $x\geq 0$	$1/\lambda$	$1/\lambda^2$
$\mathcal{N}(\mu,\sigma^2)$	$\frac{1}{\sigma\sqrt{2\pi}}e^{-(x-\mu)^2/2\sigma^2}$	$\mu$	$\sigma^2$
$\Gamma(\alpha,\lambda)$	$\frac{\lambda^\alpha}{\Gamma(\alpha)}x^{\alpha-1}e^{-\lambda x}$	$\alpha/\lambda$	$\alpha/\lambda^2$
$\mathcal{B}(\alpha,\beta)$	$x^{\alpha-1}(1-x)^{\beta-1}/B(\alpha,\beta)$	$\alpha/(\alpha+\beta)$	voir formule

Sans mémoire (exponentielle)

$$\mathbb{P}(X>s+t\mid X>s) = \mathbb{P}(X>t)$$

Loi normale standard $\mathcal{N}(0,1)$

$$\varphi(x)=\frac{1}{\sqrt{2\pi}}e^{-x^2/2}, \quad \Phi(x)=\int_{-\infty}^x\varphi(t)\,dt$$

Si $X\sim\mathcal{N}(\mu,\sigma^2)$, alors $Z=(X-\mu)/\sigma\sim\mathcal{N}(0,1)$.

§ 7 Moments, espérance, variance

Espérance

Discrète : $\mathbb{E}[X]=\sum k\,\mathbb{P}(X=k)$. Continue : $\mathbb{E}[X]=\int x\,f(x)\,dx$.
Linéarité : $\mathbb{E}[aX+bY]=a\mathbb{E}[X]+b\mathbb{E}[Y]$. Indépendance : $\mathbb{E}[XY]=\mathbb{E}[X]\mathbb{E}[Y]$.

Variance et covariance

$$\mathrm{Var}(X)=\mathbb{E}[X^2]-(\mathbb{E}[X])^2, \quad \mathrm{Cov}(X,Y)=\mathbb{E}[XY]-\mathbb{E}[X]\mathbb{E}[Y]$$

$$\rho(X,Y)=\frac{\mathrm{Cov}(X,Y)}{\sigma_X\sigma_Y}\in[-1,1]$$

Inégalité de Bienaymé–Tchebychev

$$\mathbb{P}(|X-\mathbb{E}X|\geq k\sigma)\leq\frac{1}{k^2}$$

§ 8 Convergences et théorèmes limites

Modes de convergence

P.s. : $\mathbb{P}(\lim X_n=X)=1$
En probabilité : $\mathbb{P}(|X_n-X|>\varepsilon)\to 0$, $\forall\varepsilon>0$
En loi : $F_{X_n}(x)\to F_X(x)$ en tout point de continuité
$L^p$ : $\mathbb{E}[|X_n-X|^p]\to 0$

P.s. $\Rightarrow$ proba. $\Rightarrow$ loi. $L^p$ $\Rightarrow$ proba.

Loi forte des grands nombres (Kolmogorov)

Si $(X_n)$ i.i.d., $\mathbb{E}[|X_1|]<\infty$, $\mu=\mathbb{E}[X_1]$ :

$$\frac{X_1+\cdots+X_n}{n} \xrightarrow{p.s.} \mu$$

Si $\sigma^2=\mathrm{Var}(X_1)<\infty$ : $\mathrm{Var}(\bar X_n)=\sigma^2/n\to 0$. Par Bienaymé–Tchebychev, $\mathbb{P}(|\bar X_n-\mu|>\varepsilon)\leq\sigma^2/(n\varepsilon^2)\to 0$. □

Théorème central limite

Si $(X_n)$ i.i.d., $\mathbb{E}[X_1]=\mu$, $\mathrm{Var}(X_1)=\sigma^2\in(0,\infty)$ :

$$\frac{S_n - n\mu}{\sigma\sqrt{n}} \xrightarrow{\mathcal{L}} \mathcal{N}(0,1)$$

Justifie l'omniprésence de la loi normale. Approximation fiable pour $n\geq 30$.

Approximation normale de la binomiale

Si $X\sim\mathcal{B}(n,p)$, $np\geq 5$, $n(1-p)\geq 5$ :

$$\mathbb{P}(X\leq k)\approx\Phi\!\left(\frac{k+\frac{1}{2}-np}{\sqrt{np(1-p)}}\right)$$

Théorème de continuité de Lévy

La convergence en loi est équivalente à la convergence ponctuelle des fonctions caractéristiques. C'est l'outil clé pour prouver le TCL via $\varphi_{Z_n}(t)\to e^{-t^2/2}$.