Fiche de révision : Fondements et Structures en Probabilités

📋 Plan du Cours

1. Axiomes de probabilités
2. Structures des tribus
3. Mesure de probabilité
4. Variables aléatoires
5. Lois de probabilité sur R
6. Fonctions caractéristiques
7. Variables indépendantes
8. Convergence en loi
9. Loi des grands nombres
10. Théorème limite central

📖 1. Axiomes de probabilités

🔑 Notions clés & Définitions

Espace probabilisable :
Un espace probabilisable est un couple (Ω, A), où Ω est un espace abstrait sans structure particulière, et A est une tribu (ou σ-algèbre) sur Ω. La tribu A est une collection d’ensembles de Ω qui satisfait certaines propriétés, permettant de définir une mesure de probabilité cohérente sur cet espace.

Tribu (σ-algèbre) :
Une partie A ⊆ P(Ω) est appelée tribu (ou σ-algèbre) sur Ω si elle vérifie :

1. Ω ∈ A, c’est-à-dire que l’espace tout entier appartient à A.
2. A est stable par complémentaire : si A ∈ A, alors Ac = Ω \ A ∈ A.
3. A est stable par union dénombrable : si (Ai)i∈N∗ est une suite d’ensembles dans A, alors leur union dénombrable ∪i∈N∗ Ai appartient aussi à A.

Mesure de probabilité :
Une mesure de probabilité P sur une tribu A d’un espace Ω est une application P : A → [0, 1] qui vérifie :

• P(Ω) = 1, c’est-à-dire que la probabilité de l’espace tout entier est 1.
• La σ-additivité : pour toute suite d’événements (An)n∈N∗ dans A, deux à deux disjoints (An ∩ Am = ∅ si n ≠ m), on a :
  $P\left(\bigcup_{n=1}^\infty An\right) = \sum_{n=1}^\infty P(An).$
  Ce point assure que la probabilité d’une union dénombrable d’événements disjoints est la somme de leurs probabilités.

📝 Points essentiels

• Une tribu est une collection d’ensembles contenant Ω, stable par complémentaire et union dénombrable.
  Cela signifie que si un ensemble appartient à la tribu, son complément aussi, et que la réunion dénombrable de plusieurs ensembles dans la tribu reste dans la même collection. Ces propriétés garantissent la cohérence et la stabilité de la structure pour définir une mesure de probabilité.

• Une mesure de probabilité P sur une tribu A satisfait P(Ω)=1 et la σ-additivité :
  La condition P(Ω)=1 indique que l’espace tout entier a une probabilité totale de 1. La σ-additivité assure que la probabilité d’une union dénombrable d’événements disjoints est la somme de leurs probabilités, ce qui est essentiel pour la cohérence de la théorie probabiliste.

• La σ-additivité est équivalente à la continuité de la mesure pour des suites croissantes ou décroissantes d’ensembles.
  En effet, si (An)n∈N∗ est une suite d’ensembles dans A, croissante (An ⊂ An+1) et tendant vers A, alors la limite de P(An) est P(A). De même, pour une suite décroissante (An ⊃ An+1) tendant vers A, la limite de P(An) est aussi P(A). Cette propriété de continuité découle de la σ-additivité et garantit la compatibilité entre la limite d’une suite d’événements et la limite de leurs probabilités.

• La fonction indicatrice 1A est mesurable si et seulement si A appartient à la tribu.
  La fonction indicatrice 1A(ω) = 1 si ω ∈ A, sinon 0, est une fonction mesurable si et seulement si A ∈ A. Elle permet d’associer à chaque événement une fonction numérique simple, essentielle pour l’intégration et la construction de variables aléatoires.

• La convergence d’une suite d’ensembles (An) vers A est caractérisée par l’égalité de leurs limites inférieure et supérieure.
  La limite inférieure (lim inf) et la limite supérieure (lim sup) d’une suite d’ensembles (An)n∈N∗ sont définies comme suit :

  • Lim inf : $\liminf_{n \to \infty} An = \bigcup_{n=1}^\infty \bigcap_{m \geq n} Am$,
  • Lim sup : $\limsup_{n \to \infty} An = \bigcap_{n=1}^\infty \bigcup_{m \geq n} Am$.
    La convergence de (An) vers A est caractérisée par l’égalité $\liminf_{n \to \infty} An = \limsup_{n \to \infty} An = A$.

💡 À retenir

Les axiomes fondamentaux de la théorie probabiliste reposent sur la structure d’une tribu, garantissant la stabilité des événements, et sur la mesure de probabilité, qui doit être σ-additive et assigner la valeur 1 à l’espace total. La propriété de continuité de la mesure pour des suites d’ensembles permet d’assurer la cohérence entre la limite de suites d’événements et la limite de leurs probabilités.

📖 2. Structures des tribus

🔑 Notions clés & Définitions

Tribu grossière :
Une tribu grossière est la plus simple des tribus, contenant uniquement deux ensembles : l’ensemble vide ∅ et l’ensemble total Ω. Elle est souvent considérée comme la tribu minimale, car elle ne permet pas de distinguer des sous-ensembles plus complexes.

Tribu discrète :
La tribu discrète sur un espace Ω est la puissance de Ω, c’est-à-dire l’ensemble de tous ses sous-ensembles. Elle est la plus grande tribu possible sur Ω, englobant tous les ensembles mesurables possibles.

Tribu borélienne B(R) :
La tribu borélienne sur R, notée B(R), est la tribu engendrée par la famille des intervalles ouverts ou fermés de R. Elle constitue la plus petite tribu contenant tous ces intervalles, permettant de définir la mesurabilité des ensembles boréliens.

Tribu engendrée :
La tribu engendrée par une famille de parties C, notée σ(C), est la plus petite tribu contenant C. Elle est construite en prenant toutes les unions dénombrables, intersections dénombrables et compléments d’ensembles de C, afin d’obtenir une tribu qui inclut C tout en étant stable par ces opérations.

Intersection de tribus :
L’intersection de toute famille de tribus est encore une tribu. Cela signifie que si l’on considère une famille de tribus sur un même espace Ω, leur intersection est également une tribu, ce qui permet de définir la tribu engendrée par une famille de parties en prenant l’intersection de toutes les tribus contenant cette famille.

Algèbre d’ensembles :
Une algèbre d’ensembles est une famille d’ensembles stable par union finie, intersection finie et complémentation. Elle ne nécessite pas d’être stable par union ou intersection dénombrable, contrairement à une tribu. Elle constitue une étape intermédiaire dans la construction de tribus plus complexes.

📝 Points essentiels

• La tribu grossière contient seulement ∅ et Ω.
• La tribu discrète est la puissance de Ω, c’est-à-dire l’ensemble de tous ses sous-ensembles.
• La tribu borélienne B(R) est la tribu engendrée par les intervalles ouverts ou fermés de R. Elle est la plus petite tribu contenant ces intervalles, ce qui permet de définir la mesurabilité des ensembles boréliens.
• L’intersection de toute famille de tribus est encore une tribu. Cela permet de définir la tribu engendrée par une famille de parties comme étant l’intersection de toutes les tribus contenant cette famille.
• Une algèbre d’ensembles est stable par union finie, tandis qu’une tribu l’est par union dénombrable. La stabilité par union dénombrable est une propriété essentielle pour la construction de tribus, notamment dans la théorie de la mesure.
• La tribu engendrée σ(C) est la plus petite tribu contenant la famille C. Elle est obtenue en prenant toutes les opérations de compléments, unions dénombrables et intersections dénombrables à partir de C.

💡 À retenir

Les différentes tribus, du plus simple au plus complexe, structurent la manière dont les ensembles sont mesurés dans la théorie des probabilités. La tribu grossière est minimale, la tribu discrète maximale, et la tribu borélienne est essentielle pour la mesure des ensembles dans R, tandis que la notion d’engendrement permet de construire des tribus adaptées à des familles spécifiques d’ensembles. La stabilité par union dénombrable caractérise la nature des tribus par rapport aux algèbres d’ensembles.

📖 3. Mesure de probabilité

🔑 Notions clés & Définitions

Additivité : La propriété selon laquelle, pour toute famille finie d’événements disjoints $A_1, A_2, \ldots, A_n$, la probabilité de leur union est égale à la somme de leurs probabilités individuelles, c’est-à-dire $P\left(\bigcup_{i=1}^n A_i\right) = \sum_{i=1}^n P(A_i).$ Cette propriété garantit la cohérence de la mesure de probabilité sur des unions finies d’événements disjoints.

σ-additivité : Extension de l’additivité à des familles dénombrables d’événements disjoints $A_1, A_2, \ldots$. La mesure $P$ est σ-additive si, pour toute famille dénombrable d’événements disjoints $\{A_i\}_{i=1}^\infty$, $P\left(\bigcup_{i=1}^\infty A_i\right) = \sum_{i=1}^\infty P(A_i).$ La σ-additivité assure la cohérence de la mesure sur des unions dénombrables, ce qui est essentiel pour la manipulation des mesures infinies.

Probabilité conditionnelle : La probabilité de l’événement $A$ sachant un autre événement $B$ tel que $P(B) > 0$, est définie par $P(A|B) = \frac{P(A \cap B)}{P(B)}.$ Elle représente la probabilité de $A$ dans le contexte où $B$ est réalisé.

Probabilité conditionnelle sachant un événement : Lorsqu’on connaît un événement $B$ avec $P(B) > 0$, la mesure de probabilité conditionnelle $P(\cdot|B)$ est une nouvelle mesure de probabilité définie sur la même tribu, qui attribue à chaque événement $A$ la probabilité $P(A|B)$. Elle permet de mettre à jour la probabilité en fonction de l’information que $B$ s’est produit.

Formule des probabilités totales : Si $\{A_i\}_{i=1}^n$ est une partition de $\Omega$ (c’est-à-dire que ces événements sont disjoints et leur union est $\Omega$), alors pour tout événement $A$, $P(A) = \sum_{i=1}^n P(A|A_i) P(A_i).$ Cette formule décompose la probabilité de $A$ en une somme pondérée par la probabilité de chaque événement $A_i$, permettant de calculer $P(A)$ à partir de probabilités conditionnelles.

Théorème de Bayes : Ce théorème permet d’inverser la conditionnalité entre événements et causes. Si $\{A_i\}$ est une partition de $\Omega$ avec $P(A_i) > 0$, alors pour tout événement $B$ avec $P(B) > 0$, $P(A_j|B) = \frac{P(B|A_j) P(A_j)}{\sum_{i=1}^n P(B|A_i) P(A_i)}.$ Il fournit une méthode pour mettre à jour la probabilité de causes $A_j$ en fonction de l’observation $B$.

📝 Points essentiels

Une mesure de probabilité doit satisfaire l’additivité, qui est évidente lorsque $\Omega$ est fini, et la σ-additivité, qui s’étend à des unions dénombrables lorsque $\Omega$ est dénombrable. La σ-additivité provient du fait que l’on peut "sommer par paquets" pour obtenir que $\sum_{i \in I} \sum_{\omega \in A_i} p_\omega = \sum_{\omega \in \bigcup_{i \in I} A_i} p_\omega,$ lorsque les $A_i$ sont deux à deux disjoints.

Exemples illustrant ces notions : la loi de Poisson, définie sur $\Omega = \mathbb{N}$ avec $P(\{\omega\}) = e^{-\lambda} \frac{\lambda^\omega}{\omega!}$, est une mesure de probabilité qui est σ-additive. De même, la loi géométrique, avec $P(\{\omega\}) = (1-\alpha) \alpha^\omega$, en est une autre.

La probabilité uniforme sur un espace fini $\Omega$ est celle où chaque point a la même probabilité, c’est-à-dire $p_\omega = P(\{\omega\})$ ne dépend pas de $\omega$. Dans ce cas, pour tout $A \subseteq \Omega$, $P(A) = \frac{\text{card}(A)}{\text{card}(\Omega)}.$

Une variable aléatoire $X$ est une application de $\Omega$ dans un ensemble $E$. La loi de $X$, notée $PX$, est définie par $PX(A) = P(X^{-1}(A)),$ pour tout $A \subseteq P(E')$, où $E' = \{i \in E : \exists \omega \in \Omega, X(\omega) = i\}$. La loi de $X$ est entièrement déterminée par la famille $\{p_{Xj} = P(X = j)\}$.

L’espérance mathématique $E[X]$ d’une variable aléatoire $X$ à valeurs dans $\mathbb{R}$ est définie par $E[X] = \sum_{\omega \in \Omega} X(\omega) p_\omega,$ lorsque cette somme est absolument convergente ou que $X \geq 0$. Elle représente la moyenne ou le centre de gravité de la variable.

💡 À retenir

La cohérence des mesures de probabilité repose sur leur additivité et σ-additivité, permettant de manipuler des unions finies ou dénombrables d’événements. La probabilité conditionnelle, la formule des probabilités totales et le théorème de Bayes constituent des outils fondamentaux pour la mise à jour et la décomposition des probabilités, essentiels pour la modélisation et l’analyse probabiliste.

📖 4. Variables aléatoires

🔑 Notions clés & Définitions

Variable aléatoire
Une variable aléatoire est une fonction mesurable de l’espace probabilisable vers R. Elle associe à chaque réalisation de l’expériences un nombre réel, permettant ainsi de quantifier les résultats aléatoires. La mesurabilité garantit que pour tout ensemble borélien B de R, l’ensemble des éléments de l’espace probabilisable dont l’image par la variable aléatoire appartient à B est un événement mesurable.

Fonction de répartition
La fonction de répartition F_X(x) d’une variable aléatoire X est définie par F_X(x) = P(X ≤ x). Elle caractérise entièrement la loi de la variable, en donnant la probabilité que la réalisation de X soit inférieure ou égale à une valeur donnée x. La fonction F_X est croissante, continue à droite, et tend vers 0 lorsque x tend vers -∞, et vers 1 lorsque x tend vers +∞.

Espérance
L’espérance E[X] d’une variable aléatoire X est l’intégrale de X par rapport à la mesure de probabilité. Elle représente la moyenne ou le centre de gravité de la loi de X, et se calcule généralement comme l’intégrale de X sur l’espace probabilisable, en tenant compte de la mesure associée.

Variance
La variance Var(X) mesure la dispersion de la variable aléatoire autour de son espérance. Elle est définie par Var(X) = E[(X - E[X])²], c’est-à-dire l’espérance du carré de la différence entre X et son espérance. La variance indique à quel point les valeurs de X sont dispersées autour de la moyenne.

Mesurabilité d’une variable aléatoire
Une variable aléatoire est mesurable si, pour tout ensemble borélien B de R, l’ensemble {ω | X(ω) ∈ B} appartient à la tribu de l’espace probabilisable. La mesurabilité assure que la variable aléatoire est compatible avec la structure de mesure, permettant de définir ses lois et d’effectuer des intégrales de manière cohérente.

📝 Points essentiels

Une variable aléatoire est une fonction mesurable de l’espace probabilisable vers R. Cela signifie que pour tout ensemble borélien B, l’ensemble des éléments de l’espace dont l’image par la variable appartient à B est un événement mesurable. La mesurabilité garantit que la variable aléatoire permet de définir des probabilités sur ses images, en particulier sa loi.

La fonction de répartition F_X(x) = P(X ≤ x) caractérise la loi de la variable aléatoire. Elle fournit une description complète de la distribution, puisqu’elle permet de retrouver la probabilité que X prenne une valeur inférieure ou égale à x. La fonction F_X est croissante, continue à droite, et tend vers 0 lorsque x tend vers -∞, et vers 1 lorsque x tend vers +∞. La propriété de limite à l’infini permet de vérifier que F_X est une fonction de répartition valide.

L’espérance d’une variable aléatoire est l’intégrale de cette variable par rapport à la mesure de probabilité. Elle représente la moyenne attendue, ou valeur centrale, de la loi de X. La variance, quant à elle, mesure la dispersion autour de cette moyenne, en étant l’espérance du carré de la déviation. La variance est toujours positive ou nulle, et est nulle si et seulement si la variable est constante presque sûrement.

La mesurabilité d’une variable aléatoire garantit que les préimages des ensembles boréliens sont dans la tribu, ce qui permet de définir rigoureusement ses lois et d’effectuer des calculs d’intégrales. Elle assure la compatibilité entre la fonction et la structure de mesure de l’espace probabilisable, permettant de manipuler les variables aléatoires dans un cadre mathématique cohérent.

💡 À retenir

Les variables aléatoires transforment l’espace probabilisable en quantités numériques analysables, leur loi étant entièrement caractérisée par leur fonction de répartition. Leur espérance et leur variance fournissent des moments essentiels pour comprendre leur comportement, tandis que la mesurabilité garantit la cohérence de ces définitions dans le cadre de la théorie de la mesure.

📖 5. Lois de probabilité sur R

🔑 Notions clés & Définitions

Loi de probabilité :
Une loi de probabilité sur R est une mesure de probabilité qui attribue à chaque événement un nombre compris entre 0 et 1, de manière à ce que la probabilité de l’espace total soit égale à 1. Elle est entièrement caractérisée par sa fonction de répartition, qui donne la probabilité qu’une variable aléatoire suivant cette loi prenne une valeur inférieure ou égale à un réel donné. La fonction de répartition est une fonction croissante, continue à droite, et limite à 0 en -∞ et à 1 en +∞.

Loi discrète :
Une loi discrète est une loi de probabilité définie par des masses de probabilité concentrées sur un ensemble dénombrable de points isolés. Elle est caractérisée par une fonction de masse de probabilité (m.p.) qui associe à chaque point un poids positif, représentant la probabilité que la variable aléatoire prenne cette valeur précise. La somme de toutes ces masses est égale à 1.

Loi continue :
Une loi continue possède une densité par rapport à la mesure de Lebesgue. Elle est caractérisée par une fonction de densité f(x), positive ou nulle pour tout x, intégrable sur R, telle que la fonction de répartition FX(x) = ∫_{-∞}^x f(y) dy. La densité permet de calculer la probabilité que la variable prenne une valeur dans un intervalle en intégrant la densité sur cet intervalle.

Loi de Bernoulli :
Modélise une expérience à deux issues (succès ou échec) avec une probabilité p de succès. La variable aléatoire associée, X, suit une loi de Bernoulli si elle prend la valeur 1 avec probabilité p et 0 avec probabilité 1-p. La fonction de masse de probabilité est :
$P(X=1) = p, \quad P(X=0) = 1-p.$

Loi uniforme :
Une loi uniforme sur un intervalle [a, b] (avec a < b) est une loi continue dont la densité est constante sur cet intervalle, et nulle ailleurs. La densité est donnée par :
$f(x) = \frac{1}{b - a} \quad \text{pour } x \in [a, b].$
Elle modélise une probabilité équitable sur cet intervalle.

Loi normale :
Une loi normale, ou distribution gaussienne, est une loi continue fondamentale caractérisée par sa densité en forme de cloche :
$f(x) = \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x - \mu)^2}{2\sigma^2}},$
où $\mu \in \mathbb{R}$ est la moyenne et $\sigma^2 > 0$ la variance. La fonction de répartition est continue, croissante, et la densité possède une symétrie par rapport à $\mu$.

📝 Points essentiels

• Une loi de probabilité sur R est caractérisée par sa fonction de répartition FX, définie par :
  $FX(x) = P(X \leq x).$
  Elle est croissante, continue à droite, limite à 0 en -∞ et à 1 en +∞. La fonction de répartition permet d’obtenir la probabilité que la variable aléatoire X prenne une valeur inférieure ou égale à x.

• Les lois discrètes sont définies par des masses de probabilité sur des points isolés. La fonction de masse de probabilité (m.p.) est :
  $p(x) = P(X = x), \quad \text{avec } \sum_{x \in \text{support}} p(x) = 1.$
  Exemples : loi de Bernoulli, loi de Poisson, loi géométrique.

• Les lois continues possèdent une densité f(x) par rapport à la mesure de Lebesgue, telle que :
  $P(a \leq X \leq b) = \int_a^b f(x) dx.$
  La densité est positive ou nulle, intégrable sur R, et la fonction de répartition s’obtient par intégration :
  $FX(x) = \int_{-\infty}^x f(y) dy.$
  Exemples : loi normale, loi uniforme, loi lognormale.

• La loi de Bernoulli modélise une expérience binaire avec deux issues possibles : succès (1) ou échec (0). La probabilité de succès est p, et la fonction de masse est :
  $P(X=1) = p, \quad P(X=0) = 1-p.$
  Elle est la loi la plus simple, utilisée comme base pour d’autres lois binaires.

• La loi uniforme sur [a, b] est une loi continue avec densité constante :
  $f(x) = \frac{1}{b - a} \quad \text{pour } x \in [a, b],$
  et la probabilité que X prenne une valeur dans un sous-intervalle est proportionnelle à la longueur de cet intervalle.

• La loi normale est une loi continue fondamentale, caractérisée par sa densité en forme de cloche :
  $f(x) = \frac{1}{\sqrt{2\pi\sigma^2}} e^{-\frac{(x - \mu)^2}{2\sigma^2}}.$
  Elle est symétrique par rapport à $\mu$, et sa fonction de répartition ne possède pas de forme analytique simple, mais elle est essentielle pour modéliser de nombreux phénomènes naturels et statistiques.

💡 À retenir

Les principales lois de probabilité sur R, telles que la loi de Bernoulli, la loi uniforme et la loi normale, permettent de modéliser une grande variété de phénomènes aléatoires. Leur caractérisation par la fonction de répartition ou la densité est essentielle pour analyser et calculer les probabilités associées.

📖 6. Fonctions caractéristiques

🔑 Notions clés & Définitions

Fonction caractéristique

La fonction caractéristique d'une variable aléatoire $X$, notée $\phi_X(t)$, est définie par la formule :
$\phi_X(t) = \mathbb{E}[e^{itX}]$ où $t \in \mathbb{R}$ et $i$ désigne l’unité imaginaire. Selon la source, cette fonction encode complètement la loi de $X$. Elle est toujours bien définie, même si la densité de $X$ n’existe pas. La fonction caractéristique est une application de $\mathbb{R}$ dans $\mathbb{C}$.

Transformée de Fourier d’une loi

La transformée de Fourier d’une loi de probabilité est la fonction caractéristique associée à la variable aléatoire qui suit cette loi. Elle permet de représenter la loi via une fonction complexe, facilitant l’étude de propriétés telles que la convergence en loi ou la détermination de la loi à partir de la fonction caractéristique.

Propriétés de la fonction caractéristique

La fonction caractéristique possède plusieurs propriétés essentielles :

• Elle est toujours bien définie pour tout $t \in \mathbb{R}$.
• Elle est continue en tout point.
• Elle vérifie la propriété de positivité définie, c’est-à-dire que pour toute suite $(t_n)$ convergeant vers $t$, $\lim_{n \to \infty} \phi_X(t_n) = \phi_X(t)$.
• Elle est bornée en module par 1, puisque $\left| e^{itX} \right| = 1$, donc $\left| \phi_X(t) \right| \leq 1$.
• La valeur en zéro est toujours $\phi_X(0) = 1$.

Lien avec la convergence en loi

La fonction caractéristique est un outil puissant pour étudier la convergence en loi. En effet, la convergence en loi de $X_n$ vers $X$ est équivalente à la convergence ponctuelle de leurs fonctions caractéristiques :
$X_n \xrightarrow{\text{d}} X \quad \Longleftrightarrow \quad \forall t \in \mathbb{R}, \quad \lim_{n \to \infty} \phi_{X_n}(t) = \phi_X(t)$ Ce résultat permet d’établir la convergence en loi en vérifiant simplement la convergence ponctuelle des fonctions caractéristiques.

📝 Points essentiels

• La fonction caractéristique $\phi_X(t) = \mathbb{E}[e^{itX}]$ encode complètement la loi de $X$. Cela signifie que deux variables aléatoires ont la même loi si et seulement si leurs fonctions caractéristiques sont égales pour tout $t$.
• La fonction caractéristique est toujours définie, même en l’absence de densité. Elle ne nécessite pas que la loi admette une densité ou une fonction de répartition continue.
• La convergence en loi peut être étudiée via la convergence ponctuelle des fonctions caractéristiques : si $\phi_{X_n}(t) \to \phi_X(t)$ pour tout $t$, alors $X_n$ converge en loi vers $X$.
• La fonction caractéristique possède des propriétés importantes : elle est continue, bornée par 1, et vérifie la positivité définie.

💡 À retenir

La fonction caractéristique est un outil analytique fondamental permettant d’étudier et de caractériser complètement la loi d’une variable aléatoire. Elle facilite aussi l’analyse de la convergence en loi en se concentrant sur la convergence ponctuelle de ces fonctions, ce qui en fait un instrument puissant pour l’étude des lois de variables aléatoires.

📖 7. Variables indépendantes

🔑 Notions clés & Définitions

Indépendance d’événements
Deux événements A et B sont dits indépendants si la probabilité de leur intersection est égale au produit de leurs probabilités individuelles :
$P(A \cap B) = P(A) P(B)$
Cette relation implique que la connaissance de l’un n’influence pas la probabilité de l’autre. Autrement dit, la connaissance que A s’est produit ne modifie pas la probabilité que B se produise, et vice versa.

Indépendance mutuelle
Une famille d’événements $\{A_i\}_{i \in I}$ est mutuellement indépendante si, pour toute sous-famille finie, la probabilité de l’intersection de ces événements est le produit de leurs probabilités :
$P\left(\bigcap_{k=1}^n A_{i_k}\right) = \prod_{k=1}^n P(A_{i_k})$
Cela signifie que chaque événement de la famille est indépendant de toute intersection des autres, garantissant une absence totale d’influence entre eux.

Indépendance de variables aléatoires
Deux variables aléatoires X et Y sont indépendantes si et seulement si la $\sigma$-algèbre qu’elles génèrent sont indépendantes. Concrètement, cela revient à ce que leur loi conjointe soit le produit de leurs lois marginales :
$P_{X,Y} = P_X \otimes P_Y$
Ce qui implique que la connaissance de la résultat d’une variable n’apporte aucune information sur l’autre.

Indépendance conditionnelle
Une variable aléatoire Y est dite indépendante de une autre variable aléatoire X conditionnellement à une troisième variable Z si, étant donné Z, la loi de Y ne dépend pas de X. Formelement, pour tout événement A dans la $\sigma$-algèbre de Y et tout événement B dans celle de X, la relation suivante doit être vérifiée :
$P(Y \in A \mid X, Z) = P(Y \in A \mid Z)$
Cela signifie que, une fois Z connu, la connaissance de X ne modifie pas la probabilité que Y appartienne à A.

📝 Points essentiels

• Deux événements A et B sont indépendants si et seulement si :
  $P(A \cap B) = P(A) P(B)$
  Ce critère est fondamental pour définir l’indépendance dans la théorie probabiliste. La formule indique que la probabilité que les deux événements se produisent simultanément est le produit de leurs probabilités individuelles, ce qui traduit une absence d’influence ou de dépendance.

• Une famille d’événements est mutuellement indépendante si toute intersection finie a une probabilité égale au produit des probabilités :
  $P\left(\bigcap_{k=1}^n A_{i_k}\right) = \prod_{k=1}^n P(A_{i_k})$
  Cette propriété garantit que chaque événement est indépendant de toute combinaison d’autres événements de la famille, renforçant la notion d’indépendance globale.

• L’indépendance de variables aléatoires se traduit par l’indépendance de leurs $\sigma$-algèbres associées.
  Concrètement, si X et Y sont indépendantes, alors pour toute paire d’événements A et B, on a :
  $P(X \in A, Y \in B) = P(X \in A) P(Y \in B)$
  Ce qui implique que leur loi conjointe est le produit de leurs lois marginales.

• L’indépendance implique que la connaissance d’un événement ne modifie pas la probabilité de l’autre.
  Autrement dit, si A et B sont indépendants, alors :
  $P(B \mid A) = P(B) \quad \text{et} \quad P(A \mid B) = P(A)$
  Ce qui traduit une absence d’influence entre ces événements.

💡 À retenir

L’indépendance constitue le fondement de la modélisation probabiliste, garantissant l’absence d’influence ou de dépendance entre événements ou variables. Elle permet de simplifier l’analyse en décomposant la loi conjointe en produits de lois marginales, assurant ainsi une compréhension claire et précise des relations probabilistes.

📖 8. Convergence en loi

🔑 Notions clés & Définitions

Convergence en loi
La convergence en loi d’une suite de variables aléatoires $(X_n)_{n \geq 1}$ vers une variable aléatoire $X$ est définie par la convergence des fonctions de répartition. Plus précisément, selon la définition, $X_n$ converge en loi vers $X$ si, pour tout point de continuité $t$ de la fonction de répartition $F_X$ de $X$, la limite de $F_{X_n}(t)$ lorsque $n \to \infty$ est égale à $F_X(t)$. Autrement dit,
$\lim_{n \to \infty} F_{X_n}(t) = F_X(t) \quad \text{pour tout } t \text{ où } F_X \text{ est continue}.$

Limite d’une suite de variables aléatoires
La limite en loi d’une suite $(X_n)$ est une variable aléatoire $X$ telle que la suite de leurs fonctions de répartition $(F_{X_n})$ converge ponctuellement vers $F_X$ en tout point de continuité de cette dernière. La limite en loi permet d’étudier le comportement asymptotique des suites de variables aléatoires, notamment dans le cadre des théorèmes limites.

Fonction caractéristique et convergence
La fonction caractéristique $\varphi_X$ d’une variable aléatoire $X$ est définie par
$\varphi_X(u) = E[e^{iuX}] \quad \text{pour tout } u \in \mathbb{R}.$
Elle est la transformée de Fourier de la loi de $X$. La convergence en loi est caractérisée par la convergence ponctuelle des fonctions caractéristiques : une suite $(X_n)$ converge en loi vers $X$ si et seulement si, pour tout $u \in \mathbb{R}$,
$\lim_{n \to \infty} \varphi_{X_n}(u) = \varphi_X(u).$

Convergence faible
La convergence en loi est aussi appelée convergence faible. Elle est dite plus faible que la convergence en probabilité ou presque sûre, car elle ne garantit pas la convergence des variables aléatoires elles-mêmes, mais uniquement celle de leur distribution.

📝 Points essentiels

• La convergence en loi signifie la convergence des fonctions de répartition $F_{X_n}$ en tout point $t$ où $F_X$ est continue.
• La convergence en loi est caractérisée par la convergence ponctuelle des fonctions caractéristiques $\varphi_{X_n}$. Autrement dit, si pour tout $u \in \mathbb{R}$, $\varphi_{X_n}(u) \to \varphi_X(u)$, alors $X_n$ converge en loi vers $X$.
• La convergence en loi est une notion plus faible que la convergence en probabilité ou presque sûre, ce qui signifie qu’elle ne garantit pas la convergence des variables elles-mêmes, mais uniquement celle de leur distribution.
• Elle est particulièrement utile pour étudier les limites asymptotiques des suites de variables aléatoires, notamment dans le cadre des théorèmes limites, comme la loi des grands nombres ou le théorème central limite.

💡 À retenir

La convergence en loi, par la convergence des fonctions de répartition ou des fonctions caractéristiques, constitue une étape fondamentale pour analyser la limite asymptotique des distributions de variables aléatoires. Elle est essentielle dans l’étude des théorèmes limites, permettant de comprendre comment les distributions évoluent lorsque la taille de l’échantillon ou le nombre de variables tend vers l’infini.

📖 9. Loi des grands nombres

🔑 Notions clés & Définitions

Loi forte des grands nombres :
Il s'agit d'une propriété fondamentale en probabilité qui affirme que, pour une suite de variables aléatoires indépendantes et identiquement distribuées (i.i.d.) ayant une espérance finie, la moyenne empirique converge presque sûrement vers cette espérance. Autrement dit, la fréquence relative observée lors de répétitions successives d'une expérience aléatoire se stabilise et tend vers la probabilité théorique. La loi forte garantit donc une convergence presque sûre, ce qui signifie que, sauf pour un ensemble d'événements de probabilité nulle, la moyenne empirique finira par être arbitrairement proche de l'espérance, et ce, pour tout ω dans l'univers probabiliste sauf un ensemble négligeable.

Loi faible des grands nombres :
Elle concerne la convergence en probabilité de la moyenne empirique vers l'espérance. Plus précisément, si l'on considère une suite de variables aléatoires i.i.d. avec une espérance finie, alors la moyenne empirique converge en probabilité vers cette espérance. La différence essentielle avec la loi forte réside dans le mode de convergence : la loi faible ne garantit pas une convergence presque sûre, mais seulement une convergence en probabilité, c'est-à-dire que pour toute précision donnée, la probabilité que la moyenne empirique s'écarte de l'espérance par plus de cette précision tend vers zéro lorsque le nombre d'observations augmente.

Convergence presque sûre :
Une suite de variables aléatoires (Xn)n≥1 converge presque sûrement vers une variable X si, sauf pour un ensemble d'événements de probabilité nulle, la suite (Xn(ω))n≥1 converge vers X(ω). En d'autres termes, la convergence se produit pour presque tout ω dans l'univers probabiliste, ce qui est une forme de convergence forte. Elle implique que la différence entre Xn et X devient nulle pour presque tout ω lorsque n devient grand.

Convergence en probabilité :
Une suite de variables aléatoires (Xn)n≥1 converge en probabilité vers une variable X si, pour tout ε > 0, la probabilité que la module de la différence |Xn − X| dépasse ε tend vers zéro lorsque n tend vers l'infini. Cette convergence est plus faible que la convergence presque sûre, mais elle est souvent plus facile à établir et est très utilisée en statistique pour justifier la stabilité des estimations.

📝 Points essentiels

La loi faible des grands nombres assure que la moyenne empirique, c’est-à-dire la moyenne des résultats observés lors de répétitions indépendantes d’une expérience aléatoire, tend en probabilité vers l’espérance théorique de la variable aléatoire. Cela signifie que, pour une grande quantité d’expériences, la fréquence observée se rapproche de la probabilité théorique, ce qui justifie la stabilité des fréquences dans le cadre de répétitions répétées.

La loi forte des grands nombres va plus loin en garantissant que cette convergence est presque sûre. Autrement dit, sauf pour un ensemble d’événements de probabilité nulle, la moyenne empirique finira par coïncider avec l’espérance à un degré de précision arbitraire, lorsque le nombre d’expériences devient très grand. Cette distinction entre convergence en probabilité et convergence presque sûre est essentielle pour comprendre la robustesse des résultats en probabilités et en statistique.

Ces lois justifient la stabilité des fréquences observées lors de répétitions d’expériences aléatoires. Elles montrent que, en répétant une expérience un grand nombre de fois, la moyenne des résultats observés se stabilise autour de la valeur théorique, ce qui est la base de la statistique et de nombreuses applications pratiques des probabilités. Elles permettent également d’évaluer la taille d’échantillon nécessaire pour que l’estimation d’une moyenne ou d’une probabilité soit raisonnablement précise.

💡 À retenir

Les lois des grands nombres expliquent comment la répétition d’expériences aléatoires conduit à la stabilité des moyennes, ce qui constitue le fondement de la statistique. La loi faible garantit la convergence en probabilité de la moyenne empirique vers l’espérance, tandis que la loi forte assure une convergence presque sûre, renforçant ainsi la confiance dans la stabilité des résultats observés lors de nombreuses répétitions.

📖 10. Théorème limite central

🔑 Notions clés & Définitions

Théorème limite central : AUTEUR (date) : affirme que la somme normalisée de variables indépendantes identiquement distribuées (v.i.d.) converge en loi vers une loi normale. Autrement dit, si l’on considère une suite de variables aléatoires indépendantes, identiquement distribuées, la distribution de leur somme, une fois centrée et réduite, tend vers une distribution normale lorsque le nombre d’échantillons devient très grand.

Normalisation des sommes : processus consistant à centrer et réduire la somme d’un nombre d’échantillons. Plus précisément, si $S_n = \sum_{i=1}^n X_i$, alors la somme normalisée est donnée par $\frac{S_n - n\mu}{\sigma \sqrt{n}}$, où $\mu = E[X_1]$ et $\sigma^2 = Var(X_1)$. Cette normalisation permet d’étudier la convergence en loi vers une loi normale.

Convergence en loi vers la loi normale : mode de convergence où la distribution de la variable aléatoire normalisée tend vers la loi normale $N(0,1)$ lorsque $n \to \infty$. Elle concerne la convergence des lois de la suite de variables aléatoires, indépendamment de leur espace de probabilité sous-jacent.

Variables aléatoires indépendantes identiquement distribuées : suite de variables aléatoires $(X_i)_{i \geq 1}$ telles que chaque $X_i$ a la même loi (distribution) et qu’elles sont indépendantes. La propriété d’indépendance garantit l’absence de corrélation ou de dépendance entre les variables, ce qui est essentiel pour l’application du théorème limite central.

📝 Points essentiels

Le théorème limite central affirme que la somme normalisée de variables indépendantes identiquement distribuées converge en loi vers une loi normale. La normalisation consiste à centrer la somme en soustrayant la moyenne totale $n\mu$ et à la réduire par la racine carrée du nombre d’échantillons $\sqrt{n}$, en la multipliant par l’écart-type $\sigma$. Cette étape est cruciale car elle ajuste la distribution pour qu’elle ait une variance constante, permettant ainsi la convergence vers la loi normale, qui est une distribution continue, symétrique et caractérisée par sa moyenne et sa variance.

Ce théorème explique la prévalence de la loi normale dans les phénomènes aléatoires, car il montre que, peu importe la distribution initiale des variables (tant qu’elles ont une moyenne et une variance finies), la somme de nombreuses variables indépendantes tend à suivre une loi normale. Cela justifie l’utilisation généralisée de la loi normale en statistique et en modélisation probabiliste.

Il constitue un pilier fondamental de la théorie des probabilités et des statistiques, car il permet d’établir des approximations normales pour des sommes ou des moyennes d’échantillons, facilitant ainsi l’analyse et l’interprétation des données dans de nombreux contextes.

💡 À retenir

Le théorème limite central explique pourquoi la loi normale apparaît universellement comme limite des sommes de variables aléatoires indépendantes et identiquement distribuées. Grâce à cette propriété, la normalisation des sommes permet d’obtenir une convergence en loi vers une loi normale, justifiant la fréquence de son utilisation dans l’analyse probabiliste et statistique.

📅 Repères chronologiques

📊 Tableaux de Synthèse

⚠️ Pièges & Confusions Fréquentes

1. Confondre tribu et algèbre d’ensembles : la tribu est stable par union/intersection dénombrable, l’algèbre seulement par union/intersection finie.
2. Supposer que la σ-additivité implique uniquement l’additivité finie : elle concerne aussi les suites dénombrables.
3. Confondre la stabilité par complémentaire avec la stabilité par union ou intersection.
4. Oublier que P(Ω)=1 est une condition essentielle pour une mesure de probabilité.
5. Mal interpréter la convergence d’une suite d’ensembles : il faut vérifier lim inf et lim sup pour la convergence.
6. Confondre tribu borélienne et tribu discrète : la première est engendrée par des intervalles, la seconde contient tous les sous-ensembles.
7. Négliger que la fonction indicatrice 1A est mesurable si et seulement si A appartient à la tribu.

✅ Checklist Examen

• Connaître la définition d’un espace probabilisable (Ω, A).
• Savoir ce qu’est une tribu (σ-algèbre) et ses propriétés (stabilité par complémentaire et union dénombrable).
• Maîtriser la différence entre tribu grossière, discrète, borélienne, et leur rôle.
• Comprendre la notion de mesure de probabilité : P(Ω)=1, σ-additivité.
• Savoir que la σ-additivité implique la continuité pour suites croissantes/décroissantes.
• Connaître la définition et le rôle de la tribu engendrée σ(C).
• Savoir ce qu’est une algèbre d’ensembles et ses différences avec une tribu.
• Maîtriser le concept d’additivité finie versus σ-additivité.
• Comprendre le lien entre convergence d’ensembles (lim inf, lim sup) et convergence en probabilité.
• Connaître l’engendrement de la tribu borélienne B(R).
• Savoir que la fonction indicatrice 1A est mesurable si et seulement si A appartient à A.
• Être capable d’identifier les pièges liés à ces notions lors d’un exercice ou question.