Fiche de révision : Estimation et tests statistiques

📋 Plan du Cours

1. Objectifs et cadres statistiques
2. Probabilité et variables aléatoires
3. Caractéristiques des lois
4. Lois gaussiennes et indépendance
5. Convergence et échantillonnage iid
6. Estimation paramétrique
7. Tests et p-valeurs
8. Évaluation des règles statistiques
9. Test du Chi-deux

📖 1. Objectifs et cadres statistiques

🔑 Notions clés & Définitions

• Échantillon : Constitué des observations partielles d’un phénomène d’intérêt représenté par une variable aléatoire inconnue dans sa globalité.

★ À maîtriser

📌 La statistique descriptive ou exploratoire synthétise uniquement les données observées, tandis que la statistique inférentielle cherche à déduire avec une faible marge d’erreur des propriétés inaccessibles en pratique.

📌 L’approche par sondages considère une population finie et une caractéristique déterministe, tandis que l’approche par modèles considère un univers abstrait muni d’une probabilité et une loi inconnue à modéliser.

Compléments

• Le cours se limite à une variable réelle étudiée sur n individus, notés i dans {1,…,n}, avec une observation xi pour chaque individu.

💡 Astuce mémo

Descriptive = décrire les données ; inférentielle = généraliser avec une marge d’erreur

📖 2. Probabilité et variables aléatoires

🔑 Notions clés & Définitions

• Tribu : Ensemble de parties d’un ensemble E qui contient l’ensemble non vide, est stable par complémentaire et est stable par réunion finie ou dénombrable.
• Probabilité : Application d’une tribu T vers [0,1] telle que Q(E)=1 et que la probabilité d’une réunion dénombrable d’événements disjoints soit la somme de leurs probabilités.
• Variable aléatoire : Application mesurable d’un univers probabilisé Ω vers un espace de résultats muni d’une tribu.
• Loi d’une variable aléatoire : Donne à chaque ensemble mesurable A la probabilité PX(A)=P(X∈A).

💡 Astuce mémo

Univers + probabilité → variable aléatoire → loi induite

📖 3. Caractéristiques des lois

🔑 Notions clés & Définitions

• Espérance : L’espérance d’une variable discrète est la somme des valeurs pondérées par leurs probabilités, tandis que pour une variable continue elle est l’intégrale des valeurs pondérées par la densité.
• Fonction de répartition : La fonction de répartition de X est définie par $F_X(x)=P(X\leq x)$ pour tout réel x et caractérise la loi de X.

★ À maîtriser

📐 Formule - La variance vérifie $\operatorname{Var}(X)=\mathbb{E}[(X-\mathbb{E}(X))^2]=\mathbb{E}(X^2)-\mathbb{E}(X)^2$.

Compléments

📌 L’espérance et la variance ne caractérisent pas entièrement la loi d’une variable aléatoire, tandis que la fonction de répartition la caractérise.

📖 4. Lois gaussiennes et indépendance

🔑 Notions clés & Définitions

• Loi gaussienne : Si $X\sim\mathcal{N}(\mu,\sigma^2)$, alors X est réelle, son espérance vaut μ, sa variance vaut σ² et sa densité est $f_X(t)=\frac{1}{\sqrt{2\pi\sigma^2}}\exp\left(-\frac{(t-\mu)^2}{2\sigma^2}\right)$.
• Indépendance : Deux variables X1 et X2 sont indépendantes si, pour tous ensembles mesurables A et B, $P(X_1\in A\cap X_2\in B)=P(X_1\in A)P(X_2\in B)$.
• Variables iid : Des variables sont iid lorsqu’elles sont indépendantes et identiquement distribuées, c’est-à-dire qu’elles ont le même espace image et la même loi.

📝 Points essentiels

📐 Formule - Pour des variables gaussiennes indépendantes, si $X\sim\mathcal{N}(\mu,\sigma^2)$ et $Y\sim\mathcal{N}(\tilde\mu,\tilde\sigma^2)$, alors $X+Y\sim\mathcal{N}(\mu+\tilde\mu,\sigma^2+\tilde\sigma^2)$.

📖 5. Convergence et échantillonnage iid

🔑 Notions clés & Définitions

• Convergence en probabilité : La suite Yn converge en probabilité vers Y si, pour tout ε>0, $P(|Y_n-Y|>\varepsilon)\to 0$ quand n tend vers l’infini.
• Convergence en loi : La suite Yn converge en loi vers Y si, pour toute fonction continue et bornée φ, $\mathbb{E}(\varphi(Y_n))\to\mathbb{E}(\varphi(Y))$.

📝 Points essentiels

📐 Formule - Pour des variables iid telles que l’espérance de |X1| existe, la moyenne empirique vérifie $\overline X=\frac{1}{n}\sum_{i=1}^nX_i\xrightarrow{P}\mathbb{E}(X_1)$.

📐 Formule - Si E(X1²) existe, le théorème central limite donne $\sqrt n(\overline X-\mathbb{E}(X_1))\xrightarrow{L}\mathcal{N}(0,\operatorname{Var}(X_1))$.

💡 Astuce mémo

Moyenne empirique → loi des grands nombres → théorème central limite

📖 6. Estimation paramétrique

🔑 Notions clés & Définitions

• Maximum de vraisemblance : Dans une famille de modèles $Q=\{Q_t,t\in\Theta\}$, l’estimateur du maximum de vraisemblance est la valeur t qui maximise la fonction de vraisemblance des données observées.

★ À maîtriser

• 🔄 La démarche inférentielle suit les étapes suivantes:
  1. Modéliser les données comme une réalisation
  2. Poser une question sur la loi
  3. Construire théoriquement une règle fiable
  4. Appliquer la règle aux données
  5. Vérifier si possible la validité du modèle

📐 Formule - Si les Xi sont iid de densité fθ, la vraisemblance s’écrit $L(t)=\prod_{i=1}^n f_t(x_i)$ et l’estimation recherche le t qui maximise cette expression.

Compléments

• La moyenne empirique estime E(X1), la variance corrigée estime Var(X1), la médiane empirique estime la médiane de la loi et un histogramme normalisé estime une densité continue.

💡 Astuce mémo

Modèle → vraisemblance → paramètre estimé

📖 7. Tests et p-valeurs

🔑 Notions clés & Définitions

• P-valeur : Une p-valeur est la réalisation d’une statistique transformée qui, sous H0, suit une loi uniforme sur [0,1] et mesure une probabilité de résultat au moins aussi extrême que celui observé.

📝 Points essentiels

• Dans un test simple, H0 et H1 sont deux lois précises, tandis que dans un test composite H0 et H1 sont deux familles de probabilités.

• La règle de Neyman-Pearson décide H0 lorsque, dans le cas continu, $q_0(x)>c q_1(x)$, où c est une constante à calibrer.

• Avec une p-valeur t′ et un niveau α, la règle décide H1 si t′<α et ne rejette pas H0 si t′≥α.

💡 Astuce mémo

H0 contrôle l’erreur ; H1 donne la puissance

📖 8. Évaluation des règles statistiques

🔑 Notions clés & Définitions

• Consistance : Un estimateur θ chapeau est consistant si $\hat\theta\xrightarrow{P}\theta$ quand la taille n de l’échantillon tend vers l’infini.
• Biais : Le biais d’un estimateur θ chapeau de θ est $\mathbb{E}(\hat\theta)-\theta$ et l’on recherche généralement un biais faible en valeur absolue.

📝 Points essentiels

• Le risque quadratique d’un estimateur θ chapeau est $\mathbb{E}[(\hat\theta-\theta)^2]$ et l’on souhaite qu’il soit faible.

📌 Dans un test, l’erreur de première espèce est la probabilité de rejeter H0 lorsqu’elle est vraie, tandis que l’erreur de deuxième espèce est la probabilité de ne pas rejeter H0 lorsque H1 est vraie.

📖 9. Test du Chi-deux

📝 Points essentiels

📌 Pour le test du Chi-deux, les conditions d’application sont n≥30 et nθ0j≥5 pour chaque catégorie j.

📐 Formule - La statistique du test du Chi-deux est $T=\sum_{j=1}^k\frac{(n_j-n\theta_{0j})^2}{n\theta_{0j}}$, où nj est l’effectif observé et nθ0j l’effectif attendu sous H0.

• Sous H0, la statistique du Chi-deux converge en loi vers une loi χ² à k−1 degrés de liberté, tandis que sous H1 elle tend vers l’infini en probabilité quand n augmente.

📌 Pour un test du Chi-deux de niveau 5 %, on rejette H0 si la p-valeur $P(\chi^2_{k-1}>t)$ est inférieure à 0,05.

💡 Astuce mémo

Écarts observés-attendus → statistique du Chi-deux → rejet de H0

📊 Tableaux de synthèse

Critères de qualité des estimateurs et des tests