Fiche de révision : Économétrie et régression linéaire

Plan du Cours

  1. Fondements et démarche économétrique
  2. Modèle linéaire simple et MCO
  3. Propriétés et ajustement des estimateurs
  4. Tests, échelles et intervalles
  5. Prévision, causalité et modèles multiples
  6. Modèle de régression multiple
  7. Ajustement et sélection des modèles
  8. Tests d’hypothèses en régression
  9. Spécification et multicolinéarité
  10. Variables qualitatives et indicatrices
  11. Interactions entre variables qualitatives
  12. Hétéroscédasticité et conséquences

1. Fondements et démarche économétrique

Notions clés & Définitions

  • Économétrie : L’économétrie applique des méthodes statistiques à l’économie et à la gestion en combinant théorie économique, mathématiques et statistiques.

Points essentiels

★ À maîtriser

  • Les trois objectifs de l’économétrie sont d’estimer des relations économiques, de confronter la théorie aux faits et de tester des hypothèses, puis de prévoir le comportement de variables économiques.

  • Une étude économétrique comporte cinq étapes:

    • formuler un modèle
    • collecter les données
    • estimer le modèle
    • tester les hypothèses
    • interpréter les résultats

📌 Les séries temporelles suivent un individu sur plusieurs périodes, les données en coupe transversale observent plusieurs individus à un moment donné et les données de panel combinent les deux dimensions.

📌 La fiabilité des conclusions dépend de la qualité des données, de l’adéquation de la méthode d’estimation et de la capacité du modèle à représenter le processus générateur des données.

Compléments

  • Les données économétriques peuvent être expérimentales, issues d’enquêtes ou observationnelles non contrôlables, et peuvent porter sur des individus ou sur des groupes agrégés.

Astuce mémo

Modèle, données, estimation, tests, interprétation

2. Modèle linéaire simple et MCO

Notions clés & Définitions

  • Terme d’erreur : U_t représente les effets des variables omises, les non-linéarités, les erreurs de mesure et les effets imprévisibles qui influencent Y_t.

Points essentiels

📐 Formule — Le modèle de régression linéaire simple s’écrit Y_t = α + βX_t + u_t, où Y_t est la variable dépendante, X_t la variable explicative, α et β les coefficients de régression et u_t le terme d’erreur.

📐 Formule — La fonction de régression estimée est Ŷ_t = α̂ + β̂X_t, tandis que le résidu estimé est û_t = Y_t − Ŷ_t = Y_t − α̂ − β̂X_t.

📐 Formule — La méthode des moindres carrés ordinaires choisit α̂ et β̂ afin de minimiser ESS(α̂,β̂) = Σ(Y_t − α̂ − β̂X_t)² = Σû_t².

📐 Formule — Les estimateurs MCO sont β̂ = S_XY/S_XX et α̂ = Ȳ − β̂X̄, avec S_XX = Σ(X_t − X̄)² et S_XY = Σ(X_t − X̄)(Y_t − Ȳ).

📌 L’estimation de β̂ exige que les valeurs observées de X varient, c’est-à-dire que Var(X) soit non nulle et que tous les X_t ne soient pas identiques.

Astuce mémo

Y = partie déterministe + erreur

3. Propriétés et ajustement des estimateurs

Notions clés & Définitions

  • Absence de biais : Un estimateur est sans biais lorsque son espérance est égale au véritable paramètre de la population, soit E(α̂) = α et E(β̂) = β.
  • Consistance : Un estimateur est consistant lorsqu’il converge vers la vraie valeur du paramètre lorsque la taille de l’échantillon tend vers l’infini.
  • Homoscédasticité : L’homoscédasticité signifie que la variance conditionnelle des termes d’erreur est constante, Var(u_t|X_t) = σ².
  • Indépendance sérielle : L’indépendance sérielle signifie que les erreurs de deux observations distinctes ne sont pas corrélées, Cov(u_t,u_s|X_t,X_s) = 0 pour t ≠ s.

Points essentiels

📌 Sous les hypothèses 1 à 6, le théorème de Gauss-Markov établit que les estimateurs MCO sont les meilleurs estimateurs linéaires sans biais, ou BLUE.

📐 Formule — La décomposition de la variation totale est TSS = RSS + ESS, où TSS = Σ(Y_t − Ȳ)², RSS = Σ(Ŷ_t − Ȳ)² et ESS = Σû_t².

📐 Formule — Le coefficient de détermination est R² = RSS/TSS = 1 − ESS/TSS, avec 0 ≤ R² ≤ 1, et il mesure la part de la variation de Y expliquée par la régression.

Astuce mémo

Non biaisé, consistant, BLUE

4. Tests, échelles et intervalles

Notions clés & Définitions

  • p-valeur : La probabilité, sous H0, d’obtenir une statistique au moins aussi extrême que la statistique calculée, et H0 est rejetée lorsqu’elle est inférieure au niveau de significativité.

Points essentiels

★ À maîtriser

🔄 Processus — Un test d’hypothèse consiste à formuler H0 et H1, à construire une statistique dont la distribution est connue sous H0, puis à appliquer une règle de décision.

📌 Dans un test unilatéral à droite, H0 est rejetée si t_c > t* ; dans un test unilatéral à gauche, elle est rejetée si t_c < −t* ; dans un test bilatéral, elle est rejetée si |t_c| > t*.

📐 Formule — Un intervalle de confiance à (1 − a) % pour β est β̂ ± t*_{n−2}(a/2)s_β̂, et l’expression est analogue pour α.

Compléments

📐 Formule — Dans une régression simple, le test de Fisher de H0 : ρ_XY = 0 utilise F_c = R²(n − 2)/(1 − R²), qui suit une loi F à 1 et n − 2 degrés de liberté sous H0.

📌 Un changement d’unité de la variable dépendante rééchelonne les coefficients, les résidus et leurs erreurs-types, mais ne modifie pas les statistiques t, F ni R².

Astuce mémo

Tester avant de conclure

5. Prévision, causalité et modèles multiples

Points essentiels

★ À maîtriser

📐 Formule — Pour une valeur X_0, la prévision de Y est Ŷ_0 = α̂ + β̂X_0.

📌 Le prédicteur moyen estime E(Y|X = X_0), tandis que la prévision individuelle vise une valeur particulière de Y correspondant à X_0 et comporte une incertitude plus grande.

📌 Une corrélation élevée entre X et Y ne suffit pas à établir que X cause Y, car une causalité inversée, une détermination simultanée ou une variable tierce peuvent expliquer l’association.

📐 Formule — Dans une régression multiple Y_t = β_1 + β_2X_{t2} + ⋯ + β_kX_{tk} + u_t, chaque coefficient mesure l’effet moyen de sa variable lorsque les autres variables explicatives restent constantes.

Compléments

📌 La fiabilité d’une prévision diminue lorsque X_0 est éloigné de la moyenne observée X̄, car l’erreur-type du prédicteur moyen augmente avec (X_0 − X̄)².

📐 Formule — Pour comparer des modèles de prévision, on peut retenir celui dont l’erreur quadratique moyenne MSE = Σ(Y_t^f − Y_t)²/(n − 2), ou sa racine RMSE, est la plus faible.

🔄 Processus — Les moindres carrés ordinaires en régression multiple estiment les k coefficients en minimisant ESS = Σ(Y_t − β̂_1 − β̂_2X_{t2} − ⋯ − β̂_kX_{tk})² et en annulant les k dérivées partielles correspondantes.

Astuce mémo

Corrélation ne signifie pas causalité

6. Modèle de régression multiple

Notions clés & Définitions

  • Coefficient de régression multiple : Dans une régression multiple, βi = ΔYt/ΔXti mesure le changement moyen de Yt lorsque Xti augmente d’une unité, toutes les autres variables indépendantes étant maintenues constantes.

Points essentiels

★ À maîtriser

📐 Formule — Le modèle de régression multiple s’écrit Yt = β1 + β2Xt2 + ⋯ + βkXtk + ut, avec une variable dépendante, k − 1 variables indépendantes et un terme constant.

🔄 Processus — Les estimateurs des moindres carrés ordinaires sont obtenus en minimisant ESS = Σt(Yt − β̂1 − β̂2Xt2 − ⋯ − β̂kXtk)² puis en annulant les k dérivées partielles de ESS, ce qui produit un système de k équations normales à k coefficients inconnus.

📌 La condition d’exogénéité de la régression multiple est E(ut|Xti) = 0, ce qui implique Cov(Xsi,ut) = 0 pour chaque variable indépendante i et chaque observation s,t.

📐 Formule — L’estimateur non biaisé de la variance des erreurs est s² = ESS/(n − k) = Σt ût²/(n − k), et le modèle ne peut être estimé que si n > k.

Compléments

  • Les estimateurs OLS de la régression multiple restent BLUE, c’est-à-dire les estimateurs linéaires non biaisés les plus efficients, lorsque les hypothèses requises sont satisfaites.

Astuce mémo

Y expliqué par plusieurs X

7. Ajustement et sélection des modèles

Points essentiels

★ À maîtriser

📐 Formule — La qualité d’ajustement est mesurée par R² = 1 − ESS/TSS = Σt(Ŷt − Ȳ)²/Σt(Yt − Ȳ)², avec 0 ≤ R² ≤ 1.

📌 L’ajout d’une variable explicative ne peut jamais diminuer le R², car l’ESS minimisée ne peut pas augmenter tandis que TSS reste inchangée.

📐 Formule — Le R² ajusté est R̄² = 1 − [(n − 1)/(n − k)](1 − R²), car il tient compte de la perte de degrés de liberté liée à l’ajout de variables.

📌 Le R² mesure l’ajustement sans pénaliser la complexité, tandis que le R² ajusté arbitre entre l’augmentation du R² et la diminution du nombre de degrés de liberté.

Compléments

📌 Pour comparer des modèles, les critères recommandés comprennent le R² ajusté et l’erreur-type des résidus √[ESS/(n − k)], et le modèle ayant la valeur la plus faible d’un critère pénalisé est préféré.

📌 Les modèles simples sont généralement préférés parce qu’ils réduisent le risque de multicolinéarité, conservent davantage de degrés de liberté et facilitent l’interprétation.

Astuce mémo

R² ajuste, les critères pénalisent

8. Tests d’hypothèses en régression

Points essentiels

★ À maîtriser

📌 Les trois types de tests en régression multiple portent sur un coefficient individuel, un ensemble de coefficients considéré conjointement ou une combinaison linéaire de coefficients.

🔄 Processus — Pour tester H0: β = β0 contre une alternative unilatérale ou bilatérale, on calcule tc = (β̂ − β0)/sβ̂, qui suit sous H0 une loi de Student à n − k degrés de liberté, puis on rejette H0 si la statistique dépasse la valeur critique ou si la p-valeur est inférieure au seuil.

  • Pour H0:
    • β = 0
    • une faible p-valeur indique que le coefficient est statistiquement significatif
    • tandis qu’une p-valeur élevée ne permet pas de rejeter l’hypothèse de nullité

📐 Formule — Le test de Wald joint utilise Fc = [(ESSR − ESSU)/(k − m)]/[ESSU/(n − k)], qui suit sous H0 une loi F à k − m et n − k degrés de liberté.

📐 Formule — Le test de significativité globale du modèle teste H0: β2 = ⋯ = βk = 0 et utilise Fc = [R²/(k − 1)]/[(1 − R²)/(n − k)].

Compléments

📌 Dans le test de Wald, on rejette H0 si Fc est supérieure à la valeur critique de Fisher ou si la p-valeur est inférieure au seuil, puis on conserve le modèle non restreint.

Astuce mémo

t seul, F groupé

9. Spécification et multicolinéarité

Notions clés & Définitions

  • Multicolinéarité exacte : Existe lorsqu’au moins deux variables explicatives sont liées par une relation linéaire exacte, ce qui empêche d’obtenir une solution unique aux équations normales et interdit l’estimation séparée des coefficients.

Points essentiels

★ À maîtriser

📌 Les erreurs de spécification concernent le choix des variables, la forme fonctionnelle ou la structure des termes d’erreur.

📌 L’omission d’une variable importante rend généralement biaisés les coefficients des variables incluses, le terme constant et les prévisions, et peut invalider les tests d’hypothèses.

📌 L’inclusion d’une variable inutile conserve des coefficients inclus non biaisés et consistants, mais augmente leur variance et les rend moins efficients, tandis que les tests restent valides.

📌 En présence de multicolinéarité imparfaite, les estimateurs OLS restent BLUE et les tests restent valides, mais les erreurs-types augmentent, les statistiques t diminuent et l’interprétation des effets individuels devient difficile.

Compléments

📌 La constante doit généralement être conservée, car son omission force la droite de régression à passer par l’origine et peut biaiser la pente ainsi qu’augmenter les erreurs.

  • La multicolinéarité peut être suspectée lorsque R² est élevé alors que les statistiques t sont faibles, lorsque les corrélations entre variables explicatives sont fortes à partir d’environ |0,7| ou lorsque les coefficients changent fortement après modification du modèle.

Astuce mémo

Omission biaise, inclusion disperse

10. Variables qualitatives et indicatrices

Notions clés & Définitions

  • Variable indicatrice : Ou dummy prend la valeur 1 pour une catégorie et 0 pour les autres, la catégorie codée 0 constituant le groupe de contrôle.

Points essentiels

★ À maîtriser

📐 Formule — Avec Yt = α + βDt + ut, α mesure la moyenne de Y dans le groupe de contrôle et β mesure l’écart moyen entre le groupe codé 1 et le groupe de contrôle.

📌 Pour une variable qualitative à J catégories avec constante, il faut utiliser J − 1 variables indicatrices, car l’ajout de J indicatrices crée une multicolinéarité exacte avec la constante.

📐 Formule — Dans un modèle avec une indicatrice et une variable quantitative, Yt = α1 + α2Dt + βXt + ut, α2 mesure la différence d’intercept entre les deux groupes lorsque la pente β est commune.

Compléments

📌 L’effet joint de plusieurs catégories peut être testé par un test de Wald en testant simultanément la nullité de leurs coefficients d’indicatrices.

Astuce mémo

Une catégorie reste de contrôle

11. Interactions entre variables qualitatives

Points essentiels

★ À maîtriser

🔄 Processus — Pour autoriser des pentes différentes entre deux groupes définis par une variable binaire D_t, on ajoute au modèle le terme d’interaction D_tX_t après avoir créé la variable produit correspondante.

📐 Formule — Dans le modèle Y_t = α + β_1X_t + β_2D_tX_t + u_t, la pente est β_1 pour le groupe de référence et β_1 + β_2 pour le groupe D_t = 1.

📐 Formule — Lorsque l’intercept et la pente peuvent varier selon D_t, le modèle devient Y_t = α_1 + α_2D_t + β_1X_t + β_2D_tX_t + u_t.

📌 L’absence de différence entre les deux relations se teste par H0 : α_2 = β_2 = 0 contre H1 : α_2 et/ou β_2 ≠ 0 au moyen d’un test de Wald.

Compléments

📌 L’absence de différence de pente entre deux groupes se teste par un test en t sur le coefficient d’interaction β_2, avec n − 3 degrés de liberté dans le modèle présenté.

📌 Pour représenter des effets saisonniers différents sur l’intercept et la pente, on utilise trois variables binaires pour l’hiver, le printemps et l’été, l’automne servant de période de contrôle afin d’éviter la multicolinéarité exacte.

Astuce mémo

Intercept = niveau, interaction = pente

12. Hétéroscédasticité et conséquences

Notions clés & Définitions

  • Hétéroscédasticité : L’hétéroscédasticité est la situation dans laquelle la variance conditionnelle des erreurs varie selon les observations, soit Var(u_t|X_t) = σ_t².

Points essentiels

★ À maîtriser

📌 L’homoscédasticité impose Var(u_t|X_t) = σ² pour toutes les observations, tandis que l’hétéroscédasticité autorise une variance σ_t² différente selon t.

📌 En présence d’hétéroscédasticité ignorée, les estimateurs MCO restent non biaisés et consistants, mais ils deviennent inefficients et ne sont plus BLUE.

📌 Sous hétéroscédasticité, les variances et covariances estimées des coefficients sont biaisées et inconsistantes, de sorte que les tests en t et en F ne sont plus valables.

Compléments

  • Dans un échantillon de ménages, la consommation peut être peu dispersée autour de sa moyenne pour les revenus faibles et beaucoup plus dispersée pour les revenus élevés.

📐 Formule — Avec des données agrégées par secteur, la variance de l’erreur moyenne vaut Var(ū_t) = σ²/n_t et varie entre secteurs lorsque leur nombre de firmes n_t diffère.

Astuce mémo

Même moyenne, variance différente

Tableaux de synthèse

Types de données économétriques

TypeDimension individuelleDimension temporelle
Série temporelleUn individuPlusieurs périodes
Coupe transversalePlusieurs individusUn moment
PanelPlusieurs individusPlusieurs périodes

Choix du test de coefficients

QuestionTestStatistique
Un coefficient individuelTest ttc = (β̂ − β0)/sβ̂
Plusieurs coefficients conjointementTest de WaldFc = [(ESSR − ESSU)/(k − m)]/[ESSU/(n − k)]
Significativité globaleWald globalFc = [R²/(k − 1)]/[(1 − R²)/(n − k)]

Pièges & confusions fréquents

  1. Les données de panel ne correspondent pas uniquement à une série temporelle ou à une coupe transversale.
  2. La linéarité concerne les paramètres, et n’impose pas nécessairement une relation linéaire entre Y et la variable X.
  3. Un estimateur sans biais n’est pas nécessairement le meilleur estimateur.
  4. Ne pas rejeter H0 ne prouve pas que le coefficient est nul ou que la variable n’a aucun effet.
  5. L’intervalle de prévision individuelle est plus large que celui du prédicteur moyen.
  6. Le coefficient multiple est un effet partiel, et non une simple corrélation entre X et Y.
  7. Un R² plus élevé ne signifie pas nécessairement que la variable ajoutée est pertinente.

Cours similaires

Crée tes propres fiches de révision

Importe ton cours et l'IA génère fiches, QCM et flashcards en 30 secondes.

Générateur de fiches