Fiche de révision : Corrélation et régression linéaire

📋 Plan du Cours

1. Explorer deux variables quantitatives
2. Covariance et sens de variation
3. Corrélation de Pearson et Spearman
4. Corrélation et régression
5. Droite et moindres carrés
6. Interpréter la régression
7. Tests et variance expliquée
8. Conditions de la régression

📖 1. Explorer deux variables quantitatives

★ À maîtriser

• Un nuage de points représente les couples de valeurs quantitatives dans un repère cartésien, avec X en abscisse et Y en ordonnée.

Compléments

• La forme et l’intensité d’une relation entre deux variables s’apprécient notamment par le regroupement des points autour d’une droite ou d’une courbe et par leur dispersion.

• Le cours illustre les nuages de points par les pressions systolique et diastolique de 15 sujets hypertendus, les triglycéridémies avant et après conservation au froid de 30 spécimens, et la créatininémie avec le taux de filtration glomérulaire de 31 hommes.

📖 2. Covariance et sens de variation

★ À maîtriser

📐 Formule - La covariance empirique de deux variables quantitatives est estimée par $\widehat{\operatorname{Cov}}(X,Y)=\frac{1}{n}\sum_{i=1}^{n}(x_i-\bar{x})(y_i-\bar{y})$.

📌 Une covariance positive indique que X et Y varient dans le même sens, tandis qu’une covariance négative indique qu’elles varient en sens inverse.

📌 L’indépendance de deux caractéristiques implique une covariance nulle, mais une covariance nulle n’implique pas nécessairement leur indépendance.

Compléments

• Dans l’estimation de la covariance, les moyennes de population sont remplacées par les moyennes observées dans l’échantillon.

📖 3. Corrélation de Pearson et Spearman

🔑 Notions clés & Définitions

• Corrélation : Mesure du degré de liaison entre deux caractéristiques quantitatives et de la façon dont elles varient simultanément.

★ À maîtriser

📐 Formule - Le coefficient de corrélation de Pearson est le rapport de la covariance au produit des écarts types : $r_{xy}=\frac{\operatorname{Cov}(X,Y)}{\sigma_x\sigma_y}$.

• Le coefficient de corrélation de Pearson est compris entre −1 et 1 et possède le même signe que la covariance.

Compléments

📌 Le coefficient de Spearman, calculé sur les rangs de X et de Y, est utilisé lorsque les conditions d’utilisation du coefficient de Pearson ne sont pas respectées.

• La valeur absolue du coefficient de Pearson vaut 1 lorsque tous les points sont sur une même droite non parallèle aux axes.

• Le cours cite comme conditions d’utilisation du coefficient de Pearson la normalité de Y et une variance constante quelle que soit la valeur de X, et réciproquement.

📖 4. Corrélation et régression

🔑 Notions clés & Définitions

• Variable dépendante : Y est le critère de résultat que la régression cherche à expliquer.
• Variable explicative : X est le facteur étudié qui explique la variable dépendante dans la régression.

★ À maîtriser

📌 L’analyse de corrélation mesure la force de la relation entre X et Y, tandis que l’analyse de régression estime une forme fonctionnelle décrivant la dépendance de Y vis-à-vis de X.

Compléments

📌 La régression linéaire simple est utilisée lorsque le diagramme de dispersion ou la courbe empirique de régression présente une forme générale approximativement linéaire.

💡 Astuce mémo

La corrélation mesure la force de la liaison ; la régression décrit la dépendance de Y vis-à-vis de X.

📖 5. Droite et moindres carrés

★ À maîtriser

📐 Formule - La droite de régression simple s’écrit $y_i=\beta_0+\beta_1x_i+e_i$, où $\beta_0$ est l’intercept, $\beta_1$ la pente et $e_i$ le résidu.

📐 Formule - L’estimation de la pente de régression est $\hat{\beta}_1=\frac{\widehat{\operatorname{Cov}}(X,Y)}{\widehat{\operatorname{Var}}(X)}=r_{xy}\frac{s_y}{s_x}$.

📐 Formule - L’estimation de l’intercept est $\hat{\beta}_0=\bar{y}-\hat{\beta}_1\bar{x}$.

• La méthode des moindres carrés choisit les paramètres de la droite en minimisant la somme des carrés des écarts entre les valeurs observées et les valeurs estimées.

Compléments

• La droite de régression estimée passe par le point moyen de coordonnées $(\bar{x},\bar{y})$.

📖 6. Interpréter la régression

★ À maîtriser

📌 La pente représente la variation moyenne de Y lorsque X augmente d’une unité, tandis que l’intercept représente la valeur moyenne estimée de Y lorsque X vaut zéro.

Compléments

• Dans l’exemple de la taille des enfants selon la taille de leur mère, la pente estimée est d’environ 0,4 cm par centimètre.

• Dans cet exemple, un enfant dont la mère mesure 1 cm de plus est en moyenne estimé 0,4 cm plus grand.

📖 7. Tests et variance expliquée

★ À maîtriser

📐 Formule - Le coefficient de détermination est le rapport entre la variabilité expliquée et la variabilité totale : $R^2=\frac{\sum_i(\hat{y}_i-\bar{y})^2}{\sum_i(y_i-\bar{y})^2}$.

• La significativité de la pente peut être testée par un test t de Student à n−2 degrés de liberté, ou par un test F équivalent dans le cadre présenté.

Compléments

• Dans l’exemple de régression de la taille de l’enfant sur celle de la mère, la pente estimée est d’environ 0,4, son erreur type est de 0,064 et le test donne p<0,001.

• Dans l’exemple de la taille de l’enfant selon la taille de la mère, $R^2$ vaut environ 0,21, soit 21 % de la variabilité totale expliquée.

📖 8. Conditions de la régression

📝 Points essentiels

• La régression linéaire suppose : la normalité des résidus, l’indépendance des résidus, une variance constante des résidus (homoscédasticité), une relation linéaire entre Y et X