Fiche de révision : Introduction à l'Analyse de Variance et Modèles Linéaires

📋 Plan du Cours

1. ANOVA à un facteur
2. Modèles H0 et H1
3. Statistique F et degrés de liberté
4. Taille d’effet et comparaisons multiples
5. Hypothèses et robustesse
6. ANOVA à mesures répétées
7. Plans factoriels équilibrés
8. ANCOVA et covariables
9. ANOVA comme modèle linéaire
10. Analyse factorielle exploratoire
11. ACP et analyse factorielle confirmatoire
12. Cohérence interne et alpha de Cronbach

📖 1. ANOVA à un facteur

🔑 Notions clés & Définitions

• ANOVA : L’analyse de variance est une famille de méthodes statistiques qui compare des moyennes entre plusieurs groupes, même si son nom évoque les variances.
• Différences de moyennes : Le cœur d’une ANOVA à un facteur est d’évaluer si les moyennes des groupes diffèrent de façon crédible, ou si les écarts peuvent venir du hasard.
• Groupes indépendants : Dans la forme simple d’ANOVA à un facteur étudiée ici, les observations sont réparties en groupes distincts et on compare leurs moyennes.
• Variable dépendante : La variable de résultat (par exemple une amélioration d’humeur) est celle dont on examine les moyennes selon les niveaux du facteur.

📝 Points essentiels

• Une ANOVA à un facteur répond à la question de savoir si les différences observées entre groupes sont réelles ou dues au hasard, en comparant leurs moyennes.
• Dans la forme simple du chapitre, on étudie un seul facteur avec plusieurs groupes et une variable résultat, sans traiter ici les variantes plus complexes.
• Le nom « ANOVA » est trompeur : la procédure sert surtout à tester des écarts de moyennes, pas à analyser des variances au sens descriptif simple.
• Le chapitre met en place un exemple avec trois médicaments et une amélioration de l’humeur mesurée, afin d’illustrer le test sur les moyennes de groupes.

💡 Astuce mémo

ANOVA = « AN-ti-hasard des moyennes » : elle teste si les moyennes de plusieurs groupes diffèrent au-delà de la fluctuation aléatoire.

📖 2. Modèles H0 et H1

🔑 Notions clés & Définitions

• Hypothèse nulle H0 : L’hypothèse nulle affirme que toutes les moyennes de population des groupes sont identiques.
• Hypothèse alternative H1 : L’hypothèse alternative affirme que toutes les moyennes de population ne sont pas identiques entre les groupes.
• Moyenne de population mu : La moyenne de population désigne le niveau moyen théorique de la variable de résultat dans un groupe donné.
• Résidu epsilonik : Le résidu représente la variabilité non expliquée par le modèle pour l’observation i du groupe k.
• Erreur normale des résidus : Les résidus sont supposés suivre une loi normale centrée en 0 avec une variance commune sigma^2 entre groupes.

📝 Points essentiels

• Dans l’ANOVA à un facteur (3 groupes), H0 s’écrit mu_P = mu_A = mu_J, ce qui revient à dire que les trois traitements ont la même moyenne de changement d’humeur.
• H1 s’écrit comme le contraire de l’égalité complète, donc au moins une des moyennes de population diffère des autres.
• Sous H0, le modèle s’écrit Yik = mu + epsilonik, avec des résidus supposés normaux de moyenne 0 et variance sigma^2 commune.
• Sous H1, le modèle s’écrit Yik = mu_k + epsilonik, où chaque groupe possède sa propre moyenne de population tout en gardant la même hypothèse sur les résidus.
• La vérification de H1 est conceptuellement délicate car il existe plusieurs façons possibles pour que H0 soit faux, pas seulement un scénario unique.
• Sous H0, la statistique F teste indirectement si la structure à une seule moyenne explique suffisamment les données plutôt qu’une moyenne différente par groupe.

💡 Astuce mémo

H0 = même moyenne (mu) pour tous les groupes ; H1 = au moins une moyenne diffère (mu_k).

📖 3. Statistique F et degrés de liberté

🔑 Notions clés & Définitions

• Statistique F : La statistique F compare la variabilité expliquée par un facteur à la variabilité résiduelle non expliquée en ANOVA, via un rapport de carrés moyens.
• Degrés de liberté : Les degrés de liberté mesurent le nombre de valeurs indépendantes disponibles après avoir imposé les contraintes liées aux moyennes (groupes, marges, grande moyenne).
• Somme des carrés entre groupes : La somme des carrés entre groupes (SSb) quantifie la variabilité des moyennes de groupe autour de la moyenne générale.
• Somme des carrés au sein : La somme des carrés au sein des groupes (SSw) quantifie la variabilité des observations autour de leur moyenne de groupe.
• Carré moyen MS : Un carré moyen (MS) est une somme des carrés divisée par ses degrés de liberté, servant de numérateur ou dénominateur dans le test F.

📝 Points essentiels

• En ANOVA à un facteur, la statistique F se calcule comme $F=MS_b/MS_w$ avec $MS_b=SS_b/df_b$ et $MS_w=SS_w/df_w$.
• Pour l’exemple du cours, on a $SS_b=3{,}45$, $SS_w=1{,}39$, avec des degrés de liberté $df_b=2$ et $df_w=15$.
• Les degrés de liberté sont $df_b=k-1$ pour le facteur (k groupes) et $df_w=N-k$ pour l’erreur (N observations).
• Dans une ANOVA factorielle équilibrée $R\times C$, le facteur de ligne a $df_A=R-1$, le facteur de colonne a $df_B=C-1$, et les résidus ont $df_R=N-R-C+1$.
• Pour un test Levene d’homogénéité (homoscédasticité), la statistique suit la même forme F et utilise aussi $df$ numérateur et dénominateur de type ANOVA.
• Avec le test univarié de Welch, les degrés de liberté de l’erreur au sein sont réduits (par exemple de 15 à 9,49) et la valeur de F change (18,6 devient 26,32 dans l’exemple).

💡 Astuce mémo

F compare “entre” vs “dedans” : $F=MS_b/MS_w$ (et $df$ vient du nombre de contraintes sur les moyennes).

📖 4. Taille d’effet et comparaisons multiples

🔑 Notions clés & Définitions

• Tests post-hoc : En analyse ANOVA, les tests post-hoc servent à déterminer quelles conditions diffèrent entre elles quand l’ANOVA signale un effet global.
• Moyennes marginales : Les moyennes marginales sont des moyennes calculées pour résumer le niveau moyen d’une condition, utiles pour interpréter les différences trouvées par l’ANOVA.
• Statistiques descriptives marginales : Les statistiques descriptives marginales rapportent des valeurs résumées (comme des moyennes) qui aident à comprendre le sens des écarts entre conditions.

📝 Points essentiels

• Dans Jamovi, des tests post-hoc pour une ANOVA à mesures appariées se configurent de façon similaire à ceux utilisés pour des groupes indépendants.
• Dans l’exemple des patients aphasiques de Broca, l’ANOVA à mesures appariées donne une différence significative entre la parole et la syntaxe, mais pas entre les autres tâches.
• Les statistiques descriptives montrent que les moyennes sont plus élevées pour la parole (7,17) et la compréhension (6,17) que pour la tâche syntaxique (4,33).
• Les post-hoc confirment que la différence significative porte sur la comparaison parole vs syntaxe plutôt que sur les autres paires de tâches.

💡 Astuce mémo

Post-hoc = “après le F” : l’ANOVA dit qu’il y a un effet global, puis les post-hoc désignent quelles paires de conditions expliquent l’écart.

📖 5. Hypothèses et robustesse

🔑 Notions clés & Définitions

• Homogénéité de la variance : Hypothèse selon laquelle les groupes partagent le même écart-type, ce qui conditionne la validité du test F en ANOVA.
• Normalité des résidus : Hypothèse selon laquelle les résidus du modèle suivent approximativement une loi normale, vérifiable avec des tests et un graphique QQ.
• Indépendance des observations : Hypothèse selon laquelle les observations ne se influencent pas entre elles, par exemple elles ne proviennent pas des mêmes individus à des moments différents sans tenir compte de la structure.
• Modèle saturé : Modèle qui inclut tous les effets principaux et toutes les interactions possibles, réduisant l’ambiguïté sur ce qui est omis.
• Effets omis : Hypothèse selon laquelle les termes retirés du modèle (par exemple des interactions) ne sont pas pertinents et n’expliquent pas une part importante de la variance.

📝 Points essentiels

• En ANOVA factorielle, les hypothèses clés sont l’homogénéité de la variance, la normalité des résidus et l’indépendance des observations.
• L’homogénéité de la variance se vérifie par inspection visuelle des écarts-types et via le test de Levene, qui suppose un modèle saturé.
• La normalité des résidus se teste comme en ANOVA à un facteur et se vérifie aussi graphiquement avec un QQ plot.
• Quand des observations sont liées (ex. mesures répétées dans le temps), l’indépendance doit être discutée car les points à des temps différents peuvent provenir des mêmes personnes.
• Si le modèle n’est pas saturé, la validité repose aussi sur l’idée que les effets omis ne sont pas importants, ce qui peut se contrôler en testant ces termes en ANOVA plus complète.

💡 Astuce mémo

Levene pour la variance, QQ pour les résidus, et indépendance pour éviter les “mêmes personnes” qui reviennent dans plusieurs mesures.

📖 6. ANOVA à mesures répétées

🔑 Notions clés & Définitions

• Mesures répétées : Configuration expérimentale où plusieurs observations proviennent des mêmes participants à différents temps ou conditions, ce qui crée une dépendance entre observations.
• Résidus : Erreurs du modèle, c’est-à-dire les écarts entre les valeurs observées et celles prédites par l’ANOVA (et utilisées pour tester la normalité).

📝 Points essentiels

• En ANOVA à mesures répétées, l’indépendance doit être évaluée en regardant s’il existe une relation entre observations (ex. même personnes à différents moments).
• Si le modèle n’est pas saturé (ex. interaction omise), l’ANOVA suppose que les termes omis ne sont pas importants.
• L’homogénéité de la variance se vérifie via inspection visuelle des écarts-types et par cohérence avec le test de Levene.
• Un résultat non significatif au test de Levene permet, avec l’inspection visuelle, de conclure que l’hypothèse d’homogénéité de la variance n’est pas violée.
• La normalité des résidus se teste directement et se complète par un diagramme QQ pour visualiser l’adéquation à la loi normale.

📖 7. Plans factoriels équilibrés

🔑 Notions clés & Définitions

• Plan équilibré : Un plan équilibré correspond à une situation où le nombre d’observations est le même dans toutes les cellules du design factoriel, ce qui simplifie l’interprétation des tests.
• Sommes des carrés additives : Les sommes des carrés sont dites additives quand la somme des SS associées aux effets du modèle plus les SS résiduels reconstitue la SS totale, ce qui clarifie l’attribution de la variance.
• Effets principaux et interactions : Les effets principaux décrivent l’influence moyenne d’un facteur, tandis que les interactions décrivent comment l’effet d’un facteur change selon le niveau d’un autre.

📝 Points essentiels

• Dans un plan équilibré, les tests ANOVA de type I, II et III donnent les mêmes résultats (mêmes valeurs F et SS) car l’asymétrie séquentielle et les choix de codage ont peu d’impact.
• Le choix des contrastes pour coder un facteur a généralement peu d’importance dans des plans équilibrés, car les résultats restent stables.
• Quand le design est équilibré, la variance attribuable au modèle est correctement partagée entre les effets et le résidu, ce qui évite la “variance manquante” typique des plans non équilibrés.
• Quand des interactions ne sont pas prises en compte ou ne sont pas pertinentes, l’analyse se réduit davantage aux comparaisons associées aux effets principaux du design.

💡 Astuce mémo

Équilibré = mêmes “types d’ANOVA” et contrastes qui ne changent presque rien : Think “équivalence”.

📖 8. ANCOVA et covariables

🔑 Notions clés & Définitions

• Analyse de la covariance ANCOVA : Analyse de la covariance utilisant des covariables pour expliquer une partie de la variance de la variable résultat lors de comparaisons entre groupes.

📖 9. ANOVA comme modèle linéaire

📖 10. Analyse factorielle exploratoire

🔑 Notions clés & Définitions

• Variables observées : Les variables observées sont les mesures directement recueillies qui servent de base à l’analyse pour inférer des structures latentes.
• Facteurs latents : Les facteurs latents sont des dimensions non directement observées que l’analyse tente d’expliquer à partir des variables observées.
• Saturations factorielles : Les saturations factorielles sont les coefficients reliant chaque variable observée à un facteur latent dans le modèle factoriel.

📝 Points essentiels

• Sans termes d’erreur corrélés, un modèle factoriel teste uniquement la structure spécifiée (paramètres inclus) et met tous les autres paramètres possibles à zéro.
• Une mauvaise correspondance entre modèle et données est attendue si des charges saturations d’un facteur latent existent dans les données mais sont absentes du modèle.
• L’AFE sert à identifier les facteurs latents sous-jacents et fournit aussi une réduction des données pour combiner des variables en nouvelles variables utilisables ensuite.
• La structure trouvée par AFE peut être contrôlée via une AFC sur un autre échantillon, ce qui peut échouer si la structure n’est pas confirmée.

💡 Astuce mémo

AFE = Exploration → on devine la structure (facteurs latents) et les saturations associées, puis on vérifie ensuite en confirmant.

📖 11. ACP et analyse factorielle confirmatoire

🔑 Notions clés & Définitions

• Analyse en composantes principales : Technique de réduction des données qui construit une combinaison linéaire des variables observées plutôt que d’identifier des facteurs latents.
• Analyse factorielle de confirmation : Approche où l’on part d’un modèle a priori de relations entre variables observées, puis on teste l’ajustement de ce modèle aux données.

📝 Points essentiels

• En ACP, les variables sont combinées par une transformation linéaire sans viser l’identification de facteurs latents sous-jacents.
• En AFC, le modèle est spécifié avant l’analyse et sa qualité se juge par l’adéquation observée des relations proposées aux données.
• Par contraste à l’AFE, l’AFC est centrée sur la vérification d’un modèle de relations entre variables observées plutôt que sur la découverte initiale de facteurs.

💡 Astuce mémo

ACP = Combinaison linéaire ; AFC = Modèle confirmé (tu proposes les relations, puis tu tests l’ajustement).

📖 12. Cohérence interne et alpha de Cronbach

📅 Repères chronologiques

📊 Tableaux de synthèse

Comparaisons post hoc : Bonferroni vs Holm

⚠️ Pièges & confusions fréquents

1. Confondre ANOVA avec une procédure centrée sur les « variances » : elle teste surtout des différences de moyennes entre groupes.
2. Écrire H1 de façon trop précise : dans le cours, H1 est simplement « pas vrai que μP=μA=μJ », donc il existe plusieurs façons que H0 soit fausse.
3. Interpréter SSb comme « variation intragroupe » ou SSw comme « variation intergroupes » : l’un correspond aux écarts à la moyenne générale via les moyennes de groupe, l’autre aux écarts à la moyenne de chaque groupe.
4. Utiliser ANOVA sans vérifier les hypothèses : si l’indépendance est violée (ex. mêmes participants à plusieurs temps), il faut utiliser l’ANOVA à mesures répétées.
5. Croire qu’un effet principal non significatif suffit quand une interaction est significative : en présence d’interaction, les moyennes marginales deviennent souvent peu interprétables.
6. Confondre les corrections de sphéricité en mesures répétées : Mauchly significatif implique correction (Greenhouse-Geisser ou Huynh-Feldt selon la valeur Greenhouse-Geisser > .75).
7. Mélanger les « types » d’ANOVA en plans non équilibrés : Type I dépend de l’ordre d’entrée des termes, Type III dépend des contrastes, Type II vise la marginalité.

✅ Checklist Examen

1. Énoncer H0 et H1 d’une ANOVA à un facteur (μP=μA=μJ et « au moins une moyenne diffère ») et relier H0/H1 aux modèles Yi k = μ (+ εik) vs Yi k = μk (+ εik).
2. Savoir définir SStot, SSw et SSb (variations entre vs au sein des groupes) et donner l’idée clé : SStot = SSb + SSw.
3. Calculer les degrés de liberté dfb et dfw pour l’ANOVA à un facteur (dfb = G−1, dfw = N−G) puis calculer F via F = MSb/MSw.
4. Interpréter F et la statistique sous H0 : F suit une loi F avec dfb et dfw, et relier l’exemple (F(2,15)=19,3, p<.001).
5. Calculer et interpréter la taille d’effet η2 = SSb/SStot (et comprendre que η2 mesure la proportion de variance expliquée par le facteur).
6. Décrire la logique des post hoc après un F significatif et maîtriser au moins Bonferroni (p'j=m×pj) et Holm (procédure séquentielle), ainsi que l’exigence d’ajustement pour comparaisons multiples.
7. Vérifier les hypothèses d’ANOVA à un facteur : homoscedasticité (Levene), normalité des résidus (QQ/ Shapiro-Wilk) et indépendance ; expliquer pourquoi Welch change les df en cas d’hétérogénéité de variance.
8. Pour mesures répétées : utiliser/identifier le Test de Mauchly, la décision p>.05 vs p<.05, et la sélection de correction (Greenhouse-Geisser vs Huynh-Feldt) avant d’interpréter F.
9. Savoir quand utiliser le non paramétrique : Kruskal-Wallis pour 3+ groupes indépendants (analogue basé sur rangs) et Friedman comme alternative pour mesures appariées.
10. En ANOVA factorielle équilibrée : distinguer effets principaux vs interaction, calculer/raisonner sur η2 et partial η2 (formules via SS et SS+résidus), et interpréter le sens de l’interaction.
11. Sur plans non équilibrés : distinguer Type I (séquentiel, ordre), Type III (modèle complet en retirant le terme, dépendance aux contrastes) et Type II (marginalité) ; savoir ce que Jamovi fournit par défaut (Type III).
12. En analyse factorielle : distinguer AFE (facteurs latents via saturations), ACP (combinaison linéaire sans facteurs latents), AFC (modèle préspécifié, CFI/TLI/RMSEA et indices de modification), MTMM (corrélations d’erreurs), puis fiabilité (alpha de Cronbach et omega).
13. En bayésien : écrire et interpréter la règle de Bayes P(h|d)=P(d|h)P(h)/P(d) et relier Bayes factor à un ratio de preuves (posterior odds = BF si a priori égales).