Fiche de révision : Introduction à l'ANOVA et ses extensions

📋 Plan du Cours

1. ANOVA à un facteur
2. Taille d’effet et post hoc
3. Hypothèses de l’ANOVA
4. ANOVA à mesures répétées
5. ANOVA factorielle et interactions
6. ANOVA et modèle linéaire
7. ANCOVA et plans déséquilibrés
8. Analyse factorielle exploratoire
9. ACP et analyse factorielle confirmatoire
10. Tests bayésiens et bootstrap

📖 1. ANOVA à un facteur

🔑 Notions clés & Définitions

• ANOVA : Procédure statistique qui compare les moyennes de plusieurs groupes à l’aide du rapport entre variation intergroupes et variation intragroupes.
• Somme des carrés intergroupes : Terme SSb qui mesure la variation des moyennes de groupe autour de la moyenne générale.
• Somme des carrés intragroupes : Terme SSw qui mesure la variation des observations autour de la moyenne de leur groupe.
• Statistique F : Rapport entre le carré moyen intergroupes et le carré moyen intragroupes, utilisé pour tester l’hypothèse nulle en ANOVA.

📝 Points essentiels

• L’ANOVA à un facteur répond à la question « les différences observées entre moyennes de groupes sont-elles dues au hasard ? ».
• Hypothèse nulle typique : toutes les moyennes de population des groupes sont égales (ex. H0 : μP=μA=μJ).
• Hypothèse alternative en ANOVA : au moins une moyenne de population diffère (ex. H1 : il n’est pas vrai que μP=μA=μJ).
• Décomposition clé : $SS_{tot}=SS_b+SS_w$ où $SS_b$ capture la variation due aux différences entre moyennes de groupes et $SS_w$ le reste.
• Degrés de liberté : $df_b=G-1$ et $df_w=N-G$, puis $MS_b=SS_b/df_b$, $MS_w=SS_w/df_w$ et $F=MS_b/MS_w$.
• Sous H0, $F$ suit une loi de Fisher avec paramètres $df_1=df_b$ et $df_2=df_w$ et l’exemple donne $F(2,15)=19{,}3$ avec $p<.001$ (p=0,000071).

📖 2. Taille d’effet et post hoc

🔑 Notions clés & Définitions

• Eta-carré : La taille d’effet eta-carré mesure la proportion de la variance expliquée par le facteur dans une ANOVA à un facteur.
• Omega-carré : La taille d’effet omega-carré est une version de mesure dérivée de la même idée que l’eta-carré, mais présentée comme moins biaisée.
• ANOVA post hoc : Un test post hoc regroupe des comparaisons entre paires après une ANOVA significative pour identifier quels groupes diffèrent.
• Correction de Bonferroni : La correction de Bonferroni ajuste les p-values en les multipliant par le nombre de tests pour contrôler le taux d’erreur de type I global.
• Correction de Holm : La correction de Holm ajuste les p-values de façon séquentielle après tri, en conservant une erreur de type I contrôlée sur la famille de tests.

📝 Points essentiels

• Pour une ANOVA à un facteur, l’eta-carré se calcule par η2 = SSb/SStot, où SSb est la somme des carrés entre groupes et SStot = SSb + SSw.
• Une valeur η2 = 0 indique qu’aucune variabilité n’est attribuable au facteur, et η2 = 1 correspond à une relation parfaitement expliquée par le facteur.
• Avec Bonferroni, si m tests sont réalisés avec p-values brutes p, les p-values corrigées vérifient p′ = m×p et on rejette si p′ < α.
• La correction de Holm procède en triant les p brutes de la plus petite à la plus grande, puis en multipliant par m pour la plus petite et en ajustant progressivement les suivantes pour obtenir des p-values corrigées.

💡 Astuce mémo

Bonferroni multiplie tout par m ; Holm trie puis ajuste progressivement (la plus grande p reste inchangée).

📖 3. Hypothèses de l’ANOVA

🔑 Notions clés & Définitions

• Résidus ANOVA : Les résidus sont les écarts entre les observations et les valeurs prédites par le modèle, et leurs propriétés conditionnent la validité du test F.
• Homogénéité de la variance : L’hypothèse d’homogénéité de la variance suppose que la dispersion (écart-type) est la même dans tous les groupes.
• Normalité des résidus : L’hypothèse de normalité suppose que les résidus suivent une loi normale centrée de moyenne 0 et de variance constante ^2.
• Indépendance des observations : L’indépendance signifie qu’informer sur un résidu n’aide pas à prédire les autres résidus, sans lien structurel entre observations.

📝 Points essentiels

• L’ANOVA repose sur l’idée que les résidus suivent $\epsilon_{ik}\sim\mathcal N(0,\sigma^2)$, sinon la statistique F peut ne plus mesurer ce que l’on croit et les conclusions deviennent potentiellement fausses.
• L’homogénéité de la variance (homoscédasticité) suppose un même écart-type pour tous les groupes, et se vérifie classiquement avec le test de Levene ou de Brown-Forsythe.
• Le test de Levene peut donner un $p<.05$ avec une taille d’échantillon grande même si la violation n’est pas substantielle, et un $p>.05$ avec une taille petite même si la variance diffère, donc il faut aussi inspecter les écarts-types par groupe.
• En cas de non-homogénéité des variances, utiliser l’ANOVA One Way de Welch (degrés de liberté ajustés, par ex. $F(2,15)=18.611$ devient $F(2,9.49)=26.32$ dans l’exemple du cours).
• La normalité des résidus se contrôle via un QQ-plot et, si disponible, le test Shapiro-Wilk ($p>.05$ indique l’absence de violation), mais l’inspection visuelle reste importante malgré $p$ significatif ou non.

📖 4. ANOVA à mesures répétées

📖 5. ANOVA factorielle et interactions

🔑 Notions clés & Définitions

• Effets principaux : Notions d’effets associés à chaque facteur pris séparément, définis via les moyennes marginales.
• Interaction facteur A × facteur B : Différence entre la moyenne observée d’un groupe rc et celle prédite à partir des moyennes marginales en l’absence d’interaction.
• Terme (αβ)rc : Paramètre d’interaction pour la cellule du groupe correspondant au niveau r de A et au niveau c de B.
• Sommes des carrés de l’interaction : Mesure de la variation expliquée spécifiquement par le terme d’interaction dans le modèle ANOVA.

📝 Points essentiels

• Sous H0 (absence d’interaction), la moyenne de cellule vérifie $\mu_{rc}=\mu_{..}+\alpha_r+\beta_c$, donc $u_{rc}=u_{..}+\alpha_r+\beta_c$.
• L’hypothèse alternative s’écrit avec un terme d’interaction : $\mu_{rc}=\mu_{..}+\alpha_r+\beta_c+(\alpha\beta)_{rc}$, où $(\alpha\beta)_{rc}\neq 0$ pour au moins une cellule.
• La somme des carrés d’interaction s’estime (plan équilibré) par $SS_{A:B}=NR\sum_{r=1}^{R}\sum_{c=1}^{C}(\bar Y_{rc}-\bar Y_{r.}-\bar Y_{.c}+\bar Y_{..})^2$.
• Avec deux facteurs A (R niveaux) et B (C niveaux), les degrés de liberté de l’interaction valent $df_{A:B}= (R\!\times\!C-1)-(R-1)-(C-1)= (R-C)(C-1)$.
• Dans une ANOVA factorielle, un effet principal significatif ne décrit pas directement quelles paires de groupes diffèrent : il faut des analyses supplémentaires, notamment post hoc.
• Si l’interaction est significative mais qu’un effet principal ne l’est pas, l’effet principal devient souvent peu informatif, car les moyennes marginales masquent des différences qui dépendent du croisement des facteurs.

📖 6. ANOVA et modèle linéaire

🔑 Notions clés & Définitions

• Modèle linéaire : Un modèle linéaire exprime la variable de résultat comme une combinaison de coefficients à estimer (dont une interception) et de prédicteurs numériques.
• Interception b0 : L’interception $b_0$ est la valeur de base prédite quand tous les prédicteurs codés valent 0.
• Contrastes : Les contrastes sont des variables de recodage qui transforment les niveaux d’un facteur en prédicteurs utilisés par la régression et l’ANOVA.
• Matrice de contrastes : Une matrice de contrastes organise, pour chaque niveau d’un facteur, les valeurs de chacun des contrastes (avec une ligne de plus que le nombre de contrastes).
• Degrés de liberté : Les degrés de liberté d’un test $F$ comptent le nombre de paramètres réellement comparés entre un modèle complet et un modèle nul, plus les degrés associés aux résidus.

📝 Points essentiels

• Pour une ANOVA 2×2 sans terme d’interaction, l’effet d’un facteur correspond aux coefficients d’une régression sur deux variables binaires codées, avec une interception jouant le rôle de note de base $b_0$.
• La statistique de test est cohérente entre méthodes : si une régression donne $t$, alors $t^2$ correspond à la statistique $F$ de l’ANOVA avec des degrés de liberté associés $(1,k)$.
• Les résultats « omnibus ANOVA » de Jamovi peuvent être extraits à partir d’une régression linéaire via les options d’analyse des coefficients, donnant la table ANOVA classique du modèle.
• Un facteur non binaire à $3$ niveaux peut être recodé en $2$ variables binaires (deux contrastes) qui permettent de distinguer chaque niveau de façon non ambiguë dans la régression.
• Dans une comparaison de modèles, le premier degré de liberté vaut la différence de nombre de paramètres entre modèles, par exemple $df_1=4-2=2$ quand on passe de 2 à 4 coefficients.
• Pour les résidus, si $N$ est le nombre d’observations et que le modèle utilise $K+1$ coefficients (prédicteurs plus interception), alors $df_2=N-(K+1)$, par exemple $18-4=14$.

💡 Astuce mémo

Rappelle-toi : $t^2=F$ (même mécanisme, juste une transformation au carré), et $df_1$ = différence de paramètres entre modèles.

📖 7. ANCOVA et plans déséquilibrés

🔑 Notions clés & Définitions

• Sommes des carrés de type I : La somme des carrés de type I teste chaque terme en l’ajoutant séquentiellement au modèle, ce qui peut faire varier les p selon l’ordre d’entrée des variables.
• Sommes des carrés de type II : La somme des carrés de type II teste un terme en le retirant du modèle complet, en respectant la marginalité (ne pas omettre un terme d’ordre inférieur si un terme d’ordre supérieur dépend de lui).
• Sommes des carrés de type III : La somme des carrés de type III teste un terme en retirant uniquement ce terme du modèle complet, mais les résultats peuvent dépendre des contrastes de codage des facteurs.
• Variance manquante : Dans un plan déséquilibré, une partie de la variance ne peut pas être attribuée clairement à un effet spécifique (A vs B), donc elle disparaît dans les tests de type II et III.

📝 Points essentiels

• Dans un plan non équilibré, les tests de type I dépendent de l’ordre de saisie des facteurs, ce qui peut changer la significativité des effets principaux.
• Dans Jamovi, la somme des carrés de type III est généralement le défaut et correspond à une comparaison du modèle complet à un modèle nul qui supprime uniquement le terme testé.
• Les tests de type III peuvent être sensibles aux contrastes de codage, alors que dans Jamovi les résultats Type III restent les mêmes quel que soit le contraste choisi.
• Le principe de marginalité impose que si une interaction est dans le modèle, ses termes principaux correspondants restent inclus pour les tests de type II.
• Dans les plans très déséquilibrés, la « variance manquante » provient de la forte corrélation entre facteurs (ex. groupes sans cellules séparant sucre seul et lait seul).
• En type I, la variance ne disparaît pas car le caractère séquentiel attribue automatiquement la variance aux termes entrés en premier, tandis qu’en type II/III elle n’est attribuée à aucun effet et peut s’évanouir.

💡 Astuce mémo

Type I = ordre ; Type II = marginalité ; Type III = complet mais contrastes (sauf Jamovi).

📖 8. Analyse factorielle exploratoire

🔑 Notions clés & Définitions

• Valeur propre : Une valeur propre mesure la quantité de variance des variables observées expliquée par un facteur extrait.
• Courbe de l’éboulis : La courbe de l’éboulis trace les valeurs propres et aide à repérer le « coude » pour choisir le nombre de facteurs.
• Rotation oblique : Une rotation oblique autorise les facteurs extraits à être corrélés, ce qui reflète mieux des dimensions souvent liées.
• Unicité (uniqueness) : L’unicité est la part de variance d’une variable non expliquée par les facteurs ; elle vaut $1-\text{communauté}$.

📝 Points essentiels

• En pratique, pour choisir le nombre de facteurs, on combine souvent trois critères : valeurs propres, coude de l’éboulis et analyse parallèle, puis on retient la solution la plus interprétable.
• Une rotation orthogonale (varimax) impose des facteurs non corrélés, tandis qu’une rotation oblique (oblimin) permet des corrélations entre facteurs.
• Si, en rotation oblique, au moins une corrélation entre facteurs est > 0,3 (ex. -0,398), alors la rotation oblique est préférée.
• Dans l’exemple, la solution se stabilise après le coude au point 5 et les cinq facteurs expliquent 46 % de la variance totale.
• L’unicité élevée signifie que la variable est moins bien saturée (moins pertinente) dans la solution factorielle, car une grande part reste spécifique.
• Pour produire des scores factoriels : soit on calcule une moyenne d’items fortement chargés après recodage des items à codage inversé, soit on utilise des scores pondérés « optimaux » via Rj.

💡 Astuce mémo

Coude à 5 → 5 facteurs ; corrélation > 0,3 → oblimin ; unicité = 1 − communauté.

📖 9. ACP et analyse factorielle confirmatoire

🔑 Notions clés & Définitions

• Analyse en composantes principales : Technique de réduction des données qui construit des combinaisons linéaires des variables observées sans identifier de facteurs latents comme tels.
• Analyse factorielle confirmatoire : Procédure où l’on impose un modèle préétabli de relations entre variables observées et facteurs latents puis on teste son adéquation aux données.
• Erreur de mesure : Variance d’une variable observée qui n’est pas expliquée par le facteur latent auquel elle est censée être liée.

📝 Points essentiels

• En AFC, chaque variable observée est modélisée comme mesurant un facteur latent selon une structure prédéfinie, avec un terme d’erreur associé à chaque variable.
• L’ajustement du modèle teste simultanément si les paramètres libres préspécifiés diffèrent de 0 et si les relations non spécifiées peuvent raisonnablement être considérées nulles.
• Pour juger l’ajustement, on utilise notamment CFI et TFI (valeurs satisfaisantes si >0,9, très bon si >0,95) et RMSEA (0,05 à 0,08 satisfaisant, <0,05 bon).
• Dans l’exemple MTMM sur l’ASQ (N=2748), le chi carré est très significatif, mais l’adéquation est jugée très bonne avec CFI=0,98, TFI=0,98 et RMSEA=0,02 (IC 90% très étroit).
• Les indices de modification (MI) aident en post-hoc à envisager d’ajouter des chemins, mais on n’inclut pas une relation si elle n’a pas de justification théorique ou méthodologique; ex. MI=24,52 pour ajouter INT6 sur Globalité et MI=13,48 pour une covariance résiduelle INT1–INT3.
• Après chaque ajout ou retrait de paramètres guidé par MI, il faut recontrôler les tables de MI car les indicateurs sont recalculés.

💡 Astuce mémo

ACP = “combinaison linéaire” (pas de facteur latent) ; AFC = “modèle imposé” + “erreur de mesure” + ajustement (CFI/TFI/RMSEA) + MI pour retouches post-hoc.

📖 10. Tests bayésiens et bootstrap

🔑 Notions clés & Définitions

• Hypothèse nulle : L’hypothèse nulle, notée $h_0$, est le modèle de référence contre lequel on compare l’alternative dans un test statistique.
• Hypothèse alternative : L’hypothèse alternative, notée $h_1$, représente la version concurrente que les données pourraient soutenir plutôt que $h_0$.
• Facteur de Bayes : Le facteur de Bayes, noté $BF$, compare directement l’adéquation de $h_1$ et $h_0$ aux données observées via un rapport de vraisemblances.
• Bootstrapping : Le bootstrapping est une méthode de simulation qui reconstruit la distribution d’une statistique en rééchantillonnant des données, sans supposer une forme théorique exacte.

📝 Points essentiels

• En tests bayésiens, le facteur de Bayes s’écrit typiquement $BF=\frac{P(d|h_1)}{P(d|h_0)}$ et quantifie la force des preuves des données en faveur de $h_1$ versus $h_0$.
• Le ratio des probabilités a posteriori vérifie $\frac{P(h_1|d)}{P(h_0|d)}=\frac{P(d|h_1)}{P(d|h_0)}\times\frac{P(h_1)}{P(h_0)}$, c’est-à-dire posterior odds = $BF$ × prior odds.
• Par convention (Kass et Raftery), $BF$ entre 1 et 3 correspond à des preuves négligeables, 3 à 20 à des preuves positives, 20 à 150 à des preuves fortes, et $>150$ à des preuves très fortes.
• Si $BF<1$, les données favorisent $h_0$ et il est souvent plus lisible de rapporter l’inverse $BF' = \frac{P(d|h_0)}{P(d|h_1)}$ plutôt que $BF$.
• Le bootstrapping simule la distribution d’échantillonnage en réitérant l’échantillonnage avec l’idée que la distribution inconnue de la population ressemble à celle des données brutes, et en combinant cela avec l’hypothèse nulle quand on veut une référence sous $h_0$.

💡 Astuce mémo

Posterior odds = preuves(BF) × croyances avant (prior odds).

📅 Repères chronologiques

📊 Tableaux de synthèse

Bonferroni vs Holm (comparaisons multiples)

⚠️ Pièges & confusions fréquents

1. Confondre ANOVA et « ANOVA des variances » : l’ANOVA teste des différences de moyennes via le rapport entre variation intergroupes et intragroupes.
2. Interpréter p<.05 comme « 95% de chances que H0 soit fausse » ou comme « probabilité que l’effet réel existe » : ce n’est pas ce que la valeur p dit.
3. Oublier que l’hypothèse d’indépendance d’ANOVA peut être violée en mesures répétées (mêmes participants à plusieurs conditions), auquel cas il faut un autre modèle.
4. Confondre ANOVA à un facteur et ANOVA factorielle : si vous omettez un facteur important, il peut « entrer » dans les résidus et changer la significativité (effets principaux).
5. Confondre les sommes des carrés Type I/II/III en plan non équilibré : Type I dépend de l’ordre d’entrée, Type III dépend des contrastes, et Type II suit la marginalité.
6. Croire qu’un effet principal significatif « dit quelles paires diffèrent » : il faut des tests post hoc/contrastes ; l’interaction peut masquer ce sens.
7. Ne pas tenir compte du codage des facteurs (contrastes) : en régression/ANOVA, les tests et interprétations dépendent des contrastes (sauf cas spécifiques comme Type III dans Jamovi).

✅ Checklist Examen

1. ANOVA à un facteur : écrire H0 et H1 en termes des moyennes de population des G groupes.
2. ANOVA : calculer SS tot, SSb (intergroupes), SSw (intragroupes) et vérifier la relation SStot=SSb+SSw.
3. ANOVA : obtenir df_b=G−1, df_w=N−G, puis MSb=SSb/df_b, MSw=SSw/df_w et F=MSb/MSw.
4. ANOVA : expliquer le lien modèle (H0 : Yik=μ+εik, H1 : Yik=μk+εik) et pourquoi F suit une loi F sous H0 (df1=df_b, df2=df_w).
5. ANOVA assumptions : lister normalité des résidus, homogénéité des variances, indépendance et décrire comment on les vérifie (QQ/ Shapiro-Wilk, Levene/Brown-Forsythe, inspection des écarts-types).
6. En cas d’hétérogénéité : utiliser Welch (ANOVA One Way) et savoir ce qui change (df_w ajustés et F).
7. Taille d’effet : calculer eta-squared η2=SSb/SStot et interpréter 0 vs 1 comme proportion de variance expliquée par le facteur.
8. Post hoc : savoir pourquoi faire plusieurs tests t augmente l’erreur de type I et appliquer une correction (Bonferroni : p′=m×p ; Holm : tri séquentiel et plus grande p inchangée).
9. Tests non paramétriques : rappeler la logique de Kruskal-Wallis (K basé sur rangs et correction TCF en cas de liens) et la statistique présentée (χ2, df, p).
10. Mesures appariées : distinguer ANOVA répétée (avec sphéricité/Mauchly + corrections Greenhouse-Geisser ou Huynh-Feldt) et Friedman comme alternative non paramétrique.
11. Relation ANOVA ↔ t : pour 2 groupes, montrer l’équivalence des p-values et la relation F=t^2 (même résultat chiffré dans l’exemple).
12. ANCOVA & plans factoriels : décrire l’ajustement par covariable (réduction de l’erreur) et, en factorielle, définir effets principaux vs interaction (u_rc= u..+α_r+β_c+(αβ)rc) et l’idée des Type I/II/III en plan non équilibré.