Fiche de révision : Introduction à l'Analyse Statistique

📋 Plan du Cours

1. Choix de l’échantillon
2. Méthodes d’échantillonnage
3. Taille de l’échantillon
4. Nature des variables
5. Statistiques descriptives
6. Formulation des hypothèses
7. Tests t, ANOVA et Khi-deux
8. Corrélation de Pearson
9. Régression linéaire simple
10. Régression linéaire multiple
11. Analyses factorielles et typologiques
12. Modèles logit et probit

📖 1. Choix de l’échantillon

🔑 Notions clés & Définitions

• Individu : Un individu est l’unité statistique étudiée, au sens large, et peut correspondre à une personne ou à un autre type d’objet selon l’étude.
• Population mère : La population mère désigne l’ensemble des individus étudiés, assez vaste pour que mesurer tous les cas soit impossible.
• Échantillon : Un échantillon est une fraction de la population mère, sélectionnée pour étudier ses caractéristiques et ensuite les généraliser.
• Inférence statistique : L’inférence statistique consiste à généraliser depuis les résultats observés dans l’échantillon vers la population mère.
• Échantillonnage probabiliste : L’échantillonnage probabiliste sélectionne des individus avec une probabilité connue d’appartenance à l’échantillon, typiquement via un tirage aléatoire.

📝 Points essentiels

• L’inférence statistique sert à attribuer à la population mère les caractéristiques observées dans l’échantillon, dans l’objectif de généralisation.
• Un échantillonnage probabiliste suppose une base couvrant la population, une probabilité connue d’être sélectionné (1/N) et un tirage aléatoire des individus.
• Un échantillonnage non probabiliste repose sur un choix arbitraire ou empirique des individus constituant l’échantillon.
• Pour que l’échantillon soit considéré comme aléatoire au sens de la théorie des sondages, il faut n>30 et un taux n/N inférieur à 1/7.
• La taille minimale $n$ s’obtient avec $n=\dfrac{t^2\,p\,q}{e^2}$ où $q=1-p$, $t$ dépend du niveau de confiance et $e$ de la marge d’erreur tolérable.
• Avec une confiance de 95%, on utilise en pratique $t\approx 1,96$ et la proportion réelle est dans $p\pm e$ (ex. 39% avec $e=4$ donne 35% à 43%).

💡 Astuce mémo

Aléatoire = n>30 et n/N<1/7 (penser “30 puis moins d’un septième”).

📖 2. Méthodes d’échantillonnage

🔑 Notions clés & Définitions

• Échantillonnage non probabiliste : Approche où les individus sont choisis selon des critères pratiques ou empiriques, sans probabilités connues d’appartenance à l’échantillon.
• Échantillonnage aléatoire stratifié : Technique probabiliste qui découpe d’abord la population en strates homogènes, puis tire ensuite un échantillon de façon systématique dans chaque strate.
• Échantillonnage en grappe : Technique probabiliste qui regroupe la population en sous-ensembles (grappes) puis tire des grappes au hasard pour étudier tous leurs individus.
• Échantillonnage par quota : Technique non probabiliste qui construit un échantillon respectant les proportions de la population sur des caractères de contrôle choisis.

📝 Points essentiels

• Un échantillonnage probabiliste suppose une base recensant la population, une probabilité connue d’inclusion (1/N) et un tirage aléatoire des individus, avec une meilleure estimation pour l’inférence mais plus de coût et une mise en œuvre plus complexe.
• Un échantillonnage non probabiliste sélectionne des individus de façon arbitraire, est moins coûteux et plus facile, mais sa représentativité peut être discutée.
• Pour un échantillonnage aléatoire systématique, on calcule N/n puis on tire un i entre 1 et N/n et on interroge i, i+N/n, i+2(N/n) jusqu’à atteindre n individus.
• Pour un échantillonnage stratifié, on découpe la population en strates homogènes puis on applique une technique aléatoire systématique, utile quand certaines catégories sont sur- ou sous-représentées.
• Pour une démarche en grappe, on organise la population en grappes hétérogènes, on tire des grappes au hasard, puis on étudie l’ensemble des individus des grappes sélectionnées.
• Dans l’échantillonnage de convenance, les enquêtés sont recrutés selon l’accessibilité et on distingue notamment les itinéraires, l’in situ et la boule de neige.

💡 Astuce mémo

Probabiliste = hasard (N/règles), Non-probabiliste = terrain (convenance/quota) ; Stratifié = strates, Grappes = clusters entiers.

📖 3. Taille de l’échantillon

🔑 Notions clés & Définitions

• Intervalle de confiance : L’intervalle de confiance donne la plage de valeurs plausible, dans la population mère, pour l’estimation calculée à partir de l’échantillon.
• Marge d’erreur : La marge d’erreur quantifie l’écart potentiel entre la proportion observée dans l’échantillon et la proportion réelle dans la population mère.
• Coefficient t : Le coefficient t fixe le niveau de confiance utilisé dans les formules de taille d’échantillon et correspond à une valeur liée à l’intervalle de confiance.
• Fréquence p : La fréquence p représente la proportion attendue (ou observée) de réponses, et q vaut 1 − p pour compléter le produit p × q.
• Population finie : La correction “population finie” ajuste la taille calculée quand la taille N de la population étudiée n’est pas très grande.

📝 Points essentiels

• Un échantillon est considéré aléatoire si sa taille n dépasse 30 et si le taux de sondage n/N est inférieur à 1/7, avec N la taille de la population étudiée.
• Avec un seuil de confiance de 95%, la valeur du coefficient t est 1,96 (souvent arrondie à 2) pour les calculs de taille d’échantillon.
• La formule de taille pour une proportion est $n=\dfrac{t^2\,p\,q}{e^2}$ où $q=1-p$ et $e$ est la marge d’erreur tolérable.
• Quand la population est supposée infinie et que p est connue, on peut directement utiliser $n=\dfrac{1,96^2\,(0,70\times0,30)}{0,05^2}=325$ clients.
• Si p est inconnue, on prend par défaut p=50% et donc q=50%, ce qui donne par exemple $n=\dfrac{1,96^2\,(0,5\times0,5)}{0,05^2}=385$.
• Pour une population finie de taille N, on calcule $n=\dfrac{N\,n_0}{N+n_0-1}$ à partir de $n_0=\dfrac{t^2\,p\,q}{e^2}$, ce qui montre un impact minimal quand N est grand.

💡 Astuce mémo

t suit le niveau de confiance : 68%→1 ; 90%→1,65 ; 95%→1,96 ; 99%→2,576.

📖 4. Nature des variables

🔑 Notions clés & Définitions

• Variable statistique : Une variable (ou caractère statistique) décrit une propriété observée chez les individus d’une population et sert à classer ces individus.
• Variables qualitatives : Des variables qualitatives décrivent des caractères non mesurables directement, comme des catégories ou des attributs.
• Variables quantitatives : Des variables quantitatives correspondent à des caractères mesurables, pouvant prendre des valeurs numériques.
• Variables nominales : Des variables qualitatives nominales regroupent des modalités sans ordre, où un codage n’implique aucun classement.
• Variables ordinales : Des variables qualitatives ordinales disposent de modalités ordonnées selon un classement préétabli.

📝 Points essentiels

• Une variable statistique peut être qualitative (non mesurable) ou quantitative (mesurable).
• Les variables qualitatives peuvent être nominales (sans ordre) ou ordinales (avec ordre).
• Les variables quantitatives peuvent être discrètes (valeurs entières finies) ou continues (valeurs réelles sur un intervalle).
• Les modalités d’un caractère doivent être incompatibles, de sorte qu’un individu ne puisse pas appartenir à plusieurs modalités à la fois.
• Les modalités d’un caractère doivent être exhaustives, de sorte que tout individu appartienne à une et une seule modalité.

💡 Astuce mémo

Nominal = N sans ordre ; Ordinal = O avec ordre ; Discret = D entier (dénombrement) ; Continu = C valeurs réelles (mesure).

📖 5. Statistiques descriptives

🔑 Notions clés & Définitions

• Statistiques de position : Les statistiques de position donnent un point de repère dans la distribution pour résumer les observations, comme minimum, maximum, moyenne, médiane et quartiles.
• Statistiques de dispersion : Les statistiques de dispersion mesurent l’écart des observations par rapport aux repères de position, comme étendue, écart interquartile, variance et écart-type.
• Moyenne arithmétique : La moyenne arithmétique est une valeur typique obtenue en additionnant toutes les valeurs d’une variable puis en divisant par l’effectif.
• Médiane : La médiane est la valeur qui partage la distribution triée en deux parties égales, en prenant des calculs différents selon que n est impair ou pair.
• Écart-type : L’écart-type est un indicateur de dispersion fondé sur la moyenne quadratique des écarts à la moyenne, lié à la variance.

📝 Points essentiels

• La moyenne est calculée comme la somme des valeurs divisée par le nombre d’observations, et elle est sensible aux valeurs extrêmes.
• La médiane coupe la distribution en deux parties égales et s’exprime différemment si l’effectif est impair ou pair, avec Me = 2 n/Me = 2 n+1 selon le cas.
• Les quartiles divisent les données triées en quatre parts égales et l’écart interquartile correspond à Q3 − Q1.
• La variance correspond à la moyenne des carrés des écarts à la moyenne et l’écart-type en est la racine, avec σ faible quand les valeurs sont regroupées.
• SPSS (comme R et Python) utilise 1/(n−1) au lieu de 1/n pour estimer l’écart-type à partir d’un échantillon.
• Les statistiques descriptives se font sur des variables quantitatives, identifiées comme variables métriques dans SPSS (Analyse → Statistiques descriptives → Descriptives).

💡 Astuce mémo

Position = milieu (moyenne, médiane, quartiles) ; Dispersion = écart (étendue, écart interquartile, variance, écart-type).

📖 6. Formulation des hypothèses

🔑 Notions clés & Définitions

• Hypothèse scientifique : Une hypothèse scientifique est une proposition formulée pour répondre à une question de recherche et qui peut être évaluée par un protocole de recherche.
• Réfutabilité : La réfutabilité signifie qu’on peut démontrer que l’hypothèse ne fonctionne pas si les données obtenues ne la soutiennent pas.
• Corroboration : La corroboration est le fait de rendre une hypothèse plus probable car elle résiste aux tests menés dans les conditions observées.
• Hypothèse nulle H0 : L’hypothèse nulle H0 énonce l’absence d’effet et sert de point de comparaison contre lequel on teste l’existence d’une relation.
• Hypothèse alternative H1 : L’hypothèse alternative H1 affirme l’existence d’un effet d’une variable sur une autre et s’oppose à H0.

📝 Points essentiels

• Formuler une hypothèse consiste à prédire une relation entre des variables en réponse à une question de recherche.
• Une hypothèse ne peut jamais être confirmée au sens absolu mais seulement corroborée sur les cas testés.
• La logique du test d’hypothèse oppose H0 (absence d’effet) à H1 (présence d’effet).
• Dans l’approche NHST, une p-value très faible indique que les résultats observés sont difficilement attribuables au hasard, ce qui conduit à rejeter H0.
• Par défaut, on considère H0 vraie jusqu’à preuve du contraire lorsque la significativité calculée justifie son rejet.
• Le choix d’une alternative unilatérale impose un seuil de significativité de 2,5%, contre une approche bilatérale où le sens de la relation n’est pas précisé.

📖 7. Tests t, ANOVA et Khi-deux

🔑 Notions clés & Définitions

• Test t de Student : Le test t compare les moyennes de deux groupes à partir d’un écart entre moyennes attribué au hasard ou à une vraie différence.
• Test ANOVA : L’ANOVA compare les moyennes de plus de deux groupes en évaluant si la variation entre groupes dépasse la variation due au hasard.
• Test Khi-deux : Le Khi-deux sert à analyser des relations entre variables qualitatives croisées dans un tableau de contingence.
• Tableau de contingence : Le tableau de contingence croise les effectifs de variables qualitatives (et/ou quantitatives discrètes) pour étudier leur relation et lire des distributions marginales.

📝 Points essentiels

• Le test t est adapté à une variable quantitative continue à deux sous-populations issues d’une variable qualitative à deux modalités, avec H0 : μ1 = μ2 et H1 : μ1 ≠ μ2.
• Pour un test t à variances similaires, on teste si t calculé dépasse t tabulé avec k = n1 + n2 − 2 degrés de liberté au seuil α (souvent 5%).
• L’ANOVA compare les moyennes de plus de deux échantillons via un test F basé sur le rapport variation intergroupe sur variation intragroupe.
• Les conditions données pour l’ANOVA exigent des observations indépendantes, une erreur suivant une loi normale et des variances homogènes, avec une taille d’échantillon indiquée comme grande (> 100).
• Dans l’ANOVA, F = SStinter / ((c − 1) puis / SStintra / (n − c)) et si F calculé > F tabulé, on rejette H0 et on conclut que toutes les moyennes ne sont pas égales.
• Les tableaux de contingence donnent aussi des distributions marginales, obtenues en additionnant les colonnes ou les lignes du tableau.

📖 8. Corrélation de Pearson

🔑 Notions clés & Définitions

• Coefficient de corrélation linéaire : Le coefficient de corrélation linéaire mesure l’intensité du lien entre deux variables métriques $X$ et $Y$.
• Covariance de X et Y : La covariance quantifie ensemble la variation de $X$ et de $Y$, et intervient comme numérateur dans la formule de Pearson.
• Écarts-types c3_X et c3_Y : Les écarts-types mesurent la dispersion de $X$ et de $Y$, et servent de facteur de normalisation dans Pearson.

📝 Points essentiels

• Le coefficient de Pearson est donné par $r = \dfrac{\mathrm{Cov}(X,Y)}{\sigma_X \times \sigma_Y}$.
• Le coefficient de Pearson s’applique pour mesurer l’intensité d’une relation entre deux variables métriques $X$ et $Y$.

💡 Astuce mémo

Rappelle-toi : Pearson = covariance normalisée par le produit des écarts-types.

📖 9. Régression linéaire simple

🔑 Notions clés & Définitions

• Régression linéaire : Le modèle de régression établit une relation linéaire entre une variable dépendante Y et une variable indépendante X via une moyenne conditionnelle de Y.
• Variable dépendante : La variable dépendante Y est la grandeur à expliquer, souvent une mesure de performance, observée pour chaque individu.
• Résidus : Les résidus sont les écarts verticaux entre les points observés et la droite de régression, correspondant à la part non expliquée par X.
• Droite de régression : La droite de régression est la représentation linéaire qui s’ajuste au nuage de points pour approcher au mieux la relation entre X et Y.
• Méthode des moindres carrés ordinaires : La méthode des moindres carrés ordinaires choisit la droite $\hat{Y}=aX+b$ qui minimise les écarts résiduels pour mieux approcher les observations.

📝 Points essentiels

• La régression linéaire simple s’écrit $Y=aX+b+\varepsilon$, où $a$ est la pente et $b$ la valeur estimée de Y quand $X=0$.
• Sans tenir compte du bruit $\varepsilon$, le modèle se résume à $\hat{Y}=aX+b$, avec $\hat{Y}$ l’estimation de la variable dépendante.
• Les résidus correspondent aux distances verticales entre chaque point et la droite, et servent à quantifier l’erreur du modèle.
• La pente $a$ est calculée par $a=\dfrac{\sum_i (X_i-\bar{X})(Y_i-\bar{Y})}{\sum_i (X_i-\bar{X})^2}$, puis $b=\bar{Y}-a\bar{X}$.
• Corrélation n’implique pas causalité : une relation entre X et Y n’autorise pas, à elle seule, à conclure au sens causal.

💡 Astuce mémo

Pense au trio : Pente a (impact), Ordonnée b (quand $X=0$), Erreur $\varepsilon$ (ce que la droite ne capte pas).

📖 10. Régression linéaire multiple

🔑 Notions clés & Définitions

• Régression linéaire multiple : Modèle de régression qui relie une variable dépendante à plusieurs variables indépendantes pour obtenir une relation linéaire de prédiction.
• Variable dépendante métrique : Variable expliquée du modèle qui doit être quantitative (métrique) pour que la régression linéaire multiple soit appliquée.
• Variables indépendantes métriques ou catégorielles : Variables explicatives du modèle pouvant être quantitatives et/ou qualitatives, intégrées pour améliorer la prédiction de la variable dépendante.
• Résidus de régression : Part non expliquée par le modèle, correspondant à l’écart entre les valeurs observées et celles prédites par la régression.

📝 Points essentiels

• La régression linéaire multiple relie $Y$ à plusieurs $X_i$ avec une forme générale $Y=a_1X_1+a_2X_2+\cdots+a_nX_n+b+\varepsilon$ où $a_i$ mesure l’impact de $X_i$ sur $Y$.
• La qualité du modèle s’évalue par la significativité des coefficients et par le coefficient de détermination $R^2$, comme en régression linéaire simple.
• Le modèle peut prédire correctement en moyenne mais peiner sur des valeurs extrêmes, notamment en présence de sur/sous-performance.
• Il faut vérifier l’absence d’hétéroscédasticité, c’est-à-dire l’absence de lien entre les résidus et la prédiction de $Y$, pour soutenir l’hypothèse d’homoscédasticité.

📖 11. Analyses factorielles et typologiques

🔑 Notions clés & Définitions

• Analyse factorielle : Méthode statistique multivariée qui réduit de nombreuses variables en quelques dimensions (facteurs) en s’appuyant sur leurs corrélations.
• Facteurs communs : Dimensions latentes issues de l’analyse factorielle qui regroupent des variables ayant des comportements corrélés.
• Rotation Varimax : Technique de rotation des axes utilisée en analyse factorielle pour améliorer l’interprétabilité des dimensions extraites.
• Analyse typologique : Approche qui forme des groupes ou profils à partir de variables prédéfinies afin d’expliquer une variable qualitative dichotomique.
• Modèle logit : Modèle de régression pour variable binaire qui relie la log-odds ln[p/(1−p)] à une combinaison linéaire de variables explicatives.

📝 Points essentiels

• En analyse factorielle, si les variables ont des unités différentes, il faut centrer-réduire (analyse factorielle normée) avant d’extraire les facteurs.
• SPSS applique l’analyse factorielle de manière normée et indique qu’il faut en pratique 5 fois plus d’observations que le nombre de variables à analyser.
• Dans SPSS, l’extraction se fait par méthode en composantes principales, puis une rotation Varimax peut être appliquée.
• Pour sélectionner les variables utiles, on peut supprimer les « faibles coefficients » avec un seuil inférieur à 0,3.
• La régression logistique (logit) modélise la variable binaire via ln[p/(1−p)] = b + a1x1 + … + anxn, où p est la probabilité que Y = 1.
• Le calcul de la probabilité prend la forme p = exp(∑aiXi + b) / (1 + exp(∑aiXi + b)), et la qualité du modèle est mesurée par le R2 de Nagelkerke.

📖 12. Modèles logit et probit

🔑 Notions clés & Définitions

• Logit : Un modèle logit représente la transformation de la probabilité d’un événement en une variable liée à des prédicteurs via une relation linéaire.
• Régression logistique binaire : Un modèle de régression logistique binaire explique une variable dépendante dichotomique $Y\in\{0,1\}$ par une combinaison de variables explicatives.
• Maximum de vraisemblance : L’estimation du modèle logit repose sur une procédure de maximum de vraisemblance pour obtenir les coefficients de régression.
• Test de Wald : Dans la régression logistique, la significativité des coefficients est évaluée avec une statistique de type Wald plutôt qu’avec un test t.
• R2 de Nagelkerke : Le R2 de Nagelkerke est un indicateur de qualité spécifique aux modèles logit, plus proche de 1 quand le modèle est meilleur.

📝 Points essentiels

• Le modèle logit relie les probabilités à la régression par $\ln\left(\frac{p}{1-p}\right)=b+a_1x_1+\cdots+a_nx_n$ avec $p=P(Y=1)$.
• Le signe d’un coefficient s’interprète comme en régression linéaire : un coefficient négatif réduit la probabilité de $Y=1$ quand la variable augmente.
• Les seuils de significativité utilisés pour le logit sont 1%, 5% et 10%.
• Le calcul du test de significativité passe par la statistique de Wald, remplaçant le rôle du $t$ en régression linéaire.
• La probabilité prédite s’obtient par $p=\frac{\exp(b+a_1x_1+\cdots+a_nx_n)}{1+\exp(b+a_1x_1+\cdots+a_nx_n)}$.
• La qualité du modèle logit est souvent jugée via le R2 de Nagelkerke, d’autant meilleur que sa valeur est proche de 1.

💡 Astuce mémo

Logit = log des odds : on prend $\ln\left(\frac{p}{1-p}\right)$ puis on met les prédicteurs en forme linéaire.

📅 Repères chronologiques

📊 Tableaux de synthèse

Types de variables : nature, ordre et valeurs

Choix de test statistique selon types de variables

⚠️ Pièges & confusions fréquents

1. Confondre population mère et échantillon : l’échantillon est une fraction issue de techniques probabilistes ou non probabilistes, pas l’ensemble total.
2. Croire qu’un échantillon “aléatoire” signifie juste “pas au hasard” : il doit remplir n>30 et n/N<1/7 selon la théorie des sondages du cours.
3. Oublier que l’intervalle de confiance dépend de la marge d’erreur e : avec 95%, on conclut sur la plage plausible (ex. 39% ± 4%).
4. Mélanger nominal/ordinal (ordre) avec discret/continu (nombre fini vs valeurs réelles) : ce sont deux critères différents.
5. Interpréter p-value comme “la probabilité que H0 soit vraie” : le cours présente p comme probabilité d’obtenir les résultats observés sous le hasard.
6. Confondre significativité statistique et taille d’effet : un effet fort peut ne pas donner p<0,05, et inversement.
7. Choisir la mauvaise méthode selon les variables : ANOVA/Test-t pour comparaisons de moyennes, Khi-deux pour relation entre variables qualitatives, Pearson pour deux variables métriques.

✅ Checklist Examen

1. Définir individu, population mère, échantillon et inférence statistique, puis distinguer échantillonnage probabiliste (probabilité connue 1/N) et non probabiliste.
2. Citer les conditions d’un échantillon aléatoire selon le cours : n>30 et n/N<1/7.
3. Donner la démarche de l’échantillonnage systématique (calcul de N/n, tirage de i, puis i, i+N/n, … jusqu’à n).
4. Expliquer l’échantillonnage stratifié (découpage en strates homogènes puis systématique dans chaque strate) et l’échantillonnage en grappe (tirage de grappes puis étude de tous les individus).
5. Comparer les trois techniques d’échantillonnage de convenance (itinéraires, in situ, boule de neige) et décrire le quota (caractères de contrôle respectant les proportions).
6. Calculer une taille d’échantillon pour une proportion avec n=t^2pq/e^2, préciser q=1-p, et utiliser t=1,96 (95%) en pratique (arrondi à 2).
7. Décrire la correction pour population finie (n = N n0 / (N + n0 - 1)) avec n0 obtenu via la formule de départ.
8. Identifier le type d’une variable (qualitative nominale/ordinale, quantitative discrète/continue) et rappeler les propriétés des modalités (incompatibles, exhaustives).
9. Donner les indicateurs de position (minimum, maximum, moyenne arithmétique, médiane, quartiles) et de dispersion (étendue, écart interquartile, variance, écart-type), et rappeler l’idée SPSS (1/(n-1)).
10. Formuler une hypothèse scientifique et expliquer H0/H1 dans NHST, puis interpréter la p-value et les seuils (0,05 et notions 0,1 ; 0,01).
11. Choisir et énoncer la logique des tests : t (H0: μ1=μ2), ANOVA (F intergroupe/intergroupe), Khi-deux (Oij vs Eij), et Pearson (r = Cov(X,Y)/(σX σY)).
12. Décrire la régression linéaire simple (Y=aX+b+ε, moindres carrés, résidus) puis la régression linéaire multiple (VD métrique, plusieurs VI, R2, hétéroscédasticité) et rappeler logit (ln[p/(1-p)] = b + Σ aixi, probabilité p, Wald, R2 de Nagelkerke).