Fiche de révision : Analyse en composantes principales

📋 Plan du Cours

1. Statistique descriptive multidimensionnelle
2. Méthodes d’analyse de données
3. Définition et objectifs de l’ACP
4. Tableau et représentation des données
5. Centrage, réduction et pondération
6. Matrice et axes principaux
7. Inertie et choix des axes
8. Projection et proximité des individus
9. Interprétation des variables
10. Contributions et qualité de représentation

📖 1. Statistique descriptive multidimensionnelle

🔑 Notions clés & Définitions

• Statistique descriptive multidimensionnelle : Regroupe les méthodes permettant d’étudier simultanément plusieurs variables, au-delà de l’étude d’une ou deux variables.

★ À maîtriser

📌 Les méthodes de statistique descriptive multidimensionnelle sont purement descriptives ou exploratoires et ne supposent aucun modèle probabiliste a priori.

Compléments

📌 L’ACP appliquée à des variables quantitatives ne nécessite pas de supposer que les variables suivent une loi normale.

📖 2. Méthodes d’analyse de données

🔑 Notions clés & Définitions

• Analyse de données : Regroupe des méthodes descriptives permettant de résumer et de visualiser l’information pertinente contenue dans un grand tableau de données.

★ À maîtriser

📌 Les méthodes factorielles recherchent un nombre restreint de facteurs résumant au mieux les données et représentent les individus et les variables sous forme de nuages de points.

📌 La classification non supervisée recherche des groupes sans variable cible connue, tandis que la classification supervisée utilise des catégories connues et apprend à prédire la catégorie de nouveaux individus.

Compléments

📌 L’ACP s’applique aux variables quantitatives, tandis que l’AFC et l’ACM s’appliquent aux variables qualitatives.

• 🔄 La démarche classique suit trois étapes:
  1. réduire la dimension par l’ACP
  2. regrouper les individus par CAH
  3. consolider les groupes par K-means

💡 Astuce mémo

ACP pour réduire la dimension, classification pour regrouper les individus

📖 3. Définition et objectifs de l’ACP

🔑 Notions clés & Définitions

• Analyse en composantes principales : Méthode d’analyse de données permettant d’étudier simultanément plusieurs variables quantitatives.

★ À maîtriser

📌 L’ACP remplace les variables initiales par un nombre réduit de nouvelles variables appelées composantes principales, en perdant le moins d’information possible.

• Les premières composantes principales sont choisies pour expliquer le maximum de variabilité présente dans les données.

Compléments

• Avec p variables initiales, l’ACP construit p composantes principales notées C1, C2, jusqu’à Cp.

💡 Astuce mémo

Un photographe choisit le meilleur angle pour transformer un espace de grande dimension en une image lisible

📖 4. Tableau et représentation des données

🔑 Notions clés & Définitions

• Tableau de données : Le tableau de données contient n individus décrits par p variables quantitatives, chaque ligne correspondant à un individu et chaque colonne à une variable.
• Représentation des individus : L’individu i est représenté par le vecteur $x_i=(x_{i1},x_{i2},\ldots,x_{ip})\in\mathbb{R}^p$.
• Représentation des variables : La variable j est représentée par le vecteur $x_j=(x_{1j},x_{2j},\ldots,x_{nj})\in\mathbb{R}^n$.

📝 Points essentiels

• La valeur xij désigne la valeur de la variable j pour l’individu i.

💡 Astuce mémo

Individus : n points dans R^p ; variables : p points dans R^n

📖 5. Centrage, réduction et pondération

📝 Points essentiels

📐 Formule — La moyenne de la variable Xj est $\bar{x}_j=\frac{1}{n}\sum_{i=1}^{n}x_{ij}$ et sa valeur centrée est $x^c_{ij}=x_{ij}-\bar{x}_j$.

📐 Formule — La variable centrée-réduite est définie par $z_{ij}=\frac{x_{ij}-\bar{x}_j}{\sigma_j}$, avec une moyenne nulle et une variance égale à 1.

📌 La pondération attribue un poids pi à chaque individu avec $\sum_{i=1}^{n}p_i=1$; les poids sont égaux lorsque $p_i=\frac{1}{n}$.

📌 On centre seulement lorsque les variables ont des unités et des échelles comparables, et on centre-réduit lorsque leurs échelles ou dispersions sont différentes.

💡 Astuce mémo

Centrer soustrait la moyenne, réduire divise par l’écart-type, pondérer modifie l’importance des individus

📖 6. Matrice et axes principaux

🔑 Notions clés & Définitions

• Matrice de corrélation : La matrice de corrélation R regroupe les corrélations entre variables centrées-réduites et sa diagonale est constituée de 1.

★ À maîtriser

📐 Formule — Les axes principaux sont obtenus par la relation $Ru_\alpha=\lambda_\alpha u_\alpha$, où uα est le vecteur propre et λα la valeur propre associée.

📐 Formule — La première composante principale est une combinaison linéaire des variables initiales : $C_1=a_{11}X_1+a_{12}X_2+\cdots+a_{1p}X_p$.

Compléments

📌 Les valeurs propres sont classées par ordre décroissant selon $\lambda_1\geq\lambda_2\geq\cdots\geq\lambda_p$.

💡 Astuce mémo

Matrice → valeurs propres et vecteurs propres → axes → représentation

📖 7. Inertie et choix des axes

📝 Points essentiels

📐 Formule — L’inertie totale d’une ACP centrée-réduite vaut $I=\lambda_1+\lambda_2+\cdots+\lambda_p=p$.

📐 Formule — La proportion d’inertie expliquée par l’axe α est $\frac{\lambda_\alpha}{\sum_{j=1}^{p}\lambda_j}\times100$.

📐 Formule — L’inertie cumulée des k premiers axes est $\frac{\lambda_1+\lambda_2+\cdots+\lambda_k}{\sum_{j=1}^{p}\lambda_j}\times100$.

📌 Pour une ACP centrée-réduite, le critère de Kaiser conserve les axes dont la valeur propre est supérieure à 1.

• Dans l’exemple scolaire, les deux premiers axes expliquent 99,88 % de l’inertie totale.

💡 Astuce mémo

Valeur propre → inertie expliquée → inertie cumulée → nombre d’axes

📖 8. Projection et proximité des individus

🔑 Notions clés & Définitions

• Distance euclidienne : La distance euclidienne entre deux individus i et i′ est $d(i,i')=\sqrt{\sum_{j=1}^{p}(x_{ij}-x_{i'j})^2}$.

★ À maîtriser

📐 Formule — La coordonnée factorielle de l’individu i sur l’axe α est $F_{i\alpha}=x_i^c u_\alpha$.

Compléments

📌 Deux individus proches sur le plan factoriel présentent des profils relativement similaires.

📖 9. Interprétation des variables

📝 Points essentiels

📌 Dans une ACP centrée-réduite, les coordonnées des variables sur les axes correspondent à leurs corrélations avec les composantes principales.

📌 Sur le cercle des corrélations, deux variables orientées dans la même direction sont positivement corrélées, deux variables opposées sont négativement corrélées et deux variables perpendiculaires sont peu corrélées.

• 🔄 L’interprétation d’un axe suit trois étapes:

  1. identifier les variables fortement corrélées à l’axe
  2. examiner le signe des corrélations
  3. donner une interprétation synthétique de l’axe

• Dans l’exemple scolaire, l’axe C1 représente le niveau scolaire général, tandis que C2 oppose principalement MATH–PHYS à FRAN–ANGL.

💡 Astuce mémo

Même direction : corrélation positive ; directions opposées : corrélation négative

📖 10. Contributions et qualité de représentation

★ À maîtriser

📐 Formule — La contribution de l’individu i à l’axe α est $Ctr_{i\alpha}=\frac{F_{i\alpha}^2}{n\lambda_\alpha}\times100$.

📐 Formule — La qualité de représentation d’un individu i sur l’axe α est mesurée par $cos^2_{i\alpha}=\frac{F_{i\alpha}^2}{d_i^2}$.

• 🔄 Les principales étapes de l’ACP sont: construire le tableau de données, centrer les variables, réduire les variables si nécessaire, construire la matrice de covariance ou de corrélation, calculer les valeurs propres et vecteurs propres, choisir le nombre d’axes, représenter les individus et les variables, interpréter les axes factoriels

Compléments

📐 Formule — La contribution de la variable j à l’axe α est $Ctr_{j\alpha}=\frac{f_{j\alpha}^2}{\lambda_\alpha}\times100$.

📐 Formule — Pour une variable en ACP centrée-réduite, la qualité de représentation sur l’axe α est mesurée par $cos^2_{j\alpha}=f_{j\alpha}^2$.

💡 Astuce mémo

Contribution = construction de l’axe ; cos2 = qualité de représentation

📊 Tableaux de synthèse

Choix de la forme d’ACP

Contribution et cos2