QCM : KPPV et arbres de décision (28 questions)

Questions et réponses du QCM

1. Un nouvel objet est entouré de cinq exemples d’entraînement, dont trois appartiennent à la classe A et deux à la classe B. Quelle classe le KPPV lui attribue-t-il ?

La classe du voisin le plus proche
La classe A, majoritaire parmi les cinq voisins
La classe B, minoritaire parmi les cinq voisins
La classe majoritaire dans tout le jeu d’entraînement

La classe A, majoritaire parmi les cinq voisins

Explication

En classification, le KPPV attribue au nouvel objet la classe majoritaire parmi ses k voisins les plus proches. La classe du voisin le plus proche confond KPPV avec 1-NN, la classe minoritaire inverse le vote, et la fréquence globale ignore le voisinage.

2. Pour classer un nouvel objet avec un KPPV de paramètre k, quelle opération doit être effectuée juste après le calcul de sa distance à chaque exemple d’entraînement ?

Calculer la moyenne des attributs de tous les exemples
Sélectionner les k exemples les plus éloignés
Attribuer la classe la plus fréquente du jeu complet
Sélectionner les k exemples les plus proches

Sélectionner les k exemples les plus proches

Explication

Après avoir calculé les distances, le KPPV sélectionne les k exemples les plus proches, puis attribue la classe majoritaire parmi eux. La fréquence globale néglige ce choix de voisins, les exemples éloignés inversent le critère de proximité, et la moyenne des attributs n’est pas l’étape de classification.

3. Dans un jeu de données utilisé par un KPPV, le revenu varie de quelques centaines à plusieurs milliers, tandis que l’âge varie de 18 à 80 ans. Quelle préparation limite le risque que le revenu domine la distance euclidienne ?

Remplacer la distance par un vote majoritaire global
Normaliser les variables avant le calcul des distances
Conserver les échelles et modifier la règle d’agrégation
Augmenter k pour compenser l’amplitude du revenu

Normaliser les variables avant le calcul des distances

Explication

La normalisation empêche une variable de grande amplitude de dominer la distance euclidienne et de rendre les autres variables presque négligeables. Augmenter k ne corrige pas l’échelle, le vote global ignore les distances et changer l’agrégation ne rééquilibre pas les variables.

4. Un analyste compare deux réglages du KPPV : un k très petit et un k très grand. Quel diagnostic décrit correctement les risques associés ?

Les deux valeurs accroissent la variance en réduisant le mélange des classes
Le petit k mélange les classes et accroît le biais ; le grand k suit davantage le bruit
Le petit k accroît la sensibilité au bruit et la variance ; le grand k mélange les classes et accroît le biais
Le petit k accroît le biais ; le grand k accroît la sensibilité au bruit et la variance

Le petit k accroît la sensibilité au bruit et la variance ; le grand k mélange les classes et accroît le biais

Explication

Un k trop petit rend le classement sensible au bruit et augmente la variance, tandis qu’un k trop grand mélange davantage les classes et augmente le biais. L’inversion des effets attribue à chaque réglage le risque de l’autre, et le diagnostic « petit k, biais élevé » confond biais et variance.

5. Une équipe compare plusieurs valeurs de kk et plusieurs métriques pour un classificateur KPPV. Quelle méthode doit-elle utiliser pour choisir ces paramètres sans biaiser l’évaluation finale ?

Le jeu de test final
La validation croisée
Une règle fondée sur la taille de l’échantillon
Le jeu d’entraînement seul

La validation croisée

Explication

La validation croisée sert à choisir kk et les autres paramètres, tandis que le jeu de test est réservé à l’évaluation finale. Choisir sur le jeu de test biaise cette évaluation; l’entraînement seul ou une règle fondée sur la taille ne remplacent pas la validation.

6. Pour classer un nouvel exemple, un KPPV trouve trois voisins : deux sont de la classe A, mais le troisième, de classe B, est beaucoup plus proche. Quelle classe le vote pondéré par la proximité peut-il favoriser par rapport au vote majoritaire ?

La classe B, en raison de la proximité du voisin
La classe A, car elle apparaît chez deux voisins
La classe du voisin le plus éloigné
La moyenne numérique des étiquettes des voisins

La classe B, en raison de la proximité du voisin

Explication

Le vote pondéré accorde davantage de poids aux voisins les plus proches, de sorte que le voisin de classe B peut l’emporter. Le vote majoritaire choisirait A en comptant les voisins; donner le poids maximal au plus éloigné inverse la pondération, et calculer une moyenne correspond à une autre règle.

7. Pour déterminer si une demande doit être acceptée, un système vérifie successivement le revenu puis l’historique de paiement; chaque réponse dirige vers une nouvelle étape ou une décision. Quel modèle décrit ce fonctionnement ?

Un classement direct fondé sur un seul attribut
Un arbre de décision enchaînant des tests jusqu’à une décision
Une série de décisions indépendantes sans branches
Une estimation continue sans tests successifs

Un arbre de décision enchaînant des tests jusqu’à une décision

Explication

Un arbre de décision enchaîne des tests sur les attributs et chaque réponse conduit à une branche jusqu’à une décision. Un classement direct omet l’enchaînement, des décisions indépendantes n’organisent pas les réponses en branches, et une estimation continue ne décrit pas ce mécanisme.

8. Dans un arbre qui prédit l’acceptation d’un prêt, un nœud pose le test « revenu supérieur à 40 000 € ? ». Quel rôle joue ce nœud ?

Une branche correspondant à un seuil
Une feuille qui fournit la décision prédite
Un nœud interne qui teste un attribut
La racine qui effectue le test initial

Un nœud interne qui teste un attribut

Explication

Un nœud interne teste un attribut de données; ici, le test porte sur le revenu. La racine désigne spécifiquement le premier nœud, une branche correspond à une valeur ou à un seuil du test, et une feuille porte la décision prédite.

9. Lorsqu’un algorithme construit un arbre de décision par partitionnement glouton, quelle démarche suit-il à partir des données d’apprentissage ?

Partir des feuilles, choisir un test local, regrouper les sous-ensembles et remonter jusqu’à la racine
Choisir d’abord l’arbre globalement optimal, puis partitionner les données selon ses tests
Partir de la racine, choisir un test local, partitionner et recommencer sur chaque sous-ensemble jusqu’à l’arrêt
Choisir un test à la racine, partitionner les données une fois et conserver les sous-ensembles obtenus

Partir de la racine, choisir un test local, partitionner et recommencer sur chaque sous-ensemble jusqu’à l’arrêt

Explication

La construction gloutonne procède récursivement de la racine vers les feuilles : elle choisit un test local, partitionne les données, puis répète sur chaque sous-ensemble jusqu’à un critère d’arrêt. Le parcours depuis les feuilles inverse le processus, l’optimalité globale ne constitue pas le choix local, et une seule partition omet la récursion.

10. Un nœud d’un arbre de classification ne contient que des exemples d’une même classe : que peut-on dire de son impureté ?

Le nœud est pur, car il ne contient qu’une seule classe
Le nœud est équilibré, car il ne contient qu’une seule classe
Le nœud est impur, car il ne contient qu’une seule classe
Le nœud est majoritaire, car il ne contient qu’une seule classe

Le nœud est pur, car il ne contient qu’une seule classe

Explication

Un nœud est pur lorsqu’il ne contient qu’une seule classe. Le mélange équilibré décrit au contraire plusieurs classes en proportions égales, le nombre d’exemples ne définit pas l’impureté, et une classe majoritaire peut coexister avec d’autres classes.

11. Un test sépare un nœud parent d’impureté I(parent)I(\text{parent}) en plusieurs enfants. Pour évaluer ce test, quelle quantité faut-il soustraire à l’impureté du parent ?

La moyenne simple des impuretés des enfants, sans tenir compte de leurs effectifs
La moyenne pondérée des impuretés des enfants, selon leurs effectifs rapportés à celui du parent
L’impureté du parent, soustraite à la moyenne pondérée des impuretés des enfants
La somme des impuretés des enfants, sans pondération par leurs effectifs

La moyenne pondérée des impuretés des enfants, selon leurs effectifs rapportés à celui du parent

Explication

Le gain d’impureté est I(parent)−∑ininI(enfanti)I(\text{parent})-\sum_i\frac{n_i}{n}I(\text{enfant}_i) : on soustrait donc l’impureté moyenne pondérée des enfants. La moyenne simple néglige leurs tailles, l’inversion change le signe du gain et la somme non pondérée n’est pas la moyenne attendue.

12. Dans une feuille d’un arbre de régression, les valeurs cibles des observations sont 4,6,84, 6, 8. Quelle valeur l’arbre prédit-il pour une observation qui atteint cette feuille ?

44
1818
66
88

$$6$$

Explication

Une feuille d’arbre de régression prédit la moyenne des valeurs cibles qu’elle contient : (4+6+8)/3=6(4+6+8)/3=6. La médiane vaut aussi 6 ici, mais elle ne représente pas la règle à appliquer; la somme et le minimum ne sont pas la moyenne.

13. Une personne entraîne un classificateur d’arbre de décision avec scikit-learn et veut choisir l’impureté de Gini. Quelle utilisation des interfaces et du paramètre convient ?

Employer fit, predict et score, avec predict réglé sur Gini
Employer fit, predict et score, avec score réglé sur Gini
Employer train, classify et evaluate, avec criterion réglé sur Gini
Employer fit, predict et score, avec criterion réglé sur Gini

Employer fit, predict et score, avec criterion réglé sur Gini

Explication

Dans scikit-learn, DecisionTreeClassifier utilise les interfaces fit, predict et score, tandis que le paramètre criterion choisit entre Gini et entropie. predict sert à produire des prédictions et score à évaluer le modèle; ils ne remplacent pas criterion, et les noms d’interfaces proposés différemment ne sont pas ceux indiqués.

14. Un arbre est entraîné sans limite de profondeur et continue de se diviser jusqu’à séparer presque chaque observation. Quel risque en découle principalement ?

Il généralise mieux parce que chaque observation est isolée.
Il mémorise le bruit et présente une variance élevée.
Il échoue à ajuster les données d’entraînement.
Il simplifie trop les données et présente un biais élevé.

Il mémorise le bruit et présente une variance élevée.

Explication

En isolant les exemples, un arbre libre peut apprendre par cœur le bruit, ce qui entraîne une variance élevée. Le biais élevé correspond plutôt à un modèle trop simple, tandis qu’isoler les observations ne garantit pas une meilleure généralisation.

15. En approfondissant un arbre, une analyste observe que l’erreur d’entraînement atteint zéro, puis que l’erreur de test augmente. Quelle interprétation convient le mieux ?

L’arbre sous-apprend : il ne parvient pas à ajuster les données d’entraînement.
L’arbre présente des erreurs d’entraînement et de test qui diminuent ensemble.
L’arbre sur-apprend : il s’ajuste aux données d’entraînement mais généralise moins bien.
L’arbre généralise de mieux en mieux à mesure que sa profondeur augmente.

L’arbre sur-apprend : il s’ajuste aux données d’entraînement mais généralise moins bien.

Explication

Un arbre plus profond peut faire tomber l’erreur d’entraînement à zéro tout en faisant remonter l’erreur de test, signe de sur-apprentissage. Le sous-apprentissage n’explique pas une erreur d’entraînement nulle; une baisse conjointe des deux erreurs ne correspond pas à la remontée observée.

16. Pour limiter la complexité d’un arbre, une équipe impose une profondeur maximale avant la croissance, puis compare cette approche à une méthode qui laisse d’abord pousser l’arbre complet. Quelle description distingue correctement les deux méthodes ?

Le pré-élagage arrête la croissance selon des seuils; le post-élagage coupe ensuite les branches peu utiles.
Le pré-élagage coupe les branches après croissance; le post-élagage arrête l’arbre selon des seuils.
Le pré-élagage laisse pousser l’arbre complet; le post-élagage fixe sa profondeur maximale d’avance.
Le pré-élagage et le post-élagage interrompent tous deux la croissance selon des seuils initiaux.

Le pré-élagage arrête la croissance selon des seuils; le post-élagage coupe ensuite les branches peu utiles.

Explication

Le pré-élagage arrête la croissance selon des seuils, tandis que le post-élagage laisse pousser l’arbre puis retire des branches peu utiles. Couper après la croissance relève donc du post-élagage, et fixer une profondeur maximale d’avance du pré-élagage.

17. Une équipe doit régler la profondeur maximale et le nombre minimal d’exemples par feuille d’un arbre. Quelle démarche lui permet de choisir ces hyperparamètres sans contaminer son évaluation finale ?

Choisir les réglages sur le jeu de validation, puis ajuster l’arbre selon le test.
Choisir les réglages par validation, puis réserver le jeu de test à l’évaluation.
Choisir les réglages selon le score du jeu de test, puis évaluer sur la validation.
Choisir les réglages sur le jeu d’entraînement, puis se passer de validation.

Choisir les réglages par validation, puis réserver le jeu de test à l’évaluation.

Explication

La validation sert à choisir les hyperparamètres afin d’équilibrer sous-apprentissage et sur-apprentissage; le jeu de test reste réservé à l’évaluation. Choisir les réglages avec le test le transforme en jeu de sélection, et l’entraînement seul n’effectue pas la validation requise.

18. On moyenne M=5M=5 estimateurs indépendants ayant chacun une variance de 2020. Quelle est la variance de leur moyenne ?

100100
2020
44
205\frac{20}{\sqrt{5}}

$$4$$

Explication

La variance de la moyenne vaut σ2M\frac{\sigma^2}{M}; ici, 205=4\frac{20}{5}=4. Conserver 2020 oublie la division, 205\frac{20}{\sqrt{5}} applique la réduction de l’écart-type à la variance, et 100100 multiplie au lieu de diviser.

19. Une équipe entraîne plusieurs arbres sur des échantillons bootstrap distincts. Comment doit-elle agréger leurs prédictions selon le type de tâche ?

Moyenne en classification et en régression.
Moyenne en classification et vote majoritaire en régression.
Vote majoritaire en classification et moyenne en régression.
Vote majoritaire en classification et en régression.

Vote majoritaire en classification et moyenne en régression.

Explication

Le bagging agrège les prédictions des arbres par vote majoritaire en classification et par moyenne en régression. Inverser ces méthodes attribue à chaque tâche la règle de l’autre; utiliser une seule méthode pour les deux ignore cette distinction.

20. Pour construire un échantillon bootstrap à partir de nn exemples d’origine, quelle procédure faut-il appliquer ?

Tirer sans remise nn exemples parmi les nn exemples d’origine.
Tirer avec remise moins de nn exemples parmi les nn exemples d’origine.
Tirer avec remise plus de nn exemples parmi les nn exemples d’origine.
Tirer avec remise nn exemples parmi les nn exemples d’origine.

Tirer avec remise $$n$$ exemples parmi les $$n$$ exemples d’origine.

Explication

Un échantillon bootstrap est formé en tirant avec remise nn exemples parmi les nn observations d’origine; des observations peuvent donc être répétées ou omises. Un tirage sans remise n’est pas un bootstrap, et modifier la taille de l’échantillon contredit la procédure définie.

21. Une équipe entraîne une forêt aléatoire pour classer des courriels. Quelle procédure correspond à son entraînement et à sa prédiction ?

Utiliser le même échantillon pour chaque arbre, choisir toutes les variables et voter à la majorité
Tirer un bootstrap par arbre, choisir des variables à chaque nœud et voter à la majorité
Tirer un bootstrap par arbre, choisir des variables à chaque nœud et voter à la majorité des valeurs numériques
Tirer un bootstrap par arbre, choisir des variables à chaque nœud et moyenner les classes prédites

Tirer un bootstrap par arbre, choisir des variables à chaque nœud et voter à la majorité

Explication

Chaque arbre est entraîné sur un échantillon bootstrap et ne considère qu’un sous-ensemble aléatoire de variables à chaque nœud; en classification, les prédictions sont agrégées par vote majoritaire. L’échantillon commun confond le bootstrap avec un entraînement identique, la moyenne des classes transpose la règle de régression et le vote des valeurs numériques confond classification et régression.

22. Une forêt destinée à une tâche de régression comporte d=36d=36 variables. En appliquant la valeur usuelle indiquée pour le nombre de variables candidates par nœud, quelle valeur de mm faut-il retenir ?

m=36m=36
m=30m=30
m=12m=12
m=6m=6

$$m=12$$

Explication

En régression, la valeur usuelle est m=d/3m=d/3; avec d=36d=36, on obtient m=36/3=12m=36/3=12. La valeur 66 applique la règle de classification d\sqrt{d}, 3636 prend toutes les variables et 3030 ne correspond pas à la règle donnée.

23. Pour estimer l’erreur de test d’un exemple dans une forêt, certains arbres ne l’ont pas rencontré pendant leur entraînement. Comment obtenir sa prédiction OOB ?

L’agréger à partir de tous les arbres de la forêt
L’agréger à partir des arbres qui ont entraîné sur cet exemple
L’agréger à partir d’arbres entraînés sur un jeu de validation distinct
L’agréger à partir des arbres qui n’ont pas entraîné sur cet exemple

L’agréger à partir des arbres qui n’ont pas entraîné sur cet exemple

Explication

La prédiction OOB d’un exemple utilise les arbres qui ne l’ont pas vu à l’entraînement, ce qui permet d’estimer l’erreur de test sans jeu de validation supplémentaire. Utiliser les arbres qui l’ont vu introduit une évaluation sur les données d’entraînement; tous les arbres ignorent le statut OOB, et un jeu de validation distinct n’est pas nécessaire à cette méthode.

24. Une analyste compare l’importance de variables d’une forêt; l’une d’elles possède beaucoup de modalités. Quelle approche convient le mieux pour limiter le biais de l’importance fondée sur les réductions d’impureté ?

Privilégier l’importance par réduction d’impureté
Privilégier l’importance par permutation
Privilégier la profondeur des arbres comme mesure d’importance
Privilégier l’erreur OOB comme mesure d’importance

Privilégier l’importance par permutation

Explication

L’importance fondée sur les réductions d’impureté peut favoriser les variables à forte cardinalité; l’importance par permutation est préférable pour éviter ce biais. La réduction d’impureté conserve le biais signalé, l’erreur OOB sert à évaluer la performance et la profondeur des arbres n’est pas la mesure recommandée.

25. Une équipe doit choisir entre un arbre unique et une forêt aléatoire : elle veut une variance plus faible et une meilleure résistance au sur-apprentissage, mais peut accepter une interprétation moins directe et un coût supérieur. Quel modèle répond le mieux à ces priorités ?

L’arbre de décision, plus stable et plus résistant au sur-apprentissage
L’arbre de décision, moins interprétable et plus coûteux
La forêt aléatoire, moins interprétable et plus coûteuse
La forêt aléatoire, plus interprétable et moins coûteuse

La forêt aléatoire, moins interprétable et plus coûteuse

Explication

L’agrégation d’une forêt réduit la variance et la rend plus résistante au sur-apprentissage, au prix d’une interprétabilité moindre et d’un coût supérieur à ceux d’un arbre unique. L’arbre unique est plutôt instable et sujet au sur-apprentissage; lui attribuer la faible variance inverse la comparaison, tandis que l’option qui décrit la forêt comme plus interprétable et moins coûteuse inverse ses compromis.

26. Dans une comparaison de méthodes, un ensemble entraîne des arbres en parallèle pour réduire surtout la variance; l’autre les entraîne en série, chaque arbre corrigeant les erreurs précédentes, pour réduire surtout le biais. Quelle association est correcte ?

Bagging en parallèle et réduction de variance; boosting en série et réduction de biais
Boosting en parallèle et réduction de variance; bagging en série et réduction de biais
Boosting en série et réduction de variance; bagging en parallèle et réduction de biais
Bagging en série et réduction de variance; boosting en parallèle et réduction de biais

Bagging en parallèle et réduction de variance; boosting en série et réduction de biais

Explication

Le bagging entraîne les arbres en parallèle et réduit surtout la variance; le boosting les entraîne en série, chacun corrigeant les erreurs du précédent, et réduit surtout le biais. Les autres associations inversent ces mécanismes ou attribuent à l’une des méthodes le mode d’entraînement de l’autre.

27. Une équipe doit prédire le désabonnement à partir d’un tableau mêlant âge, revenu et catégorie d’abonnement, avec des effets non linéaires et des interactions entre variables. Quel type de modèle convient particulièrement à ce problème ?

Un arbre de décision ou une forêt aléatoire
Un réseau conçu pour traiter directement des images
Un modèle de traitement du texte brut
Une régression linéaire imposant des effets additifs

Un arbre de décision ou une forêt aléatoire

Explication

Les arbres et les forêts aléatoires conviennent aux données tabulaires hétérogènes et peuvent modéliser des relations non linéaires ainsi que des interactions. Le traitement direct des images ou du texte brut concerne plutôt le deep learning, tandis que les deux autres choix ne correspondent pas aussi bien aux caractéristiques décrites.

28. Une analyste doit présenter des décisions faciles à expliquer à des responsables, tandis qu’une autre équipe cherche surtout une baseline performante pour comparer ses modèles. Quel choix correspond le mieux à ces deux besoins, dans cet ordre ?

Un arbre unique, puis une forêt aléatoire
Une forêt aléatoire pour les deux besoins
Un arbre unique pour les deux besoins
Une forêt aléatoire, puis un arbre unique

Un arbre unique, puis une forêt aléatoire

Explication

Un arbre unique est souvent privilégié pour obtenir des explications, alors qu’une forêt est souvent retenue pour ses performances ou comme baseline forte. Inverser ces choix confond leurs usages typiques; choisir une forêt pour les deux néglige l’avantage explicatif de l’arbre, et choisir un arbre pour les deux néglige la baseline performante associée à la forêt.

Révisez avec les flashcards

Mémorisez les réponses avec 85 flashcards sur KPPV et arbres de décision.

Comment le KPPV attribue-t-il une classe à un nouvel objet ?

Il lui attribue la classe majoritaire parmi ses kk voisins les plus proches.

Que calcule le KPPV pour chaque exemple d’entraînement lors d’un classement ?

La distance à l’objet à classer.

Comment le KPPV choisit-il les exemples utilisés pour classer un objet ?

Il sélectionne les kk exemples les plus proches.

Voir les flashcards →

Approfondir avec la fiche

Consultez la fiche de révision complète sur KPPV et arbres de décision.

Voir la fiche →

Cours similaires

Crée tes propres QCM

Importe ton cours et l'IA génère des QCM avec corrections en 30 secondes.

Générateur de QCM