QCM : Principes fondamentaux de l'apprentissage automatique — 10 questions

Explication

La statistique descriptive consiste en un ensemble de techniques qui permettent de résumer, d'organiser et de présenter de manière synthétique les données observées, afin de faciliter leur compréhension, sans faire d'inférences sur la population.

Explication

L'auteur mentionné dans le contenu en lien avec la fonction de perte est Clémençon et al. (2008), ce qui en fait la référence correcte. Les autres auteurs sont également connus dans le domaine, mais ne sont pas cités dans ce contexte précis.

Explication

Les données d'apprentissage sont essentielles pour entraîner le modèle, c'est-à-dire pour permettre à l'algorithme de développer une fonction capable de faire des prédictions ou classifications. Les autres options concernent des étapes ou des usages différents, comme la validation ou le test, mais pas leur rôle principal.

Explication

La réponse correcte est en 2008, avec la publication de Clémençon et al., qui a contribué à formaliser la notion de fonction de perte dans le cadre de l'apprentissage automatique. Les autres dates correspondent à des périodes importantes mais pas à la formalisation spécifique de la fonction de perte.

Explication

La validation croisée et le bootstrap sont deux techniques de rééchantillonnage utilisées pour estimer la performance d’un modèle. La validation croisée divise l’échantillon en plusieurs folds, entraînant et validant le modèle sur différentes portions de données pour une estimation robuste. Le bootstrap, quant à lui, consiste à créer plusieurs échantillons en tirant avec remise dans l’ensemble de données, puis à évaluer le modèle sur ces échantillons. La principale différence réside dans leur mécanisme : la validation croisée ne rééchantillonne pas avec remise mais divise en folds, tandis que le bootstrap crée plusieurs échantillons par rééchantillonnage avec remise. Les deux méthodes ont pour objectif d’évaluer la performance de façon plus fiable que l’évaluation sur un seul ensemble, mais leur procédé diffère.

Explication

Vapnik est crédité d'avoir développé la théorie du VC (Vapnik-Chervonenkis), qui formalise la capacité des modèles et explique le phénomène d'overfitting. Cette théorie est fondamentale pour comprendre comment la complexité d’un modèle peut conduire à un ajustement excessif aux données d’entraînement.

Explication

La régularisation vise à réduire la capacité excessive du modèle à s'ajuster aux données d'entraînement, ce qui est la cause principale de l'overfitting. En limitant cette capacité, elle permet au modèle de mieux généraliser sur de nouvelles données.

Explication

La validation croisée est une méthode efficace pour ajuster les hyperparamètres, car elle permet d’évaluer la performance de différentes configurations sur plusieurs sous-ensembles de données, évitant ainsi le surajustement et permettant de sélectionner la meilleure configuration.

Explication

L'algorithme du gradient fonctionne en calculant le gradient de la fonction de perte et en ajustant les paramètres dans la direction opposée à ce gradient, pour minimiser la perte. Les autres options décrivent des méthodes ou concepts différents : l'utilisation de la dérivée seconde correspond à la méthode de Newton, la recherche exhaustive est impraticable pour de grands espaces de paramètres, et la convexité n'est pas une caractéristique intrinsèque de l'algorithme mais une propriété souhaitée pour garantir la convergence.

Explication

La validation de modèles consiste à évaluer la performance d'un modèle sur des données indépendantes de l'ensemble d'entraînement, afin de mesurer sa capacité de généralisation. Elle permet de vérifier si le modèle s'adapte bien à de nouvelles données, et non seulement aux données sur lesquelles il a été entraîné.