Qui a défini l’apprentissage à partir d’une expérience E, de tâches T et d’une performance P ?
Tom Mitchell.
Quelles sont les trois composantes nécessaires pour apprendre à partir de données ?
Les données, les caractéristiques et les algorithmes.
Que signifie le principe « garbage in – garbage out » pour le machine learning ?
Un algorithme performant ne compense pas des données de mauvaise qualité.
Quelles données l’apprentissage supervisé utilise-t-il ?
Des données étiquetées avec des réponses connues.
Que cherche l’apprentissage non supervisé dans des données sans étiquettes ni enseignant ?
Des structures.
Quelles sont les deux catégories de problèmes d’apprentissage supervisé ?
La régression et la classification.
Quel type de sortie la régression prédit-elle en apprentissage supervisé ?
Une sortie continue.
Que prédit la classification en apprentissage supervisé ?
Une catégorie parmi des sorties discrètes.
Comment le clustering organise-t-il les données ?
En groupes fondés sur leurs structures inhérentes et les relations entre variables.
Quel objectif le clustering poursuit-il au sein des groupes ?
Maximiser les ressemblances entre les données d’un même groupe.
Que fait la réduction de dimensionnalité aux données ?
Elle les résume ou les décrit avec moins d’informations, de manière non supervisée.
Combien d’exemples contient l’ensemble d’entraînement, et à quoi sert-il ?
Il contient exemples et sert à apprendre.
Comment les exemples d’un ensemble d’entraînement sont-ils indexés ?
De à .
Qu’est-ce qu’une hypothèse en apprentissage ?
Une fonction de vers apprise à partir de l’ensemble d’entraînement.
Que prédit l’hypothèse pour une entrée ?
La valeur cible .
Quel type de problème correspond à une cible continue ?
Un problème de régression.
Que prédit la régression linéaire simple, et à partir de combien de prédicteurs ?
Une réponse quantitative à partir d’un seul prédicteur.
Quelle relation la régression linéaire simple suppose-t-elle entre et ?
Une relation approximativement linéaire.
Quelle est l’équation du modèle de régression linéaire simple ?
Que mesure la fonction de coût en apprentissage ?
L’écart entre les prédictions de l’hypothèse et les valeurs réelles des exemples d’entraînement.
Quelle formule définit le coût quadratique moyen pour exemples ?
Quel est l’objectif du choix de et ?
Minimiser le coût afin que les prédictions soient proches des valeurs réelles.
Comment varie la pente d’une droite selon les deux points choisis ?
Elle reste identique.
Comment varie la pente d’une courbe selon la portion considérée ?
Elle varie selon la portion considérée.
Qu’est-ce que la dérivée d’une courbe en un point ?
La pente de la droite tangente en ce point, approchée avec deux points extrêmement proches.
Comment la méthode des moindres carrés trouve-t-elle les paramètres θ₀ et θ₁ ?
En annulant les dérivées partielles de la fonction de coût par rapport à θ₀ et θ₁.
Quelle formule donne l’estimateur des moindres carrés de θ₁ ?
Quelle formule donne l’estimateur des moindres carrés de θ₀ ?
Que fait la descente de gradient pour estimer les paramètres d’une fonction ?
Elle avance vers le minimum de la fonction de coût dans la direction de sa plus forte décroissance.
Quelle mise à jour générale s’applique à chaque paramètre à chaque itération ?
, pour .
À partir de quelles valeurs faut-il calculer les paramètres avant leur mise à jour ?
À partir de leurs anciennes valeurs.
Comment faut-il mettre à jour les paramètres à chaque itération ?
Simultanément.
Que vaut la dérivée d’une fonction de coût quadratique convexe au minimum ?
Zéro.
Que devient la dérivée d’une fonction de coût quadratique convexe à l’approche du minimum ?
Elle tend vers zéro.
Quel est l’effet d’un α trop petit sur la descente de gradient ?
Elle progresse très lentement.
Que peut provoquer un α trop grand pendant la descente de gradient ?
La descente peut dépasser le minimum, ne pas converger ou diverger.
Quelles sont les mises à jour simultanées de et en régression linéaire ?
et
Sur quels exemples la descente de gradient par lots fonde-t-elle chaque mise à jour ?
Sur tous les exemples de l’ensemble d’entraînement.
Comment la descente par lots calcule-t-elle le gradient à chaque pas ?
La moyenne des gradients sur tous les exemples.
Quel avantage caractérise les mises à jour de la descente par lots ?
Elles sont plus stables.
Comment la descente stochastique choisit-elle les exemples à chaque pas ?
Elle utilise un seul exemple.
Quel comportement la descente stochastique présente-t-elle autour du minimum ?
Elle oscille autour du minimum.
Comment la descente mini-batch choisit-elle les exemples à chaque itération ?
Elle utilise un nombre fixe d’exemples, inférieur à la taille du jeu de données.
Comment appelle-t-on le nombre d’exemples utilisé en descente mini-batch ?
La taille du lot.
Comment Arthur Samuel définit-il le machine learning ?
Un domaine d’étude qui donne aux ordinateurs la capacité d’apprendre sans être explicitement programmés.
Dans l’exemple du jeu de dames, que représente l’expérience E ?
L’expérience de nombreuses parties.
Dans l’exemple du jeu de dames, que mesure la performance P ?
La probabilité que le programme gagne la partie suivante.
Dans un tableau, à quoi correspondent les caractéristiques ?
Aux noms des colonnes.
Quels facteurs les caractéristiques désignent-elles pour la machine ?
Les facteurs examinés par la machine.
En quoi consiste la classification en apprentissage automatique ?
À attribuer une observation à une catégorie parmi un ensemble de catégories, à partir de données d’entraînement catégorisées.
Que permet d’estimer la régression statistique ?
Les relations entre une variable dépendante et une ou plusieurs variables indépendantes.
Quel type de problème consiste à prédire le prix d’une maison à partir de sa superficie ?
Une régression.
Quels algorithmes sont des méthodes courantes de clustering ?
k-Means, k-Medians, Expectation Maximisation (EM) et Hierarchical Clustering.
À quoi peut servir la réduction de dimensionnalité pour les données multidimensionnelles ?
À les visualiser.
Quand la réduction de dimensionnalité peut-elle simplifier les données ?
Avant un apprentissage supervisé.
Quelles tâches la réduction de dimensionnalité peut-elle soutenir ?
La classification et la régression.
De quoi se compose un exemple d’entraînement ?
D’une paire formée d’une variable d’entrée et d’une variable cible .
Que représente l’exposant entre parenthèses dans la notation des exemples d’entraînement ?
Un indice, et non une puissance.
Que désignent et dans la notation des exemples d’entraînement ?
désigne l’espace des entrées et l’espace des sorties.
Que représente dans le modèle linéaire simple ?
L’ordonnée à l’origine.
Que représente dans le modèle linéaire simple ?
La pente.
Comment appelle-t-on et dans le modèle linéaire simple ?
Les coefficients de régression linéaire.
Quels autres noms désignent la fonction de coût ?
La fonction d’erreur quadratique ou l’erreur quadratique moyenne.
Pourquoi le coût quadratique moyen comporte-t-il un facteur ?
Il est annulé par la dérivée du carré, ce qui facilite le calcul de la descente de gradient.
Quelle valeur prend si la droite passe par tous les points d’entraînement ?
De quels paramètres de la droite le coût dépend-il ?
Des paramètres et .
Pourquoi modifier ou change-t-il le coût ?
Cela change les distances verticales entre les points observés et la droite ajustée.
Qu’indique la dérivée sur l’évolution d’une fonction ?
La direction dans laquelle la fonction augmente ou diminue.
À quoi la dérivée aide-t-elle à repérer ?
Aux minima et aux maxima de la fonction.
Quelle formule donne la moyenne de l’échantillon x ?
Quelle formule donne la variance d’échantillon de x ?
Que mesure la covariance d’échantillon entre x et y ?
Le degré d’association linéaire entre les valeurs de x et de y.
Quand l’inversion d’une matrice des moindres carrés est-elle impossible en régression multivariée ?
Lorsque les variables prédictives sont linéairement dépendantes.
Quels paramètres occupent les axes horizontaux dans la représentation du coût ?
et .
Quelle grandeur occupe l’axe vertical dans la représentation du coût ?
La valeur du coût.
Que détermine le taux d’apprentissage ?
La taille du pas de descente.
Comment évolue θ₁ lorsque la pente est négative pendant la descente de gradient ?
θ₁ augmente.
Comment évolue θ₁ lorsque la pente est positive pendant la descente de gradient ?
θ₁ diminue.
Comment le coût doit-il évoluer à chaque itération si α est suffisamment petit ?
Il doit diminuer.
Quelle forme possède la fonction de coût de la régression linéaire étudiée ?
Une fonction quadratique convexe.
Combien de minima globaux possède la fonction de coût étudiée en régression linéaire ?
Un minimum global unique.
Que peut-on dire des minima locaux de la fonction de coût étudiée ?
Elle ne possède aucun minimum local.
À quelle condition sur la descente de gradient converge-t-elle vers le minimum global étudié ?
Si n’est pas trop grand.
Comment évolue le coût à long terme en descente stochastique ?
Il diminue malgré ses fluctuations.
Comment le momentum accélère-t-il la progression vers le minimum ?
Il calcule des moyennes exponentiellement pondérées des gradients et met à jour les poids avec ces valeurs.
Quel effet le momentum vise-t-il sur la progression vers le minimum ?
Il la régularise.
Quelles techniques d’optimisation sont citées avec le momentum ?
RMSprop, AdaGrad, AdaDelta, Adam et Ftrl.
Teste tes connaissances avec un QCM de 33 questions sur Fondements du machine learning.
1. Selon Tom Mitchell, quelle condition caractérise un programme qui apprend à partir d’une expérience E relativement à des tâches T et à une mesure P ?
2. Pour concevoir un système qui apprend à partir de données, quels sont les trois éléments nécessaires ?
Révisez le cours complet dans la fiche de révision de Fondements du machine learning.
Voir la fiche →Importe ton cours et l'IA génère des flashcards en 30 secondes.
Générateur de flashcards