QCM : Introduction à l'apprentissage par renforcement — 9 questions

Questions et réponses du QCM

1. Qu'est-ce que l'apprentissage par renforcement ?

C'est une méthode d'apprentissage où un agent apprend en recevant des instructions explicites d'un superviseur pour atteindre un objectif.
C'est une technique où un agent apprend en observant passivement un ensemble de données étiquetées sans interagir avec l'environnement.
C'est une approche où un agent est programmé avec des règles fixes pour effectuer des tâches sans apprentissage.
C'est une méthode d'apprentissage automatique où un agent apprend en expérimentant dans un environnement inconnu pour maximiser une récompense cumulée.

C'est une méthode d'apprentissage automatique où un agent apprend en expérimentant dans un environnement inconnu pour maximiser une récompense cumulée.

Explication

L'apprentissage par renforcement est une méthode où un agent apprend en expérimentant dans un environnement inconnu, en utilisant ses interactions pour maximiser une récompense cumulée, ce qui correspond à la première option.

2. Qui a défini explicitement le formalisme du Processus de Décision Markovien dans le contenu ?

Richard Bellman
Christopher Watkins
Cesar Aguiar
Martin Saulières (2022)

Martin Saulières (2022)

Explication

Cesar Aguiar (2022) est mentionné comme ayant défini explicitement le formalisme du Processus de Décision Markovien, ce qui est essentiel pour formaliser l'apprentissage par renforcement.

3. Quel auteur a défini explicitement le formalisme du Processus de Decision Markovien par <S, A, p, r> dans le contenu ?

Saulières (2022)
Puterman (1994)
Bellman (1957)
Sutton et Barto (2018)

Saulières (2022)

Explication

Saulières (2022) est l'auteur mentionné dans le contenu comme ayant défini explicitement le formalisme du Processus de Decision Markovien par <S, A, p, r>. Les autres auteurs sont connus pour d'autres contributions dans le domaine, mais pas cette définition précise dans ce contexte.

4. Quelle est la principale différence entre les méthodes model-based et model-free en apprentissage par renforcement ?

Les méthodes model-based utilisent des modèles de dynamiques, tandis que les méthodes model-free n'en utilisent pas.
Les méthodes model-based sont plus rapides que les méthodes model-free.
Les méthodes model-free nécessitent une connaissance préalable de l'environnement.
Les méthodes model-free se concentrent uniquement sur la planification sans interaction.

Les méthodes model-based utilisent des modèles de dynamiques, tandis que les méthodes model-free n'en utilisent pas.

Explication

Les méthodes model-based utilisent la connaissance du modèle des dynamiques pour planifier, alors que les méthodes model-free apprennent directement via interaction sans connaître le modèle.

5. Quels sont les trois types d’approches mentionnés pour optimiser la politique dans l'apprentissage par renforcement ?

Value-based, policy-based, actor-critic
Dynamique, statique, hybride
Supervisé, non supervisé, semi-supervisé
Monte Carlo, Temporal Difference, Q-learning

Value-based, policy-based, actor-critic

Explication

Les trois approches principales sont value-based (fondée sur estimation de valeurs), policy-based (directement sur la politique), et actor-critic (combinaison des deux).

6. Dans le contexte de l'apprentissage par renforcement, que représente l’équation de Bellman ?

Une formule récursive pour calculer la valeur optimale d’un état ou d’une action.
Une règle pour ajuster la politique de l’agent.
Une méthode pour déterminer la meilleure stratégie d’exploration.
Une technique de théorie des jeux appliquée à l'apprentissage automatique.

Une formule récursive pour calculer la valeur optimale d’un état ou d’une action.

Explication

L’équation de Bellman exprime récursivement la valeur d’un état ou d’une action en fonction des récompenses futures, fondamentale pour l’évaluation et l’amélioration des politiques.

7. Quel est l’objectif principal de l’apprentissage par renforcement ?

Maximiser la récompense cumulée sur le long terme.
Minimiser le nombre d’actions prises par l’agent.
Apprendre une politique statique sans interaction avec l’environnement.
Trouver une solution immédiate à chaque étape.

Maximiser la récompense cumulée sur le long terme.

Explication

L’objectif est de maximiser la somme des récompenses futures, ce qui implique une planification stratégique à long terme.

8. Quels exemples sont cités comme applications de l’apprentissage par renforcement ?

Wayve.ai pour la conduite autonome, DeepMind pour la gestion des data centers, AlphaGo et AlphaStar.
Facebook pour la publicité ciblée, Tesla pour la conduite autonome, Google Translate.
Amazon pour la recommandation de produits, Apple pour Siri, Microsoft Office pour l’optimisation des documents.
Nasa pour la navigation spatiale, Wikipedia pour la gestion de contenu, Netflix pour le streaming.

Wayve.ai pour la conduite autonome, DeepMind pour la gestion des data centers, AlphaGo et AlphaStar.

Explication

Les exemples donnés incluent Wayve.ai, DeepMind, AlphaGo, et AlphaStar, illustrant la diversité des applications de l’apprentissage par renforcement.

9. Quel est le rôle principal de l’agent dans l’apprentissage par renforcement ?

Interagir avec son environnement pour apprendre et s’adapter afin d’atteindre un objectif.
Fournir des données d’entraînement à un modèle supervisé.
Analyser des données historiques sans interaction.
Créer un environnement simulé pour tester des stratégies.

Interagir avec son environnement pour apprendre et s’adapter afin d’atteindre un objectif.

Explication

L’agent agit dans un environnement, apprend par expérience et adapte ses comportements pour maximiser ses récompenses, ce qui est au cœur de l'apprentissage par renforcement.

Révisez avec les flashcards

Mémorisez les réponses avec 9 flashcards sur Introduction à l'apprentissage par renforcement.

Apprentissage par Renforcement — définition ?

Agent qui apprend par essais et erreurs dans un environnement.

Agent — définition?

Entité qui apprend par interaction dans un environnement.

Processus de Decision Markovien — rôle ?

Modélise la dynamique probabiliste d’un environnement.

Voir les flashcards →

Approfondir avec la fiche

Consultez la fiche de révision complète sur Introduction à l'apprentissage par renforcement.

Voir la fiche →

Cours similaires

Crée tes propres QCM

Importe ton cours et l'IA génère des QCM avec corrections en 30 secondes.

Générateur de QCM