QCM : Limites et risques de l’intelligence artificielle (17 questions)

Questions et réponses du QCM

1. Comment définir un biais des données susceptible d’influencer une décision d’intelligence artificielle ?

Une différence de performance entre deux modèles utilisant des architectures informatiques distinctes
Une erreur technique apparue lorsqu’un modèle reçoit une commande formulée de manière ambiguë
Une information récente absente d’une base de données parce que son entraînement est terminé
Un préjugé humain ou une inégalité sociale intégrée aux données d’entraînement puis reproduite ou amplifiée

Un préjugé humain ou une inégalité sociale intégrée aux données d’entraînement puis reproduite ou amplifiée

Explication

Un biais des données correspond à un préjugé humain ou à une inégalité sociale présente dans les données d’entraînement, que l’IA peut reproduire ou amplifier. L’absence d’une information récente concerne plutôt les connaissances statiques, et non la définition du biais.

2. Pourquoi l’algorithme de recrutement d’Amazon a-t-il été abandonné ?

Il écartait les candidatures féminines aux postes techniques après avoir appris des préférences masculines dans les embauches passées
Il classait les candidats selon leur disponibilité plutôt que selon leurs compétences techniques
Il supprimait les candidatures comportant des diplômes obtenus dans des établissements étrangers
Il privilégiait les candidatures récentes parce que son système ne pouvait pas traiter les dossiers plus anciens

Il écartait les candidatures féminines aux postes techniques après avoir appris des préférences masculines dans les embauches passées

Explication

L’algorithme avait appris, à partir des embauches passées, à privilégier les profils masculins et écartait ainsi les candidatures féminines pour des postes techniques. Les autres réponses décrivent des causes de rejet qui ne correspondent pas à cet exemple de biais.

3. Que désignent les connaissances statiques d’un modèle d’intelligence artificielle ?

Des références conservées avec leur document original afin de permettre une vérification ultérieure
Des corrections mémorisées durablement après chaque échange entre un utilisateur et le modèle
Des informations recueillies en temps réel par un modèle connecté à plusieurs sites d’actualité
Des informations provenant d’une base figée à la date d’entraînement, sans intégration automatique des événements nouveaux

Des informations provenant d’une base figée à la date d’entraînement, sans intégration automatique des événements nouveaux

Explication

Les connaissances statiques proviennent d’une base de données figée au moment de l’entraînement et ne se mettent pas automatiquement à jour avec les événements récents. La collecte en temps réel suppose plutôt un accès spécifique au web ou à une source d’actualité.

4. Quelle affirmation décrit correctement l’accès des grands modèles de langage à l’actualité lors d’une utilisation standard ?

Ils consultent généralement le web à chaque requête et incorporent les nouvelles informations publiées
Ils remplacent généralement leurs données d’entraînement par les corrections fournies pendant une conversation
Ils mettent généralement à jour leurs paramètres après chaque réponse afin d’inclure les derniers événements
Ils s’appuient généralement sur des données figées et n’intègrent pas automatiquement les informations récentes

Ils s’appuient généralement sur des données figées et n’intègrent pas automatiquement les informations récentes

Explication

GPT, Llama, Mistral, Gemini et Claude sont initialement entraînés sur des données figées et n’intègrent généralement pas l’actualité en utilisation standard. Un accès spécifique au web peut toutefois fournir des informations récentes, ce qui distingue certains assistants connectés des modèles standards.

5. Que se passe-t-il lorsqu’une erreur est signalée à un LLM pendant une session ?

Il efface automatiquement ses données d’entraînement afin d’éviter de reproduire l’information incorrecte
Il transmet la correction à tous les modèles similaires pour harmoniser leurs réponses ultérieures
Il peut corriger sa réponse pour la session, sans mémoriser durablement la correction sans nouvelle version ou fine-tuning
Il modifie durablement ses paramètres pour toutes les conversations futures dès que l’utilisateur signale l’erreur

Il peut corriger sa réponse pour la session, sans mémoriser durablement la correction sans nouvelle version ou fine-tuning

Explication

Le LLM peut tenir compte du signalement et ajuster sa réponse dans la session en cours, mais cette correction ne devient pas une mémoire durable sans nouvelle version ou fine-tuning. L’échange ne modifie donc pas automatiquement les paramètres généraux du modèle.

6. Que permet la traçabilité des sources dans un contenu produit par une intelligence artificielle ?

Reconstruire les étapes de raisonnement internes ayant conduit le modèle à choisir ses mots
Mesurer la quantité de données utilisées par le modèle pour produire une réponse particulière
Identifier les documents originaux à l’origine d’une information afin de faciliter sa vérification
Déterminer la date exacte à laquelle le modèle a généré chaque phrase de son contenu

Identifier les documents originaux à l’origine d’une information afin de faciliter sa vérification

Explication

La traçabilité des sources consiste à pouvoir retrouver les documents originaux dont provient une information. Les IA génératives ne conservent généralement pas cette traçabilité lorsqu’elles produisent du texte à partir de corrélations statistiques.

7. Quel problème peut poser un rapport scientifique généré par une intelligence artificielle, même lorsque ses informations sont exactes ?

Il peut empêcher toute comparaison entre études parce que les rapports produits par une IA excluent nécessairement les publications antérieures
Il peut garantir la validation de chaque donnée puisque la génération automatique conserve les références dans les corrélations du modèle
Il peut devenir inutilisable parce qu’un rapport généré automatiquement ne peut contenir aucune information scientifiquement correcte
Il peut être impossible d’identifier les articles ou ouvrages correspondant à chaque donnée, ce qui complique la validation et accroît le risque de plagiat

Il peut être impossible d’identifier les articles ou ouvrages correspondant à chaque donnée, ce qui complique la validation et accroît le risque de plagiat

Explication

Un rapport généré par IA peut présenter des informations correctes tout en ne permettant pas de retrouver les articles ou livres associés à chaque donnée. Cette absence de traçabilité rend la validation plus difficile et peut favoriser le risque de plagiat.

8. Que lui manque-t-il lorsqu’une IA assemble des réponses crédibles sans pouvoir les adapter à une situation concrète ?

L’accès à des exemples de formulations fréquemment utilisées
La possibilité de présenter plusieurs solutions bien structurées
La capacité de produire des phrases grammaticalement correctes
L’expérience et l’intuition nécessaires à l’adaptation pratique

L’expérience et l’intuition nécessaires à l’adaptation pratique

Explication

La compréhension pratique dépend de l’expérience et de l’intuition permettant d’ajuster une réponse aux circonstances réelles. Une réponse bien formulée ou structurée ne garantit pas cette adaptation au contexte.

9. Pourquoi une procédure de changement d’huile, bien rédigée par une IA, peut-elle rester dangereuse ou inadaptée ?

Elle peut employer un vocabulaire technique différent de celui du conducteur
Elle peut recommander un entretien plus fréquent que celui du constructeur
Elle peut omettre la sécurisation du véhicule ou convenir à un autre modèle
Elle peut présenter les étapes dans un ordre visuellement peu commode

Elle peut omettre la sécurisation du véhicule ou convenir à un autre modèle

Explication

Une IA peut produire une procédure plausible sans tenir compte de la sécurité nécessaire ni des particularités du modèle de véhicule. Une procédure validée par une expertise de terrain offre une garantie pratique que la seule qualité rédactionnelle ne fournit pas.

10. Qu’est-ce qu’une hallucination dans le fonctionnement d’une IA générative ?

La correction automatique d’une donnée erronée fournie dans la question
La sélection d’une information pertinente parmi plusieurs sources disponibles
L’invention de faits inexistants présentés comme des informations plausibles
La reformulation d’un fait exact dans un style plus simple et plus court

L’invention de faits inexistants présentés comme des informations plausibles

Explication

Une hallucination apparaît lorsque l’IA génère une information inexistante parce qu’elle prédit une suite de texte plausible sans vérifier directement sa vérité. Une reformulation ou une sélection d’un fait exact ne constitue pas une invention de ce type.

11. Quel risque faut-il envisager lorsqu’une IA fournit des références académiques très précises et crédibles en apparence ?

Certaines références peuvent avoir des titres, auteurs ou revues inventés
Les références peuvent employer une terminologie différente de celle de la demande
Les références peuvent être trop anciennes pour soutenir une analyse actuelle
Les références peuvent provenir de domaines voisins mais pertinents

Certaines références peuvent avoir des titres, auteurs ou revues inventés

Explication

Une IA peut fabriquer des références comportant des titres, des auteurs et des revues inexistants tout en leur donnant une apparence convaincante. La crédibilité de la présentation ne remplace donc pas la vérification dans une revue ou une base documentaire.

12. Pourquoi l’utilisation par une IA de données personnelles ou sensibles doit-elle être accompagnée de mesures de protection suffisantes ?

Pour permettre la conservation indéfinie des informations dans les systèmes
Pour accélérer l’analyse en supprimant les contrôles appliqués aux données
Pour réduire les risques de fuite et d’usage non consenti, notamment au regard du RGPD
Pour garantir que toutes les données produisent des résultats identiques

Pour réduire les risques de fuite et d’usage non consenti, notamment au regard du RGPD

Explication

Des protections insuffisantes peuvent provoquer des fuites ou des usages non consentis, en portant atteinte à la vie privée et au cadre légal, notamment au RGPD. La sécurité des données vise à limiter ces risques, et non à supprimer les contrôles ou à prolonger leur conservation.

13. Quel risque présente l’analyse par une IA de dossiers médicaux mal anonymisés ?

La divulgation d’éléments identifiants et de détails médicaux sensibles
La transformation automatique des dossiers en données correctement anonymisées
La limitation de l’analyse aux informations générales déjà accessibles au public
La diminution de la précision des diagnostics sans exposition d’informations personnelles

La divulgation d’éléments identifiants et de détails médicaux sensibles

Explication

Des dossiers médicaux mal anonymisés peuvent laisser apparaître l’identité des personnes ainsi que des détails sensibles les concernant. Une analyse automatisée ne garantit pas à elle seule l’anonymisation correcte ni la protection de ces informations.

14. Que désigne l’empoisonnement d’un modèle d’intelligence artificielle ?

La suppression accidentelle de données utiles après l’apprentissage
L’augmentation automatique du volume de données d’entraînement
L’introduction volontaire de fausses données pendant l’apprentissage
La compression des réponses afin de réduire leur temps de calcul

L’introduction volontaire de fausses données pendant l’apprentissage

Explication

L’empoisonnement consiste à insérer intentionnellement de fausses données dans l’apprentissage pour altérer les connaissances ou le comportement du modèle. La suppression de données utiles relève d’un autre type de défaillance et ne définit pas cette attaque.

15. Comment un pirate peut-il provoquer des erreurs spécifiques ou des comportements malveillants chez une IA ?

En mêlant des informations falsifiées aux données authentiques d’apprentissage
En accélérant l’exécution du modèle grâce à un matériel plus puissant
En limitant la longueur des réponses produites lors de son utilisation
En remplaçant l’interface utilisateur par une version visuellement différente

En mêlant des informations falsifiées aux données authentiques d’apprentissage

Explication

Le pirate peut dissimuler de fausses informations parmi les données vraies, ce qui modifie le comportement appris par le modèle. Une interface différente ou un matériel plus puissant ne change pas directement les connaissances acquises pendant l’apprentissage.

16. Quelle comparaison énergétique décrit correctement une requête générative d’environ 400 tokens ?

Elle consomme environ 2 Wh, comme une recherche Google classique de 0,3 Wh
Elle consomme environ 2 Wh, contre 0,3 Wh pour une recherche Google classique
Elle consomme environ 0,3 Wh, contre 2 Wh pour une recherche Google classique
Elle consomme environ 0,3 Wh, comme une recherche Google classique de 2 Wh

Elle consomme environ 2 Wh, contre 0,3 Wh pour une recherche Google classique

Explication

Une requête d’environ 400 tokens consomme approximativement 2 Wh, tandis qu’une recherche Google classique consomme environ 0,3 Wh. Les deux usages n’ont donc pas le même coût énergétique, contrairement à l’idée qu’ils seraient équivalents.

17. Quelle ampleur avait la consommation électrique des centres de données liés à l’IA et aux cryptomonnaies en 2022 ?

Près de 460 TWh, soit environ 2 % de la production mondiale
Près de 0,46 TWh, soit environ 0,02 % de la production mondiale
Près de 46 TWh, soit environ 0,2 % de la production mondiale
Près de 4 600 TWh, soit environ 20 % de la production mondiale

Près de 460 TWh, soit environ 2 % de la production mondiale

Explication

Ces centres de données ont consommé près de 460 TWh en 2022, ce qui représentait environ 2 % de la production mondiale. Cette proportion est mesurable et importante, elle ne correspond donc pas à une consommation négligeable.

Révisez avec les flashcards

Mémorisez les réponses avec 35 flashcards sur Limites et risques de l’intelligence artificielle.

Qu'est-ce qu'un biais des données en IA ?

Un préjugé humain ou une inégalité sociale dans les données d'entraînement.

Quel risque un biais des données fait-il courir aux décisions de l'IA ?

Il peut être reproduit ou amplifié dans ses décisions ou recommandations.

Pourquoi l'algorithme de recrutement d'Amazon a-t-il été abandonné ?

Parce qu'il écartait systématiquement les candidatures féminines pour des postes techniques.

Voir les flashcards →

Approfondir avec la fiche

Consultez la fiche de révision complète sur Limites et risques de l’intelligence artificielle.

Voir la fiche →

Cours similaires

Structures de contrôle conditionnelles

Programmation

Réseaux informatiques et usages numériques

Bonnes pratiques avec l’IA

Fonctionnement des réseaux informatiques

Réseaux et modèle OSI

Réseaux

Fonctionnement d’un réseau informatique

Crée tes propres QCM

Importe ton cours et l'IA génère des QCM avec corrections en 30 secondes.

Générateur de QCM