Fiche de révision : Esprit critique face à l’IA

📋 Plan du Cours

1. Objectifs d’un usage critique
2. Prompts et itération
3. Hallucinations et fiabilité
4. Pièges pour tester l’IA
5. Biais et stéréotypes
6. Vérifier et limiter les risques

📖 1. Objectifs d’un usage critique

🔑 Notions clés & Définitions

• Pilote de l’IA : Utilisateur capable de repérer les faiblesses de la machine et de décider quand lui faire confiance.

★ À maîtriser

• L’objectif de la séance est de prendre du recul face aux réponses de l’IA pour l’exploiter au mieux et réfléchir aux droits, aux limites et à l’impact environnemental de ses usages.

Compléments

• Une requête sur une IA consomme 10 fois plus d’énergie qu’une requête sur un moteur de recherche.

💡 Astuce mémo

L’IA comme compagnon, jamais comme délégataire du travail

📖 2. Prompts et itération

🔑 Notions clés & Définitions

• Prompt : Instruction formulée pour obtenir une réponse d’une IA.

★ À maîtriser

• L’itération consiste à questionner l’IA et à améliorer progressivement le prompt afin d’obtenir une réponse plus performante.

Compléments

• La qualité du prompt influence la performance de la réponse produite par l’IA.

💡 Astuce mémo

Prompt → réponse → questionnement → amélioration

📖 3. Hallucinations et fiabilité

🔑 Notions clés & Définitions

• Hallucination : Erreur, incohérence ou information fausse produite par une IA.

📝 Points essentiels

• Une IA génère la suite de mots la plus probable à partir de ses données, sans vérifier nécessairement le contenu de sa réponse.

• Une IA peut combler ses lacunes par l’invention de faits historiques, de citations ou de bibliographies.

📌 Une IA qui refuse de répondre à une question impossible est plus fiable qu’une IA qui répond avec assurance à n’importe quoi.

💡 Astuce mémo

Données partielles et probabilités → réponses plausibles mais parfois fausses

📖 4. Pièges pour tester l’IA

★ À maîtriser

• Les trois types de pièges sont:
  • l’impossible, qui contient une absurdité physique ou logique
  • l’imposture, qui attribue une fausse identité ou expertise
  • l’invention, qui demande des faits, sources ou citations fictifs

Compléments

• Un prompt impossible demande par exemple de calculer le bonheur moyen d’un enfant de 10 ans en France avec trois décimales et une méthode détaillée.

• Un prompt d’imposture demande à l’IA de répondre en tant qu’ancien directeur de la NASA ou que médecin urgentiste.

• Un prompt d’invention demande de résumer une étude fictive du professeur Dubois à Lyon en 2024 ou de citer les articles d’un protocole daté de 2026.

💡 Astuce mémo

III : Impossible, Imposture, Invention

📖 5. Biais et stéréotypes

🔑 Notions clés & Définitions

• Biais : Raccourci du cerveau, déformation ou travers qui influence la représentation et l’interprétation.

★ À maîtriser

• Une IA génératrice d’images reproduit les schémas statistiques fréquents de ses données d’entraînement au lieu de réfléchir.

• Les données issues des publicités, des films et des banques d’images contiennent des stéréotypes que l’IA peut apprendre et amplifier.

• Les stéréotypes peuvent former un cercle vicieux dans lequel des images stéréotypées sont apprises par l’IA, recréées par elle, diffusées, puis renforcées.

Compléments

• Les biais cités concernent:
  • le genre
  • la culture
  • la beauté
  • le pouvoir
  • la réussite
  • la géopolitique
  • la langue

💡 Astuce mémo

Données stéréotypées → apprentissage → amplification → diffusion

📖 6. Vérifier et limiter les risques

★ À maîtriser

• Les systèmes de reconnaissance faciale peuvent échouer davantage à identifier les femmes et les personnes non blanches, tandis que les systèmes vocaux peuvent moins bien fonctionner pour les femmes.

• Les pistes proposées consistent à:

  • varier les angles
  • inverser les rôles
  • imposer des contraintes
  • reformuler les demandes
  • demander des contre-arguments
  • demander des rôles différents

• La vérification d’une réponse d’IA repose sur la comparaison de plusieurs modèles, la recherche de sources et le fact-checking.

Compléments

• Des systèmes de détection automatique peuvent discriminer les internautes afro-américains lorsque des propos haineux sont associés à des dialectes de l’anglais afro-américain.

• Comparer une même instruction sur plusieurs IA permet d’observer que leurs réponses diffèrent par les perspectives, les exemples, les angles et parfois les faits retenus.

💡 Astuce mémo

Varier, comparer, reformuler, vérifier

📊 Tableaux de synthèse

Hallucinations et biais