Fiche de révision : Éthique et intelligence artificielle

📋 Plan du Cours

1. Définition et usages de l’intelligence artificielle
2. Apports de l’IA et enjeux scolaires
3. Biais et discriminations algorithmiques
4. Données personnelles et vie privée
5. Désinformation et deepfakes
6. Coût environnemental de l’intelligence artificielle
7. Encadrement et usages responsables de l’IA

📅 Repères chronologiques

1. 2018Amazon a abandonné un logiciel de recrutement par IA qui pénalisait systématiquement les CV contenant le mot « femme », après avoir été entraîné sur dix ans de recrutements majoritairement masculins dans le secteur technologique.
2. 2023Le candidat américain Derek Mobley a porté plainte contre la plateforme Workday, estimant avoir été discriminé par un algorithme de tri de candidatures en raison de son âge, de son origine et de son handicap.
3. 2023La CNIL a créé un service entièrement dédié à l’intelligence artificielle.
4. janvier 2024Un faux appel vocal imitant Joe Biden a demandé aux électeurs du New Hampshire de ne pas aller voter.
5. février 2024Une fausse vidéo imitant France 24 a annoncé une prétendue tentative d’assassinat contre Emmanuel Macron.
6. août 2024Le règlement européen sur l’intelligence artificielle, appelé AI Act, est entré en vigueur.
7. février 2025Les usages de l’IA jugés inacceptables, comme la notation sociale des individus, sont interdits par l’AI Act.
8. juillet 2026La CNIL a publié une note sur les risques de l’IA dite « agentique », capable d’agir seule sur des comptes ou des appareils.

📖 1. Définition et usages de l’intelligence artificielle

🔑 Notions clés & Définitions

• Intelligence artificielle : Ensemble de programmes informatiques capables d’effectuer des tâches qui demandaient jusque-là une intelligence humaine, comme comprendre un texte, reconnaître une image ou prendre une décision.

📝 Points essentiels

• L’apprentissage profond sert notamment à analyser des images médicales et à permettre aux voitures autonomes de reconnaître leur environnement.

• L’apprentissage automatique permet de recommander des vidéos ou de la musique, tandis que les IA génératives de type LLM peuvent répondre à des questions ou traduire des langues.

📖 2. Apports de l’IA et enjeux scolaires

★ À maîtriser

• Les usages de l’IA apportent :
  • un gain de temps
  • une aide à la décision
  • un accès facilité à l’information

📌 L’usage scolaire de l’IA peut aider l’apprentissage, mais il pose la question de savoir si l’élève apprend réellement lorsque l’outil réalise le travail à sa place.

Compléments

• Les élèves peuvent utiliser l’IA pour :
  • rechercher des informations
  • comprendre une notion
  • traduire un texte
  • les aider à rédiger un travail

📌 Pour utiliser l’IA de manière responsable à l’école, l’élève doit développer son autonomie, son esprit critique et sa capacité à vérifier l’exactitude des informations fournies.

💡 Astuce mémo

L’IA aide à apprendre, mais peut aussi faire le travail à la place de l’élève.

📖 3. Biais et discriminations algorithmiques

★ À maîtriser

• Quand une IA apprend sur des données qui reflètent des inégalités, elle peut reproduire ces inégalités et parfois les amplifier.

Compléments

• Les discriminations algorithmiques peuvent affecter l’accès à l’emploi.

💡 Astuce mémo

Données inégalitaires → décisions discriminatoires.

📖 4. Données personnelles et vie privée

📝 Points essentiels

• Les IA, notamment les assistants vocaux et les IA génératives, peuvent collecter des informations sur les habitudes, les recherches et parfois les conversations des utilisateurs.

• En France, la CNIL est chargée de protéger les données personnelles.

📖 5. Désinformation et deepfakes

🔑 Notions clés & Définitions

• Deepfake : Fausse image, vidéo ou voix créée par l’IA et rendue extrêmement réaliste.

📝 Points essentiels

• Selon une étude de l’entreprise Surfshark, le nombre de deepfakes recensés en 2025 a été quatre fois plus élevé qu’en 2024.

• Les deepfakes peuvent diminuer la confiance dans ce que l’on voit et entend.

💡 Astuce mémo

Une fausse voix ou vidéo réaliste qui brouille la frontière entre vrai et faux.

📖 6. Coût environnemental de l’intelligence artificielle

★ À maîtriser

• Selon l’Agence internationale de l’énergie, les centres de données représentaient environ 1,5 % de la consommation électrique mondiale en 2024.

• La consommation électrique des centres de données pourrait plus que doubler d’ici 2030 à cause du développement de l’IA générative.

Compléments

• Une requête sur un assistant conversationnel consommerait environ dix fois plus d’électricité qu’une recherche classique sur un moteur de recherche.

💡 Astuce mémo

Développement de l’IA générative → hausse de la consommation électrique.

📖 7. Encadrement et usages responsables de l’IA

★ À maîtriser

📌 L’AI Act classe les systèmes d’IA selon leur niveau de risque.

Compléments

📌 Les obligations les plus strictes de l’AI Act pour les IA à haut risque, utilisées notamment dans le recrutement ou l’accès au crédit, doivent s’appliquer progressivement d’ici 2027-2028.

• La CNIL contrôle l’utilisation des données personnelles par les IA et peut sanctionner les entreprises qui ne respectent pas les règles.

📌 Les entreprises ont une responsabilité dans la transparence de leurs systèmes, et les citoyens peuvent développer leur esprit critique en vérifiant les informations avant de les croire et en gardant à l’esprit qu’une IA peut se tromper tout en paraissant sûre d’elle.