Fiche de révision : Limites et risques de l’intelligence artificielle

📋 Plan du Cours

1. Biais des données et décisions
2. Actualité et apprentissage des modèles
3. Traçabilité et citation des sources
4. Absence de compréhension pratique
5. Hallucinations et fausses informations
6. Données personnelles et sécurité
7. Empoisonnement des modèles
8. Coût énergétique et environnemental

📖 1. Biais des données et décisions

🔑 Notions clés & Définitions

• Biais des données : Préjugé humain ou inégalité sociale présent dans les données d’entraînement et susceptible d’être reproduit ou amplifié par l’IA dans ses décisions ou recommandations.

📝 Points essentiels

• L’algorithme de recrutement d’Amazon a été abandonné parce qu’il écartait systématiquement les candidatures féminines pour des postes techniques après avoir appris à privilégier les profils masculins à partir des embauches passées de l’entreprise.

💡 Astuce mémo

Données biaisées → décisions biaisées ou amplifiées

📖 2. Actualité et apprentissage des modèles

🔑 Notions clés & Définitions

• Connaissances statiques : Informations issues d’une base de données figée à une date d’entraînement, qui ne permet pas à l’IA d’intégrer automatiquement les événements ou informations nouveaux en temps réel.

★ À maîtriser

• Les grands modèles de langage concernés sont:

  • GPT
  • Llama
  • Mistral
  • Gemini
  • Claude

• Lorsqu’une erreur est signalée pendant une session, le LLM peut ajuster sa réponse pour cette session, mais il ne mémorise pas durablement la correction sans nouvelle version ou fine-tuning.

Compléments

• ChatGPT avec des plugins ou intégrations tierces, Gemini de Google et Perplexity AI peuvent utiliser la recherche web ou l’agrégation d’actualité pour fournir des informations fraîches et sourcées à chaque requête.

💡 Astuce mémo

Modèle statique ≠ assistant connecté au web

📖 3. Traçabilité et citation des sources

🔑 Notions clés & Définitions

• Traçabilité des sources : Possibilité d’identifier les documents originaux à l’origine d’une information, mais les IA génératives ne la conservent généralement pas lorsqu’elles produisent du texte à partir de corrélations statistiques.

📝 Points essentiels

• Un rapport scientifique généré par IA peut contenir des informations correctes sans permettre d’identifier les articles ou les livres d’où provient chaque donnée, ce qui complique la validation et favorise le risque de plagiat.

📖 4. Absence de compréhension pratique

🔑 Notions clés & Définitions

• Compréhension pratique : Expérience et intuition nécessaires pour adapter une réponse à une situation concrète, capacités que l’IA ne possède pas lorsqu’elle assemble seulement des réponses crédibles.

📝 Points essentiels

• Une IA peut décrire correctement en apparence les étapes d’un changement d’huile tout en omettant la sécurisation de la voiture ou en proposant une procédure inadaptée au modèle.

💡 Astuce mémo

Réponse crédible ≠ compréhension du terrain

📖 5. Hallucinations et fausses informations

🔑 Notions clés & Définitions

• Hallucination : Invention par une IA générative d’informations ou de faits inexistants, parce qu’elle prédit les textes les plus plausibles plutôt qu’elle ne vérifie directement la vérité.

📝 Points essentiels

• Lorsqu’on lui demande des publications académiques précises, une IA peut générer de fausses références comportant des titres, des auteurs et des revues inventés, mais présentés de manière crédible.

💡 Astuce mémo

Une réponse plausible qui fabrique des références inexistantes

📖 6. Données personnelles et sécurité

★ À maîtriser

📌 L’accès de l’IA à des données personnelles ou sensibles exige des mesures de protection suffisantes, car leur insuffisance peut entraîner des fuites ou des usages non consentis en violation de la vie privée ou du cadre légal, notamment du RGPD.

Compléments

• Une IA analysant des dossiers médicaux mal anonymisés peut divulguer des éléments identifiants et des détails sensibles concernant les personnes concernées.

💡 Astuce mémo

Protection insuffisante → fuite ou usage non consenti

📖 7. Empoisonnement des modèles

🔑 Notions clés & Définitions

• Empoisonnement de l’IA : Introduction volontaire de fausses données dans l’apprentissage d’un modèle afin de corrompre ses connaissances ou son comportement.

📝 Points essentiels

• Des pirates peuvent altérer le comportement d’une IA en glissant du faux parmi les données vraies, ce qui peut conduire le modèle à produire des erreurs spécifiques ou des comportements cachés et malveillants.

💡 Astuce mémo

Des fiches truquées glissées dans les révisions d’un élève

📖 8. Coût énergétique et environnemental

★ À maîtriser

• Une requête d’environ 400 tokens sur ChatGPT ou GPT-4o mini consomme environ 2 Wh d’électricité, soit 2 g de CO2, contre 0,3 Wh pour une recherche Google classique.

• Les centres de données liés à l’IA et aux cryptomonnaies ont consommé près de 460 TWh d’électricité en 2022, soit environ 2 % de la production mondiale.

Compléments

• La création d’une image en haute définition par une IA consomme autant d’énergie que la recharge complète d’un téléphone portable.

📌 La phase d’entraînement d’un modèle est extrêmement énergivore et prise en compte une seule fois dans la vie du modèle, tandis que le coût annoncé d’une requête ne comprend que l’énergie nécessaire pour produire la réponse.

💡 Astuce mémo

Recherche web légère, requête générative plus coûteuse

📊 Tableaux de synthèse

Modèles statiques et accès au temps réel