Fiche de révision : Introduction à la Réglementation de l’IA

📋 Plan du Cours

1. Définition de l’IA et fonctions algorithmiques
2. Manipulation préjudiciable par l’IA
3. Exploitation des vulnérabilités et vie privée
4. Notation sociale et catégorisation biométrique
5. Usages répressifs interdits
6. Analyses d’impact sur les droits fondamentaux
7. Contenu et méthodologie de l’AIDF
8. Transparence des systèmes et modèles d’IA
9. Droit à l’explication et articulation avec le RGPD

📖 1. Définition de l’IA et fonctions algorithmiques

🔑 Notions clés & Définitions

• Système d’intelligence artificielle OCDE : Un système d’intelligence artificielle désigne une machine capable, pour des objectifs définis, de produire des prédictions, recommandations ou décisions qui influencent des environnements réels ou virtuels.
• Recommandation adaptative : La fonction recommander consiste à proposer des contenus, produits ou services adaptés à un utilisateur.
• Classement hiérarchisation : La fonction classer/hiérarchiser organise et ordonne des informations selon des critères.
• Catégorisation profilage : La fonction catégoriser attribue une personne ou un objet à une catégorie ou un profil.
• Décision automatisée : La fonction décider/automatiser produit une décision ou un traitement ayant un effet sur une personne ou une situation.

📝 Points essentiels

• La définition OCDE vise les prédictions, recommandations ou décisions qui influencent des environnements réels ou virtuels pour un ensemble d’objectifs définis par l’homme.
• Les systèmes algorithmiques peuvent être décrits par cinq fonctions majeures : recommander, classer/hiérarchiser, catégoriser, prédire, décider/automatiser.
• La table d’exemples concrets des usages et fonctions de l’IA a été élaborée par la CNIL en 2017.
• La définition OCDE a servi de socle à l’élaboration de la définition de l’UE.

💡 Astuce mémo

R-C-C-P-D : Recommander, Classer, Catégoriser, Prédire, Décider.

📖 2. Manipulation préjudiciable par l’IA

🔑 Notions clés & Définitions

• IA manipulatrice ou trompeuse : Système d’intelligence artificielle qui emploie des techniques clandestines pour altérer substantiellement le comportement d’une personne ou d’un groupe, en causant un préjudice ou en le rendant probable.
• Techniques subliminales : Techniques dissimulées qui influencent le comportement sans que la personne perçoive consciemment l’existence de l’influence, ni son fonctionnement ni ses effets.
• Objectif ou effet d’altération substantielle : Exigence du RIA selon laquelle la technique clandestine doit viser ou produire une modification importante du comportement de la personne ou du groupe.

📝 Points essentiels

• Le RIA interdit les IA utilisant des techniques subliminales au-delà de la conscience ou des techniques délibérément manipulatrices ou trompeuses, si elles altèrent substantiellement le comportement d’une personne ou d’un groupe et causent ou risquent de causer un préjudice.
• Les techniques clandestines visées incluent les techniques subliminales, les techniques manipulatrices (objectifs cachés dans les limites de la conscience) et les techniques trompeuses (informations fausses ou trompeuses visant à obtenir une autonomie de décision compromise).
• L’altération substantielle du comportement doit être susceptible de conduire à une décision ou à une formation des valeurs/opinions modifiée, selon la finalité de la technique clandestine.
• Le préjudice peut être éventuel mais il est apprécié notamment au regard du nombre de personnes touchées et de la résérvabilité du dommage.
• L’interdiction de l’article 5 ne s’applique pas aux activités de recherche et développement scientifiques ni aux usages militaires/défense ou de sécurité nationale, avec une notion de “défense nationale” interprétée de façon variable selon l’UE et les États membres.
• Les fournisseurs et déployeurs impliqués dans une pratique interdite encourent une amende pouvant aller jusqu’à 35 M€ ou 7% du chiffre d’affaires mondial, le maximum étant retenu.

💡 Astuce mémo

Risque interdit à l’art. 5(a) : Clôture en 3 coups—Clandestin, Altération substantielle, Préjudice (causé ou plausible).

📖 3. Exploitation des vulnérabilités et vie privée

🔑 Notions clés & Définitions

• Exploitation des vulnérabilités : Notion d’interdiction du RIA visant des systèmes d’IA qui tirent parti des faiblesses d’une personne liée notamment à l’âge, au handicap ou à sa situation sociale ou économique pour altérer son comportement.
• Reconnaissance des émotions : Système d’intelligence artificielle qui déduit ou identifie des émotions à partir de données biométriques, avec des interdictions spécifiques dans certains lieux.
• Base de données de reconnaissance faciale : Base destinée à établir une correspondance entre un visage issu d’une image ou vidéo et des visages de référence afin de déterminer une correspondance probable.

📝 Points essentiels

• L’article 5 du RIA interdit les systèmes d’IA qui utilisent des techniques délibérément manipulatrices ou trompeuses ou des techniques subliminales pour altérer substantiellement le comportement d’une personne ou d’un groupe, en causant ou risquant un préjudice important.
• L’article 5§1(b) interdit les systèmes exploitant les vulnérabilités d’une personne physique ou d’un groupe déterminé (âge, handicap, situation sociale ou économique) pour altérer substantiellement le comportement, de façon à causer ou à risquer un préjudice important.
• Les vulnérabilités visées sont limitées à l’âge (enfants et personnes âgées), au handicap (physique, mental et sensoriel durable) et à la situation sociale ou économique (statut juridique ou appartenance à un groupe vulnérable).
• Les systèmes d’inférence des émotions sont interdits dans les lieux de travail et les établissements d’enseignement, sauf finalités médicales ou de sécurité.
• La constitution de bases de données de reconnaissance faciale est interdite, sauf si la base n’est pas alimentée par moissonnage non ciblé fondé sur l’IA et si les images n’ont pas une origine spécifique (internet ou vidéosurveillance), critères cumulatifs requis.
• Les interdictions concernant manipulation et exploitation de vulnérabilités s’appliquent aux fournisseurs et aux déployeurs, tout comme les interdictions relatives à la reconnaissance des émotions et à la constitution des bases faciales.

💡 Astuce mémo

Manipulation = techniques clandestines + altération substantielle + préjudice important ; Vie privée = émotions (travail/école) interdites sauf médical/sécurité + bases faciales interdites si moissonnage non ciblé IA et images d’internet ou vidéosurveillance.

📖 4. Notation sociale et catégorisation biométrique

🔑 Notions clés & Définitions

• Notation sociale préjudiciable : La notation sociale préjudiciable est une catégorisation de personnes visant à altérer substantiellement leur comportement, tout en causant ou risquant un préjudice important.
• Catégorisation biométrique : La catégorisation biométrique est un système d’IA qui attribue des personnes à des catégories spécifiques à partir de leurs données biométriques.
• Données biométriques : Les données biométriques sont des données personnelles issues d’un traitement technique spécifique portant sur des caractéristiques physiques, physiologiques ou comportementales d’une personne.

📝 Points essentiels

• L’interdiction de la notation sociale préjudiciable figure à l’article 5, paragraphe 1, point c) du RIA et vise notamment des catégorisations fondées sur des comportements sociaux ou caractéristiques personnelles, avec un effet préjudiciable.
• Pour être couverte, la notation sociale doit exploiter une vulnérabilité listée et altérer substantiellement le comportement dans un ou plusieurs contextes sociaux dissociés de ceux où les données ont été générées.
• La notation sociale interdite n’est pas ponctuelle : elle doit être réalisée sur une période donnée, les catégorisations ponctuelles étant exclues du champ de l’interdiction.
• L’interdiction vise aussi l’outil prédictif d’IA lorsque le traitement issu de la notation est injustifié ou disproportionné par rapport à la gravité du comportement social.
• La prohibition de la catégorisation biométrique figure à l’article 5, paragraphe 1, point g) du RIA et s’appuie sur une définition par le système d’IA et par la notion de données biométriques du RIA.
• L’interdiction de la catégorisation biométrique est encadrée par des limites restrictives, notamment des usages strictement nécessaires à un autre service commercial et des cas autorisés seulement pour certains objectifs listés par le RIA.

💡 Astuce mémo

Social = art. 5(1)(c) : période + vulnérabilité + préjudice; Biométrique = art. 5(1)(g) : catégories à partir de biométrie, avec objectifs et exceptions très restrictifs.

📖 5. Usages répressifs interdits

🔑 Notions clés & Définitions

• Prédiction individuelle des risques pénaux : Notion répressive : système d’IA évaluant ou prédisant le risque qu’une personne physique commette une infraction pénale à partir de son profilage.
• Profilage : Notion (au sens RGPD) : traitement visant l’évaluation de caractéristiques personnelles ou traits de personnalité d’une personne physique.
• Identification biométrique à distance en temps réel : Catégorie d’usage : système d’IA qui compare des données biométriques d’une personne à une base de données pour l’identifier immédiatement.
• Espace accessible au public : Notion RIA : espace physique, public ou privé, accessible à un nombre indéterminé de personnes sans dépendre de restrictions de capacité ou de conditions d’accès.

📝 Points essentiels

• Le RIA interdit les systèmes d’IA faisant des évaluations de risque visant à déterminer ou prédire si une personne physique commettra une infraction pénale à partir de son profilage.
• L’interdiction ne s’applique pas aux systèmes d’IA utilisés pour soutenir l’évaluation humaine de l’implication dans une activité criminelle quand cette évaluation est déjà fondée sur des faits objectifs et vérifiables liés à cette activité.
• L’identification biométrique à distance est prohibée quand l’identification est réalisée en temps réel (capture instantanée sans décalage significatif) dans un espace accessible au public et à des fins répressives.
• Le champ de l’interdiction d’identification biométrique à distance suppose l’existence d’une base de données contenant les données biométriques de référence, nécessaire au fonctionnement du système.
• L’identification biométrique à distance peut être autorisée dans des cas stricts, notamment pour cibler une personne soupçonnée ou condamnée pour une infraction pénale, ou sur autorisation préalable d’une autorité (judiciaire ou administrative) avec décision contraignante et contrôle juridictionnel, avec exigences de documentation pour…

💡 Astuce mémo

Interdit = prédire l’infraction d’une personne OU identifier en biométrie à distance en temps réel dans l’espace public à but répressif.

📖 6. Analyses d’impact sur les droits fondamentaux

🔑 Notions clés & Définitions

• Analyse d’impact sur les droits fondamentaux AIDF : Analyse procédurale imposée par le RIA pour évaluer les atteintes potentielles aux droits fondamentaux d’un système d’IA à haut risque.
• Autorité de surveillance du marché : Autorité chargée de recevoir la notification des résultats d’une AIDF prévue par le RIA.
• Bureau de l’IA : Organe du RIA qui doit élaborer un modèle de questionnaire destiné à encadrer la réalisation des AIDF.
• Contrôle humain : Mesure de mise en œuvre à documenter dans l’AIDF décrivant comment l’humain intervient pour prévenir ou limiter les risques pour les droits.

📝 Points essentiels

• L’AIDF doit être réalisée avant la première mise en service du système d’IA à haut risque et ses résultats sont notifiés à l’autorité de surveillance du marché par l’article 27 du RIA.
• Les sanctions prévues en cas de manquement peuvent atteindre 20 millions d’euros ou 4 % du chiffre d’affaires annuel mondial, selon l’article 99 du RIA.
• Le RIA impose que l’AIDF contienne six éléments : description des processus, période d’utilisation, catégories de personnes concernées, risques spécifiques de préjudice, mesures de contrôle humain, et actions en cas de matérialisation des risques.
• À la seule lecture de l’article 27, le RIA ne prévoit pas explicitement un contrôle de nécessité et de proportionnalité dans l’AIDF.
• L’article 27, paragraphe 5 prévoit que le Bureau de l’IA élabore un modèle de questionnaire, sans imposer une méthodologie unique aux déployeurs.
• Le contenu de l’AIDF est une démarche de gestion des risques plutôt qu’une exigence d’abandon ou de modification automatique : l’obligation est procédurale lorsque les conditions sont remplies.

📖 7. Contenu et méthodologie de l’AIDF

🔑 Notions clés & Définitions

• Analyse d’impact sur les droits fondamentaux : L’analyse d’impact sur les droits fondamentaux est une évaluation obligatoire des effets potentiels d’un système d’IA sur les droits fondamentaux avant son déploiement.
• Déployeur : Le déployeur désigne toute personne morale, autorité publique ou organisme utilisant un système d’IA sous sa propre autorité, hors usage dans une activité personnelle non professionnelle.
• Caractère de haut risque : Le haut risque correspond aux systèmes d’IA visés par le RIA, notamment lorsqu’ils entrent dans le champ de l’articulation entre annexes et catégories du règlement.
• Questionnaire de l’AIDF : Le questionnaire de l’AIDF est un modèle de recueil prévu par le RIA, élaboré pour aider à structurer la démarche d’analyse.

📝 Points essentiels

• L’AIDF est réalisée sur les systèmes d’IA à haut risque au sens de l’article 6 du RIA, avec un champ plus large que l’AIPD du RGPD.
• Les déployeurs réalisent l’AIDF (article 27 du RIA) et les analyses doivent être effectuées avant la première mise en service du système à haut risque.
• L’AIDF doit contenir six éléments obligatoires : processus du déployeur, période d’utilisation, personnes concernées, risques spécifiques de préjudice, mesures de contrôle humain, mesures en cas de matérialisation des risques.
• L’AIDF est une démarche procédurale sans obligation explicite d’établir une nécessité/proportionnalité à la seule lecture de l’article 27, mais un système de gestion des risques est requis par l’article 9 du RIA.
• Le RIA laisse une flexibilité méthodologique, et le Bureau de l’IA doit élaborer un modèle de questionnaire (article 27, paragraphe 5 du RIA).
• Le modèle HUDERIA (adopté le 26 février 2025) fonde l’analyse sur le contexte de déploiement et propose ensuite d’évaluer le niveau de risque via l’ampleur, la portée, la réversibilité et la probabilité, avec une réponse ultime de ne pas déployer si le risque est trop élevé, ainsi que des « questions zéro » pour vérifier la compatibilité…

💡 Astuce mémo

Haut Risque = AIDF Avant Mise En service : 6 blocs + Contrôle humain + Plan B si préjudice.

📖 8. Transparence des systèmes et modèles d’IA

🔑 Notions clés & Définitions

• Documentation technique : Exigence de transparence imposant la préparation d’un document décrivant la construction du système et la place du contrôle humain pour les systèmes d’IA à haut risque.
• Notice d’utilisation : Document de transparence destiné aux déployeurs, exigé pour les systèmes d’IA à haut risque et qui doit préciser des informations concrètes sur l’usage et la performance.
• Risque systémique des modèles : Catégorie de risque liée aux capacités à fort impact des modèles d’IA à usage général, avec des effets négatifs réels ou prévisibles pouvant se propager à grande échelle.
• Marquage généré par IA : Obligation de transparence visant à indiquer que certains contenus visuels ou audio ont été créés ou manipulés par un système d’IA, notamment via hypertrucages.

📝 Points essentiels

• Article 11 du RIA : une documentation technique doit être établie avant la mise sur le marché ou en service d’un système d’IA à haut risque, puis tenue à jour, avec une description de la construction et de la place du contrôle humain.
• Article 13 du RIA : une notice d’utilisation doit accompagner tout système d’IA à haut risque destiné aux déployeurs, et préciser notamment le niveau d’exactitude, les circonstances d’utilisation et les performances.
• Article 53 du RIA : pour les modèles d’IA à usage général, le fournisseur doit fournir une documentation technique du modèle incluant l’entraînement et les essais, ainsi qu’un résumé suffisamment détaillé du contenu utilisé pour entraîner le modèle.
• Article 55 du RIA : les obligations renforcées visent certains modèles d’IA à usage général présentant un risque systémique, avec documentation des risques liés au fonctionnement et signalement des incidents graves au Bureau de l’IA.
• Risque systémique (art. 3, point 65 du RIA) : risque lié à des capacités à fort impact d’un modèle d’IA à usage général ayant une incidence significative sur le marché de l’Union en raison de leurs effets négatifs possibles sur la santé, la sûreté, la sécurité publique, les droits fondamentaux ou la société, pouvant être propagés à…
• Article 50 du RIA : pour les systèmes d’IA ciblant une interaction directe et pour les contenus vidéo/texte/audio générés, la personne doit être informée, et les contenus générés/manipulés par hypertrucage doivent être marqués « généré par IA » avec une exception si l’information ressort clairement du contexte pour une personne…

💡 Astuce mémo

11-13 pour l’IA à haut risque (doc + notice), 53-55 pour l’usage général (résumé + risque systémique), 50 pour l’info en interaction et le « généré par IA ».

📖 9. Droit à l’explication et articulation avec le RGPD

🔑 Notions clés & Définitions

• Décision automatisée RGPD : La décision automatisée RGPD est une décision prise uniquement sur la base d’un traitement automatisé des données personnelles.
• Article 86 RIA : L’article 86 du RIA consacre un droit à l’explication spécifique pour certaines décisions individuelles liées à des systèmes d’IA à haut risque.
• Absorption RGPD : L’absorption RGPD désigne le risque que le régime RGPD rende l’article 86 du RIA presque inutile quand les données personnelles sont en jeu.

📝 Points essentiels

• L’article 22 et les articles 13-14-15 du RGPD encadrent l’information liée aux décisions automatisées et imposent de fournir des informations sur la logique sous-jacente.
• L’article 86 du RIA n’accorde le droit à l’explication que pour des décisions individuelles prises à l’aide de certains systèmes d’IA à haut risque.
• Le droit à l’explication du RIA ne porte pas sur le fonctionnement technique interne, mais sur le rôle de l’IA dans la procédure et sur les éléments principaux de la décision.
• Le droit à l’explication de l’article 86 du RIA est un droit subsidiaire : il ne s’applique que si aucun droit équivalent n’existe déjà dans l’Union européenne.
• La CJUE du 27 février 2025 a consacré un droit à l’explication des décisions automatisées dans le cadre du RGPD, notamment en matière d’évaluation de crédit.

📅 Repères chronologiques

📊 Tableaux de synthèse

AIDF (RIA) vs AIPD (RGPD)

⚠️ Pièges & confusions fréquents

1. Confondre la définition générale de l’IA (OCDE) avec la logique du RIA : le RIA vise des usages à risque, pas toute “IA” au sens large.
2. Croire que l’art. 5 interdit toute technologie : le cours insiste sur des interdictions d’usages spécifiques et sur des exclusions (recherche/développement, défense/sécurité nationale).
3. Mélanger “manipulation” et “persuasion” : la manipulation suppose des objectifs cachés dans les limites de la transparence (selon le cours).
4. Oublier que l’exploitation de vulnérabilités suppose des vulnérabilités listées (âge/handicap/situation sociale ou économique) et un effet/objet d’altération substantielle.
5. Réduire la reconnaissance des émotions à la seule “vie privée” : elle est surtout encadrée (interdite au travail et à l’éducation, sauf finalités médicales ou sécurité).
6. Retenir “notation sociale” comme ponctuelle : le cours exige une réalisation sur une période donnée, les catégories ponctuelles étant exclues.
7. Penser que l’AIDF est un contrôle de nécessité/proportionnalité : le cours dit qu’il n’y a pas d’obligation explicite à la seule lecture de l’art. 27 (mais un cadre de gestion des risques existe).

✅ Checklist Examen

1. Définir un système d’IA selon l’OCDE (prédictions/recommandations/décisions et influence sur des environnements réels ou virtuels).
2. Citer les cinq fonctions algorithmiques : recommander, classer/hiérarchiser, catégoriser, prédire, décider/automatiser.
3. Expliquer l’art. 5(a) : conditions de la manipulation préjudiciable (technique clandestine, altération substantielle, préjudice) et les 3 types de techniques.
4. Identifier l’art. 5§1(b) : exploitation de vulnérabilités (vulnérabilités listées, altération substantielle, préjudice) et les catégories d’âges/handicap/situation visées.
5. Rappeler la protection de la vie privée : art. 5(f) (reconnaissance des émotions au travail/éducation sauf médical/sécurité) et la constitution limitée/interdite de bases faciales (conditions cumulatives).
6. Décrire la notation sociale préjudiciable (période, contexte social dissocié, vulnérabilité exploitée et effet préjudiciable) et rappeler l’exclusion des catégorisations ponctuelles.
7. Présenter la prohibition biométrique (art. 5§1(g)) : notion de catégorisation biométrique, et les contours restrictifs (exceptions/conditions et objectifs listés).
8. Expliquer les usages répressifs interdits : prédiction individuelle des risques pénaux sur profilage (avec l’exclusion “étayage de l’évaluation humaine” sur faits objectifs) et l’identification biométrique à distance en temps réel dans un espace accessible au public (avec base de référence et finalités répressives).
9. Rappeler la logique des exclusions aux interdictions (recherche/développement scientifique, usages militaires/défense ou sécurité nationale) et la notion de “défense nationale” sans définition stricte.
10. Expliquer l’AIDF (art. 27) : quand elle doit être faite, qui la réalise (déployeur), ses six éléments, et le modèle de questionnaire (Bureau de l’IA).
11. Comparer AIDF vs AIPD : base juridique (art. 27 vs 35 RGPD), déclencheur (IA haut risque vs risque élevé RGPD) et champ (droits fondamentaux plus large vs surtout vie privée).
12. Présenter la transparence et l’explication : obligations doc/notice pour IA haut risque (art. 11-13), marquage “généré par IA”/information dans les interactions (art. 50), et droit à l’explication art. 86 (rôle du système et éléments déterminants, droit subsidiaire face à l’existant RGPD).