Fiche de révision : Robots, IA et guerre

📋 Plan du Cours

1. L’IA transforme les conflits armés
2. Autonomie et robotique militaires
3. Promesses et limites opérationnelles
4. Éthique et régulation des armes
5. Cyberarmes et guerre cognitive
6. Robots et maintien de l’ordre
7. Robots policiers et légitimité
8. Militarisation des robots quadrupèdes
9. Régulation des robots armés
10. IA au service des catastrophes
11. IA, contrôle humain et escalade
12. Dissuasion nucléaire et responsabilité

📅 Repères chronologiques

1. 2016Un tireur embusqué a été tué par l’explosion d’un robot piégé, ce qui a relancé le débat sur la légitimité des robots armés dans la police.
2. 2016Un sniper a été tué par l’explosion d’un robot piégé, ce qui a intensifié le débat sur la légitimité des robots armés dans la police
3. 2018Jung Moon a publié un livre sur la robotisation de la guerre et a ensuite consacré ses recherches à l’éthique de la robotique et à la réglementation des armes autonomes.
4. 23 février 2021La police de New York a utilisé un robot dans une opération de prise d’otage dans le Bronx, ce qui a suscité une controverse sur les rapports entre police et habitants.
5. 12 mars 2022Au 17e jour de la guerre en Ukraine, un drone kamikaze autonome s’écrase près de Kiev après avoir survolé une zone pour détecter sa cible.
6. mai 2022La conférence internationale sur la robotique et l’automatisation a consacré l’un de ses sujets principaux à la régulation des robots armés
7. octobre 2022Six entreprises de robotique ont publié une lettre ouverte dans laquelle elles s’engageaient à ne pas militariser leurs robots ni à aider d’autres acteurs à le faire

📖 1. L’IA transforme les conflits armés

🔑 Notions clés & Définitions

• Munition rodeuse : Drone qui survole une zone de façon autonome, détecte une cible puis s’écrase sur elle.
• SALAs : Machines de guerre capables de repérer et d’attaquer une cible sans intervention humaine.

📝 Points essentiels

📌 Les systèmes d’intelligence artificielle peuvent être employés pour la logistique militaire, l’analyse de données et les systèmes d’armes, et ne se limitent donc pas aux robots combattants.

💡 Astuce mémo

Autonomie accrue → contrôle humain réduit → nouveaux risques

📖 2. Autonomie et robotique militaires

★ À maîtriser

• 🔄 L’autonomie d’un robot terrestre repose sur plusieurs étapes:
  1. se localiser
  2. percevoir son environnement
  3. accomplir davantage de tâches sans opérateur

📌 Comme le GPS peut être brouillé sur un théâtre d’opération, les robots militaires doivent apprendre à se repérer à partir de données locales telles que les bâtiments, les rues et les distances.

📌 Les militaires recherchent une répartition des rôles entre l’humain et le robot et souhaitent conserver le contrôle de la mission plutôt qu’une autonomie complète.

Compléments

• La France développe des robots militaires pour le transport logistique, la reconnaissance et des applications armées, notamment avec Nexter Robotics et le robot tactique polyvalent Optio X20.

💡 Astuce mémo

Robot télécommandé : l’opérateur dirige ; robot autonome : la machine choisit davantage

📖 3. Promesses et limites opérationnelles

★ À maîtriser

• Les systèmes défensifs cités sont:

  • Phalanx
  • Iron Dome
  • MANTIS

• 🔄 Le déroulement de la mission du drone comprend plusieurs étapes:

  1. reconnaître les obstacles
  2. se déplacer seul
  3. signaler sa situation à l’opérateur
  4. recevoir le déclenchement des armes
  5. retourner automatiquement à sa base

• Le drone israélien Harpy peut couvrir une zone, localiser des radars ennemis et les détruire sans intervention humaine.

Compléments

• Le quadcoptère Hivemind de Shield AI peut pénétrer dans un bâtiment sans GPS ni radio, franchir des portes et des fenêtres, traiter les données de ses capteurs et transmettre ensuite ses observations aux soldats.

💡 Astuce mémo

Percevoir → décider → agir → rendre compte

📖 4. Éthique et régulation des armes

★ À maîtriser

📌 Les systèmes robotisés peuvent réduire le risque pour les soldats, mais cette protection ne supprime pas les morts et les conséquences humaines de la guerre.

📌 Les armes létales autonomes peuvent porter atteinte à la dignité humaine à grande échelle, ce qui fonde les appels à une réglementation internationale plus stricte.

Compléments

• L’être humain attend d’un algorithme une précision de 99 % et tolère moins ses erreurs que celles d’un humain, auquel il pardonne parfois une erreur dans 40 % des cas.

💡 Astuce mémo

Réduire les pertes humaines ne garantit pas le respect de la dignité humaine

📖 5. Cyberarmes et guerre cognitive

🔑 Notions clés & Définitions

• Guerre cognitive : Utilise des algorithmes, le ciblage et les hypertrucages pour modifier la perception et influencer les opinions ou les comportements.

★ À maîtriser

• L’intelligence artificielle de cybersécurité établit le profil d’une infrastructure, identifie ce qui est normal puis détecte ce qui s’en écarte afin de repérer des attaques inconnues.

Compléments

• Hacking Team développait des logiciels espions capables de collecter des fichiers, des messages, des courriels, des photographies et une position GPS sur des ordinateurs, des téléphones ou des serveurs.

• Selon Alberto Pellicone, dans 9 cas sur 10, le produit de Hacking Team était finalement utilisé à mauvais escient, notamment dans des opérations visant des activistes et des journalistes.

💡 Astuce mémo

Logiciels accessibles → piratage facilité → diffusion de la violence et de l’influence

📖 6. Robots et maintien de l’ordre

★ À maîtriser

• Le robot Spot peut intervenir dans des bâtiments dangereux, aider à libérer des otages et désamorcer des bombes, car il atteint des zones trop risquées pour les policiers.

Compléments

• Selon les services américains cités, lorsque les malfaiteurs communiquent avec la police par l’intermédiaire de Spot, ils renoncent à leur crime dans 50 % des cas.

💡 Astuce mémo

Secourir dans un lieu dangereux n’est pas contrôler une population vulnérable

📖 7. Robots policiers et légitimité

★ À maîtriser

• Le robot Spot peut intervenir dans des lieux sinistrés dangereux, notamment lorsque des éléments fondus pendent du plafond ou que des parties du bâtiment risquent de s’écrouler.

• Lorsque la police communique avec des malfaiteurs par l’intermédiaire de Spot, ceux-ci renoncent à commettre leur crime dans 50 % des cas rapportés aux États-Unis.

Compléments

📌 La décision d’équiper un robot d’armes non meurtrières ou moins meurtrières doit relever à la fois du monde politique et de la société.

💡 Astuce mémo

Spot communique et dissuade, tandis que le robot armé contraint et tue

📖 8. Militarisation des robots quadrupèdes

★ À maîtriser

• En 2021, Ghost Robotics a présenté un robot-chien portant un fusil de précision sur son dos.

📌 Ghost Robotics accepte d’intégrer un fusil à son robot terrestre, tandis que l’entreprise affirme que les décideurs politiques et la législation doivent déterminer comment ces technologies peuvent être utilisées.

Compléments

• Le développement des robots quadrupèdes a nécessité de les rendre plus robustes, résistants aux intempéries et dotés d’une batterie offrant une très longue autonomie.

• L’armée de l’air a utilisé ces robots pour patrouiller dans certaines zones de ses bases, qui peuvent s’étendre sur des centaines d’hectares et comporter des rochers, des buissons et des arbres.

• Les mêmes chiens robots sont testés aux frontières pour patrouiller, et ils intéressent également les Marines, l’armée et d’autres agences gouvernementales américaines.

💡 Astuce mémo

Investissements militaires → robots plus robustes, autonomes et polyvalents

📖 9. Régulation des robots armés

★ À maîtriser

• Entre 2017 et 2022, les États ont adopté une série de principes directeurs pour une gestion potentielle des systèmes d’armes autonomes, sans accepter de poursuivre le débat.

• Il n’existe aucun traité international empêchant actuellement le développement ou l’utilisation de ces technologies.

Compléments

📌 Les fabricants peuvent limiter le détournement malveillant de leurs produits, mais ils ne contrôlent pas entièrement l’usage que les utilisateurs en font chez eux.

💡 Astuce mémo

Principes directeurs → absence de traité → engagements volontaires

📖 10. IA au service des catastrophes

★ À maîtriser

• Pour cartographier un incendie, un drone peut survoler la zone, permettre à l’intelligence artificielle de cartographier automatiquement son périmètre en quelques minutes, puis transmettre les informations au sol afin de déployer les ressources plus rapidement et efficacement.

Compléments

📌 L’intelligence artificielle est utilisée par le ministère de la Défense dans la guerre, mais aussi dans la prévention des catastrophes et d’autres domaines sans rapport direct avec l’armement.

📌 Des systèmes d’intelligence artificielle plus précis et plus rapides qu’un humain pourraient théoriquement réduire les pertes civiles et traiter les données de plusieurs capteurs.

💡 Astuce mémo

Cartographie automatisée → intervention plus rapide et plus sûre

📖 11. IA, contrôle humain et escalade

🔑 Notions clés & Définitions

• Guerre éclair : Conflit militaire déclenché rapidement par l’interaction imprévue de systèmes d’armement très autonomes dont le contrôle humain est fortement réduit

📝 Points essentiels

• 🔄 Le système de ciblage traite les données en trois étapes (Palantir):

  1. recueillir les données de différents capteurs
  2. recouper et analyser les données
  3. produire un tableau de la situation presque en temps réel

• Les algorithmes de ciblage doivent respecter d’innombrables règles militaires, éthiques et relatives au droit international.

• Le principe de proportionnalité, le discernement et le principe général d’humanité encadrent la décision de tuer ou de laisser vivre.

• Un être humain doit conserver le dernier mot et la responsabilité de tuer ou de laisser vivre, mais ce contrôle perd son sens si l’humain ne peut pas comprendre ni remettre en question les conclusions de l’intelligence artificielle.

💡 Astuce mémo

Précision algorithmique ≠ jugement humain

📖 12. Dissuasion nucléaire et responsabilité

★ À maîtriser

• Le système soviétique Perimètre, surnommé Dead Hand ou « main morte », devait pouvoir déclencher automatiquement une contre-attaque nucléaire si une attaque américaine avait anéanti la population russe et empêché tout contrôle humain.

📌 Des systèmes d’intelligence artificielle capables de rendre les océans transparents pourraient repérer les sous-marins nucléaires cachés et fragiliser la dissuasion fondée sur la capacité de riposte.

📌 La course à l’armement pousse les États à égaler ou dépasser les systèmes adverses, tandis que la raison humaine peut imposer l’arrêt de technologies devenues incontrôlables.

Compléments

• Après le largage des bombes nucléaires, Oppenheimer s’est autocritiqué en se décrivant comme le « destructeur des mondes ».

📌 La conception responsable des systèmes d’armement exige une boussole morale et un leadership capable d’assumer collectivement les décisions prises.

💡 Astuce mémo

Course à l’armement → perte de contrôle → risque d’anéantissement

📊 Tableaux de synthèse

Contrôle humain des systèmes armés