Par Jordan Ricker :
« Maîtriser les comportements criminels des robots autonomes« , c’est le titre un brin anxiogène d’un ouvrage du Dr Ronald C. Arkin, qui travaille sur un logiciel de contrôle éthique des machines à tuer de l’armée. Il y fait le point sur une question – vitale – qui risque de se poser rapidement : sur quels critères une intelligence artificielle prend-elle la décision d’appuyer sur la gâchette ?
Ingénieur robotique au Georgia Tech’s Mobile Robot Lab, Ronald C. Arkin, qui rassemble sur le sujet les opinions de stratèges militaires, philosophes, chercheurs, politiciens et avocats, est optimiste.
Selon lui, des robots bien conçus seront mieux à même d’éviter les pertes humaines (dans ses propres rangs et parmi les civils) que les hommes eux-mêmes, et seraient donc garants de guerres plus morales.
Plus qu’une thèse, c’est l’objectif qu’il poursuit en tant que scientifique, se sentant la responsabilité de réduire notre inhumanité grâce à la technologie, et l’obligation de réfléchir à ces problèmes éthiques qui forcément se poseront.
Plus d’informations et vidéo sur La thèse du Dr Ronald Arkin sur la robo-éthique ou comment contrôler les robots-soldats dans la suite …
Vidéo de robots-soldats :
Le contrôleur du Dr Arkin consiste en une architecture logicielle équipant les machines d’un système de raisonnement dédié aux actions létales et garantissant que celles-ci respectent les conventions de Genève, le droit de la guerre et les règles d’engagement.
Les robots ne « pâtiraient » par ailleurs pas d’un sens de la survie, encore que vu le prix qu’ils coûteront l’on peut imaginer que l’option soit réclamée par les armées qui les commanderont, ni du problème psychologique de « réalisation du scénario », qui conduit les humains à interpréter les informations nouvelles dans un sens concordant avec leur préconceptions.
Un premier prototype de logiciel de contrôle éthique a été développé par l’équipe du Georgia Tech Lab. Cette version alpha implémente au robot la capacité de refuser un ordre qui ne lui semble pas « éthique », mais la machine doit expliquer la raison de son refus. Ce dernier peut-être outrepassé par commande humaine, l’opérateur prenant alors la responsabilité de l’action entreprise.
Reconnaître un civil d’un combattant reste quoi qu’il en soit tâche ardue, et les technologies actuelles sont loin de permettre une précision satisfaisante…
Consignes à l’attention des robots :
Le sujet, si son étude scientifique est récente, préoccupe depuis longtemps les auteurs de science-fiction. Isaac Asimov écrivait en 1942, dans la nouvelle « Cercle vicieux », ses fondatrices Trois Lois de la Robotique :
- Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
- Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
- Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
Dans son livre, « Governing Lethal Behavior in Autonomous Robots / Maîtriser les comportements criminels des robots autonomes« , Arkin explore divers scénarios complexes de situations dans lesquelles les robots pourraient agir en fonction de notions éthiques.
Les règles qu’il tire de l’analyse de conflits réels sont les suivantes :
- S’engager dans le combat et neutraliser ses cibles si celles-ci sont des combattants au sens des règles d’engagement.
- Répliquer proportionnellement.
- Minimiser les dommages collatéraux et protéger les civils.
- En cas d’incertitude, entreprendre des manÅ“uvres tactiques permettant de réévaluer le statut du combattant.
- Accepter de se rendre et d’être prisonnier de guerre en cas de capture par des forces humaines.
Il faudra encore beaucoup de recherches et d’expérimentations pour que le prototype donne naissance à des logiciels commercialisables (les premiers fruits du travail de l’auteur ne se baladeront selon lui sur les champs de bataille que d’ici 10 à 20 ans), et avant d’avoir le plaisir d’être épargné par de sympathiques robots armés.
En attendant, l’ouvrage de Ronald C. Arkin engage savamment le débat sur la robo-éthique, jeune science de la conscience artificielle, alors que l’on apprenait récemment qu’un groupe de spécialistes de l’Intelligence Artificielle et de la robotique s’était réuni dans le plus grand secret à Asilomar en Californie, pour discuter des risques de dérives incontrôlables liés aux avancées réalisées ces dernières années par la recherche dans leur domaine…
Source : Fluctuat par Jordan Ricker
Si vous copiez l'article ou que vous vous en inspirez, merci de citer vos sources.
