Impact sociétal de la robotique

Class'Code - Le numérique et ses sciences dans le réel

Chargement de la playlist en cours...

Robotique et intelligence artificielle 

Quand les robots changent nos lois – Éthique et robotique

La robotique, dans l'imaginaire un peu collectif des films, c'est typiquement le véhicule autonome qui va conduire tout seul, c’est un robot plus ou moins humanoïde. Robot, dit compagnon, qui sera capable de tenir un dialogue intelligent, réaliser un ensemble de tâches extrêmement complexes.

  • En fait, la robotique pour le moment et dans un futur probablement lointain, ce n'est pas du tout ça parce que ces robots humanoïdes qui sont des outils de recherche absolument admirables, sont encore très, très loin d'être prêts. Il y a un grand nombre de verrous scientifiques à briser avant de pouvoir réellement les déployer sans parler de problèmes de consommation énergétique.
  • Il est vrai que depuis quelques années, le robot a franchi la barrière qui existait entre l'industriel et l'humain. Cette robotique là, est en train d'exploser. Le robot va se rapprocher de l'humain. Mais cette proximité va induire des risques et des problèmes légaux ou de responsabilité, d'éthique.

Questions d'éthique : l'exemple du véhicule autonome 

  • On n'est pas tout à fait prêt à avoir un véhicule autonome qui soit capable de marcher dans toutes les conditions, dans tous les lieux. Néanmoins, dans un environnement particulièrement bien structuré, si ce véhicule connaît bien la cartographie du lieu, alors effectivement il y a des possibilités d'autonomie du véhicule. Ce qui ne va pas sans poser quelques problèmes d'éthique.
  • Un problème qui est assez classique est le suivant : fatalement, un tel véhicule va un jour se trouver dans une configuration où il devra faire un choix entre deux situations dramatiques. D'un point de vue mécanique, il va être obligé de freiner parce qu'il y a un obstacle sur la route et en freinant malheureusement, il est obligé de se diriger soit vers un groupe de béton voire un piéton, soit se diriger vers une barrière. Chacune des deux options conduisant à un dommage peut-être fatal pour chacun des objets qui vont être touchés. Donc, qu'est-ce qu'on va choisir ? Qui sauve-t-on ? Le conducteur ou le piéton ? 
  • Et ça, c'est typiquement un problème d'éthique pour lequel, en tant qu'experts scientifiques, notre rôle est de présenter les futurs possibles. Voilà ce qui peut se passer avec les avantages et les inconvénients. Ce n'est évidemment pas à nous en tant que scientifiques, mais simplement en tant que citoyens et à la société toute entière de faire des choix pour indiquer ce qui est admissible ou non admissible. Comment sévit-on pour les gens qui ne respecteraient pas les règles instaurées par la société ?

Questions d'éthique à propos de la collaboration de l'homme et du robot 

  • Donc on a le robot qui se rapproche de l'homme. Et l'une des possibilités effectivement, c'est d'utiliser le robot pour aider et éventuellement aussi pour observer le comportement de l'homme dans certaines circonstances, gérer des situations d'urgence. Ce sont deux possibilités.
  • Typiquement, ces robots d'assistance commencent à exister dans le monde industriel. C'est ce qu'on va appeler les "cobots". C'est-à-dire des systèmes où il y a à la fois un robot et un homme. Le robot va se charger des tâches les plus pénibles, par exemple soulever des lourdes charges. L'homme a par contre une expertise du geste que le robot n'atteindra jamais. Mais a des difficultés vis-à-vis de l'applicabilité de la tâche. Donc faire collaborer ces deux systèmes paraît juste de bon sens.
  • Dans le cadre de la robotique industrielle, d'un point de vue légal, la situation est assez claire. Il y a par exemple la directive machine qu'il faudrait adapter à nos nouvelles formes de robotique, mais globalement, les règles légales sont à peu près là. Qu'est-ce qu'il se passerait s'il y avait un accident ? Donc d'un point de vue légal et d'un point de vue des risques, on avance sur un terrain qui a été bien défriché.
  • Par contre, l'aspect observationnel est beaucoup moins évident et pose des problèmes d'éthique, car la machine qui aide l'homme va aussi être capable de donner des informations sur la manière dont il fournit et effectue son travail. On passe dans ce qu'on appelle l'observationnel : le système qui observe le comportement humain. Alors évidemment, on peut sortir tout un tas d'arguments pour dire que c'est une bonne chose, que les indicateurs de performance sacro-saints pour les managers vont être très utiles pour améliorer les performances de l'entreprise.
  • En même temps, ces indicateurs sont établis très souvent avec une machine qui n'est pas complètement au courant de l'ensemble du contexte de la réalisation de la tâche. Il peut donc y avoir des raisons objectives à faire quelque chose moins vite que d'habitude parce qu'il y a eu un facteur de complexité supplémentaire qui ne sera pas mesuré par les indicateurs. Donc, il est problématique de faire évaluer des personnes par des machines qui n'ont pas forcément toutes les capacités pour appréhender la situation.
  • Après, il y a bien sûr le problème de l'observation de l'homme par la machine. Est-ce que le technicien qui fait le geste va accepter d'être surveillé par cette machine. Qu'est-ce qu'on lui dit à ce technicien de ce que fait la machine, de ce que mesure la machine ? Dans quel objectif a-t-il accès à ces données ? Sont-elles anonymisées ? Servent-elles simplement à faire des traitements statistiques ? Est-ce qu'elles vont sortir de l'entreprise ? Ce sont des problèmes d'éthique sur lesquels il faudra bien un jour se pencher.

Les enjeux éthiques de la robotique médicale 

  • Maintenant on va observer ce qui pourrait se passer dans le domaine personnel. Par exemple, imaginez un appartement de personnes âgées. Personnes âgées qui ont, par exemple, des problèmes de mobilité, il va falloir les aider à se déplacer pour qu'elles continuent à rester autonomes. Ces dispositifs d'assistances ont un autre objectif qui est orienté vers la communauté médicale. Le but, c'est d'évaluer l'état de santé de ces personnes qui sont des personnes à risques qui peuvent chuter par exemple, avec des conséquences dramatiques. Être capable d'observer ce comportement et de signaler des situations d'urgence ou de détecter l'apparition d'une pathologie émergente. Donc, il y a des avantages absolument complets. Mais en même temps, il y a aussi des problèmes d'éthique.
  • Qu'est-ce qui se passe avec ces dispositifs qui sont souvent des machines puissantes parce que pour soulever une personne, il faut une machine d'une puissance considérable. Ce qui veut dire que cette puissance utilisée peut blesser la personne âgée. Donc, un risque accru qui pose le problème de l'acceptation. Jusqu'où va-t-on accepter qu'une machine prenne en charge la mobilité d'une personne sachant que cette machine fatalement un jour présentera un défaut et pourra créer une situation absolument dramatique. En même temps, on retombe sur le problème de la robotique et de la cobotique. Cet assistant qui évalue l'observationnel de l'individu.
  • Mais évidemment, ces données peuvent avoir un intérêt économique très fort auprès de personnes extérieures qui vont par exemple profiter de l'état de faiblesse des personnes âgées pour essayer de leur vendre assurance-vie, téléassistance, tout ce qu'on peut imaginer comme solutions dont l'efficacité reste encore à prouver mais qui présentent pour les entreprises un intérêt économique considérable.
  • Cela pose déjà un petit problème sur la sécurité des informations. Ces informations, on peut certes les anonymiser, essayer de les crypter. C'est ce qu'on fait nous systématiquement. Malgré tout, par exemple, à un moment donné, il faudra bien les transmettre. Transmettre à qui ? Dans un cadre privilégié d'une relation médecin-client ? Ces données ont pourtant un intérêt, plus largement pour la communauté médicale, puisqu'on peut observer des tas de choses sur un grand nombre d'individus. Ce qui peut aider à faire progresser des traitements en se basant justement sur ces deux analyses de grandes données. On est dans une espèce d’antinomie ou les données devraient être les plus confidentielles possible. Et en même temps, elles devraient être utilisées, par au moins un public très averti, pour en tirer des bénéfices sur la médecine.
  • Enfin, il y a la sécurité des transmissions. Alors d'abord, il faut démythifier un tout petit peu ce monde hyper-connecté de manière extrêmement fiable qu'on nous présente. Imaginez une personne âgée qui chute, il faut absolument transmettre cette information pour la sauver. Mais là, on peut être dans un contexte où le réseau classique d'informations ne fonctionne pas. Cela veut dire que là aussi, il faut inventer des solutions alternatives au réseau style Wifi, au réseau hertzien qui permettront la transmission de cette information. On va utiliser systématiquement la transmission infrarouge parce qu'on sait que dans le cadre du domicile de certaines personnes âgées, il n'y a pas Internet, il n'y a pas le Wifi. Donc trouver des solutions alternatives de transmission de l'information tout en garantissant la sécurité, qu'un extérieur ne puisse pas intercepter ces informations pour les exploiter de manière frauduleuse.
  • Ce sont des problèmes que nous en tant qu'expert scientifique, nous sommes capables de voir, de prévoir. Les futurs possibles avec des avantages et des inconvénients, mais c'est à l'ensemble de la société, au législateur, aux citoyens de décider de ce qui sera admissible ou pas admissible.

Producteur : Inria

Auteur : Liliane Kahmsay / Florent Masseglia

en partenariat avec
Class'Code

Class’Code est un programme de formation gratuit à destination de toutes celles et ceux qui désire initier les jeunes de 8 à 14 ans à la pensée informatique. Retrouvez toutes les informations sur classcode.fr et les Moocs sur openclassrooms.fr

Publié le - Mis à jour le 29-07-2019

Recommandations