Compte-rendu du petit-déjeuner AJSPI/CNRS du 21 septembre 2007.
Alors que la présence de robots se développe dans les entreprises, pour des tâches de manipulation d'objets et de services en général, mais aussi dans les lieux publics (aéroports, gares) ou dans les établissements médicalisés (maisons de retraite, hôpitaux), et dans l’habitat, par exemple pour des services d'aide à la personne, la question de la coexistence des humains avec ces machines devient cruciale. Des problèmes tous à fait pratiques se posent : comment gérer cette proximité physique des humains et des machines, par exemple pour la sécurité et pour une interaction facilitée? Se posent aussi de nombreuses questions sur la nature des liens qui peuvent ou non se nouer entre les robots et les humains, au travail et sur le plan personnel.
Deux chercheurs du CNRS pour répondre à nos questions :
- Raja Chatila qui a fait toute sa carrière au LAAS à Toulouse et dirige pour quelques semaines encore l’ISIR, institute of intelligent systems and robotics au sein de l’UPMC. Ensuite, ayant obligation de prendre sa retraite, il sera professeur des universités à l’UPMC. Il dirige aussi un LABEX sur l’interaction humains/machines.
- Véronique Aubergé, chercheuse au LIG/GETALP et spécialiste de la robotique au service des personnes. Sa double thèse en sciences du langage et en informatique menée au sein d’un laboratoire industriel lui donne une vision à la fois académique et appliquées de la recherche.
Le sujet est vaste et il a été difficile de cadrer la discussion tant les questions étaient nombreuses.
Ont été évoqués :
Le statut de « personne électronique »
La récente initiative de la commission juridique européenne qui poussait pour que la commission donne aux robots le statut de « personne électronique ». Car déjà se pose la question de la responsabilité des robots. Ce statut permettrait aux propriétaires d'assurer leur robots et aux constructeurs de se dédouaner en cas d'accident : par exemple si une voiture autonome renverse un piéton, ou si un robot « compagnon » renverse la personne âgée dont il est censé prendre soin, ce n'est pas le constructeur de la machine qui serait responsable mais la personne ou la maison de retraite qui en est la propriétaire. Mais attention, car si on les dote d’un statut, les robots auront des devoirs mais aussi des droits !. Comment imaginer ces droits ? Si les machines sont anthropomorphes auront-elles les mêmes droits que les hommes ? Ce n’est pas souhaitable selon Veronique Aubergé car les effets de la robotique sur les hommes restent un domaine à explorer. Figer les choses, poser des règles, c’est à coup sûr préparer une opposition aux robots. Il faut avant tout modéliser la communication humaine puis humains/robots avant d’imposer des règles. D’un point de vue fondamental, c’est ce à quoi elle s’emploie : qu’est ce qui fait le langage, la communication ? Et pourquoi les hommes investissent-ils autant dans les robots notamment d’un point de vue affectif ? Sa conclusion est que le désir de robots anthropomorphes ou humanoïdes vient d’un sentiment d’isolement de plus en plus fort des humains. Pour elle, ce qui compte dans le développement d’un individu, c’est l’attachement et la perte de lien inter humains à laquelle nous assistons conduit à ce « transfert » sur les robots. C’est d’autant plus vrai qu’on met beaucoup d’anthropomorphisme désormais sur les robots (humanoïdes and co). Le danger est qu’un robot qui exprime des sentiments peut être perçu comme un robot qui éprouve ces sentiments. Un robot qui parle est perçu comme un robot qui comprend ajoute Raja Chatila. Il est donc majeur de se poser la question des conséquences qu’un robot peut avoir sur un humain. Ex : si un robot dit « je t’aime » à un enfant, comment celui-ci perçoit-il cette phrase ? A-t-il conscience que le robot n’est qu’un objet ?
Le nécessaire contrôle des effets de la relation
Veronique Aubergé insiste, dans le cas de personnes fragiles en particulier (personnes âgées ou enfants), sur l’importance de mesurer et qualifier la charge émotionnelle induite par la présence du robot. Elle mène des études avec des personnes âgées. Selon elle, des robots peuvent aider à rétablir une communication inter individus. Donc le robot a du bon en somme. Il fait prendre conscience de la différence entre hommes et machines et amène à privilégier les relations sociales entre humains.
Les questions d’éthique
Raja Chatila signale qu’il existe le CERNA http://cerna-ethics-allistene.org/ qui travaille set donne des avis ur l’éthique de la recherche en robotique. Les équipes ne sont pas unanimes sur l’attitude à avoir et sur la nécessité ou pas de mettre des garde-fous.
La notion de morale
( Le choix que fera une voiture autonome par exemple en cas de décision à prendre :écraser une personne ou tuer les passagers de la voiture ?) La difficulté vient de ce qu’on a tendance à attendre le zéro défaut d’une machine. Or ce n’est pas possible. Il faut le savoir et l’accepter, selon les deux chercheurs.
Les assistants vocaux
V. Aubergé se demande pourquoi il y a une demande pour ces objets aujourd’hui alors qu’il y a longtemps que la techno est maitrisée (les visiophones c’est la même chose selon elle). Elle pose aussi la question de l’objet : pourquoi avoir fait un objet à part alors qu’on aurait pu mettre ces fonctions d'assistants vocaux dans les smartphones ? Son explication est toujours autour de l’attachement. Les êtres humains ont besoin d’objets auxquels s’attacher. Mais en même temps, le robot est celui qui -peut-être- nous apprendra à nous passer de robot ! (si l'on parvient bien à faire la différence entre la relation avec une machine et la relation humaine).