LE MAGAZINE DE LA 
3e JOURNÉE DU DIGITAL
3 SEPTEMBRE 2019

Politique

digitalswitzerland

Société

International

Économie

Éducation

Journeé du digital 2019

Révolte contre les robots?
Peter Hossli

Il pourrait arriver un jour que les robots aient les mêmes capacités que nous autres humains, estime Marcello Ienca, éthicien en robotique et professeur à l’EPFZ. Malgré cela, il ne faudrait en aucun cas leur accorder les mêmes droits.

Monsieur Ienca, qu’est-ce que les robots savent mieux faire que vous?
Les robots, autrement dit l’intelligence artificielle, sont moins performants dans certains domaines, notamment en matière de créativité, d’émotions et d’empathie. En revanche, pour ce qui est du raisonnement logique, du traitement de l’information et du calcul, ils sont déjà nettement plus performants que moi.

N’êtes-vous pas frustré d’être dépassé par une machine?
Non, je suis réaliste. En tant qu’humains, nous devrions laisser aux machines ce qu’elles font mieux que nous.

Dans quels domaines utilisez-vous des robots?
Des robots travaillent en permanence pour nous, sans que nous nous en rendions compte. Chaque recherche sur Google est optimisée par l’intelligence artificielle (IA). Les nouvelles voitures misent sur l’IA. A la maison, Roomba – un aspirateur-robot – nettoie mon appartement. Et en médecine, l’IA aide au diagnostic et à la prise de décision. En revanche, face à des problématiques plus complexes, dans lesquelles l’interaction sociale, l’empathie et la compréhension émotionnelle sont importantes, les robots sont tout au plus un complément, mais ne remplaceront pas l’humain.

Possédez-vous un robot humanoïde?
Pas personnellement, mais j’ai fait des recherches dans ce domaine, notamment sur la manière de les employer dans les soins aux personnes âgées.

Les gens apprécient encore plus les robots à l'allure d'animaux que les robots humanoïdes

Des personnes âgées soignées par des robots. Quelle est la réaction de celles-ci?
C’est l’état de santé et l’origine des personnes âgées qui sont déterminants. Les personnes souffrant de démence sénile préfèrent les contacts avec une machine, contrairement aux personnes sans déficiences cognitives. Plus la démence est avancée, plus les personnes préfèrent la machine.

D’où vient cet attrait pour une machine?
Les personnes souffrant de démence sénile préfèrent être habillées et lavées par une machine. Elles sont moins gênées; leur intimité est préservée.

Les robots sont-ils de meilleurs soignants?
Non. Ils ne peuvent pas remplacer les interactions humaines. Les contacts physiques sont importants, tout comme raconter des histoires. Les robots peuvent parler la langue des patientes et des patients, mais sont encore incapables de bavarder avec eux. Dans les cultures où les gens ont une plus grande affinité avec la technologie, comme au Japon, les robots sont mieux acceptés dans les soins que dans le sud de l’Europe ou en France.

Craignez-vous que les robots puissent, un jour, prendre la place des professeurs?
Les humains ne sont pas des dieux, mais des animaux qui ont développé des facultés cognitives au cours de l’évolution. Leur cerveau est constitué de matière. Ils peuvent par conséquent être remplacés par des machines. Il n’y a pas d’argument scientifique interdisant à une machine de devenir aussi performante qu’un humain. Je dois donc accepter que les robots puissent devenir professeurs.

Quand est-ce qu’une machine atteindra la complexité de l’humain?
Je n’ai malheureusement pas de boule de cristal. Les développements sont fulgurants. Mais un humain est un système extrêmement complexe. Il faudra probablement au moins une centaine d’années avant que des machines ne possèdent des capacités cognitives et émotionnelles comparables à celles de l’humain.

Devons-nous craindre que les robots nous prennent nos emplois?
Ils le font déjà. En achetant à la Coop ou à la Migros, on paie souvent à un robot. Mais les robots vont également créer de nouveaux emplois. Les ingénieurs et les analystes de données sont très demandés.

Nous pouvons donc être tranquilles?
Les robots se chargent de travaux réalisés par des personnes avec un faible niveau de formation ou sans formation. Les nouveaux emplois exigeront une bonne formation. Les personnes remplacées par des robots dans les supermarchés ne peuvent pas être engagées demain comme analystes de données chez Google. D’importants investissements dans la formation des nouvelles générations et la formation continue des travailleurs actuels sont indispensables. Si nous ne parvenons pas à gérer le virage numérique de manière socialement acceptable, nous risquons une rébellion contre le système: les gens s’opposeraient alors aux robots.

Nous avons créé des systèmes intelligents. Pouvons-nous les arrêter?
Actuellement, nous pouvons encore tout débrancher. Mais nous pourrions créer une intelligence artificielle suffisamment développée pour qu’elle ne puisse plus être contrôlée et débranchée.

Alarmisme ou réalité?
En toute logique, c’est possible. Mais beaucoup d’eau va encore couler sous les ponts. Cela dit, nous voyons déjà comment les machines nous ont changés.

Par exemple?
Combien de numéros de téléphone avez-vous en mémoire?

Il y a dix ans, c’étaient encore les plus importants.
Aujourd’hui, ce n’est plus que le vôtre. Votre mémoire biologique n’est pas devenue plus mauvaise. Mais vous utilisez votre téléphone mobile comme extension de votre mémoire. Ces béquilles technologiques étendent nos processus internes. Il y a une dépendance homme-machine. Google Maps a modifié notre capacité à nous orienter. Vous pouvez aisément trouver votre chemin à Tokyo avec votre mobile. Jusqu’à ce que la batterie soit vide.

Nous pouvons programmer des robots pour qu’ils nous frappent. Que se passe-t-il si nous frappons des robots?
Un producteur de robots états-unien a mis en ligne une vidéo montrant des humains qui frappent des robots. Les personnes qui les visionnent montrent de l’empathie pour les robots et disent: «Les humains ne devraient pas frapper des robots!» Alors que les robots ne ressentent pas la douleur et ne souffrent pas de séquelles psychologiques. Il n’y a aucun motif rationnel à exprimer cette empathie. Et pourtant, nous sommes mal à l’aise.

Des robots prennent des traits humains. Cela nous amène-t-il à développer des sentiments pour eux?
Non. L’humain est devenu un être social par le biais de l’évolution. Notre cerveau interprète une agressivité injustifiée comme quelque chose de mauvais.

Cela explique-t-il tout?
Dans certains films de Hollywood, par exemple « Terminator », les robots attaquent les humains qui leur avaient fait du tort. Nous nous disons que dans 200 ans, il y aura peut-être des robots intelligents qui verront, sur d’anciennes vidéos, comment des humains les ont autrefois battus – et nous rendront les coups.

Que se passe-t-il lorsqu’un robot a les traits d’un chien?
Les gens apprécient encore plus les robots à l’allure d’animaux que les robots humanoïdes. C’est le résultat d’un phénomène appelé «vallée dérangeante»: nous apprécions d’autant plus un robot qu’il nous ressemble. Mais s’il nous ressemble trop, nous développons des sentiments négatifs. La solution consiste alors en des robots à l’allure d’animaux. C’est la raison pour laquelle des robots soignants ont les traits de phoques, de chiens ou de chats.

Des tests montrent que les humains sont réticents à toucher des robots humanoïdes dans leurs régions intimes, alors que ce n’est pourtant que du métal.
C’est la transposition naturelle des règles humaines de bienséance à des systèmes non humains. Les humains sont probablement les seuls animaux qui regardent les nuages et y voient des visages.

Les humains manipulent les humains. Pouvons-nous faire davantage confiance à des robots?
Les machines nous manipulent constamment. Elles décident de ce que nous devons acheter, de ce que nous voyons ou nous écoutons, de ce qui pourrait nous plaire. Les algorithmes nous influencent fortement. A travers l’évolution, nous avons appris à reconnaître les humains qui nous manipulent. Des systèmes rationnels nous disent: méfions-nous de cet homme ou de cette femme. En revanche, nous n’avons aucune protection face à la manipulation d’un algorithme.

Qui est responsable lorsqu’un robot tue?
Il n’y a pas de réponse définitive à cette question. Celle-ci fait l’objet de vifs débats. Il y a des experts qui disent que si la machine est assez intelligente, elle doit aussi être responsable. A mon sens, c’est une erreur. Si des machines deviennent responsables, plus personne n’est responsable. Pour moi, ce sont toujours des humains qui doivent être responsables devant d’autres humains. La question est: quels humains? Les programmeurs? Les constructeurs de l’ordinateur? Le PDG? Ou l’utilisateur?

Que faut-il penser des robots sexuels?
Certaines personnes âgées utilisent des robots sexuels. C’est aussi le cas pour des personnes souffrant de démence sénile ou des personnes avec un handicap physique. Elles n’ont souvent pas accès à la sexualité, ce qui peut avoir un effet négatif sur leur psyché. Pour ces personnes, des robots sexuels pourraient s’avérer utiles.

Vous utilisez le conditionnel.
Les robots sexuels sont susceptibles d’entraîner un isolement social. L’interaction entre l’humain et la machine pourrait remplacer les interactions humaines. Nous ne savons pas encore quels en seraient les effets. Nous devrions étudier cela et observer les conséquences.

Il existe des robots sexuels sous les traits d’enfants.
Si la recherche montre que les pédophiles commettent moins d’abus grâce à l’interaction avec des robots sexuels, alors c’est positif. En revanche, cela serait extrêmement négatif si la recherche montrait que de tels robots provoquaient des fantasmes encore plus problématiques. Une chose est sûre: il nous faut plus de recherches. Nous ne pouvons pas répondre à des questions éthiques avec une approche purement théorique.

Les robots doivent-ils avoir des droits?
Oui, mais pas tous les droits. A mon sens, il serait faux d’accorder la citoyenneté à un robot. Les robots ne sont pas des personnes. Et ils ne doivent pas le devenir. L’intelligence artificielle doit rester quelque chose qui nous aide et que nous pouvons contrôler. Elle ne doit pas devenir un système opérant en parallèle et au même niveau que l’humain.

Même lorsque, dans cent ans, un robot sera aussi performant qu’un humain?
S’il y a des robots possédant toutes les facultés d’un humain, il n’y a plus d’arguments pour ne pas leur accorder tous les droits.

Là, vous vous contredisez.
Nous ne devrions pas développer de telles machines. C’est un saut technologique que nous devrions éviter.

Bio:

Marcello Ienca (30 ans) est bio­éthicien à l’EPFZ. Il travaille sur les questions éthiques autour de la santé et des technologies. Dans ce cadre, il mène des recherches sur la manière dont la numérisation modifie les soins aux personnes âgées. Il a étudié à l’Université Humbolt de Berlin, a soutenu sa thèse à l’Université de Bâle et a publié plusieurs articles sur l’intelligence artificielle, les mégadonnées dans la médecine et l’éthique en robotique.

Daniel Kellenberger