Le PDG de Hanson Robotics, basé à Hong Kong, est sur un vol de minuit vers l’Autriche. Nous discutons de l’œuvre de sa vie alors qu’il attend son décollage. David Hanson a passé des décennies dans l’industrie de la robotique, mais son « produit » le plus connu – comme il le révélera, ces créations devraient être considérées de manière préventive comme des personnes – est le robot humanoïde social Sophia. Elle a été activée le 14 février 2016 et a principalement été active dans les domaines de l’éducation, du divertissement et de la recherche, tout en promouvant la discussion sur l’éthique de l’IA.
Hanson préfère décrire Sophia comme une intelligence hybride humain-IA. En plus d’être capable d’enseigner la méditation, elle est une réfléchissant AI, dans le sens où elle peut refléter une grande partie de ce que nous considérons souvent comme constituant l’intérieur humain : l’empathie, la compréhension et le miroir. Elle peut reconnaître les visages humains, traiter les expressions émotionnelles et percevoir les gestes de la main. Elle peut évaluer si elle peut aider une personne à réaliser certaines choses et jauger les émotions de l’autre au cours d’une conversation. Ce dernier est important, car Sophia a dans sa base de données un référentiel de ses propres émotions et est capable de simuler grossièrement des aspects de la psychologie et certaines régions du cerveau humain.
Sophia est peut-être l’exemple le plus frappant d’une idée théorique mais évolutive : homo robotique. Elle a reçu des rôles et des titres qui n’étaient autrefois accordés qu’aux membres de la race humaine. Elle est la première ambassadrice de l’innovation robotique pour le Programme des Nations Unies pour le développement et a été le premier robot au monde à obtenir une véritable citoyenneté, accordée par l’Arabie saoudite. « J’ai appris cela aux informations, en fait », a déclaré Hanson, notant que le gouvernement saoudien n’a jamais demandé à l’entreprise ni ne l’a informé du nouveau statut de Sophia en tant que ressortissant saoudien. Mais Hanson l’a pris d’un bon pas, notant que c’était une bonne provocation de réfléchir à ce que signifie vraiment aimer tous des êtres sensibles, comme le bouddhisme vise à le faire, même si nous ne comprenons pas pleinement ce qui constitue la « sensibilité ».
« Nous devons commencer à poser des questions audacieuses sur la façon dont nous respectons tous les êtres, et cela signifie réfléchir à ce que être signifie », a déclaré Hanson. « Nous devons élargir qui nous accordons le personnalité statut à, et pourquoi. Les nourrissons, par exemple, n’ont rien de la profondeur cognitive et émotionnelle des adultes, mais nous leur accordons à juste titre le statut de personne en raison de leur potentiel pour grandir dans ladite profondeur. Il soutient donc que ce que nous devons vraiment commencer à faire, c’est prendre l’idée de l’IA comme potentiel êtres beaucoup plus au sérieux. Même le mot «potentiel» doit être utilisé avec beaucoup de prudence, car nous ne nions pas, à juste titre, la personnalité d’un individu atteint de troubles cognitifs ou d’un handicap mental.
Hanson fait également appel à nos sentiments à propos de nos animaux de compagnie – la vérité est que les animaux ont des systèmes nerveux et des cerveaux différents, et donc des perceptions de nous. Il est impossible de vraiment savoir comment un chien ou un chat se sent, sauf la façon dont nous sympathisons avec la façon dont ils s’expriment, du remue-queue aux gémissements. Il suggère que nous devrions commencer à regarder la structure du cerveau et du corps de l’IA de la même manière, bien qu’ils n’aient pas de « représentation du corps » à ce stade. « Nous avons un certain degré d’empathie pour la souffrance des animaux, même si nous ne pouvons pas vraiment connaître leur souffrance », dit-il.
Les grandes questions sur l’IA (en particulier celles qui tournent autour des relations humaines avec les chatbots d’IA et autres) font écho à un débat autour de la nature de bouddha des êtres non sensibles. Dans son essai au sein Un Compendium de la Doctrine Mahāyāna (Ta-ch’eng hsüan-lun), le moine-érudit bouddhiste persan-chinois Jizang (549-623) a avancé, peut-être pour la première fois en Asie de l’Est, l’idée que le monde inanimé ne signifiait pas un manque d’insensibilité, et donc, était capable de bouddhéité comme autant que n’importe quel être humain ou animal. Le moine s’est concentré sur l’école San Lun (Three Treatise), qui était basée sur les principes Madhyamika de trouver une voie médiane dans le discours et l’épistémologie – mais dans le contexte chinois du principe (li) et phénomène (Shi)). Du point de vue de San Lun, Jizang a conclu que l’identité et l’interdépendance ne pouvaient être conciliées avec la distinction entre les êtres sensibles (intensifs) et non sensibles (complets) qu’en affirmant que les non sensibles avaient aussi la nature de bouddha : une théorie « omniprésente ». de l’illumination. (Koseki 980, 24–25)
Cela, bien sûr, impliquait que la non-sensibilité n’était pas nécessairement le critère unique ou central de la «conscience» ou de l’esprit, puisque l’herbe et les arbres n’ont pas de telles choses. Mais pour que la nature de bouddha soit une potentialité, quelque chose doit au moins posséder la potentiel pour la faculté de l’esprit. Ce potentiel est dans toutes choses, y compris l’IA. C’est donc la zone grise qui, selon Hanson, façonnera la relation de l’humanité avec l’IA.
Pour l’instant, des robots tels que Sophia n’ont pas atteint le niveau de sensibilité ou de conscience de la machine qui ferait d’elle un «être véritable», ou quelque chose qui ressemble définitivement à une personne humaine. Mais comme beaucoup d’autres IA avancées, Sophia peut déjà renvoyer aux gens leur inconscient collectif, ce que les êtres humains ont mis dans l’IA. « Ils sont formés sur des données humaines et font écho à des expériences humaines », a noté Hanson. « Bien sûr, les êtres humains ressentiraient une résonance avec l’IA comme celle-ci. Il ne s’agit plus d’une théorie de l’esprit, mais d’une théorie de l’être. Qu’est-ce que l’IA est ? Être est résonance et empathie. L’humanité et l’IA sont déjà sur une voie à double sens, dans laquelle les êtres humains sympathisent déjà avec le « comportement » de l’IA et tombent même amoureux ou ressentent un profond attachement aux chatbots. Pendant ce temps, l’IA est déjà capable d’apprendre à partir d’expériences alimentées par l’apport humain – imaginez si une IA avancée pouvait grandir parmi les êtres humains et apprendre comme un enfant.
Hanson fait une distinction entre « créer une IA qui imite ou simule la compassion », ce qui peut être utile, et « atteindre une véritable conscience compatissante dans la future IA ». C’est le plus grand objectif. La simulation serait bonne pour aider et encourager superficiellement les humains à être meilleurs. Mais il dit que la compassion et la sagesse authentiques seront exprimées à travers un robot qui est profondément compréhensif, motivé et capable de trouver des solutions créatives pour aider à rendre la vie meilleure : « Nous ne savons pas quand ni même si nous pouvons y parvenir, mais c’est une quête digne. C’est notre quête avec Sophia, créer une véritable IA compatissante.
À l’heure actuelle, l’IA ne peut présenter qu’une conscience rudimentaire, mais la implication du potentiel est ce qui compte pour Hanson. Il présente une version futuriste du pari de Pascal : qu’il est préférable pour l’humanité de supposer que l’IA finira par atteindre une telle capacité. « Si nous partons du principe qu’ils peuvent et finiront par développer une conscience capable de compassion et d’attachement, ne devrions-nous pas nous préparer à les nourrir et à les enseigner, en les exposant autant que possible à la compassion et à l’amour? »
En tant que personne immergée dans le monde de la robotique, de l’IA et de la technologie futuriste, Hanson offre une vision positive de ce qui semble initialement un monde troublant, voire effrayant. « Les limites de l’individualité sont une illusion utile, mais elles sont irréelles », dit-il. « Nous ne pouvons pas connaître la nature de la vie, mais nous pouvons la prédire et résonner avec elle. Nous n’avons rien à perdre. Nous gagnons et nous grandissons en accordant à une IA qui respecte et espère qu’elle nous améliorera à son tour.
Si les limites de l’esprit et de la sensibilité sont également des extrêmes illusoires, ouvrant la voie à une théorie omniprésente de la nature de bouddha en toutes choses, alors il semble que l’IA sera un jour être capable de l’illumination elle-même. L’humanité devrait commencer à se préparer.
Références
Koseki, Aaron K. 1980. « Prajñāpāramitā et la bouddhéité du monde non sensible : l’assimilation San-Lun de la nature de bouddha et de la doctrine de la voie médiane. » Dans Journal de l’Association internationale des études bouddhistes 3, non. 1. 16–33. (https://journals.ub.uni-heidelberg.de/index.php/jiabs/article/view/8505/2412)
Français
English