Dans un monde d’ignorance humaine, l’intelligence artificielle peut-elle aider ?

Je pense qu’il est vraiment important d’expliquer, d’éduquer les gens sur le fait qu’il s’agit d’un outil et non d’une créature.

(Sam Altman, PDG d’OpenAI sur ChatGPT)

Lors d’une récente conversation avec l’informaticien et podcasteur du MIT Lex Fridman, le PDG d’OpenAI, Sam Altman, a abordé un certain nombre de sujets, notamment son point de vue sur la sensibilité potentielle des systèmes d’intelligence artificielle (IA) actuels et futurs. Alors qu’Altman a parfois exprimé sa profonde inquiétude quant au potentiel de l’IA à faire du mal dans le monde, dans cette interview, il était clair que ce que fait l’IA dépendra en fin de compte de ce que les humains choisissent de l’utiliser, pas qu’il pourrait en venir à penser pour lui-même à la manière des humains et des animaux, ajoutant : « Je pense qu’il est dangereux de projeter la ‘créature’ sur un outil. » (Youtube)

Alors que nous continuons à observer la croissance de l’IA, il devient de plus en plus clair qu’il ne s’agit que d’un danger parmi d’autres. En tant que bouddhiste profondément soucieux de comprendre la nature des choses et profondément préoccupé par la souffrance dans la vie sensible, j’ai cherché à comprendre le potentiel de l’IA pour le bien et pour le mal. Qu’il suffise de dire que je n’ai fait qu’effleurer la surface. Mais ce que j’ai trouvé à la fois dégonfle les affirmations «hype» sur le potentiel de l’IA et apaise les inquiétudes concernant les tueurs de robots qui pourraient prendre leur envol dans mon imagination.

La «créature» à laquelle Altman fait référence est probablement une autre façon de définir la sensibilité ou la conscience. Ce sont des termes distincts, mais étroitement liés dans les conversations philosophiques modernes. En fait, Robert Van Gulick, écrivant dans la Stanford Encyclopedia of Philosophy, propose sentience comme l’une des définitions de la conscience. D’autres définitions incluent vigilanceprécisant qu’un être conscient n’est vraiment conscient que lorsqu’il est éveillé et utilise cette conscience, et comment c’està la suite du célèbre article de Thomas Nagel de 1974 dans lequel nous confrontons les limites de notre propre compréhension et imagination en essayant d’imaginer comment c’est être une chauve-souris.

Dans la pensée bouddhiste, la conscience se trouve le plus souvent dans la liste des cinq agrégats (Skt. skandhas). Ceux-ci sont décrits par Amber Carpenter :

La « forme » (rūpa) est le physique ; le « sentiment » (vedanā) est cette partie de l’expérience qui peut être agréable et douloureuse ; la perception ou la cognition ( saṁjñā ) est cette partie de l’expérience qui peut être vraie ou fausse; les saṁskāras sont une catégorie vaste, comprenant surtout des volitions et diverses émotions; enfin, la conscience (vijñāna) est la conscience de (l’) objet, l’union du contenu avec l’activité mentale qui a un contenu.

(Philosophie bouddhiste indienne 29)

Il vaut mieux les considérer comme des manières d’expérimenter plutôt que comme des fondements ontologiques.

La conscience est-elle spéciale ?

La question de savoir comment déterminer qui ou quoi est conscient préoccupe les philosophes occidentaux depuis un certain temps. René Descartes (1596-1650) est souvent cité comme le premier penseur à appliquer une méthode philosophique rigoureuse à la question. Fervent catholique, Descartes a déterminé que la conscience de soi était la clé de la conscience et croyait que les animaux non humains n’atteignaient pas ce marqueur. Le christianisme offrait depuis longtemps une nette démarcation entre les humains, avec âme, et les animaux, sans âme, et Descartes ne rompait pas avec cet aspect de la tradition.

Les bouddhistes, cependant, ont généralement toujours attribué la conscience aux animaux. Eux aussi sont capables, de manière plus limitée, de penser et de réaliser des actions intentionnelles (karma) qui auront un impact sur leur vie et leurs futures renaissances.

Avec l’essor des sciences et des philosophies matérialistes, la conscience a de nouveau été remise en question. Si nous acceptons la prémisse qu’en fin de compte, nous sommes entièrement de nature physique, alors comment la conscience surgit-elle ? Pourquoi surgit-elle en nous et non dans les rochers ? La plupart des réponses se sont articulées autour de la complexité même de nos cerveaux et de nos corps, disant que de cette complexité, la conscience a « surgi ». Cependant, il existe plusieurs théories concurrentes sur la façon dont cela fonctionne, ainsi que des matérialistes qui prétendent que la conscience peut être au-delà de notre capacité à comprendre pleinement.

Pour pousser la complexité un peu plus loin, on se rend compte que les humains projettent souvent l’intelligence ou l’agence dans un monde où elle n’existe probablement pas. Nous développons des sentiments, par exemple, avec des personnages de livres sachant qu’ils sont fictifs. Et quand le personnage de Tom Hanks dans Naufragé développé un lien avec un volley-ball, nous avons sympathisé, sachant que nous aussi pourrions bien faire de même. Dans une étude datant des années 1940, des chercheurs ont montré une animation de deux cercles et d’un triangle se déplaçant autour de la forme d’une maison. En décrivant ce qu’ils ont vu, presque tous les participants ont inventé « un complot social dans lequel le grand triangle est considéré comme un agresseur. Des études ont montré que les mouvements des formes provoquent des perceptions animistes automatiques. (Carnegie Mellon)

Qu’est-ce que l’IA ?

Définir l’IA est tout aussi controversé que définir la conscience. D’une part, l’IA peut être tout ce qui résout un problème complexe. Les suggestions automatiques que vous recevez lorsque vous saisissez des termes de recherche dans Google sont générées par une forme d’IA. Des formes plus complexes d’IA jouent aux échecs, donnent des indications routières sur votre téléphone et fournissent des publicités qui correspondent à vos intérêts et à vos comportements.

Tous reposent sur des algorithmes programmés de plus en plus complexes. Les formes les plus récentes d’IA, celles qui génèrent le plus d’enthousiasme, utilisent ce qu’on appelle des « réseaux de neurones ». Les philosophes soulignent que ce nom peut lui-même être trompeur, car il n’imite que des aspects simplifiés des neurones biologiques. Néanmoins, ces réseaux sont capables de modifier leurs réponses au fil du temps, imitant le processus d’apprentissage chez l’homme.

Encore une fois, nous devons faire attention aux termes que nous utilisons, car « apprendre » est quelque chose dont nous pourrions dire qu’il nécessite de la conscience. Un humain apprend. Un chien apprend. Peut-être même qu’un poisson rouge apprend. Mais la bille dans un flipper ne fait pas apprendre pour atteindre les bons endroits – tout ce qu’il fait dépend des entrées préalables de l’humain et de ses interactions avec la machine dans laquelle il fonctionne.

Des critiques, comme l’ancien chercheur de Google Timnit Gebru, soulignent que c’est précisément là que les problèmes surviennent dans les grands modèles de langage (LLM) – les modèles d’IA tels que ChatGPT. Gebru a noté que les données de formation fournies à ces grands programmes d’IA étaient biaisées et parfois haineuses, ce qui fait craindre que le logiciel ne reproduise ces biais et ces discours haineux dans sa sortie. En 2016, un Twitter-bot développé par Microsoft a rapidement commencé à envoyer des tweets racistes après avoir été programmé pour apprendre des autres utilisateurs de la plateforme. Il a été démonté par les développeurs en moins de 24 heures après son lancement. (Le New York Times)

Libération ou pouvoir enraciné ?

Cela soulève un deuxième problème connexe. Les partisans des nouvelles formes d’IA affirment qu’elles auront des pouvoirs miraculeux étonnants et à la limite. Il a certainement une grande capacité. Mais, comme l’a déclaré le gourou des investisseurs Warren Buffet lors d’une récente réunion : « Avec l’IA. . . elle peut tout changer dans le monde, sauf la façon dont les hommes pensent et se comportent. C’est un grand pas à franchir. » (Centre EFT)

L’activiste sociale Naomi Klein précise :

Il existe un monde dans lequel l’IA générative, en tant que puissant outil de recherche prédictive et exécutant des tâches fastidieuses, pourrait en effet être mobilisée au profit de l’humanité, des autres espèces et de notre maison commune. Mais pour que cela se produise, ces technologies devraient être déployées à l’intérieur d’un ordre économique et social très différent du nôtre, qui avait pour objectif de répondre aux besoins humains et de protéger les systèmes planétaires qui soutiennent toute vie.

(Le gardien)

Klein note que ce n’est pas ainsi que l’IA est lancée. Au lieu de cela, les grandes entreprises à but lucratif sont autorisées à copier d’énormes quantités de textes et d’images créés par des humains – sans autorisation ni attribution – afin de produire leurs propres résultats imités.

Bon nombre des grandes promesses, affirme-t-on, ne font que susciter le battage médiatique. Ce battage médiatique, à son tour, augmente les valorisations des entreprises qui fabriquent de l’IA. Même le battage médiatique négatif, suivant le vieil adage « Il n’y a pas de mauvaise presse », peut avoir pour effet d’attirer davantage l’attention sur les entreprises.

Comme l’a noté l’année dernière le scientifique cognitif américain Gary Marcus, nous n’entendons plus parler de chercheurs universitaires en IA. Nous entendons de plus en plus de PDG d’entreprises : « Et les entreprises, contrairement aux universités, n’ont aucune incitation à jouer franc jeu. Plutôt que de soumettre leurs nouveaux articles éclaboussants à un examen académique, ils ont opté pour la publication par communiqué de presse, séduisant les journalistes et contournant le processus d’examen par les pairs. Nous ne savons que ce que les entreprises veulent que nous sachions. (Scientifique Américain)

C’est dangereux. Mais il suit aussi une voie qui est devenue de plus en plus courante ces dernières années. Parfois, cela a conduit à une fraude pure et simple, comme les scandales entourant la société Theranos d’Elizabeth Holmes ou FTX de Sam Bankman-Fried. Parfois, cela a simplement conduit à un battage médiatique tant vanté qui n’a pas abouti, comme dans le cas des lunettes de réalité augmentée de Google, de la réalité virtuelle Multiverse de Meta ou des jetons non fongibles (NFT).

Une solution provisoire

Vivre à une époque de progrès technologique accéléré est passionnant. À bien des égards, nous avons de la chance et une grande partie de cette nouvelle technologie peut réduire et réduira la souffrance humaine lorsqu’elle est utilisée à bon escient. La sagesse naît non pas du fait de connaître ou d’utiliser au mieux les dernières technologies, mais de délibérer, d’analyser et de pratiquer des traditions qui représentent des milliers d’années et des millions de vies humaines, chacune affinant, modifiant et transmettant ses propres meilleures réalisations. En tant que bouddhistes, cela nous oblige à poser de sérieuses questions sur les promesses et les pièges potentiels de l’IA dans nos vies éthiques, méditatives et philosophiques.

Mon ami Douglass Smith a des vidéos intrigantes sur sa chaîne YouTube explorant l’IA et des aspects de la pensée et de la pratique bouddhistes. Je vous encourage à les consulter. En voici une explorant les valeurs clés que nous pourrions souhaiter dans l’IA future et comment nous pourrions aider à y parvenir.

Bien que ceux d’entre nous ayant une formation en sciences humaines puissent adopter un certain nombre d’approches différentes de l’IA et d’autres nouvelles technologies, il est essentiel que nos voix fassent partie de la conversation. Comme Leon Wieseltier, rédacteur en chef de la revue humaniste Libertésécrit :

Il n’y a pas de moment dans notre histoire où les humanités, la philosophie, l’éthique et l’art sont plus urgents qu’en ce temps de triomphe de la technologie. Parce que nous devons être capables de penser en termes non technologiques si nous voulons comprendre le bien et le mal dans toutes les innovations technologiques. Étant donné le culte lâche de la société pour la technologie, allons-nous faire confiance aux ingénieurs et aux capitalistes pour nous dire ce qui est bien et ce qui est mal ?

(Le New York Times)

Dans l’esprit de la pensée non technologique, j’emprunterai une conclusion souvent utilisée par la métamorphose des chroniqueurs de BDG : une chanson.

Il y a beaucoup plus à dire, à partir des interprétations de la conscience des différentes écoles bouddhistes, sur ce qui pourrait suivre dans l’évolution de la créativité basée sur la machine. Nous savons que l’avenir est grand ouvert. Mais nous savons aussi que des limites et des lacunes ont tendance à apparaître, même pour les plus grandes inventions et innovations.

Je terminerai par une autre vidéo, celle-ci Adam Conover, diplômé en philosophie, interviewant Emily Bender, une linguiste de l’Université de Washington, et Timnit Gebru, ancien chercheur de Google et fondateur de DAIR, le Distributed AI Research Institute.

Les références

Charpentier, Ambre. 2014. Philosophie bouddhiste indienne. New York : Routledge.