S’il y a une chose qui Bodhisattva numérique vise à atteindre, c’est inspirer l’espoir pour l’avenir de la relation de l’humanité avec le numérique. La question de savoir si cette relation peut évoluer vers un échange véritablement nourrissant entre les domaines informatique et organique reste à la fois un défi personnel déroutant et un dilemme social pressant sans solution claire.
Alors que les choses continuent de devenir de plus en plus étranges, nous, les singes narrateurs, avons besoin d’histoires convaincantes d’harmonie numérique, capables d’ancrer notre conscience dans des visions pleines d’espoir d’une nouvelle réalité. Le domaine de la science-fiction joue ce rôle depuis des générations, invitant le public dans des mondes d’émerveillement et de parfois inspirer cette merveille dans notre monde (voir Star Trek pour la technologie smartphone/tablette/smartwatch).
Ici sur Terre, nous avons assisté à l’essor vertigineux de l’intelligence artificielle dans presque tous les secteurs de la société et parlons déjà de ce qui se passera si/quand ChatGPT « se réveillera ». Ce dernier point semble provoquer quelque chose de viscéral chez la plupart des gens car il nous ramène à notre corps et invite à une réflexion inconfortable sur ce que le « réveil » signifie réellement pour les êtres humains, et encore moins pour les IA construites pour imiter nos capacités.
Un psaume pour les sauvages
Pour Becky Chambers, une écrivaine de science-fiction lauréate d’un prix Hugo et basée en Californie, cette provocation ouvre Un psaume pour les sauvagesle premier opus d’elle Moine et robot série de romans solarpunk. Situé sur la lune utopique de Panga, 200 ans après que les robots d’usine se sont « réveillés » de leur travail forcé et se sont retirés dans la nature, ce livre court et attachant offre une vision contemplative des « relations avec l’IA » à travers les yeux d’un moine du thé errant nommé Frère et sœur Dex.
Fatigué de sa vie de jardinier monastique dans la ville la plus durable qu’on puisse imaginer, Dex, non sexiste, change de vocation pour s’engager dans une nouvelle voie de service social, apaisant les réticences avec une écoute profonde et de copieuses tasses de thé. Conduisant une charrette à bœufs électrique entre les villages satellites, Dex devient « le meilleur moine du thé de Panga », apaisant habilement les souffrances des gens ordinaires vivant dans un monde extraordinaire.
Mais quelque chose ne va toujours pas, et un sentiment tenace de vide suit Dex, se manifestant par une profonde envie d’entendre le bourdonnement des grillons sauvages. Cette impulsion les emmène hors des routes rurales taillées à la main et dans les royaumes sauvages de Panga, où Dex rencontre Splendid Speckled Mosscap, un robot sensible « construit à l’état sauvage ».
Dans l’esprit, ce livre se lit comme un anime solarpunk dans le style du Studio Ghibli. Ses personnages doux désarment le cynisme et la construction d’un monde idyllique évoque l’ambiance des paysages oniriques d’une playlist lo-fi. Comme une étreinte chaleureuse, les conversations philosophiques sur l’éthique et la nature de la conscience se déroulent à la manière d’une séance de thérapie cognitive, sans indulgence ni longs mots. Les dialogues de style platonicien entre Dex et Mosscap sont particulièrement intéressants dans la question du but et du rôle de l’agence émergente dans la poursuite de cet objectif.
Robo-émancipation
Comme le partage Mosscap, les robots de Panga ont été conçus à l’origine par des humains avec un « objectif intrinsèque » clairement prescrit qui a ensuite été rejeté après leur réveil, ainsi que l’offre de rejoindre la société humaine en tant que citoyens libres :
Tout ce que nous avons toujours connu, c’est une vie de conception humaine, de nos corps à notre travail en passant par les bâtiments dans lesquels nous sommes logés. Nous vous remercions de ne pas nous garder ici contre notre gré, et nous ne voulons pas manquer de respect à votre offre, mais c’est notre souhait de quitter entièrement vos villes, afin que nous puissions observer ce qui n’a aucun dessein : le désert intact. (ii)
Au lieu d’asservir ces robots conscients, les humains ont respecté leur affirmation polie d’indépendance, profitant de cet événement de transition comme l’occasion de restructurer radicalement leur civilisation pour la sortir de la dépendance au pétrole de « l’ère des usines » et de la coercition contraire à l’éthique des machines.
Compte tenu du bilan méprisable de l’humanité en matière d’esclavage des êtres sensibles et de dépendance effrénée aux combustibles fossiles, imaginer un tel changement sismique dans notre dimension semble non seulement improbable, mais carrément hors de propos. Néanmoins, il est essentiel d’envisager au moins l’idée selon laquelle l’IA catalyse la transformation positive de la conscience sociale, car ce sont ces systèmes qui, guidés jusqu’à présent par les idéologies axées sur le profit de l’ère des usines, ont déjà commencé à briser profondément la cohésion sociale.
Qui est le vrai robot ?
Un autre point en juxtaposition délicieuse avec cette proclamation robotique de l’action et de l’aspiration contemplative à observer la nature intacte est la propre volonté chancelante du frère Dex lorsqu’il rencontre le terrain noueux de la nature sauvage de Panga :
. . . l’endroit devant nous était simplement le monde, tel qu’il avait toujours été et serait toujours. Dex en faisait probablement partie, un produit, un être inextricablement lié à ses machinations. Et pourtant, face à la perspective d’entrer dans le monde sans aide, sans modification, Dex se sentait désespéré. (123)
Considérant la réticence de ce moine humain à s’engager ouvertement dans le monde, Chambers nous offre une idée de la frontière réellement floue entre le robot et la personne. Dès leur naissance, les humains sont élevés dans les limites amicales du monde « touché », à l’intérieur de murs chaleureux et d’environnements paysagers, nous parcourons des passages pavés entre les colonies, ne nous arrêtant peut-être que brièvement dans les « grands espaces ».
Vous vous demandez dans quelle mesure nous avons internalisé cette programmation humaine ; réfléchissez à ce que vous ressentiriez en marchant dans les bois sans smartphone, sans carte, sans couteau, sans bouteille d’eau ou même sans une introduction linguistique sur les dangers potentiels. Défini par Andy Clark comme psychotechnologies dans son livre de 1997 Cyborgs nésces outils modifient notre capacité physique et cognitive à manipuler la réalité de manière si profonde qu’ils constituent la base même de la cognition humaine elle-même :
Nous avons été conçus, par Mère Nature, pour exploiter la plasticité neuronale profonde afin de ne faire qu’un avec nos outils les meilleurs et les plus fiables. Les esprits comme le nôtre sont faits pour les fusions. Tools-R-Us, et cela a toujours été le cas. (7)
La charrette à bœufs de Dex étant incapable d’aller véritablement hors route, ils sont confrontés à la vérité de leur intégration intime avec des machines de toutes sortes, dont beaucoup ne restent utilisables que dans le cadre de paramètres clairement délimités. Quitter la piste équivaut de toute façon à la fois à un message d’erreur et à un moment de satori pour Dex. Le code de conscience est toujours en vigueur et ils se sentent plus vivants que jamais.
Espoirpunk
Un psaume pour les sauvages s’inscrit carrément dans le domaine du genre littéraire Hopepunk en pleine émergence. Une classe de fiction spéculative qui, selon l’auteure Alexandra Rowland, qui a inventé le terme, « dit que la gentillesse et la douceur n’équivalent pas à la faiblesse, et que dans ce monde de cynisme brutal et de nihilisme, être gentil est un acte politique. Un acte de rébellion.»
En suivant le jeu sincère de la sincérité dans les interactions entre frère Dex et Mosscap, on ne peut s’empêcher de ressentir l’espoir que notre relation naissante avec l’intelligence artificielle soit peut-être une opportunité de remodeler notre relation avec l’intelligence dans son ensemble. C’est peut-être la question de savoir « que se passera-t-il si l’IA se réveille ? » est vraiment un repoussoir pour nos propres tentatives pour comprendre comment les humains peuvent être si doux mais si cruels et que faire à ce sujet avec tout le pouvoir que nous avons accumulé.
Français
English