mardi 26 septembre 2017

"Quand les humains comprennent que les robots ne font que sublimer leur humanité, toute peur disparaît".

Comme souvent, au moment de choisir le titre de ce billet, j'ai hésité entre plusieurs citations. Finalement, celle-ci l'a emporté parce qu'elle ouvre un bon nombre de pistes de réflexion. Après la lecture de "Zéro K", de Don DeLillo, je recherchais un livre un peu plus léger. J'ai opté pour "Kappa16", de Neil Jomunsi (disponible en numérique aux éditions Walrus, mais également, désormais, en impression à la demande), et je me suis lamentablement trompé. Oh, bien sûr, la tonalité de ces deux romans est sensiblement différente, mais le fond de "Kappa16" est bien plus grave et sérieux que je ne l'imaginais. Et pose des questions qui vont bien au-delà des simples peurs qui entourent les intelligences artificielles et leur développement. Les robots ont-ils une âme, des sentiments ? On croit que c'est la question majeure. Mais ne devrait-on pas surtout se demander si les robots ne savent pas mieux en faire usage que nous, humains qui se croient si supérieurs...



Tomas et Claire vivent à Berlin, ils ont deux enfants, Saul et Henri. Et ils sont désormais les heureux propriétaires d'un magnifique robot de compagnie, un Kappa16, l'avant-dernière génération. Enfin, heureux... Le mot est peut-être un peu fort. Car si Tomas semble convaincu, Claire, elle, peine à accepter la présence du robot, bientôt baptisé Enoch, au sein de son foyer.

Appelons même un chat un chat, si cela ne tenait qu'à Claire, jamais un robot n'aurait franchi le seuil de la demeure familial. C'est plus qu'un rejet, c'est un vrai dégoût qu'affiche la mère de famille à la vue du nouveau venu. Un dégoût mâtiné d'une colère noire quand Enoch approche de Saul, la colère d'une mère protégeant son enfant d'un prédateur.

Pourtant, si Tomas a fait l'achat de ce Kappa16 (dernier modèle qu'on ne peut pas confondre avec un être humain ; le Kappa17, disponible, a transgressé cet ultime tabou), ce n'est pas pour acquérir un gadget qui lui permette de briller en société, d'amuser les amis. Non, Enoch va se voir confier une mission de la plus haute importance, et c'est sans doute ce qui inquiète à ce point Claire.

En effet, Enoch aura pour mission de surveiller Saul, l'aîné des enfants de Claire et Tomas, atteint d'une forme lourde d'autisme. Jusque-là, c'était un homme qui s'occupait du garçon, mais la tâche s'est avérée trop rude, trop douloureuse, alors il a démissionné. Le choix d'appeler le robot Enoch, prénom de l'ex-assistant, est une manière d'éviter à Saul d'être trop déstabilisé par ce changement.

Enoch est la machine la plus fiable qu'on puisse trouver pour remplir cette tache. Il a été conçu pour obéir sans rechigner aux commandements qui lui sont donnés et sans jamais sortir du cadre qui lui a été défini par ses programmateurs. Pas d'état d'âme, pas de sentiments parasites, pas de fatigue, pas d'heures de travail... Idéal...

Sauf que c'est un robot...

Et la réaction de Claire à l'arrivée d'Enoch est représentative de ce que pense une bonne partie de la population. Les robots ne sont pas vus comme des auxiliaires, des objets ménagers, des outils fiables, mais comme une contrefaçon de l'humain, un concurrent, un rival... En un mot comme en cent, les robots sont des monstres !

Pourtant, leur usage est très encadré : ils sont reliés à un POD, une base dont ils ne peuvent s'éloigner sous peine d'être signalés (un peu comme les bracelets électroniques dont on équipe certains délinquants), ils ne peuvent se déplacer seul, sans être accompagnés par un humain, ils sont formatés pour obéir aveuglément...

Malgré cela, leur présence inquiète et, même si Enoch fait rapidement ses preuves auprès de Saul, cela ne suffit pas à Claire, toujours aussi rétive à sa présence. Force est de reconnaître que la présence d'Enoch va influer sur la vie de cette famille, éprouvée par l'autisme de son fils aîné... Une influence en bien... Mais aussi en mal...

Sauf qu'on se demande si le vrai problème qu'ont les robots, ce ne sont pas les humains...

Ces dernières semaines, il a été souvent question d'intelligence artificielle sur le blog, de transhumanisme, aussi, d'évolution de l'humain vers des êtres possiblement supérieurs (et on va encore évoquer ces sujets dans les jours à venir). Voici un autre angle à travers un thème classique de science-fiction : les robots.

En attaquant "Kappa16", j'avais en tête les questions posées par Asimov, la vision qu'en a eue Alex Proyas en adaptant "I, Robot"... Un robot n'est-il qu'une machine, un objet inanimé à qui l'on se doit de demander, en paraphrasant Lamartine, s'ils ont donc une âme. Et avec elle, des sentiments, mais aussi un éventuel pouvoir de nuisance ?


"Kappa16" aborde frontalement la plupart de ces questions. Car c'est bien la peur qui nourrit les réactions épidermiques dont est victime Enoch, celles de Claire, comme celles d'autres personnages. "Personne ne veut des robots", lui jette-t-on, avec un mépris teinté d'une trouille tenace, de peur de représailles qui n'arriveront pas, puisque Kappa16 ne peut s'en prendre aux humains.

On aurait même pu aller plus loin dans ces inquiétudes, Enoch pouvant être un exemple parfait de la peur de voir les robots supplanter les humains (comme dans "I, Robot"), les pousser au chômage, à la misère... L'équivalent du mouvement luddiste appliqué à la révolution industrielle 2.0 née du développement de l'informatique et des intelligences artificielles.

Et puis, petit à petit, alors que j'avançais dans la lecture de "Kappa16", une autre référence est venue m'accompagner. Un livre lu cet été qui est à la fois proche et très éloigné du livre de Neil Jomunsi, dans le fond et peut-être plus encore dans la forme. Ce roman qui m'est revenu en mémoire, c'est "Suréquipée", de Grégoire Courtois.

Entre Enoch et la Blackjag, peu en commun en apparence. Mais, les mêmes fonctionnalités liées à l'intelligence artificielle, à la volonté de progrès, d'apporter un service irréprochable au propriétaire... Pour le reste, forcément, entre une voiture et un auxiliaire de vie, entre le simple confort d'un conducteur et la nécessaire prise en charge d'un enfant autiste, on est dans l'opposition superflu/indispensable.

C'est aussi cela qui donne deux colorations très différentes aux deux romans. "Suréquipée" a cette dimension satirique que n'a pas "Kappa16" qui, à travers l'autisme de Saul et ses conséquences sur la vie familiale, joue sur des thèmes plus douloureux. Et la relation entre Enoch et Saul est d'ailleurs troublante, mais pas dans un sens inquiétant, justement. Comme un baume...

Pourtant, entre les deux livres, les passerelles existent. L'une vous paraîtra assez évidente, si vous lisez ces deux livres. Mais, là encore, quand Grégoire Courtois en fait un summum d'ironie, Neil Jomunsi le conçoit comme l'un des noeuds dramatiques de sa trame romanesque. Car "Kappa16", c'est bien cela, un drame.

Le drame d'une famille qui part doucement à vau-l'eau. L'arrivée d'Enoch est un déclic, mais ne nous y trompons pas, le robot n'est pas à l'origine des problèmes, il ne va pas les accélérer par son action ou sa présence. Il sera simplement un prétexte, mieux (enfin, pire) un bon vieux bouc émissaire... Action, réaction... La peur, comme l'opportunisme, réclame des entités à montrer du doigt.

Et Enoch, dans tout cela ? Eh bien, on y arrive. Enoch est le narrateur du roman. Enfin, pas tout à fait, puisqu'il n'a pas le libre arbitre qu'aurait un observateur humain. Ce que l'on lit, c'est ce que le Kappa16 capte, ce qui vient enrichir la base de données centrale de son constructeur, tout ce qui peut être utile à l'amélioration du produit et qui est stocké sur des mémoires.

Nouveau point commun entre "Kappa16" et "Suréquipée", puisque les deux romans utilisent un procédé narratif très proche. Reste que, pour simplifier les choses, on va dire que c'est bien Enoch qui raconte, qui s'adresse au lecteur, qui est derrière ce "je" qui le laisse pourtant dubitatif quand il entend des humains l'utiliser.

Cela offre plein de possibilités à l'auteur, de prendre ce point de vue-là, et pas celui d'un autre personnage ou de recourir à un narrateur neutre. Le premier, c'est la candeur du regard que porte Enoch sur ce qui l'entoure, à commencer par les humains et les relations humaines. L'exemple le plus fort, c'est sa rencontre avec Saul.

Aucun préjugé, pas d'appréhension, juste l'application de protocoles qu'on a mis dans son logiciel, fruit de tant et tant d'expériences similaires. L'expérience humaine pousse souvent à la faute, par maladresse, par crainte de mal faire, l'expérience du robot pousse à l'amélioration permanente, fruit de la somme des situations "vécues" par d'autres robots.

Et, doucement, on commence à se dire que celui qui se dit, se croit supérieur aux autres ne l'est peut-être pas forcément. Que l'être humain est un sacré paradoxe, puisque ce qui en fait justement un humain, ce sur quoi devrait reposer sa supériorité, devient bien souvent une faiblesse terrible. Parce que les sentiments ne sont pas à sens unique et que l'homme n'est pas naturellement bon.

La bonté, pour un robot, ça ne veut rien dire, mais il applique sagement ce qu'on lui a appris et dans ce cas, rien ne dépasse. C'est fait et bien fait, c'est efficace, mais dénué d'une certaine chaleur, si on se place d'un point de vue humain. Pourtant, le côté machine d'Enoch est ce qu'il faut à Saul, que le moindre changement dans sa routine perturbe et à qui il faut souvent user de la répétition (ce qui ne lasse jamais le robot).

Observer Enoch agir avec Saul, c'est un enrichissement permanent. Voilà pourquoi j'ai choisi ce titre, qui incarne le mieux, me semble-t-il, le message du roman : le robot n'est ni inférieur, ni supérieur à l'homme, c'est un sujet bien frivole que cette question du plus long zizi ou de la domination de tel sur l'autre. Non, il est un modèle, si ce n'est de perfection, au moins d'excellence dont nous avons tous à apprendre.

Je parle bien sûr dans l'idéal d'une fiction qui peut prendre les allures d'un fable. La réalité doit forcément être plus complexe, les robots actuels sont sans doute encore loin de posséder les aptitudes des Kappa16 ; et l'on n'évoquera même pas, par pudeur, les motivations de ceux qui imaginent les robots et les IA de demain, car je ne suis pas sûr qu'elles soient toujours très philanthropiques...

Tout cela nous amène à l'autre intérêt de choisir d'adopter le point de vue du robot : suivre l'évolution de ce personnage. Car évolution il y a, bien sûr. Dans quelle direction ? Ca, je ne vais évidemment pas vous le dire ici, d'autant que Neil Jomunsi a trouvé le moyen d'alimenter une exquise ambiguïté (enfin, exquise pour le lecteur friand d'un certain suspense) qui nous fait sacrément cogiter.

Car elle nous renvoie aux doutes, aux peurs, évoquées précédemment. Et si... ? Et si on était comme dans "I, Robot", et si le robot pétait les plombs, et si le robot était un danger pour l'homme, et si, et si... Autant de si qui mettent Paris en bouteille et génèrent les théories conspirationnistes de tout poil sur le web et ailleurs...

Je parle, je parle, mais il y a deux éléments d'importance encore à aborder ! Le premier reste une question de fond. Il y a, à plusieurs reprises, des chapitres consacrés à la culture japonaise. Tout sauf un hasard, le Japon est en pointe sur les réflexions autour du développement des robots. Mais, il y a un autre intérêt à cela.

Un intérêt qui met en évidence le gouffre culturel qui sépare la famille berlinoise du robot. En fait, c'est comme si les concepts sur lesquels "raisonne" le robot étaient issus de cette culture qui paraît tellement éloignée de la nôtre. Ca passe par le vocabulaire, la manière de formuler les idées, et cela pourrait simplement expliquer l'incompréhension tenace dont le robot est victime en Europe.

Une différence culturelle fondamentale qui fonctionne d'ailleurs dans les deux sens, Enoch regardant les humains berlinois évoluer avec une certaine curiosité, mais aussi une difficulté à les comprendre... Mais, si les humains s'enferrent dans leur rejet, le robot, lui, fait ce qu'on lui a appris à faire : il apprend, élargit ses horizons, s'enrichit... Il progresse...

Je n'en dis pas plus, j'aborde juste le dernier point, que j'ai gardé pour la fin comme un bonbon, parce que c'est une idée que j'ai trouvée formidable. Bon, il se trouve que je connais Neil Jomunsi, que j'ai eu l'occasion récemment de travailler avec lui, qu'il m'a inculqué les rudiments du code et de la programmation informatique.

Or, j'attaque la lecture de "Kappa16" et sur quoi tombé-je ? Sur un chapitre intitulé "Initialisation", entièrement rédigé en code (ou tout comme), avec la signalétique d'usage. Puis, dans le premier chapitre, on retrouve ce langage qui intervient dans le texte à l'image des didascalies dans les pièces de théâtre : le code donne des indications de lecture, exprime la "pensée", le "ressenti" d'Enoch.

C'est une idée qui vient enrichir la narration et qui n'est pas un gadget, non, cela a une raison d'être. Et même au-delà de la première impression du lecteur, on verra que ce principe évolue au fil des chapitres. Et l'on se dit que Enoch prend alors des faux airs du Charlie, le personnage central de "Des fleurs pour Algernon".

En lui souhaitant de ne pas subir le même retour de manivelle que Charlie...

Aucun commentaire:

Publier un commentaire