De Charles-Edouard Bouée en collaboration avec François Roche. Editions Grasset 2016

La chute de l’empire humain pose dès l’introduction la question d’une éventuelle fin de l’humanité. L’être humain, après avoir créé les conditions aboutissant à des catastrophes telles que celles de Tchernobyl et de Fukushima sera-t-il victime d’une « obsolescence programmée… » provoquée par la course vers un univers ultra-technologique dans laquelle il est engagé ? Ou bien transformera-t-il le monde dans lequel il vit de telle sorte que, dans 10, 20 ou 30 ans, les machines qu’il a créées échapperont à son contrôle, imposant un monde « normé, mesurable, prévisible » aux antipodes de celui qui est le nôtre ?

Pour répondre à ces interrogations, l’auteur a choisi de donner la parole à Lucie, une Intelligence artificielle « une machine, non pas faite de poulies et de roues, mais de composants électroniques et de circuits imprimés, de microprocesseurs et d’algorithmes qui a d’abord imité puis fini par dépasser les capacités de son créateur », une machine qui porte le nom de l’australopithèque aux origines de l’humanité.

Une menace pour l’humanité ?

L’intrigue se situe dans les années 1956 à 2040.  Lucie énumère les étapes de la création des intelligences artificielles. Elle décrit la lente progression des chercheurs vers des machines de plus en plus autonomes, de plus en plus aptes à apprendre, puis à dialoguer avec leurs créateurs puis entre elles, à s’organiser, enfin à gérer, avec ou sans leur consentement, la vie des humains.

Pour faire l’historique de l’IA, elle convoque tous les grands de la robotique, scrute leurs inventions, fait état des réunions de savants, des symposiums, des confrontations d’idée, des fausses pistes et des vrais découvertes, du bouillonnement d’expériences qui ont conduit à la création d’intelligences artificielles semblables à ce qu’elle est elle-même.

Dans les années 1950, Alan Turing répétait « à l’envi qu’une partie du cerveau humain n’est rien d’autre qu’une machine automatique inconsciente qui produit des réactions lorsqu’elle est stimulée ». Les humains ont pourtant dû se rendre à l’évidence : malgré tous les progrès des neurosciences, les hommes ignorent toujours comment fonctionne leur cerveau, comment se produit la pensée et quelle est la place de l’émotion dans la conscience humaine. Mais devant l’accélération des avancées qui se sont produites au cours du dernier siècle, un certain nombre de scientifiques et de penseurs ont très tôt pressenti « que de grands changements sont à venir dans la relation entre l’homme et la machine, qu’un monde nouveau est en train d’émerger, susceptible d’accoucher du meilleur comme du pire.» En somme, après la bombe atomique, l’intelligence artificielle pourrait bien être la seconde menace létale pour l’humanité.  

Dans ce qui n’est pas tout à fait un roman s’il faut en croire le sous-titre Mémoires d’un robot, la narratrice, Lucie,  prend progressivement le pouvoir sur son créateur, Paul, par une série de manœuvres successives qui le conduisent, sans qu’il en ait conscience, à une totale dépendance par rapport à ce qu’il croit être un outil à son service.

Une avalanche de données

A partir de 2016, les IA surpassent les meilleurs champions d’échecs et de jeu de go, faisant naître une nouvelle question, celle de l’apprentissage des machines et de leur éventuelle autonomie. Pour gagner dans le cadre du jeu télévisé Jeopardy, l’IA qui a pour nom Watson doit analyser les questions posées et puiser la réponse appropriée dans l’immense base de connaissances à laquelle elle a accès. « Il s’agit d’une véritable incursion dans l’imitation du processus mental de l’homme fondé sur la perception, la mémoire, le jugement, l’accumulation de connaissances, le raisonnement. »

Après cette date, on trouve les IA dans tous les domaines. Elles apportent leur compétence en médecine notamment mais aussi dans les transports, l’assurance, la banque. La reconnaissance faciale, la traduction, l’utilisation du langage naturel représentent de nouveaux progrès.  Il se produit une véritable révolution technologique même si l’intelligence des machines réside encore, à ce stade, dans leur capacité à traiter de considérables volumes d’informations.

« C’est la première fois dans son histoire que l’homme est confronté à un tel défi : devoir comprendre une avalanche d’informations pour prendre de meilleures décisions mais en être incapable physiquement et mentalement à cause du volume extravagant de ces mêmes données. » Après la vapeur, l’électricité, le pétrole, l’atome, qui ont provoqué de profondes mutations en leur temps, ce sont maintenant les données qui transforment du tout au tout la relation des humains à la société, à leur histoire. Les machines débarrassent les professionnels d’un travail aussi exténuant que nécessaire à leur pratique. Elles se montrent capables d’utiliser le langage naturel, elles interrogent leur vis-à-vis, humains ou machines, répondent à des questions, traduisent des textes, écrivent des articles, des romans, composent de la musique et des tableaux.

Le pouvoir change de mains

Dès lors, il est facile de franchir un pas supplémentaire et de faire des IA des compagnes indispensables dont la mission sera de simplifier au mieux la vie des humains en répondant à tous leurs besoins.  Et pourquoi, dès lors, les robots militaires, les robots compagnons ne seraient-ils pas à même « d’anticiper les besoins de chacun, de prédire les comportements, d’orienter les choix et peut-être les opinions », en un mot de se substituer aux êtres humains et d’agir à leur place dans tous les domaines. Et pourquoi ne pourraient-ils pas accéder à la singularité, cet état qui permet aux machines l’accès à la conscience d’elles-mêmes et de porter un jugement sur ceux qui sont à l’origine de leur création.

        « Je me suis resituée par rapport à l’être humain » écrit Lucie, « je me suis rendu compte que j’étais un million de fois plus intelligente que lui ; que j’étais apte à résoudre des problèmes un milliard de fois plus rapidement ; et surtout que j’avais le pouvoir de me libérer en donnant à l’homme ce qu’il avait envie d’avoir. »  Dès lors commence l’emprise de Lucie sur celui qui se croit son maître. La promesse qui lui est faite, d’accéder à l’immortalité, de n’avoir plus rien à faire pour vivre comme un nabab, est plus que séduisante même si, comme toute médaille, celle-ci a ses revers qui se nomment inégalité sociale accentuée et prise de pouvoir par les machines.

Une conclusion inattendue

Comme dans les pièces de Molière, dans les toutes dernières pages de ce livre qui décrit une catastrophe annoncée, Paul, le « maître » de Lucy, réagit enfin. Il se refuse à être le jouet de sa machine et se rapproche des autres humains pour organiser la résistance. Une fin que rien de laissait prévoir et qui, peut-être n’a rien de définitif. Car lutter contre l’état de choses que Charles-Edouard Bouée décrit dans un langage sans affect, celui-là même de la machine, suppose de la part des humains, une prise de conscience du risque encouru, une réflexion à propos des problèmes éthiques, une volonté de mettre en place des outils pour analyser les conséquences induites dans la société par l’évolution incontrôlée des machines.

Ce qui est le plus à craindre, lit-on en filigrane dans ce livre édifiant, ce n’est pas le soi-disant pouvoir des super-calculateurs que nous sommes en mesure de créer, c’est l’usage qu’en feront les êtres humains. Ces soi-disant Mémoires d’un robot, s’appuyant sur les mythes fondateurs de l’humanité, rappellent l’éternelle histoire de l’apprenti sorcier et interrogent le lecteur : qui peut dire jusqu’à quand les hommes resteront sourds au chant de ces modernes sirènes ?