Comment sommes-nous arrivés là ?

Telle est la question que ne cesse de poser Mary Lou, 30 ans, au robot Spofforth âgé de plusieurs centaines d’années dont elle partage la vie depuis qu’il l’a séparée de Paul Bentley.

Autour d’eux, la bulle qui les abrite, un appartement où Mary Lou se gave de lecture grâce aux ouvrages que Spofforth déniche pour elle dans des bibliothèques fermées depuis des lustres, et en arrière-plan, la ville de New York peuplée d‘humains décervelés sans relations entre eux, sans Histoire, sans culture, sans accès à la science, sans aspiration ni avenir.

Mary Lou repense avec nostalgie au temps d’autrefois, un temps qu’elle ne connait que pour en avoir entendu parler par son père adoptif, Simon, comme elle transfuge de cette société sans âme : « Il y avait jadis de grands hommes dans le monde, des hommes d’esprit, de pouvoir et d’imagination. Il y avait Saint Paul et Einstein et Shakespeare… Il y avait Jules césar et Tolstoï et Emmanuel Kant. Mais maintenant il n’y a plus que des robots et le principe du plaisir. » Elle rêve de ce temps où les êtres humains étaient reliés entre eux : « Autrefois, il y a très longtemps, il existait des téléphones privés à New York. Les gens se parlaient alors, peut-être à distance, de façon étrange, avec des voix rendues ténues et artificielles par l'électronique, mais ils se parlaient… Et ils lisaient, ils écoutaient les voix des vivants et des morts… [Ils étaient ] connectés à cette rumeur du discours humain qui devait s'enfler dans leur esprit pour dire : Je suis humain. Je parle. J'écoute. Je lis. »

Qui sont les responsables ?

Pressé de questions, Spofforth donne des réponses : il est le seul survivant de la classe la plus haute de robots conçus pour occuper des postes de directeurs industriels, de cadres supérieurs, qui furent programmés « pour donner à l’humanité ce qu’elle désirait… La pile nucléaire… La fusion contrôlée… Mais ça allait plus loin que ça. Quelque chose de très profond chez l’homme l’attirait vers les voitures, la télé, la drogue… Et l’automobile ne faisait qu’ouvrir la voie à des dépendances plus profondes, plus intériorisées… puis à la perfection de la chimie de l’esprit… »

La suite vient d’elle-même : « L’Intimité et l’Obligation de Politesse ont été inventées par l’un de mes compagnons… Il pensait que c’était tout ce que les hommes désiraient une fois qu’ils avaient les drogues pour s’occuper. » Aux yeux des robots, le meilleur marqueur de la validité de leur choix est que, dans ce monde qu’ils ont mis en place, « le taux de criminalité est pratiquement tombé à zéro. » Des dégâts collatéraux, il n’est pas question.

On pourrait se demander qui a voulu cette abomination. Y a-t-il eu, chez les robots qui ont mis en œuvre cette désastreuse politique, une intention maligne ? Ont-ils été dirigés par des despotes avides de pouvoir bien décidés à prendre la main sur une humanité moutonnière ? La réponse que propose Walter Tevis est bien plus effrayante encore, si cela est possible. Aucun tyran n’est responsable de cette dérive, elle découle simplement de la propension humaine à la paresse intellectuelle.

Métaphore d’un univers vide de sens

La meilleure métaphore de cette situation est la scène que surprend Paul Bentley lorsque, pour retrouver Mary Lou, il s’évade du bagne où il est condamné à effectuer, à longueur de jour, des tâches dépourvues de sens. S’abritant dans une usine où une équipe de robots est occupée à fabriquer des grille-pains, il s’aperçoit que laissés à eux- mêmes ces êtres mécaniques se révèlent incapables de remédier à un dysfonctionnement mineur et fabriquent inlassablement des appareils rendus inadéquats par une résistance défectueuse. Placés au rebut, ces appareils sont recyclés pour donner naissance à de nouveaux grille-pains tout aussi inadéquats. Pour interrompre ce cycle infernal, il suffit d’un minuscule réglage effectué par Paul et dès lors, les grille-pains, au lieu d’aboutir dans le bac destiné aux appareils à recycler, peuvent être commercialisés.

De la même manière que cette absurde chaîne de production, l’évolution programmée du monde des humains, une fois lancée par ces robots ultra-performants a évolué d’elle-même vers la société que dépeint Walter Tevis au début de ce roman dont on peut espérer qu’il n’est pas prémonitoire.

Une leçon bonne à prendre

Est-ce le monde où nous souhaitons vivre ? Cette interrogation n’est pas possible à éluder pour qui observe la société actuelle et la tempête médiatique qui se déchaîne autour des performances de l’Intelligence artificielle. Il ne se passe pas de jour sans qu’on nous annonce des nouveautés destinées à révolutionner notre existence.

Rappelons cependant que ce type d’emballement médiatique n’a rien de nouveau. Aurélie Baugandon, dans un hors série de la revue Science & cerveau, rappelle qu’on a constaté ces effets d’annonce à six reprises au moins entre 1965 et aujourd’hui. Le monde médiatique est en effet fertile en promesses exubérantes qui ne manquent pas d’être suivies par des périodes de désenchantement.

On ne peut cependant contester les bienfaits apportés par ces nouvelles technologies ; capacités gigantesque de calcul, acquisition d’une quantité maximum de connaissances en un temps minimum, avancées spectaculaires dans de nombreux domaines dont le domaine médical, mais ces progrès considérables ne sont pas exempts de nuisances.

Certains gouvernements, grâce à la reconnaissance faciale, pratiquent une surveillance continue de leur population. Les robots conversationnels tels Chat GPT écrivent plus vite, de manière plus circonstanciée que bien des auteurs ou des chercheurs. Mieux que les humains ? Voire. La diffusion massive d’informations non vérifiées via les réseaux sociaux, se propageant de manière virale, pourrait s’apparenter à un lavage de cerveau et induire une méfiance générale par rapport à l’information. Des logiciels permettent de trafiquer les images, de mettre dans la bouche de personnes des discours qui ne sont pas les leurs. L’offre de nouveaux outils pour la cybercriminalité, la création de programmes malveillants et d’informations complotistes sont de nature à porter atteinte à la démocratie.

Déjà, si l’on en croit la presse, depuis très peu de temps, des robots sont en mesure de créer d’autres robots certes plus spécialisés et moins performants, mais où s’arrêtera la machine ?

Les deux scénarios.

Au vu des constats qui précèdent, on peut imaginer deux scénarios tout aussi catastrophiques l’un que l’autre. Le premier aboutit au monde que décrit Walter Tevis dans L'oiseau moqueur : une glissade en douceur vers la fin de l’humanité consciente d’elle-même et porteuse de valeurs. Drogués aux réseaux sociaux, victimes consentantes d’un système qui leur offre une vie exempte de soucis et de questions, les humains tels que nous les connaissons sont appelés à laisser la place à des êtres enfermés dans un confort de vie strictement matériel.

Dans le second scénario catastrophe, les progrès actuels pourraient être de nature à créer une humanité à deux vitesses avec, face au premier type d’humains acceptant cette évolution par facilité, par intérêt ou par indifférence, une classe possédant le pouvoir de voyages systématiques en jets privés, pratiquant un tourisme interplanétaire au mépris des contraintes que devraient nous imposer les précautions à prendre pour éviter le réchauffement climatique et les émissions de carbone, une humanité acharnée à engranger des profits considérables grâce aux recherches sur les intelligences artificielles, une humanité enfin qui se verra offrir, grâce à des manipulations génétiques ou des hybridations entre l’être humain et la machine, l’accès à une vie considérablement allongée, voire éternelle comme l’imaginent les survivalistes et autres transhumanistes.

Quant à craindre que des intelligences artificielles échappent à notre contrôle et remplacent les êtres humains à plus ou moins brève échéance, c’est encore de la science fiction…

De tout cela il ressort que ce n’est pas de l’IA que vient le danger, mais bien de la propension des êtres humains à privilégier la soif de jouissance, l’égoïsme, la facilité. Cela seul est véritablement redoutable.

Quel chemin choisiront nos contemporains, tiraillés entre les deux concepts de l’innovation qui étend sans cesse la gamme des produits et services dont peuvent bénéficier les humains et le progrès, cette capacité rationnelle à agir de façon éclairée dans le présent en vue d’améliorer la condition humaine, de la rendre plus éclairée, capable d’engendrer un futur meilleur ? La question reste posée.