Laurent Genefort est un habitué de nos pages thématiques. Ainsi, après avoir défini les cadres de ces œuvres immenses et propres à la science-fiction que sont les livres-univers (in Bifrost 04), avoir planché sur les problèmes d’espace et de temps dans la S-F (in Bifrost 12), sur le décor et l’environnement (in Bifrost 13), et enfin sur l’altérité exprimée par le biais de l’extraterrestre (Bifrost 14), il aborde ici la thématique du robot et, par extension, de l’intelligence artificielle dans le corpus science-fictif. Dans cet article comme dans les précédents, ses propos sont directement étayés par des exemples et des mises en applications puisés au sein des livres-univers chers à notre auteur. Ainsi sa série d’articles, tout en présentant une approche globale des thèmes et mécanismes fondamentaux de la science-fiction, s’impose comme une vaste étude des rouages de certaines des plus grandes fresques qu’ait jamais connue la littérature d’anticipation.

La S-F se développe à la fin du XIXe siècle, en marge de la littérature générale, quand s’inaugure un champ mythologique nouveau. Dans un article précédemment publié dans Bifrost, nous évoquions l’un de ses thèmes fétiches, les extraterrestres. Le thème le plus immédiatement voisin est celui des machines pensantes, êtres animés intelligents créés par l’homme. C’est pourquoi on le retrouve tout naturellement dans la grande majorité des livres-univers, ces fresques romanesques organisées autour de mondes démesurés tels que Dune, Noô, Hypérion et Helliconia. Quel statut ce thème — avec d’autres — a-t-il dans les livres-univers ?

A l’origine, deux thèmes peuvent être distingués dans le domaine de “l’intelligence mécanique” : les robots, et les superordinateurs. Dans la première catégorie se rangent le robot classique de la S-F des années 30 à 60, engoncé dans sa lourde armure métallique ; et l’androïde, robot d’apparence humaine. Le superordinateur, symbolisant la conscience désincarnée, a trouvé dans les IA un successeur moderne.

Les machines pensantes sont les produits de la technologie moderne dans ce qu’elle a de plus ambitieux : la création d’une intelligence, voire d’une conscience, artificielle. Elles regroupent des problématiques courantes en S-F, c’est pourquoi on les retrouve dans chaque livre-univers, qu’elles soient ou non développées.

Ce type de situation est immédiatement évacué dans Dune, où les machines intelligentes ont été bannies au terme d’une croisade religieuse :

« Les hommes ont autrefois confié la pensée aux machines dans l’espoir de se libérer ainsi. Mais cela permit seulement à d’autres hommes de les réduire en esclavage, avec l’aide des machines.»

« Tu ne feras point de machine à l’esprit de l’homme semblable », cita Paul.

« Oui, c’est ce que disent le Jihad Butlerien et la Bible Catholique Orange(1). »

Or, l’évolution de l’intelligence est un leitmotiv de l’œuvre de Herbert : intelligence artificielle dans Destination vide et ses suites, insectoïde dans Le Cerveau vert (The Green Brain, 1966), étrangère dans les deux romans du Bureau des Sabotages(2). Avec Dune, c’est l’intelligence humaine qui est au centre de la réflexion.

machines-qui-pensent-dune.jpgLes civilisations anti-mécanistes d’avoir été trop mécanistes ne datent pas de Dune, mais des utopistes classiques. Dans Erewhon (1872) de Samuel Butler, les machines ont été bannies pour qu’un jour elles ne dominent pas l’homme, traduction littéraire du dégoût de beaucoup d’écrivains face à l’expansion de l’univers mécanisé et déshumanisant de la Révolution industrielle. Dans Dune, l’absence de machines a abouti à l’apparition de “machines humaines” qui renversent le motif : mentats (ordinateurs humains), danseurs-visages du Bene Tleilax, et même les froides Révérendes Mères du Bene Gesserit qui excluent l’amour et se méfient de la musique. L’homme, chez Frank Herbert, est traité comme une machine que l’on peut, que l’on doit, améliorer. On notera d’ailleurs la fréquence élevée du thème de l’eugénisme dans l’utopie comme dans l’œuvre d’Herbert.

Même absente en tant qu’icône, la machine qui pense forme bien un nœud dans la problématique de Dune.

machines-qui-pensent-robot.jpg

1. Les robots

Comme objet, le robot est directement issu de l’automate (du grec signifiant “qui se meut de lui-même”), dont on se demande, dès la Renaissance, s’il possède une âme. Le XVIIIe siècle s’interroge pour savoir si, derrière l’automate, il n’y a pas un esprit caché, et cela bien avant « Le Joueur d’échecs de Maelzel » (« Maelzel’s Chess-player », 1836) d’Edgar Poe. Les automates existaient déjà du temps de la Grèce antique. Ils correspondaient à un désir séculaire : puisqu’on ne peut créer la vie, pourquoi ne pas créer l’apparence de vie ? C’est au XIXe siècle que se constitue son imagerie, exploitée dans la littérature et qui a fourni parmi les figures cinématographiques les plus populaires dans le grand public, de Robbie à Terminator.

« Le robot du début XXe siècle est un produit de la deuxième révolution industrielle, contemporain de l’électrification et du moteur à explosion. Comme les avions et les automobiles, il est indéfiniment perfectible(3). »

machines-qui-pensent-rur.jpgLe robot est souvent confondu avec l’androïde, car les travailleurs artificiels du Tchèque Karel Capek, dans la pièce de théâtre R.U.R. (4) où le terme est utilisé pour la première fois, sont des androïdes. Dans la pièce sont posés à peu près tous les thèmes liés aux robots et aux androïdes : confusion homme-machine, stérilité des robots, apparition des émotions et de la conscience chez les robots, avec pour conséquence la révolte et la fin de l’humanité comme la punition prométhéenne… La créature du film Métropolis de Fritz Lang, en 1926, appartient aussi à cette dénomination.

En fait, l’idée de robot se perd dans la nuit des temps. Dans L’Iliade d’Homère, le dieu forgeron Héphaïstos a fabriqué deux automates féminins en or, dont la fonction est en adéquation avec l’étymologie du mot robot, de la racine slave robota qui signifie travail forcé. Le motif va donc puiser à la source des mythes antiques, et l’on trouve des avatars à diverses époques, comme le Golem d’argile de la légende juive, créé dans le ghetto de Prague au XVIe siècle. Le robot est un serviteur. Son utilité a été pressentie par Théophile Gautier : les robots sont les « bras de fer [qui] remplaceront les frêles bras de l’homme(5) », sont les outils d’une libération de l’individu par le progrès. Mais il revient à la science-fiction d’en avoir exploré toutes les conséquences, sur la société et sur l’individu.

Conçu pour servir l’homme, le robot-domestique se voit doté d’un cerveau positronique si complexe que ses opérations mentales ressemblent à s’y méprendre à celles d’un être humain, l’efficacité en plus. Bref, un esclave idéal pour les tâches les plus pénibles… jusqu’à ce qu’il se rebelle. Pour le bien de ses maîtres, il lui faut alors un code de comportement implanté dans sa programmation, réfrénant cette regrettable pulsion ! En somme : un conditionnement.

machines-qui-pensent-robotasimov.jpgC’est Isaac Asimov qui, aidé de John Campbell, a forgé (outre le mot “robotique”) ce surmoi cybernétique sous la forme d’une trinité de lois bien connues, Code civil transformant le robot en citoyen idéal, en être humain plus que parfait, efficace et sans besoin — bien entendu, en suscitant davantage de problèmes qu’elle n’en règle. Ces lois apparaissent intégralement exprimées pour la première fois dans la nouvelle « Cycle fermé(6) ». Dans les années 40, le thème du robot humanoïde est surtout développé par trois écrivains : Isaac Asimov avec seize romans et trente-cinq nouvelles, Lester Del Rey et Clifford D. Simak. Dans « L’Ordre ultime(7) », Van Vogt développe le premier cas d’égalité entre robots et êtres humains. Dans un recueil de nouvelles dérivées du cycle des Robots (8), Harry Harrison a décrypté le contenu esclavagiste de ces lois, en assimilant explicitement les robots aux Noirs.

Le robot occupe alors les fonctions en principe réservées par nature à son maître, pratique tous les métiers — médecin, politicien et même psychanalyste —, éprouve tous les types d’émotions. Dans « Raison »(9), Asimov les dote de foi. Triomphant dans les années 50, il est peu à peu passé de mode, le mythe se dégradant jusqu’à entrer dans le champ comique, sans toutefois jamais disparaître.

machines-qui-pensent-helliconia.jpgA mi-chemin du robot et de l’androïde, dans L’Hiver d’Helliconia (Helliconia Winter, 1985) de Brian Aldiss : les “zizipantins“, créatures grotesques en forme d’organes génitaux, fabriquées à partir d’un héritage génétique perverti. Bien que non humanoïdes, ils sont assimilables à des automates organiques à la manière du monstre de Frankenstein. Incapables d’évoluer, leur destin est l’anéantissement, entraînant dans leur perte, conformément à la tradition de toute création dévoyée, les descendants de leurs créateurs.

machines-qui-pensent-android.jpg

2. Les androïdes

L’utilisation de ce mot par les auteurs de S-F remonte aux années 40 et c’est à Edmond Hamilton qu’il revient, semble-t-il, de l’avoir inauguré. Dans sa stricte définition, l’androïde est organique et de forme humaine, deux caractéristiques du monstre de Frankenstein du roman de Mary Shelley paru en 1817. C’est la dernière caractéristique qui est généralement retenue. Même biologique, l’androïde est un être humain artificiel. Qu’il ait été souvent féminin tient sans doute à une vieille tradition culturelle qui considère la femme comme un Maschinenmensch. Au contraire du robot, la confusion avec l’être humain est possible, et c’est d’ailleurs ce qui se passe dans R.U.R., quand l’héroïne ne veut pas croire que la secrétaire du directeur de l’usine est un androïde. La postérité la plus célèbre sur le sujet est Blade Runner.

L’Homme au sable (Der Sandmann, 1817) d’Hoffmann et L’Eve future (1886) de Villiers de L’Isle-Adam se sont interrogés sur les amours impossibles de l’homme et de l’androïde. L’androïde possède la charge mythique de maîtriser l’angoisse de mort, la créature étant virtuellement immortelle. Au cours des années 60 et 70, Philip K. Dick a traité de l’androïde (redevenu mortel) dans ce qu’il a de plus classique, à savoir les critères d’humanité et de normalité. Son traitement, en revanche, est unique, puisque ses androïdes ont certaines caractéristiques de malades mentaux, en particularité de schizophrènes ; la frontière humaine devient psychologique.

Il faut en outre mentionner un thème mitoyen : celui du cyborg, qui constitue un motif inversé d’homme-machine. Le cyborg représente la mutation de l’homme par l’adjonction de prothèses cybernétiques, branchées directement sur le cerveau, au point qu’électronique et biologie se trouvent indissociablement liés : une voie possible de la post-humanité.

Qu’en est-il dans nos livres-univers ?

Le cybride, narrateur d’Hypérion (Hyperion, 1989), est une enveloppe charnelle abritant une personnalité reconstituée. Le naturel et l’artificiel se combinent étroitement, ce que révèle la formation du néologisme. Le cybride de Keats est une reconstitution informatique (un “analogue” dans la terminologie cyberpunk), reproduisant une personnalité ayant existé.

machines-qui-pensent-noo.jpgChez Stefan Wul et Brian Aldiss, les androïdes ne tendent pas à remplacer l’homme, pas plus qu’ils ne recherchent la signification de leur existence. Ils sont intégrés dans la société comme l’est un outil : dans Rayons pour Sidar (1957) de Stefan Wul, c’est un double de protection comparable à celui de Billy Xiao Pin dans Helliconia l’été (Helliconia Summer, 1983) qui se confond presque avec le thème du clone ; dans le tome I de Noô (1977) de Wul, ce sont un policier cybernétique et une domestique dans un hôtel de luxe à Grand’Croix. Dans tous les cas, des êtres artificiels à l’aise dans leur rôle subalterne, à qui il ne viendrait pas à l’esprit de violer les trois lois de la robotique. Le seul discours attaché au policier est relatif à l’activisme politique dont il fait les frais. Humain ou pas, un policier est un policier. Les androïdes d’Aldiss et de Wul présentent une variation de l’androïde assez ancienne dans l’histoire du genre : celle de doublure. Jamais cependant n’apparaît la peur que ces copies si parfaites ne viennent à confondre les deux engeances. La domestique de l’hôtel n’est rien d’autre que ce à quoi elle ressemble : un mannequin animé, munie de stock de comportements-types et de phrases conventionnelles.

Dans Helliconia, le robot s’éloigne en apparence de sa fonction originelle, qui est de travailler. Il sert les propos de l’auteur sur l’amour-possession :

« Ce fut une expédition exclusivement masculine. Les hommes laissèrent leurs femmes sur place, préférant emmener avec eux de sveltes partenaires robotisées conçues pour répondre à un idéal abstrait de la féminité. Ils aimaient s’accoupler avec ces parfaites images de métal. »(10)

Les explorateurs spatiaux ont mis en pratique un fantasme que la science-fiction n’a pas manqué de développer dès ses débuts : la femme-objet dévouée jusqu’à la mort. La nouvelle de Lester Del Rey « Hélène O’Loy »(11) n’est sans doute pas la première du genre. Hélène est une jolie androïde, dotée d’émotions. Sitôt mise en fonction, elle tombe amoureuse d’un de ses créateurs, qui la repousse avant de l’épouser. Lorsqu’il meurt, logiquement, elle se détruit.

Hormis le policier, il ne sera plus question de robots ni d’androïdes dans Noô. Quant à Billy Xiao Pin dans Helliconia l’été, il refusera à son double artificiel de l’accompagner. Contrairement au développement classique, d’une extraordinaire richesse, du thème, le livre-univers ne traite pas des problèmes issus des lois d’Asimov ni du questionnement dickien du réel à propos de l’identité homme/machine qu’implique l’androïde, robot d’apparence humaine. Le livre-univers a absorbé le thème du robot, mais en le rejetant à l’arrière-plan.

machines-qui-pensent-ia.jpg

3. Les IA

À l’inverse du robot, l’ordinateur est un phénomène propre au XXe siècle. Le mot est inventé en 1956, celui d’informatique en 1962.

Né du calculateur, le thème des IA a pris son essor avec celui de l’électronique (le premier calculateur électronique, l’ENIAC, remonte à 1946), mais les pulps américains des années 30 imaginent déjà un futur où l’homme dépend entièrement des ordinateurs, ainsi John W. Campbell dans la nouvelle « The Machine »(12). Dépouillé de toute apparence humaine qui pourrait attirer la sympathie, le superordinateur n’en est que plus terrifiant, plus insaisissable. C’est lui qui symbolise le mieux le conflit de l’homme et de la machine, le premier étant jusqu’à présent seul détenteur de la faculté de penser, seul bénéficiaire du don divin de la conscience de soi : l’homme a désormais un concurrent sur le plan métaphysique. Quand l’ordinateur gouverne, c’est pour aliéner l’humanité. Quand il tombe en panne, il provoque la chute de la civilisation. Beaucoup d’auteurs essaieront pourtant de le mettre en échec, physiquement ou sur le terrain de la logique. Sa puissance fait peur, et certains la comparent à celle de Dieu. Dans la courte nouvelle « La Réponse »(13), on demande à la machine, somme de tous les ordinateurs du globe, si Dieu existe. Ce à quoi elle répond : « Oui, MAINTENANT il y a un Dieu. »

La plupart des ordinateurs ne vont pas si loin. Entre la machine et la divinité, il y a l’homme… et l’IA, ou Intelligence Artificielle : appellation aussi controversée, ou peu s’en faut, que le mot science-fiction. L’IA est un programme informatique, un logiciel traitant de situations complexes, capable d’un certain degré d’abstraction et d’initiative. Bref, une pure machine à penser, plus près de Dieu peut-être car délivrée des tentations de la chair, mais aussi athée par excellence, puisque ne devant pas son existence à un être surnaturel. Ses limitations sont difficiles à cerner, même par ses créateurs, tant sa complexité est grande.

machines-qui-pensent-turing.jpgDans la science-fiction, il faudrait plutôt parler de Conscience Artificielle. L’émergence de la conscience est le thème et le ressort de l’intrigue d’œuvres de hard science récentes, comme Le Problème de Turing (The Turing Option, 1992) de Harry Harrison et Marvin Minsky, ou la série de mangas Ghost in the Shell de Shirow. Contrairement au robot, l’IA ne possède pas de corps mais se meut dans l’espace qui convient à son état : le cyberspace, espace-mémoire des ordinateurs servant d’étendue virtuelle. Aujourd’hui, ce concept s’est répandu hors des limites du genre où il a vu le jour, le cyberpunk, pour envahir la plupart des genres que compte la science-fiction, et grossir le nombre des clichés. L’IA représente une intrication de thèmes actuels et éternels : être virtuel et immortalité, “âme” artificielle, existence politique, etc.

machines-qui-pensent-hyperion.jpgLes livres-univers se sont naturellement appropriés ce nouveau cliché. Dans Hypérion de Dan Simmons, les IA ont fait sécession de leurs concepteurs, mais, à l’instar du cycle de la Culture de Iain Banks, elles dirigent en sous-main la société interstellaire. Avec une différence cependant : les IA de Dan Simmons restent classiquement néfastes, au mieux indifférentes, là où celles de Banks, quoique manipulatrices, sont bienveillantes. Elles peuvent du reste se choisir aisément des avatars sous forme d’androïdes, de drones ou de vaisseaux entiers. Du sens qu’a conféré à l’IA le genre cyberpunk, Dan Simmons en ajoute d’autres en insérant le thème dans une trame de space opera, un nouveau système de références. L’IA, dans Hypérion, est davantage un être vivant, soumis au processus d’évolution, et qui forme une communauté d’intérêts, perdant son caractère d’unicité : en somme, une para-humanité virtuelle, qui peut du reste être amenée à remplacer l’originale. Le TechnoCentre est une résurgence du thème primitif de l’ordinateur géant et omniscient, aux buts inquiétants d’asservissement. L’auteur a conservé le passé culturel de la machine pensante, puisqu’une partie des IA est restée “fidèle” aux humains — c’est-à-dire qu’elle ne s’est pas débarrassée des fameuses lois d’Asimov. Il est intéressant de noter que les IA ne sont pas réductibles à une seule tendance — celle d’ultime avatar de la Machine ennemie de l’Homme —, et s’affrontent au sein de factions rivales : les Stables, les Volages et les Ultimistes.

On trouve beaucoup d’autres récupérations ostentatoires, qui font d’Hypérion un monde hautement référentiel.

Ces objets partagent avec l’extraterrestre la fonction de relativiser l’homme en tant que norme d’être animé intelligent. Mais plus que l’E.T., le robot se situe aux frontières de l’humain. Si le thème est souvent dépouillé de sa valeur conjecturale dans le livre-univers, c’est que l’intérêt s’est déplacé. Cette dénaturation provient d’un glissement vers une nouvelle fonction : 1°) celle de signe obligé de futurisme, 2°) de signe positif fondateur de cohérence interne. Le thème, davantage qu’un simple ingrédient, constitue une « brique de construction » du monde fictif. Il acquiert une fonction structurante. En revanche, le robot ou l’IA devient là, véritablement, un personnage à part entière.

Notes :

(1) Dune, vol. I, Pocket, p.21. Voir également Le Messie de Dune, Pocket, p.96.
(2) Mini-cycle qui comprend L’Etoile et le Fouet (Whipping Stars, 1970) et Dosadi (The Dosadi Experiment, 1977). Le Programme Conscience (“Pandora” sequence, 1978-1988), comprend, outre Destination vide (Destination : Void, 1966), trois romans écrits en collaboration avec Bill Ransom.
(3) Alexis Lecaye : Les Pirates du paradis, Denoël 1981, p.172.
(4) Pour Rossum’s Universal Robots, 1921, représentée à la Comédie des Champs-Élysées en 1924. R.U.R. a été publié avec trois nouvelles d’autres auteurs, dans l’anthologie Quatre pas dans l’étrange, Hachette « Le Rayon fantastique» n°79, 1961.
(5) « La République de l’avenir », Journal, 28 juil. 1848.
(6) « Runaround », Astounding, mars 1942, reprise dans le recueil I, Robot, 1950. Ce n’est pas la première histoire de robots d’Asimov sur la problématique car « Menteur » (« Liar ») remonte à 1941.
(7) « Final Command », Astounding, nov. 1949, reprise dans Monsters, 1965.
(8) « La Quatrième loi de la robotique » (« The Fourth Law of Robotics », Foundation’s Friends, 1989), in Les Fils de Fondation, Pocket, 1993.
(9) « Reason », Astounding, avr. 1941.
(10) L’Hiver d’Helliconia, Livre de Poche 1990, p.319.
(11) « Helen O’Loy », Astounding, déc. 1938.
(12) Nouvelle signée Don A. Stuart in Astounding, fév. 1935, non traduite.
(13) Fredric Brown : « The Answer », in recueil du même nom, 1954.
(14) Endymion, Laffont 1996, p.297.

Source : Architecture du livre-univers dans la science-fiction, à travers cinq œuvres : Noô de S. Wul, Dune de F. Herbert, La Compagnie des glaces de G.-J. Arnaud, Helliconia de B. Aldiss, Hypérion de D. Simmons, Laurent Genefort, p. 199 à 209.