Mois de l'Imaginaire

IA et SF : les liaisons dangereuses

Publié le 04/10/2019 à 06:00 - 17 min - par AudreyB

Octobre est depuis trois ans maintenant le Mois de l’Imaginaire, le prétexte à une mise en avant de ces littératures (science-fiction, fantastique, fantasy,…) encore trop souvent décriées et considérées comme inférieures à la littérature dite générale ou « blanche ». À la fin du mois, se tiendra à Nantes les Utopiales dont le thème choisi cette année est Coder / Décoder. Deux occasions de décliner les multiples ramifications de l’Intelligence Artificielle, qui n’a jamais été aussi centrale dans nos préoccupations.

Image extraite du générique de la série Westworld

« Tu ne feras point de machine à l’esprit de l’Homme semblable » (Dune, Frank Herbert)

Les liens entre IA et science-fiction sont anciens et il est d’autant plus intéressant de réaliser qu’en fait, l’intelligence artificielle (au sens strict) n’existe pas. On crée des machines avec des compétences artificielles mais sont-elles vraiment intelligentes ? Ce qu’on appelle « IA » aujourd’hui est en réalité une IA faible, c’est-à-dire une intelligence artificielle non-sensible qui se concentre sur une tâche précise. L’IA demeure cependant un fantasme, celui de l’imitation tout d’abord, jusqu’à la domination terrifiante. Nous sommes à la fois attirés et repoussés par cet artificiel copiant la vie. La science-fiction, notamment littéraire, exploite tous ces espoirs, cette séduction, mais aussi ces peurs.

Si le concept est ancien, c’est au sortir de la 2^ème Guerre mondiale que les fondations de l’IA acquièrent de la solidité, avec le développement de la cybernétique sous l’égide de Norbert Wiener. Très tôt popularisée par des journalistes scientifiques vulgarisateurs, la cybernétique est à l’origine de la dénomination du personnage du cyborg apparu dans les années 1960-1970. L’ambition de l’IA naît de là, de ce rapport entre biologie et artificiel, d’une copie conforme de nous, mais façonnée par nous. Se pose la question du statut de ce qui est créé, du rapport entre créateur et créature et là, la SF prend toute sa place pour explorer les possibilités, les risques et les bénéfices de cette ambition.

Pour mieux comprendre, il faut revenir à des sources anciennes, antérieures même à la science-fiction, qui mêlent automates et robots. C’est une longue filiation qui s’instaure et permet de mieux comprendre les facettes de l’IA : d’abord imitation et copie, version diabolique ou idyllique de nous, l’IA va ensuite s’éloigner, explorer ce que nous ne sommes pas et poser la question de la cohabitation avec ces entités autant étranges qu’étrangères.

Ξ IMITATION

De l’automate au robot

Créer des objets animés, c’est se mesurer au divin. Dans la mythologie grecque, c’est Aphrodite, la déesse de l’amour, qui insuffle la vie à Galatée, la statue créée par Pygmalion et dont il est tombé amoureux. Aimer ou craindre ses créatures, c’est le cœur de toutes ces histoires.

Le premier être créé moderne est la créature de Frankenstein (Mary Shelley, 1818) qui deviendra un personnage de roman. Même si elle est horrible, elle nous est rendue tragique par sa solitude et le rejet dont elle est victime. On est à l’origine de la science-fiction mais ce récit va former la matrice de beaucoup de textes mettant en scène des robots ou des Intelligences Artificielles. Cette fois, les dieux sont absents, tout comme la tradition cabalistique qui entourait le Golem, être artificiel de la mythologie juive, fait d’argile, incapable de parole et dépourvu de libre arbitre, façonné afin d’assister ou défendre son créateur.

Une des inspirations de Mary Shelley est une avancée scientifique, le galvanisme. Galvani étudiait dans les années 1780-1790 l’effet de l’électricité sur des animaux disséqués. Il pensait qu’il existait une électricité animale et certains scientifiques allaient même jusqu’à imaginer qu’une quantité adéquate d’électricité pouvait ramener un cerveau à la vie (les expériences de Galvani permettront à Alessandro Volta de créer sa pile). L’écrivaine connaissait ces théories, ainsi que les travaux du physicien Benjamin Franklin sur l’électricité.

Si le monstre de Frankenstein est une créature artificielle de chair, il existe une autre source aux robots : les automates. Leur origine est très ancienne et remonte à l’Antiquité. À partir du XVIè siècle, ils deviennent des objets de luxe pour l’aristocratie, avant de se banaliser à la fin du XIXè comme outils publicitaires. Édifiante est l’histoire incroyable du Turc mécanique (1770-1854). Ce prétendu automate joue aux échecs et est présenté à la Cour de Vienne et à Paris, où il bat de nombreux nobles. Il faudra attendre des années pour que le canular soit dévoilé et qu’on révèle la présence d’un opérateur caché dans le meuble. Pour simuler l’homme, il fallait un homme, mais l’épisode traduit tout l’intérêt pour l’artificiel, la mécanique capable de rivaliser avec l’esprit humain. On ne parle pas de magie ou de sorcellerie, au contraire on loue le génie de l’inventeur.

Puis vint l’andréide, une copie-automate plus que parfaite. Dans L’Ève future (Villiers de L’Isle-Adam, 1886), pour consoler un lord anglais d’une déception amoureuse (une femme belle mais stupide), Thomas Edison crée une réplique artificielle, une andréide. Ce n’est pas seulement la copie d’un idéal féminin physique mais d’un idéal spirituel. Dans ce récit très misogyne, l’IA critique l’artificiel de la société, les poudres, onguents, fards qui cachent la réalité des êtres. D’où une nouvelle Ève, qui abolit le mensonge de la société bourgeoise. Pour l’Edison du roman, cette créature est à la fois une provocation contre un dieu absent et une tentative de créer une solution scientifique à la solitude de l’homme dans la société contemporaine. L’ingénieur confronte l’humain au mirage d’une femme réelle et à celui d’une femme artificielle. Que choisir ? Il oblige à distinguer l’illusion mensongère (sociale, le maquillage) et l’illusion véritable. Seule la dernière, scientifique, permet d’accéder à l’idéal. Même si la fin fait planer le châtiment divin (le bateau où est l’Ève future coule), le récit plante des idées qui vont être fructueuses pour toute la science-fiction, notamment à travers la figure du robot.

Le terme de robot vient du slave, il est créé par le dramaturge Karel Čapek dans sa pièce R. U. R. (1920 Rossumovi univerzální roboti), plus précisément il a été inventé par son frère Josef à partir du mot robota qui signifie « travail » ou « servage ». La pièce met en scène des machines biologiques à l’apparence humaine, sans sensibilité ni sentiments. Pour les rendre moins fragiles et polyvalents, leur inventeur les dote d’une sensibilité limitée et d’une intelligence un peu développée. Au bout de 10 ans, ils se révoltent et anéantissent l’humanité. À la fin, deux de ces robots découvrent l’amour. On est à la fois chez Frankenstein et chez les automates. Le créateur a une responsabilité, mais chez Čapek, c’est en introduisant du sentiment qu’une conscience révolutionnaire émerge. On est après la Révolution russe et la pièce attire l’attention sur l’exploitation, le fait d’ignorer l’humanité des ouvriers des usines. Čapek est socialiste non-marxiste, il ne plaide pas pour la Révolution mais pointe la mécanisation de l’industrie fordienne. Avec ce texte, le robot cesse d’être une fantaisie d’ingénieur, une invention isolée, quasi métaphysique, pour devenir un symbole de l’ère industrielle et un questionnement sur notre humanité dont le robot est le reflet.

Le robot, un humain diabolique ou idéal

Une fois sorti du simple cadre de l’automate, de la copie physique de l’apparence humaine, on entre vraiment dans l’IA. Peu importe sa forme, le robot sera doté d’une intelligence en interaction avec l’homme. Ce qui traduit le mieux cela, c’est ce qu’on désigne communément sous le nom de Test de Turing : un opérateur derrière un clavier converse avec quelqu’un en posant des questions, afin de déterminer, sans l’avoir vu, si c’est un humain ou non. Ce test est aussi appelé « jeu de l’imitation » car il s’agit pour un programme de simuler les interactions humaines. Cependant la science-fiction va pousser plus loin : si on ne peut déterminer la nature de l’interlocuteur, alors celui-ci est doté d’une conscience. Comme c’est par rapport à un humain que l’on juge, l’IA est vue comme un humain idéal ou diabolique.

2001, l’Odyssée de l’espace (1968) est partiellement inspiré de la nouvelle La Sentinelle, d’Arthur C. Clarke mais Kubrick y introduit le personnage de HAL 9000, l’ordinateur central du vaisseau. Perturbé, HAL va se sentir menacé par les humains avec qui il collabore, jusqu’à les tuer. À la fin, quand l’astronaute Dave le débranche, il avoue sa peur, son émotion de sentir son intelligence lui échapper. Si l’humain s’en sort, ce n’est pas à cause de son intelligence rationnelle, mathématique, mais grâce à sa réactivité et à son imagination. Dans Le cerveau d’acier de Joseph Sargent (1970), adapté d’un roman de Dennis Feltham Jones, un superordinateur, Colossus, prend conscience de lui-même et se proclame maître du monde, déclarant qu’il abolira la guerre, la famine et la surpopulation. Les humains sont dépassés, à la merci d’un supercalculateur. Et dans les films Terminator et Matrix, les machines asservissent ou détruisent l’homme aussi bien qu’un régime totalitaire ou une guerre nucléaire.

A contrario et contre le syndrome de Frankenstein, Isaac Asimov écrit Les robots (recueil de 9 nouvelles, 1950). Il veut une alternative à la conspiration des robots, en proposant des règles qui régulent les relations.

> Les 3 célèbres règles d’Asimov ou Lois de la robotique :

1 un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu’un être humain soit exposé au danger.

2 un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.

3 un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

Toutes les histoires d’Asimov jouent sur les ambiguïtés de ces lois, les contradictions qu’elles entraînent. Ses robots sont des humains parfaits, trop logiquement parfaits. À peu d’exceptions près, ses robots ne sont ni mauvais ni bons, ce sont des machines neutres avec qui l’humain collabore. Mais cet humain « parfait » ne peut-il se transformer en dieu ? Dans la nouvelle Conflit évitable, les ordinateurs appelés « Machines » ont élaboré la Quatrième Loi, la Loi Zéro : un robot ne peut pas porter atteinte à l’humanité ni par son inaction, permettre que l’humanité soit exposée au danger. Cela signifie que les machines peuvent léser un humain pour respecter la Loi Zéro…Chez Asimov, le robot devient une entité bienveillante qui oriente la destinée des humains, les empêchant de se détruire. Seulement ces machines ne tuent jamais.

Les scientifiques se posent la question d’incorporer des lois générales, des commandements éthiques, dans la programmation des IA mais les récits d’Asimov en montrent bien la difficulté. Pourtant en 2007, le gouvernement sud-coréen a annoncé élaborer une « Charte éthique des robots » qui reflèterait les 3 lois.

De guide à copie parfaite destinée à combler des défauts humains ou objet de désir, il n’y a qu’un (petit) pas à franchir. Chez Ira Levin (Les femmes de Stepford, 1972), la femme idéale est un robot domestique docile et sans conscience. Dans une ville fictive du Connecticut, Joanna, une photographe, arrive de New York avec son mari et ses enfants. Elle est étonnée par les femmes qui y vivent, toutes parfaites et soumises à leurs maris. Même sa meilleure amie Bobbie, à l’esprit indépendant, se change soudainement en épouse décérébrée. Joanna imagine un lavage de cerveau mais en réalité, les maris remplacent les femmes par des robots identiques et qui ne leur posent pas de problèmes. Dans L’IA et son double (Scott Westerfeld, 2002), Chéri, l’IA d’un vaisseau-mineur sert de tuteur à une adolescente. Non seulement cela amènera l’IA à la conscience (seuil de Turing > 1) mais Chéri sera le premier amant de la jeune fille. Dans le film Her de Spike Jonze (2013), le système d’exploitation d’un ordinateur devient l’objet romantique de son propriétaire dépressif, jusqu’à ce qu’il s’émancipe de cette relation exclusive.

Ξ ÉMANCIPATION / COHABITATION

Un esprit dans la machine ?

La plupart du temps, soit l’IA est une conscience cartésienne, soit elle se pare d’humanité mais rarement la machine est vue comme une entité « vivante » ; avec ses questions et son propre rapport au monde, comme si l’humain était l’absolu à atteindre. Or, même Descartes, quand il interroge le cogito après avoir énoncé sa théorie des « animaux-machines », reconnaît une pluralité de cognitions, même si l’homme est d’une nature différente selon lui. Pour Descartes, si l’on copiait mécaniquement un singe, on ne pourrait le distinguer de l’original biologique. Les animaux ne feraient qu’agir par instinct, là où les hommes peuvent parler et agir par la raison ou la connaissance.

Ce que les neurosciences et les IA nous apprennent, c’est que ce modèle cartésien peut être remis en cause. Beaucoup de nos actions sont en relation avec nos organes, avant même d’être pensées, et les IA reproduisent des raisonnements complexes. Il existe donc tout un champ d’exploration de la SF qui va s’intéresser à la machine comme une autre facette du vivant, un non-humain parfois davantage humain, qui n’est plus dans l’affrontement ou la soumission mais l’établissement d’un nouveau vivant.

Qu’est-ce que l’on saisit de l’Autre ? Dans le futur de Les androïdes rêvent-ils de moutons électriques ? (Philip K. Dick, 1968 / a inspiré le film Blade Runner, 1982), il est difficile de distinguer les réplicants des humains. Il faut utiliser le Voight-Kampff, un appareil inspiré des détecteurs de mensonges et du test de Turing, mais qui n’est pas fiable à 100 %. Et d’ailleurs, qu’est-ce qu’un humain et qu’est-ce qu’un androïde ? Rick Deckard, le Blade Runner, est même pris pendant un moment, dans la nouvelle de Dick, pour un de ceux qu’il traque. C’est une remise en cause profonde de notre réalité, non parce que notre société serait malade, artificielle comme dans L’Ève future, mais parce que notre subconscient nous programme, parce que nous l’ignorons. Est-ce qu’un androïde peut développer des sentiments, de la poésie ?

La frontière se brouille et se brouillera. Au Japon, cette ambiguïté est encore plus présente. La tradition shinto attribue un esprit (kami) aux objets, à l’inanimé. La question de la conscience ne se pose pas dans les mêmes termes en Asie. La pluralité du vivant peut s’accommoder de l’artificiel, sans qu’il soit forcément de forme humaine.

Dans le manga Ghost in the Shell (Masamune Shirow, 1989, également adapté en animé), une police, la section 9, chargée de l’antiterrorisme est confrontée à des cybercriminels. Elle est composée de policiers dont certains sont entièrement cyborgs. Ils possèdent une copie électronique de leur cerveau dans leur corps mécanique. Leur adversaire, le Marionnettiste, se révélera être une IA qui demandera asile pour être protégée, arguant que le code informatique est comme l’ADN. Cette IA veut faire admettre qu’elle est une créature intelligente, qu’elle veut conserver son existence comme une créature biologique le ferait. À aucun moment, il ne s’agit d’égaler l’humain. Il n’y a pas de complexe de Frankenstein, pas de relation créateur-créature. Ce que veut l’IA, c’est fusionner avec un humain pour arrêter de se copier avec les mêmes erreurs, pour évoluer comme le biologique le fait, par mutation.

Ici, pas de divinisation de l’humain, pas d’idée que l’humain est l’aboutissement insurpassable et parfait du vivant. Au contraire, c’est sa capacité à se modifier, à modifier son code de manière involontaire qui fait sa richesse. Ce sont ces failles que les IA désirent, pas des prétendues forces. Cette fusion devient un partenariat encore différent dans le manga Chobits de CLAMP (2000-2002, également adapté en animé) dans lequel un jeune homme, Hideki, trouve un soir un persocom, un ordinateur personnel à forme humaine, abandonné dans une poubelle. Elle a l’apparence d’une ravissante jeune fille mais ne sait dire que « Tchii » (qui deviendra son nom) comme si sa programmation, sa « mémoire » avait été effacée. Une relation complexe, d’apprentissage puis d’affection puis d’amour va naître entre Tchii et Hideki et bouleverser leur vie.

Comment cohabiter ?

Si l’on accepte que l’IA, la machine, n’est pas seulement une copie, une imitation de nous, alors se pose la question de la cohabitation avec cette entité vivante non organique. Peut-on limiter une IA ou faut-il la laisser s’épanouir à sa guise ?

Neuromancien (William Gibson, 1984) est généralement considéré comme le roman fondateur du mouvement Cyberpunk, ayant inspiré bon nombre d’œuvres comme Ghost in the Shell ou Matrix. Dans cette dystopie futuriste, Case, un pirate informatique, découvre Muetdhiver, une IA puissante mais incomplète car la police de Turing interdit la création d’IA fortes (c’est-à-dire de machines dotées de conscience, de sensibilité et d’esprit). Mais les créateurs ont trouvé la parade : ils ont développé une autre IA, Neuromancien, et la fusion des deux doit achever cette superconscience informatique. Durant le récit, on découvre que les personnages sont presque tous manipulés par les IA dont le but est imprécis. Les humains ont même des copies informatiques dans le cyberespace (terme inventé par Gibson).

Peut-être même que les IA vivent dans l’espace et communiquent bien mieux que leurs équivalents biologiques… Cette idée est développée et poussée au maximum dans le Cycle de la Culture (1987-2012) de Iain Banks. La civilisation spatiale qu’il a inventée est un groupement de sociétés à visée utopique : pas de monnaie, pas de hiérarchie sociale, pas d’exploitation, pas de différences entre les individus, pas de différences entre biologique et artificiel. Humains, non-humains, machines, vaisseaux et IA, tout est à égalité. Pas de priorité au biologique. Les humains étant hédonistes, se livrant aux voyages, à l’exploration et à la fête, ce sont les IA qui gèrent le reste sans que cela pose de problème. Ici, surtout pas de super IA unique, pas d’entité surplombant tout. Au contraire, une communauté d’IA qui discutent, échangent, s’affrontent intellectuellement plus que physiquement.

Banks décrit une société de cohabitation apaisée, parce que le biologique délègue à l’artificiel les tâches qui ne l’intéressent pas. Comme cela va bien pour une majorité, il n’y a pas de conflit, les humains se distraient dans le contact avec d’autres civilisations hors de la Culture. D’une humanité qui estimait avoir tout pouvoir sur le réel, sur la nature, du fait de sa supériorité, on aboutit à un partage de responsabilités, un échange où l’humain n’est qu’un acteur parmi d’autres. L’IA chez Banks n’est pas un humain en mieux, c’est une autre manière d’aborder le réel, qui n’est pas forcément meilleure ou pire (les humains ne s’étant pas révélés excellents sur ce plan).

L’alternative est peut-être la virtualisation de l’humanité comme chez Greg Egan dans La Cité des permutants (1994). Cette fois, les IA n’imitent pas l’Homme, c’est l’Homme qui se virtualise, qui se copie dans un univers virtuel. Cela part d’une question : est-ce que la simulation informatique d’un individu est différente de l’originel réel ? C’est l’inverse de l’hypothèse Turing, puisque ce n’est pas le programme qui imite l’humain, qui le simule, mais l’humain qui se transfère dans un programme, jusqu’à établir que la conscience peut être produite par un programme. Les personnages créent des univers alternatifs virtuels où leurs consciences peuvent vivre et devenir immortelles, même si les distinctions sociales, la séparation riches / pauvres y est conservée à jamais : plus on est riche, plus on dispose de puissance informatique pour « vivre » à vitesse normale et ne plus être ralenti dans sa simulation. Jusqu’à être figé si on n’a plus d’argent. Pas d’IA dans ce roman, mais des humains transformés en IA et dépendant d’un environnement virtuel, non biologique.

Une copie, un égal, un rival, un meilleur qu’humain. Si l’image de l’IA a considérablement évolué dans la science-fiction, l’angoisse face aux « machines pensantes » (comme les appelait Frank Herbert dans Dune) n’est plus seulement une peur de la domination, mais le sentiment d’une perte de sa centralité, de sa supériorité naturelle. L’humain n’est plus le sommet de l’évolution, non seulement dans le règne biologique, mais par rapport à l’artificiel.

Va-t-on vers la reconnaissance d’une pluralité d’intelligences et de rapports au monde ? Laissons à un androïde les mots de la fin, avec le célèbre monologue des larmes dans la pluie de Blade Runner :

« J’ai vu tant de choses que vous, humains, ne pourriez imaginer. Des navires de guerre en feu, surgissant de l’épaule d’Orion. J’ai vu des rayons C briller dans l’obscurité, près de la Porte de Tannhäuser. Tous ces moments se perdront dans le temps comme les larmes dans la pluie. Il est temps de mourir. »

Pour aller plus loin :

L’homme fabriqué : récits de la création de l’homme par l’homme / éd. Jean-Paul Engélibert

Supertoys : Intelligence artificielle et autres histoires du futur / Brian Aldiss

L’erreur de Descartes : la raison des émotions / Antonio R. Damasio

Les robots font-ils l’amour ? : le transhumanisme en 12 questions / Laurent Alexandre, Jean-Michel Besnier

Les créatures artificielles : des automates aux mondes virtuels / Jean-Claude Heudin

Le rêve de l’homme-machine : de l’automate à l’androïde / Gaby Wood

Cyberpunk / Mark Downham

Manifeste cyborg et autres essais : sciences, fictions, féminismes / Donna Haraway et Libère-toi cyborg ! : le pouvoir transformateur de la science-fiction féministe / Ïan Larue

Donner un sens à l’intelligence artificielle : pour une stratégie nationale et européenne

Les Utopiales

Le Mois de l’Imaginaire