L’intelligence artificielle dans la science-fiction

Publié le 17/03/2021 à 00:01 - 7 min - Modifié le 16/03/2021 par Yôzô-san

Une machine peut-elle penser ? Cette question marque le début de nombreuses recherches sur l’intelligence artificielle et ses possibilités. Aujourd’hui de nombreux films en parlent. Cela fascine quelquefois et inquiète par moments. Qu’en sera-t-il de l’humanité dans un monde futur dominé par les robots ? Certains posent la question autrement : le monde ne sera-t-il pas meilleur avec les robots à notre service ? Peu importe de quel côté on se trouve, l’idée d’un monde et d’une vie future avec les robots reste un fantasme autant pour les réalisateurs de films que pour les adeptes de séries de science-fiction. Mais en réalité qu’est-ce que l’intelligence artificielle ?

Cet article a été rédigé par Désirée Bozou, stagiaire à la Bibliothèque Municipale de Lyon, dans le cadre du Printemps du Numérique qui se déroule cette année du 27 mars au 10 avril.

 

Comprendre l’intelligence artificielle

Lorsqu’on a demandé au responsable du laboratoire de recherche fondamentale chez Facebook une définition de l’intelligence artificielle, il a déclaré que pour lui c’est « faire faire aux machines des activités qu’on attribue généralement aux animaux et aux humains » à travers un apprentissage profond dans différents domaines. L’intelligence artificielle serait donc le fait de mettre en place un mécanisme qui consiste à simuler l’intelligence humaine. Il s’agirait donc simplement de faire imiter le comportement humain à des robots. Toutefois, dans les livres et les films de science-fiction on constate que cela va bien au-delà, les robots se lient d’amitié avec les hommes même si parfois cette interaction peut tourner au vinaigre. Pour contrer cette funeste éventualité et assurer la sécurité des hommes, Isaac Asimov va développer dans son Cycle des robots trois lois de la robotique.

« Protéger, obéir et se préserver »

Le terme robot est utilisé pour la première fois par Karel Čapek dans sa pièce de théâtre de science-fiction R.U.R en 1920. Le mot robotique apparaît quant à lui pour la première fois sous la plume de l’écrivain américain Isaac Asimov dans sa nouvelle Le cercle vicieux publiée en 1942. L’auteur y met en scène un robot soumis aux trois lois de la robotique « protéger, obéir et préserver » formulées comme il suit :

« – Un robot ne peut porter atteinte à un être humain ni, restant passif, permettre qu’un être humain soit exposé au danger.

– Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en contradiction, en conflit avec la première loi.

– Un robot doit protéger son existence tant que cette protection n’entre pas en contradiction, en conflit avec la première ou la deuxième loi. »

Cette nouvelle semble ainsi avoir déjà posé les jalons d’une réflexion poussée sur ce que seraient nos rapports futurs avec les robots. En 1950 avec le recueil Les Robots — qui se hisse désormais au rang d’incontournable de la littérature de science-fiction —  il mettra en exergue la complexité des interactions entre humains et robots. Au fil des différentes nouvelles, ce livre ouvre la réflexion sur les implications d’un monde ayant cédé aux sirènes du tout robotique, s’interrogeant ainsi sur les conséquences qu’un dysfonctionnement de programmation pourrait avoir et son impact sur le respect des trois lois. Sorte d’épopée mettant l’accent sur le caractère héroïque et sublime des machines qui veillent au bonheur de l’humanité, ce recueil s’éloigne d’une conception des robots comme « des créatures mortellement dangereuses ».

La diabolisation des IA est également au cœur de bien d’autres films parmi lesquels Terminator (James Cameron, 1984), 2001 Odyssée de l’espace (Stanley Kubrick, 1968), ou plus récemment Transcendance (2014) dans lequel Wally Pfister creuse la possibilité de sauvegarder un cerveau sur ordinateur afin de pouvoir vivre éternellement dans un monde virtuel. Il ne reste plus que quelques instants de vie au scientifique Will Caster, membre d’une équipe dont le but est de construire un ordinateur sensible. Face à cette situation, Evelyn, sa femme, va transférer son esprit dans l’ordinateur quantique originairement mis au point pour la réalisation du projet. Dès lors, l’esprit de Will Caster survit. Il crée ensuite une utopie technologique via une connexion à l’Internet qui lui offre un pouvoir sur l’ensemble des technologies informatiques du monde. Avec ce roman l’auteur pose également la question d’une possible reprogrammation de la mémoire et de la connexion du cerveau à un réseau, et surtout de l’humanité qui subsisterait chez un tel personnage. Ce texte interroge aussi notre vieux rêve d’immortalité à travers le transhumanisme. Will Caster doit-il être au final considéré comme un être humain ou une machine ? Cette possibilité préoccupante qu’offre l’IA est cœur de nombreuses critiques, questions et interrogations.

 

Comment veiller au développement éthique de l’intelligence artificielle ?

La crainte de l’IA est-elle justifiée ? Pour Jean-Paul Delahaye, professeur émérite à l’Université de Lille-I, il faut une morale pour les intelligences artificielles du moment où elles exécutent des tâches et prennent des décisions. Mais aujourd’hui, la question serait plutôt de savoir si oui ou non, nous sommes en mesure de programmer de tels éléments de morale et comment. La réponse est bien évidemment non pour le moment. Transmettre à des machines des performances du vivants telles que le raisonnement critique et l’apprentissage conceptuel, leur permettre de prendre des décisions de manière autonome, de comprendre le langage naturel et d’avoir une meilleure perception naturelle, sont les défis majeurs de l’IA.

En effet, selon Jean-Paul Delahaye pour que nos intelligences artificielles parviennent à respecter et mettre en pratique la morale humaine il faudrait y placer « des capacités de jugement ». Pourtant, c’est une chose que nous n’arrivons pas actuellement à réaliser comme il le faudrait. À ces difficultés, s’ajoutent les questions clés suivantes : “Qui fera le choix des principes de la morale qu’on choisira de programmer dans les IA ?” Qui sera responsable en cas d’erreurs dans les décisions prises par ces robots ? Qui s’occupera de les contrôler ? Ce sont autant de questions et de dilemmes éthiques, que soulève l’intelligence artificielle et qui pourtant restent parfois cachés derrière une surévaluation de ce dont est capable l’IA.

 

L’IA entre enthousiasme et inquiétude :

« Ok Google ouvre-moi le catalogue de la BML ! ».  L’intelligence artificielle enthousiasme et inquiète. Elle enthousiasme parce qu’elle transforme notre quotidien. Avec l’informatique ubiquitaire (le fait de rendre invisibles et omniprésentes les technologies informatiques dans nos vies) nos besoins quotidiens sont satisfaits via des appareils connectés. Ordinateurs portables, smartphones et tablettes sont des dispositifs informatiques connectés en permanence à la Wi-Fi, facilitent nos vies à travers des applications. Mais l’inquiétude apparaît lorsque la question des données se pose. Plus encore, lorsque la question des tâches invisibles de millions de travailleurs du clic est masquée derrière les algorithmes et que l’emploi est en crise. Dans son livre En attendant les robots Antonio A. Cassilli en parle sans tabou. La question pour lui est de savoir s’interroger aujourd’hui sur ce qu’il nomme le « Digital Labor », le travail sur les plateformes numériques et les conditions de sa réalisation. Ce rideau voilé de l’intelligence artificielle est également ouvert par Alexandre Labruffe dans son livre Un hiver à Wuhan dont le titre semble déjà annoncer la réalité glacée de cette dystopie que l’auteur se plaît à conter après un séjour en Chine dans cette ville. Faut-il pour autant rejeter l’IA ?

 

Il faut rassurer, expliquer et ne pas minimiser les problèmes liés à l’intelligence artificielle qui sont très réels et ont un impact sur la société. Il convient donc d’intégrer ces questionnements majeurs dans notre élaboration du monde de demain et des outils technologiques qui nous accompagneront. Toutefois, les progrès de l’IA ouvrent de nouvelles perspectives surprenantes et d’énormes opportunités qui sont, reconnaissons-le, difficiles à ne pas saisir.

 

Pour aller plus loin sur ce sujet:

quelques essais :

Intelligence artificielle : enquête sur ces technologies qui changent nos vies, Enki Bilal, Laurence Devillers, Gilles Dowek et al.

L’homme cybernétique : de l’intelligence artificielle à l’hybridation homme-machine, Enrica Perucchietti

L’intelligence artificielle : de quoi s’agit-il vraiment ?, Groupement de recherche en intelligence artificielle du CNRS

Au cœur de l’intelligence artificielle : des algorithmes à l’IA forte, Axel Cypel

quelques romans :

Cette histoire est pour toi,  Satoshi Hase

Les machines fantômes, Olivier Paquet

Journal d’un AssaSynth, Martha Wells

Ada, Antoine Bello

et quelques BD :

Les défis de l’intelligence artificielle : un reporter dans les labos de recherche, Jérémie Dres

L’intelligence artificielle : fantasmes et réalités, Jean-Noël Lafargue  & Marion Montaigne

Intelligences artificielles : miroirs de nos vies, FibreTigre, Arnold Zephir & Héloïse Chochois

 

Retrouvez plus de conseils de lecture sur cette thématique dans la rubrique “Coups de cœur” du site web du Printemps du Numérique.