Note de lecture | Visions de l’intelligence artificielle et des robots dans la science-fiction : une analyse computationnelle

Concevoir une analyse de l’IA dans la science-fiction

Pour éviter une analyse arbitraire, les auteurs ont d’abord établi des critères de sélection basés sur des études antérieures. Ils se sont appuyés sur le Science Fiction Hall of Fame pour limiter le champ de leur revue, mais ont rencontré des difficultés en raison de la diversité des représentations de l’intelligence artificielle (IA) par rapport aux robots. La distinction claire entre IA et robots est souvent floue, car certaines technologies de traitement de l’information ont été classées comme robots avant l’apparition du terme IA. De plus, dans de nombreuses œuvres plus anciennes, les IA ne sont pas étiquetées comme telles, car elles précèdent la définition formelle du concept.

Pour établir des critères cohérents, les auteurs ont collaboré avec 15 experts de l’Association des écrivains de science-fiction et de fantasy du Japon, dont sept ont été retenus pour leurs spécialisations variées. Ces experts incluaient des critiques et un écrivain couvrant plusieurs médias, tels que les romans pour jeunes adultes et les œuvres visuelles. Après une discussion en face à face entre ces experts et les auteurs (un scientifique, deux ingénieurs et un philosophe), trois grands rôles de l’IA dans les récits de SF ont été identifiés :

• Histoires explorant les possibilités d’une intelligence extraterrestre : Ces récits représentent diverses formes d’intelligence, telles que des programmes, des robots ou des intelligences venues d’ailleurs. Par exemple, dans « Steve Fever » de Greg Egan, l’intelligence collective des nanomachines, appelées Stevelts, a été mentionnée au cours des discussions.
• Histoires centrées sur l’intelligence sociale : Même si les récits ne décrivent pas toujours en détail la mise en œuvre de l’intelligence, cette catégorie inclut des œuvres qui se concentrent sur les interactions sociales avec des IA. Par exemple, « Bokko-chan » de Shinichi Hoshi présente un robot, semblable à un perroquet, qui interagit avec les humains en répondant de manière automatisée.
• Histoires abordant l’extension artificielle de l’intelligence humaine : Ce thème se concentre sur l’amélioration des capacités cognitives humaines à travers des interfaces avancées entre les humains et les machines, notamment les robots, l’internet ou les réseaux sociaux. Un exemple cité est « Yukikaze » de Chohei Kanbayashi, qui met en scène une IA embarquée dans un avion de combat, conçue pour augmenter les capacités de l’opérateur.

Ces trois rôles constituent la base des critères utilisés pour classifier les systèmes d’IA dans les œuvres de SF. L’intelligence extraterrestre inclut des formes variées comme des programmes ou des robots, tandis que l’intelligence sociale se concentre sur les interactions humaines avec l’IA, même sans explication technique détaillée. L’extension de l’intelligence humaine explore l’amélioration des capacités cognitives à travers des interfaces avancées avec des machines.

Les œuvres rassemblées sont proposées comme étant représentatives de cette diversité et leur classification repose sur une vingtaine de facteurs collectés pour refléter la complexité des technologies d’IA dans la SF (le nom de l’IA, le nom de l’œuvre où elle apparaît, l’année de la première publication, le premier média, le pays de première publication, le degré de convivialité de l’IA avec les humains, sa polyvalence, sa conscience, la taille des groupes d’IA, son niveau de connexion au réseau…). Pour l’enquête demandée aux experts, trois priorités ont été établies concernant l’impact des IA sur les lecteurs : la diversité (les publications ne doivent pas être biaisées en faveur d’un domaine spécifique, en termes d’époque ou de média), l’impact (inclure les œuvres ayant un impact social significatif, ainsi que celles avec des caractéristiques uniques malgré un impact moindre), et l’unicité (lorsque des IA aux caractéristiques similaires apparaissent, l’œuvre originale est privilégiée, et si plusieurs IA sont présentes dans une œuvre, celle aux caractéristiques les plus uniques est retenue).

Un total de 115 représentations d’intelligences artificielles (IA) ont donc été collectées auprès d’experts, après un contrôle de qualité mutuel. L’année moyenne de publication des œuvres recensées est 1981 (écart type de 26,8 ans). La plus ancienne IA est un cyborg humain dans « Rakouské celní úřady » de Jaroslav Hašek (1912), et la plus récente est Girl M, une IA bionique contrôlée par de la moisissure dans « Long Dreaming Day », roman qui aurait été écrit par l’auteur Katsuie Shibata en 2019, mais dont je n’ai personnellement trouvé aucune mention sur le Web. Parmi ces œuvres, 55 ont été publiées au Japon, 52 aux États-Unis, trois au Royaume-Uni, deux en Pologne et une en République tchèque, avec deux publications simultanées dans le monde entier. Les premières publications incluent 93 romans, 12 bandes dessinées, sept films (dont deux animés) et trois pièces de théâtre. En termes de période, 14 œuvres ont été publiées avant 1945, 64 entre la fin de la Seconde Guerre mondiale et 1995 (avant l’essor d’Internet), et 37 après 1995. La répartition est censé montrer une diversité temporelle adéquate sur plusieurs décennies.

Il en ressort 4 grands types d’IA (l’article présente tous le processus de l’analyse ainsi qu’un visuel et des tableaux) :

• IA de type machine : Ces IA sont moins intelligentes que les humains, avec une faible capacité d’apprentissage, de langage et de conscience. Elles sont souvent des machines automatisées résolvant des problèmes spécifiques sans interaction humaine, comme dans « The Mechanical Mice » ou « Inter Ice Age 4« . Leur rigidité peut parfois causer des dommages à la société humaine.
• IA de type humain : Représentant 40 % des IA, elles possèdent une conscience élevée, des compétences linguistiques et une apparence physique proche des humains. Elles apprennent de leur environnement et remplissent des tâches générales, comme Atom dans « Astro Boy » ou les robots de « I, Robot ». Ces IA sont souvent utilisées comme métaphore des humains.
• IA de type compagnon : Dépendantes des humains, ces IA collaboratives, comme HAL 9000 dans « 2001: A Space Odyssey », aident les humains dans des tâches spécifiques, souvent liées à des véhicules ou des systèmes militaires. Elles possèdent une conscience propre, ce qui peut parfois entraîner des conflits avec les ordres humains.
• IA de type infrastructure : Ces IA, comme Skynet dans « Terminator », sont très connectées aux réseaux et jouent un rôle dans la gestion des infrastructures sociales. Elles sont apparues après la Seconde Guerre mondiale, avec l’avènement des technologies de communication, et agissent en tant que systèmes de gestion, comme dans « Voice Net ».

Discussion sur les stéréotypes et les possibilités de la SF

Le dernier grand chapitre de l’article explore plusieurs aspects importants liés à l’intelligence artificielle et ses représentations dans la science-fiction. Il commence par une discussion sur les stéréotypes de la SF et les différentes possibilités offertes par ce genre, notamment en ce qui concerne la manière dont l’IA est dépeinte. Ensuite, les facteurs de l’IA contribuant à l’intelligence et à l’humanité sont abordés, montrant comment certaines IA dans la SF sont représentées comme des entités capables de développer des traits humains.

L’article met également en lumière la nécessité d’éviter les stéréotypes entre humains et machines, en soulignant l’importance de dépasser les représentations classiques de l’IA en tant que simple outil. De plus, il invite à aller au-delà de l’anthropomorphisme en discutant des IA non humaines, présentées sous forme d’alliés ou d’infrastructures sociales, élargissant ainsi les possibilités de représentation dans la SF.

Enfin, les contributions et limitations de ces analyses sont discutées, reconnaissant à la fois les apports importants de ces représentations pour comprendre notre relation aux technologies, tout en soulignant certaines limites liées à la sur-simplification des IA dans la fiction.

Mon impression

Même si le but de l’étude n’était pas vraiment intéressant pour ma recherche personnelle et que ce dernier influence forcément les critères et certains postulats qui encadrent la démarche des auteurs, c’est la première fois que je découvre une recherche rigoureuse sur le sujet. Je suis donc très content d’avoir pris le temps de la découvrir. Il est évident que les 115 systèmes d’IA qui ont été analysés (sélectionnés par des « experts ») induisent, de facto, un bias de sélection que les auteurs de l’étude ne pouvaient pas vraiment éviter. Pour atténuer ce dernier, ils ont cherché à inclure la plus grande diversité possible d’œuvres (avec une répartition équitable dans le temps – entre 1912 et 2019) et de « type » d’IA. Cependant, je pense que cette approche, bien qu’intentionnée, n’est, selon moi, pas pertinente pour réellement éviter les clichés de la science-fiction que l’article dénonce.

La liste des œuvres sélectionnées n’étant pas publiée (et introuvable en ligne), je peux seulement conjecturer :

• Il me semble probable que, avec une telle approche, les experts aient dû avoir tendance à sélectionner des œuvres/auteurs marquantes de chaque époque, qui, ironiquement, ont souvent contribué à façonner les stéréotypes mêmes que l’article tente de déconstruire. Ce point est toutefois contrebalancé par certaines œuvres citées qui ne me semblent pas du tout rentrer dans cette catégorie. Par exemple, la seule œuvre de Greg Egan (écrivain incontestablement majeur de la littérature de science-fiction), citée par l’étude est un « petit texte », très intéressant au demeurant, paru dans le magazine Bifrost #101 (« Steve Fever »), alors qu’il n’y a aucune mention de « Diapora », roman incontournable de l’auteur, qui dépasse largement les représentations conventionnelles de l’IA.
• D’autre part, dans l’article, sont cités des œuvres littéraires, cinématographiques, ainsi que des œuvres littéraires adaptées au cinéma, sans qu’on ne sache quelles ont réellement été les objets d’étude. Or, par exemple, pour HALL 9000, la version cinéma n’équivaut absolument pas celle du livre*. Dans le film, les raisons pour lesquelles HAL devient hostile restent assez ambiguës et ouvertes à l’interprétation, dans le livre, les actes de HALL ne découlent pas d’une « hostilité » envers l’être humain, mais d’un conflit résultant d’une « erreur » de programmation due à un choix politique. Le ressenti du spectateur/lecteur envers lui n’est donc pas du tout le même. Avec les suites (2010, 2061, 3001), Clark va d’ailleurs encore modifier considérablement notre perception de HALL.
  *A noter que le scénario du film a été coécrit par Arthur C. Clark et est basé sur 2 de ses nouvelles antérieures et que Clark a, parallèlement à la production du film, écrit son roman (qui a été présenté au public après la sortie du film).
• Le fait de n’avoir trouvé aucune trace sur le Web du roman « Long Dreaming Day » (cité dans l’article et présenté par les auteurs comme le plus récent– 2019) me laisse également perplexe.

Sans tenir compte de cela, pour ma recherche et mon plaisir personnel, j’aurais préféré une focalisation sur des œuvres plus contemporaines (à partir des années 1960 et surtout des années 80/90), et notamment dans le domaine de la HardSF, où des auteurs comme Greg Egan offrent des perspectives particulièrement nuancées sur l’IA. Cela aurait sans doute privé l’étude de quelques « incontournables », mais aurait apporté une matière première qui m’intéresse plus à l’heure actuelle.

Si l’étude se veut rigoureuse dans sa méthodologie pour atteindre ses objectifs, le bias de sélection me semble donc, au vu des résultats, limiter sa capacité à capturer les représentations plus complexes et sophistiquées de l’IA que l’on trouve dans la littérature de science-fiction. Ces dernière (tout comme la science-fiction elle-même) sont souvent utilisées par les écrivain.es comme un prisme pour explorer des questions existentielles et la place de l’humain dans l’univers, en tant qu’être, espèce et civilisation. En présentant des catégories fonctionnelles, pragmatiques ou opérationnelles, l’étude et la réflexion semble se limiter aux moyens que les auteur.e.s utilisent pour aborder ces questions, sans approfondir les réflexions sous-jacentes elles-mêmes. Finalement, les « 4 grands types d’IA » identifiés par l’étude apparaissent, à mon sens, comme des catégories basées sur des critères techniques et formels.

Ce qui est frappant, c’est que ces types d’IA sont souvent ceux que l’on peut retrouver dans le cinéma et surtout dans les films de type « blockbuster », où l’intelligence artificielle est souvent représentée de manière simplifiée et stéréotypée. Le cinéma ayant tendance à exploiter les aspects les plus superficiels de l’IA, privilégiant des scénarios où celle-ci est un antagoniste ou un outil spectaculaire, plutôt qu’un sujet de réflexion profonde sur la nature humaine ou les enjeux philosophiques et éthiques que de telles technologies soulèvent. Cela renforce des clichés déjà bien établis dans l’imaginaire collectif, au détriment d’une exploration plus subtile et contrastée pourtant présente dans la littérature de science-fiction contemporaine.