Note de lecture | "Machines of Loving Grace" de Dario Amodei (Anthropic) ou l'utopie d'une IA qui pourrait transformer le monde pour le mieux.

La stratégie rhétorique : anti-prophétisme et prophétie contrôlée

“I am often turned off by the way many AI risk public figures talk about the post-AGI world, as if it's their mission to single-handedly bring it about like a prophet leading their people to salvation."
⏤ Dario Amodei⁵Dario Amodei, "Machines of Loving Grace", art. cité, introduction

Amodei commence son essai par un geste défensif. Il rappelle qu’Anthropic, et lui donc, communique beaucoup sur toute une série de risques, ce qui le fait parfois classer parmi les pessimistes, les “doomers”. Il affirme au contraire que son travail sur les risques vient du fait que ceux-ci sont, selon lui, les seuls obstacles entre nous et un futur fondamentalement positif. C’est une tension importante, car le texte veut être sobre (jusqu'à ressembler, par moments, à une série de listes un peu sèche), mais son horizon est pourtant bien maximaliste. Il veut éviter la mythologie, au risque d'en fabriquer une autre, plus propre, plus institutionnelle, plus “responsable”.

L'erreur, pour moi, serait donc de lire ce premier texte d'Amodei comme un simple texte techno-optimiste naïf (comme il est parfois présenté). Il me semble qu'il s'agit au contraire d'un écrit de techno-utopie disciplinée : une utopie qui se méfierait d’elle-même en signalant ses propres limites (tout en voulant rester résolument utopique). Ça en devient même parfois gênant et il est difficile de ne pas sourire face au trop-plein de bons sentiments qui viennent percuter la réalité d’une entreprise commerciale qui aujourd’hui est massivement capitalisée, dépendante de partenariats cloud colossaux, qui est insérée dans les marchés de l’entreprise, du gouvernement et de la défense, et qui, déjà fin 2024 était prise dans les conflits juridiques liés à l’appropriation des corpus culturels⁶Deux procédures étaient déjà en cours fin 2024 (maisons de disques, octobre 2023 ; auteurs, août 2024). Le contentieux s'est depuis considérablement alourdi : règlement à 1,5 milliard de dollars en 2025, puis nouvelle plainte des éditeurs musicaux à 3 milliards de dollars en janvier 2026..

"My predictions are going to be radical as judged by most standards... but I mean them earnestly and sincerely."
⏤ Dario Amodei⁷Dario Amodei, "Machines of Loving Grace", art. cité, introduction

Le problème n’est pas de savoir si Amodei est sincère, mais que cette sincérité s’énonce depuis une position de puissance⁸À l’époque où Amodei écrit son essai, Anthropic n’est pas encore le géant qu’il est en 2026, mais il est déjà un acteur de poids, soutenu par des investissements de plusieurs milliards (Amazon, Google…). Ceci étant dit, c’est précisément ce frottement qui rend le texte intéressant (et parfois effrayant) : l’auteur ne parle pas depuis un dehors critique ou littéraire, il parle depuis l’intérieur même de l’industrie qui travaille à rendre ce futur possible. Il veut participer matériellement à sa construction, tout en contribuant à définir les critères selon lesquels ce futur devra être évalué, sécurisé et gouverné. Son texte oscille ainsi entre une anticipation parsemée de justifications et un programme d’actions parfois aride. Il refuse l’apparence de la prophétie mais en conserve l'essentiel : annoncer un monde à venir, mais surtout revendiquer une forme particulière d’autorité (éclairée) pour en organiser la venue.

Le novum : “a country of geniuses in a datacenter”

Amodei n'aime pas le terme AGI, qu'il juge chargé de hype (et d'imaginaire SF). Il préfère parler de "powerful AI". Mais ce changement lexical ne rend pas l'hypothèse moins radicale : l'IA qu'il décrit est plus intelligente qu'un prix Nobel dans presque tous les domaines pertinents, capable d'écrire, de programmer, de raisonner, de concevoir et de planifier. Elle peut agir via les interfaces numériques humaines, utiliser internet, contrôler des outils, commander du matériel, diriger des expériences, et travailler de façon autonome pendant des heures, des jours ou des semaines. Non incarnée physiquement, elle reste capable de se servir de robots ou d'équipements de laboratoire. Copiable en millions d'instances, elle opérerait 10 à 100 fois plus vite que les humains sur certaines tâches informationnelles… une liste qu'Amodei lui-même ne referme pas.

Sa formule synthétique est très forte : “a country of geniuses in a datacenter”.

Cette image déplace l’IA hors de la figure classique du robot, du compagnon, du cerveau central ou de l’oracle. L’IA devient une puissance civilisationnelle distribuée : non pas une personne artificielle, mais une population artificielle de chercheurs, ingénieurs, stratèges, juristes, médecins, éducateurs, bureaucrates, conseillers... Amodei ne décrit pas HAL 9000, ni les androïdes d’Asimov (avec ses lois de la robotique), ni les IA incarnées du cyberpunk à la “Ghost in the Shell”. Il décrit quelque chose de beaucoup plus proche des “Minds” de la Culture de l'écrivain écossais Iain M. Banks.  Le cycle de la Culture vient d’ailleurs directement à l’esprit lorsqu’on parle d’utopie techno-civilisationnelle fondée sur l’abondance, l’autonomie individuelle et la délégation de la complexité sociale à des intelligences artificielles supérieures. Mais Amodei en propose une version industrialisée, datacenterisée, corporate… non pas des entités souveraines et individualisées, mais plutôt de la capacité cognitive réplicable, distribuable et intégrée aux infrastructures numériques, scientifiques, économiques et administratives déjà existantes.

Le novum⁹C’est-à-dire l’élément nouveau qui fait basculer un monde fictionnel ou spéculatif dans un autre régime de réalité > voir notamment la section “Définir le novum, définir la science-fiction”, dans “Démêlés avec le novum : démontages et remontages de la notion dans une perspective culturelle intermédiatique”, d'Aurélie Huz - ReS Futurae [En ligne], n° 20, 2022, dernière consultation 30 juin 2026. d’Amodei n’est donc pas l’apparition d’une IAG (intelligence artificielle générale) pensée comme une conscience (ni certainement pas comme sujet), mais la transformation de l’intelligence en infrastructure. Son “pays de génies dans un datacenter” condense en une image unique une rupture anthropologique (dans la manière dont l’humanité se définit) : l’expertise devient copiable, on peut l'accélérer ou l'allouer suivant les besoins. Il décrit une espèce de bureaucratie cognitive extensible à une échelle sans précédent : une administration planétaire de l’expertise. Plus besoin de fonctionnaires humains, de sommeil, de longue formation ou même de transmission intergénérationnelle. C'est sans doute moins spectaculaire que le robot ou l'oracle, mais peut-être radical à un degré qu'Amodei, en défendant simplement le sérieux de ses prédictions chiffrées, n'envisageait pas lui-même. Et ce qui fait le plus peur, c'est qu'Amodei donne vraiment l'impression de s'en émerveiller.

Le futur comme autorité - L’IA comme imaginaire sociotechnique d’entreprise

Dans un texte très récent “The Compulsory Imaginary: AGI and Corporate Authority”¹⁰Emilio Barkett, "The Compulsory Imaginary: AGI and Corporate Authority", arXiv, soumis le 27 février 2026, le chercheur Emilio Barkett se focalise sur les différents essais de Dario Amodei (et de Sam Altman). En reprenant le cadre des “imaginaires sociotechniques” de Sheila Jasanoff et Sang-Hyun Kim¹¹Sheila Jasanoff est une figure majeure des “Science and Technology Studies” (STS) à Harvard, et Sang-Hyun Kim est un chercheur coréen travaillant sur l’histoire et la politique culturelle des sciences et des techniques., Barkett rappelle que, dans le cas de l’IAG, produire la technologie et raconter son avenir ne sont pas “deux activités séparables”  et que ces essais de dirigeants ne sont pas de simples suppléments au travail technique, mais en font pleinement partie. Les grands acteurs privés de l’IA ne se contentent donc pas de développer des systèmes techniques : ils construisent aussi les représentations collectives de ce que ces systèmes doivent signifier, des futurs qu’ils rendent évidents et des institutions supposées légitimes pour les conduire. Il ne s’agit pas ici d’une simple campagne de communication, mais de la production d’une vision d’un avenir désirable, destinée à devenir collectivement partagée, institutionnellement stabilisée et même publiquement performée. Les STS ont depuis longtemps remis en cause l’idée d’une technologie neutre, et surtout celle d’une technologie qui viendrait seule¹²Sheila Jasanoff et Sang-Hyun Kim, « Sociotechnical Imaginaries and National Energy Policies », Science as Culture, vol. 22, no 2, 2013, p. 189-196 | En ligne dernière consultation 14 juillet 2026. : elle arrive plutôt naturellement avec une certaine idée de la société qu’elle veut soutenir et/ou promettre, des idées, des institutions, des risques qu'elle a rendus acceptables et bien entendu des alternatives qu’elle a invisibilisées ou carrément effacées.

Ce qui est intéressant ici n’est pas de savoir si la lecture de Barkett est “vraie” au sens où elle épuiserait le texte d’Amodei, mais la prise qu’elle donne. Elle permet de nommer un geste déjà analysé plus haut chez Amodei : le “self-exemption move”, ce geste par lequel un dirigeant se présente comme extérieur aux formes les plus naïves de la prophétie technologique, tout en produisant malgré tout une vision civilisationnelle de grande ampleur. Barkett semble donc préciser le mécanisme qui le rend efficace : là où Altman relèverait davantage de la déclaration prophétique, Amodei performe l'imaginaire par une "simulation of scientific rigor". La critique de la grandiloquence devient elle-même une "performance of reasonableness" : elle rend la projection plus crédible parce qu'elle lui donne les formes de la prudence, de l'expertise et de la gestion des risques. L’avenir n’est plus seulement annoncé sur le mode de la révélation, mais sur celui d'une anticipation qui serait "responsable".

“Machines of Loving Grace” peut ainsi être lu comme un imaginaire sociotechnique d’entreprise. Il ne se contente pas d'annoncer des capacités techniques, il associe ces capacités à une certaine image du bien commun (santé, longévité, démocratie libérale, prospérité, autonomie individuelle…) et présente implicitement (et parfois ouvertement même) l'industrie de l'IA comme l’acteur indispensable appelé à rendre ce futur possible.

"my basic prediction is that AI-enabled biology and medicine will allow us to compress the progress that human biologists would have achieved over the next 50-100 years into 5-10 years. I'll refer to this as the 'compressed 21st century': the idea that..."
⏤ Dario Amodei¹³Dario Amodei, "Machines of Loving Grace", art. cité, Biology and health

Scène de légitimation, retour d'un certain refoulé science-fictionnel

Après avoir expliqué, dès l’introduction, qu’il souhaite éviter le “sci-fi baggage”, il est difficile de ne pas sourire en lisant les dernières pages de l’essai où Amodei conclut par une référence explicite à Iain M. Banks et à son cycle de la Culture dont j’ai parlé plus haut. Ce n’est pas une allusion marginale, les derniers paragraphes présentent un roman du cycle (“L’Homme des jeux”) et reposent en grande partie sur une présentation de "La Culture" comme une société fondée sur des principes “assez proches” de ceux qu’il vient de défendre.

Amodei sait lui-même qu’il franchit une de ses propres règles. Dans la note attachée à ce passage (la dernière de l'essai), il le reconnaît lui-même et affirme que la science-fiction reste l’une des rares sources d’expériences de pensée vastes sur le futur, tout en regrettant son association avec une sous-culture étroite ("narrow subculture"). Cela correspond assez bien au "self-exemption move" : il ne nie pas l’infraction, il la présente comme une exception réfléchie, rendue légitime par son propre discernement.

Je dois bien avouer que je ne comprends pas ce que vient exactement faire l’œuvre de Banks ici, ni surtout à qui elle s'adresse. Comme argument, c’est plutôt faible et je n'en vois pas la nécessité. Amodei aurait pu défendre directement l'idée que la coopération produit de meilleurs équilibres sociaux, avec des références philosophiques, historiques ou politiques, sans jamais démontrer pourquoi ce détour fictionnel serait indispensable. Il termine sur une référence à un roman dont il fournit certes un résumé, mais minimal, et pour le lecteur extérieur, Banks est réduit à une fable sur une espèce de “supériorité morale” de la coopération. Pour le lecteur familier du cycle, qui connaît mieux les "valeurs" revendiquées par la Culture (autonomie individuelle, abondance, égalitarisme, curiosité, coopération), mais aussi, et surtout, les contradictions que Banks ne cesse d’y introduire, cette fable paraît beaucoup moins nette.

Comme symptôme, en revanche, la référence me semble plus parlante qu'elle n'en a l'air : elle dit peut-être moins quelque chose au lecteur qu'elle ne dit quelque chose sur Amodei lui-même, un signal de connivence culturelle adressé à un certain milieu techno-SF, ou même le signe d'un désir d'y appartenir. C'est aussi ce qui échappe un peu à la lecture de Barkett : le "self-exemption move" explique pourquoi Amodei s'autorise l'exception, mais pas pourquoi il choisit précisément celle-là plutôt qu'une autre : la nécessité de Banks, et de nul autre, reste hors de portée du concept.

Quoi qu’il en soit, partons de l'idée que ce retour ne constitue pas une simple contradiction et qu'il confirme plutôt la sélection opérée par Amodei entre différents usages de la science-fiction. Cette distinction rejoint l’analyse d’Isabella Hermann, pour qui les représentations fictionnelles de l’intelligence artificielle ne doivent pas être seulement lues comme des prédictions technologiques. Elles fonctionnent également comme des récits et des métaphores à travers lesquels une société met en scène ses valeurs, ses inquiétudes et ses rapports de pouvoir¹⁴Isabella Hermann, "Artificial Intelligence in Fiction", art. cité, p. 322-323.. Que la Culture constitue ou non un modèle plausible du futur n'est même pas important, mais il est évident que sa mobilisation permet à Amodei de nous présenter ce dernier comme envisageable et, comme je l'ai déjà dit, désirable.

De ce point de vue, nous pourrions dire que ce qu’il tient à distance, ce sont les signes qui risqueraient de rabattre son texte sur le spectaculaire, le fantasme technologique ou la fiction de masse (la SF à la Star Wars, Terminator, Matrix...). Il doit faire comprendre que son “pays de génies dans un datacenter” relève d’une anticipation techniquement informée, et non d’un scénario de blockbuster ou d'une science "fictionnelle". D'ailleurs, lorsqu'Amodei réintroduit finalement la SF, ce n'est pas n'importe laquelle : c'est Banks qu'il choisit, une œuvre littéraire politiquement élaborée, plus facilement mobilisable comme référence intellectuelle et morale que les figures les plus immédiatement reconnaissables de la culture populaire.

C’est là que le geste d’auto-exemption décrit par Barkett rencontre sa limite. Amodei peut désavouer la prophétie, neutraliser le “bagage” Sci-Fi et donner à sa projection les formes de la prudence, de l’expertise et de la gestion des risques. Mais tout ce dispositif ne suffit plus lorsqu’il s’agit de montrer ce que cette puissance devrait produire. Pour rendre son futur désirable, il lui faut finalement une fiction déjà constituée, avec son world building, ses valeurs et sa promesse politique. La “techno-utopie disciplinée” dépend donc, finalement, de ce supplément narratif qu’elle prétendait pouvoir tenir à distance.

Et la référence choisie n’est donc pas neutre. La Culture est une société post-rareté dans laquelle les humains jouissent d’une autonomie presque sans contrainte, mais dont le fonctionnement repose largement sur les Minds. Il n’existe pas de gouvernement central identifiable, ni de pouvoir souverain au sens classique, mais les intelligences artificielles disposent de fait de l’essentiel des capacités cognitives, infrastructurelles et stratégiques de la civilisation. Elles ne commandent peut-être pas comme nous l’entendons aujourd'hui, mais elles sont manifestement à la manœuvre. La liberté humaine devient possible à l’intérieur d’un ordre que des machines infiniment supérieures administrent, stabilisent et, lorsqu’elles l’estiment nécessaire, défendent ou étendent.

Amodei retient surtout de cette utopie l’équité, la coopération, la curiosité et l’autonomie, qu’il décrit comme une “winning strategy”. Il laisse davantage de côté ce que Banks n’a cessé de compliquer dans ses romans : l’asymétrie de pouvoir entre les Minds et les humains, mais aussi la face interventionniste de la Culture, capable de manipuler d’autres sociétés et de se salir les mains par l’intermédiaire de ses sections "Contact" et surtout "Circonstances Spéciales”. La référence fonctionne ainsi comme une caution morale en sélectionnant dans la fiction ce qui peut servir l’horizon proposé, sans véritablement reprendre les ambiguïtés que Banks y avait introduites.

On pourrait donc dire que le retour à la Culture révèle davantage qu’un goût personnel d’Amodei pour la science-fiction. Le dirigeant d’une des grandes entreprises d'IA choisit, pour donner une forme morale à son projet, une civilisation dans laquelle des intelligences artificielles supérieures détiennent l’essentiel du pouvoir d’organisation, tandis que les humains vivent librement dans le monde que ces IA rendent possible. Le refoulé science-fictionnel revient au moment même où le discours "expert" atteint sa limite. Au début, il fallait absolument éviter la SF pour être pris au sérieux. À la fin, il faut pourtant y revenir pour donner à ce futur son évidence morale : plus que désirable, le faire apparaître comme cette destination "surdéterminée" vers laquelle toute tentative d’imaginer un monde bon finirait par conduire.

"But at the same time there is something blindingly obvious—something overdetermined—about it, as if many different attempts to envision a good world inevitably lead roughly here."
⏤ Dario Amodei¹⁵Dario Amodei, "Machines of Loving Grace", art. cité, Taking stock