Pouvoir total : l’IA et la fin de l’imagination
Dans son dernier ouvrage qui paraît aujourd'hui aux éditions L’Échappée, le philosophe Éric Sadin revient sur l’affaire Jianwei Xun.
Nous en publions les bonnes feuilles.
C’était donc un phénomène 1. Un jeune philosophe hongkongais, avec une acuité sans pareille, avait saisi une tendance décisive de l’époque : dorénavant, notre rapport au monde était avant tout placé sous le sceau de l’illusion. Bon gré mal gré, nos représentations en seraient arrivées à être décorrélées du réel. Un état des psychés dont les causes seraient multiples et, pour qui saurait en user, disposerait alors de toutes les clés nécessaires pour placer des foules sous sa coupe. À cet égard, deux figures en seraient les principales marionnettistes. D’une part Donald Trump, en ne cessant de proférer des discours dénués de toute véracité, ne répondant plus qu’à ses vues de l’esprit ou à celles de populations qui ne demandent qu’à se les entendre confirmer par des individus dominateurs. D’autre part, Elon Musk, en inondant sa plate-forme X, et, plus largement, le paysage médiatique, de ses allégations expéditives vilipendant l’héritage des lumières et de la démocratie, qui n’auraient fait que nous conduire au bord du gouffre. Et ce, en s’exhibant comme le nouvel élu à même de nous sauver de tous nos maux, suivant une compulsion pour la répétition qui confine à la démence. Tout un ethos, allant du bas vers le haut, pour ainsi dire, qui aurait pour large partie changé la face du monde. C’est l’ère de l’hypnocratie. Voilà qui sonne bien, tel un bon slogan, qui aussitôt suscita l’intérêt de journalistes de par le monde. Alors, évidemment, une telle agitation donne envie d’aller voir. D’autant que des bonnes feuilles de son ouvrage au titre éponyme furent vite publiés par certains médias. Et alors quelle ne fut la stupéfaction — la consternation plus précisément — éprouvée par des personnes incrédules, ou encore dotées d’un bon sens élémentaire — dès la lecture des premières lignes. On se serait cru à feuilleter le cahier intime d’un adolescent des années 2020 sous acide, surenchérissant de formules n’ayant pour but que de frapper les esprits, au ton péremptoire et se voulant définitives, comme pour recouvrir le terrible vide qu’elles charriaient. On tombait sur des expressions absconses, telles que « Ce n’est pas un objet qu’on explique. C’est une condition qui se traverse », ou « réalité algorithmique », ce qui ne veut absolument rien dire, et autres absurdités clinquantes de cet acabit. C’est comme si la coquille, semblant brillante de l’extérieur, révélait dès que l’on se mettait à observer son intérieur un néant abyssal. La montagne nous venant des confins de l’Orient, à y voir de près, n’avait fait que d’accoucher d’une très morne et piètre souris.
Mais fi donc de la posture critique, ou du soupçon (pour reprendre le terme de Nietzsche), qui, de nos jours, sont considérés comme des produits périmés. Puisque des hordes de journalistes — se trouvant probablement eux-mêmes sous l’hypnose de ce jargon théorico-publicitaire — au moment de la parution initiale de son ouvrage en Italie 2 et qui, paraît-t-il connut un succès immédiat, se mirent à vouloir l’interviewer. Dans la même lignée, il y eut des éditeurs, autant placés sous hypnose, qui, sans tarder, acquirent les droits. Et alors, au vu des demandes affluant de toute part, et notamment des invitations faites à cet homme à donner des conférences, la situation devint intenable et le pot aux roses dut être dévoilé : ce « philosophe », au nom de Jianwei Xun, tenu pour « l’un des plus brillants de sa génération », comme il était dit sur la quatrième de couverture de l’ouvrage, n’existait pas et n’avait jamais existé ! Il était le pur produit de l’idée de deux philosophes italiens qui, à l’origine, avaient été saisis par l’envie — à vrai dire fort cynique — de « dialoguer » avec ChatGPT pour « lui faire cracher des concepts » ! Oui, une certaine sphère intellectuelle en est arrivée à un tel niveau de crédulité, à se figurer pertinent d’explorer des chemins de pensée en s’appuyant sur des technologies produites par la pointe avancée du technolibéralisme. C’est-à-dire par des entrepreneurs et des ingénieurs, la plupart d’entre eux trentenaires, souvent incultes, emportés par une quête sans fin du profit, s’attelant à produire un pseudo-langage résultant d’analyses statistiques, d’équations mathématiques, de schémas logiques et uniquement fondé sur le principe de la conformité. Et du plus grand conformisme donc — nous venons à l’instant de le vérifier. Car répondant exactement à une demande de l’époque, qui ne sait plus jurer que pour le tape-à-l’œil et l’insignifiance. Et il se trouve qu’un journal français, en l’occurrence Philosophie Magazine — qui aussitôt publia le titre, à propos duquel la quatrième de couverture disait encore « qu’il nous invite à rester lucides au sein même de la simulation », ce qui est formidable en termes de mise en abyme ! — interrogea Andrea Colamedici, l’un des deux protagonistes de cette supercherie planétaire. Dans l’entretien paru dans l’édition de mai 2025 (dont le sommaire mentionnait qu’il s’agissait d’un « livre-événement »), ce postmoderne tardif affirmait que « L’IA est un outil d’une puissance extraordinaire pour construire des concepts » — au sujet de laquelle il ne semble ni voir la teneur nécrosée de ses productions symboliques ni les ressorts économiques, ni non plus la vision du monde à l’œuvre — et allait permettre de « penser plus loin ». Et le directeur de la rédaction de conclure leur échange par cette question : « Vous pensez que certains Platon ou Deleuze du futur travailleront avec des IA pour pousser plus loin leurs concepts, dérouler leurs hypothèses et leurs modèles théoriques ? » 3 On en est donc à ce niveau, moins que zéro, de conscience et d’éveil critique relativement à un pan de la « pensée » contemporaine, de la valeur des œuvres, mais aussi à certains propos énoncés ? En réalité, tous ces épisodes, qui pourraient composer la trame d’un sketch parodique de l’époque, doivent être pris au sérieux. Dans la mesure où ils témoignent d’un phénomène décisif auquel nous sommes confrontés depuis une quinzaine d’années et, plus encore, depuis l’introduction des IA génératives. À savoir, le fait, concomitant, de la suprématie cognitive de la technologie — et de l’aura qui lui est prêtée — et une soumission, jusqu’à une subordination, plus ou moins visible, plus ou moins consciente, manifestée par des milliards d’individus à l’égard de ses productions et de ses pouvoirs indéfiniment croissants.
Nous avons érigé la plus grande instance cognitive et ordonnatrice de l’histoire.
Éric Sadin
Les deux premières décennies du xxie siècle auront été celles de l’avènement d’une gigantesque puissance. Une puissance qui nous fait face, tout en paraissant se mettre à notre entière disposition. Une conjoncture qui prend son origine dans un credo, vieux de 70 ans, qui, au fil du temps et, plus encore, depuis le tournant du nouveau millénaire, n’a cessé de prendre de la consistance : ériger des artefacts de l’absolue supériorité de nous-mêmes. Un credo, pour qui sait le voir, charrie une certaine vision — lacunaire et, finalement, de peu de valeur de l’humain — autant qu’un certain type d’affects : une haine de nous-mêmes. À cet égard, il convient de porter la plus grande attention aux paroles de Geoffrey Hinton, considéré comme l’un des « parrains » des « réseaux de neurones ». L’homme a offert ses talents durant de longues années à Google, société au sein de laquelle il a pu bénéficier de moyens quasi illimités pour parfaire les procédés de machine learning qui, pour une large part, ont contribué à l’avènement des IA génératives. Et voilà qu’en 2023, à 75 ans, ou au soir de sa vie, il a, comme du jour au lendemain, semblé avoir été pris de remords, ou s’être brutalement réveillé de son très long et profond sommeil dogmatique. Hinton avait déclaré au New York Times — vu les capacités époustouflantes de ChatGPT — que tout ce mouvement « allait trop vite, trop loin, et qu’il est temps de s’en inquiéter », allant jusqu’à avouer qu’« une part de lui-même regrette l’œuvre de sa vie ». Et, afin de « parler librement des dangers de l’IA », il avait annoncé démissionner de Google — avec grand courage donc, en toute fin de carrière, fortune faite et une grasse retraite assurée. On croit à une blague ou à un soudain accès de folie. Cependant, quelque temps plus tard, lors d’une conférence à laquelle il participait, son pli naturel, bon gré mal gré, aura repris le dessus ; il lui a été demandé « s’il était favorable à ce qu’une IA superintelligente détruise l’humanité et la remplace par quelque chose d’objectivement meilleur en termes de conscience ». Ce à quoi il avait répondu du tac au tac : « En fait, je suis pour, mais je pense qu’il serait plus sage pour moi de dire que je suis contre. » Et il conclut par une phrase qui, au bout du compte, ne fit que trahir le fond de sa pensée : « Il n’est pas certain que nous soyons la meilleure forme d’intelligence qui soit. » 4 Le voilà l’esprit qui — depuis les premiers pas de la cybernétique au mitan des années 1950 et avec des moyens technologiques et financiers autrement conséquents aujourd’hui — anime ces ingénieurs. Qui à eux seuls, et portés par l’industrie à laquelle ils sont inféodés, sont en train, non pas de « changer le monde » (selon la formule tant consacrée) mais de réduire l’humanité humaine — car il convient, dans cette contexture-là, d’être redondant — à néant.
À quoi a-t-on affaire depuis la généralisation de l’intelligence artificielle et, plus encore, depuis celles dites « génératives » ? À une sorte de transcendance immanente, promise à constamment nous accompagner et qui, en toute circonstance, paraît nous dépasser. Les mots sont difficiles à trouver, ou nous manquent, pour qualifier cette entité en constant perfectionnement dont il est acquis, et dont il sera toujours plus acquis, qu’elle a raison de nous, en arrivant à nous laisser sur la touche, au point de ne plus souhaiter que s’accrocher à elle pour profiter de ses infinis pouvoirs. À l’instar de ces deux philosophes italiens donc. Veau d’or du deuxième quart du xxie siècle, devant lequel on se prosterne moins (quoique), que l’on entérine le différentiel de savoir pour chercher à en profiter sans compter, actant alors — sans en avoir l’air et souvent sans même en avoir conscience — la secondarité, et bientôt l’inanité définitive, de nous-mêmes. De nos jours, ne se joue pas seulement l’« obsolescence de l’homme », pour reprendre les termes de Günther Anders, mais également, dans le même mouvement, la subordination à un ordre qu’il a lui-même érigé pour finir par déterminer — d’une position de surplomb — le cours de nos vies individuelles et collectives. Une condition qui, en aucune manière, ne correspond à une quelconque « prise du pouvoir par les machines », ou autres « soulèvements », parfois évoqués de manière si inappropriée et, à vrai dire, fort grotesque, témoignant de notre manque criant d’analyse. Mais à bien autre chose — et d’une portée au moins identique à ce que supposent de tels scénarios apocalyptiques : le franchissement de seuil vers un monde voyant la plupart de ses flux organiques et physiques dépendre de l’omniscience d’entités artificielles. En cela, nous avons érigé la plus grande instance cognitive et ordonnatrice de l’histoire. Et, par voie de conséquence, une puissance politique, elle aussi, comme nulle autre par le passé, s’exerçant la plupart du temps de façon imperceptible et, de ce fait, vouée — à l’échelle de la planète — à être intériorisée par nos esprits. Une mutation totalement inconcevable il y a encore une vingtaine d’années, que personne n’a vu venir, et qui, pourtant, constitue notre réalité présente et le sera de façon toujours plus généralisée et intensifiée à l’avenir.
C’est pour cette raison que, dans la suite de la gouvernementalité — c’est-à-dire une certaine capacité à infléchir les comportements —, qui a été affectée aux technologies numériques et, plus tard, à l’intelligence artificielle, nous en arrivons maintenant — du fait de leur expansion et sophistication accrues, et de l’introduction de machines parlantes — au stade d’une prégnance autrement supérieure, conduisant à une redéfinition totale du politique. C’est cela qu’il nous revient de penser, en ce mitan des années 2020, de façon tout aussi nouvelle. L’avènement d’une force omnisciente, qu’on aura laissée partout s’immiscer, qui va inspirer la teneur de nos actes, pensées, mots, images, relations, revêtant en cela une portée politique d’un niveau tel qu’il convient de le nommer à sa mesure : le pouvoir total. Une notion qu’il vaut mieux mettre en lettres capitales pour à la fois marquer son empire à nul autre pareil et sa nature absolument inédite, qui ne peut que dépasser nos catégories et modes actuels d’intelligibilité, vu qu’elle n’appartient à aucun ordre connu jusque-là.
Michel Foucault avait identifié les mécanismes modernes du pouvoir — ceux à l’œuvre à partir des temps de la sécularisation et de l’industrialisation — dans leurs caractéristiques plurielles et opérant non plus seulement de façon pyramidale, mais autant à différents niveaux de la société : au sein de l’hôpital, de la prison, de diverses institutions ; également à l’échelle des individus sous une infinité de modalités. Des analyses qui témoignaient de l’obsolescence d’un ordre unique et omniscient, tel celui assuré par l’empereur de Chine ou, dans tout un autre genre, celui représenté par le panoptique de Jeremy Bentham (dont le principe architectural consistait à permettre aux gardiens d’avoir depuis leur tour de contrôle une vue à 360° des cellules sans qu’eux-mêmes ne soient vus 5). Aujourd’hui, nous aurions moins affaire à une forme de retour à un état d’absolutisme qu’à un complexe qui partout agit et s’impose comme étant la référence, c’est-à-dire le point à partir duquel se déterminer et qui, par conséquence, oriente les trajectoires de milliards d’individus. Les ardents défenseurs des libertés individuelles, qui adorent se prétendre les victimes d’une surveillance généralisée, ne trouveront nullement leur compte dans cette configuration-là — celle-ci, malgré ses airs de similitude, procédant de tout autres visées et relevant de caractéristiques sans équivalent ni antécédents historiques.
Les foules ne se fient plus à rien — tout en ayant un avis sur tout.
Éric Sadin
C’est la politique, telle qu’elle a été pensée et envisagée depuis la Grèce antique, ainsi qu’au cours de la modernité, du tournant du xixe siècle à aujourd’hui, qui se voit, bien plus que redéfinie, ou même agonisante, inéluctablement condamnée à l’obsolescence. Toutes les prérogatives qui lui reviennent tomberont une à une en lambeau : mise en œuvre de programmes (ceux jusqu’ici élaborés par des humains) ; évaluation ; délibération ; décision ; et, bien sûr, les principes de pluralité et de contradiction constitutifs de la démocratie. Mais aussi l’incertitude et la temporalité, propres à la vie, permettant d’expérimenter sans arrêt une infinité d’horizons possibles, au point que l’un et l’autre représentent à la base la condition même de possibilité du politique. C’est comme si le recours à des cabinets de conseil, dont ont abusé moult gouvernements depuis une quinzaine d’années, avait inauguré le règne d’une technocratie bientôt appelée à prendre une mesure intégrale et automatisée. Seule s’imposera — à l’instar de ce qu’il se passe avec le thanatologos et les régimes de l’image et du son — la loi de la conformité. C’est-à-dire qu’aura lieu, en des circonstances toujours plus nombreuses, uniquement ce qui doit avoir lieu. Des opérations réalisées en fonction d’intérêts plus ou moins visibles et de stricts impératifs utilitaristes, mais poussés à l’extrême vu que ne devant plus devoir rendre de comptes et dont les systèmes sont conçus par des entrepreneurs et des ingénieurs qui eux-mêmes ne jurent que par ces impératifs. Soit des modes d’organisation froids, semblant impersonnels, du cours des choses, indéfiniment réactifs aux flux du réel, dynamiques donc, mais figés et répétitifs dans les axiomes qui les déterminent. Un épuisement de la prise en charge par des humains de la chose publique (et de toutes les imperfections, mais aussi parfois les perfectionnements concertés que celle-ci suppose) que, d’une certaine manière, alors que les réalités présentes sont si éloignées de son environnement d’alors, Jacques Ellul avait pu pressentir. Car ayant été l’un des seuls, à la fin des années 1970, à avoir eu la lucidité d’observer l’importance grandissante occupée par des systèmes techniques, mais aussi d’organes de décision toujours plus complexes et enchevêtrés innervant la société, ayant pour double effet — éminemment politique — de marginaliser l’action humaine et d’interdire la compréhension des motivations inspirant les mécanismes mis en place : « Il n’y a plus aucune organisation sociale ou politique significative possible pour cet ensemble dont chaque partie est soumise à des techniques, et liée aux autres par des techniques. » 6
Si le pouvoir total en arrive à dicter sa seule loi (mais une loi évolutive et s’adaptant — pour leur mieux supposé — aux situations des individus et de groupements), alors la constitution de la connaissance, dans ce qu’elle revêt d’utilité publique, en tant qu’outil de compréhension de phénomènes naturels et de société, mais aussi de réflexivité à leur égard, va, elle aussi, être frappée d’obsolescence. Et avec elle tout le savoir qui émane d’institutions, de centres de recherche, de publications, c’est-à-dire, des analyses documentées, soumises à la critique de pairs et ensuite mises à la disposition de tous. Soit une autre dimension du politique, entendue comme le droit légitime — ou le devoir civique et moral — de travailler à l’élaboration de contenus à même d’exposer d’autres points de vue, mais aussi d’ouvrir d’autres perspectives que celles avancées et vantées par les organes usuels de pouvoir. Dit autrement, des instances — plus ou moins perçues comme telles — de contre-pouvoirs instituées en Europe à partir du xviie siècle et qui, au fil du temps, se sont multipliées de par le monde, tout en ayant vu une diversification de leurs domaines d’études, sont vouées à être vidées de leur pertinence. Puisque les manifestations du réel — si nous éprouvons encore le besoin d’en saisir la teneur —, les conditions d’éruption d’un volcan, d’apparition de pathologies, les effets de certains usages seront « expliqués » par cette puissance.
À cette aune, ce sont les sciences sociales et, dans une moindre mesure, les sciences dites « dures » qui, un jour prochain, vont paraître inutiles et surannées, voyant des « Jianwei Xun » bientôt nous éclairer en toutes circonstances. Finies les sociétés savantes ; d’ailleurs, pour quelle raison financer des chercheurs dans un tel contexte ? Tant mieux diront certains, puisque voilà des deniers publics qui ne servent qu’à procurer des rentes à des sortes de parasites systématiquement grincheux et à établir des conclusions dont plus personne ne se soucie, à une époque où les foules ne se fient plus à rien, tout en ayant un avis sur tout. Mieux vaut alors laisser parler le pouvoir total qui, lui, ne se trompe jamais, et ne cesse de progresser pour tendre vers une science absolue. « Nous travaillons au développement de la superintelligence, que nous définissons comme une IA surpassant l’intelligence humaine en tous points, et qui est, selon nous, désormais en vue » 7, a dit, avec un fol enthousiasme, Mark Zuckerberg en juillet 2025. Et ce sera, par voie de conséquence, la probable disparition de la critique, puisque condamnée à devenir inaudible, presque vaine finalement. Dans la mesure où, bientôt, plus personne ne disposera des moyens et des outils adéquats à même de mettre en doute les équations de cette machinerie vouée à être toujours plus omnisciente — et d’une efficacité qui sera indéfiniment vérifiée.
« La vraie nature du néolibéralisme, c’est non pas un projet économique, mais un projet politique visant à saper l’imagination », avait relevé l’anthropologue David Graeber 8. En ces temps, en voie d’automatisation intégrale et d’artefactualisation du savoir, nous sommes tenus de reprendre cette remarque, mais pour la radicaliser et avancer que le pouvoir total va saper la curiosité, le goût pour la découverte — et en premier lieu la lecture de livres (c’est-à-dire l’apport unique d’imaginaire et de connaissance qu’elle offre). Alors, on peut supposer que des adolescents qui auront atteint l’âge adulte au tournant de la prochaine décennie, mais aussi les adultes d’aujourd’hui, matin et soir absorbés par TikTok — ou se repaissant de vidéos, le nouveau régime de perception médiatisée, et si dévoyé, du monde — ne verront aucun problème (tout le contraire même) à ce que des machines nous disent le sens des choses sans requérir notre moindre effort. En réalité, tous ces mouvements s’ajustent parfaitement ensemble, jusqu’à en arriver, au fil du temps, à se renforcer les uns les autres. Car il faudrait être naïf ou aveugle pour ne pas saisir que le processus d’anhumanité en cours, d’évidement de nous-mêmes et de réalisation, à terme, de toutes les tâches matérielles, physiques, cognitives, intellectuelles, créatives par des technologies de la supériorité de nous-mêmes, ne fait pas le lit de l’abêtissement croissant de l’humanité. Ce processus, tant qu’il nous reste des soupçons d’intelligence — et de dignité —, il convient de le penser — sa nature, son étendue et, surtout, l’extrême gravité de ses conséquences.
Sources
- Aux éditions L’Échappée, Eric Sadin fait paraître le 17 octobre Penser à temps. Faire face à l’emprise numérique (2013-2025), un recueil d’entretiens et de tribunes. Aujourd’hui paraît Le Désert de nous-mêmes. Le tournant intellectuel et créatif de l’intelligence artificielle, dont ce texte est issu.
- Ipnocrazia. Trump, Musk e la nuova architettura della realtà, Tlon, 2024.
- « L’IA est un outil d’une puissance extraordinaire pour construire des concepts », entretien avec Andrea Colamedici, réalisé par Alexandre Lacroix, Philosophie Magazine, mai 2025.
- « Remplacer les humains par une IA : les propos hallucinants de ce pionnier de l’IA », Jean-Yves Alric, Presse-citron, 18 juin 2024.
- Sur une description précise et fine du panoptique de Bentham, voir Michel Foucault, Surveiller et punir, Gallimard, 1975.
- Jacques Ellul, Le Système technicien, Le cherche midi, 2004 [1977], p. 27.
- « Après le métavers, Mark Zuckerberg investit des dizaines de milliards de dollars dans la “superintelligence” grâce à ses résultats mirobolants », art. cit.
- David Graeber, Révolutions à l’envers. Essais sur la politique, la violence, l’art et l’imagination, Rivages, 2024 [2004-2010].