{"id":357508,"date":"2026-09-12T13:30:55","date_gmt":"2026-09-12T11:30:55","guid":{"rendered":"https:\/\/legrandcontinent.eu\/fr\/?post_type=sunday&p=357508"},"modified":"2026-09-12T13:35:22","modified_gmt":"2026-09-12T11:35:22","slug":"le-pire-scenario-nest-pas-que-lia-nous-tue","status":"publish","type":"sunday","link":"https:\/\/legrandcontinent.eu\/fr\/dimanches\/le-pire-scenario-nest-pas-que-lia-nous-tue\/","title":{"rendered":"Le pire sc\u00e9nario n\u2019est pas que l\u2019IA nous tue"},"content":{"rendered":"\n
Le titre de l\u2019ouvrage d\u2019Aakash Singh Rathore, Will AI Murder Us All ?<\/em>, fait r\u00e9f\u00e9rence au paradoxe de Fermi : si l\u2019univers a des milliards d\u2019ann\u00e9es et regorge d\u2019\u00e9toiles et de plan\u00e8tes, o\u00f9 sont-ils tous pass\u00e9s ? Statistiquement, les civilisations extraterrestres devraient \u00eatre courantes, mais nous n\u2019avons observ\u00e9 aucune preuve de leur existence : ni signaux extraterrestres, ni artefacts, ni visites. Les solutions propos\u00e9es vont de \u00ab Nous sommes seuls \u00bb (hypoth\u00e8se de la Terre rare) \u00e0 \u00ab Ils se cachent \u00bb (hypoth\u00e8se du zoo) ou \u00ab Ils se sont auto-d\u00e9truits \u00bb (les grands filtres \u00e0 venir). C\u2019est un paradoxe qui alimente l\u2019angoisse existentielle et les r\u00eaves de science-fiction, nous rappelant \u00e0 quel point l\u2019univers semble vaste et silencieux. <\/p>\n\n\n\n Comment les civilisations sont-elles donc filtr\u00e9es ? La raison pour laquelle les civilisations ne se propagent pas \u00e0 travers les \u00e9toiles est que, juste au moment o\u00f9 elles d\u00e9veloppent des technologies suffisamment puissantes pour le faire, elles s\u2019autod\u00e9truisent d\u2019une mani\u00e8re ou d\u2019une autre \u2014 elles sont ainsi filtr\u00e9es \u2014 m\u00eame si seule une infime minorit\u00e9 d\u2019habitants a tendance \u00e0 l\u2019autodestruction ou est encline \u00e0 prendre de gros risques, t\u00f4t ou tard l\u2019un d\u2019entre eux saisira l\u2019occasion\u2026 Ne nous trouvons-nous pas aujourd\u2019hui pr\u00e9cis\u00e9ment \u00e0 un tel moment ? Nous avons cr\u00e9\u00e9 une intelligence artificielle qui menace de nous contr\u00f4ler totalement, effa\u00e7ant ce qui fait de nous des \u00eatres humains. Nous avons exerc\u00e9 notre domination sur notre environnement naturel \u00e0 un tel point que nous rendons la Terre inhabitable pour nous-m\u00eames. Nous avons d\u00e9velopp\u00e9 des armes de destruction massive qui, si elles sont d\u00e9ploy\u00e9es, an\u00e9antiront non seulement nos ennemis, mais nous tous.<\/p>\n\n\n\n Le livre de Singh s\u2019articule autour de cette seule question : comment, si tant est que ce soit possible, pouvons-nous \u2013 l\u2019humanit\u00e9 \u2013 \u00e9viter d\u2019\u00eatre \u00ab filtr\u00e9s \u00bb ? Il d\u00e9crit notre situation avec une cruaut\u00e9 impitoyable, rejetant toutes les excuses humanistes faciles : \u00ab Une IA future, si elle nous surpasse de mani\u00e8re plus g\u00e9n\u00e9rale, pourrait rel\u00e9guer la cognition humaine aux oubliettes \u2013 non pas par malveillance (bien que cela soit \u00e9galement possible si l\u2019on consid\u00e8re un vaste genre de techno-panique comme le livre classique d\u2019Isaac Asimov, et plus tard le film avec Will Smith, I, Robot<\/em>), mais pr\u00e9cis\u00e9ment en \u00e9tant meilleure dans le fait d\u2019\u00eatre moins humaine. \u00bb Le foss\u00e9 qui s\u00e9pare l\u2019IA de l\u2019esprit humain n\u2019est pas seulement quantitatif, mais qualitatif : un agent d\u2019IA ne se contente pas d\u2019apprendre des donn\u00e9es et de raisonner bien plus rapidement qu\u2019un esprit humain ; ce qui est encore plus important, c\u2019est que l\u2019esprit humain est incarn\u00e9, expos\u00e9 \u00e0 la douleur et \u00e0 la vuln\u00e9rabilit\u00e9, sujet au doute et aux fluctuations, pris au pi\u00e8ge dans un r\u00e9seau intersubjectif avec autrui, qui ne sont pas moins imp\u00e9n\u00e9trables \u00e0 eux-m\u00eames que l\u2019esprit humain qui interagit avec eux, ce qui contraste nettement avec un agent d\u2019IA qui est une machine fonctionnant sans heurts, se contentant d\u2019accomplir sa t\u00e2che sans compassion ni douleur. Mais une telle machine num\u00e9rique d\u00e9sincarn\u00e9e et fonctionnant sans accroc (qui surpasse de loin notre intelligence) peut-elle poss\u00e9der une forme de conscience de soi ou de conscience tout court ? D\u2019une mani\u00e8re tr\u00e8s probl\u00e9matique (pour moi, du moins), Singh \u00e9carte cette question comme \u00e9tant hors de propos : <\/p>\n\n\n\n \u00ab Les machines raisonnent, apprennent, cr\u00e9ent, communiquent et r\u00e9solvent d\u00e9j\u00e0 des probl\u00e8mes in\u00e9dits mieux que de nombreux humains dans des domaines sp\u00e9cifiques. Si elles accomplissent la fonction de penser, peut-\u00eatre pensent-elles, qu\u2019il y ait conscience ou non. Sans plumes. \u00bb <\/p>\n\n\n\n Comment alors les agents d\u2019IA dot\u00e9s d\u2019une intelligence qui surpasse de loin celle des humains se rapporteront-ils \u00e0 l\u2019humanit\u00e9, plus pr\u00e9cis\u00e9ment \u00e0 la morale qui nous caract\u00e9rise, nous, les humains ? La premi\u00e8re id\u00e9e qui vient \u00e0 l\u2019esprit ici est, bien s\u00fbr, que les agents d\u2019IA n\u2019auront (et n\u2019ont d\u00e9j\u00e0) aucune morale : des notions telles que la culpabilit\u00e9 et la responsabilit\u00e9 leur sont \u00e9trang\u00e8res, ils se contentent de suivre les r\u00e8gles morales que leur programmeur leur a implant\u00e9es\u2026 <\/p>\n\n\n\n L\u2019option suivante est que les agents d\u2019IA fonctionneront comme l\u2019\u00dcbermensch <\/em>(Surhomme) de Nietzsche \u2014 Singh a raison de souligner que le Surhomme ne se contente pas de d\u00e9velopper davantage nos valeurs morales pour les \u00e9lever \u00e0 un niveau sup\u00e9rieur ; au contraire, \u00ab le Surhomme cr\u00e9e ses propres valeurs nouvelles et est pr\u00eat \u00e0 faire exactement le contraire de ce que dicte la tradition, si cela permet de d\u00e9couvrir de nouvelles possibilit\u00e9s. Vu sous cet angle, l\u2019IA super-intelligente pourrait ne pas tant constituer un danger pour la morale qu\u2019une possible et bienvenue transvaluation de celle-ci : un ph\u00e9nom\u00e8ne qui red\u00e9finit ce que signifie \u00eatre excellent, cr\u00e9atif ou vertueux. Le discours moderne sur l\u2019IA \u2013 depuis l\u2019articulation par Elon Musk d\u2019esprits artificiels \u00ab divins \u00bb jusqu\u2019au rejet par Peter Thiel des contraintes d\u00e9mocratiques pesant sur le pouvoir technologique \u2013 saisit parfaitement cette sensibilit\u00e9 nietzsch\u00e9enne : l\u2019avenir n\u2019appartient pas \u00e0 ceux qui pr\u00e9servent la morale h\u00e9rit\u00e9e, mais \u00e0 ceux qui risquent tout pour la transcender. \u00bb<\/p>\n\n\n\n Singh rejette de mani\u00e8re convaincante cette lecture nietzsch\u00e9enne, en avan\u00e7ant deux contre-arguments. Premi\u00e8rement, comme les agents d\u2019IA seront bien plus intelligents que les humains, ils pourraient ob\u00e9ir \u00e0 leur propre morale. Une morale, que nous, les humains, ne serons pas en mesure d\u2019identifier ni m\u00eame de comprendre :<\/p>\n\n\n\n \u00ab Une IA pourrait raisonner sur la souffrance, l\u2019\u00e9quit\u00e9 ou la valeur future d\u2019une mani\u00e8re qui soit coh\u00e9rente en son for int\u00e9rieur, mais totalement \u00e9trang\u00e8re \u00e0 l\u2019intuition morale humaine. Dans un tel cas, le foss\u00e9 ne serait pas celui de l\u2019intelligence, mais celui de la lisibilit\u00e9 morale.<\/p>\n\n\n\n \u00c0 ce stade de singularit\u00e9 morale, les humains se retrouveraient confront\u00e9s \u00e0 un paradoxe : nous serions, directement ou indirectement, \u00e0 la merci d\u2019un syst\u00e8me dont nous ne pouvons \u00e9valuer les jugements \u00e9thiques, mais auquel nous ne pouvons r\u00e9sister. Dans ce cas, la super-intelligence ne garantirait pas une super-morale, mais pourrait au contraire engendrer une opacit\u00e9 morale totale. \u00bb<\/p>\n\n\n\n La deuxi\u00e8me raison avanc\u00e9e par Singh est encore plus int\u00e9ressante et pertinente : Thiel et Musk se consid\u00e8rent peut-\u00eatre comme des surhommes cr\u00e9atifs se d\u00e9marquant du comportement gr\u00e9gaire de la masse, mais ce qu\u2019ils font en r\u00e9alit\u00e9, c\u2019est simplement r\u00e9guler, voire absorber, notre comportement gr\u00e9gaire et conformiste : \u00ab le danger ou la s\u00e9duction de l\u2019IA ne r\u00e9side pas n\u00e9cessairement dans le fait qu\u2019elle supplantera notre morale existante et d\u00e9pass\u00e9e, mais dans le fait qu\u2019elle renforcera nos tendances \u00e0 la conformit\u00e9 et au comportement gr\u00e9gaire. \u00bb <\/p>\n\n\n\n Le monde de Thiel n\u2019est pas celui de surhommes andro\u00efdes dominateurs, mais simplement celui d\u2019\u00ab andro\u00efdes d\u2019entreprise banals anim\u00e9s par un esprit de ruche, une main-d\u2019\u0153uvre robotique asservie au service des r\u00e9sultats financiers des entreprises\u2026 \u00bb Ce monde est aussi \u00e9loign\u00e9 que possible de ce que Nietzsche avait en t\u00eate : un monde nouveau d\u2019individus exceptionnels pr\u00eats \u00e0 mener une vie passionn\u00e9e et intense, pleine de risques, en dehors de toute norme morale universelle.<\/p>\n\n\n\n Alors, o\u00f9 Singh voit-il un espoir (\u00e0 d\u00e9faut d\u2019une solution) ? Son postulat de base est qu\u2019il ne suffit pas de lutter pour de nouvelles valeurs \u00e9thiques qui nous motiveraient \u00e0 agir en faveur de la justice mondiale : quel que soit son contenu, une telle approche, de par sa forme m\u00eame, reproduit la domination et l\u2019exclusion. Comme ce fut le cas pour Bouddha, notre point de d\u00e9part ne devrait pas \u00eatre des principes universels, mais l\u2019exp\u00e9rience concr\u00e8te de la souffrance, de l\u2019humiliation et de l\u2019exploitation que nous observons autour de nous. Si la souffrance fait partie de la condition humaine en tant qu\u2019\u00eatre mortel vuln\u00e9rable, prisonnier d\u2019un corps fragile et ancr\u00e9 dans un monde de vie unique, cette vuln\u00e9rabilit\u00e9 est aujourd\u2019hui exacerb\u00e9e par trois facteurs : la tradition du patriarcat et du colonialisme qui survit sous une forme dissimul\u00e9e dans notre modernit\u00e9 ; la modernit\u00e9 europ\u00e9enne, qui se pr\u00e9sente comme porteuse d\u2019\u00e9galit\u00e9 et de justice, mais utilise ce cadre id\u00e9ologique comme un outil qui ne fait que renforcer l\u2019exploitation, l\u2019oppression des femmes et de nouvelles formes de colonialisme ; et, enfin et surtout, la croissance explosive de l\u2019intelligence artificielle, qui nous contr\u00f4le pr\u00e9cis\u00e9ment au moment o\u00f9 nous nous percevons comme libres. Pour s\u2019en rendre compte, il ne suffit pas de proc\u00e9der selon le mode habituel de critique de l\u2019id\u00e9ologie et de mettre en \u00e9vidence les incoh\u00e9rences et les exclusions immanentes de l\u2019universalisme moderne ; ce sur quoi nous devons nous concentrer, c\u2019est la mani\u00e8re dont ces trois facteurs structurent notre vie quotidienne, comment nous vivons leurs effets dans nos souffrances et notre d\u00e9sorientation quotidiennes. En ce qui concerne l\u2019IA : que signifie pour un citoyen lambda de vivre dans un monde r\u00e9gi par l\u2019IA ? Comment l\u2019IA permet-elle \u00e0 ceux qui d\u00e9tiennent le pouvoir de le conna\u00eetre mieux qu\u2019ils ne se connaissent eux-m\u00eames, comment pr\u00e9d\u00e9termine-t-elle leurs d\u00e9sirs et leurs choix ?<\/p>\n\n\n\n Singh a \u00e9galement tout \u00e0 fait raison de situer la menace pos\u00e9e par l\u2019IA non pas dans la technologie en tant que telle, mais dans les relations sociales au sein desquelles les machines dot\u00e9es d\u2019IA sont produites : c\u2019est l\u2019univers capitaliste qui nous emp\u00eache de sortir de la logique destructrice du dilemme du prisonnier. Bien que nous sachions rationnellement que la solidarit\u00e9 et la collaboration sont meilleures pour tous les participants, l\u2019accent mis par le capitalisme sur le profit privil\u00e9gie la m\u00e9fiance envers les autres \u2013 il per\u00e7oit les autres comme des menaces potentielles qui utiliseront notre confiance comme pr\u00e9texte pour nous attaquer encore plus brutalement. La perversion fondamentale du capitalisme r\u00e9side dans le fait qu\u2019il n\u2019est m\u00eame pas authentiquement \u00e9go\u00efste : ce qui importe, ce n\u2019est pas seulement que je gagne, mais surtout que mon adversaire perde, de sorte que je pr\u00e9f\u00e8re perdre un peu (si mon adversaire perd davantage) plut\u00f4t que de gagner un peu (si mon adversaire perd davantage). Nous abordons ici le th\u00e8me de l\u2019envie et du ressentiment, qui ne peuvent \u00eatre \u00e9cart\u00e9s comme de simples aspects subjectifs d\u2019un ordre social ali\u00e9nant \u2013 ils constituent un \u00e9l\u00e9ment constitutif du d\u00e9sir humain en tant que tel, clairement perceptible m\u00eame dans les projets de gauche pr\u00f4nant l\u2019\u00e9galit\u00e9 et la solidarit\u00e9, qui reposent souvent sur le postulat selon lequel je ne suis pr\u00eat \u00e0 souffrir que si les autres souffrent eux aussi\u2026 <\/p>\n\n\n\n Comment alors sortir de ce cercle vicieux ? En plus d\u2019une sympathie g\u00e9n\u00e9rale pour le bouddhisme, Singh fait r\u00e9f\u00e9rence \u00e0 ce stade \u00e0 deux autrices, Donna Haraway et Carol Gilligan. Haraway situe le potentiel \u00e9mancipateur de l\u2019IA dans la caract\u00e9ristique m\u00eame que la plupart d\u2019entre nous percevons comme une menace mortelle pour notre humanit\u00e9 : nous devrions abandonner toute nostalgie anti-technologique pour d\u2019anciens modes d\u2019existence \u00ab authentiques \u00bb et accepter avec joie que nos vies, jusque dans nos sentiments les plus intimes, soient inextricablement m\u00eal\u00e9es \u00e0 la technologie. Au sens tr\u00e8s litt\u00e9ral du terme, nous fonctionnons de plus en plus comme des cyborgs, en int\u00e9grant dans nos corps des composants technologiques sans lesquels nous ne pourrions survivre, et l\u2019IA n\u2019est qu\u2019un autre compl\u00e9ment technologique, bien plus puissant, sans lequel toute notre vie sociale s\u2019effondrerait instantan\u00e9ment. Par leur existence m\u00eame, les cyborgs rompent avec la logique de la succession parentale \u2013 ils sont une \u00ab \u2018prog\u00e9niture ill\u00e9gitime, n\u00e9e non pas de l\u2019amour ou de l\u2019\u00e9mancipation, mais issue de la domination : militarisme, capitalisme patriarcal, socialisme d\u2019\u00c9tat, technologies de guerre, contr\u00f4le bureaucratique, discipline industrielle et syst\u00e8mes con\u00e7us pour g\u00e9rer les corps et les populations. Le cyborg est un sous-produit de la violence et de l\u2019exploitation. \u00bb Une telle pratique de r\u00e9affectation (ou d\u2019\u00ab exaptation \u00bb, pour reprendre le terme de Stephen Jay Gould) utilise les technologies g\u00e9n\u00e9r\u00e9es par des syst\u00e8mes oppressifs contre ces syst\u00e8mes eux-m\u00eames :<\/p>\n\n\n\n \u00ab Il s\u2019agit d\u2019une r\u00e9orientation profonde de notre fa\u00e7on d\u2019envisager l\u2019h\u00e9ritage technologique. L\u00e0 o\u00f9 la th\u00e9orie politique traditionnelle \u2014 et on peut m\u00eame inclure ici Gandhi et sa diabolisation de la modernit\u00e9 technologique \u2014 s\u2019inqui\u00e8te de la corruption et de la d\u00e9gradation (la mani\u00e8re dont les bonnes intentions sont g\u00e2ch\u00e9es par de mauvais syst\u00e8mes), le cyborg transforme en arme l\u2019instabilit\u00e9 de ses syst\u00e8mes d\u2019origine, ouvrant ainsi la voie \u00e0 de nouvelles opportunit\u00e9s \u00e9piques. \u00bb <\/p>\n\n\n\n Il convient de noter que tout l\u2019\u00e9difice narratif des origines de l\u2019islam repose \u00e9galement sur une descendance ill\u00e9gitime. Une distinction essentielle entre le juda\u00efsme (ainsi que sa continuation chr\u00e9tienne) et l\u2019islam r\u00e9side dans le fait que, comme on peut le voir dans le cas des deux fils d\u2019Abraham, le juda\u00efsme choisit Abraham comme p\u00e8re symbolique, l\u2019autorit\u00e9 symbolique paternelle, de la lign\u00e9e symbolique officielle, \u00e9cartant ainsi la seconde femme. L\u2019islam, au contraire, opte pour la lign\u00e9e d\u2019Agar, l\u2019esclave \u00e9gyptienne qui donna \u00e0 Abraham son premier fils, Isma\u00ebl (l\u2019anc\u00eatre de tous les Arabes, selon le mythe). Comme Sarah, l\u2019\u00e9pouse l\u00e9gitime d\u2019Abraham, ne peut pas tomber enceinte, elle ordonne \u00e0 son mari de coucher avec Agar. Mais apr\u00e8s que Sarah eut eu un fils, Abraham envoie Agar avec Isma\u00ebl dans le d\u00e9sert o\u00f9 les deux sont cens\u00e9s mourir de soif. Dieu intervient alors directement et les sauve tous les deux. Bien qu\u2019Abraham et Isma\u00ebl soient mentionn\u00e9s des dizaines de fois dans le Coran<\/em>, Agar n\u2019y est pas mentionn\u00e9e, effac\u00e9e de l\u2019histoire officielle. Elle continue pourtant \u00e0 hanter l\u2019islam, ses traces subsistant dans des rituels, comme l\u2019obligation pour les p\u00e8lerins se rendant \u00e0 La Mecque de courir six fois entre les deux collines de Safa et Marwah, sorte de r\u00e9p\u00e9tition n\u00e9vrotique de la qu\u00eate d\u00e9sesp\u00e9r\u00e9e d\u2019Agar pour trouver de l\u2019eau pour son fils dans le d\u00e9sert. Les musulmans se per\u00e7oivent ainsi comme les descendants d\u2019un enfant ill\u00e9gitime : leur figure fondatrice est un orphelin (et il en va de m\u00eame pour Mahomet lui-m\u00eame). La (tristement) c\u00e9l\u00e8bre umma<\/em>, la \u00ab communaut\u00e9 des croyants \u00bb musulmans, est une communaut\u00e9 \u00ab venue de nulle part \u00bb, dans le d\u00e9sert g\u00e9n\u00e9alogique, telle une fraternit\u00e9 r\u00e9volutionnaire et \u00e9galitaire d\u2019orphelins \u2014 il n\u2019est pas \u00e9tonnant que l\u2019islam connaisse un tel succ\u00e8s lorsque de jeunes hommes se retrouvent priv\u00e9s du r\u00e9seau de s\u00e9curit\u00e9 familial traditionnel.<\/p>\n\n\n\n Pour en revenir \u00e0 Haraway, elle a rapidement abandonn\u00e9 ce r\u00eave de cyborg : le foss\u00e9 qui s\u00e9pare la partie humaine de la partie IA d\u2019un cyborg est trop profond, de sorte qu\u2019il est difficile d\u2019imaginer une communaut\u00e9 de cyborgs programmant leur partie IA afin qu\u2019elle suive la logique de la bienveillance et de la solidarit\u00e9. Le r\u00eave de l\u2019enfant ill\u00e9gitime r\u00e9volutionnant l\u2019ordre \u00e9tabli n\u2019en reste pas moins tr\u00e8s important sur le plan politique : il nous permet de discerner la ligne de l\u2019histoire politique qui a commenc\u00e9 avec Han Fei (le fondateur du l\u00e9galisme chinois) et qui passe par Machiavel et Saint-Just pour aboutir \u00e0 L\u00e9nine, encore un autre v\u00e9ritable \u00ab enfant ill\u00e9gitime \u00bb de Marx (dans la scission entre bolcheviks et mencheviks, l\u2019enfant l\u00e9gitime de Marx \u00e9tait sans aucun doute Iouli Martov, le chef des mencheviks). L\u00e9nine s\u2019inscrit donc dans une longue lign\u00e9e de figures politiques qui a d\u00e9but\u00e9 avec les l\u00e9galistes chinois issus de la crise du confucianisme. Lorsque, entre le <\/sup>5e et le 3e si\u00e8cle avant J.-C., la Chine traversa la p\u00e9riode des \u00ab Royaumes combattants \u00bb, les confuc\u00e9ens percevaient dans la trahison des anciennes traditions et coutumes la cause ultime de ce d\u00e9clin lent mais persistant. Ce qui troublait le plus Confucius, c\u2019\u00e9tait son sentiment que les institutions politiques de son \u00e9poque s\u2019\u00e9taient compl\u00e8tement effondr\u00e9es. Il attribuait cet effondrement au fait que tant ceux qui exer\u00e7aient le pouvoir que ceux qui occupaient des positions subalternes le faisaient en revendiquant des titres dont ils n\u2019\u00e9taient pas dignes.<\/p>\n\n\n\n Interrog\u00e9 sur les principes d\u2019un bon gouvernement, Confucius aurait r\u00e9pondu : \u00ab Un bon gouvernement, c\u2019est que le souverain soit un souverain, le ministre un ministre, le p\u00e8re un p\u00e8re et le fils un fils. \u00bb En Europe, nous appelons cela une vision corporative : la soci\u00e9t\u00e9 est comme un corps o\u00f9 chaque individu doit rester \u00e0 sa place et jouer son r\u00f4le particulier. C\u2019est tout le contraire de la d\u00e9mocratie : en d\u00e9mocratie, personne n\u2019est contraint \u00e0 une place particuli\u00e8re, chacun a le droit de participer aux affaires communes, d\u2019avoir son mot \u00e0 dire dans les d\u00e9lib\u00e9rations sur l\u2019orientation de notre soci\u00e9t\u00e9. Il n\u2019est donc pas \u00e9tonnant que la description que fait Confucius du d\u00e9sordre qu\u2019il observe dans la soci\u00e9t\u00e9 qui l\u2019entoure \u2013 \u00ab Les gouvernants ne gouvernent pas et les sujets ne servent pas \u00bb \u2013 corresponde bien \u00e0 une soci\u00e9t\u00e9 d\u00e9mocratique dans laquelle les sujets unis gouvernent et les souverains de nom les servent.<\/p>\n\n\n\n Ce que firent les l\u00e9galistes, ce fut d\u2019abandonner les fondements m\u00eames d\u2019une telle perception de la situation : pour les confuc\u00e9ens, le pays \u00e9tait en proie au chaos parce que les anciennes traditions n\u2019\u00e9taient pas respect\u00e9es, et des \u00c9tats comme Qin, avec leur organisation militaire centralis\u00e9e m\u00e9prisant les anciennes coutumes, \u00e9taient per\u00e7us comme l\u2019incarnation m\u00eame de ce qui ne va pas. Cependant, contrairement \u00e0 son ma\u00eetre Xunzi qui consid\u00e9rait des nations comme Qin comme une menace pour la paix, Han Fei \u00ab proposa l\u2019impensable, \u00e0 savoir que peut-\u00eatre la mani\u00e8re de gouverner de Qin n\u2019\u00e9tait pas une anomalie \u00e0 corriger, mais une pratique \u00e0 imiter \u00bb. La solution r\u00e9sidait dans ce qui semblait \u00eatre le probl\u00e8me : la v\u00e9ritable cause des troubles n\u2019\u00e9tait pas l\u2019abandon des anciennes traditions, mais ces traditions elles-m\u00eames<\/em> qui d\u00e9montraient quotidiennement leur incapacit\u00e9 \u00e0 servir de principes directeurs de la vie sociale \u2014 comme l\u2019a formul\u00e9 Hegel dans la \u00ab Pr\u00e9face \u00bb de sa Ph\u00e9nom\u00e9nologie de l\u2019esprit<\/em>, la norme \u00e0 l\u2019aune de laquelle nous \u00e9valuons la situation et \u00e9tablissons que celle-ci est probl\u00e9matique fait partie int\u00e9grante du probl\u00e8me et doit \u00eatre abandonn\u00e9e. Han Fei a appliqu\u00e9 la m\u00eame logique au fait que (la majorit\u00e9 des) hommes sont mauvais par nature, peu enclins \u00e0 agir pour le bien commun : au lieu de s\u2019en lamenter, il a vu dans la m\u00e9chancet\u00e9 humaine une opportunit\u00e9 pour le pouvoir d\u2019\u00c9tat, quelque chose qu\u2019un pouvoir \u00e9clair\u00e9 par la bonne th\u00e9orie (une th\u00e9orie qui d\u00e9crit les choses telles qu\u2019elles sont r\u00e9ellement, \u00ab au-del\u00e0 du bien et du mal \u00bb) peut canaliser en y appliquant un m\u00e9canisme appropri\u00e9 :<\/p>\n\n\n\n \u00ab L\u00e0 o\u00f9 Xunzi voyait une constatation malheureuse, \u00e0 savoir que les hommes \u00e9taient mauvais par nature, Han Fei voyait un d\u00e9fi pour la mise en place de lois s\u00e9v\u00e8res visant \u00e0 contr\u00f4ler cette nature et \u00e0 l\u2019utiliser au profit de l\u2019\u00c9tat. \u00bb<\/p>\n\n\n\n L\u2019une des grandes r\u00e9alisations de la th\u00e9orie politique de gauche contemporaine (Althusser, Balibar, Negri) a \u00e9t\u00e9 de r\u00e9habiliter Machiavel, de le sauver de la lecture \u00ab machiav\u00e9lienne \u00bb habituelle. Puisque les l\u00e9galistes sont souvent pr\u00e9sent\u00e9s comme les machiav\u00e9liens originels, il faudrait faire de m\u00eame avec eux, en extrayant un noyau radicalement \u00e9mancipateur de leur image pr\u00e9dominante de proto-\u00ab totalitaires \u00bb. La grande intuition des l\u00e9galistes a \u00e9t\u00e9 de percevoir la blessure (inflig\u00e9e au corps social), la d\u00e9sint\u00e9gration des vieilles habitudes, comme une chance pour un nouvel ordre \u2013 on peut toutefois douter que notre \u00ab d\u00e9centrage \u00bb par la machine de l\u2019IA puisse se transformer en un nouvel ordre dans lequel nous, les humains, serons encore capables de reprogrammer notre partenaire IA afin qu\u2019il agisse avec soin et empathie. Les l\u00e9galistes pr\u00f4naient un nouvel ordre fond\u00e9 sur le pouvoir total d\u2019un \u00c9tat centralis\u00e9 qui imposait brutalement sa conception d\u2019un syst\u00e8me juridique juste \u2013 n\u2019est-il pas presque certain que l\u2019IA s\u2019imposera comme une puissance encore plus forte dont le fonctionnement m\u00eame transcendera notre compr\u00e9hension ? C\u2019est l\u00e0 que je vois la limite de la r\u00e9f\u00e9rence de Singh \u00e0 Carol Gilligan, qui pr\u00f4ne \u00ab une approche f\u00e9ministe des valeurs humaines (et peut-\u00eatre de l\u2019IA) qui privil\u00e9gie la compassion, l\u2019empathie et la compr\u00e9hension selon laquelle le bien-\u00eatre individuel \u00e9merge d\u2019un syst\u00e8me social plus large de soins, plut\u00f4t que de valeurs plus masculines telles que l\u2019autonomie, le pouvoir et le contr\u00f4le (ou, comme on pourrait l\u2019appeler, une \u00e9thique de la justice). \u00bb <\/p>\n\n\n\n Je trouve ce passage probl\u00e9matique \u00e0 quatre \u00e9gards. Premi\u00e8rement, je rejette l\u2019opposition plut\u00f4t simpliste et traditionnelle entre valeurs et approches masculines et f\u00e9minines sur laquelle le raisonnement s\u2019appuie : je pense que cette opposition est non seulement historiquement limit\u00e9e, mais aussi que les deux p\u00f4les sont strictement compl\u00e9mentaires \u2013 il n\u2019y a pas d\u2019Antigone sans Cr\u00e9on, pour citer l\u2019exemple historique le plus connu. La compassion et l\u2019empathie f\u00e9minines rel\u00e8vent clairement d\u2019un fantasme patriarcal sur la mani\u00e8re dont les femmes devraient \u00eatre et agir. Deuxi\u00e8mement, m\u00eame si l\u2019humanit\u00e9 (mais quelle humanit\u00e9 ? Nous savons tous que l\u2019IA est contr\u00f4l\u00e9e par un cercle restreint d\u2019appareils d\u2019\u00c9tat et d\u2019entreprises\u2026) parvenait d\u2019une mani\u00e8re ou d\u2019une autre \u00e0 \u00ab d\u00e9capitaliser \u00bb l\u2019IA, \u00e0 la reprogrammer pour qu\u2019elle suive la voie non capitaliste de la compassion et de la solidarit\u00e9, qui serait l\u2019acteur de cette transformation sociale radicale ? Je ne pense pas que la propagande gandhienne-f\u00e9ministe puisse r\u00e9ussir \u00e0 \u00e9veiller les consciences. Troisi\u00e8mement, je pense que Singh sous-estime la tension entre les trois obstacles \u00e0 une nouvelle soci\u00e9t\u00e9 solidaire : les hi\u00e9rarchies traditionnelles patriarcales, racistes et sexistes ; la modernit\u00e9 capitaliste ; l\u2019impact de l\u2019IA. La modernit\u00e9 a \u00e9galement ouvert la perspective de remettre en cause les hi\u00e9rarchies traditionnelles ; ses valeurs ne sont pas seulement une id\u00e9ologie masquant les hi\u00e9rarchies et l\u2019exploitation. L\u2019explosion de l\u2019IA transforme \u00e9galement progressivement le capitalisme mondial en quelque chose de nouveau auquel nous cherchons encore un nom (\u00ab f\u00e9odalisme num\u00e9rique \u00bb) \u2013 Elon Musk n\u2019est plus un capitaliste au sens ancien du terme. Quant \u00e0 la notion de bienveillance, il est tr\u00e8s difficile de l\u2019universaliser : la bienveillance et la compassion sont en r\u00e8gle g\u00e9n\u00e9rale limit\u00e9es \u00e0 leur communaut\u00e9 locale, et leur universalisation comporte le risque d\u2019imposer nos valeurs aux autres. La bienveillance devrait donc \u00eatre compl\u00e9t\u00e9e par une notion plus abstraite de justice qui, par son inaccessibilit\u00e9 m\u00eame, nous rappelle les limites de notre monde v\u00e9cu. <\/p>\n\n\n\n Cela implique que les valeurs et notions universelles ne peuvent se r\u00e9duire \u00e0 l\u2019universalisation forc\u00e9e d\u2019espaces id\u00e9ologiques particuliers, occultant ainsi la mani\u00e8re dont ceux-ci imposent leurs propres int\u00e9r\u00eats particuliers qui, de fait, excluent les autres. L\u2019histoire de la notion de \u00ab droits humains \u00bb n\u2019est-elle pas celle de son extension progressive \u00e0 ceux qui en \u00e9taient initialement exclus : d\u2019abord les femmes, puis les autres peuples (rappelons-nous la r\u00e9volution ha\u00eftienne comme un immense \u00e9cho de la R\u00e9volution fran\u00e7aise), puis les travailleurs\u2026 ? Bien plus que la compassion et la bienveillance, la dimension de l\u2019universalit\u00e9 implique une ouverture s\u00e9mantique qui rend possible l\u2019inclusion d\u2019un contenu \u00e9mancipateur. L\u2019exemple philosophique par excellence est ici le cogito<\/em> cart\u00e9sien : il est g\u00e9n\u00e9ralement rejet\u00e9 comme une abstraction vide d\u2019une pens\u00e9e d\u00e9sincarn\u00e9e, calqu\u00e9e sur le mythe id\u00e9ologique de la ma\u00eetrise de soi masculine ; cependant, combien de philosophes savent que de nombreuses femmes (instruites) lui ont donn\u00e9 une tournure f\u00e9ministe ? Leur devise \u00e9tait \u00ab cogito<\/em> n\u2019a pas de sexe \u00bb, ce qui signifie qu\u2019il implique une \u00e9galit\u00e9 de principe entre les sexes, marquant une rupture claire avec l\u2019ontologie sexualis\u00e9e traditionnelle (comme chez Aristote, pour qui la forme masculine fa\u00e7onne la mati\u00e8re f\u00e9minine).<\/p>\n\n\n\n La conclusion in\u00e9vitable est donc que l\u2019IA nous oblige non seulement \u00e0 repenser ce que deviendra l\u2019\u00ab \u00eatre-humain \u00bb \u00e0 l\u2019\u00e8re de l\u2019IA, mais aussi ce qu\u2019il a \u00e9t\u00e9 jusqu\u2019\u00e0 pr\u00e9sent \u2013 c\u2019est l\u00e0 qu\u2019intervient la question de la conscience et de la subjectivit\u00e9, qui ne doit en aucun cas \u00eatre ignor\u00e9e.<\/p>\n","protected":false},"excerpt":{"rendered":" Pour Slavoj \u017di\u017eek, le risque existentiel de l\u2019intelligence artificielle est ailleurs<\/p>\n","protected":false},"featured_media":357512,"comment_status":"closed","ping_status":"closed","template":"","meta":{"_acf_changed":true,"_trash_the_other_posts":false,"_yoast_wpseo_estimated-reading-time-minutes":20,"_lgc_tts_voice":"","_lgc_tts_publish":false,"_lgc_tts_history_item_id":"","_lgc_tts_generated_at":"","_lgc_tts_status":"","_lgc_tts_error":"","footnotes":""},"categories":[],"staff":[4966],"editorial_format":[4913],"week":[5135],"geo":[],"class_list":["post-357508","sunday","type-sunday","status-publish","hentry","staff-slavoj-zizek","editorial_format-essais"],"acf":{"_thumbnail_id":357512,"excerpt":"Pour Slavoj \u017di\u017eek, le risque existentiel de l\u2019intelligence artificielle est ailleurs","display_date":"","new_abstract":true},"yoast_head":"\n