« Le pouvoir géopolitique d’Elon Musk doit être tenu sous contrôle », une conversation avec Fabio Chiusi

Pourquoi pensez-vous qu’une critique idéologique d’Elon Musk est nécessaire ?

Je pense que les événements de ces derniers jours le démontrent assez bien. Jeudi avait lieu un événement de très haut niveau sur l’intelligence artificielle en Grande-Bretagne, organisé par Rishi Sunak : on y a vu le Premier ministre du Royaume-Uni s’asseoir à la table de l’homme le plus riche du monde, Elon Musk, pour l’interviewer — avec des questions plutôt bienveillantes, soit dit en passant — et lui demander comment l’avenir de l’intelligence artificielle devrait être réglementé et quels sont les risques et les opportunités qu’elle soulève. 

D’une part, cette personne a atteint un niveau de pouvoir économique énorme, car elle a réussi à accumuler une colossale fortune personnelle — à hauteur de trois cents milliards de dollars. D’autre part, comme l’illustre l’événement londonien, il est désormais traité comme un chef d’État, dont l’État n’aurait toutefois pas de frontières. C’est un entrepreneur, mais il est surtout considéré par beaucoup comme un gourou, un visionnaire. C’est pourquoi il est extrêmement important de comprendre ce que cet homme a en tête, pour nous, pour notre avenir, pour l’avenir de l’éducation et de la technologie.

Ce livre tente donc de poser une question, non pas tant sur l’entrepreneur Elon Musk, non pas tant sur l’ingénieur ou le « génie » — c’est ce dont on parle partout — mais sur le penseur. Quel avenir cet homme, qui dit s’en préoccuper tant, nous réserve-t-il ? Nous avons essayé de comprendre quelles sont ses racines culturelles, idéologiques, politiques et sociales et comment elles se répercuteront probablement sur nous tous.

Elon Musk est sans doute l’une des personnalités qui a le plus d’influence sur la manière dont les événements mondiaux sont mis en image. Dans quelle mesure peut-on le considérer comme un acteur géopolitique ? 

C’est un acteur géopolitique absolu. C’est le cas en Ukraine : il suffit de penser à sa décision de fournir ou non de la connectivité, une scène qui s’est également jouée à Gaza. Le fait même que la conférence sur l’IA à Londres ait porté sur les risques existentiels de l’IA est significatif. Il s’agit d’un discours extrêmement délicat et important qui doit être tenu avec précaution : l’intelligence artificielle présente des risques concrets, tous les jours, dans le domaine de l’immigration, de la santé, du bien-être, du travail. Ce sont des choses très concrètes. 

Mais ces questions ont été reléguées au second plan en raison de l’énorme effort de lobbying, d’image et de relations publiques déployé par Musk et les milliardaires comme lui pour remplacer ces problèmes réels par des problèmes hypothétiques. « Que se passera-t-il si l’intelligence artificielle se généralise et devient super-intelligente ? Que se passera-t-il si nous avons un Terminator qui court parmi nous ? » Il y a quelques jours, Musk disait dans un podcast que les écologistes extinctionistes pourraient programmer une super-intelligence qui anéantirait l’humanité pour sauver l’environnement. C’est quelque chose qui n’a aucun sens quand on sait qu’en face il y a une intelligence artificielle qui arrête par erreur des noirs parce qu’elle est boguée.

C’est très dangereux, parce que dans les grands forums internationaux, là où circule l’argent qui peut orienter la prise de décision politique, et là où circulent les idées qui façonnent la façon même dont on conçoit l’intelligence artificielle dans le débat public, ce sont les idées de Musk qui l’emportent.

C’est la preuve que le pouvoir géopolitique et politique de cet homme doit être surveillé. La deuxième chose la plus effrayante de toutes, c’est qu’alors que dans la phase précédente du capitalisme numérique, ces personnes, les PDG ou les capitaines d’industrie, étaient quotidiennement crucifiés pour des choses infiniment mineures, aujourd’hui, nous sommes silencieux sur des problèmes bien plus importants. Le PDG d’un réseau social comme Twitter fait de la politique active, de la propagande politique tous les jours et cette personne ne fait l’objet d’aucun contrôle démocratique et journalistique adéquat. C’est une autre manifestation de son pouvoir. 

Il est si puissant que l’on a même du mal, dans de nombreux cas, à reconnaître la nature problématique de sa position. Comment est-il possible qu’une telle personne puisse se faire passer indistinctement pour un chef d’État ou un quasi-chef d’État dans le monde entier ? Comment est-il possible qu’il puisse dialoguer avec des dictateurs, des dirigeants autoritaires et des dirigeants démocratiques sur n’importe quelle question et qu’on lui demande non pas d’assumer la responsabilité de ce qu’il fait, mais de nous demander ce que les gouvernements et le genre humain devraient faire ? C’est très dangereux. J’invite donc, à tout le moins, à problématiser cela.

Le monde d’Elon Musk semble être un amalgame de science-fiction, de philosophes et de penseurs qui furent obsédés par l’idée des civilisations et de leur déclin, comme Spengler, Gibbon, Toynbee. Quelles sont les références culturelles de Musk et comment entrent-elles en synergie ?

Ce sont des références complexes et intéressantes. D’un certain point de vue, elles sont également particulièrement cohérentes. Elles ont toutes une perspective large et ambitieuse. Ce sont des visions qui tendent à préférer parler de l’humanité dans son intégralité, plutôt que de telle ou telle question. 

On trouve des cycles de science-fiction épique : il préfère le cycle de la Fondation d’Asimov au cycle de la Culture de Iain Banks. Il apprécie aussi les philosophes moraux qui traitent des questions qui affectent l’humanité en tant que telle dans un avenir lointain — les longtermistes. Mais aussi des gens qui, d’un point de vue gnoséologique et épistémologique, se réfèrent à un positivisme radical dans lequel les sciences dures tendent à prendre un rôle primordial pour comprendre le monde et donc, d’une certaine manière, pour le prédire. 

Il y a une tentation assez commune dans la Silicon Valley, en tout cas chez les techniciens — chez les gourous —, de réduire la politique à une question technique, à la technocratie ou même à la technologie, ou, du moins, de transformer la politique en quelque chose qui n’aurait plus besoin de la médiation des partis, des grands journaux, des médias auxquels Musk s’oppose en tant que tel. Nous sommes confrontés à un ensemble composite de bagages culturels qui n’ont malheureusement pas grand-chose à voir avec l’idée de démocratie libérale que nous avons appris à connaître comme le moindre de deux maux — le plus mauvais régime à l’exception de tous les autres, comme on le dit parfois. 

Et cela accompagne naturellement la fascination pour Musk d’un sentiment de malaise et de danger. C’est ce que je voulais souligner. Nous devrions discuter des conséquences de ce bagage culturel.

Paraphrasant Asimov, vous exposez la loi zéro d’Elon Musk : « Elon Musk doit agir dans l’intérêt à long terme de l’humanité dans son ensemble et peut rejeter toutes les autres lois chaque fois que cela lui semble nécessaire pour ce bien ultime ». Pouvez-vous nous en dire plus sur cette paraphrase ?

Oui, cela tient essentiellement à l’idée qu’Elon Musk est un homme qui a une mission. Il ne s’agit pas d’un simple entrepreneur, dont l’ambition serait de rester sous le feu des projecteurs ou de pouvoir s’offrir la vie la plus confortable possible. 

Pour saisir pleinement la pensée de Elon Musk, il est essentiel de le percevoir comme une personne mue par un profond instinct de préservation, une force motrice puissante chez lui, animée par la croyance qu’il a pour mission de contribuer au sauvetage du monde. En effet, cette perspective peut être illustrée à travers l’analogie que j’ai tenté de construire avec la loi zéro d’Isaac Asimov. Musk, à bien des égards, partage une vision similaire à celle d’Asimov concernant ses robots : des entités d’une rationalité exemplaire, utilitaires au plus haut degré, dont l’essence même — comparable à un code génétique — est programmée pour éviter de nuire à l’humanité. Ils sont prêts à transgresser les normes établies, qu’il s’agisse de coutumes, de traditions ou de ce que l’on appelle le bon sens, lorsque ces dernières entravent le bien-être collectif.

Cette philosophie de Musk se manifeste clairement dans sa transition de l’univers de la science-fiction vers des enjeux plus tangibles, tels que sa campagne contre le « wokisme ». Selon lui, cette idéologie fait partie des obstacles qui, sous couvert de politiquement correct ou de rationalité apparente, freinent l’épanouissement harmonieux de la civilisation humaine et pourraient même compromettre sa survie. Pour Musk, la menace du wokisme s’élève au rang de risque existentiel, mettant en jeu l’avenir même de notre espèce.

Musk parle au nom de l’humanité. Mais justement, à quelle humanité se réfèrent ses inquiétudes pour l’avenir — du déclin démographique des pays riches à l’idée d’une super-intelligence artificielle, en passant par le problème de la cancel culture ? 

Il s’agit d’une lecture complètement idéologique de l’humanité, une perspective qui s’est affirmée de manière croissante chez Elon Musk, notamment ces derniers mois. Cette vision du monde semble s’aligner de plus en plus avec celle des milieux conservateurs, nationalistes, souverainistes, voire extrémistes. 

Musk se fait l’écho de discours qui peuvent aujourd’hui être associés à l’extrême droite du champ politique : la défense intransigeante de la liberté d’expression, l’opposition au politiquement correct, ainsi que des inquiétudes démographiques qui résonnent avec la rhétorique d’un certain spectre politique.

Tout en se positionnant comme un observateur neutre, détaché des jeux politiques, comme un individu, en somme, qui s’efforcerait de saisir la réalité telle quelle et de rechercher le meilleur pour l’humanité — et par extension pour lui-même — ses actions tendent en réalité à converger vers des idéologies spécifiques. Peu importe ses motivations psychologiques intérieures, il devient un porte-parole pour des agendas considérés comme extrémistes. Et cette réalité pose problème lorsqu’il s’agit d’une figure capable de s’entretenir avec le Premier ministre britannique en position d’égal ou même de supérieur.

[Lire plus : découvrez notre série Puissances de l’IA.]

L’un des problèmes que vous soulignez chez Musk est celui posé par la connaissance. Comment Musk sait-il ce qu’il faut faire ? S’il veut faire le bien de l’humanité abstraite, qu’est-ce qui lui permet de mesurer, d’identifier, de calibrer le bien ?

J’y vois un mélange de positivisme et de long-termisme. D’un point de vue épistémologique, il est convaincu que les sciences exactes constituent le moyen premier et le plus fiable pour comprendre le monde. Ses partisans et biographes, souvent peu critiques, rapportent qu’il prône la méthode du premier principe qui consiste à décomposer le monde en éléments fondamentaux et à tester ces principes empiriquement, faisant ainsi la part belle à la physique et, plus encore, à l’ingénierie, qui lui permet de mettre en pratique ses idées.

Musk lui-même s’est décrit non pas comme une simple composante de l’écosystème, mais plutôt comme le jardinier qui nourrit son épanouissement, en se présentant comme un catalyseur du progrès humain. Si ce positivisme est manifeste dans sa quête pour maximiser l’utilité et le bien commun, il semble s’inspirer plus profondément du longtermisme, tel qu’il fut conceptualisé par des penseurs d’Oxford comme Nick Bostrom et Toby Ord. Cette philosophie morale, perçue comme une extension radicale de l’utilitarisme, promeut l’idée de placer l’avenir lointain de l’humanité au cœur de nos considérations éthiques — pas seulement l’humanité actuelle, mais également les générations futures.

Pour Musk, cette approche justifie des projets ambitieux tels que la colonisation spatiale et l’établissement de colonies sur Mars, avec le but ultime d’étendre la civilisation humaine pour permettre l’existence de milliards d’êtres humains futurs dont le bien-être doit être notre préoccupation actuelle. Selon cette vision, nous nous trouvons à un tournant existentiel où le risque d’anéantissement de l’humanité pourrait empêcher la réalisation de ce potentiel prodigieux, constituant ainsi une perte immense.

C’est une perspective qui peut être vue sous un jour humanitaire, axée sur l’impératif de survie de l’espèce humaine. Cependant, le calcul utilitariste sous-jacent pose un dilemme moral complexe : dans la quête du bien-être d’un nombre quasi infini de personnes à venir, combien d’individus actuels pourrait-on justifier de sacrifier ? Cette interrogation soulève des questions éthiques cruciales et des controverses, en particulier lorsqu’on envisage le bien-être futur à l’aune d’un impératif d’action présente.

Au cœur de sa pensée, on trouve donc des racines culturelles problématiques, une vision partielle de l’humanité et une méthode cognitive positiviste. Quelle vision politique émerge, consciemment ou inconsciemment, de tout cela ? Qu’est-ce qui ressort des laboratoires que Musk possède déjà, de ses entreprises, de Twitter, du projet Astra, des futures lois pour Mars ?

C’est une vision politique à la fois naïve et contradictoire. 

Sa naïveté provient d’une apparente méconnaissance des nuances de la philosophie politique et de la science politique, domaines où la politique est souvent pratiquée comme un art de la négociation et du compromis. Chez Musk, la politique est perçue sous un angle solutionniste, presque comme une quête de la meilleure solution technique pour obtenir un résultat optimal d’un point de vue rationnel. Cependant, la politique est une question bien plus complexe qui ne peut se réduire à une simple affaire de technicité.

Quant aux contradictions, elles sont flagrantes. Musk a revendiqué plusieurs étiquettes politiques au cours du temps : anarchiste, socialiste, libertaire, et bien qu’il ne s’auto-désigne pas comme tel, ses positions actuelles sur de nombreux sujets le rapprochent clairement du conservatisme réactionnaire.

Musk est difficile à cerner. Il a alterné entre le soutien à la technocratie et à la démocratie directe, par exemple en réalisant des sondages éphémères sur Twitter pour solliciter l’avis des utilisateurs sur la gestion de la plateforme, ou en évoquant une forme de gouvernement technocratique pour une future colonie sur Mars. Ces points de vue semblent cohérents avec son approche positiviste de la connaissance.

La frontière entre technocratie et démocratie directe est, dans l’esprit de Musk, particulièrement ténue. Pour la colonie martienne, il envisage un mélange des deux, où les premiers colons, probablement des scientifiques et des ingénieurs, prendraient les décisions. Cela soulève la question de savoir si la démocratie directe, dans ce contexte, se différencie réellement de la technocratie.

En prenant l’exemple du Mouvement 5 étoiles, on observe que les initiatives prétendument démocratiques peuvent aboutir à une forme de technocratie par défaut, où ceux qui maîtrisent la technologie et l’information orientent les décisions. Les participants actifs dans ces démocraties directes modernes sont souvent un groupe restreint de personnes ayant le temps et les moyens d’intervenir substantiellement.

Sur Twitter, les initiatives comme les notes de la communauté peuvent donner l’apparence d’une démocratie participative. Pourtant, comme nous l’avons vu avec Wikipédia et d’autres formes de collaboration en ligne, des hiérarchies émergent spontanément, basées sur le temps disponible et l’expertise.

La véritable difficulté posée par cette discussion repose sur le constat qu’à l’aune de toutes ces conceptions et déclarations politiques, rien n’indique que Musk valorise la démocratie dans le sens traditionnel du terme. Sa vision semble s’éloigner de la démocratie telle que nous la comprenons, dans la mesure où il paraît surtout travaillé par des préoccupations pragmatiques et technocratiques plus que par un engagement envers les principes démocratiques fondamentaux.

En termes de mode opératoire, de contexte culturel et de style de vie, Musk fait partie de la Silicon Valley, au même titre que Mark Zuckerberg, Dustin Moskovitz ou Saul Bankman Fried. Comment est-il parvenu ces dernières années, je dirais depuis Covid, à se distinguer de ce milieu ? Comment un milliardaire agnostique de la technologie a-t-il pu se présenter comme un opposant à l’establishment et devenir une figure de proue de l’ultra-droite ? 

Il me semble que l’attrait exercé par Musk tient en partie à ses centres d’intérêt, qui stimulent fortement l’imaginaire collectif. À titre de comparaison, Jeff Bezos s’attèle à des questions de logistique qui, bien que fondamentales, ne suscitent pas l’émerveillement général. De même, Mark Zuckerberg est préoccupé par la gestion de contenu social qui, malgré son intérêt, ne fait pas vibrer l’imagination publique de la même manière.

Musk, en revanche, évoque des concepts tout droit sortis de la science-fiction : des puces cérébrales, des robots dotés de sensibilité, une intelligence artificielle avancée, des voitures autonomes, et des fusées à destination de Mars. Ces idées résonnent avec les rêves d’enfance des amateurs de science-fiction, avec ceux qui contemplent les étoiles, avec un mélange de peur, de fascination et de curiosité. Cela éveille des choses qui sont, à mon avis, pré-politiques, pré-idéologiques ; il touche à des émotions et des sentiments qui forgent une identité. C’est, je crois, une des raisons pour lesquelles un culte s’est formé autour de lui. Il est compliqué de remettre en question quelqu’un qui semble donner un sens à notre monde, quelqu’un dont les paroles semblent sorties des pages d’un roman d’Asimov.

En outre, Musk s’est positionné comme le leader d’une communauté bien particulière, comprenant des nerds, des créateurs de mèmes issus de 4chan ou de Discord. Ces individus l’adulent pour son affinité avec les jeux vidéo, la culture geek et la technologie, et pour son apparition dans des séries cultes, comme Big Bang Theory, ou sur des plateaux de tournage de science-fiction. Volontairement ou non, Musk s’est façonné une image de « l’un des nôtres ». Les liens qu’il entretient avec des courants politiques réactionnaires, conservateurs ou d’extrême droite, sont une conséquence de ses convictions idéologiques.

Il faut néanmoins noter que Musk incarne également l’esprit du temps, le Zeitgeist : il se pose en capitaine d’industrie en phase avec une époque critique envers les journalistes, méfiante vis-à-vis des médias traditionnels et sceptique sur la puissance et l’honnêteté des démocraties. Il reflète une crise de confiance envers les institutions et exprime un besoin d’appartenance à une communauté qui se reconnaît dans un discours alternatif. Il partage les publications de comptes généralement ancrés à l’extrême droite, tout comme il recourt à des mèmes et des manières de s’exprimer distincts et reconnaissables. 

C’est une manière pour ses adeptes de se distinguer et d’affirmer leur identité face à un monde qu’ils jugent erroné et nuisible à la civilisation, une menace à laquelle ils pensent échapper en retournant à une forme de « barbarie ». Et cela nous conduit à une réflexion presque asimovienne : comment échapper à cette barbarie ? Leur réponse est qu’il faut revenir à la raison et à la science, non seulement dans les domaines traditionnels, mais aussi en politique et en histoire, en espérant prédire et façonner l’avenir.

Alors que Musk ressuscite tous les grands mythes de la droite américaine, il semble plutôt silencieux sur la Chine, ne la problématise pas et ne s’expose pas trop. Au contraire, il a aussi souvent été invité à s’exprimer dans des journaux et des institutions chinoises. Comment Musk s’inscrit-il dans le paysage géopolitique complexe de l’intelligence artificielle entre la Chine et les États-Unis ? 

Musk est très attentif à ce que la Chine reste un acteur international majeur dans le domaine de l’intelligence artificielle. Récemment, il a loué Rishi Sunak pour avoir impliqué la Chine dans une nouvelle initiative globale, soulignant le rôle prééminent du pays dans diverses démarches multipolaires à l’ONU et d’autres enceintes où la Chine joue un rôle central. Musk se réjouit de cette collaboration, une position compréhensible étant donné l’influence considérable de la Chine en termes de parts de marché et de production, des éléments clés pour envisager une régulation de l’intelligence artificielle à l’échelle planétaire.

Par ailleurs, Musk entretient des liens étroits avec la Chine, qui sont dictés non seulement par des intérêts économiques évidents, mais aussi parce que cet environnement lui permet de partager des perspectives qui seraient peut-être moins bien accueillies en Occident. Par exemple, dans un article pour une publication de l’agence chinoise de cybersécurité, Musk s’est exprimé avec plus de liberté qu’à l’accoutumée sur l’avenir qu’il envisage pour ses robots intelligents, allant jusqu’à prédire qu’ils remplaceraient toutes les activités humaines.

Il y a aussi chez Musk un certain esprit de rébellion, une perception que l’Occident briderait certains discours tandis que la Chine adopterait une approche radicalement différente. Bien qu’il ne partage probablement pas le penchant autoritaire de la Chine, il semble y voir des avantages à travers le prisme d’un marché libre des idées. Pour Musk, l’approche chinoise dans le débat sur l’intelligence artificielle pourrait être considérée comme bénéfique, même si, de façon paradoxale et politiquement discutable, la Chine a pris les devants dans la régulation de l’IA pour l’usage personnel plutôt que gouvernemental.
Par contraste, Musk manifeste un dédain évident pour le modèle européen, en particulier pour des cadres réglementaires comme le Digital Services Act (DSA) et l’AI Act, qu’il considère comme des formes de censure, ce qu’il a exprimé ouvertement.