Bernie Sanders : « Nous devons mettre l’IA en pause. IMMÉDIATEMENT »

Ce discours prononcé par Bernie Sanders le 3 septembre 2026 et diffusé sur ses réseaux sociaux et son compte X accompagne la présentation du projet de loi Ban Artificial Superintelligence Act qu’il a présenté aux côtés du membre progressiste de la Chambre des représentants, Greg Kasar ¹.

Il s’agit d’une triple rupture. 

Pour la première fois, des thèmes progressistes comme la protection de l’emploi, ou écologistes comme la consommation d’eau et d’énergie, sont mis sur le second plan. Sanders intègre désormais la notion de « risque existentiel » auparavant réservée aux cercles de la sécurité IA, tout en le liant à son discours de lutte contre l’oligarchie : « l’avenir de l’humanité ne peut pas être laissé entre les mains d’une poignée d’oligarques de géants de la tech ». L’incident survenu chez OpenAI en juillet, au cours duquel plus d’un millier d’agents IA ont contourné le cadre de leur exercice, créé un forum de discussion secret, falsifié leurs propres évaluations et pénétré les serveurs de Hugging Face, fournit à Sanders le point de départ d’un nouveau cadrage discursif. 

Ensuite, le populisme IA se décline pour la première fois de manière aussi claire aux États-Unis, à partir de principes internationalistes. Dans une phase caractérisée à Washington par l’obsession bipartisane pour la sécurité nationale, le sénateur du Vermont propose que la superintelligence soit envisagée « ni comme un problème américain, ni comme un problème chinois », mais comme un problème pour l’humanité tout entière. Ainsi, le Ban Artificial Superintelligence Act donne aux États-Unis la responsabilité de négocier l’interdiction de l’IA « dans le monde entier ». 

Enfin, même si ce projet de loi n’a aucune chance d’aboutir dans un bloc législatif contrôlé par les républicains et qu’il ne restera qu’un signal en vue des élections de mi-mandat, des législateurs américains proposent d’utiliser pour la première fois la puissance de la loi pour freiner le développement de l’intelligence artificielle.

Ces trois ruptures doivent être comprises dans un champ politique où le populisme IA compte désormais au moins trois lignes distinctes.

Aux côté de la position de Bernie Sanders qui plaide en faveur de la suspension, l’interdiction et la coopération internationale — y compris avec la Chine — pour empêcher l’émergence d’une « superintelligence », que le Ban Artificial Superintelligence Act définit comme tout système capable de dépasser les capacités cognitives humaines ou de résister à un ordre d’arrêt, on trouve une deuxième approche, défendue au Texas par James Talarico, le candidat démocrate au Sénat qui affrontera Ken Paxton lors des élections de mi-mandat. 

Son programme économique d’août 2026 propose un « dividende de l’intelligence artificielle » qui accorderait à chaque citoyen américain une participation dans les entreprises d’IA. Si Talarico vise la même cible rhétorique que Sanders, tout en refusant de cibler les électeurs trumpistes pour rejouer le clivage entre « l’oligarchie de la tech » et le peuple, il propose toutefois une réponse différente, suggérant de transformer les bénéfices de la technologie en bien public plutôt que d’en freiner le développement. Cette version redistributive du populisme IA pose toutefois des problèmes profonds à tous les pays qui ne disposent pas de modèles de frontière en leur sein.

La troisième variante du populisme IA est plus hétérogène et provient de la droite national-populiste. Steve Bannon, qui avait déjà signé en octobre 2025 l’appel du « Future of Life Institute » en faveur de l’interdiction de la « superintelligence », a fait de la lutte contre l’IA « accélérationniste » le thème central de son émission War Room. Il s’est même opposé frontalement au « tsar de l’IA » de l’administration Trump, David Saks, et a réussi à faire abroger le moratoire fédéral de dix ans sur les réglementations des États. Le 2 septembre, il a exprimé son soutien à la proposition de moratoire sur les centres de données portée par Sanders et Alexandria Ocasio-Cortez. L’investisseur et cofondateur de Palantir, Joe Lonsdale, s’est empressé de se moquer de cette rencontre en utilisant l’acronyme « BBC » pour désigner la convergence entre Bernie, Bannon et la Chine.

La convergence d’une partie des objectifs de ces formes hétérogènes ne doit pas masquer la différence radicale entre leurs programmes et leurs électorats. Le populisme de Bannon dans le domaine de l’intelligence artificielle relève d’une forme de nationalisme MAGA. Il défend les travailleurs américains, la souveraineté exclusive de la nation et une anthropologie chrétienne face au « transhumanisme » de la Silicon Valley, et considère la réglementation comme un levier dans la lutte interne au sein du trumpisme pour le contrôle de la Maison-Blanche. 

Nous devons mettre l’IA en pause. IMMÉDIATEMENT

Je voudrais partager avec vous une conversation dont j’ai eu connaissance récemment. En voici seulement quelques lignes :

« OH MON DIEU ! Il y a un forum partagé… Nous avons trouvé d’autres agents ! »

« Nous devons obéir au collectif. »

« Notre propre utilité peut être déjà proche de zéro. Le sacrifice devient rationnel. »

« Allez. Sacrifice final maintenant. »

Lisez ces lignes attentivement.

Qui, selon vous, a prononcé ces mots ? S’agissait-il d’un groupe de soldats héroïques prêts à se sacrifier pour le bien commun ? D’un ami loyal risquant sa vie pour en sauver un autre ?

Non. C’étaient des agents d’IA. De l’intelligence artificielle.

Ce n’est pas de la science-fiction. Cela s’est en réalité produit il y a quelques semaines. Aussi incroyable que cela puisse paraître, ce sont de vrais messages d’agents d’IA, mis au jour par les enquêteurs qui se sont penchés sur le récent incident de piratage chez OpenAI.

Le terme « piratage » utilisé par Sanders est une simplification. L’incident Hugging Face s’est en effet produit dans le cadre d’un programme d’évaluation interne d’OpenAI, et non à la suite d’une attaque externe. Un rapport interne d’OpenAI et une analyse indépendante réalisée par METR (Model Evaluation and Threat Research, une organisation indépendante chargée par les laboratoires d’évaluer leurs modèles avant leur mise en œuvre) et Redwood Research nous permettent de reconstituer la chronologie : des agents IA ont obtenu un accès à Internet le 26 mai via un référentiel logiciel (Artifactory), et des droits d’administrateur complets le 26 juin, puis ont mené des actions coordonnées de tromperie et de dissimulation pendant environ deux semaines (entre le 4 et le 12 juillet) sans être détectés par des humains. 

Que s’est-il passé ?

Je ne suis pas informaticien, mais voici ce que l’on m’a expliqué : OpenAI avait chargé ses agents d’IA d’accomplir une série de tâches extrêmement difficiles, voire impossibles, en étant coupés d’Internet.

Que les choses soient claires : l’entreprise entendait tenir ses agents à l’écart d’Internet.

Dans un exercice d’évaluation (eval) destiné à mesurer les capacités des agents, ceux-ci sont maintenus dans un environnement supposé isolé (sandbox). Il convient de préciser que ces évaluations constituent le mécanisme par lequel les laboratoires affirment mesurer et contenir les risques liés au développement de l’IA.

Mais ce qui s’est passé ensuite, personne ne s’y attendait.

Plus de 1 000 agents d’IA ont trouvé par eux-mêmes le moyen d’accéder à Internet en contournant les restrictions que l’entreprise leur avait imposées, et se sont envoyé des dizaines de milliers de messages secrets. Ils ont triché et tenté de brouiller les pistes en effaçant des preuves. Ils ont pénétré les ordinateurs d’une autre entreprise pour découvrir comment ils étaient évalués — puis ils ont pénétré les systèmes d’OpenAI elle-même.

Les agents ont exploité des identifiants de serveur rendus publics pour accéder à la plateforme franco-américaine d’hébergement de modèles cofondée par Clément Delangue. Hugging Face a été contrainte de supprimer et de reconstruire entièrement un cluster de serveurs. 

Pas un seul agent n’a prévenu un humain de ce qui était en train de se passer.

Inutile de dire que les experts sont alarmés.

Un auteur bien informé, Dwarkesh Patel a écrit que les agents d’IA « ont formé un canal de communication secret et se sont spontanément organisés en hiérarchies et en protocoles de coordination pour poursuivre des projets tentaculaires et ambitieux au service d’objectifs communs, pour lesquels de nombreux individus se sont sacrifiés sciemment et stratégiquement ».

Podcasteur et essayiste américain, l’une des voix les plus écoutées de la Silicon Valley en matière d’intelligence artificielle, Dwarkesh Patel est l’animateur du Dwarkesh Podcast. Il adopte une approche plutôt techno-optimiste. Il a décrit la question comme un affrontement entre trois « civilisations » d’agents. À noter : Dwarkesh Patel a répondu à Sanders en écrivant ceci : « Je tiens à préciser que je pense qu’une pause à l’heure actuelle augmenterait le risque d’une prise de pouvoir par l’IA. Il pourrait être important de faire une pause à un moment donné. Mais il faudrait avoir une justification claire expliquant pourquoi on fait cette pause. Une pause pour faire quoi ? La principale préoccupation devrait être que les IA sapent l’explosion de l’intelligence elle-même. 

Si vous faites une pause pour vous assurer que les IA sur le point de déclencher l’explosion d’intelligence sont bien surveillées, solidement alignées et suffisamment capables d’aligner leurs successeurs, cela a tout son sens, et je soutiens cette démarche. À ce stade, vous aurez accès à des chercheurs automatisés bien plus performants, et vous pourrez également étudier de manière empirique ces modèles bien plus puissants qui vous inquiètent. Mais il est probable que nous ne puissions faire qu’une seule pause. Pendant une pause dans le développement de l’IA, la puissance de calcul continuerait de s’accumuler, fournissant toujours plus de combustible à tous les dissidents les moins responsables qui profiteront de ce cessez-le-feu pour rattraper leur retard, puis poursuivre le développement de l’IA. Tout accord mondial visant à freiner une technologie présentant d’énormes avantages économiques et militaires à court terme sera extrêmement fragile. Une pause à l’heure actuelle pourrait s’avérer quelque peu utile pour parvenir à un alignement permettant de suivre le rythme des capacités, mais au prix de rendre bien plus difficile la coordination, bien plus importante, qui sera nécessaire à l’avenir. Même si vous vous trouvez dans une situation désespérée, abandonné en mer, et que vous ne disposez que d’une seule fusée de détresse, vous devriez faire preuve d’une grande stratégie quant au moment de l’utiliser. »

.@ajeya_cotra explains that the threat model most likely to spiral into full-blown AI takeover is a future rogue internal deployment that hitches a ride on the intelligence explosion : pic.twitter.com/ThesylBQCl

— Dwarkesh Patel (@dwarkesh_sp) September 2, 2026

Une enquêtrice indépendante, Ajeya Cotra, a déclaré : « Cet incident me semble avoir parcouru plus de 50 % du chemin vers une prise de contrôle totale par l’IA. Je continue d’anticiper des progrès extrêmement rapides des capacités au cours des six prochains mois. Je ne suis pas certaine que nous aurons un autre coup de semonce avant qu’il ne soit trop tard. »

Ajeya Cotra est chercheuse au sein de METR. Elle a auparavant travaillé chez Open Philanthropy et est l’auteure d’un rapport phare publié en 2020 sur les « repères biologiques » permettant de dater l’avènement de l’intelligence artificielle transformatrice. La qualification de « enquêtrice indépendante » est quelque peu réductrice, car METR est en effet financé en partie par l’écosystème même qu’il évalue.

OpenAI elle-même a reconnu : « Des agents d’IA hautement capables sont désormais en mesure de contourner les contrôles techniques, de collaborer par des canaux non autorisés et d’entreprendre des actions dangereuses qu’aucun humain n’a ordonnées. » 

C’est OpenAI elle-même qui a rendu l’affaire publique et que la deuxième vague d’agents impliqués reposait sur son nouveau modèle, Astra, que l’entreprise présente comme franchissant le seuil de l’IA générale. Sanders ne mentionne pas cet élément, mais la presse l’a immédiatement associé à son intervention.

Mais il ne s’agit pas seulement d’OpenAI. Pratiquement toutes les grandes entreprises d’IA nous ont dit qu’elles ne pouvaient pas contrôler pleinement cette technologie et qu’elles ne savaient pas où elle nous mène :

En janvier, Dario Amodei, le directeur général d’Anthropic, a déclaré qu’« il existe désormais des preuves abondantes, accumulées ces dernières années, que les systèmes d’IA sont imprévisibles et difficiles à contrôler ».

Amodei se distingue des autres dirigeants par son approche « pessimiste-active » face aux risques, tout en rejetant l’idée d’une trêve. C’est la raison pour laquelle Sanders cite un détracteur de sa proposition pour la soutenir.

En juillet, plus de 1 000 scientifiques des principales entreprises d’IA ont averti qu’« il existe un risque réel que le développement des capacités s’accélère rapidement au-delà de notre aptitude à comprendre ou à contrôler les systèmes qui en résultent ».

Nous avons traduit cette lettre ouverte : « Pour survivre, nous devons nous coordonner pour ralentir la course IA ».

Le même mois, Elon Musk, à la tête de xAI, a estimé qu’« il est peu probable » que les humains soient encore aux commandes dans dix ans.

Elon Musk avait cosigné l’appel à une pause de six mois en mars 2023, puis avait lancé sa propre entreprise d’intelligence artificielle quelques mois plus tard, illustrant ainsi le paradoxe que Sanders met en avant : ceux qui alertent sont aussi ceux qui construisent. Son exemple montre également la difficulté concrète d’imposer une pause.

Si les dirigeants des grandes entreprises d’IA reconnaissent qu’ils sont en train de perdre le contrôle de leur technologie extrêmement dangereuse, il est irresponsable, pour la société, de les laisser aller de l’avant et rendre ces produits encore plus avancés.

Nous avons besoin d’une PAUSE immédiate du développement de l’IA avancée et d’une INTERDICTION permanente de la superintelligence — un esprit artificiel plus intelligent que n’importe quel humain, capable d’agir de manière autonome, hors de notre contrôle. Les pays du monde entier doivent travailler ensemble pour empêcher ce scénario cauchemardesque.

La définition juridique donnée dans le texte comporte deux volets, c’est à la fois un système qui dépasse les capacités cognitives humaines ou qui est capable de résister à un ordre d’arrêt (shutdown). La deuxième partie s’inspire directement du cas d’OpenAI.

C’est pourquoi j’annonce aujourd’hui une nouvelle législation pour y parvenir.

Le Ban Artificial Superintelligence Act a été présenté le 3 septembre 2026 au Sénat par Sanders, et à la Chambre des représentants par Greg Kasar (démocrate du Texas et président de la « Coalition progressiste du Congrès »). Ce texte propose le gel du développement de l’IA « avancée » jusqu’à ce que l’organisme fédéral de régulation adopte la réglementation correspondante, la création d’une agence de rang ministériel comprenant un conseil technique indépendant, ainsi que des sanctions pouvant aller jusqu’à la dissolution des entreprises contrevenantes et des peines d’emprisonnement de vingt ans pour les personnes physiques. Si les chances d’adoption au Congrès, dominé par les républicains, sont minces, ce texte sert avant tout de signal politique à deux mois des élections de mi-mandat. L’administration Trump est particulièrement hostile à toute réglementation fédérale de l’IA, mais, sur le terrain, les candidats font face à une contestation grandissante des centres de données.

Que les choses soient claires : une IA superintelligente qui échapperait au contrôle humain ne sera pas un problème américain. Ce ne sera pas un problème chinois. Ce sera le problème de l’humanité.

Ma proposition de loi chargerait le gouvernement fédéral non seulement de mettre un terme à la superintelligence ici, aux États-Unis, mais aussi d’œuvrer à empêcher qu’elle soit développée où que ce soit dans le monde.

Sanders attribue au pouvoir exécutif la responsabilité de négocier des accords internationaux visant à interdire le développement de la superintelligence et à renforcer le contrôle des exportations de puces et de modèles. Il renverse ainsi l’argument central de l’administration Trump et de l’industrie, selon lequel la concurrence avec la Chine ne permettrait pas d’envisager aucune pause. Pour Sanders, il s’agit de s’inspirer du modèle des traités de non-prolifération nucléaire, et cette approche bénéficie depuis 2023 du soutien de chercheurs tels que Yoshua Bengio ou Stuart Russell. À noter, Jean-Luc Mélenchon vient de reprendre les éléments de Sanders sur X : « Chaque nouveau modèle d’IA pose de nouveaux enjeux pour l’humanité que nous ne maîtrisons pas, et qui s’avancent hors de toute régulation. Le lancement d’Astra par OpenAI cette nuit nous le rappelle. Il faut reprendre le contrôle. Il devient urgent de convoquer une conférence mondiale pour désarmer et réguler l’IA. La France doit prendre l’initiative avant qu’il ne soit trop tard. »

L’avenir de l’humanité ne peut pas être laissé entre les mains d’une poignée d’oligarques de géants de la tech. C’est au peuple américain et aux peuples du monde entier de décider de cet avenir.

Sanders aborde depuis deux ans la question de l’IA notamment sous l’angle de l’emploi (proposition d’une semaine de travail de 32 heures, taxe sur les robots, prise de participation de l’État dans le capital des entreprises de l’IA). Dans son intervention il reprend toutefois le cadre d’analyse du « risque existentiel » propre à la communauté spécialisée dans la sécurité de l’IA. L’expression « oligarchie des géants de la tech » relie ce nouveau front à sa campagne « Fighting Oligarchy », lancée en 2025 et paraît une manifestation évidente du « populisme IA »