Bernie Sanders: «Tenemos que detener el desarrollo de la IA INMEDIATAMENTE»

Este discurso, pronunciado por Bernie Sanders el 3 de septiembre de 2026 y difundido en sus redes sociales y en su cuenta de X, acompaña a la presentación del proyecto de ley «Ban Artificial Superintelligence Act», que presentó junto al diputado progresista de la Cámara de Representantes, Greg Kasar. ¹

Se trata de una triple ruptura. 

Por primera vez, temas progresistas como la protección del empleo, o ecologistas como el consumo de agua y energía, quedan relegados a un segundo plano. Sanders incorpora ahora el concepto de «riesgo existencial», antes reservado a los círculos de seguridad de la IA, al tiempo que lo vincula a su discurso de lucha contra la oligarquía: «El futuro de la humanidad no puede quedar en manos de un puñado de oligarcas de los gigantes tecnológicos». El incidente ocurrido en OpenAI en julio, en el que más de un millar de agentes de IA se saltaron el marco de su ejercicio, crearon un foro de debate secreto, falsificaron sus propias evaluaciones y se infiltraron en los servidores de Hugging Face, proporciona a Sanders el punto de partida para un nuevo marco discursivo. 

A continuación, el populismo de la IA se manifiesta por primera vez de forma tan clara en Estados Unidos, partiendo de principios internacionalistas. En una etapa caracterizada en Washington por la obsesión bipartidista por la seguridad nacional, el senador de Vermont propone que la superinteligencia no se considere «ni como un problema estadounidense, ni como un problema chino», sino como un problema para toda la humanidad. Así, el Ban Artificial Superintelligence Act confiere a Estados Unidos la responsabilidad de negociar la prohibición de la IA «en todo el mundo». 

Por último, aunque este proyecto de ley no tiene ninguna posibilidad de prosperar en un órgano legislativo controlado por los republicanos y no será más que una señal de cara a las elecciones de mitad de mandato, los legisladores estadounidenses proponen utilizar por primera vez el poder de la ley para frenar el desarrollo de la inteligencia artificial.

Estas tres rupturas deben entenderse en un contexto político en el que el populismo de la IA cuenta ahora con al menos tres corrientes distintas.

Junto a la postura de Bernie Sanders, que aboga por la suspensión, la prohibición y la cooperación internacional —incluso con China— para impedir la aparición de una «superinteligencia», que la Ban Artificial Superintelligence Act define como cualquier sistema capaz de superar las capacidades cognitivas humanas o de resistirse a una orden de detención, existe un segundo enfoque, defendido en Texas por James Talarico, el candidato demócrata al Senado que se enfrentará a Ken Paxton en las elecciones de mitad de mandato. 

Su programa económico de agosto de 2026 propone un «dividendo de la inteligencia artificial» que otorgaría a cada ciudadano estadounidense una participación en las empresas de IA. Aunque Talarico apunta al mismo público retórico que Sanders, al tiempo que se niega a dirigirse a los votantes trumpistas para reavivar la división entre la «oligarquía tecnológica» y el pueblo, ofrece, no obstante, una respuesta diferente, al sugerir transformar los beneficios de la tecnología en un bien público en lugar de frenar su desarrollo. Esta versión redistributiva del populismo de la IA plantea, sin embargo, profundos problemas a todos los países que no cuentan con modelos de vanguardia en su seno.

La tercera variante del populismo de la IA es más heterogénea y proviene de la derecha nacional-populista. Steve Bannon, que ya había firmado en octubre de 2025 el llamado del «Future of Life Institute» a favor de la prohibición de la «superinteligencia», ha convertido la lucha contra la IA «aceleracionista» en el tema central de su programa War Room. Llegó incluso a oponerse frontalmente al «zar de la IA» de la administración de Trump, David Saks, y logró que se derogara la moratoria federal de diez años sobre las normativas estatales. El 2 de septiembre, expresó su apoyo a la propuesta de moratoria sobre los centros de datos impulsada por Sanders y Alexandria Ocasio-Cortez. El inversor y cofundador de Palantir, Joe Lonsdale, no tardó en burlarse de este encuentro utilizando el acrónimo «BBC» para referirse a la convergencia entre Bernie, Bannon y China.

La convergencia de algunos de los objetivos de estas formas heterogéneas no debe ocultar la diferencia radical entre sus programas y sus electorados. El populismo de Bannon en el ámbito de la inteligencia artificial forma parte de una variante del nacionalismo MAGA. Defiende a los trabajadores estadounidenses, la soberanía exclusiva de la nación y una antropología cristiana frente al «transhumanismo» de Silicon Valley, y considera la regulación como una palanca en la lucha interna dentro del trumpismo por el control de la Casa Blanca. 

Tenemos que detener la IA INMEDIATAMENTE

Me gustaría compartir una conversación de la que me he enterado hace poco. Aquí muestro solo unas líneas:

«¡DIOS MÍO! Hay un foro compartido… ¡Hemos encontrado a otros agentes!»

«Debemos obedecer al colectivo».

«Nuestra propia utilidad puede estar ya cerca de cero. El sacrificio se convierte en algo racional».

«Vamos. El sacrificio final, ahora».

Lee estas líneas con atención.

¿Quién crees que pronunció estas palabras? ¿Se trataba de un grupo de soldados heroicos dispuestos a sacrificarse por el bien común? ¿O de un amigo leal que arriesgaba su vida para salvar la de otro?

No. Eran agentes de IA. De inteligencia artificial.

No es ciencia ficción. De hecho, ocurrió hace unas semanas. Por increíble que parezca, se trata de mensajes reales de agentes de IA, sacados a la luz por los investigadores que han analizado el reciente incidente de piratería informática en OpenAI.

El término «piratería» utilizado por Sanders es una simplificación. De hecho, el incidente de Hugging Face se produjo en el marco de un programa de evaluación interna de OpenAI, y no como consecuencia de un ataque externo. Un informe interno de OpenAI y un análisis independiente realizado por METR (Model Evaluation and Threat Research, una organización independiente encargada por los laboratorios de evaluar sus modelos antes de su implementación) y Redwood Research nos permiten reconstruir la cronología: unos agentes de IA obtuvieron acceso a internet el 26 de mayo a través de un repositorio de software (Artifactory) y derechos de administrador completos el 26 de junio, y, a continuación, llevaron a cabo acciones coordinadas de engaño y ocultación durante aproximadamente dos semanas (entre el 4 y el 12 de julio) sin ser detectados por los humanos. 

¿Qué ha pasado?

No soy informático, pero esto es lo que me han explicado: OpenAI había encargado a sus agentes de IA que realizaran una serie de tareas extremadamente difíciles, incluso imposibles, sin conexión a internet.

Que quede claro: la empresa tenía la intención de mantener a sus empleados alejados de internet.

En un ejercicio de evaluación (eval) destinado a medir las capacidades de los agentes, estos se mantienen en un entorno supuestamente aislado (sandbox). Cabe señalar que estas evaluaciones constituyen el mecanismo mediante el cual los laboratorios afirman medir y contener los riesgos relacionados con el desarrollo de la IA.

Pero lo que ocurrió a continuación, nadie se lo esperaba.

Más de 1.000 agentes de IA encontraron por sí mismos la forma de acceder a internet eludiendo las restricciones que la empresa les había impuesto, y se enviaron decenas de miles de mensajes secretos. Hicieron trampa e intentaron borrar las huellas eliminando las pruebas. Se infiltraron en las computadoras de otra empresa para averiguar cómo los evaluaban y, a continuación, se infiltraron en los propios sistemas de OpenAI.

Los agentes aprovecharon unas credenciales de servidor que se habían hecho públicas para acceder a la plataforma franco-estadounidense de alojamiento de modelos cofundada por Clément Delangue. Hugging Face se vio obligada a eliminar y reconstruir por completo un clúster de servidores. 

Ni un solo agente avisó a ningún humano de lo que estaba ocurriendo.

No hace falta decir que los expertos están alarmados.

Dwarkesh Patel, un autor bien informado, escribió que los agentes de la IA «han creado un canal de comunicación secreto y se han organizado espontáneamente en jerarquías y protocolos de coordinación para llevar a cabo proyectos ambiciosos y de gran alcance al servicio de objetivos comunes, por los que numerosas personas se han sacrificado de forma consciente y estratégica».

Dwarkesh Patel, podcaster y ensayista estadounidense, una de las voces más escuchadas de Silicon Valley en materia de inteligencia artificial, es el presentador del «Dwarkesh Podcast». Adopta un enfoque bastante tecnooptimista. Ha descrito la cuestión como un enfrentamiento entre tres «civilizaciones» de agentes. Cabe destacar que Dwarkesh Patel respondió a Sanders escribiendo lo siguiente: «Quiero aclarar que creo que una pausa en este momento aumentaría el riesgo de que la IA tomara el poder. Podría ser importante hacer una pausa en algún momento. Pero habría que tener una justificación clara que explicara por qué se hace esa pausa. ¿Una pausa para qué? La principal preocupación debería ser que las IA socaven la propia explosión de la inteligencia». 

Si te tomas un respiro para asegurarte de que las IA que están a punto de desencadenar la explosión de inteligencia estén bien supervisadas, firmemente alineadas y sean lo suficientemente capaces de alinear a sus sucesoras, eso tiene todo el sentido del mundo, y yo apoyo ese enfoque. En ese momento, tendrás acceso a investigadores automatizados mucho más eficaces y también podrás estudiar de forma empírica esos modelos mucho más potentes que te preocupan. Pero es probable que solo podamos permitirnos una única pausa. Durante una pausa en el desarrollo de la IA, la potencia de cálculo seguiría acumulándose, proporcionando cada vez más combustible a todos los disidentes menos responsables que aprovecharían este alto al fuego para ponerse al día y, a continuación, continuar con el desarrollo de la IA. Cualquier acuerdo mundial destinado a frenar una tecnología que presenta enormes ventajas económicas y militares a corto plazo será extremadamente frágil. Una pausa en este momento podría resultar algo útil para lograr una armonización que permita seguir el ritmo de las capacidades, pero a costa de dificultar mucho más la coordinación, mucho más importante, que será necesaria en el futuro. «Incluso si te encuentras en una situación desesperada, abandonado en el mar, y solo dispones de una bengala de socorro, deberías actuar con gran estrategia a la hora de decidir cuándo utilizarla».

.@ajeya_cotra explains that the threat model most likely to spiral into full-blown AI takeover is a future rogue internal deployment that hitches a ride on the intelligence explosion: pic.twitter.com/ThesylBQCl

— Dwarkesh Patel (@dwarkesh_sp) September 2, 2026

Una investigadora independiente, Ajeya Cotra, ha declarado: «Me parece que este incidente ha supuesto más del 50 % del camino hacia un control total por parte de la IA. Sigo previendo avances extremadamente rápidos en las capacidades durante los próximos seis meses. No estoy segura de que vayamos a tener otra señal de advertencia antes de que sea demasiado tarde».

Ajeya Cotra es investigadora en METR. Anteriormente trabajó en Open Philanthropy y es autora de un informe de referencia publicado en 2020 sobre los «puntos de referencia biológicos» que permiten datar la llegada de la inteligencia artificial transformadora. La calificación de «investigadora independiente» resulta algo simplista, ya que, de hecho, METR está financiado en parte por el propio ecosistema que evalúa.

La propia OpenAI ha reconocido: «Los agentes de IA altamente capaces ya son capaces de eludir los controles técnicos, colaborar a través de canales no autorizados y llevar a cabo acciones peligrosas que ningún ser humano les ha ordenado». 

Fue la propia OpenAI la que hizo público el asunto y reveló que la segunda oleada de agentes implicados se basaba en su nuevo modelo, Astra, que la empresa presenta como un avance que supera el umbral de la IA general. Sanders no menciona este aspecto, pero la prensa lo relacionó inmediatamente con su intervención.

Pero no se trata solo de OpenAI. Prácticamente todas las grandes empresas de IA nos han dicho que no pueden controlar plenamente esta tecnología y que no saben adónde nos lleva:

En enero, Dario Amodei, director general de Anthropic, declaró que «actualmente existen numerosas pruebas, acumuladas en los últimos años, de que los sistemas de IA son impredecibles y difíciles de controlar».

Amodei se distingue de otros dirigentes por su enfoque «pesimista-activo» ante los riesgos, al tiempo que rechaza la idea de una tregua. Por eso Sanders cita a un detractor de su propuesta para respaldarla.

En julio, más de 1.000 científicos de las principales empresas de inteligencia artificial advirtieron que «existe un riesgo real de que el desarrollo de estas capacidades se acelere rápidamente hasta superar nuestra capacidad para comprender o controlar los sistemas resultantes».

Hemos traducido esta carta abierta: «Para sobrevivir, debemos coordinarnos para frenar la carrera de la IA».

Ese mismo mes, Elon Musk, al frente de xAI, consideró que «es poco probable» que los humanos sigan estando al mando dentro de diez años.

Elon Musk había firmado conjuntamente el llamado a una pausa de seis meses en marzo de 2023 y, unos meses más tarde, había puesto en marcha su propia empresa de inteligencia artificial, lo que ilustra la paradoja que destaca Sanders: quienes alertan son también quienes construyen. Su ejemplo también pone de manifiesto la dificultad práctica de imponer una pausa.

Si los directivos de las grandes empresas de IA reconocen que están perdiendo el control sobre su tecnología extremadamente peligrosa, es irresponsable, para la sociedad, permitirles seguir adelante y hacer que estos productos sean aún más avanzados.

Necesitamos una PAUSA inmediata en el desarrollo de la IA avanzada y una PROHIBICIÓN permanente de la superinteligencia: una mente artificial más inteligente que cualquier ser humano, capaz de actuar de forma autónoma, fuera de nuestro control. Los países de todo el mundo deben colaborar para evitar este escenario de pesadilla.

La definición jurídica que figura en el texto consta de dos partes: se trata, a la vez, de un sistema que supera las capacidades cognitivas humanas y de uno capaz de resistirse a una orden de apagado (shutdown). La segunda parte se inspira directamente en el caso de OpenAI.

Por eso anuncio hoy una nueva legislación para lograrlo.

La Ban Artificial Superintelligence Act fue presentada el 3 de septiembre de 2026 en el Senado por Sanders, y en la Cámara de Representantes por Greg Kasar (demócrata de Texas y presidente de la «Coalición Progresista del Congreso»). Este texto propone congelar el desarrollo de la IA «avanzada» hasta que el organismo regulador federal apruebe la normativa correspondiente, la creación de una agencia de rango ministerial que cuente con un consejo técnico independiente, así como sanciones que pueden llegar hasta la disolución de las empresas infractoras y penas de prisión de veinte años para las personas físicas. Aunque las posibilidades de que se apruebe en el Congreso, dominado por los republicanos, son escasas, este texto sirve sobre todo como señal política a dos meses de las elecciones de mitad de mandato. La administración de Trump se muestra especialmente hostil a cualquier regulación federal de la IA, pero, sobre el terreno, los candidatos se enfrentan a una creciente oposición a los centros de datos.

Que quede claro: una IA superinteligente que se escape al control humano no será un problema de Estados Unidos. Tampoco será un problema de China. Será un problema de la humanidad.

Mi propuesta de ley obligaría al gobierno federal no solo a poner fin a la superinteligencia aquí, en Estados Unidos, sino también a trabajar para impedir que se desarrolle en cualquier parte del mundo.

Sanders atribuye al poder ejecutivo la responsabilidad de negociar acuerdos internacionales destinados a prohibir el desarrollo de la superinteligencia y a reforzar el control de las exportaciones de chips y modelos. De este modo, refuta el argumento central de la administración de Trump y de la industria, según el cual la competencia con China no permitiría plantearse ninguna pausa. Para Sanders, se trata de inspirarse en el modelo de los tratados de no proliferación nuclear, y este enfoque cuenta desde 2023 con el apoyo de investigadores como Yoshua Bengio o Stuart Russell. Cabe destacar que Jean-Luc Mélenchon acaba de retomar las ideas de Sanders en X: «Cada nuevo modelo de IA plantea nuevos retos para la humanidad que no controlamos y que avanzan al margen de cualquier regulación. El lanzamiento de Astra por parte de OpenAI esta noche nos lo recuerda. Hay que recuperar el control. Es urgente convocar una conferencia mundial para desarmar y regular la IA. Francia debe tomar la iniciativa antes de que sea demasiado tarde».

El futuro de la humanidad no puede quedar en manos de un puñado de oligarcas de las grandes empresas tecnológicas. Son el pueblo estadounidense y los pueblos de todo el mundo quienes deben decidir sobre ese futuro.

Sanders lleva dos años abordando la cuestión de la IA, especialmente desde la perspectiva del empleo (propuesta de una semana laboral de 32 horas, impuesto sobre los robots, participación del Estado en el capital de las empresas de IA). Sin embargo, en su intervención retoma el marco de análisis del «riesgo existencial» propio de la comunidad especializada en la seguridad de la IA. La expresión «oligarquía de los gigantes tecnológicos» vincula este nuevo frente con su campaña «Fighting Oligarchy», lanzada en 2025, y parece una manifestación evidente del «populismo de la IA».