Poder total: la IA y el fin de la imaginación

Era, pues, un fenómeno. ¹ Un joven filósofo hongkonés, con una agudeza sin igual, había captado una tendencia decisiva de la época: a partir de entonces, nuestra relación con el mundo estaría marcada sobre todo por la ilusión. Nos gustara o no, nuestras representaciones acabarían por desvincularse de la realidad. Un estado de la psique cuyas causas serían múltiples y que, para quien supiera aprovecharlo, proporcionaría todas las claves necesarias para someter a las masas. En este sentido, dos figuras serían los principales titiriteros. Por un lado, Donald Trump, que no cesaba de pronunciar discursos desprovistos de toda veracidad, respondiendo únicamente a sus opiniones o a las de una población que solo pedía que se las confirmaran personas dominantes. Por otro lado, Elon Musk, al inundar su plataforma X y, más ampliamente, el panorama mediático, con sus afirmaciones precipitadas que vilipendian el legado de la Ilustración y la democracia, que solo nos habrían llevado al borde del abismo. Y todo ello exhibiéndose como el nuevo elegido capaz de salvarnos de todos nuestros males, siguiendo una compulsión por la repetición que roza la demencia. Todo un ethos, de abajo hacia arriba, por así decirlo, que habría cambiado en gran medida la faz del mundo. Es la era de la hipnocracia. Suena bien, como un buen eslogan, que inmediatamente despertó el interés de periodistas de todo el mundo. Entonces, evidentemente, tal agitación da ganas de ir a ver. Sobre todo porque algunos medios de comunicación publicaron rápidamente algunas páginas de su obra homónima. Y entonces, cuál fue la estupefacción —más precisamente, la consternación— que sintieron las personas incrédulas, o incluso aquellas dotadas de un sentido común elemental, al leer las primeras líneas. Era como hojear el diario íntimo de un adolescente de los años 2020 bajo los efectos del ácido, rebosante de fórmulas cuyo único objetivo era impactar, con un tono perentorio y que pretendían ser definitivas, como para cubrir el terrible vacío que transportaban. Nos encontrábamos con expresiones abstrusas, como «No es un objeto que se explique. Es una condición que se atraviesa», o «realidad algorítmica», que no significa absolutamente nada, y otras tonterías llamativas por el estilo. Es como si la cáscara, que parece brillante por fuera, revelara, en cuanto se empieza a observar su interior, un vacío abismal. La montaña que nos llegaba desde los confines de Oriente, vista de cerca, no había dado a luz más que a un ratón muy triste y miserable.

Pero dejemos de lado la postura crítica o la sospecha (por retomar el término de Nietzsche), que hoy en día se consideran productos caducos. Ya que hordas de periodistas —probablemente hipnotizados por esa jerga teórico-publicitaria— en el momento de la publicación inicial de su obra en Italia, ² que al parecer tuvo un éxito inmediato, se lanzaron a querer entrevistarlo. En la misma línea, hubo editores, igualmente hipnotizados, que no tardaron en adquirir los derechos. Entonces, ante la avalancha de solicitudes procedentes de todas partes, y en particular las invitaciones para que este hombre diera conferencias, la situación se volvió insostenible y hubo que desvelar el secreto: este «filósofo», llamado Jianwei Xun, considerado «uno de los más brillantes de su generación», como se decía en la contraportada del libro, ¡no existía y nunca había existido! Era el producto puro de la idea de dos filósofos italianos que, en un principio, habían sido presa del deseo —en realidad muy cínico— de «dialogar» con ChatGPT para «sacarle conceptos»! Sí, cierta esfera intelectual ha llegado a tal nivel de credulidad que se imagina pertinente explorar caminos de pensamiento basándose en tecnologías producidas por la vanguardia del tecnoliberalismo. Es decir, por empresarios e ingenieros, la mayoría de ellos treintañeros, a menudo incultos, llevados por una búsqueda incesante de beneficios, dedicados a producir un pseudolenguaje resultante de análisis estadísticos, ecuaciones matemáticas, esquemas lógicos y basado únicamente en el principio de la conformidad. Y del mayor conformismo, por lo tanto, como acabamos de comprobar. Porque responde exactamente a una demanda de la época, que solo sabe jurar por lo llamativo y lo insignificante. Y resulta que un periódico francés, en este caso Philosophie Magazine —que publicó inmediatamente el título, sobre el que la contraportada decía aún «que nos invita a permanecer lúcidos en el seno mismo de la simulación», ¡lo cual es formidable en términos de puesta en abismo!—, entrevistó a Andrea Colamedici, uno de los dos protagonistas de este engaño planetario. En la entrevista publicada en la edición de mayo de 2025 (cuyo sumario mencionaba que se trataba de un «libro-evento»), este posmoderno tardío afirmaba que « La IA es una herramienta extraordinariamente poderosa para construir conceptos», sobre la cual no parece ver ni el contenido necrosado de sus producciones simbólicas, ni los resortes económicos, ni tampoco la visión del mundo que está en juego, y que permitiría «pensar más allá». El director de redacción concluyó su intercambio con esta pregunta: «¿Cree que algunos Platón o Deleuze del futuro trabajarán con IA para llevar más allá sus conceptos, desarrollar sus hipótesis y sus modelos teóricos?». ³ ¿Estamos, pues, en este nivel, por debajo de cero, de conciencia y despertar crítico en relación con una parte del «pensamiento» contemporáneo, del valor de las obras, pero también de ciertas afirmaciones? En realidad, todos estos episodios, que podrían componer el argumento de un sketch paródico de la época, deben tomarse en serio. En la medida en que dan testimonio de un fenómeno decisivo al que nos enfrentamos desde hace unos quince años y, más aún, desde la introducción de la IA generativa. Es decir, el hecho concomitante de la supremacía cognitiva de la tecnología —y del aura que se le atribuye— y una sumisión, hasta una subordinación, más o menos visible, más o menos consciente, manifestada por miles de millones de individuos con respecto a sus producciones y sus poderes en constante crecimiento.

Hemos erigido la mayor instancia cognitiva y ordenadora de la historia.

Éric Sadin

Las dos primeras décadas del siglo XXI han sido testigo del advenimiento de un poder gigantesco. Un poder que se nos enfrenta, al tiempo que parece ponerse a nuestra entera disposición. Una coyuntura que tiene su origen en un credo, de 70 años, que, con el paso del tiempo y, más aún, desde el cambio de milenio, no ha dejado de cobrar consistencia: erigir artefactos de la superioridad absoluta de nosotros mismos. Un credo que, para quien sabe verlo, conlleva una cierta visión —incompleta y, en definitiva, de escaso valor para el ser humano— así como un cierto tipo de afectos: un odio hacia nosotros mismos. En este sentido, conviene prestar la máxima atención a las palabras de Geoffrey Hinton, considerado uno de los «padrinos» de las «redes neuronales». Este hombre ofreció su talento durante muchos años a Google, empresa en la que pudo disponer de medios casi ilimitados para perfeccionar los procesos de aprendizaje automático que, en gran medida, han contribuido al advenimiento de la IA generativa. Y he aquí que en 2023, a los 75 años, o al atardecer de su vida, pareció, de la noche a la mañana, arrepentirse o despertar bruscamente de su largo y profundo sueño dogmático. Hinton declaró al New York Times, dadas las asombrosas capacidades de ChatGPT, que todo este movimiento «iba demasiado rápido, demasiado lejos, y que era hora de preocuparse», llegando a confesar que «una parte de él lamentaba la obra de su vida». Y, con el fin de «hablar libremente de los peligros de la IA», anunció su renuncia a Google, con gran valentía, al final de su carrera, habiendo amasado una fortuna y asegurado una generosa jubilación. Se cree que se trata de una broma o de un repentino ataque de locura. Sin embargo, poco después, durante una conferencia en la que participaba, su carácter natural, le gustara o no, volvió a imponerse; se le preguntó «si estaba a favor de que una IA superinteligente destruyera a la humanidad y la sustituyera por algo objetivamente mejor en términos de conciencia». A lo que respondió sin pensarlo dos veces: «De hecho, estoy a favor, pero creo que sería más prudente por mi parte decir que estoy en contra». Y concluyó con una frase que, al fin y al cabo, no hizo más que delatar lo que realmente pensaba: «No es seguro que seamos la mejor forma de inteligencia que existe». ⁴ He aquí el espíritu que, desde los primeros pasos de la cibernética a mediados de la década de 1950 y con medios tecnológicos y financieros mucho más importantes hoy en día, anima a estos ingenieros. Ellos solos, impulsados por la industria a la que están sometidos, no están «cambiando el mundo» (según la fórmula tan consagrada), sino reduciendo la humanidad humana —porque conviene, en este contexto, ser redundante— a la nada.

¿A qué nos enfrentamos desde la generalización de la inteligencia artificial y, más aún, desde la llamada inteligencia «generativa»? A una especie de trascendencia inmanente, que promete acompañarnos constantemente y que, en cualquier circunstancia, parece superarnos. Nos cuesta encontrar las palabras, o nos faltan, para calificar a esta entidad en constante perfeccionamiento de la que se da por sentado, y se dará cada vez más por sentado, que tiene razón sobre nosotros, al llegar a dejarnos al margen, hasta el punto de que solo deseamos aferrarnos a ella para disfrutar de sus infinitos poderes. Siguiendo el ejemplo de estos dos filósofos italianos. El becerro de oro del segundo cuarto del siglo XXI, ante el cual nos postramos menos, y ratificamos la diferencia de conocimiento para tratar de aprovecharlo sin medida, actuando entonces —sin parecerlo y a menudo sin siquiera ser conscientes de ello— la secundariedad, y pronto la inanidad definitiva, de nosotros mismos. Hoy en día, no solo se juega la «obsolescencia del hombre», por retomar los términos de Günther Anders, sino también, en el mismo movimiento, la subordinación a un orden que él mismo ha erigido para acabar determinando —desde una posición de superioridad— el curso de nuestras vidas individuales y colectivas. Una condición que, en modo alguno, corresponde a una «toma del poder por las máquinas» o a otros «levantamientos», a veces evocados de manera tan inapropiada y, a decir verdad, muy grotesca, lo que demuestra nuestra flagrante falta de análisis. Pero a algo muy diferente, y de un alcance al menos idéntico al que suponen esos escenarios apocalípticos: el cruce del umbral hacia un mundo en el que la mayoría de sus flujos orgánicos y físicos dependen de la omnisciencia de entidades artificiales. En este sentido, hemos erigido la mayor instancia cognitiva y ordenadora de la historia. Y, en consecuencia, también una potencia política sin precedentes, que se ejerce la mayor parte del tiempo de forma imperceptible y, por ello, abocada, a escala planetaria, a ser interiorizada por nuestras mentes. Una mutación totalmente inconcebible hace apenas veinte años, que nadie vio venir y que, sin embargo, constituye nuestra realidad actual y lo será de forma cada vez más generalizada e intensificada en el futuro.

Por esta razón, en la continuación de la gubernamentalidad —es decir, una cierta capacidad para influir en los comportamientos—, que se ha asignado a las tecnologías digitales y, más tarde, a la inteligencia artificial, llegamos ahora —debido a su mayor expansión y sofisticación, y a la introducción de máquinas parlantes— a una etapa significativa muy superior, que conduce a una redefinición total de lo político. Eso es lo que nos corresponde pensar, a mediados de la década de 2020, de una manera igualmente nueva. El advenimiento de una fuerza omnisciente, a la que habremos dejado entrar en todas partes, que inspirará el contenido de nuestros actos, pensamientos, palabras, imágenes y relaciones, adquiriendo así un alcance político de tal magnitud que conviene nombrarlo como lo que es: el poder total. Una noción que es mejor escribir en mayúsculas para destacar tanto su imperio sin igual como su naturaleza absolutamente inédita, que no puede sino superar nuestras categorías y modos actuales de inteligibilidad, ya que no pertenece a ningún orden conocido hasta ahora.

Michel Foucault identificó los mecanismos modernos del poder —los que operan desde los tiempos de la secularización y la industrialización— en sus características plurales y que ya no funcionan solo de forma piramidal, sino también en diferentes niveles de la sociedad: en el hospital, en la prisión, en diversas instituciones; también a escala individual bajo infinitas modalidades. Análisis que daban testimonio de la obsolescencia de un orden único y omnisciente, como el que garantizaba el emperador de China o, en un género completamente diferente, el representado por el panóptico de Jeremy Bentham (cuyo principio arquitectónico consistía en permitir a los guardias tener desde su torre de control una vista de 360° de las celdas sin ser vistos ellos mismos). ⁵ Hoy en día, no se trata tanto de un retorno a una forma de absolutismo como de un complejo que actúa y se impone en todas partes como referencia, es decir, como punto de partida para la determinación y que, en consecuencia, orienta las trayectorias de miles de millones de individuos. Los ardientes defensores de las libertades individuales, a quienes les encanta presentarse como víctimas de una vigilancia generalizada, no encontrarán nada que les satisfaga en esta configuración, que, a pesar de sus aparentes similitudes, parte de objetivos completamente diferentes y presenta características sin equivalente ni antecedentes históricos.

Las masas ya no confían en nada, pero opinan sobre todo.

Éric Sadin

La política, tal y como se ha concebido y planteado desde la Antigua Grecia, así como en la modernidad, desde principios del siglo XIX hasta hoy, se ve, mucho más que redefinida, o incluso agonizante, inevitablemente condenada a la obsolescencia. Todas las prerrogativas que le corresponden caerán una a una en pedazos: la implementación de programas (los que hasta ahora han sido elaborados por humanos); la evaluación; la deliberación; la decisión; y, por supuesto, los principios de pluralidad y contradicción que constituyen la democracia. Pero también la incertidumbre y la temporalidad, propias de la vida, que permiten experimentar sin cesar una infinidad de horizontes posibles, hasta el punto de que ambas representan la condición misma de la posibilidad de la política. Es como si el recurso a las consultoras, del que han abusado muchos gobiernos desde hace unos quince años, hubiera inaugurado el reinado de una tecnocracia que pronto tomará medidas integrales y automatizadas. Solo se impondrá —al igual que ocurre con el tanatólogo y los regímenes de la imagen y el sonido— la ley de la conformidad. Es decir, en circunstancias cada vez más numerosas, solo ocurrirá lo que tiene que ocurrir. Operaciones realizadas en función de intereses más o menos visibles y de estrictos imperativos utilitarios, pero llevados al extremo, ya que ya no tienen que rendir cuentas y cuyos sistemas están diseñados por empresarios e ingenieros que solo juran por esos imperativos. Es decir, modos de organización fríos, aparentemente impersonales, del curso de las cosas, indefinidamente reactivos a los flujos de la realidad, dinámicos, por tanto, pero rígidos y repetitivos en los axiomas que los determinan. Un agotamiento de la gestión de los asuntos públicos por parte de los seres humanos (y de todas las imperfecciones, pero también a veces de las mejoras concertadas que ello supone) que, de alguna manera, Jacques Ellul había podido presagiar, a pesar de que las realidades actuales están tan lejos de su entorno de entonces. Porque fue uno de los pocos, a finales de la década de 1970, que tuvo la lucidez de observar la creciente importancia de los sistemas técnicos, pero también de órganos de decisión cada vez más complejos y enredados que inervan la sociedad, con el doble efecto —eminentemente político— de marginar la acción humana e impedir la comprensión de las motivaciones que inspiran los mecanismos establecidos: «Ya no es posible ninguna organización social o política significativa para este conjunto, en el que cada parte está sometida a técnicas y vinculada a las demás por técnicas». ⁶

Si el poder total llega a dictar su única ley (pero una ley evolutiva y que se adapta —para su supuesto bien— a las situaciones de los individuos y los grupos), entonces la constitución del conocimiento, en lo que reviste de utilidad pública, como herramienta de comprensión de los fenómenos naturales y de la sociedad, pero también de reflexividad respecto a ellos, también quedará obsoleta. Y con ella todo el conocimiento que emana de las instituciones, los centros de investigación, las publicaciones, es decir, los análisis documentados, sometidos a la crítica de los pares y luego puestos a disposición de todos. Es decir, otra dimensión de la política, entendida como el derecho legítimo —o el deber cívico y moral— de trabajar en la elaboración de contenidos capaces de exponer otros puntos de vista, pero también de abrir otras perspectivas distintas a las promovidas y alabadas por los órganos de poder habituales. Dicho de otro modo, las instancias —más o menos percibidas como tales— de contrapoder instituidas en Europa a partir del siglo XVII y que, con el paso del tiempo, se han multiplicado por todo el mundo, al tiempo que han diversificado sus ámbitos de estudio, están abocadas a perder su relevancia. Dado que las manifestaciones de la realidad —si aún sentimos la necesidad de comprender su contenido—, las condiciones de erupción de un volcán, la aparición de patologías, los efectos de ciertos usos serán «explicados» por este poder.

En este sentido, son las ciencias sociales y, en menor medida, las llamadas ciencias «duras» las que, en un futuro próximo, parecerán inútiles y obsoletas, ya que pronto «Jianwei Xun» nos iluminará en todas las circunstancias. Se acabaron las sociedades científicas; además, ¿por qué financiar a los investigadores en un contexto así? Algunos dirán que mejor así, ya que se trata de fondos públicos que solo sirven para proporcionar rentas a una especie de parásitos sistemáticamente gruñones y para establecer conclusiones que ya no le importan a nadie, en una época en la que las masas ya no confían en nada, pero opinan sobre todo. Entonces, es mejor dejar hablar al poder total, que nunca se equivoca y no deja de progresar para tender hacia una ciencia absoluta. «Estamos trabajando en el desarrollo de la superinteligencia, que definimos como una IA que supera a la inteligencia humana en todos los aspectos y que, en nuestra opinión, ya está a la vista», ⁷ dijo con gran entusiasmo Mark Zuckerberg en julio de 2025. Y esto supondrá, en consecuencia, la probable desaparición de la crítica, condenada a convertirse en inaudible, casi inútil al fin y al cabo. En la medida en que, pronto, nadie dispondrá de los medios y las herramientas adecuadas para poner en duda las ecuaciones de esta maquinaria destinada a ser cada vez más omnisciente, y cuya eficacia se verificará indefinidamente.

«La verdadera naturaleza del neoliberalismo no es un proyecto económico, sino un proyecto político destinado a socavar la imaginación», señaló el antropólogo David Graeber. ⁸ En estos tiempos, en vías de automatización integral y artefactualización del conocimiento, nos vemos obligados a retomar esta observación, pero para radicalizarla y afirmar que el poder total socavará la curiosidad, el gusto por el descubrimiento y, en primer lugar, la lectura de libros (es decir, la aportación única de imaginación y conocimiento que ofrece). Así pues, podemos suponer que los adolescentes que alcancen la edad adulta a principios de la próxima década, pero también los adultos de hoy en día, absortos mañana y tarde en TikTok —o deleitándose con videos, el nuevo régimen de percepción mediatizada y tan pervertida del mundo—, no verán ningún problema (más bien al contrario) en que las máquinas nos digan el significado de las cosas sin requerir el menor esfuerzo por nuestra parte. En realidad, todos estos movimientos encajan perfectamente entre sí, hasta el punto de que, con el tiempo, se refuerzan mutuamente. Porque habría que ser ingenuo o ciego para no darse cuenta de que el proceso de deshumanización en curso, de vaciamiento de nosotros mismos y de realización, a la larga, de todas las tareas materiales, físicas, cognitivas, intelectuales y creativas mediante tecnologías superiores a nosotros mismos, no está preparando el terreno para el creciente embrutecimiento de la humanidad. Mientras nos quede un atisbo de inteligencia —y dignidad—, conviene reflexionar sobre este proceso, su naturaleza, su alcance y, sobre todo, la extrema gravedad de sus consecuencias.