La vasallización cognitiva es una amenaza existencial

Pruebe el Grand Continent. Ideas y análisis que no se encuentran en ningún otro sitio. Pero que pronto verá por todas partes. En su bandeja de entrada a partir de 8 euros al mes

Mientras se intensifican los debates sobre la pertinencia de las colosales inversiones necesarias para que Francia y Europa participen en la carrera por la IA, conviene ampliar la perspectiva. El dominio de la IA es, de hecho, una cuestión existencial que pone en tela de juicio la soberanía cognitiva francesa y europea y que va mucho más allá de la mera cuestión económica. 

¿Qué es la soberanía cognitiva?

La respuesta varía según se trate de la IA, las interfaces cerebro-máquina y el análisis de la actividad cerebral, o de los algoritmos de las redes sociales, los juegos en línea y las apuestas deportivas diseñados para captar la atención. Si nos ceñimos a la IA y a su gobernanza, la soberanía cognitiva puede definirse como «el hecho de que un Estado disponga de sus propias estructuras generadoras de inteligencia, así como de la capacidad de proteger a su población de cualquier acto de guerra cognitiva destinado a mermar su racionalidad». 

En la práctica, la soberanía cognitiva supone, en primer lugar, disponer de modelos de IA de vanguardia, centros de datos y chips. También supone formar la mente de la población, especialmente su espíritu crítico, con el fin de liberarla de cualquier dependencia respecto a la IA. Por último, exige ser capaz de vigilar, detectar y frenar cualquier acto de guerra cognitiva dirigido contra la racionalidad de la población, especialmente mediante la manipulación de algoritmos y modelos de IA. No es casualidad que el Mando Aliado de Transformación de la OTAN haya designado la cognición como la sexta dimensión de los conflictos modernos, junto con el aire, la tierra, el mar, el espacio y el ciberespacio. 

Esta soberanía tiene un costo considerable. Iniciativas como la operación Prometeo requieren inversiones de tal envergadura que es legítimo preguntarse si «valen la pena». Sin embargo, responder de forma negativa y no comprometerse inmediatamente a seguir este camino equivaldría a continuar por la senda actual, la que conduce a la vasallización.

¿Cuál es el costo económico de la vasallización cognitiva? 

Como señalan los autores de la operación Prometeo, «seguir sin hacer nada equivale a vender en corto de forma masiva a todos los gigantes tecnológicos estadounidenses, todos los días». Si seguimos en una situación de vasallaje, la hipótesis, bastante conservadora, de que el 10 % de la masa salarial sea sustituida o transformada profundamente por la IA nos llevaría, de aquí a dos o tres años, a pagar de forma duradera cada año cinco puntos del PIB en concepto de renta pura a Estados Unidos. Y esto es solo el principio, ya que la vasallización cognitiva también supone renunciar al control sobre la naturaleza, la ergonomía, la interfaz y las funcionalidades de los modelos de IA que, en cualquier caso, serán utilizados cada vez de forma más masiva por la población europea.

No controlar la IA significa no poder hacer frente a sus efectos tan perjudiciales, que ya se están empezando a documentar, en una serie de puestos de trabajo denominados «junior». Esto es aún más grave si se tiene en cuenta que estos puestos de trabajo son indispensables para la formación de los expertos: es ahí donde se enfrentan al mundo real y adquieren la experiencia que necesitan. Ahora bien, estos expertos, que desempeñan un papel clave en numerosas organizaciones y, por tanto, en el funcionamiento de la economía, son precisamente aquellos en los que tendremos que apoyarnos para supervisar la IA, ya que contarán con los conocimientos necesarios para dialogar con ella de igual a igual. ¹

Quien no controle la producción de la IA no podrá moldearla a su antojo. Sin embargo, la IA ha llegado para quedarse, no por fatalidad, sino porque los incentivos para utilizarla son demasiado fuertes y prescindir de ella pondría gravemente en peligro nuestra competitividad, nuestra defensa y nuestra seguridad. Utilizarla sin producirla equivale, por tanto, a someterse a las decisiones de otros. Y, teniendo en cuenta el impacto que estas decisiones de diseño, funcionamiento y desarrollo tienen sobre nuestra cognición, someterse a ellas equivale a vivir en un estado de vasallaje.

El papel que desempeñan la naturaleza, la ergonomía y la interfaz de los modelos de IA en el ámbito de la educación se va definiendo poco a poco. ² Algunos diseños llevarían a los alumnos y estudiantes a «deshacerse de parte de su carga cognitiva», ³ hasta el punto de que su rendimiento se vería muy mermado si se les privara de la IA. Del mismo modo, algunos diseños harían que, en ocasiones, la colaboración entre humanos e IA resultara subóptima: en determinadas tareas, el ser humano rendiría mejor por sí solo que con la IA, del mismo modo que esta rendiría mejor sin el ser humano en otras tareas. ^4 5

Simplificando mucho, podemos considerar «perjudiciales» aquellos diseños que ofrecen al usuario la máxima fluidez y «comodidad». De hecho, lo incitan a delegar su capacidad cognitiva en la IA, a acostumbrarse a no pensar y, sobre todo, a no esforzarse por pensar. Este concepto de esfuerzo es fundamental: al igual que el esfuerzo físico es indispensable para la salud del cuerpo —algo que la llegada del motor térmico no ha cambiado—, el esfuerzo cognitivo es indispensable para la salud del cerebro. Las IA que permiten obtener el fruto de un trabajo cognitivo sin realizar el más mínimo esfuerzo están, por tanto, acabando con la cognición poco a poco.

Por el contrario, las «Cognitive Forcing Functions» se refieren a diseños que reintroducen la fricción cognitiva en el núcleo de la interacción con la IA: formular la propia respuesta antes de poder consultar la de la IA, responder a preguntas que demuestren que realmente se han leído los documentos presentados, etc. Estos diseños resultan beneficiosos, ya que estimulan el esfuerzo cognitivo al tiempo que aprovechan la aportación de la IA.

Pero los directivos estadounidenses del sector tecnológico, sometidos a una enorme presión financiera debido a sus colosales inversiones, optarán en su gran mayoría por los diseños «nocivos», que son mucho más rentables comercialmente que los diseños beneficiosos, pero que generan fricción. Lo harán por la misma razón por la que las cadenas de comida rápida han prosperado gracias a menús hipercalóricos en lugar de a ensaladas dietéticas.

Sin embargo, cabe destacar que, cuando el debate público se centró en los efectos tan perjudiciales de esta «comida basura» para la salud, la percepción del público fue cambiando poco a poco. Algunas cadenas de comida rápida se vieron entonces obligadas a modificar su oferta y a destacar su calidad nutricional; es decir, en cierto sentido, su «fricción gustativa». La superioridad comercial de la «comodidad» sobre la «fricción» no es, por tanto, una fatalidad. Pero para ello hay que ser capaz de desarrollar y promover diseños beneficiosos, que asuman esa fricción…

La vasallización cognitiva es la certeza de que algún día habrá que pagar para intentar contrarrestar los efectos nocivos de los diseños en el sistema educativo y universitario, pero también de ver cómo se merman la productividad y la competitividad de las organizaciones que utilicen la IA de forma subóptima.

El «Open Weight» y la revuelta de los abogados estadounidenses

En Estados Unidos, la extrema judicialización de la sociedad y las sumas astronómicas que suelen estar en juego han convertido la profesión de abogado de élite en algo extremadamente competitivo y, en algunos casos, muy lucrativo.

Esto es, en parte, lo que ha permitido a los grandes bufetes estadounidenses invertir masivamente en su soberanía cognitiva. Latham & Watkins, Kirkland & Ellis ⁶ (500 millones de dólares) o incluso Morgan & Morgan ⁷ (1.000 millones de dólares) han dedicado así sumas considerables al desarrollo de sus propias plataformas de IA jurídica. Kirkland & Ellis y Morgan & Morgan diseñan de principio a fin plataformas agentivas propias, mientras que Latham & Watkins ha adquirido modelos denominados «open weight » —es decir, cuyos pesos son abiertos, lo que permite acceder a una arquitectura neuronal preentrenada—, que posteriormente ha perfeccionado de forma exhaustiva con corpus jurídicos. Al parecer, Morgan & Morgan no solo se dispone a poner en marcha su plataforma «MX2», sino también a ofrecerla bajo licencia a otros bufetes estadounidenses, con el fin de desarrollar una oferta comercial de propiedad intelectual en materia de software y, al mismo tiempo, amortizar sus costos de desarrollo.

Cabe destacar que estas empresas han tomado esta decisión a pesar de que los gigantes tecnológicos son, al igual que ellas, estadounidenses. Es cierto que su enfoque no tiene nada que ver con el desarrollo por parte de los europeos de nuevos modelos de frontera, pero invita a plantearse lo siguiente: ¿cómo es posible que los europeos, que deben tener en cuenta cuestiones de defensa, seguridad, cultura y espionaje, consideren que tales inversiones no valen la pena? Si los bufetes de abogados estadounidenses consideran pertinente invertir miles de millones en su soberanía cognitiva, podemos hacernos una idea del orden de magnitud de las inversiones necesarias a escala de un continente como Europa.

¿Está condenado el vasallo cognitivo a hablar la lengua de su soberano cognitivo?

Como escribió Wittgenstein: «Los límites de mi lenguaje son los límites de mi mundo». La lengua está íntimamente ligada a la soberanía. La protagonista de la película «Contacto», del director quebequés Denis Villeneuve, un lingüista de renombre, afirma además que «el lenguaje es el fundamento de toda civilización y la primera arma que se esgrime en un conflicto». Durante mucho tiempo se creyó en hipótesis como la denominada «hipótesis de Sapir-Whorf», que atribuía a las propiedades de la lengua materna un impacto considerable en la cognición que se desarrolla posteriormente. Esta hipótesis, muy determinista, consideraba que ciertas lenguas preparaban especialmente bien la mente para determinados tipos de razonamientos complejos, mientras que otras limitaban esas capacidades.

Hoy en día hemos cambiado mucho de opinión: las neurociencias actuales hablan más bien de «relativismo lingüístico» y consideran que la lengua materna es un factor que moldea parcialmente la mente, sin que exista una jerarquía entre las lenguas ni la idea de que algunas «preparen mejor» para el razonamiento complejo. No obstante, estas investigaciones demuestran que la lengua tiene un impacto directo en la cognición. Ahora bien, los LLM son, en cierto sentido, una lengua: una lengua escrita no bajo la Cúpula de la Academia Francesa, sino en las oficinas de los magnates tecnológicos estadounidenses.

Lera Boroditsky ha estudiado cómo el inglés recurre a metáforas «horizontales» para referirse al tiempo (looking forward to the next game, moving the meeting back), mientras que el mandarín emplea metáforas verticales (shàng, «por encima», para los acontecimientos pasados, y «por debajo», para los futuros). Según ella, estas diferencias no suponen ninguna «ventaja», pero predisponen a los angloparlantes nativos a organizar el calendario de forma horizontal, y a los sinoparlantes nativos a organizarlo de forma vertical.

Por su parte, Jonathan Winawer ha observado que el ruso, cuyo léxico distingue entre el azul claro y el azul oscuro como dos colores distintos y no como dos matices de un mismo color, predispone a sus hablantes nativos a ser más sensibles a los matices del azul: los distinguen mucho más rápido que los angloparlantes.

Por último, Stephen C. Levinson, por entonces investigador del Instituto Max Planck de Psicolingüística, publicó en 2003 un artículo y, posteriormente, un ensayo titulados «El espacio en el lenguaje y la cognición: exploraciones de la diversidad cognitiva». En ellos analiza la influencia del léxico espacial de una lengua en la percepción del espacio, así como en la forma en que los hablantes nativos se lo representan y se orientan en él.

Los diseñadores de los LLM tienen total libertad para introducir en ellos modificaciones que puedan afectar a la cognición de los usuarios. Y estas modificaciones son tanto más perniciosas cuanto más sutiles son. No se trata de cambiar el nombre del Golfo de México o del Lago Ontario, sino de introducir en un modelo matices que modifiquen, de forma muy localizada, la percepción que tienen los usuarios de un concepto. Optar por la vasallización cognitiva supone, por tanto, renunciar también a ejercer control sobre la lengua con la que interactúa una parte cada vez mayor de la población, y dejarla expuesta a una forma de manipulación intrínsecamente difícil de detectar a tiempo.

Las lenguas europeas, aparte del inglés y el chino, podrían además ser objeto de ataques directos. Aquí no hay nada sutil: se trataría simplemente de ejercer un dominio imponiendo la lengua del dominante y marginando la de los vasallos. La IA no rinde igual de bien en todos los idiomas; por ejemplo, su rendimiento es menor en polaco que en inglés. ^8 9 10 Esta diferencia se debe hoy en día principalmente a cuestiones de semántica, de estructura de las lenguas, del volumen de datos bien organizados disponibles en línea en una lengua determinada y de «tokenización» —la división de cada palabra en unidades de cálculo por parte del modelo—. Dado que esta división está optimizada para el inglés, una lengua con declinaciones complejas como el polaco se divide en un número mucho mayor de fragmentos para expresar lo mismo, lo que reduce el rendimiento.

La administración de Trump —que en junio de 2026 ordenó a Anthropic que suspendiera el acceso de los no estadounidenses a sus últimos modelos, Fable y Mythos, antes de restablecerlo—, ha presionado recientemente a Canadá para que reduzca drásticamente su apoyo a los programas audiovisuales francófonos. ¹¹ Hasta entonces, Estados Unidos no tenía una lengua oficial: el 1 de marzo de 2025, Donald Trump firmó un decreto que otorgaba ese estatus al inglés. ¿Por qué detenerse ahí? ¿Qué impedirá que una futura administración ordene, oficialmente o no, a los gigantes tecnológicos que reduzcan notablemente el rendimiento de sus modelos en los demás idiomas? Sin llegar a hacerlos inutilizables, podrían sembrar así una duda que llevaría a muchos usuarios a expresarse únicamente en inglés para obtener «el mejor rendimiento».

¿Cuál es el costo en materia de seguridad y en términos humanos de la vasallización cognitiva?

A diferencia de los abogados estadounidenses, los europeos deben tomarse muy en serio los retos en materia de seguridad, tal y como acaba de poner de manifiesto el ciberataque del 12 de octubre de 2026 contra las instalaciones frigoríficas de numerosas cadenas de la gran distribución francesa. Aunque aún se desconocen los detalles, ya se observan ataques iraníes preparados con ayuda del modelo Fable de Anthropic, y otros lanzados de forma «autónoma» por agentes de IA. El ciberespacio, al igual que la cognición, es, por otra parte, una de las dimensiones de la conflictividad identificadas por la OTAN: controlar el ciberespacio se está convirtiendo en algo tan esencial como controlar el espacio aéreo.

¿Qué pasaría si, mañana, un país llevara a cabo un ciberataque masivo utilizando una IA estadounidense, ya no contra las neveras de los supermercados, sino contra nuestras infraestructuras críticas —centrales nucleares, hospitales—, y la Casa Blanca ordenara a la empresa que desarrolla esa IA, Anthropic por ejemplo, que suspendiera el acceso de Francia al modelo que necesitaría para defenderse?

¿Y si una administración estadounidense utilizara el acceso a los modelos fronterizos como moneda de cambio para obligar a Francia o a cualquier otro país europeo a comprar material militar estadounidense o a firmar un tratado muy favorable para Estados Unidos? Nadie ha olvidado las imágenes de Ursula von der Leyen acudiendo al campo de golf de Donald Trump en Escocia para firmar el acuerdo que se suponía que pondría fin a la escalada arancelaria. ¿Hasta dónde habría llevado el presidente estadounidense sus exigencias si Europa hubiera tenido una necesidad vital de contar con las mejores IA estadounidenses para defenderse?

Por último, ¿cómo no sacar conclusiones de todos los descubrimientos recientes sobre la forma en que Mark Zuckerberg toma decisiones relativas a las funcionalidades, el diseño y la ergonomía de las plataformas de Meta, como Facebook e Instagram? Incluso después de que sus propios investigadores le demostraran, con estudios internos que lo respaldaban, que ciertos diseños exponían a los menores a la depredación de adultos desconocidos y perjudicaban gravemente la salud mental de muchos usuarios, especialmente de las jóvenes, se negó rotundamente a realizar cualquier cambio. La sumisión europea frente a las redes sociales estadounidenses ha permitido así que un director general, movido únicamente por sus intereses económicos, tomara decisiones que han afectado directamente a la salud de muchos jóvenes europeos.

A estos primeros costos humanos se suma la brutalización del debate público. Los juicios entablados contra Mark Zuckerberg también han revelado que investigadores de Facebook habían entrevistado a responsables políticos europeos que se quejaban de verse «obligados a mostrarse cada vez más violentos y más radicales» para hacerse oír entre los votantes en las redes sociales. Estos representantes políticos habían suplicado en vano a Facebook que modificara sus algoritmos para que dejaran de premiar el discurso de odio, con el fin de poder ofrecer un debate público de calidad.

La falta de opciones es, en realidad, una elección

En pocos años, la IA de vanguardia ha pasado de resolver problemas del nivel de las olimpiadas de matemáticas para estudiantes de secundaria a la producción masiva de resultados de investigación significativos, hasta el punto de que el medallista Fields francés Hugo Duminil-Copin ha podido afirmar que «la IA ha aniquilado su campo de investigación». Y esto, mientras que algunos matemáticos de primer orden parecen apenas empezar a vislumbrar lo que está sucediendo —no porque estén mal informados, sino porque todo ha ido extremadamente rápido—.

En este contexto, «tomarse su tiempo» para decidir si hay que recuperar la soberanía cognitiva equivale a optar por la vasallización. Mientras se delibera, los modelos siguen avanzando y la factura sigue aumentando. Tanto los jóvenes como las empresas europeas ya utilizan masivamente la IA, y el mercado laboral ya está notando sus efectos. El camino que se sigue por defecto conduce a una dependencia total de la hegemonía sino-estadounidense en materia de IA, una dependencia cuyo costo real solo saldrá a la luz cuando se produzca una crisis grave.

Sin embargo, ya se han dado los primeros pasos hacia la soberanía cognitiva. Con el lanzamiento del Mistral Large 4, el 6 de octubre de 2026, que sitúa a Francia en el tercer puesto mundial en materia de IA, Mistral demuestra que, en esta carrera, todo sigue siendo posible.