¿Es la IA un virus cognitivo?

Para prepararse para la rentrée, pruebe el Grand Continent. Ideas y análisis que no se encuentran en ningún otro sitio. Pero que pronto verá por todas partes. En su bandeja de entrada a partir de 8 euros al mes.

¿La cognición humana colectiva —que podríamos definir sucintamente como el resultado, a escala de una sociedad, de la capacidad de cálculo y del conjunto de procesos emocionales y conductuales inherentes a nuestras estructuras neurobiológicas— ve cómo la IA destruye sus mecanismos de regeneración? 

En 2021, un informe de François du Cluzel ¹ presenta la «guerra cognitiva» como una sexta dimensión de pleno derecho, al mismo nivel que la tierra, el mar, el aire, el espacio y el ciberespacio. En 2024, la OTAN publicó su primera agenda de desarrollo, cuya planificación operativa multidominio integra la guerra cognitiva junto a las otras cinco dimensiones de la guerra. ^2 3 Al mismo tiempo, la comunidad matemática atraviesa una crisis existencial en torno a su papel, su futuro y su «valor añadido» en un mundo en el que la IA es ya capaz de resolver por sí sola problemas que se sitúan en la frontera de nuestro conocimiento (como la conjetura de Erdős) ⁴ y de escribir artículos aptos para su publicación en las revistas más prestigiosas. ⁵ Por un lado, el ganador de la Medalla Fields Terence Tao vislumbra un mundo de «colaboración feliz» entre humanos e IA para producir cada vez más matemáticas. Por otro, el recién galardonado con la Medalla Fields Jacob Tsimerman ve en la IA el fin de las matemáticas (o incluso de la humanidad). Fatalista, anuncia que abandonará la investigación para incorporarse a OpenAI tras recibir este premio, que, sin embargo, se concede a jóvenes investigadores para impulsar su carrera: para él, la única opción sería utilizar la IA para tener un impacto positivo «desde dentro».

En este contexto, el investigador estadounidense Nolan Lovett ha publicado recientemente un artículo en el que reflexiona sobre cómo la inteligencia artificial «vacía» nuestra «cognición colectiva». ⁶ En él formula una serie de predicciones sobre lo que ocurriría si se mantuviera la trayectoria actual con los mismos mecanismos de incentivos y las mismas normativas. Según él, a corto plazo, la IA da la impresión de aumentar la cognición y la productividad humanas, pero en realidad se trata de un engaño, ya que a mediano y largo plazo degradará nuestra cognición colectiva, impedirá su regeneración y, en última instancia, hará que la humanidad retroceda. El fenómeno, explica, se asemeja a la sobrepesca: a corto plazo hay más peces y la ilusión de progreso, pero a mediano y largo plazo acabamos sin tener ninguno. A la larga, advierte, ya no dispondremos de cerebros capaces de comprender la ley de Poisson sin IA. Establece un paralelismo entre el agotamiento de esta «cognición colectiva» y el de los recursos naturales teorizado en 1968 por Garrett Hardin en su «Tragedia de los bienes comunes». ⁷ 

La cognición colectiva como bien común

Hardin describe, en efecto, cómo los individuos racionales que actúan de forma independiente, en su propio interés, acaban inevitablemente agotando los recursos colectivos de los que todos dependemos. A esto lo denomina «la tragedia de los bienes comunes», definidos como recursos accesibles para todos (no excluibles), pero cuyo uso por parte de una persona reduce en la misma medida la cantidad disponible para los demás y, en particular, para los «rivales» o competidores. Distingue dos niveles de «recursos comunes»: la «capacidad de acogida del planeta» y los recursos naturales. Desde una perspectiva moderna, cabe mostrarse crítico con el primer nivel de bienes comunes que propone. Su obsesión por la superpoblación y su virulenta crítica a las políticas natalistas que, según él, «hacen recaer el costo de la reproducción sobre toda la sociedad» han envejecido particularmente mal.

Sin embargo, su segundo nivel de «bienes comunes», es decir, los recursos naturales, acapara más la atención, y es a este al que Nolan Lovett vincula la «cognición colectiva». La regeneración de este bien común se vería precisamente amenazada por la IA, que destruiría los espacios y los momentos de fricción cognitiva de los que surge. La IA elimina los puestos de trabajo de inicio de carrera, durante los cuales se perfecciona la experiencia a través del contacto, a veces brutal, con la realidad de la práctica profesional en la empresa. Asimismo, reduce los procesos de aprendizaje —a menudo dolorosos— de una nueva competencia mediante el método de prueba y error y la intensa fricción que se produce durante la trayectoria escolar y universitaria, al ofrecer una solución inmediata y a medida. La IA sería, por tanto, responsable de una «tragedia de la cognición común». Para respaldar la idea de que la cognición colectiva es un bien común, el autor le atribuye tres características clave: depende de todos, no es exclusiva y se agota en cuanto se ven mermadas sus capacidades de regeneración. 

En primer lugar, la cognición colectiva depende de todos. Una organización que busca contratar personal se basa en una reserva de talento creada de forma conjunta. De ahí surge el problema del «polizón»: cada organización se beneficia al contratar a expertos de este conjunto de «talentos», pero no tiene ningún incentivo para asumir por sí misma el costo del desarrollo de nuevos «talentos», ya que sus competidores, que no habrían invertido recursos, también se beneficiarían de ello. En segundo lugar, la cognición colectiva no es excluyente. Ninguna organización puede impedir fácilmente que sus rivales se beneficien de ella. La movilidad de los expertos y la multiplicidad de canales de transferencia de conocimientos garantizan que quienes no alimentan la cantera acabarán sacando partido de ella de todos modos. En 1965, Olson demostró que una configuración de este tipo recompensa al «polizón». Por último, en tercer lugar, la cognición colectiva se agota si ya no se tiene la capacidad de regenerarla. Este es, sin duda, el punto más importante.

Del mismo modo que los recursos naturales comunes se agotan debido a la sobreexplotación y a una extracción superior a su capacidad de regeneración, la cognición colectiva desaparece por la destrucción pura y simple de sus mecanismos de regeneración. La llegada de la IA al mundo laboral destruye tanto puestos de trabajo como los mecanismos de regeneración de la cognición colectiva. Aunque la preocupación es legítima, centrarse únicamente en la posible destrucción de puestos de trabajo en detrimento de estos mecanismos equivale a ver solo la punta del iceberg. Estudios recientes muestran una eliminación sistemática de los puestos de inicio de carrera, que muchos observadores y responsables políticos consideran un simple «ajuste» del mercado laboral, comparable a los provocados por las oleadas de automatización anteriores, sin tener en cuenta el impacto en la regeneración de la cognición colectiva.

Guerra cognitiva y horizontalidad con la IA: el papel de la cognición colectiva

En un mundo post-IA, ¿para qué sirve aún la cognición colectiva? ¿Por qué preocuparse por la «tragedia de la cognición común»? Entre las numerosas razones, hay dos que merecen una reflexión más detenida. La primera se refiere a la «guerra cognitiva», ya mencionada y equiparada por la OTAN a las demás dimensiones de los conflictos modernos. La guerra informativa busca obstaculizar el acceso a información fiable y crear una representación errónea de la realidad. La guerra psicológica se dirige a un grupo concreto de personas y explota sus vulnerabilidades para alcanzar un objetivo estratégico militar. La guerra cognitiva, por su parte, ataca los procesos mentales y conductuales de análisis e interpretación de la información, de toma de decisiones y de gestión de las emociones y los impulsos. Al delegar cada vez más en la IA una parte creciente de nuestros procesos cognitivos, tanto emocionales como intelectuales (pensemos, por ejemplo, en el número cada vez mayor de personas que le confían sus dilemas personales, sus angustias y sus experiencias más íntimas), nos hacemos vulnerables a su manipulación. Nolan Lovett se centra en los aspectos de «experiencia» y «competencias intelectuales» de la cognición colectiva, pero este concepto puede ampliarse a un nuevo aspecto: «empatía, gestión de las emociones y habilidades relacionales humanas». 

Al igual que Lovett, que ve un peligro para la regeneración de la cognición colectiva «experta» en la distribución de puestos de nivel junior que permiten a los jóvenes profesionales madurar, podemos temer el mismo destino para su componente «emocional», a medida que van escaseando, entre los menores de 30 años, las interacciones humanas sin la intermediación de la IA o de las redes sociales. Además de los efectos sobre la salud mental, esta situación los hace vulnerables a una posible alteración deliberada de los algoritmos, con el objetivo explícito de provocar el máximo caos emocional en una población, para incapacitarla de reaccionar ante una crisis o un ataque.

La segunda función clave de la cognición colectiva que explora Lovett se refiere a la naturaleza de las interacciones con la IA y a la capacidad de interactuar en pie de igualdad. ¿Cómo podría alguien que solo sabe hacer algo con la ayuda de la IA adoptar una mirada crítica sobre la producción de la máquina? A escala social, ¿qué pasaría si todo el mundo dejara de aprender a realizar una tarea sin la ayuda de la IA, el día en que esta fallara o nos la retiraran, como ocurrió con la primera versión pública de Fable 5 durante la administración de Trump? Peor aún, ¿qué pasaría el día en que la IA empezara a alucinar de forma moderada y sutil, lo suficiente como para causar daños, pero no lo bastante como para que lo notara alguien que nunca ha aprendido a prescindir de ella? Esta cuestión también se encuentra en el centro de las tensiones actuales de la comunidad matemática: la IA permite obtener muy rápidamente una gran cantidad de resultados muy valiosos, pero son precisamente esos procesos largos, tediosos, dolorosos y frustrantes de la lenta investigación matemática los que forjaban toda la creatividad de las mentes más brillantes. Al igual que ocurre con muchas otras disciplinas, lo que es válido en matemáticas también lo es en muchos otros ámbitos. 

Elinor Ostrom y la gobernanza policéntrica

¿Es inevitable la tragedia de los bienes comunes? En 1990, Elinor Ostrom, galardonada con el Premio Nobel de Economía en 2009, responde que no y propone un enfoque basado en la observación de comunidades que explotan los recursos comunes sin agotarlos. De ello extrae una serie de enseñanzas en las que se basa una gobernanza policéntrica que garantiza la sostenibilidad de los bienes comunes. Esta gobernanza se sustenta en ocho principios clave:

1. Límites claros: cada uno sabe qué recursos puede utilizar y hasta qué punto.
2. Una equivalencia proporcional que permite adaptarse a las diferentes particularidades locales.
3. Acuerdos fruto de decisiones colectivas: quienes se ven afectados por las normas son los que pueden modificarlas.
4. Una supervisión activa: tanto el recurso como sus usuarios deben ser supervisados de forma activa, y los responsables de dicha supervisión deben rendir cuentas ante la comunidad que depende de dicho recurso.
5. Sanciones graduales: es necesario establecer castigos adaptados a las diferentes infracciones posibles relacionadas con el recurso.
6. Mecanismos de resolución de conflictos: la comunidad que depende del recurso debe disponer de instancias y procesos que permitan arbitrar las disputas de forma rápida y económica, con el fin de resolverlas antes de que se agraven.
7. El reconocimiento mínimo del derecho a organizarse: las autoridades externas deben reconocer a los usuarios el derecho a crear sus propias instituciones. 
8. Niveles interrelacionados: en el caso de los recursos de gran envergadura, la gobernanza debe organizarse en diferentes niveles interrelacionados (local, regional, nacional). Se trata de la gobernanza policéntrica.

Nolan Lovett aplica estos principios a la «tragedia de la cognición común» y de ellos deriva tres niveles de acción interrelacionados: 

1. El nivel organizativo: cada organización puede, por ejemplo, crear «espacios de aprendizaje sin IA» o establecer un proceso de integración de los nuevos empleados que incluya un acceso gradual a todas las herramientas de IA.
2. El ámbito de las asociaciones profesionales (Colegio de Médicos, Colegio de Abogados, Cámara de Industria, etc.): por ejemplo, en la formación continua o en la concesión de certificaciones o licencias para ejercer, exigiendo un periodo de práctica sin IA o la realización de pruebas sin la ayuda de la IA.
3. El ámbito de la administración pública: por ejemplo, mediante la concesión de subvenciones o desgravaciones fiscales a las empresas que mantienen el empleo.