Asimetrías: la democracia participativa después de la IA

La Inteligencia Artificial en la cresta de la ola

Para iniciar una reflexión profunda sobre el papel actual y futuro de la inteligencia artificial (IA) en los sistemas democráticos contemporáneos, es necesario comenzar con dos aclaraciones ¹. En primer lugar, nos movemos en la cresta. La comunidad científica expresa opiniones divergentes, a veces radicalmente distintas, sobre el tema. Algunos sugieren que la IA podría permitir a los gobiernos democráticos desarrollar políticas más eficaces y posiblemente más incluyentes. Los responsables políticos que utilizan la IA para analizar y procesar grandes volúmenes de datos digitales están en buena posición para tomar decisiones más cercanas a las necesidades y expectativas de las comunidades de ciudadanos. En opinión de quienes ven con buenos ojos el «gobierno de los algoritmos», la IA crea las condiciones para una interacción democrática más eficaz y regular entre los agentes públicos y los actores de la sociedad civil. 

Es más -insisten los promotores de la IA- podría ser utilizada por los propios actores cívicos. En las asambleas de ciudadanos, por ejemplo, la IA puede facilitar el debate, la recopilación de información, la generación de ideas y la creación de consenso. En 2019, por citar solo un caso, Youth For Climate Belgium utilizó la IA para transformar en datos concisos y procesables las 1 700 ideas, 2 600 comentarios y 32 mil votos que los ciudadanos enviaron a una plataforma en línea ². Hélène Landemore escribió que la hibridación de la IA y la inteligencia colectiva desempeñará un papel cada vez más importante en el futuro, que potenciará las capacidades humanas de investigación y resolución de problemas ³.

La IA crea las condiciones para una interacción democrática más eficaz y regular entre los agentes públicos y los actores de la sociedad civil. 

GIANLUCA SGUEO

Otros autores, en cambio, hacen hincapié en las numerosas cuestiones críticas que plantea la «implantación» de una tecnología tan compleja en sistemas políticos y sociales ya de por sí muy complejos y problemáticos.

En primer lugar, consideran que la IA podría otorgar a los gobiernos poderes de vigilancia sin precedentes sobre los ciudadanos. Entre los cuatro escenarios elaborados por la simulación «The Future of Government«, financiada por la Comisión Europea entre 2018 y 2019, uno de ellos imaginaba que los servicios públicos impulsados por la IA se ofrecerían de forma individualizada y predictiva a los ciudadanos, pero a costa de sus libertades ⁴.

Según otros autores, la IA podría exacerbar la desinformación y los “deepfakes”. Con la IA, hemos entrado en una fase de «colapso de la realidad», o mejor dicho, de la realidad sintética. Algunos ya describen las elecciones presidenciales de 2024 en Estados Unidos como «deep fake election«, potenciadas por la IA generativa ⁵. 

Otros incluso creen que la IA también podría socavar los valores democráticos, al perpetuar y amplificar las desigualdades sociales y la confianza en las instituciones democráticas, debilitando así los cimientos del contrato social. En la clasificación del Grupo Eurasia de los principales riesgos para 2023, las «armas de perturbación masiva» -es decir, algoritmos y plataformas de medios sociales acusados de desgarrar el tejido de la sociedad civil al tiempo que maximizan los beneficios- ocupan el tercer lugar ⁶. 

Algunos ya describen las elecciones presidenciales estadounidenses de 2024 como «deep fake election«, potenciadas por la IA generativa. 

GIANLUCA SGUEO

En resumen, como señala Yuval Noah Harari, la creciente interdependencia entre la sociedad, la política y la tecnología, en particular la tecnología algorítmica, podría acelerar la obsolescencia de las instituciones y los procedimientos democráticos. En el próximo siglo, éstos podrían ser sustituidos por «tecnotiranías», sobre todo si las tecnologías de la información se combinaran con la neurociencia, permitiendo a sus algoritmos acceder al pensamiento humano y actuar sobre él ⁷.

Todo esto nos lleva a la segunda aclaración preliminar para entender el impacto de la IA en la democracia participativa: actualmente carecemos de una visión precisa de los beneficios y riesgos que genera dentro de nuestros sistemas democráticos. Así que, al menos en principio, tienen razón tanto quienes nos advierten de los riesgos de la democracia algorítmica como quienes celebran sus virtudes. 

Pero si todos tienen razón, ¿nadie tiene razón? No necesariamente. Estas dos concepciones opuestas dan qué pensar sobre la relación entre algoritmos y democracias.

Una revolución económica 

En 2021, el valor global de la IA se estimaba en 67 mil millones de dólares. Para 2025, se espera que ese valor alcance los 190 mil millones de dólares ⁸. A finales de 2022, el metaverso tenía un valor de 800 mil millones de dólares; Meta por sí sólo invirtió diez mil millones de dólares en ese campo en 2021 ⁹. 

En el debate público sobre el creciente poder de los algoritmos en los sistemas democráticos, el aspecto económico suele pasar a un segundo plano. Esto es un error colosal. Es precisamente la dinámica económica la que define el punto de inflexión en la delicada relación entre tecnología y derechos. Una relación que, tal y como están las cosas, parece caracterizarse más por las asimetrías que por las convergencias. 

El nomadismo digital está fomentando la competencia entre países e instituciones para atraer y retener el talento.

GIANLUCA SGUEO

Más concretamente, existen flagrantes asimetrías en tres dimensiones: Estado y ciudadano; sector público y sector privado; grandes y pequeños operadores privados. La primera asimetría ha sido bien descrita por Victor Storchan, que habla del «tecno-nacionalismo» emergente de la IA. La segunda asimetría contempla la confrontación de empresas cuyos recursos y, en consecuencia, capacidad de influir en las decisiones públicas, superan el producto interno bruto de las economías nacionales de muchos países industrializados. He aquí algunos ejemplos llamativos: si la capitalización bursátil de Apple fuera igual al PIB anual de un país, la marca podría casi formar parte del G7. Del mismo modo, Microsoft sería el décimo país más rico del mundo. Por último, la capitalización bursátil de Amazon es superior al 92% del PIB de varios países occidentales ¹⁰. Tercera y última asimetría: si bien es cierto que existe un pequeño grupo de grandes operadores tecnológicos capaces, como hemos dicho, de ejercer una influencia financiera y política sobre los reguladores públicos, existe en cambio un gran número de operadores privados cuya capacidad de penetrar en los gobiernos y en las dinámicas democráticas sigue siendo muy limitada. Un ejemplo: sólo en Europa existen más de 100 proveedores en el sector de la participación, la deliberación y el voto en línea. El mercado europeo de las tecnologías de participación y deliberación para el sector público tendrá un valor inferior a 100 millones de euros en 2022 ¹¹.

Por otra parte, además del capital financiero, es el capital humano el que se está solicitando por la difusión de la IA. Esto nos lleva de nuevo a la geopolítica. El nomadismo digital está fomentando la competencia entre países e instituciones para atraer y retener el talento. El 53% de los mejores investigadores en IA son inmigrantes o extranjeros que trabajan en un país distinto de aquel en el que obtuvieron su título. La Europa continental atrae al 10% de tales investigadores -el 12.29% del talento en IA está en Londres, el 3.81% en París-, mientras que «exporta» el 18% a terceros países, principalmente a Estados Unidos, que concentra el 11% de los investigadores europeos fuera del continente ¹². La competencia por atraer, retener y beneficiarse de los mejores talentos está creando nuevas tensiones entre las economías nacionales y regionales. Al mismo tiempo, detrás de los asistentes virtuales y el entrenamiento de la inteligencia artificial se esconde un ejército de microtrabajadores, la mayoría de ellos ubicados en países emergentes y a los que apenas se paga un céntimo por tarea.

¿La IA contra la democracia? 

Hemos dicho que, para algunos autores, la IA es fuente de marginación y de nuevas brechas sociales, económicas y políticas, mientras que para otros representa una oportunidad para incluir más intereses en la dialéctica democrática. Se trata de respuestas antitéticas a la misma pregunta: ¿la calidad de las interacciones democráticas provocadas por la IA, y más en general por las tecnologías digitales, es igual o incluso superior a la de las interacciones analógicas?

Quienes responden negativamente a esta pregunta parten de la base de que la «economía de la atención» ¹³ no es patrimonio exclusivo de las tecnologías comerciales. Para algunos de sus críticos, la IA permite desarrollar su sesgo político. La «psicopolítica» -en palabras de Han Byung-Chul ¹⁴– se centra en la seducción: en lugar de mandar y prohibir a individuos y ciudadanos, funciona a través del placer y la satisfacción. Parece permitir a los votantes comprar lo que quieran cuando quieran, convertirse en lo que quieran y cumplir sus sueños. 

Las consecuencias son evidentes. De entrada, las divisiones políticas de fondo ya no son un criterio absoluto de votación si una promesa política que hace un ser humano tiene el mismo valor que la que podría hacer una máquina. Este enfoque, llevado al extremo, ya ha producido algunos resultados provocativos, o grotescos. Es el caso del Partido Sintético, nacido en Dinamarca en 2022, cuyo representante es una inteligencia artificial y cuyas políticas se derivan de la IA ¹⁵. Por otra parte, la población en general, en particular de las generaciones más jóvenes, pero también de las organizaciones de la sociedad civil, está muy mal formada en lo que respecta a los canales de participación.

Los defensores de la IA como herramienta democrática afirman que siempre hemos estado distraídos. Gloria Mark, entre otros, ha deconstruido los lugares comunes sobre nuestra atención, incluidos los de que siempre debemos esforzarnos por concentrarnos cuando trabajamos en nuestras computadoras, y que el desplazamiento interminable de nuestras pantallas es contraproducente ¹⁶. Se trata de un argumento fundamental: si nuestra atención no es totalmente conquistada por la tecnología de la IA, o más bien si se aprovecha mejor gracias a ella, entonces la calidad de la participación ciudadana en la construcción de las decisiones públicas también podría verse beneficiada. Algunas evaluaciones preliminares del impacto de las aplicaciones de la IA, centradas en cómo las personas aprenden y utilizan las herramientas e instituciones democráticas, sugieren que pueden apoyar las interacciones ciudadanas dentro de los espacios democráticos digitales de varias maneras -incluyendo el ensamblaje de información compleja en textos más sencillos, o la personalización y edición de las respuestas ¹⁷.

Sin embargo, la tecnología ha provocado cambios lingüísticos que conducen a la «pereza cognitiva», que impide que el lenguaje capte con precisión los matices y claroscuros. 

GIANLUCA SGUEO

Volvamos a los escépticos. Entre ellos, aparte del argumento de la pérdida de atención, prevalecen dos argumentos. En primer lugar, la tecnología ha provocado cambios lingüísticos que conducen a la «pereza cognitiva», que impide que el lenguaje capte con precisión los matices y claroscuros. En esencia, la simplificación del lenguaje provocada por el uso masivo de la tecnología es una fuente de empobrecimiento cultural, también en lo que respecta a los valores democráticos. En segundo lugar, el uso de las tecnologías de la información y la comunicación es un proceso complejo que puede dar lugar a una ampliación de las barreras existentes entre los ciudadanos multilingües y los que no dominan una segunda lengua: en particular, el inglés para los no anglófonos. Hay que decir que la IA nos ha proporcionado herramientas de traducción automática muy potentes, que permiten mantener diálogos multilingües. Por ejemplo, en la campaña «EurHope» promovida por los Jóvenes Federalistas Europeos, los usuarios tienen acceso a una plataforma digital que les presenta contenidos ya traducidos a la lengua de su elección ¹⁸. Sin embargo, esto no excluye por completo la marginación de determinados grupos sociales. Will Kymlicka sugiere que los hablantes no nativos de inglés pueden quedar excluidos de las conversaciones en línea, de la participación en encuestas web o de cualquier otra forma de participación en línea ¹⁹. O -como ha sugerido Lorenzo Casini- podría provocar una crisis de la idea misma de Estado ²⁰. 

¿Un retraso legal estructural? 

La protección de los derechos mediante normas jurídicas está en el centro del problema. Mucha gente cree que los problemas que hemos encontrado hasta ahora pueden resolverse mediante el uso de normas: «nuevas normas», donde no existen, o «mejores normas», donde sí existen. 

En Europa, pero lo mismo ocurre en muchos ordenamientos jurídicos fuera de Europa, se están debatiendo actualmente importantes expedientes normativos sobre tecnologías digitales. Se refieren a los servicios y mercados digitales, la ciberseguridad, la gobernanza de los datos y, por supuesto, la regulación de la IA. Sobre este último punto, hay que decir que el proyecto normativo europeo se basa en la idea de una clasificación de los riesgos, de inaceptables a controlables.

La cuestión fundamental es la siguiente: ¿hasta qué punto el instrumento jurídico que garantiza los derechos es compatible con sistemas tecnológicos que evolucionan cada vez más rápidamente, generando nuevos riesgos asociados a su utilización?

El hecho de que el Derecho progrese mucho más lentamente que la innovación tecnológica puede considerarse la razón principal del fracaso de muchos intentos de regularla eficazmente. La ciberseguridad y las criptomonedas son sólo dos ejemplos. Ambos se caracterizan por una tecnología en constante evolución y retos complejos, parcialmente abordados por una plétora de reglamentos, normas jurídicas y «soft law«. La «hipertrofia» normativa, como alguien la ha llamado, es un problema bien conocido en la Unión Europea ²¹.

Sin embargo, existe otra forma de enfocar el mismo problema, que consiste en hacer hincapié en los beneficios potenciales derivados de la rápida expansión de los enfoques informáticos para la creación y aplicación del Derecho. La teoría del «dinamismo jurídico» sugiere que una ley, utilizando herramientas informáticas, puede expresarse como una declaración de normas estática o como un objeto dinámico que incluye objetivos de rendimiento del sistema, medidas de éxito y la capacidad de adaptar la ley en respuesta a su rendimiento. El dinamismo jurídico propone marcos de diseño para sistemas hombre-máquina basados en cinco elementos: explicación detallada de los objetivos de rendimiento del sistema; pruebas; diseño de sistemas adaptables y robustos; auditoría continua; y notificación de transacciones sospechosas. Eso también nos permite comprender y apreciar mejor las variaciones en las percepciones de los actores políticos sobre lo que cuenta como prueba ²².

Desde Pierre Levy, la tecnología se ha descrito como un vehículo para alimentar formas de inteligencia colectiva que proporcionen a las instituciones públicas soluciones adecuadas a los problemas globales y faciliten la adaptación de la acción pública a las condiciones contemporáneas ²³. 

Esa es la teoría. En la práctica, sin embargo, el potencial de inteligencia colectiva que emanaría de la participación digital se ve ahogado por graves problemas de accesibilidad y representatividad. La IA aún no ofrece soluciones seguras a esos problemas. Peor aún, crea nuevas perplejidades, algunas de las cuales se ha mencionado en este artículo. Nos quedan tres puntos que considerar brevemente. 

El potencial de inteligencia colectiva que emanaría de la participación digital se ve ahogado por graves problemas de accesibilidad y representatividad. 

GIANLUCA SGUEO

El primero es que la IA está transformando la sociedad a todos los niveles. Pero esta transformación no está acelerando la evolución de los derechos participativos, ni en un sentido (más derechos) ni en el otro (menos derechos). Más bien parece haber desencadenado una transformación sutil y en muchos sentidos incierta: la ósmosis entre las esferas individual y colectiva.

En segundo lugar, la ambición aún incumplida de implicar más y mejor a todos los ciudadanos en la toma de decisiones colectivas gracias a la IA es ante todo una cuestión de representación. Eso no resuelve la crisis democrática, que atraviesa también, y quizás sobre todo, otros problemas: la relación público-privado; el declive demográfico; el analfabetismo digital; y la movilidad social, por citar sólo los más importantes.

Un último punto: el mérito -o demérito, según se mire- del progreso tecnológico, incluida la IA, es que ha enfrentado a las estructuras democráticas contemporáneas con los problemas de la escasez y la previsión. La escasez, debida principalmente a la percepción generalizada de una disminución de las oportunidades de progreso social, así como a los riesgos percibidos de marginación y control provocados por la evolución tecnológica, se ve contrarrestada por el surgimiento de la IA, que proyecta hacia el futuro a quienes la utilizan y les da la ilusión de la previsión. Las estructuras democráticas y las instituciones políticas se esfuerzan por gestionar esas dos fuerzas opuestas, lo cual crea tensiones que socavan los sistemas democráticos. El resultado es sorprendente: al ciudadano digital, en comparación con su homólogo analógico, se le ofrecen perspectivas deslumbrantes, pero le cuesta hacerlas realidad porque no está preparado para cultivarlas.