El trabajo de Antonio Casilli describe las microtareas de anotación realizadas por «los asistentes de la IA», necesarias para el desarrollo de aplicaciones como ChatGPT y a menudo invisibles. Necesarias para lograr las espectaculares proezas de la IA, ponen en perspectiva el alcance de su «inteligencia» y, sobre todo, su autonomía en relación con un sistema basado en mano de obra humana poco cualificada que mantiene y agrava las desigualdades a gran escala.
Esta conversación es el tercer episodio de nuestra serie «Poderes de la IA«.
¿Diría que estamos entrando en una nueva era para la IA con los LLM y generative AI? Bill Gates dice que ChatGPT cambiará el mundo, mientras que Yann Le Cun afirma que no tiene nada de revolucionario. ¿Cree que nos encontramos en un punto de inflexión? ¿Cómo ve la historia reciente de la IA?
No pienso en términos de cambio de paradigma, sino más bien en términos de tendencias históricas y socioeconómicas a lo largo del tiempo. Desde ese punto de vista, los LLM no representan un cambio radical, en la medida en que se trata de machine learning con una intensidad de datos muy elevada. Son modelos cada vez más hipertróficos, con billones de parámetros (no para ChatGPT, sino para Google Tense flow y Alibaba). Llevamos 15 años viendo lo mismo.
Analizo la sociedad civil con mis lentes de sociólogo, pero no podemos ignorar que tuvimos el choque exógeno del Covid. Fue el momento de la retórica ambiental, de los discursos de acompañamiento y del lenguaje de marketing, y de revitalizar todas las consignas que ya estaban ahí hace 10 años. En el momento de la primera ola, hablábamos de big data, luego de algoritmos, y ahora, en el lenguaje general, sólo hablamos de IA. La pandemia fue una época en la que, debido a las restricciones a la circulación de personas y mercancías, tuvimos que utilizar métodos de análisis de actividades que ya no podían hacerse en persona. Hubo todo un florecimiento de soluciones de trabajo a distancia. Para ello se utilizaba la inteligencia artificial, mientras que, en realidad, en la mayoría de los casos, las tareas se delegaban a personas a miles de kilómetros de distancia. Mi trabajo y el de mi equipo ha consistido durante años en viajar por todo el mundo para conocer a los humanos que fabrican la IA.
Así que el cambio es cuantitativo -en términos de recursos- más que cualitativo. ¿Puede describir cuáles son las microtareas necesarias para producir hoy modelos de IA como ChatGPT?
Hay tres tipos de microtareas: las que arreglan la IA, las que verifican la IA y las que imitan la IA. Las microtareas son informáticas, se realizan a través de plataformas y consisten en procesar grandes masas de datos fragmentándolos y atomizándolos en pequeños proyectos. Cientos de millones de personas en todo el mundo trabajan con ellos, según las estimaciones de nuestros colegas de Oxford.
Hay tres tipos de microtareas: las que arreglan la IA, las que verifican la IA y las que imitan la IA.
ANTONIO CASILLI
Se trata, por ejemplo, de generar muestras de conversaciones en una lengua determinada, imágenes de animales o alimentos. Estos datos deben enriquecerse con microtareas que sirvan para preparar a la inteligencia artificial para la notación de datos. Hay que etiquetar las fotos de animales (¿son perros? ¿son gatos?) para alimentar las enormes bases de datos que utilizarán los algoritmos de aprendizaje automático.
También están las microtareas de verificación: por ejemplo, ver si la máquina reconoce cierto idioma. En ChatGPT, los usuarios-testers pueden enviar prompts y se les anima a dar su visto bueno para indicar si están de acuerdo o no con el texto generado. En ese caso, esa microtarea de verificación no se paga, pero sí se paga a otras personas por hacer lo mismo.
La tercera actividad, la que da escalofríos, son las microtareas de imitación de inteligencia artificial. Desde cierto punto de vista, son engaños a la inteligencia artificial; se puede pensar, a largo plazo, en el turco mecánico, que era un falso jugador de ajedrez automático, en el que se escondía un ser humano. En nuestras investigaciones, nos encontramos con empresas que utilizan inteligencia artificial falsa, ya sea porque se trata de un fraude comercial o porque forma parte del oficio. El conocido método del Mago de Oz de tener dos máquinas conectadas (una utilizada por un usuario real y la otra fingiendo ser una máquina), como en un test de Turing, existe desde hace casi 50 años. Es conocido, aunque siempre da miedo al mencionarlo. Siempre se nos acusa de exagerar un poco, pero lo cierto es que estos tres tipos de microtareas son sistemáticas, incluso las tareas de imitación. A veces, cuando la máquina es deficiente y la inteligencia artificial no funciona, algunas personas pueden darle un empujoncito al algoritmo.
Esos son los tres tipos de tareas que producen las contribuciones humanas a la actividad de los motores de búsqueda a través de la inteligencia artificial. Esas tareas seguirán siendo necesarias mientras sigamos haciendo machine learning. También cabe esperar que el paradigma cambie y que pasemos a otro paradigma de aprendizaje, que podría ser el gran rival del aprendizaje simbólico, o inventar algo completamente nuevo; pero por el momento, estamos en una situación caracterizada por una enorme cantidad de trabajo humano que debe inyectarse constantemente para que funcione la infraestructura de la IA.
Estamos en una situación caracterizada por una enorme cantidad de trabajo humano que debe inyectarse constantemente para que funcione la infraestructura de la IA.
ANTONIO CASILLI
Este trabajo, aparentemente accesible a la mayoría de las personas con conocimientos básicos, agrava ciertas desigualdades, en particular la de género. ¿Por qué ocurre esto?
En primer lugar, debemos recordar cómo llegamos a realizar este microtrabajo. Si alguien quisiera empezar a hacer microtrabajo hoy, primero tendría que saber a dónde dirigirse. Hay varias maneras, la más sencilla es acudir a plataformas de Internet. Son como las bolsas de trabajo tradicionales, salvo que no son empleos en el sentido formal. Es un freelance extremo, porque te contratan por un minuto para mirar 15 fotos o dejar un comentario en un buscador. Te pagan unos céntimos, o incluso unos dólares. La inflación está subiendo y eso repercute en las microtareas. Hace quince años se pagaban unos céntimos; ahora empieza a pagarse en torno a un dólar. Cuando se hacen estimaciones, se ve que la mediana ronda los 2 dólares la hora. A esas personas no se les contrata, no tienen horarios fijos, se les pagan sólo los minutos que trabajan.
Unos meses después del lanzamiento de ChatGPT, Time Magazine descubrió que había gente en Kenia haciendo ese tipo de microtareas, y que se les pagaba entre 1.34 y 2 dólares la hora. Esas microtareas muestran un cambio en nuestra forma de funcionar; algunas de esas actividades están fuera de la civilización salarial, fuera de la protección del código laboral.
Algunas de las desigualdades son más pronunciadas entre las poblaciones ya debilitadas y marginadas, y que ya tienen dificultades para acceder al mercado laboral. En los países más ricos del Norte, las mujeres son ligeramente mayoritarias entre los que trabajan en este tipo de plataformas. En Francia, en nuestra última encuesta de 2019, el 56% de los microtrabajadores son mujeres, y son sistemáticamente ellas las que menos ganan, las que recurren a este tipo de actividad para completar su salario principal, porque trabajan a tiempo parcial. En nuestra encuesta, se trata sobre todo de mujeres que viven solas con hijos. Tienen que hacer malabares entre su actividad principal, el microtrabajo, el trabajo doméstico y el cuidado de los niños. No tienen tiempo para dedicarse a encontrar las mejores microtareas ni a formarse; por eso ellas son las microtrabajadoras peor pagadas.
En Venezuela, el salario medio nacional ronda los 5 dólares al mes. Por lo tanto, si esas personas consiguen ganar 2 o 3 dólares al mes, lo consideran un buen complemento.
ANTONIO CASILLI
Así se constata la discriminación económica que se suma a la discriminación de género. Hay otros tipos de discriminación más graves porque son más amplios; por ejemplo, la discriminación vinculada al origen, la lengua u otras dimensiones étnicas. Hablamos de trabajos que tienden a crear cadenas internacionales de subcontratación. Los países en los que se encuentran personas dispuestas a trabajar por salarios bajos son países de renta baja. Mi grupo de investigación ha pasado los últimos años en Egipto, Madagascar, Venezuela, Chile y Colombia, países en los que vemos situaciones muy diferentes. Sin embargo, la inmensa mayoría de las personas que trabaja en tales plataformas son hombres.
En un mercado laboral hipercompetitivo en el que el acceso al trabajo no está garantizado para todos, son las personas mejor posicionadas las que buscan el microtrabajo. Aunque tenga muchos inconvenientes, dados los niveles salariales y el costo de la vida en esos países, no deja de ser un trabajo de calidad. En Madagascar, los microtrabajadores consiguen un salario de 95 euros al mes, que no es suficiente para vivir en una gran ciudad como Antananarivo. En Venezuela, el salario medio nacional ronda los 5 dólares al mes. Por lo tanto, si esas personas consiguen ganar 2 o 3 dólares al mes, lo consideran un buen complemento, sobre todo porque proviene de una moneda estable. A diferencia del bolívar, la moneda local, que se deprecia de un día para otro, el dólar tiende a mantenerse estable.
¿Cree que la precariedad de los trabajadores digitales está relacionada con los esfuerzos por ocultar la dependencia de la IA a ese tipo de mano de obra?
Cada vez estoy menos seguro de que estemos ante una situación en la que un único factor, una única variable incida en este contexto, que es bastante complejo. Efectivamente, hay un elemento ligado al tipo de tarea que hay que realizar. En los últimos 15 años se ha producido un cambio en la forma de procesar la información. Si antes buscábamos anotadores expertos en gestión de datos, era para entrenar a los sistemas. Con la irrupción del machine learning, el método ha cambiado. Ya no son los expertos quienes tienen que entrenar a las máquinas.
Si antes buscábamos anotadores expertos en gestión de datos, era para entrenar a los sistemas. Con la irrupción del machine learning, el método ha cambiado. Ya no son los expertos quienes tienen que entrenar a las máquinas.
ANTONIO CASILLI
A los microtrabajadores se les pide que hagan anotaciones no muy sofisticadas. Por eso el microtrabajo forma parte del trabajo no calificado; pero, en realidad, hay que formarse para hacer juicios de sentido común sobre los datos. ¿Es un perro o un gato? ¿Esa conversación en ese fragmento de audio es una persona susurrando o una persona gritando? Suele tratarse de actividades que, por apelar al sentido común, deben hacerse por un grupo situado en el centro de la distribución. Se necesita una gran muestra de personas que realicen la tarea para llegar a ese centro.
Puedo imaginar que su profesión se ha estructurado creando distancia con el conocimiento no experto, que es el ABC de la historia de las profesiones. Cualquier profesión, incluida la profesión de algorítmico, científico de datos o experto en inteligencia artificial, tiene que explicar que las habilidades que utiliza no están disponibles para todos.
El «todos» así entendido, son cientos de miles de microtrabajadores en todo el mundo, que participan exactamente en el mismo oficio, en la misma cadena de producción, y que son considerados como personas sin calidad. Recuerdo un comentario especialmente violento de un ingeniero de IBM en una conversación al margen de una conferencia, cuando le contaba que estábamos estudiando el microtrabajo: «Eso no es nada, son unos indiecitos que barren cuando nosotros hemos terminado». Los comparó de una manera muy paternalista y violenta con quienes se encargan de la limpieza. Creo que esto es particularmente fuerte y contribuye a la relativa invisibilización del trabajo. En los países del Norte, esos trabajadores son invisibles, porque no los vemos. Están en Madagascar, Venezuela, Colombia, donde trabajan en cibercafés, en sus casas o en empresas bien establecidas. Hay barrios enteros en la capital de Madagascar por los que pasa la enorme «carretera de los hidrocarburos», un distrito industrial en el que hay muchas empresas y plataformas que hacen ese tipo de trabajo.
Los aumentos de la productividad masiva siempre han generado temores, a veces irracionales. En 2013, Osborne y Frey predijeron que, para 2030, el 47% de los empleos en Estados Unidos habrían sido destruidos por la IA y los robots. ¿Cuál es su opinión?, ¿estamos en un clásico ciclo schumpeteriano de «destrucción creativa» o en un momento de sustitución por robots?
Estamos en un proceso de precarización y sustitución de gente mejor protegida por gente peor protegida. Lo que Osborne y Frey dijeron en ese informe fue muy rápidamente cuestionado por prácticamente toda la comunidad científica. En 2019, el año de la crisis sanitaria, estábamos en una situación en la que el empleo no se había hundido. De la misma manera, hoy, con una crisis geopolítica en Europa y una crisis sanitaria importante, estamos en una situación en que la perspectiva es no haber perdido el 47% de los empleos en 7 años.
Por otro lado, podemos ver que hay dos tendencias: la primera es una tendencia a largo plazo hacia la erosión de los derechos laborales y las conquistas sociales. Se trata de un proyecto político de la derecha conservadora en prácticamente todos los países del mundo. Decir trabajadores menos protegidos significa también salarios más bajos, y salarios más bajos significa que una mayor parte del valor producido puede ir a los inversionistas, que ya están de acuerdo con ese tipo de proyecto. La inteligencia artificial no es, en mi opinión, un caballo de Troya, sino una artimaña para erosionar las conquistas sociales. El objetivo final es disciplinar el trabajo que queda. No niego que se destruirán puestos de trabajo. Un puesto de trabajo destruido no significa un robot que se ponga a trabajar, sino 56 mil personas que harán microtrabajo por todo el mundo. Por desgracia, es algo que ya está ocurriendo en Francia, incluso en la función pública, por no hablar de las grandes empresas francesas. Las promesas de automatización esconden proyectos de microtrabajo en los que recuperamos de los inversionistas lo que vamos a subcontratar a otros países.
Las promesas de automatización esconden proyectos de microtrabajo en los que recuperamos de los inversionistas lo que vamos a subcontratar a otros países.
ANTONIO CASILLI
Hay un matiz que me gustaría subrayar: debemos establecer una diferencia entre robotización y automatización inteligente. El objetivo de la robotización es sustituir el esfuerzo humano. Así ha sido durante siglos. Durante el Renacimiento y el final de la Edad Media, se pensaba en las máquinas como un medio para limitar el esfuerzo humano. Los robots tienden a sustituir a los seres humanos que realizan trabajos físicos. En cambio, la inteligencia artificial -y sobre todo la automatización inteligente, con un componente muy alto de operaciones a realizar sobre datos- no pretende sustituir al trabajo humano. Al contrario, pretende complementarlo, integrarlo, mejorarlo y refrescarlo. Desde ese punto de vista, no podemos prescindir de los seres humanos. Los llamados aumentos de productividad prometidos no se cumplen cuando observamos las estadísticas a escala mundial. La tasa de crecimiento de la productividad es la más baja de los últimos 20 años. Es un contrasentido, una irreflexión que no se parece a un ciclo schumpeteriano. Es más bien un deslizamiento hacia abajo si nos fijamos en cómo se articula la evolución de la tasa de productividad en los últimos años.
En Atlas of AI, Kate Crawford plantea la cuestión de la verdadera naturaleza de la colaboración entre el hombre y la máquina. Ante todo, esa colaboración refleja una asimetría de poder que no se negocia equitativamente. Habla de compromiso forzado (podemos pensar en los trabajadores de plataformas de reparto, por ejemplo). ¿Cómo podemos pensar mejor la automatización para incluir a los humanos en el bucle a la hora de diseñar esos sistemas?
El trabajo de Kate Crawford y de toda la gente que la rodea es muy importante, sobre todo porque es una forma de salir. Libros como Atlas of AI subrayan el hecho de que la inteligencia artificial no es sólo algo inmaterial. Por el contrario, es una infraestructura global, que abarca decenas de miles de kilómetros e implica a cientos de millones de personas. Es muy material, con datos y algoritmos, pero también baterías, litio, cobalto, tierras raras y estaño. En mi opinión, una de las posibles salidas es pensar en una articulación entre la parte material -los dispositivos inteligentes- y la parte inmaterial -los datos-. Son investigaciones un poco más oblicuas en relación con nuestras actividades, pero paralelamente a nuestro trabajo, vamos a ver qué ocurre en las minas de níquel y cobalto o en los yacimientos de litio.
Una de las posibles salidas es pensar en una articulación entre la parte material -los dispositivos inteligentes- y la parte inmaterial -los datos-.
ANTONIO CASILLI
Hay una continuidad entre los espacios en los que se producen los datos y aquellos en los que se produce la base mineral de nuestra inteligencia artificial. Tenemos que empezar a pensar de forma más global sobre la gobernanza de las cadenas de producción. No se trata sólo de los usuarios finales, de los usuarios que están en el Norte del mundo y que pueden opinar o echar un vistazo al algoritmo. Cuando se está en la fase del algoritmo, ya se está al final de la cadena. El daño ya está hecho, los problemas ya se han producido en otros lugares, y no estamos seguros de haber conseguido resolverlos. Tenemos que subir por la cadena y resolver el problema en toda ella. También corresponde a las grandes multinacionales de la IA y la tecnología hacer un esfuerzo por respetar las leyes existentes. Hay textos a favor de la responsabilidad social y medioambiental de las multinacionales. Las empresas del sector textil, por ejemplo, son responsables de lo que ocurre a lo largo de la cadena de producción. Son responsables del cumplimiento de una serie de normas y leyes. ¿Por qué las empresas tecnológicas no deberían estar sujetas al mismo tipo de obligaciones? Esta es la pregunta que queda abierta.
Estoy dispuesto a imaginar grandes utopías, un gran mundo de internacionalización, de plataformas anarquistas organizadas de modo federativo. Pero antes, hagamos respetar las leyes que ya existen y que protegen eficazmente a las personas afectadas por esta transformación, y empecemos por limitar ese tipo de daños.
En una entrada de blog, Sam Altman propone una reforma del capitalismo y la redistribución de la riqueza en un mundo en el que la IA produce por sí sola la mayoría de los bienes y servicios. Propone gravar las rentas del capital en lugar de las del trabajo, lo que creará menos valor económico en el sentido en que lo entendemos hoy, o bien un impuesto a las empresas del 2.5% de la valoración anual, pagadero en acciones y redistribuido después entre todos los ciudadanos adultos. ¿Cómo imagina las implicaciones políticas de una sociedad con IA? ¿Es una pregunta razonable para plantearse ahora?
Uno de los puntos de partida de este tipo de reflexión es abandonar las propuestas al estilo Altman, que se basan en la falsa suposición de que avanzamos hacia un mundo en el que la automatización es realmente artificial. Cuanto más inteligente se vuelve la inteligencia artificial, menos artificial es. Cuando hablamos de un impuesto sobre los robots o de una renta de ciudadanía basada en el hecho de que las personas ya no trabajan, estamos haciendo un análisis equivocado. Al contrario, tenemos que inventar políticas públicas que tutelen más a las personas cuyo trabajo sigue siendo necesario, al menos para mantener la enorme infraestructura que es la inteligencia artificial. Hay que reconocer el carácter profundamente redistributivo de estas medidas. Si no pensamos en términos de redistribución de la renta o de la riqueza -que obviamente es una mala palabra para un multimillonario estadounidense-, vamos a tener un problema. Si no hay una base socioeconómica que justifique esas medidas, serán nulas, inaplicables, agravarán las desigualdades sociales y provocarán aún más conflictos. Incluso se podría decir que sería deseable que hubiera más conflictos que en la situación actual. En mi opinión, tenemos que empezar a pensar; hay que saber que la renta de ciudadanía debe ser una renta primaria, que se parece mucho más al salario vitalicio de Bernard Friot que a la renta universal de Elon Musk.
Tenemos que empezar a pensar; hay que saber que la renta de ciudadanía debe ser una renta primaria, que se parece mucho más al salario vitalicio de Bernard Friot que a la renta universal de Elon Musk.
ANTONIO CASILLI
De esto hablo al final de mi libro Esperando a los robots. En realidad, se trata de dos visiones completamente incompatibles, porque se basan en supuestos completamente diferentes: por un lado, la visión de Silicon Valley implica que el trabajo desaparece y que tenemos que inventar una manera de hacer caridad, altruismo efectivo; por otro lado, tenemos el supuesto completamente diferente de que no podemos deshacernos del trabajo. En este paradigma, los trabajadores no desaparecen, a lo sumo se intenta hacerlos invisibles y enviarlos a otro continente, pero la mano de obra permanece y aumenta. Desde el Covid, ha habido un aumento en el número de personas registradas en plataformas de microtrabajo y en la actividad declarada de esas plataformas. Antes tenían 400 mil o 500 mil trabajadores; ahora tienen 2 o 3 millones de usuarios. Hay que tomar esas cifras con cautela, porque intentan alardear para atraer a los inversionistas, pero esa fuerza de trabajo sí está creciendo en número.
