Su historia del sentimiento de reticencia hacia la tecnología introduce el concepto de «tecno-negatividad». ¿Por qué acuñar esta nueva expresión?
Me sirve para expresar un sentimiento difuso, omnipresente en nuestra época: la impresión de que muchas tecnologías contemporáneas no cumplen sus promesas de mejorar nuestro bienestar personal o colectivo. En nuestras sociedades, muchos ya no están convencidos de que el progreso tecnológico pueda ser sinónimo de desarrollo social o económico. Se sienten frustrados por la forma en que la IA automatiza las tareas hasta el punto de dejar a la gente sin empleo, por el hecho de que las redes sociales alimentan adicciones y una pérdida general de la atención, por la monstruosa huella de carbono de los centros de datos, y por el hecho de que el futuro de todo esto parece estar determinado en gran medida por un pequeño número de grandes empresas tecnológicas sin la participación de los gobiernos democráticos o de la población en general.
Por extensión, «tecno-negatividad» es también el término que utilizo para referirme al deseo resultante de destruir los objetos tecnológicos, de expulsarlos de nuestras vidas, de nuestras comunidades o de nuestros lugares de trabajo.
Este deseo no es en absoluto trivial. Se trata de un fenómeno global, antiguo, que hoy en día está ganando en intensidad y ambición, ya sea mediante ataques reales contra las infraestructuras tecnológicas o simplemente por la negativa de la gente a utilizar ciertas plataformas o ciertos dispositivos. Lo que me interesa es tratar de comprender qué se esconde detrás de este deseo, y de dónde proviene.
También destaca que, históricamente, las motivaciones de lo que usted denomina «tecno-negatividad» son muy diversas.
Efectivamente. En la Europa del siglo XVIII, por ejemplo, los gobiernos intentaron en varias ocasiones frenar el surgimiento de nuevas tecnologías, llegando incluso a perseguir a los inventores y a quemar máquinas en las plazas públicas. Una de las razones principales era que creían que las máquinas reemplazarían a los trabajadores, lo que provocaría revueltas. Para estas élites, la tecnonegatividad era un medio para conservar su poder político.
Unas décadas más tarde, en el Reino Unido, la tecnofobia se convertiría, por el contrario, en una herramienta para atacar el poder de la élite: los luditas —tejedores que veían amenazados sus medios de subsistencia y su oficio por la llegada de los telares automatizados— incendiaron fábricas, destruyeron máquinas y amenazaron a los directores de las mismas.
Unos siglos más tarde, un grupo radical —el «CLODO», siglas de «Comité Liquidant ou Détournant les Ordinateurs»— surgió en Toulouse en la década de 1980. Sus miembros se colaban en empresas informáticas e incendiaban tarjetas magnéticas y otros equipos informáticos primitivos, exponiendo sus motivaciones en comunicados enigmáticos. Al igual que los luditas antes que ellos, buscaban atacar a las empresas y a los Estados que se beneficiaban del progreso tecnológico. Pero, a diferencia de los ingleses, sus motivaciones iban mucho más allá de los derechos de los trabajadores y eran mucho más profundas: las computadoras favorecían un estrechamiento de los vínculos entre las industrias tecnológicas, la guerra y el mantenimiento del orden, al tiempo que empobrecían de manera general la vida cotidiana para convertirla en un sistema predecible y carente de sorpresas.
Por muy diferentes que sean en cuanto a motivaciones y métodos, estos momentos, puestos uno tras otro, constituyen una historia común centrada en el rechazo de los objetos tecnológicos. Estudiarlos permite dar sentido al período de tecno-negatividad que atravesamos y explorar qué podríamos aprender de él para intentar construir futuros alternativos.
Ante las políticas y los discursos de marketing que presentan la inteligencia artificial como una tecnología revolucionaria beneficiosa para todos, asistimos a un aumento de la angustia y la ira en la opinión pública. ¿Puede su historia de la tecno-negatividad ayudarnos a comprender el momento que atravesamos en la era de la IA?
En primer lugar, la tecno-negatividad no es solo una cuestión de «angustia» o «ira». Al reducir la crítica tecnológica a tales sentimientos, se corre el riesgo de presentarla como irracional y carente de una lógica sólida. Eso sería un error y facilitaría simplemente descartar o ignorar la crítica tecnológica, por muy fundada y articulada que sea.
Lo que destaco de esta historia para intentar dar sentido al actual entusiasmo por la IA es, en primer lugar, que la creencia ampliamente difundida de que la IA es inevitable es errónea. Y es precisamente de ahí de donde hay que partir.
En el discurso dominante, la IA no sería más que la culminación de un progreso tecnológico que, como una gran ola inmaculada, arrasaría con todo a su paso y no podría detenerse. Sus defensores presentan un proceso natural que aleja a las sociedades de un pasado supuestamente salvaje para llevarlas hacia un presente o un futuro civilizado, invención tras invención.
Históricamente, esto es simplemente falso: el progreso tecnológico nunca ha sido un proceso lineal. No hay una misma ola clara hasta nosotros: solo corrientes caóticas, remolinos, mareas, rocas. La historia de la tecnología es un campo de batalla político, donde numerosos actores se disputan las vías de la innovación.
Por cierto, usted recuerda que la tecno-negatividad es, de hecho, tan antigua como la propia tecnología.
Absolutamente, entre los griegos la technè no se aceptaba ciegamente. La palabra tiene una connotación negativa, y Arquímedes, inventor de diversos dispositivos técnicos, fue también el primer destructor de máquinas del mundo, destruyendo sus propias creaciones con la esperanza de impedir su uso futuro. El mito griego sobre el origen de la técnica, en el que Prometeo roba el fuego a los dioses para dárselo a la humanidad, viene acompañado de una sombría advertencia: Zeus encadena a Prometeo a una roca en la cima de una montaña, donde queda expuesto a los elementos y a un águila que le devora las entrañas. Para los griegos, la technè era, por lo tanto, también aquello que traía algo oscuro —y tal vez siniestro— al corazón del mundo de los humanos. Por esta razón, debía mantenerse a distancia.
A lo largo de la historia y hasta nuestros días, las tecnologías se inventan, se atacan, se retrasan, se abandonan; aparecen, desaparecen, reaparecen en otro lugar y luego vuelven a hundirse… Algunas surgen y caen en el olvido en cuestión de meses. Otras no logran imponerse y, décadas más tarde, se encuentran de repente en primer plano.
Tomar en serio estos vaivenes permite abandonar la idea de que las predicciones del futuro formuladas por los magos de la IA no son más que un discurso instrumentalizado y un intento de manifestar, mediante las palabras, un futuro que les resulte provechoso.
Al afectar directamente nuestra concepción de lo humano, ¿no crea la aparición de la IA una ruptura en esta historia? Los principales líderes de las empresas tecnológicas, por cierto, agitan el temor de que su invento podría volver obsoleta a la humanidad…
La IA no es ni la primera ni la única tecnología que cuestiona las ideas existentes sobre lo que significa ser humano.
Al revisar los archivos, se observa que los avances tecnológicos más influyentes han tendido a modificar lo que considerábamos un tema verdaderamente humano. En cada época y en cada lugar, la tecnología es una de las fuerzas capaces de modificar las concepciones del mundo y del ser humano.
La batalla a favor o en contra de la adopción de una tecnología se libra, además, a menudo, precisamente, en un plano casi filosófico. La adopción o no de una tecnología determinada por parte de un grupo concreto o de toda una sociedad viene determinada menos por sus ventajas prácticas, su valor económico o su dimensión moralmente aceptable que por la concepción de la vida humana que permite o pone en tela de juicio.
Con la IA, la desvalorización de la vida humana forma parte integral de la forma en que se presenta y promueve esta tecnología.
Thomas Dekeyser
¿En qué ejemplos históricos está pensando?
En la Antigua Grecia, la idea de que las máquinas automatizadas tuvieran cualidades consideradas propiamente humanas —como la capacidad de moverse, actuar o pensar— se consideraba una amenaza para los seres humanos. Incluso se podría decir que la resistencia a la tecnología se articulaba a menudo precisamente en torno al deseo de preservar una concepción de la humanidad.
En la Europa medieval, ciertas tecnologías fueron rechazadas por el temor a que sustituyeran la posición dominante de Dios frente a los seres humanos: podían permitirles convertirse a su vez en creadores. La orden monástica cisterciense veía así en la humanidad tecnológicamente avanzada un intento de moldear el mundo que la rodeaba como si no hubiera sido ya perfectamente modelado por Dios. Incluso los luditas consideraban que la llegada de las herramientas automatizadas podría tener como consecuencia la transformación del ser humano en un simple apéndice de la máquina.
En cada caso, la tecnología y su rechazo se enfrentan en torno a una concepción particular del ser humano.
Desde este punto de vista, la IA funciona de manera muy similar: simplemente privilegia ciertas concepciones del ser humano en detrimento de otras.
Por un lado, la IA busca difuminar la frontera entre el ser humano y la máquina para crear un ser superior, tecnológicamente avanzado. Con la IA, esta difuminación también toma la forma de la creación de tecnologías como los chatbots y los robots que actúan, escriben y hablan como si fueran realmente humanos. Están diseñados precisamente para imitar a la humanidad y, de este modo, cuestionar las distinciones anteriores entre lo humano y lo no humano.
Por otro lado, y de manera más radical, la IA posiciona al ser humano como inferior a la máquina. Cuando Elon Musk describe a la humanidad como «un cargador de cebado biológico para la superinteligencia digital», afirma en esencia que tendría menos valor que la tecnología. El rechazo contemporáneo a la IA es una lucha contra esta promesa de un tipo particular de vida humana subordinada a la de la inteligencia artificial.
¿La novedad estaría, pues, menos en la tecnología que en la formulación de la promesa?
Lo que es distinto, en efecto —y tiene razón al señalarlo—, es hasta qué punto el discurso promocional sobre la IA abraza explícitamente la ruptura que esta tecnología opera con los ideales que generalmente se asocian a la humanidad.
En el pasado, las perturbaciones introducidas por las nuevas tecnologías eran más ocultas. Solo aparecían en momentos muy concretos, en escritos y acciones particulares, de manera relativamente sutil. Con la IA, la desvalorización de la vida humana forma parte integral de la forma en que se presenta y promueve la tecnología: la sustitución del ser humano por la máquina ya no se presenta como un peligro, sino como el objetivo y el argumento de venta de la IA.
Se podría añadir: la sustitución de solo una parte de la humanidad…
Esta desvalorización de la vida humana es, en efecto, selectiva. Ciertos seres humanos —es decir, los grupos mayoritariamente masculinos y adinerados a los que pertenecen los directores ejecutivos de los gigantes tecnológicos— no solo conservarían su humanidad, sino que incluso estarían en condiciones de ampliarla activamente.
En sus discursos, se presentan como los elegidos, los únicos capaces de llevarnos hacia un futuro marcado por la superinteligencia. En otras palabras, la IA reforzaría su humanidad, mientras que otros seres humanos son presentados como reemplazables (los trabajadores que pierden su empleo, por ejemplo) o como daños colaterales (los que viven en zonas agotadas energéticamente y contaminadas por los centros de datos; o incluso esos trabajadores mal pagados obligados a etiquetar imágenes horribles para contribuir al entrenamiento de los datos) en la búsqueda de un futuro imaginario y radicalmente diferente.
Hay en el discurso sobre la IA una dimensión eugenista bastante nueva.
¿Ofrece la historia de la tecno-negatividad recursos para resistir?
El ejemplo de los luditas nos da una lección clave: el rechazo a la tecnología se ejerce mejor colectivamente. La decisión individual de no utilizar una herramienta o plataforma concreta puede tener sentido a nivel personal, pero no logra modificar la economía política más amplia que ha dado origen a esa herramienta o plataforma. Sin embargo, con demasiada frecuencia se reduce la cuestión de la tecnología a la simple pregunta de si, como individuos, queremos adherirnos a ella o no.
Los luditas adquirieron su poder precisamente porque siguieron un camino diferente: la organización colectiva. Consideraban la automatización del trabajo como un problema común más que individual. Su esfuerzo colectivo fue tan poderoso que se tomó la decisión de enviar al ejército para aplastar el movimiento; cosa que hizo el gobierno británico, causando varios muertos.
Los luditas también nos invitan a mostrar un poco más de imaginación. Hoy en día, nuestra forma de resistir a las tecnologías nocivas a menudo se reduce a intentar limitar sus efectos negativos mediante la adopción de nuevas leyes y medidas de seguridad, o la actualización de las ya existentes. Estas intervenciones de carácter legal pueden ser útiles, sin duda, pero a veces da la impresión de que este enfoque está predeterminado de antemano, independientemente del problema o el daño al que nos enfrentemos. Los luditas buscaban en un principio una reforma jurídica, pero cuando sus reivindicaciones no fueron tomadas en serio, introdujeron otros métodos. Comenzaron a reunirse, se involucraron en intercambios sindicales y decidieron destruir las máquinas.
Mi intención no es decir que la destrucción material sea necesariamente deseable. Pero es evidente que hay que tomar en serio el deseo de explorar diversas formas de responder a los peligros de un régimen tecnológico determinado, negándonos a limitarnos únicamente a la reforma legal. En mi opinión, los luditas nos animan a ser más experimentales, a explorar medios alternativos para rechazar las tecnologías que nos parecen dañinas o violentas.
La sustitución del ser humano por la máquina ya no se presenta como un peligro, sino como el objetivo y el argumento de venta de la IA.
Thomas Dekeyser
¿Estamos atravesando un momento «tecno-negativo»?
Nuestro «momento IA», con las destrucciones que está empezando a generar, hace eco de la diversidad de formas de acción tecno-negativas a lo largo de la historia. Mientras que la IA representa, para algunos, una amenaza para sus medios de subsistencia o la introducción de medios más eficaces para vigilar a la población, para otros, el problema central de la IA radica en los recursos extremos —minerales raros, agua, carbón, etc.— de los que depende. Para otros, el problema es la supuesta llegada de una «superinteligencia» y el riesgo existencial que esto podría acarrear. Para otros, la preocupación se centra en el impacto que tendrá un centro de datos en el valor de sus propiedades.
En consecuencia, los grupos que desean frenar la generalización de la IA van desde sindicatos y activistas ecologistas hasta los «doomers», pasando por propietarios adinerados y organizaciones artesanales tradicionales, y todo lo que se encuentra entre ambos extremos. El rechazo a la IA no tiene un color político único.
Una de las razones de este amplio atractivo de la resistencia anti-IA radica en la increíble variedad de ámbitos que abarca. Una tecnología tan global, que afecta a tantos ámbitos diferentes —en particular el medio ambiente, los derechos de los trabajadores, la artesanía tradicional, el valor de los bienes inmuebles— no puede sino generar descontento en todos los niveles políticos.
Desde su punto de vista, ¿es esto algo positivo?
Es positivo que grupos diversos sean, en teoría, capaces de unirse en torno a un conjunto de preocupaciones comunes, independientemente de su afiliación política estricta. Esto puede ser muy enriquecedor y significa que las orientaciones políticas no tienen por qué ser un obstáculo para la colaboración. Nos unimos a pesar de nuestras diferencias, lo que puede permitir una colaboración sana más allá de las divergencias.
Pero no todas las formas de tecno-negatividad son de naturaleza emancipadora. Necesitamos herramientas para distinguir las formas de tecno-negatividad que buscan mejorar la vida de todos de aquellas que solo conciernen a un grupo reducido de la sociedad.
¿A qué formas de resistencia se refiere?
Existen, por ejemplo, grupos ecofascistas para quienes las tecnologías contemporáneas, como la IA, constituyen una amenaza para los modos de vida y las relaciones de género muy tradicionales. Su resistencia pretende restablecer las normas patriarcales sobre el «ama de casa» y reintroducir la segregación racial en forma de comunidades de predominio blanco o incluso exclusivamente blancas. Al igual que los ecologistas, pueden oponerse a la instalación de un nuevo centro de datos, pero por razones totalmente diferentes, incluso opuestas.
Por lo tanto, siempre hay que plantearse la siguiente pregunta: ¿a quién beneficiará la resistencia propuesta contra las tecnologías? ¿Qué vidas y qué modos de vida desean ver prosperar? No se trata solo de una cuestión de intenciones, sino de los tipos de sistemas de valores y de mundos que estas formas de resistencia quieren concretar en el marco de su ataque contra la tecnología. Me parece que esta es una de las tareas urgentes para quienes están insatisfechos con nuestro presente tecnológico.
¿Cómo explica la brecha existente entre la opinión pública y lo que parece ser la convicción de muchos responsables políticos sobre la IA, especialmente en Estados Unidos?
En Estados Unidos y en otros lugares, los gobiernos locales y nacionales parecen haber adoptado el discurso sobre la inevitabilidad que les han presentado los directores ejecutivos de los gigantes tecnológicos.
Creen que si no apoyan directamente y contribuyen al despliegue de enormes infraestructuras de IA y centros de datos, saldrán perdiendo tanto en el plano económico como en el geopolítico. Las empresas de IA han logrado convencer muy bien a los gobiernos de que, si no adoptan la superinteligencia que —según ellas— solo estas empresas pueden producir, inevitablemente se quedarán muy rezagados.
Este marco narrativo ha funcionado: ¿por qué preocuparse por los sentimientos y las inquietudes de la gente ante la IA cuando está en juego la supervivencia de la nación? Hay cierta arrogancia en esta actitud: «ustedes no saben lo que les conviene. A pesar de su voluntad, seguiremos adelante».
Es esencial tomar conciencia del déficit democrático relacionado con el desarrollo de la IA: la representación termina funcionando en gran parte de manera simbólica, como un medio para señalar la responsabilidad, pero sin la voluntad (o a veces incluso las estructuras) para implementarla y hacerla cumplir.
Marietje Schaake habla al respecto de un «golpe de Estado permanente» de Silicon Valley. ¿Comparte usted este diagnóstico?
Es evidente que el déficit democrático de la IA se debe en gran medida a la creciente alineación entre los gobiernos y los intereses capitalistas, especialmente en Estados Unidos: en los últimos años, los gigantes tecnológicos se han sentido cada vez más cómodos con la idea de acercarse a las tendencias autoritarias de Trump. Palantir es el ejemplo más flagrante, pero empresas como Google, Meta y Tesla —cada una con sus propias inversiones y aplicaciones de IA— han abandonado sus pretensiones anteriores de trabajar para mejorar la vida de las personas y su capacidad de tejer nuevos vínculos a través del mundo. Tras la fachada progresista de los primeros tiempos, estas empresas llevan mucho tiempo comprometidas con la construcción de máquinas de guerra y el aumento de su poder geopolítico. Esto formaba parte integral de su expansión comercial desde el principio.
Lo que ha cambiado es el abandono activo de esa fachada progresista en favor de una aceptación mucho más abierta de un estrecho vínculo entre los intereses del Estado y los de las empresas. Esta transparencia parece haber permitido tanto a las empresas como a las autoridades eludir más fácilmente sus compromisos democráticos. ¿Quién escucha hoy a las comunidades locales afectadas por el desarrollo de los centros de datos? ¿O incluso a la población en general, que expresa su profunda preocupación ante los avances de la IA?
Por lo tanto, hay que empezar por encontrar la manera de destruir el aura de inevitabilidad de la IA.
Thomas Dekeyser
¿Cree que esta frustración podría llevar a una acción directa contra las infraestructuras?
Las infraestructuras de IA encierran en sí mismas una brutalidad intrínseca.
Los daños ambientales causados por la IA —a nivel local por su consumo de agua y a nivel global por la crisis climática que su consumo de energía contribuye a alimentar— constituyen sin duda alguna una forma de violencia.
El trabajo mal remunerado en condiciones espantosas necesario para la extracción de los minerales de los que depende la IA es otra.
Los perjuicios sufridos por las personas afectadas por el uso de la IA por parte de las fuerzas fronterizas con fines de vigilancia y expulsión, y por los ejércitos para los bombardeos con drones, son otra más.
Pero la violencia engendra violencia: recientemente hemos sido testigos de ataques violentos contra las infraestructuras de la IA, e incluso contra los domicilios de directores ejecutivos del sector como Sam Altman, en respuesta a las guerras libradas por las empresas de IA. A menos que estalle la burbuja de la IA, es de temer que asistamos a un recrudecimiento de este tipo de ataques físicos. Es la historia de los luditas: ante la aparente imposibilidad de modificar el curso del desarrollo tecnológico, recurrieron a medios violentos.
De la misma manera, el déficit democrático de la IA hoy en día genera un sentimiento de impotencia en la gente y fomenta los impulsos violentos. No importa la intensidad de nuestras campañas a favor de tecnologías menos nocivas; no importan los llamados a favor de la regulación de la IA. El contexto que se nos presenta es siempre el mismo: caminamos hacia un futuro ineludible.
En una época en la que la IA parece inevitable y omnipresente, las agresiones físicas contra las infraestructuras pueden servir de válvula de escape temporal a ese sentimiento de impotencia.
Los luditas han perdido: ¿cómo no correr la misma suerte frente a las empresas de IA?
Es una pregunta delicada, ya que resulta difícil imaginar una relación radicalmente diferente con la tecnología a partir de nuestro contexto tecnológico actual.
Si queremos algo más que una IA simplemente menos sesgada, o redes sociales ligeramente menos adictivas o en mayor medida de propiedad del sector público, debemos ponernos manos a la obra con una tarea tediosa: deshacernos de nuestros hábitos tecnológicos actuales. De lo contrario, corremos el riesgo de simplemente prolongar los problemas a los que nos enfrentamos hoy.
Para cada uno de nuestros usos, deberíamos ser capaces de preguntarnos: ¿para qué, exactamente, debería servir la tecnología? ¿Para quién y con qué fin? ¿Cómo podría apoyar la vida colectiva en lugar de explotarla o destruirla? ¿Cómo podría tener un impacto positivo en el medio ambiente en lugar de agotarlo? Todo esto requiere una reflexión colectiva seria.
Dado que las tecnologías no son neutras, podríamos decidir abandonar aquellas que, en esencia, se basan en principios de daño, explotación y vigilancia, al tiempo que preservamos aquellas que se prestan a usos radicalmente diferentes.
Usted escribe que «no odiamos lo suficiente este mundo tecnológico»: ¿es este el inicio de un programa?
Debemos ser capaces de canalizar todo el resentimiento que conlleva la tecno-negatividad para convertirlo en lo que yo denomino tecno-abolicionismo.
El tecno-abolicionismo consiste en rechazar la realidad tecnológica en la que vivimos hoy.
Durante demasiado tiempo, la cuestión ha sido cómo hacer un poco más soportables las tecnologías que nos imponen las empresas más ricas y poderosas, y que a menudo se han diseñado desde el principio con fines de vigilancia y guerra. De este modo, pasamos por alto la cuestión mucho más importante: ¿qué tecnologías servirían realmente a los intereses de la mayoría?
La abolición no significa necesariamente destruir literalmente las máquinas.
Hay que empezar por encontrar la manera de destruir el aura de inevitabilidad de la IA tal y como se nos presenta. Entonces, quizá podamos empezar a imaginar un futuro deseable.
