En el siglo XVII se produjo una disputa artística conocida como la querella del color. En pintura, enfrentaba a los partidarios del dibujo con los del color; aquellos para los que la línea y la forma de lo trazado eran la esencia de un cuadro, y los que sólo creían en las sensaciones que despertaban los colores.
La síntesis de imágenes mediante inteligencia artificial nos devuelve, en algunos aspectos, a esta vieja distinción pictórica. Hace tiempo que aceptamos que las imágenes pueden modificarse mediante filtros de color. Casi todas las fotos profesionales se retocan de este modo, para cambiar la exposición, la saturación, la luminosidad y las curvas de sombra. Instagram popularizó esta práctica al facilitar la aplicación de filtros de retoque a las fotos personales. Se trataba de una modificación profunda de la imagen, cuya atmósfera e incluso significado podían cambiar por completo variando los colores. Sin embargo, era raro que esto pareciera mentira. Como mucho, la gente pensaba que las fotos retocadas en Instagram estaban un poco demasiado maquilladas; no llegaban a decir que una foto modificada de este modo pudiera constituir una fake news.
No se puede decir lo mismo de los últimos avances de la síntesis de imágenes. La potencia y la facilidad de uso de los últimos modelos de inteligencia artificial generativa, ya sean comerciales como Midjourney o de libre acceso como el muy reciente Flux, no sólo permiten generar nuevas imágenes; también, y quizás sobre todo, facilitan el retoque de fotografías existentes. En este caso, el retoque no tiene que ver con tintes y valores; se trata de cambiar el diseño de la imagen, en el sentido de la vieja querella del color, cambiando la posición de un personaje, añadiendo otros, cambiando el paisaje del fondo, eliminando un accesorio. Cada vez es más fácil hacerlo uno mismo, incluso en el teléfono: la función está incluida en el último teléfono Pixel de Google, forma parte de las herramientas básicas de Photoshop desde hace varios meses y probablemente acabe añadiéndose a las interfaces de las principales redes sociales. ¿Un coche antiestético en el fondo de la foto que vas a publicar en Instagram? Hoy podrás hacerlo desaparecer tan fácilmente como cambiar su brillo. ¿Descontento con tu atuendo en una selfie? Será muy fácil cambiar de pinta.
No nos vamos a volver más crédulos viendo imágenes falsas, sino más escépticos.
Raphaël Doan
Curiosamente, esta opción de retoque nos parece mucho más importante que la anterior. El temor a la desinformación, la credulidad generalizada y la manipulación se plantea ahora en relación con la inteligencia artificial generativa, mientras que no se planteaba en relación con los filtros de Instagram. Es quizá una extraña victoria póstuma de los partidarios del dibujo sobre los del color: damos más peso a las líneas que delimitan los objetos de una imagen que a las variaciones de su armonía cromática. Entendemos muy bien por qué. ¿Agregar una línea de cocaína en el escritorio en el fondo de la foto de un político? ¿Hacer que aparezcan las insignias de un ejército extranjero en una foto de guerrilla urbana? Cualquiera podría hacerlo en menos de un minuto en un teléfono de forma convincente.
Pero tenemos que enfrentarnos al hecho de que cada vez vamos a ver más contenidos modificados por la IA, no sólo en los bajos fondos conspirativos de internet, sino en todo lo que consumimos. Aunque siempre será posible, tras una investigación, determinar si una imagen ha sido retocada o generada mediante síntesis de imagen, será imposible verlo a simple vista. Las fotos falsas con su representación plástica de hace un año serán sustituidas por fotos falsas completamente indistinguibles de las reales. La dificultad se verá agravada por el hecho de que muchas serán sólo parcialmente falsas, con retoques localizados.
A esto se añade la llegada de modelos de video cada vez más fieles. Estábamos acostumbrados a que una foto pudiera retocarse, porque hacerlo en Photoshop no era extremadamente difícil. En cambio, modificar un video para incorporar elementos artificiales era, hasta ahora, una tarea extremadamente difícil, reservada a los especialistas en efectos especiales de cine. No es casualidad que los videos de ovnis que circulan por internet sean todos borrosos, diminutos y movidos: es más fácil hacerlos así que en 4K. Pronto dejará de ser así, cuando se perfeccionen los modelos de IA de video. En principio, el video será tan sospechoso como las imágenes fijas.
Las fotos falsas con su representación plástica de hace un año serán sustituidas por fotos falsas completamente indistinguibles de las reales.
Raphaël Doan
Porque eso es lo importante: no nos vamos a volver más crédulos viendo imágenes falsas, sino más escépticos. Las imágenes y los videos no tendrán más valor que el texto. Precisamente porque la IA generativa se integrará en nuestras herramientas cotidianas, todos sabremos hasta qué punto las imágenes están truqueadas. El problema no será saber identificar las fotografías falsas; será creer las verdaderas, que también estarán sujetas a las mismas sospechas.
El problema de las fake news nunca ha sido la credulidad del público, sino la falta de confianza en las instituciones. El que conspira y la víctima de las fake news suelen tener en común que ejercitan demasiado sus facultades críticas, que cuestionan demasiadas cosas, sobre todo lo que parece oficial. El asunto Kate Middleton, que sacudió las redes sociales en la primavera de 2024, fue un buen ejemplo de ello. Mientras la princesa estaba en el hospital y recibía tratamiento por lo que más tarde resultó ser una grave enfermedad, las declaraciones oficiales de la familia real se abstuvieron inicialmente de dar detalles sobre el estado de salud de Kate. Una foto publicada en su cuenta oficial de Instagram el 10 de marzo incluía retoques evidentes, que sugerían que se había recompuesto por completo. Eso fue todo lo que hizo falta para que los rumores cobraran fuerza: esa foto había sido generada por la IA para ocultar la desaparición de la princesa, que se había divorciado, desaparecido o algo peor… No era nada de eso, por supuesto, y se trataba simplemente de un caso de retoque tradicional, pero la anécdota es reveladora. A partir de ahora, cualquier imagen sospechosa es acusada de haber sido sintetizada por la IA, incluso cuando no es así. Pero si el rumor pudo extenderse de esa manera, fue porque la Casa Real no había logrado antes infundir confianza en su propia información.
El problema no será saber identificar las fotografías falsas; será creer las verdaderas, que también estarán sujetas a las mismas sospechas.
Raphaël Doan
Por supuesto, el problema es más grave cuando la desconfianza se extiende a todas las instituciones públicas y a la prensa. Por eso hay que defender a ultranza la libertad de expresión, ahora más que nunca. Si hay censura, por el motivo que sea, es fácil imaginar que se retocan imágenes, que se ocultan otras, que no se dice toda la verdad. El escepticismo sólo prevalecerá si parece que el mercado de las palabras y las imágenes está distorsionado. Si queremos mantener un debate público sano en la era digital, necesitaremos transparencia y libertad.
