{"id":109069,"date":"2026-08-22T11:02:58","date_gmt":"2026-08-22T09:02:58","guid":{"rendered":"https:\/\/legrandcontinent.eu\/es\/?p=109069"},"modified":"2026-08-22T11:03:06","modified_gmt":"2026-08-22T09:03:06","slug":"podemos-todavia-marcar-las-maquinas","status":"publish","type":"post","link":"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/","title":{"rendered":"\u00bfTodav\u00eda podemos marcar lo que hacen las m\u00e1quinas?"},"content":{"rendered":"\n

Cuando Scott Aaronson fue contratado en OpenAI, Ilya Sutskever, el cient\u00edfico en jefe, le propuso que reflexionara sobre \u00abuna definici\u00f3n matem\u00e1tica de lo que significar\u00eda, para la IA, amar a la humanidad\u00bb. Aaronson casi se r\u00ede cuando cuenta esta an\u00e9cdota. Viene de otro mundo.<\/em><\/p>\n\n\n\n

Te\u00f3rico de la inform\u00e1tica, fue durante mucho tiempo profesor en el MIT y actualmente es profesor en la Universidad de Texas en Austin. Es uno de los principales especialistas en teor\u00eda de la complejidad y computaci\u00f3n cu\u00e1ntica. Galardonado con el Premio ACM de Inform\u00e1tica en 2020, fue elegido miembro de la Academia Nacional de Ciencias en 2026. <\/em><\/p>\n\n\n\n

Desde el 2 de agosto, <\/em>la Ley de IA<\/a> obliga a los proveedores que operan en la Uni\u00f3n a indicar que los contenidos generados por sus modelos han sido creados o manipulados espec\u00edficamente por una inteligencia artificial. A ra\u00edz de ello, Anthropic ha anunciado la introducci\u00f3n de una<\/em> <\/em>marca de agua invisible<\/em><\/a> en los textos generados por Claude, lo que<\/em> ha reavivado debates ya antiguos: \u00bfes deseable este tipo de marca? \u00bfSe puede introducir sin mermar la calidad de las respuestas? \u00bfQu\u00e9 grado de resistencia ofrece frente al desarrollo de t\u00e9cnicas dise\u00f1adas para borrarla? \u00bfNo sirve, ante todo, para que los laboratorios reconozcan los textos generados por los LLM y, de este modo, entrenen los modelos \u00fanicamente con textos escritos por humanos, por temor a que entrenar un modelo con contenidos generados por la IA conduzca precisamente a una disminuci\u00f3n de la fiabilidad y la calidad? \u00bfPlantear\u00e1, a la larga, la cuesti\u00f3n de la propiedad intelectual?\u00a0<\/em><\/p>\n\n\n\n

Le hemos pedido a Scott Aaronson, que lleva trabajando en estos temas desde antes incluso del lanzamiento de ChatGPT, que empiece por el principio. Nos ha contado c\u00f3mo concibi\u00f3 el \u00abwatermarking\u00bb y nos ha revelado los motivos por los que se separ\u00f3 de Sam Altman, al tiempo que ha compartido sus inquietudes y sus dudas sobre lo que, en su opini\u00f3n, parece ser el fin de la era de la investigaci\u00f3n matem\u00e1tica \u00abtal y como la conoc\u00edamos\u00bb.<\/em><\/p>\n\n\n\n

Para recibir nuestras entrevistas y an\u00e1lisis directamente en tu correo electr\u00f3nico, pruebe una suscripci\u00f3n al<\/em> Grand Continent, a partir de 8 euros al mes.<\/em><\/a><\/p>\n\n\n\n

Cuando empez\u00f3 a trabajar para OpenAI en 2022, desarroll\u00f3 la t\u00e9cnica del \u00abwatermarking\u00bb.<\/em> Su enfoque influye hoy en d\u00eda en la mayor\u00eda de los grandes laboratorios de IA. \u00bfCu\u00e1l es el principio general y c\u00f3mo lleg\u00f3 a trabajar en este tema?<\/h3>\n\n\n\n

La idea de las marcas de agua textuales consiste en modificar muy ligeramente el funcionamiento de un modelo de lenguaje, sin mermar su calidad. Los usuarios obtienen respuestas que se parecen exactamente a las que est\u00e1n acostumbrados con Claude, ChatGPT u otros modelos, pero se incorpora una se\u00f1al estad\u00edstica en el generador de aleatoriedad (la funci\u00f3n criptogr\u00e1fica pseudoaleatoria) que se utiliza para elegir las palabras. De este modo, resulta mucho m\u00e1s f\u00e1cil determinar no solo que un texto ha sido generado por una IA, sino tambi\u00e9n que procede de un modelo concreto.<\/p>\n\n\n\n

Mucha gente ha reflexionado sobre esta idea. Que yo sepa, fui el primero en pensar espec\u00edficamente en las marcas de agua de los LLM. Fue poco despu\u00e9s de mi llegada a OpenAI, en el verano de 2022. Me contrataron Ilya Sutskever y Jan Leike, que por entonces dirig\u00edan la investigaci\u00f3n sobre alineaci\u00f3n. Supongo que eran lectores de mi blog. As\u00ed fue como me encontraron y me propusieron unirme a ellos. Fue justo antes del lanzamiento de ChatGPT, el 30 de noviembre de 2022.\u00a0<\/p>\n\n\n\n

\u00bfQu\u00e9 visi\u00f3n ten\u00eda entonces sobre el desarrollo de la IA?<\/h3>\n\n\n\n

Era consciente de lo que estaba pasando. Hab\u00eda probado el GPT-3. Me hab\u00eda impresionado much\u00edsimo, ya en 2020 o 2021, y me preguntaba por qu\u00e9 no hab\u00eda m\u00e1s gente que le prestara m\u00e1s atenci\u00f3n. <\/p>\n\n\n\n

Pero por aquel entonces, OpenAI a\u00fan dec\u00eda: \u00abMiren, no somos m\u00e1s que una peque\u00f1a organizaci\u00f3n sin \u00e1nimo de lucro. Intentamos hacer las cosas bien por el bien de la humanidad y de forma segura\u00bb.\u00a0<\/p>\n\n\n\n

He aprendido a ser extremadamente cauteloso con lo que leo en internet y a no dar nunca por sentado que un mensaje proviene realmente de la persona que dice ser.<\/p>Scott Aaronson<\/cite><\/blockquote><\/figure>\n\n\n\n

En aquella \u00e9poca me ofrecieron un a\u00f1o durante el cual pod\u00eda pasar la mayor parte del tiempo en Texas, junto a mis alumnos y mi familia, y limitarme a viajar a San Francisco una vez al mes para reflexionar, entre otras cosas, sobre c\u00f3mo la inform\u00e1tica te\u00f3rica pod\u00eda contribuir a la seguridad de la IA.<\/p>\n\n\n\n

\u00bfEn qu\u00e9 punto se encontraba la investigaci\u00f3n sobre estas cuestiones? \u00bfEra una prioridad garantizar la seguridad de la IA?<\/h3>\n\n\n\n

En aquel momento, ya hab\u00eda un grupo de personas trabajando en estas cuestiones. De hecho, una buena parte de ellos se hab\u00eda reunido en torno a Paul Christiano, un antiguo alumno que hab\u00eda tenido en el MIT y que, cuando llegu\u00e9, acababa de dejar OpenAI para crear su propia organizaci\u00f3n, el Alignment Research Center (ARC).<\/p>\n\n\n\n

Paul hab\u00eda logrado demostrar que la clave para garantizar la seguridad de la IA pod\u00eda encontrarse en la teor\u00eda de la complejidad. En parte, eso fue lo que les llev\u00f3 a interesarse por m\u00ed. Pero yo ya ve\u00eda una dificultad importante: los avances logrados en el control de la IA, la asignaci\u00f3n de objetivos y la garant\u00eda de su seguimiento fiable eran casi totalmente emp\u00edricos. <\/p>\n\n\n\n

\u00bfEn qu\u00e9 consist\u00eda el problema?<\/h3>\n\n\n\n

Eso no era suficiente: hab\u00eda que enunciar expl\u00edcitamente los valores y principios que quer\u00edamos que respetara la IA, un poco al estilo de las novelas de Isaac Asimov. Para ello, se elaboraron lo que hoy denominamos \u00abconstituciones\u00bb. <\/p>\n\n\n\n\n

\n
\n
\n \n
\n \n \"Glenn\n <\/picture>\n
Glenn Ligon, Debris Field (Red) n.\u00ba 20<\/em>, 2021<\/figcaption> <\/figure>\n <\/a>\n \n <\/div>\n
\n \n
\n \n \"Glenn\n <\/picture>\n
Glenn Ligon, \u00abStudy for Debris Field #50\u00bb<\/em>, 2020-2021<\/figcaption> <\/figure>\n <\/a>\n <\/div>\n <\/div>\n \n
\n
\n
\n
Glenn Ligon, Debris Field (Red) n.\u00ba 20<\/em>, 2021<\/figcaption> <\/figure>\n \n <\/div>\n
\n
\n
Glenn Ligon, \u00abStudy for Debris Field #50\u00bb<\/em>, 2020-2021<\/figcaption> <\/figure>\n <\/div>\n <\/div>\n<\/div>\n\n\n\n

Partiendo de estos principios, se puede evaluar emp\u00edricamente el efecto de los diferentes enfoques y publicar resultados que demuestren, por ejemplo, que una intervenci\u00f3n concreta reduce en un 20 % los comportamientos de trampa, o en un 30 % la propensi\u00f3n del modelo a aceptar ayudar a un usuario a fabricar armas qu\u00edmicas. Tambi\u00e9n se probaban otras v\u00edas, como el aprendizaje por refuerzo.<\/p>\n\n\n\n

As\u00ed pues, ha pasado de su \u00e1mbito de especializaci\u00f3n inicial, la inform\u00e1tica, a lo que podr\u00edamos llamar psicolog\u00eda experimental\u2026<\/h3>\n\n\n\n

Todo ello sin entender realmente lo que estaba pasando. As\u00ed que, en el verano de 2022, me puse a pensar en qu\u00e9 pod\u00eda aportar la teor\u00eda a la seguridad de la IA. Me pregunt\u00e9 si era posible hacer algo que tuviera un impacto concreto en el producto. Ese verano fui objeto de una campa\u00f1a de acoso especialmente violenta en mi blog, llevada a cabo sobre todo por personas que se hac\u00edan pasar por mis compa\u00f1eros de trabajo u otros interlocutores. Entonces aprend\u00ed a ser extremadamente cauteloso con lo que le\u00eda en internet y a no dar nunca por sentado que un mensaje proced\u00eda realmente de la persona cuya identidad afirmaba tener.<\/p>\n\n\n\n

\u00bfDe qu\u00e9 manera ha influido este acontecimiento en su investigaci\u00f3n?<\/h3>\n\n\n\n

He barajado varias opciones. Una de ellas habr\u00eda consistido en pedir a las grandes empresas tecnol\u00f3gicas que conservaran un registro de todos los contenidos generados por sus modelos, para poder luego enviarles un texto y plantearles la siguiente pregunta: \u00ab\u00bfHan generado ya este contenido?\u00bb Una soluci\u00f3n as\u00ed plantear\u00eda, evidentemente, cuestiones relacionadas con el respeto a la privacidad. Y aunque pudiera aplicarse sin vulnerar realmente la confidencialidad de los usuarios, seguir\u00eda siendo muy dif\u00edcil convencer al p\u00fablico en general.\u00a0<\/p>\n\n\n\n

Otra idea era abordarlo como un problema m\u00e1s de inteligencia artificial, es decir, entrenar una red neuronal para que distinguiera lo mejor posible entre un texto escrito por un ser humano y uno generado por una IA. Esto ya se ha hecho en gran medida. Una empresa, GPTZero, trabajaba precisamente en ello. Una herramienta que goza hoy en d\u00eda de gran notoriedad se llama Pangram y muchos profesores la utilizan para intentar determinar si sus alumnos han recurrido a la IA.<\/p>\n\n\n\n

Pero ya hac\u00eda cuatro a\u00f1os que estaba claro que todas estas herramientas generar\u00edan inevitablemente falsos positivos. Sin embargo, incluso con una tasa relativamente baja, de solo un peque\u00f1o porcentaje, el problema sigue siendo considerable: cuando una universidad acusa a un estudiante de hacer trampa, debe poder hacerlo con un grado de certeza extremadamente alto. Por lo tanto, es necesario reducir la tasa de falsos positivos a un nivel del orden de un caso por cada mil, o incluso menos.<\/p>\n\n\n\n

Eso fue lo que me llev\u00f3 a pensar en la marca de agua.\u00a0<\/p>\n\n\n\n

\u00bfA partir de qu\u00e9 caracter\u00edstica del funcionamiento de los LLM ha desarrollado la t\u00e9cnica de la marca de agua?<\/h3>\n\n\n\n

El funcionamiento de los LLM es intr\u00ednsecamente probabil\u00edstico. Todo el mundo puede comprobarlo: puedes enviar varias veces exactamente la misma indicaci\u00f3n y obtener una respuesta diferente cada vez. \u00bfPor qu\u00e9? Porque la red neuronal Transformer no calcula directamente la siguiente palabra de una frase. Calcula una distribuci\u00f3n de probabilidad sobre las diferentes palabras posibles, o m\u00e1s bien los tokens, que podr\u00edan seguir a la anterior.<\/p>\n\n\n\n

A continuaci\u00f3n, en condiciones normales, simplemente extrae un token al azar de esa distribuci\u00f3n. Esto proporciona una nueva entrada, que se vuelve a introducir en el LLM. A su vez, este genera una distribuci\u00f3n para el siguiente token, extrae uno al azar y as\u00ed sucesivamente, de forma autorregresiva.<\/p>\n\n\n\n

\u00bfCu\u00e1l es la relaci\u00f3n entre la longitud de una respuesta, su entrop\u00eda y el nivel de confianza estad\u00edstica que permite determinar que procede de un modelo concreto?<\/h3>\n\n\n\n

La generaci\u00f3n de texto mediante un LLM conlleva intr\u00ednsecamente entrop\u00eda. Incluso es posible medir su cantidad. La incertidumbre efectiva a la hora de elegir el siguiente token suele ser del orden de un bit por token. En otras palabras, el modelo dispone, en promedio, de un peque\u00f1o margen de maniobra para elegir entre varias secuencias plausibles.<\/p>\n\n\n\n

Sin embargo, si le pides a ChatGPT que enumere los primeros cien n\u00fameros, puede hacerlo, pero pr\u00e1cticamente no habr\u00e1 entrop\u00eda, salvo que juegue con los espacios o los saltos de l\u00ednea. Por lo tanto, no es un contenido al que realmente se le pueda aplicar una marca de agua. Lo mismo ocurre si le pedimos, por ejemplo, el texto de la Declaraci\u00f3n de Independencia.<\/p>\n\n\n\n

Pero, en general, cuando le pedimos algo a una IA, aunque en cierto sentido exista una \u00fanica respuesta correcta, hay varias formas diferentes de expresarla, cuyo n\u00famero crece exponencialmente con la longitud del texto. Cuanto m\u00e1s largo es el texto, m\u00e1s posibilidades hay, por tanto, de incorporar una se\u00f1al en \u00e9l.<\/p>\n\n\n\n

Cuando intentas detectar la marca de agua, no tienes acceso a las probabilidades. Tampoco ves la indicaci\u00f3n que ha dado lugar a ese texto. Solo ves el texto en s\u00ed. A partir de \u00e9l \u00fanicamente, debes ser capaz de calcular si hay una marca de agua. Mejor a\u00fan, deber\u00edas poder detectar qu\u00e9 partes del texto contienen una marca de agua y cu\u00e1les no.<\/p>\n\n\n\n\n

\n
\n
\n \n
\n \n \"Glenn\n <\/picture>\n
Glenn Ligon, Sin t\u00edtulo (I Lost My Voice I Found My Voice)<\/em>, 1991.<\/figcaption> <\/figure>\n <\/a>\n \n <\/div>\n
\n \n
\n \n \"Glenn\n <\/picture>\n
Glenn Ligon, Sin t\u00edtulo (I Do Not Always Feel Colored)<\/em>, 1990, \u00f3leo y yeso sobre madera<\/figcaption> <\/figure>\n <\/a>\n <\/div>\n <\/div>\n \n
\n
\n
\n
Glenn Ligon, Sin t\u00edtulo (I Lost My Voice I Found My Voice)<\/em>, 1991.<\/figcaption> <\/figure>\n \n <\/div>\n
\n
\n
Glenn Ligon, Sin t\u00edtulo (I Do Not Always Feel Colored)<\/em>, 1990, \u00f3leo y yeso sobre madera<\/figcaption> <\/figure>\n <\/div>\n <\/div>\n<\/div>\n\n\n\n

He dise\u00f1ado un m\u00e9todo concreto que permite hacer todo esto. Entre otras cosas, se planteaban cuestiones estad\u00edsticas: dada la entrop\u00eda contenida en esta secuencia de tokens, \u00bfqu\u00e9 hay que hacer para maximizar la potencia estad\u00edstica de la marca de agua obtenida por token? Existe un equilibrio entre la probabilidad de un falso positivo y la de un falso negativo. Pero lo que queremos es minimizar la probabilidad de error, y hacerlo con el menor n\u00famero posible de tokens.<\/p>\n\n\n\n

Desarroll\u00e9 parte de la teor\u00eda b\u00e1sica estableciendo una regla para elegir el siguiente token, aplicando un poco de an\u00e1lisis y estad\u00edstica que tuve que desempolvar de mis a\u00f1os de estudios. Posteriormente, unos investigadores en aprendizaje autom\u00e1tico me explicaron que hab\u00eda redescubierto una regla ya conocida en su campo: la regla de Gumbel-Softmax. As\u00ed que llam\u00e9 a mi m\u00e9todo el esquema de Gumbel-Softmax. Nunca se hab\u00eda utilizado con este fin.<\/p>\n\n\n\n

Mucha gente piensa que, necesariamente, existe un compromiso entre la marca de agua y la calidad de la respuesta. \u00bfPor qu\u00e9 es err\u00f3nea esta intuici\u00f3n?<\/h3>\n\n\n\n

De inmediato, algunas personas plantearon esta objeci\u00f3n sobre el compromiso entre la marca de agua y la calidad del texto, al considerar que las probabilidades se ver\u00edan sesgadas en una determinada direcci\u00f3n, lo que alterar\u00eda la calidad de la respuesta.<\/p>\n\n\n\n

Me di cuenta de que ese compromiso no exist\u00eda. Basta con sustituir la entrop\u00eda utilizada para elegir el siguiente token por un generador pseudoaleatorio de un tipo concreto, que favorezca ciertas combinaciones extra\u00f1as de tokens en lugar de otras. Se favorecer\u00e1n ciertos n-gramas, por ejemplo, una secuencia de cinco tokens consecutivos, mientras que otros quedar\u00e1n en desventaja.<\/p>\n\n\n\n

En OpenAI me dec\u00edan: \u00abNuestra misi\u00f3n es evitar que la IA destruya a la humanidad. \u00bfDe verdad nos preocupan tanto los estudiantes que copian las tareas?\u00bb.<\/p>Scott Aaronson<\/cite><\/blockquote><\/figure>\n\n\n\n

Pero, dado que esta elecci\u00f3n se basa en una funci\u00f3n pseudoaleatoria, resulta imperceptible para un lector com\u00fan. Incluso se puede afirmar algo m\u00e1s contundente: la respuesta puede hacerse criptogr\u00e1ficamente indistinguible de una respuesta normal del LLM. Yo no lo hab\u00eda demostrado del todo, pero investigadores como Sam Gunn, Miranda Christ u Or Zamir, muchos de los cuales estaban en Berkeley, continuaron posteriormente mi trabajo para demostrar que era posible obtener una verdadera indistinguibilidad criptogr\u00e1fica.<\/p>\n\n\n\n

A continuaci\u00f3n, quedaba por resolver un interesante problema matem\u00e1tico para determinar exactamente c\u00f3mo seleccionar de forma pseudoaleatoria el siguiente token, de modo que se mantuviera la misma distribuci\u00f3n aparente, al tiempo que se incorporaba una se\u00f1al que pudiera detectarse posteriormente.<\/p>\n\n\n\n

\u00bfC\u00f3mo han abordado las grandes empresas farmac\u00e9uticas la cuesti\u00f3n de la marca de agua?\u00a0<\/h3>\n\n\n\n

OpenAI me hab\u00eda asignado a un ingeniero, Hendrik Kirchner. \u00c9l desarroll\u00f3 una implementaci\u00f3n de mi m\u00e9todo y la probamos. Parec\u00eda funcionar exactamente como predec\u00eda la teor\u00eda. Por mi parte, impart\u00eda conferencias p\u00fablicas para dar a conocer el tema.<\/p>\n\n\n\n

Fue precisamente en ese momento cuando se lanz\u00f3 ChatGPT. Entonces surgi\u00f3 la duda de si OpenAI iba a implementar realmente esa tecnolog\u00eda. Nunca lleg\u00f3 a hacerlo. Durante el resto de mi estancia en OpenAI, a veces volv\u00eda a insistir en el tema. Incluso le plante\u00e9 el tema directamente a Sam Altman.<\/p>\n\n\n\n

\u00bfPor qu\u00e9 defendi\u00f3 la implantaci\u00f3n de la marca de agua?<\/h3>\n\n\n\n

Para empezar, mis compa\u00f1eros de la universidad me insist\u00edan en que lo hiciera. En 2023, preve\u00edan una avalancha de trabajos de estudiantes generados por IA, y la situaci\u00f3n no ha hecho m\u00e1s que empeorar desde entonces.\u00a0<\/p>\n\n\n\n

Se me ocurr\u00edan todo tipo de usos indebidos que se podr\u00edan dar a los grandes modelos de lenguaje (LLM). El fraude acad\u00e9mico era quiz\u00e1 el m\u00e1s evidente, pero tambi\u00e9n estaban la suplantaci\u00f3n de identidad o el phishing<\/em>.\u00a0<\/p>\n\n\n\n

Las cosas no siempre son tan simples. En OpenAI se repet\u00eda con frecuencia un argumento en el que yo no hab\u00eda pensado: \u00abHay muchas personas cuyo ingl\u00e9s no es su lengua materna y que utilizan GPT para mejorar su fluidez en este idioma. Si todas las respuestas llevaran una marca de agua, incluso se podr\u00eda considerar que es discriminatorio imponerles eso\u00bb.<\/p>\n\n\n\n

As\u00ed pues, s\u00ed que hubo una decisi\u00f3n de este tipo. Pero ten\u00eda la sensaci\u00f3n de que, para la gran mayor\u00eda de mis colegas universitarios, una vez explicado el problema, la respuesta era obvia: claro que hab\u00eda que hacerlo.<\/p>\n\n\n\n

Le plante\u00e9 el tema de la marca de agua directamente a Sam Altman. OpenAI nunca lo ha implementado.\u00a0<\/p>Scott Aaronson<\/cite><\/blockquote><\/figure>\n\n\n\n

Los equipos comerciales de OpenAI han realizado encuestas entre los usuarios y una proporci\u00f3n nada desde\u00f1able simplemente detesta la idea de las marcas de agua. Aplicarlas supon\u00eda correr el riesgo de que se marcharan a un gran modelo de lenguaje (LLM) de la competencia. Creo que fue este argumento el que finalmente inclin\u00f3 la balanza en OpenAI.<\/p>\n\n\n\n

El equipo encargado de la seguridad y la alineaci\u00f3n nunca se mostr\u00f3 especialmente entusiasmado, porque razonaba as\u00ed: \u00abNuestra misi\u00f3n es evitar que la IA se salga de control y destruya a la humanidad. \u00bfDe verdad nos preocupan tanto los estudiantes que copian las tareas? Quiz\u00e1 las tareas tengan que cambiar de todos modos, o incluso desaparecer\u00bb.<\/p>\n\n\n\n

Mucha gente intu\u00eda que la batalla estaba perdida de antemano. \u00bfPara qu\u00e9 siquiera intentarlo? Pero yo pensaba que el costo social era muy bajo y que, si logr\u00e1bamos convencer a las empresas de IA para que se coordinaran en este tema, eso enviar\u00eda una se\u00f1al positiva.<\/p>\n\n\n\n

Tras el anuncio de Anthropic, un repositorio de GitHub titulado \u00abWatermarks Remover for AI Content\u00bb ha alcanzado unas 11.000 estrellas. \u00bfEstamos condenados a entrar en un juego del gato y el rat\u00f3n entre la inserci\u00f3n y la eliminaci\u00f3n de marcas de agua?<\/h3>\n\n\n\n

La otra pregunta que nos planteamos fue la siguiente: \u00bfrealmente vale la pena hacerlo? En cuanto lo hagamos, la gente tomar\u00e1 contramedidas. Encontrar\u00e1n formas de eliminar la marca de agua. No ten\u00eda una respuesta muy convincente, porque es cierto que, con un m\u00ednimo de esfuerzo, se pueden eliminar.<\/p>\n\n\n\n

La forma m\u00e1s sencilla de hacerlo ser\u00eda pedirle a ChatGPT: \u00abEscribe mi trabajo, pero en espa\u00f1ol o en franc\u00e9s\u00bb, o en cualquier otro idioma. A continuaci\u00f3n, introduce el resultado en Google Translate. As\u00ed obtendr\u00e1s un documento completamente diferente al que llevaba incorporada la marca de agua.<\/p>\n\n\n\n\n

\n
\n
\n \n
\n \n \"Glenn\n <\/picture>\n
Glenn Ligon, Debris Field #5<\/em>, 2018<\/figcaption> <\/figure>\n <\/a>\n \n <\/div>\n
\n \n
\n \n \"Glenn\n <\/picture>\n
Glenn Ligon, Debris Field #2<\/em>, 2018<\/figcaption> <\/figure>\n <\/a>\n <\/div>\n <\/div>\n \n
\n
\n
\n
Glenn Ligon, Debris Field #5<\/em>, 2018<\/figcaption> <\/figure>\n \n <\/div>\n
\n
\n
Glenn Ligon, Debris Field #2<\/em>, 2018<\/figcaption> <\/figure>\n <\/div>\n <\/div>\n<\/div>\n\n\n\n

Otro m\u00e9todo consiste en pedirle a ChatGPT: \u00abEscribe mi trabajo, pero inserta la palabra \u201cpi\u00f1a\u201d entre cada palabra\u00bb. Despu\u00e9s, basta con eliminar todas las \u00abpi\u00f1as\u00bb. Esto puede reducir ligeramente la calidad, pero, en general, funciona.<\/p>\n\n\n\n

En cualquier tipo de marca de agua que se base \u00fanicamente en la secuencia de n-gramas, se obtiene entonces una secuencia de n-gramas totalmente diferente. Y es muy f\u00e1cil imaginar que haya gente que cree en internet herramientas que faciliten a\u00fan m\u00e1s esta manipulaci\u00f3n. Ya existen todo tipo de herramientas que ayudan a eludir los detectores de IA.<\/p>\n\n\n\n

Puesto que eso va a ocurrir de todos modos, \u00bfpor qu\u00e9 molestarse? Hay muchas cosas que hacemos simplemente para a\u00f1adir un poco de resistencia. Cerramos las puertas con llave. \u00bfAlguien puede forzar la cerradura? S\u00ed, pero eso a\u00f1ade resistencia al proceso. Tambi\u00e9n cabr\u00eda preguntarse por qu\u00e9 Google no abandona simplemente la lucha que lleva d\u00e9cadas librando contra los especialistas en posicionamiento web, el SEO. Simplemente intenta ponerles las cosas m\u00e1s dif\u00edciles. As\u00ed que pens\u00e9 que quiz\u00e1 val\u00eda la pena intentarlo.<\/p>\n\n\n\n

Ha presentado el \u00abwatermarking\u00bb<\/em> sem\u00e1ntico como una l\u00ednea de investigaci\u00f3n importante: se tratar\u00eda de codificar la procedencia a nivel de significado, en lugar de a nivel de la elecci\u00f3n de cada token. \u00bfC\u00f3mo ser\u00eda, concretamente, el \u00abwatermarking\u00bb<\/em> sem\u00e1ntico?<\/h3>\n\n\n\n

Me di cuenta de que, si quer\u00edamos una marca de agua capaz de resistir el ataque de Google Translate, el ataque \u00abpi\u00f1a\u00bb o algo por el estilo, habr\u00eda que incorporar realmente una se\u00f1al a nivel de los conceptos subyacentes, en lugar de a nivel de los tokens.<\/p>\n\n\n\n

No ten\u00eda ni idea de c\u00f3mo hacerlo. Sin embargo, hay ideas y cosas que se pueden probar, ya que, dentro de los LLM, los conceptos se representan en forma de vectores en espacios de gran dimensi\u00f3n. As\u00ed pues, se podr\u00eda intentar alterar ligeramente esos vectores, desplaz\u00e1ndolos para insertar una marca de agua.<\/p>\n\n\n\n

A diferencia de mi m\u00e9todo, en este caso no tendr\u00edamos ninguna garant\u00eda te\u00f3rica de que funcione. Pero podemos comprobarlo de forma emp\u00edrica. <\/p>\n\n\n\n

Se han logrado avances en este \u00e1mbito: algunos m\u00e9todos de marca de agua sem\u00e1ntica parecen funcionar realmente y presentar un cierto grado de solidez. No obstante, en mi opini\u00f3n, sigue siendo un campo de investigaci\u00f3n muy activo. No es lo que ha implementado Anthropic. Pero quiz\u00e1 tengan que ponerse manos a la obra en el futuro si su m\u00e9todo actual resulta demasiado f\u00e1cil de eludir.<\/p>\n\n\n\n

La Uni\u00f3n Europea hace hincapi\u00e9 en la interoperabilidad de la marca de agua. \u00bfC\u00f3mo ve usted el problema de la coordinaci\u00f3n entre los distintos proveedores?<\/h3>\n\n\n\n

Al final de mi etapa en OpenAI, me di cuenta de que, sin duda, no pod\u00eda resolver ese problema de coordinaci\u00f3n. De hecho, habl\u00e9 sobre la marca de agua con gente de DeepMind y Anthropic. Anthropic no parec\u00eda muy interesada en aquel momento, en 2023. Por supuesto, me alegra ver que ahora s\u00ed han implantado el sistema de marcas de agua.<\/p>\n\n\n\n

Lo que yo hab\u00eda propuesto llev\u00f3 a Google a desarrollar SynthID. SynthID se parec\u00eda mucho a mi propuesta, con una \u00fanica diferencia: Google nunca ha puesto a disposici\u00f3n del p\u00fablico una herramienta que permita detectar las marcas de agua. Hay que solicitarlo expresamente. Algunos acad\u00e9micos que conoc\u00eda y que hab\u00edan solicitado dicho acceso nunca obtuvieron respuesta.<\/p>\n\n\n\n

Est\u00e1 bastante claro que estamos viviendo el \u00faltimo a\u00f1o de investigaci\u00f3n en matem\u00e1ticas e inform\u00e1tica te\u00f3rica tal y como la conoc\u00edamos.<\/p>Scott Aaronson<\/cite><\/blockquote><\/figure>\n\n\n\n

Este fue otro tema de debate en OpenAI. Si utilizamos marcas de agua, \u00bfpermitimos que cualquiera pueda detectarlas? \u00bfO hay que ser profesor o periodista para tener acceso a ellas? En ese caso, habr\u00eda que crear toda una infraestructura para decidir qui\u00e9n tiene ese acceso.<\/p>\n\n\n\n

Pens\u00e9 que seguramente no ten\u00eda ni la influencia ni la habilidad pol\u00edtica necesarias para convencer a OpenAI de que hiciera eso. Su razonamiento era: \u00ab\u00bfPor qu\u00e9 \u00edbamos a hacerlo si ni Anthropic ni DeepMind lo hacen?\u00bb. Quiz\u00e1 los tres deban hacerlo al mismo tiempo, pero entonces se convierte en un problema de coordinaci\u00f3n.<\/p>\n\n\n\n

\u00bfEs m\u00e1s adecuado intentar imponerlo por ley?<\/h3>\n\n\n\n

Ya he tenido ocasi\u00f3n de hablar con algunos representantes pol\u00edticos californianos que quer\u00edan que las marcas de agua fueran obligatorias. De hecho, California ha aprobado una ley que impone el uso de marcas de agua, pero solo para los contenidos audiovisuales, quedando exentos los contenidos textuales.<\/p>\n\n\n\n

Pero, aparte de California, \u00bfqui\u00e9n m\u00e1s podr\u00eda desear una ley as\u00ed? El gobierno federal de Estados Unidos no tiene intenci\u00f3n de imponer una medida de este tipo. El otro candidato obvio ha sido la Uni\u00f3n Europea, que ha incluido el \u00abwatermarking\u00bb<\/em> en la Ley de Inteligencia Artificial (AI Act), pero los detalles no parecen estar claros.<\/p>\n\n\n\n

\u00bfPor qu\u00e9?<\/h3>\n\n\n\n

Parte de la dificultad es de car\u00e1cter jur\u00eddico: si se hacen obligatorias las marcas de agua, \u00bfqu\u00e9 t\u00e9cnica concreta hay que imponer? \u00bfY qu\u00e9 ocurre si la t\u00e9cnica establecida en la ley se elude posteriormente? Se podr\u00eda argumentar que hay que hacer todo lo posible o utilizar el mejor m\u00e9todo disponible en cada momento. Pero, \u00bfc\u00f3mo plasmar en la ley una obligaci\u00f3n tan cambiante?<\/p>\n\n\n\n

Recientemente ha escrito que se trataba \u00abbastante claramente del \u00faltimo a\u00f1o de investigaci\u00f3n en matem\u00e1ticas e inform\u00e1tica te\u00f3rica tal y como la conoc\u00edamos\u00bb. \u00bfQu\u00e9 cambios cabe esperar?<\/h3>\n\n\n\n

La semana pasada volv\u00ed a OpenAI por primera vez desde 2024. Estaban organizando un taller sobre el futuro de las matem\u00e1ticas. Este verano hemos sido testigos de algo realmente espectacular: cada vez son m\u00e1s los problemas matem\u00e1ticos importantes que se resuelven bien con la ayuda de modelos de IA, bien exclusivamente gracias a ellos.<\/p>\n\n\n\n

Todav\u00eda no saben hacerlo todo. Pero si comparas la situaci\u00f3n con la de hace tres a\u00f1os, cuando a\u00fan ten\u00edan dificultades con las matem\u00e1ticas b\u00e1sicas y comet\u00edan errores triviales, ver\u00e1s que hoy en d\u00eda realizan investigaci\u00f3n matem\u00e1tica de alto nivel. <\/p>\n\n\n\n\n\n

\n \n \r\n \r\n \r\n \r\n \r\n \r\n \r\n <\/picture>\r\n \n
Glenn Ligon, Sin t\u00edtulo (I Am a Man)<\/em>, 1988.<\/figcaption>\n <\/a>\n<\/figure>\n\n\n

Si proyectamos esta trayectoria hacia el futuro, dentro de unos a\u00f1os, ello conducir\u00e1 a una transformaci\u00f3n completa de la naturaleza de nuestro trabajo como matem\u00e1ticos o investigadores en inform\u00e1tica te\u00f3rica. En el mejor de los casos, podremos seguir aportando nuestra experiencia cient\u00edfica, determinar qu\u00e9 grandes l\u00edneas de investigaci\u00f3n son interesantes y cu\u00e1les no, comprender los resultados y explicarlos.<\/p>\n\n\n\n

Pero en lo que respecta a resolver de forma efectiva problemas claramente formulados, ahora disponemos de modelos que son mejores que todos los seres humanos, quiz\u00e1 con la excepci\u00f3n de unos pocos. Del mismo modo que la programaci\u00f3n ha cambiado dr\u00e1sticamente en los \u00faltimos dos a\u00f1os, parece que la investigaci\u00f3n matem\u00e1tica est\u00e1 a punto de experimentar la misma transformaci\u00f3n.<\/p>\n\n\n\n

\u00bfQu\u00e9 reflexiones le suscita eso?<\/h3>\n\n\n\n

Le doy muchas vueltas a esto. Obviamente, pienso en ello en relaci\u00f3n con mis alumnos. \u00bfEn qu\u00e9 debo formarlos? \u00bfQu\u00e9 competencias les ser\u00e1n \u00fatiles en el mundo hacia el que nos dirigimos? <\/p>\n\n\n\n

Es una cuesti\u00f3n sobre la que pr\u00e1cticamente todos los investigadores en matem\u00e1ticas ya reflexionan o deber\u00edan reflexionar.<\/p>\n\n\n\n

\u00bfC\u00f3mo prepararse para esta transformaci\u00f3n?<\/h3>\n\n\n\n

Uno de los debates importantes que se est\u00e1n manteniendo en la actualidad gira en torno a las normas de publicaci\u00f3n de los trabajos generados por la IA. Todav\u00eda no lo hemos decidido.<\/p>\n\n\n\n

Hubo ese famoso caso de la conjetura de Jacob, refutada por alguien que simplemente hab\u00eda publicado en Twitter: \u00abHola. Estaba viendo el Mundial y mi amigo Fable encontr\u00f3 el siguiente contraejemplo a esta conjetura centenaria\u00bb. Fue muy divertido, pero imagino que, en el futuro, esa no ser\u00e1 la forma habitual de dar a conocer este tipo de resultados.<\/p>\n\n\n\n

\u00bfDeber\u00edamos publicarlos en forma de art\u00edculos de investigaci\u00f3n? Pero entonces habr\u00e1 tantos art\u00edculos generados por IA que no habr\u00e1 gente suficiente para leerlos todos. \u00bfAcabaremos teniendo simplemente art\u00edculos escritos por IA y evaluados por IA? \u00bfSe subir\u00e1n a servidores de prepublicaciones?<\/p>\n\n\n\n

Es un poco como en El Se\u00f1or de los Anillos<\/em>, cuando los habitantes fortifican sus ciudades antes de la invasi\u00f3n de los orcos.<\/p>Scott Aaronson<\/cite><\/blockquote><\/figure>\n\n\n\n

\u00bfDecidimos que, para que se publique en una revista, un resultado puede haber sido descubierto por una IA, pero que, a continuaci\u00f3n, un ser humano debe haber asimilado la idea y ser capaz de explic\u00e1rsela a otros seres humanos? \u00bfO es necesario que un ser humano asuma la responsabilidad si el resultado es err\u00f3neo? Todav\u00eda estamos tratando de determinar cu\u00e1les deber\u00edan ser esas normas.<\/p>\n\n\n\n

He hablado con personas que forman parte, por ejemplo, de los comit\u00e9s de programa de las grandes conferencias de inform\u00e1tica te\u00f3rica. Es un poco como en El Se\u00f1or de los Anillos<\/em>, cuando los habitantes fortifican sus ciudades antes de la invasi\u00f3n de los orcos. Esperan recibir miles de propuestas generadas por IA en la pr\u00f3xima ronda de conferencias, y no tienen ni idea de c\u00f3mo van a gestionar eso, ya que, sencillamente, no habr\u00e1 suficiente gente para evaluarlas.<\/p>\n\n\n\n

Por lo tanto, se ver\u00e1n obligados a recurrir, en parte, a la IA. <\/p>\n\n\n\n

\u00bfCree que es importante preservar el papel de los seres humanos en la investigaci\u00f3n, o simplemente ralentizar\u00e1n el proceso de descubrimiento?<\/h3>\n\n\n\n

Creo que es muy importante seguir reflexionando sobre el mundo en el que queremos vivir y el papel que queremos desempe\u00f1ar en \u00e9l. A la larga, esta cuesti\u00f3n trasciende con creces el \u00e1mbito de la carrera profesional de los matem\u00e1ticos o de los investigadores en inform\u00e1tica te\u00f3rica. Para nuestro peque\u00f1o mundo, evidentemente es importante, pero se trata de cuestiones a las que se enfrentar\u00e1 toda la humanidad.<\/p>\n\n\n\n

\u00bfDe verdad queremos que los robots se encarguen de todos los trabajos si son capaces de realizarlos mejor que nosotros? \u00bfY qu\u00e9 tipo de mundo nos quedar\u00eda entonces? \u00bfUna utop\u00eda en la que se satisfacen todas nuestras necesidades y en la que simplemente podemos disfrutar de nuestro tiempo libre? \u00bfO una distop\u00eda en la que los robots acabar\u00edan pregunt\u00e1ndose: \u00abEn el fondo, \u00bfpara qu\u00e9 seguimos necesitando a los humanos, para qu\u00e9 seirven\u00bb?<\/p>\n\n\n\n

Mientras sigamos plante\u00e1ndonos estas preguntas o mientras no podamos garantizar la seguridad de la IA, entonces s\u00ed, sin duda: queremos, como m\u00ednimo, contar con personas que tengan las competencias suficientes para poder comprender, en la medida de lo posible, lo que hacen las IA.<\/p>\n\n\n\n

Y si las IA empiezan a elaborar estrategias en nuestra contra o, por ejemplo, a proporcionarnos pruebas matem\u00e1ticas que parecen correctas, pero que en realidad son sutilmente err\u00f3neas porque persiguen otro objetivo, tendremos que ser capaces de detectarlo.<\/p>\n","protected":false},"excerpt":{"rendered":"

Una conversaci\u00f3n en profundidad con el matem\u00e1tico que invent\u00f3 el \u00abwatermarking\u00bb de los grandes modelos de lenguaje (LLM).<\/p>\n","protected":false},"author":61106,"featured_media":109046,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"templates\/post-interviews.php","format":"standard","meta":{"_acf_changed":false,"_trash_the_other_posts":false,"_yoast_wpseo_estimated-reading-time-minutes":21,"_lgc_tts_voice":"","_lgc_tts_publish":false,"_lgc_tts_history_item_id":"","_lgc_tts_generated_at":"","_lgc_tts_status":"","_lgc_tts_error":"","footnotes":""},"categories":[464],"tags":[],"staff":[154],"editorial_format":[1473],"serie":[],"audience":[],"geo":[177],"class_list":["post-109069","post","type-post","status-publish","format-standard","hentry","category-poderes-de-la-ia","staff-victor-storchan","editorial_format-entrevistas","geo-europa"],"acf":{"open_in_webview":false,"accent":"default","_thumbnail_id":109046,"excerpt":"Una conversaci\u00f3n en profundidad con el matem\u00e1tico que invent\u00f3 el \u00abwatermarking\u00bb de los grandes modelos de lenguaje (LLM).","display_date":"","new_abstract":true},"yoast_head":"\n\u00bfTodav\u00eda podemos marcar lo que hacen las m\u00e1quinas? - El Grand Continent<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/\" \/>\n<meta property=\"og:locale\" content=\"es_ES\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"\u00bfTodav\u00eda podemos marcar lo que hacen las m\u00e1quinas? - El Grand Continent\" \/>\n<meta property=\"og:description\" content=\"Una conversaci\u00f3n en profundidad con el matem\u00e1tico que invent\u00f3 el \u00abwatermarking\u00bb de los grandes modelos de lenguaje (LLM).\" \/>\n<meta property=\"og:url\" content=\"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/\" \/>\n<meta property=\"og:site_name\" content=\"El Grand Continent\" \/>\n<meta property=\"article:published_time\" content=\"2026-08-22T09:02:58+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2026-08-22T09:03:06+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/legrandcontinent.eu\/es\/wp-content\/uploads\/sites\/2\/2026\/08\/share-GC-2.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1796\" \/>\n\t<meta property=\"og:image:height\" content=\"1040\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Louis Puel\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:image\" content=\"https:\/\/legrandcontinent.eu\/es\/wp-content\/uploads\/sites\/2\/2026\/08\/share-GC-2.jpg\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"Louis Puel\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tiempo de lectura\" \/>\n\t<meta name=\"twitter:data2\" content=\"21 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/\",\"url\":\"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/\",\"name\":\"\u00bfTodav\u00eda podemos marcar lo que hacen las m\u00e1quinas? - El Grand Continent\",\"isPartOf\":{\"@id\":\"https:\/\/legrandcontinent.eu\/es\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/legrandcontinent.eu\/es\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02-1.jpg\",\"datePublished\":\"2026-08-22T09:02:58+00:00\",\"dateModified\":\"2026-08-22T09:03:06+00:00\",\"author\":{\"@id\":\"https:\/\/legrandcontinent.eu\/es\/#\/schema\/person\/a4ebf3b2e7f30c2cc54edf2358969d9c\"},\"breadcrumb\":{\"@id\":\"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/#breadcrumb\"},\"inLanguage\":\"es\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"es\",\"@id\":\"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/#primaryimage\",\"url\":\"https:\/\/legrandcontinent.eu\/es\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02-1.jpg\",\"contentUrl\":\"https:\/\/legrandcontinent.eu\/es\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02-1.jpg\",\"width\":1008,\"height\":797},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/legrandcontinent.eu\/es\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"\u00bfTodav\u00eda podemos marcar lo que hacen las m\u00e1quinas?\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/legrandcontinent.eu\/es\/#website\",\"url\":\"https:\/\/legrandcontinent.eu\/es\/\",\"name\":\"El Grand Continent\",\"description\":\"La escala pertinente\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/legrandcontinent.eu\/es\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"es\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/legrandcontinent.eu\/es\/#\/schema\/person\/a4ebf3b2e7f30c2cc54edf2358969d9c\",\"name\":\"Louis Puel\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"es\",\"@id\":\"https:\/\/legrandcontinent.eu\/es\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/1b9215c18c8161a2ba390b1370cfb053?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/1b9215c18c8161a2ba390b1370cfb053?s=96&d=mm&r=g\",\"caption\":\"Louis Puel\"}}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"\u00bfTodav\u00eda podemos marcar lo que hacen las m\u00e1quinas? - El Grand Continent","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/","og_locale":"es_ES","og_type":"article","og_title":"\u00bfTodav\u00eda podemos marcar lo que hacen las m\u00e1quinas? - El Grand Continent","og_description":"Una conversaci\u00f3n en profundidad con el matem\u00e1tico que invent\u00f3 el \u00abwatermarking\u00bb de los grandes modelos de lenguaje (LLM).","og_url":"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/","og_site_name":"El Grand Continent","article_published_time":"2026-08-22T09:02:58+00:00","article_modified_time":"2026-08-22T09:03:06+00:00","og_image":[{"width":1796,"height":1040,"url":"https:\/\/legrandcontinent.eu\/es\/wp-content\/uploads\/sites\/2\/2026\/08\/share-GC-2.jpg","type":"image\/jpeg"}],"author":"Louis Puel","twitter_card":"summary_large_image","twitter_image":"https:\/\/legrandcontinent.eu\/es\/wp-content\/uploads\/sites\/2\/2026\/08\/share-GC-2.jpg","twitter_misc":{"Escrito por":"Louis Puel","Tiempo de lectura":"21 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/","url":"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/","name":"\u00bfTodav\u00eda podemos marcar lo que hacen las m\u00e1quinas? - El Grand Continent","isPartOf":{"@id":"https:\/\/legrandcontinent.eu\/es\/#website"},"primaryImageOfPage":{"@id":"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/#primaryimage"},"image":{"@id":"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/#primaryimage"},"thumbnailUrl":"https:\/\/legrandcontinent.eu\/es\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02-1.jpg","datePublished":"2026-08-22T09:02:58+00:00","dateModified":"2026-08-22T09:03:06+00:00","author":{"@id":"https:\/\/legrandcontinent.eu\/es\/#\/schema\/person\/a4ebf3b2e7f30c2cc54edf2358969d9c"},"breadcrumb":{"@id":"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/#breadcrumb"},"inLanguage":"es","potentialAction":[{"@type":"ReadAction","target":["https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/"]}]},{"@type":"ImageObject","inLanguage":"es","@id":"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/#primaryimage","url":"https:\/\/legrandcontinent.eu\/es\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02-1.jpg","contentUrl":"https:\/\/legrandcontinent.eu\/es\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02-1.jpg","width":1008,"height":797},{"@type":"BreadcrumbList","@id":"https:\/\/legrandcontinent.eu\/es\/2026\/08\/22\/podemos-todavia-marcar-las-maquinas\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/legrandcontinent.eu\/es\/"},{"@type":"ListItem","position":2,"name":"\u00bfTodav\u00eda podemos marcar lo que hacen las m\u00e1quinas?"}]},{"@type":"WebSite","@id":"https:\/\/legrandcontinent.eu\/es\/#website","url":"https:\/\/legrandcontinent.eu\/es\/","name":"El Grand Continent","description":"La escala pertinente","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/legrandcontinent.eu\/es\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"es"},{"@type":"Person","@id":"https:\/\/legrandcontinent.eu\/es\/#\/schema\/person\/a4ebf3b2e7f30c2cc54edf2358969d9c","name":"Louis Puel","image":{"@type":"ImageObject","inLanguage":"es","@id":"https:\/\/legrandcontinent.eu\/es\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/1b9215c18c8161a2ba390b1370cfb053?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/1b9215c18c8161a2ba390b1370cfb053?s=96&d=mm&r=g","caption":"Louis Puel"}}]}},"lgc_categories":[{"id":464,"name":"Poderes de la IA","slug":"poderes-de-la-ia"}],"lgc_author":{"id":154,"name":"Victor Storchan","slug":"victor-storchan","description":null,"first_name":null,"last_name":null,"picture":null},"feature_image_summary":{"url":"https:\/\/legrandcontinent.eu\/es\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02-1.jpg","width":1008,"height":797,"alt":""},"feature_image_cover":{"url":"https:\/\/legrandcontinent.eu\/es\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02.jpg","width":1008,"height":1309,"alt":""},"term_position_data":null,"_links":{"self":[{"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/posts\/109069","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/users\/61106"}],"replies":[{"embeddable":true,"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/comments?post=109069"}],"version-history":[{"count":7,"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/posts\/109069\/revisions"}],"predecessor-version":[{"id":109080,"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/posts\/109069\/revisions\/109080"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/media\/109046"}],"wp:attachment":[{"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/media?parent=109069"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/categories?post=109069"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/tags?post=109069"},{"taxonomy":"staff","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/staff?post=109069"},{"taxonomy":"editorial_format","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/editorial_format?post=109069"},{"taxonomy":"serie","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/serie?post=109069"},{"taxonomy":"audience","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/audience?post=109069"},{"taxonomy":"geo","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/es\/wp-json\/wp\/v2\/geo?post=109069"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}