{"id":353722,"date":"2026-08-21T06:00:00","date_gmt":"2026-08-21T04:00:00","guid":{"rendered":"https:\/\/legrandcontinent.eu\/fr\/?p=353722"},"modified":"2026-08-20T18:55:26","modified_gmt":"2026-08-20T16:55:26","slug":"pouvons-nous-encore-marquer-les-machines","status":"publish","type":"post","link":"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/","title":{"rendered":"Pouvons-nous encore marquer les machines ?"},"content":{"rendered":"\n

Lorsque Scott Aaronson est recrut\u00e9 chez OpenAI, Ilya Sutskever, le scientifique en chef, lui propose de r\u00e9fl\u00e9chir \u00e0 \u00ab une d\u00e9finition math\u00e9matique de ce que signifierait, pour l\u2019IA, aimer l\u2019humanit\u00e9 \u00bb. Aaronson en rit presque quand il raconte cette anecdote. Il vient d\u2019un autre monde.<\/em><\/p>\n\n\n\n

Th\u00e9oricien de l\u2019informatique, il a longtemps \u00e9t\u00e9 professeur au MIT et il est aujourd\u2019hui professeur \u00e0 l\u2019Universit\u00e9 du Texas \u00e0 Austin. Il est l\u2019un des grands sp\u00e9cialistes de la th\u00e9orie de la complexit\u00e9 et du calcul quantique. Laur\u00e9at de l\u2019ACM Prize in Computing en 2020, il a \u00e9t\u00e9 \u00e9lu en 2026 \u00e0 la National Academy of Sciences.\u00a0<\/em><\/p>\n\n\n\n

Depuis le 2 ao\u00fbt, <\/em>l\u2019<\/em>AI Act<\/a> impose aux fournisseurs op\u00e9rant dans l\u2019Union de rendre les contenus produits par leurs mod\u00e8les d\u00e9tectables comme ayant \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9s ou manipul\u00e9s sp\u00e9cifiquement par une intelligence artificielle. Dans la foul\u00e9e, Anthropic a annonc\u00e9 l\u2019introduction dans les textes produits par Claude d\u2019<\/em>un <\/em>watermark invisible<\/em><\/a> ravivant des d\u00e9bats plus anciens : un tel marquage est-il souhaitable ? Peut-il \u00eatre introduit sans d\u00e9grader la qualit\u00e9 des r\u00e9ponses ? Quelles robustesse offre-t-il face au d\u00e9veloppement de techniques con\u00e7ues pour l’effacer ? Ne sert-il pas d’abord aux laboratoires pour reconna\u00eetre les textes g\u00e9n\u00e9r\u00e9s par LLM et ainsi s\u2019entra\u00eener uniquement sur des \u00e9crits humains, par crainte qu’entra\u00eener un mod\u00e8le sur des contenus g\u00e9n\u00e9r\u00e9s par l\u2019IA ne conduise justement \u00e0 une baisse de fiabilit\u00e9 et de qualit\u00e9 ? Posera-t-il \u00e0 terme la question de la propri\u00e9t\u00e9 intellectuelle ? <\/em><\/p>\n\n\n\n

Nous avons demand\u00e9 \u00e0 Scott Aaronson, qui travaille sur ces questions depuis avant m\u00eame le lancement de ChatGPT, de partir du commencement. Il nous a racont\u00e9 comment il a con\u00e7u le watermarking et nous a r\u00e9v\u00e9l\u00e9 les raisons de son d\u00e9part de Sam Altman, tout en partageant ses inqui\u00e9tudes et ses questionnements concernant ce qui lui semble \u00eatre la fin de l’\u00e8re de la recherche en math\u00e9matiques \u00ab dans la forme que nous lui connaissions. \u00bb<\/em><\/p>\n\n\n\n

Pour recevoir nos entretiens et nos analyses directement dans votre bo\u00eete mail, testez un abonnement au <\/em>Grand Continent, \u00e0 partir de 8 euros par mois<\/em><\/a><\/p>\n\n\n\n

Lorsque vous avez commenc\u00e9 \u00e0 travailler pour OpenAI en 2022, en 2022 chez OpenAI, vous avez d\u00e9velopp\u00e9 le watermarking.<\/em> Votre approche influence aujourd\u2019hui la plupart des grands laboratoires d\u2019IA. Quel en est le principe g\u00e9n\u00e9ral et comment en \u00eates-vous venu \u00e0 travailler sur ce sujet ? <\/h3>\n\n\n\n

L\u2019id\u00e9e du watermarking textuel consiste \u00e0 modifier tr\u00e8s l\u00e9g\u00e8rement le fonctionnement d\u2019un mod\u00e8le de langage, sans en d\u00e9grader la qualit\u00e9. Les utilisateurs obtiennent des r\u00e9ponses qui ressemblent exactement \u00e0 celles auxquelles ils sont habitu\u00e9s avec Claude, ChatGPT ou d\u2019autres mod\u00e8les mais un signal statistique est incorpor\u00e9 dans l\u2019al\u00e9a (la fonction pseudo-al\u00e9atoire cryptographique) utilis\u00e9 pour choisir les mots. Il devient alors beaucoup plus facile d\u2019\u00e9tablir non seulement qu\u2019un texte a \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9 par une IA, mais aussi qu\u2019il provient d\u2019un mod\u00e8le en particulier.<\/p>\n\n\n\n

Beaucoup de gens ont r\u00e9fl\u00e9chi \u00e0 cette id\u00e9e. \u00c0 ma connaissance, j\u2019ai \u00e9t\u00e9 le premier \u00e0 penser sp\u00e9cifiquement au watermarking<\/em> des LLM. C\u2019\u00e9tait peu apr\u00e8s mon arriv\u00e9e chez OpenAI, \u00e0 l\u2019\u00e9t\u00e9 2022. J\u2019avais \u00e9t\u00e9 recrut\u00e9 par Ilya Sutskever et Jan Leike, qui dirigeaient alors la recherche sur l\u2019alignement. J\u2019imagine qu\u2019ils \u00e9taient lecteurs de mon blog. C\u2019est ainsi qu\u2019ils m\u2019ont trouv\u00e9 et m\u2019ont propos\u00e9 de les rejoindre. C\u2019\u00e9tait juste avant le lancement de ChatGPT, le 30 novembre 2022. <\/p>\n\n\n\n

Quelle vision aviez-vous alors du d\u00e9veloppement de l\u2019IA ?<\/h3>\n\n\n\n

J\u2019avais conscience de ce qui \u00e9tait en train de se passer. J\u2019avais test\u00e9 GPT-3. Il m\u2019avait \u00e9norm\u00e9ment impressionn\u00e9, d\u00e8s 2020 ou 2021, et je me demandais pourquoi plus de gens ne lui pr\u00eataient pas davantage d\u2019attention. <\/p>\n\n\n\n

Mais \u00e0 l\u2019\u00e9poque, OpenAI disait encore : \u00ab \u00c9coutez, nous ne sommes qu\u2019une petite organisation \u00e0 but non lucratif. Nous essayons de faire les choses correctement pour l\u2019humanit\u00e9 et en toute s\u00e9curit\u00e9 \u00bb. <\/p>\n\n\n\n

J’ai appris \u00e0 me montrer extr\u00eamement m\u00e9fiant face \u00e0 ce que je lisais en ligne et \u00e0 ne jamais pr\u00e9sumer qu’un message provenait r\u00e9ellement de la personne dont il revendiquait l’identit\u00e9.<\/p>Scott Aaronson<\/cite><\/blockquote><\/figure>\n\n\n\n

Ils m\u2019ont offert \u00e0 l\u2019\u00e9poque une ann\u00e9e pendant laquelle je pouvais rester l\u2019essentiel du temps au Texas, aupr\u00e8s de mes \u00e9tudiants et de ma famille, en me rendant simplement \u00e0 San Francisco tous les mois, pour r\u00e9fl\u00e9chir notamment \u00e0 la mani\u00e8re dont l\u2019informatique th\u00e9orique pouvait contribuer \u00e0 la s\u00e9curit\u00e9 de l\u2019IA.<\/p>\n\n\n\n

O\u00f9 en \u00e9tait la recherche sur ces questions ? Rendre l\u2019IA s\u00fbre \u00e9tait-il une priorit\u00e9 ?<\/h3>\n\n\n\n

\u00c0 ce moment-l\u00e0, il y avait d\u00e9j\u00e0 un groupe de personnes travaillant sur ces questions. Une bonne partie s\u2019\u00e9tait en fait constitu\u00e9e autour de Paul Christiano, un ancien \u00e9tudiant que j\u2019avais eu au MIT et qui, lorsque je suis arriv\u00e9, venait de quitter OpenAI pour cr\u00e9er sa propre organisation, l’Alignement Research Center (ARC).<\/p>\n\n\n\n

Paul avait r\u00e9ussi \u00e0 montrer que la clef pour rendre l\u2019IA s\u00fbre pouvait se trouver dans la th\u00e9orie de la complexit\u00e9. C\u2019est en partie ce qui les avait amen\u00e9s \u00e0 s\u2019int\u00e9resser \u00e0 moi. Mais je voyais d\u00e9j\u00e0 une difficult\u00e9 majeure : les progr\u00e8s r\u00e9alis\u00e9s dans le contr\u00f4le de l\u2019IA, l\u2019assignation d’objectifs et la garantie de leur suivi fiable \u00e9taient presque enti\u00e8rement empiriques. <\/p>\n\n\n\n

En quoi \u00e9tait-ce un probl\u00e8me ?<\/h3>\n\n\n\n

Cela n\u2019\u00e9tait pas suffisant : il fallait \u00e9noncer explicitement les valeurs et les principes que l\u2019on souhaitait voir respecter par l\u2019IA, un peu \u00e0 la mani\u00e8re des romans d\u2019Isaac Asimov. Pour cela, on a \u00e9labor\u00e9 ce que nous appelons aujourd\u2019hui des \u00ab constitutions \u00bb. <\/p>\n\n\n\n\n

\n
\n
\n \n
\n \n \"Glenn\n <\/picture>\n
Glenn Ligon, Debris Field (Red) #20<\/em>, 2021<\/figcaption> <\/figure>\n <\/a>\n \n <\/div>\n
\n \n
\n \n \"Glenn\n <\/picture>\n
Glenn Ligon, Study for Debris Field #50<\/em>, 2020\u20132021<\/figcaption> <\/figure>\n <\/a>\n <\/div>\n <\/div>\n \n
\n
\n
\n
Glenn Ligon, Debris Field (Red) #20<\/em>, 2021<\/figcaption> <\/figure>\n \n <\/div>\n
\n
\n
Glenn Ligon, Study for Debris Field #50<\/em>, 2020\u20132021<\/figcaption> <\/figure>\n <\/div>\n <\/div>\n<\/div>\n\n\n\n

\u00c0 partir de ces principes, on peut ensuite \u00e9valuer empiriquement l\u2019effet de ces diff\u00e9rentes approches et publier des r\u00e9sultats montrant, par exemple, qu\u2019une intervention donn\u00e9e r\u00e9duit de 20 % les comportements de tricherie, ou de 30 % la propension du mod\u00e8le \u00e0 accepter d\u2019aider un utilisateur \u00e0 fabriquer des armes chimiques. On essayait d\u2019autres pistes \u00e9galement, comme l\u2019apprentissage par renforcement.<\/p>\n\n\n\n

Vous \u00eates donc pass\u00e9 de votre domaine d\u2019expertise premier, l\u2019informatique, \u00e0 ce qu\u2019on pourrait appeler de la psychologie exp\u00e9rimentale\u2026<\/h3>\n\n\n\n

Le tout sans comprendre r\u00e9ellement ce qui se passait. \u00c0 l\u2019\u00e9t\u00e9 2022, je r\u00e9fl\u00e9chissais donc \u00e0 ce que la th\u00e9orie pouvait apporter \u00e0 la s\u00e9curit\u00e9 de l\u2019IA. Je me suis demand\u00e9 s’il \u00e9tait possible de faire quelque chose qui aurait un impact concret sur le produit. Cet \u00e9t\u00e9-l\u00e0, j\u2019ai \u00e9t\u00e9 la cible d\u2019une campagne de harc\u00e8lement particuli\u00e8rement violente sur mon blog, men\u00e9e notamment par des personnes se faisant passer pour mes coll\u00e8gues ou d\u2019autres interlocuteurs. J\u2019ai alors appris \u00e0 me montrer extr\u00eamement m\u00e9fiant face \u00e0 ce que je lisais en ligne, et \u00e0 ne jamais pr\u00e9sumer qu\u2019un message provenait r\u00e9ellement de la personne dont il revendiquait l\u2019identit\u00e9.<\/p>\n\n\n\n

En quoi cet \u00e9v\u00e9nement a-t-il guid\u00e9 vos recherches ?<\/h3>\n\n\n\n

J\u2019ai multipli\u00e9 les pistes. L\u2019une d\u2019entre elles aurait consist\u00e9 \u00e0 demander aux grands laboratoires de conserver une trace de tous les contenus g\u00e9n\u00e9r\u00e9s par leurs mod\u00e8les, afin de pouvoir ensuite leur soumettre un texte et leur poser la question suivante : \u00ab Avez-vous d\u00e9j\u00e0 produit ce contenu ? \u00bb Une telle solution soul\u00e8verait \u00e9videmment des questions relatives au respect de la vie priv\u00e9e. Et m\u00eame si elle pouvait \u00eatre mise en \u0153uvre sans v\u00e9ritable atteinte \u00e0 la confidentialit\u00e9 des utilisateurs, il resterait tr\u00e8s difficile d\u2019en convaincre le grand public. <\/p>\n\n\n\n

Une autre id\u00e9e \u00e9tait de traiter cela comme un probl\u00e8me d\u2019IA parmi d\u2019autres, \u00e0 savoir entra\u00eener un r\u00e9seau de neurones \u00e0 distinguer aussi bien que possible un texte humain d\u2019un texte g\u00e9n\u00e9r\u00e9 par une IA. Cela a d\u00e9j\u00e0 \u00e9t\u00e9 fait dans une large mesure. Une entreprise, GPTZero, travaillait notamment l\u00e0-dessus. Un outil qui a beaucoup de visibilit\u00e9 aujourd\u2019hui s\u2019appelle Pangram et beaucoup de professeurs l\u2019utilisent pour essayer de d\u00e9terminer si leurs \u00e9tudiants ont eu recours \u00e0 l\u2019IA.<\/p>\n\n\n\n

Mais il \u00e9tait d\u00e9j\u00e0 clair, il y a quatre ans, que tous ces outils produiraient n\u00e9cessairement des faux positifs. Or, m\u00eame avec un taux relativement faible de quelques pourcents seulement, le probl\u00e8me demeure consid\u00e9rable : lorsqu\u2019une universit\u00e9 accuse un \u00e9tudiant de triche, elle doit pouvoir le faire avec un degr\u00e9 de certitude extr\u00eamement \u00e9lev\u00e9. Il faut donc ramener le taux de faux positifs \u00e0 un niveau de l\u2019ordre d\u2019un cas sur mille, voire moins.<\/p>\n\n\n\n

C\u2019est ce qui m\u2019a conduit \u00e0 l\u2019id\u00e9e du watermarking. <\/p>\n\n\n\n

\u00c0 partir de quel trait caract\u00e9ristique du fonctionnement des LLM avez-vous d\u00e9velopp\u00e9 le watermarking<\/em> ?<\/h3>\n\n\n\n

Le fonctionnement des LLM est intrins\u00e8quement probabiliste. Tout le monde peut le constater : vous pouvez envoyer plusieurs fois exactement le m\u00eame prompt et obtenir une r\u00e9ponse diff\u00e9rente \u00e0 chaque fois. Pourquoi ? Parce que le r\u00e9seau de neurones transformer ne calcule pas directement le mot suivant d\u2019une phrase. Il calcule une distribution de probabilit\u00e9 sur les diff\u00e9rents mots possibles, ou plut\u00f4t les tokens, susceptibles de suivre.<\/p>\n\n\n\n

Ensuite, en temps normal, il \u00e9chantillonne simplement un token \u00e0 partir de cette distribution. Cela fournit une nouvelle entr\u00e9e, qui est r\u00e9inject\u00e9e dans le LLM. Celui-ci g\u00e9n\u00e8re alors une distribution pour le token suivant, en \u00e9chantillonne un, et ainsi de suite de mani\u00e8re autor\u00e9gressive.<\/p>\n\n\n\n

Quel est le lien entre la longueur d\u2019une r\u00e9ponse, son entropie et le niveau de confiance statistique permettant d\u2019\u00e9tablir qu\u2019elle provient d\u2019un mod\u00e8le particulier ?<\/h3>\n\n\n\n

La g\u00e9n\u00e9ration de texte par un LLM comporte intrins\u00e8quement de l\u2019entropie. Il est m\u00eame possible d\u2019en mesurer la quantit\u00e9. L\u2019incertitude effective au moment de choisir le token suivant est souvent de l\u2019ordre d\u2019un bit par token. Autrement dit, le mod\u00e8le dispose en moyenne d\u2019une petite marge de man\u0153uvre pour choisir parmi plusieurs suites plausibles.<\/p>\n\n\n\n

Cependant, si vous demandez \u00e0 ChatGPT d\u2019\u00e9num\u00e9rer les cent premiers nombres, il peut le faire, mais il n\u2019y aura pratiquement aucune entropie, sauf s\u2019il joue sur les espaces ou les retours \u00e0 la ligne. Ce n\u2019est donc pas un contenu que l\u2019on peut vraiment esp\u00e9rer watermarker<\/em>. M\u00eame chose si on lui demande, par exemple, le texte de la D\u00e9claration d\u2019ind\u00e9pendance.<\/p>\n\n\n\n

Mais en g\u00e9n\u00e9ral, lorsque nous demandons quelque chose \u00e0 une IA, m\u00eame s\u2019il existe en un sens une r\u00e9ponse unique correcte, il existe un nombre de fa\u00e7ons diff\u00e9rentes de l’exprimer qui cro\u00eet exponentiellement avec sa longueur. Plus le texte est long, plus on peut donc esp\u00e9rer y incorporer un signal.<\/p>\n\n\n\n

Lorsque vous cherchez \u00e0 d\u00e9tecter le watermark<\/em>, vous n\u2019avez pas acc\u00e8s aux probabilit\u00e9s. Vous ne voyez pas non plus le prompt qui a conduit \u00e0 ce texte. Vous ne voyez que le texte lui-m\u00eame. \u00c0 partir de lui seul, vous devez pouvoir calculer s\u2019il y a un watermark<\/em>. Mieux encore, il faudrait pouvoir d\u00e9tecter quelles parties du texte comportent un watermark<\/em> et lesquelles n\u2019en comportent pas.<\/p>\n\n\n\n\n

\n
\n
\n \n
\n \n \"Glenn\n <\/picture>\n
Glenn Ligon, Untitled (I Lost My Voice I Found My Voice)<\/em>, 1991.<\/figcaption> <\/figure>\n <\/a>\n \n <\/div>\n
\n \n
\n \n \"Glenn\n <\/picture>\n
Glenn Ligon, Untitled (I Do Not Always Feel Colored)<\/em>, 1990 oil and gesso on wood<\/figcaption> <\/figure>\n <\/a>\n <\/div>\n <\/div>\n \n
\n
\n
\n
Glenn Ligon, Untitled (I Lost My Voice I Found My Voice)<\/em>, 1991.<\/figcaption> <\/figure>\n \n <\/div>\n
\n
\n
Glenn Ligon, Untitled (I Do Not Always Feel Colored)<\/em>, 1990 oil and gesso on wood<\/figcaption> <\/figure>\n <\/div>\n <\/div>\n<\/div>\n\n\n\n

J\u2019ai con\u00e7u une m\u00e9thode concr\u00e8te permettant de faire tout cela. Il y avait notamment des questions statistiques : \u00e9tant donn\u00e9 l\u2019entropie contenue dans cette s\u00e9quence de tokens, que faut-il faire pour maximiser la puissance statistique du watermarking<\/em> obtenue par token ? Il existe un arbitrage entre la probabilit\u00e9 d\u2019un faux positif et celle d\u2019un faux n\u00e9gatif. Mais on veut minimiser la probabilit\u00e9 d\u2019erreur, et le faire avec aussi peu de tokens que possible.<\/p>\n\n\n\n

J\u2019ai d\u00e9velopp\u00e9 une partie de la th\u00e9orie de base en \u00e9tablissant une r\u00e8gle pour choisir le token suivant en appliquant un peu d\u2019analyse et de statistiques que j\u2019ai d\u00fb d\u00e9poussi\u00e9rer de mes ann\u00e9es d\u2019\u00e9tudes. Des chercheurs en machine learning m\u2019ont ensuite expliqu\u00e9 que j\u2019avais red\u00e9couvert une r\u00e8gle d\u00e9j\u00e0 connue dans leur domaine : la r\u00e8gle Gumbel-Softmax. J\u2019ai donc appel\u00e9 ma m\u00e9thode le sch\u00e9ma Gumbel-Softmax. Elle n\u2019avait jamais \u00e9t\u00e9 utilis\u00e9e \u00e0 cette fin.<\/p>\n\n\n\n

Beaucoup de gens pensent qu’il existe n\u00e9cessairement un compromis entre le watermarking<\/em> et la qualit\u00e9 de la r\u00e9ponse. Pourquoi cette intuition est-elle trompeuse ?<\/h3>\n\n\n\n

Imm\u00e9diatement, certaines personnes ont soulev\u00e9 cette objection concernant le compromis entre le watermarking<\/em> et la qualit\u00e9 du texte en pensant que les probabilit\u00e9s seraient biais\u00e9es dans une certaine direction, ce qui alt\u00e8rerait la qualit\u00e9 de la r\u00e9ponse.<\/p>\n\n\n\n

Je me suis rendu compte que ce compromis n\u2019existait pas. Il suffit de remplacer l\u2019entropie utilis\u00e9e pour choisir le token suivant par du pseudo-al\u00e9atoire d\u2019un type particulier, qui favorise certaines combinaisons \u00e9tranges de tokens plut\u00f4t que d\u2019autres. Certains n-grams, par exemple une s\u00e9quence de cinq tokens cons\u00e9cutifs, seront favoris\u00e9s, tandis que d\u2019autres seront d\u00e9favoris\u00e9s.<\/p>\n\n\n\n

Chez OpenAI on me disait : \u00ab Notre mission est d’emp\u00eacher l’IA de d\u00e9truire l’humanit\u00e9. Sommes-nous vraiment si pr\u00e9occup\u00e9s par des \u00e9tudiants qui trichent sur leurs devoirs ? \u00bb<\/p>Scott Aaronson<\/cite><\/blockquote><\/figure>\n\n\n\n

Mais comme ce choix repose sur une fonction pseudo-al\u00e9atoire, il reste imperceptible pour un lecteur ordinaire. On peut m\u00eame dire quelque chose de plus fort : la r\u00e9ponse peut \u00eatre rendue cryptographiquement indistinguable d\u2019une r\u00e9ponse normale du LLM. Je ne l\u2019avais pas tout \u00e0 fait d\u00e9montr\u00e9 mais des chercheurs comme Sam Gunn, Miranda Christ ou Or Zamir, dont beaucoup \u00e9taient \u00e0 Berkeley, ont ensuite prolong\u00e9 mon travail pour prouver qu\u2019il \u00e9tait possible d’obtenir une v\u00e9ritable indistinguabilit\u00e9 cryptographique.<\/p>\n\n\n\n

Il restait ensuite des math\u00e9matiques int\u00e9ressantes \u00e0 faire pour d\u00e9terminer exactement comment choisir de mani\u00e8re pseudo-al\u00e9atoire le token suivant de fa\u00e7on \u00e0 conserver la m\u00eame distribution apparente, tout en incorporant un signal qui puisse \u00eatre d\u00e9tect\u00e9 ult\u00e9rieurement.<\/p>\n\n\n\n

Comment les grands laboratoires ont-ils abord\u00e9 la question du watermark<\/em> ? <\/h3>\n\n\n\n

OpenAI m\u2019avait affect\u00e9 un ing\u00e9nieur, Hendrik Kirchner. Il a d\u00e9velopp\u00e9 une impl\u00e9mentation de ma m\u00e9thode, nous l\u2019avons test\u00e9e. Elle semblait fonctionner exactement comme la th\u00e9orie le pr\u00e9disait. De mon c\u00f4t\u00e9, je donnais des conf\u00e9rences publiques pour faire conna\u00eetre le sujet.<\/p>\n\n\n\n

C\u2019est pr\u00e9cis\u00e9ment \u00e0 cette p\u00e9riode que ChatGPT est sorti. La question s\u2019est alors pos\u00e9e de savoir si OpenAI allait r\u00e9ellement d\u00e9ployer cette technologie. Cela n\u2019a jamais \u00e9t\u00e9 le cas. Pendant tout le reste de mon temps chez OpenAI, je revenais parfois \u00e0 la charge. J\u2019ai m\u00eame port\u00e9 le sujet directement aupr\u00e8s de Sam Altman.<\/p>\n\n\n\n

Pourquoi avez-vous d\u00e9fendu le d\u00e9ploiement du watermark<\/em> ?<\/h3>\n\n\n\n

D\u2019abord, mes coll\u00e8gues universitaires me suppliaient de le faire. D\u00e8s 2023, ils voyaient d\u00e9j\u00e0 l\u2019arriv\u00e9e massive de travaux d\u2019\u00e9tudiants g\u00e9n\u00e9r\u00e9s par IA, et la situation n\u2019a fait qu\u2019empirer depuis. <\/p>\n\n\n\n

J\u2019avais en t\u00eate toutes sortes de mauvais usages possibles des LLM. La triche acad\u00e9mique \u00e9tait peut-\u00eatre la plus \u00e9vidente, mais il y avait aussi l\u2019usurpation d\u2019identit\u00e9 ou le phishing<\/em>. <\/p>\n\n\n\n

Les choses ne sont pas toujours aussi binaires. Un argument revenait r\u00e9guli\u00e8rement chez OpenAI, auquel je n\u2019avais pas pens\u00e9 : \u00ab Il y a toutes ces personnes dont l\u2019anglais n\u2019est pas la langue maternelle et qui utilisent GPT pour rendre leur anglais plus fluide. Si toutes les r\u00e9ponses comportaient un watermark<\/em>, on pourrait m\u00eame consid\u00e9rer que c\u2019est discriminatoire de leur imposer cela. \u00bb<\/p>\n\n\n\n

Il y a donc bien eu un arbitrage de ce type. Mais j\u2019avais le sentiment que, pour la grande majorit\u00e9 de mes coll\u00e8gues universitaires, une fois le probl\u00e8me expliqu\u00e9, la r\u00e9ponse allait de soi : bien s\u00fbr qu\u2019il fallait le faire.<\/p>\n\n\n\n

J’ai port\u00e9 le sujet du watermarking<\/em> directement aupr\u00e8s de Sam Altman. OpenAI ne l’a jamais d\u00e9ploy\u00e9. <\/p>Scott Aaronson<\/cite><\/blockquote><\/figure>\n\n\n\n

Les \u00e9quipes commerciales d\u2019OpenAI ont men\u00e9 des enqu\u00eates aupr\u00e8s des utilisateurs et une proportion non n\u00e9gligeable d\u00e9testent tout simplement l\u2019id\u00e9e du watermarking<\/em>. L\u2019appliquer, c\u2019\u00e9tait risquer de les laisser partir vers un LLM concurrent. Je pense que c\u2019est cet argument qui a finalement emport\u00e9 la d\u00e9cision chez OpenAI.<\/p>\n\n\n\n

L\u2019\u00e9quipe charg\u00e9e de la s\u00e9curit\u00e9 et de l\u2019alignement n\u2019a jamais \u00e9t\u00e9 particuli\u00e8rement enthousiaste, parce qu\u2019elle raisonnait ainsi : \u00ab Notre mission est d\u2019emp\u00eacher l\u2019IA d\u2019\u00e9chapper \u00e0 tout contr\u00f4le et de d\u00e9truire l\u2019humanit\u00e9. Sommes-nous vraiment si pr\u00e9occup\u00e9s par des \u00e9tudiants qui trichent sur leurs devoirs ? Peut-\u00eatre que les devoirs doivent de toute fa\u00e7on changer, voire dispara\u00eetre. \u00bb<\/p>\n\n\n\n

Beaucoup de gens avaient l\u2019intuition que la bataille \u00e9tait perdue d\u2019avance. Pourquoi m\u00eame essayer ? Mais je pensais que le co\u00fbt social \u00e9tait tr\u00e8s faible et que si nous parvenions \u00e0 convaincre les entreprises d\u2019IA de se coordonner sur ce sujet, cela enverrait un signal positif.<\/p>\n\n\n\n

Apr\u00e8s l\u2019annonce d\u2019Anthropic, un d\u00e9p\u00f4t GitHub intitul\u00e9 \u00ab Watermarks Remover for AI Content \u00bb a atteint environ 11 000 \u00e9toiles. Sommes-nous condamn\u00e9s \u00e0 entrer dans un jeu du chat et de la souris entre apposition et suppression de watermarks<\/em> ?<\/h3>\n\n\n\n

L\u2019autre question que nous nous sommes pos\u00e9e \u00e9tait la suivante : est-ce vraiment utile de le faire ? D\u00e8s que nous le ferons, les gens adopteront des contre-mesures. Ils trouveront des moyens de supprimer le watermark<\/em>. Je n\u2019avais pas de r\u00e9ponse tr\u00e8s convaincante, car il est vrai qu\u2019avec un minimum d\u2019efforts, on peut les supprimer.<\/p>\n\n\n\n

L\u2019attaque la plus simple serait de demander \u00e0 ChatGPT : \u00ab R\u00e9dige mon devoir, mais en espagnol ou en fran\u00e7ais \u00bb, ou dans n\u2019importe quelle autre langue. Puis, vous passez le r\u00e9sultat dans Google Translate. Vous obtiendrez alors un document compl\u00e8tement diff\u00e9rent de celui dans lequel le filigrane avait \u00e9t\u00e9 incorpor\u00e9.<\/p>\n\n\n\n\n

\n
\n
\n \n
\n \n \"Glenn\n <\/picture>\n
Glenn Ligon, Debris Field #5<\/em>, 2018<\/figcaption> <\/figure>\n <\/a>\n \n <\/div>\n
\n \n
\n \n \"Glenn\n <\/picture>\n
Glenn Ligon, Debris Field #2<\/em>, 2018<\/figcaption> <\/figure>\n <\/a>\n <\/div>\n <\/div>\n \n
\n
\n
\n
Glenn Ligon, Debris Field #5<\/em>, 2018<\/figcaption> <\/figure>\n \n <\/div>\n
\n
\n
Glenn Ligon, Debris Field #2<\/em>, 2018<\/figcaption> <\/figure>\n <\/div>\n <\/div>\n<\/div>\n\n\n\n

Une autre m\u00e9thode consiste \u00e0 demander \u00e0 ChatGPT : \u00ab R\u00e9dige mon devoir, mais ins\u00e8re le mot \u201cananas\u201d entre chaque mot. \u00bb Il suffit ensuite de supprimer tous les \u00ab ananas \u00bb. Cela peut l\u00e9g\u00e8rement d\u00e9grader la qualit\u00e9, mais dans l\u2019ensemble, cela fonctionne.<\/p>\n\n\n\n

Pour toute forme de watermarking<\/em> qui repose uniquement sur la s\u00e9quence des n-grammes, vous obtenez alors une s\u00e9quence de n-grammes enti\u00e8rement diff\u00e9rente. Et on peut tr\u00e8s bien imaginer que des personnes cr\u00e9ent sur le Web des outils qui rendent cette manipulation encore plus facile. Il existe d\u00e9j\u00e0 toutes sortes d\u2019outils pour aider \u00e0 contourner les d\u00e9tecteurs d\u2019IA.<\/p>\n\n\n\n

Puisque cela arrivera de mani\u00e8re pr\u00e9visible, pourquoi se donner la peine ? Il y a beaucoup de choses que nous faisons simplement pour ajouter un peu de friction. Nous fermons nos portes \u00e0 clef. Quelqu\u2019un peut-il crocheter la serrure ? Oui, mais cela ajoute de la friction au processus. On pourrait aussi se demander pourquoi Google n\u2019abandonne pas tout simplement le combat qu\u2019il m\u00e8ne depuis des d\u00e9cennies contre les sp\u00e9cialistes du r\u00e9f\u00e9rencement, le SEO. Il essaie simplement de leur rendre la t\u00e2che plus difficile. Je me suis donc dit que cela valait peut-\u00eatre la peine d\u2019essayer.<\/p>\n\n\n\n

Vous avez pr\u00e9sent\u00e9 le watermarking<\/em> s\u00e9mantique comme une direction de recherche importante : il s’agirait d’encoder la provenance au niveau du sens plut\u00f4t qu’au niveau du choix de chaque token. \u00c0 quoi pourrait concr\u00e8tement ressembler le watermarking<\/em> s\u00e9mantique ?<\/h3>\n\n\n\n

Je me suis rendu compte que, si l\u2019on voulait un watermark<\/em> capable de r\u00e9sister \u00e0 l\u2019attaque Google Translate, \u00e0 l\u2019attaque \u00ab ananas \u00bb ou \u00e0 quelque chose de ce type, il faudrait r\u00e9ellement incorporer un signal au niveau des concepts sous-jacents plut\u00f4t qu\u2019au niveau des tokens.<\/p>\n\n\n\n

Je ne savais absolument pas comment faire. Il existe toutefois des id\u00e9es et des choses que l\u2019on peut essayer, car \u00e0 l\u2019int\u00e9rieur des LLM, les concepts sont repr\u00e9sent\u00e9s sous la forme de vecteurs dans des espaces de grande dimension. On pourrait donc essayer de perturber l\u00e9g\u00e8rement ces vecteurs, de les d\u00e9placer de mani\u00e8re \u00e0 y ins\u00e9rer un watermark<\/em>.<\/p>\n\n\n\n

Contrairement \u00e0 ma m\u00e9thode, nous n\u2019aurions ici aucune garantie th\u00e9orique que cela fonctionne. Mais nous pouvons le tester empiriquement. <\/p>\n\n\n\n

Des progr\u00e8s ont \u00e9t\u00e9 r\u00e9alis\u00e9s dans ce domaine : certaines m\u00e9thodes de watermarking<\/em> s\u00e9mantique semblent effectivement fonctionner et pr\u00e9senter un certain degr\u00e9 de robustesse. Cela reste n\u00e9anmoins, \u00e0 mon sens, un domaine de recherche tr\u00e8s actif. Il ne s’agit pas de ce qu\u2019Anthropic a d\u00e9ploy\u00e9. Mais peut-\u00eatre devront-ils s’y mettre \u00e0 l’avenir si leur m\u00e9thode actuelle devient trop facile \u00e0 contourner.<\/p>\n\n\n\n

L\u2019Union europ\u00e9enne insiste sur l\u2019interop\u00e9rabilit\u00e9 du watermark<\/em>. Comment voyez-vous le probl\u00e8me de la coordination entre les diff\u00e9rents fournisseurs ?<\/h3>\n\n\n\n

\u00c0 la fin de mon passage chez OpenAI, j\u2019avais compris que je ne pouvais certainement pas r\u00e9soudre ce probl\u00e8me de coordination. J\u2019ai effectivement parl\u00e9 de watermarking<\/em> avec des personnes chez DeepMind et Anthropic. Anthropic ne semblait pas tr\u00e8s int\u00e9ress\u00e9 \u00e0 l\u2019\u00e9poque, en 2023. Je suis \u00e9videmment heureux de voir qu\u2019ils ont maintenant effectivement d\u00e9ploy\u00e9 du watermarking<\/em>.<\/p>\n\n\n\n

Ce que j\u2019avais propos\u00e9 a conduit Google \u00e0 d\u00e9velopper SynthID. SynthID \u00e9tait tr\u00e8s proche de ma proposition \u00e0 une diff\u00e9rence pr\u00e8s : Google n\u2019a jamais donn\u00e9 au public acc\u00e8s \u00e0 un outil permettant de d\u00e9tecter le watermarking<\/em>. Il faut leur en faire la demande. Des universitaires que je connaissais et qui avaient demand\u00e9 cet acc\u00e8s n\u2019ont jamais obtenu de r\u00e9ponse.<\/p>\n\n\n\n

Assez clairement, nous vivons la derni\u00e8re ann\u00e9e de recherche en math\u00e9matiques et en informatique th\u00e9orique dans la forme que nous lui connaissions.<\/p>Scott Aaronson<\/cite><\/blockquote><\/figure>\n\n\n\n

C\u2019\u00e9tait un autre sujet de discussion chez OpenAI. Si nous utilisons le watermarking<\/em>, est-ce que nous permettons \u00e0 n\u2019importe qui de d\u00e9tecter le watermark<\/em> ? Ou faut-il \u00eatre professeur, journaliste pour y avoir acc\u00e8s ? Dans ce cas, il faut mettre en place toute une infrastructure pour d\u00e9cider qui obtient cet acc\u00e8s.<\/p>\n\n\n\n

Je me suis dit que je n\u2019avais certainement ni l\u2019influence ni l\u2019habilet\u00e9 politique n\u00e9cessaires pour convaincre OpenAI de faire cela. Leur raisonnement \u00e9tait : \u00ab Pourquoi le ferions-nous si Anthropic ou DeepMind ne le font pas ? \u00bb Peut-\u00eatre que les trois doivent le faire en m\u00eame temps, mais cela devient alors un probl\u00e8me de coordination.<\/p>\n\n\n\n

Chercher \u00e0 l\u2019imposer par la loi est-il plus pertinent ?<\/h3>\n\n\n\n

J\u2019ai d\u00e9j\u00e0 eu l\u2019occasion de discuter avec des \u00e9lus californiens qui souhaitaient rendre le watermarking<\/em> obligatoire. La Californie a effectivement adopt\u00e9 une loi imposant le watermarking<\/em>, mais uniquement pour les contenus audiovisuels, en exemptant les contenus textuels.<\/p>\n\n\n\n

Mais, en dehors de la Californie, qui d\u2019autre pourrait d\u00e9sirer une telle loi ? Le gouvernement f\u00e9d\u00e9ral am\u00e9ricain ne compte pas imposer une telle mesure. L\u2019autre candidat \u00e9vident a \u00e9t\u00e9 l\u2019Union europ\u00e9enne, qui a inscrit le watermarking<\/em> dans l\u2019AI Act mais les d\u00e9tails ne semblent pas clairs.<\/p>\n\n\n\n

Pour quelle raison ?<\/h3>\n\n\n\n

Une partie de la difficult\u00e9 est juridique : si l\u2019on rend le watermarking<\/em> obligatoire, quelle technique faut-il imposer pr\u00e9cis\u00e9ment ? Et que se passe-t-il si celle qui est inscrite dans la loi est ensuite contourn\u00e9e ? Vous voulez pouvoir dire qu\u2019il faut faire les meilleurs efforts possibles ou utiliser la meilleure approche disponible \u00e0 un moment donn\u00e9. Mais comment traduire une obligation aussi \u00e9volutive dans la loi ?<\/p>\n\n\n\n

Vous avez r\u00e9cemment \u00e9crit qu\u2019il s\u2019agissait \u00ab Assez clairement de la derni\u00e8re ann\u00e9e de recherche en math\u00e9matiques et en informatique th\u00e9orique dans la forme que nous lui connaissions \u00bb. \u00c0 quels changements doit-on s\u2019attendre ?<\/h3>\n\n\n\n

La semaine derni\u00e8re, je suis retourn\u00e9 chez OpenAI pour la premi\u00e8re fois depuis 2024. Ils organisaient un workshop sur l\u2019avenir des math\u00e9matiques. Nous avons vraiment assist\u00e9 \u00e0 quelque chose de spectaculaire cet \u00e9t\u00e9 : de plus en plus de probl\u00e8mes math\u00e9matiques importants sont r\u00e9solus soit avec l\u2019aide de mod\u00e8les d\u2019IA, soit enti\u00e8rement par ces derniers.<\/p>\n\n\n\n

Ils ne savent pas encore tout faire. Mais si vous comparez la situation \u00e0 celle d\u2019il y a trois ans, o\u00f9 ils avaient encore du mal avec les math\u00e9matiques de base et commettaient des erreurs triviales, vous verrez qu’aujourd’hui, ils font de la recherche en math\u00e9matiques de haut niveau. <\/p>\n\n\n\n\n\n

\n \n \r\n \r\n \r\n \r\n \r\n \r\n \r\n <\/picture>\r\n \n
Glenn Ligon, Untitled (I Am a Man)<\/em>, 1988.<\/figcaption>\n <\/a>\n<\/figure>\n\n\n

Si l’on projette cette trajectoire dans quelques ann\u00e9es, cela m\u00e8nera \u00e0 une transformation compl\u00e8te de la nature de notre travail de math\u00e9maticiens ou de chercheurs en informatique th\u00e9orique. Dans le meilleur des cas, nous pourrons continuer \u00e0 apporter notre expertise scientifique, d\u00e9terminer quelles grandes directions de recherche sont int\u00e9ressantes ou non, comprendre les r\u00e9sultats et les expliquer.<\/p>\n\n\n\n

Mais pour ce qui est de r\u00e9soudre effectivement des probl\u00e8mes clairement formul\u00e9s, nous avons d\u00e9sormais des mod\u00e8les qui sont meilleurs que tous les humains, peut-\u00eatre encore \u00e0 l\u2019exception de quelques-uns. De la m\u00eame mani\u00e8re que la programmation a chang\u00e9 drastiquement ces deux derni\u00e8res ann\u00e9es, il semble que la recherche math\u00e9matique soit sur le point de conna\u00eetre la m\u00eame transformation.<\/p>\n\n\n\n

Quelles r\u00e9flexions cela suscite-t-il chez vous ?<\/h3>\n\n\n\n

J\u2019y r\u00e9fl\u00e9chis beaucoup. J\u2019y pense \u00e9videmment \u00e0 propos de mes \u00e9tudiants. \u00c0 quoi dois-je les former ? Quelles comp\u00e9tences seront utiles dans le monde vers lequel nous nous dirigeons ? <\/p>\n\n\n\n

C\u2019est une question \u00e0 laquelle pratiquement tous les chercheurs en math\u00e9matiques r\u00e9fl\u00e9chissent d\u00e9j\u00e0 ou devraient r\u00e9fl\u00e9chir.<\/p>\n\n\n\n

Comment se pr\u00e9parer \u00e0 cette transformation ?<\/h3>\n\n\n\n

L’une des discussions importantes en cours porte sur les normes de publication pour les travaux g\u00e9n\u00e9r\u00e9s par IA. Nous ne l’avons toujours pas d\u00e9termin\u00e9.<\/p>\n\n\n\n

Il y a eu ce cas c\u00e9l\u00e8bre de la conjecture jacobienne, r\u00e9fut\u00e9e par quelqu\u2019un qui avait simplement post\u00e9 sur Twitter : \u00ab Bonjour. Je regardais la Coupe du monde, et mon ami Fable a trouv\u00e9 le contre-exemple suivant \u00e0 cette conjecture vieille de cent ans. \u00bb C’\u00e9tait hilarant, mais j’imagine que ce ne sera pas, \u00e0 l’avenir, la mani\u00e8re standard d’annoncer ce type de r\u00e9sultats.<\/p>\n\n\n\n

Doit-on les publier sous forme d\u2019articles de recherche ? Mais il y aura alors tellement d\u2019articles g\u00e9n\u00e9r\u00e9s par IA qu\u2019il n\u2019y aura pas assez de personnes pour tous les lire. Est-ce que nous aurons simplement des articles \u00e9crits par des IA et \u00e9valu\u00e9s par des IA ? Les d\u00e9posera-t-on sur des serveurs de pr\u00e9publications ?<\/p>\n\n\n\n

C’est un peu comme dans Le Seigneur des anneaux<\/em>, lorsque les habitants fortifient leurs villes avant l’invasion des Orques.<\/p>Scott Aaronson<\/cite><\/blockquote><\/figure>\n\n\n\n

D\u00e9cidons-nous que, pour \u00eatre publi\u00e9 dans une revue, un r\u00e9sultat peut avoir \u00e9t\u00e9 d\u00e9couvert par une IA, mais qu\u2019un humain doit ensuite avoir assimil\u00e9 l\u2019id\u00e9e et \u00eatre capable de l\u2019expliquer \u00e0 d\u2019autres humains ? Ou faut-il qu\u2019un humain en assume la responsabilit\u00e9 si le r\u00e9sultat est faux ? Nous essayons encore de d\u00e9terminer quelles devraient \u00eatre ces normes.<\/p>\n\n\n\n

J\u2019ai parl\u00e9 avec des personnes si\u00e9geant, par exemple, dans les comit\u00e9s de programme des grandes conf\u00e9rences d\u2019informatique th\u00e9orique. C\u2019est un peu comme dans Le Seigneur des anneaux<\/em>, lorsque les habitants fortifient leurs villes avant l\u2019invasion des Orques. Ils s\u2019attendent \u00e0 recevoir des milliers de soumissions g\u00e9n\u00e9r\u00e9es par IA lors du prochain cycle de conf\u00e9rences, et ils n\u2019ont aucune id\u00e9e de la mani\u00e8re dont ils vont g\u00e9rer cela, car il n\u2019y aura tout simplement pas assez de personnes pour les \u00e9valuer.<\/p>\n\n\n\n

Ils seront donc contraints de s\u2019appuyer en partie sur l\u2019IA. <\/p>\n\n\n\n

Pensez-vous qu\u2019il soit important de pr\u00e9server le r\u00f4le des humains dans la recherche, ou ne feront-ils que ralentir le processus de d\u00e9couverte ?<\/h3>\n\n\n\n

Je pense qu\u2019il est tr\u00e8s important de continuer \u00e0 r\u00e9fl\u00e9chir au monde dans lequel nous voulons vivre et au r\u00f4le que nous voulons y jouer. \u00c0 terme, cette question d\u00e9passe largement le cadre de la carri\u00e8re des math\u00e9maticiens ou des chercheurs en informatique th\u00e9orique. Pour notre petit monde, c\u2019est \u00e9videmment important, mais ce sont des questions auxquelles toute l\u2019humanit\u00e9 sera confront\u00e9e.<\/p>\n\n\n\n

Voulons-nous vraiment que des robots accomplissent tous les m\u00e9tiers s’ils sont capables de les exercer mieux que nous ? Et quel monde cela nous laisse-t-il ? Une utopie dans laquelle tous nos besoins sont pris en charge et o\u00f9 nous pouvons simplement profiter de nos loisirs ? Ou une dystopie dans laquelle les robots finiraient par se demander : \u00ab Au fond, pourquoi avons-nous encore besoin des humains, pour quoi que ce soit ? \u00bb<\/p>\n\n\n\n

Tant que nous continuerons \u00e0 nous poser ces questions ou tant que nous ne saurons pas garantir la s\u00e9curit\u00e9 de l\u2019IA, alors oui, absolument : nous voulons au minimum conserver des humains qui poss\u00e8dent suffisamment de comp\u00e9tences pour pouvoir comprendre, autant que possible, ce que font les IA.<\/p>\n\n\n\n

Et si les IA commencent \u00e0 \u00e9laborer des strat\u00e9gies contre nous ou, par exemple, \u00e0 nous fournir des preuves math\u00e9matiques qui paraissent correctes, mais qui sont en r\u00e9alit\u00e9 subtilement fausses parce qu\u2019elles poursuivent un autre objectif, il faudra que nous soyons capables de le d\u00e9tecter.<\/p>\n","protected":false},"excerpt":{"rendered":"

Une conversation fleuve avec le math\u00e9maticien qui a invent\u00e9 le watermarking des LLM.<\/p>\n","protected":false},"author":61106,"featured_media":353723,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"templates\/post-interviews.php","format":"standard","meta":{"_acf_changed":false,"_trash_the_other_posts":false,"_yoast_wpseo_estimated-reading-time-minutes":22,"_lgc_tts_voice":"","_lgc_tts_publish":false,"_lgc_tts_history_item_id":"","_lgc_tts_generated_at":"","_lgc_tts_status":"","_lgc_tts_error":"","footnotes":""},"categories":[3412],"tags":[],"staff":[2457],"editorial_format":[4854],"serie":[],"audience":[],"geo":[1917],"class_list":["post-353722","post","type-post","status-publish","format-standard","hentry","category-puissances-de-lia","staff-victor-storchan","editorial_format-entretiens","geo-europe"],"acf":{"open_in_webview":false,"accent":"default","_thumbnail_id":353723,"excerpt":"Une conversation fleuve avec le math\u00e9maticien qui a invent\u00e9 le watermarking des LLM.","display_date":"","new_abstract":true},"yoast_head":"\nPouvons-nous encore marquer les machines ?<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/\" \/>\n<meta property=\"og:locale\" content=\"fr_FR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Pouvons-nous encore marquer les machines ?\" \/>\n<meta property=\"og:description\" content=\"Une conversation fleuve avec le math\u00e9maticien qui a invent\u00e9 le watermarking des LLM.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/\" \/>\n<meta property=\"og:site_name\" content=\"Le Grand Continent\" \/>\n<meta property=\"article:published_time\" content=\"2026-08-21T04:00:00+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/08\/Screenshot-2026-08-20-at-17-10-39-Share-Livres-reseaux-2.png\" \/>\n\t<meta property=\"og:image:width\" content=\"627\" \/>\n\t<meta property=\"og:image:height\" content=\"362\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/png\" \/>\n<meta name=\"author\" content=\"Louis Puel\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:image\" content=\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/08\/Screenshot-2026-08-20-at-17-10-39-Share-Livres-reseaux-2.png\" \/>\n<meta name=\"twitter:label1\" content=\"\u00c9crit par\" \/>\n\t<meta name=\"twitter:data1\" content=\"Louis Puel\" \/>\n\t<meta name=\"twitter:label2\" content=\"Dur\u00e9e de lecture estim\u00e9e\" \/>\n\t<meta name=\"twitter:data2\" content=\"22 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/\",\"url\":\"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/\",\"name\":\"Pouvons-nous encore marquer les machines ?\",\"isPartOf\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02.jpg\",\"datePublished\":\"2026-08-21T04:00:00+00:00\",\"author\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/a4ebf3b2e7f30c2cc54edf2358969d9c\"},\"breadcrumb\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/#breadcrumb\"},\"inLanguage\":\"fr-FR\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"fr-FR\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/#primaryimage\",\"url\":\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02.jpg\",\"contentUrl\":\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02.jpg\",\"width\":1008,\"height\":1309},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Accueil\",\"item\":\"https:\/\/legrandcontinent.eu\/fr\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Pouvons-nous encore marquer les machines ?\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#website\",\"url\":\"https:\/\/legrandcontinent.eu\/fr\/\",\"name\":\"Le Grand Continent\",\"description\":\"L'\u00e9chelle pertinente\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/legrandcontinent.eu\/fr\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"fr-FR\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/a4ebf3b2e7f30c2cc54edf2358969d9c\",\"name\":\"Louis Puel\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"fr-FR\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/1b9215c18c8161a2ba390b1370cfb053?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/1b9215c18c8161a2ba390b1370cfb053?s=96&d=mm&r=g\",\"caption\":\"Louis Puel\"}}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Pouvons-nous encore marquer les machines ?","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/","og_locale":"fr_FR","og_type":"article","og_title":"Pouvons-nous encore marquer les machines ?","og_description":"Une conversation fleuve avec le math\u00e9maticien qui a invent\u00e9 le watermarking des LLM.","og_url":"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/","og_site_name":"Le Grand Continent","article_published_time":"2026-08-21T04:00:00+00:00","og_image":[{"width":627,"height":362,"url":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/08\/Screenshot-2026-08-20-at-17-10-39-Share-Livres-reseaux-2.png","type":"image\/png"}],"author":"Louis Puel","twitter_card":"summary_large_image","twitter_image":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/08\/Screenshot-2026-08-20-at-17-10-39-Share-Livres-reseaux-2.png","twitter_misc":{"\u00c9crit par":"Louis Puel","Dur\u00e9e de lecture estim\u00e9e":"22 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/","url":"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/","name":"Pouvons-nous encore marquer les machines ?","isPartOf":{"@id":"https:\/\/legrandcontinent.eu\/fr\/#website"},"primaryImageOfPage":{"@id":"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/#primaryimage"},"image":{"@id":"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/#primaryimage"},"thumbnailUrl":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02.jpg","datePublished":"2026-08-21T04:00:00+00:00","author":{"@id":"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/a4ebf3b2e7f30c2cc54edf2358969d9c"},"breadcrumb":{"@id":"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/#breadcrumb"},"inLanguage":"fr-FR","potentialAction":[{"@type":"ReadAction","target":["https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/"]}]},{"@type":"ImageObject","inLanguage":"fr-FR","@id":"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/#primaryimage","url":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02.jpg","contentUrl":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02.jpg","width":1008,"height":1309},{"@type":"BreadcrumbList","@id":"https:\/\/legrandcontinent.eu\/fr\/2026\/08\/21\/pouvons-nous-encore-marquer-les-machines\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Accueil","item":"https:\/\/legrandcontinent.eu\/fr\/"},{"@type":"ListItem","position":2,"name":"Pouvons-nous encore marquer les machines ?"}]},{"@type":"WebSite","@id":"https:\/\/legrandcontinent.eu\/fr\/#website","url":"https:\/\/legrandcontinent.eu\/fr\/","name":"Le Grand Continent","description":"L'\u00e9chelle pertinente","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/legrandcontinent.eu\/fr\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"fr-FR"},{"@type":"Person","@id":"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/a4ebf3b2e7f30c2cc54edf2358969d9c","name":"Louis Puel","image":{"@type":"ImageObject","inLanguage":"fr-FR","@id":"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/1b9215c18c8161a2ba390b1370cfb053?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/1b9215c18c8161a2ba390b1370cfb053?s=96&d=mm&r=g","caption":"Louis Puel"}}]}},"lgc_categories":[{"id":3412,"name":"Puissances de l'IA","slug":"puissances-de-lia"}],"lgc_author":{"id":2457,"name":"Victor Storchan","slug":"victor-storchan","description":"Victor Storchan est directeur scientifique de la s\u00e9rie \u00ab<a href=\"https:\/\/legrandcontinent.eu\/fr\/2023\/03\/20\/puissances-de-lia-une-introduction-en-10-points-clefs\/\">Puissances de l\u2019IA<\/a> \u00bb dans nos pages. Il travaille en tant qu'ing\u00e9nieur d'\u00e9valuation pour Poolside.","first_name":"Victor","last_name":"Storchan","picture":{"url":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2023\/03\/Capture-de\u0301cran-2023-03-20-a\u0300-07.09.44.png","width":586,"height":592,"alt":""}},"feature_image_summary":{"url":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02.jpg","width":1008,"height":1309,"alt":""},"feature_image_cover":{"url":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/08\/Ligon-Glenn_Condition-Report2000USA-ZAT1609-02.jpg","width":1008,"height":1309,"alt":""},"term_position_data":null,"_links":{"self":[{"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/posts\/353722","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/users\/61106"}],"replies":[{"embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/comments?post=353722"}],"version-history":[{"count":12,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/posts\/353722\/revisions"}],"predecessor-version":[{"id":353819,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/posts\/353722\/revisions\/353819"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/media\/353723"}],"wp:attachment":[{"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/media?parent=353722"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/categories?post=353722"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/tags?post=353722"},{"taxonomy":"staff","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/staff?post=353722"},{"taxonomy":"editorial_format","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/editorial_format?post=353722"},{"taxonomy":"serie","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/serie?post=353722"},{"taxonomy":"audience","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/audience?post=353722"},{"taxonomy":"geo","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/geo?post=353722"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}