Plus d’un tiers des pages web publiées depuis le lancement de ChatGPT comportent des traces d’IA

Selon une analyse du Pew Research Center portant sur près d’un demi-million de pages web collectées à l’aide de l’outil de détection Open Pangram, 10 % d’un échantillon de pages extraites en juillet présentent des signes significatifs de rédaction par IA. Lorsqu’on considère uniquement les pages publiées après le lancement de ChatGPT, en novembre 2022, ce chiffre monte à 35 % ¹.

• Les sites à vocation commerciale (dont le domaine est .com) affichent la part la plus élevée de contenu généré par ou avec l’aide de l’IA : environ 10 % en 2026.
• Ce phénomène concerne dans une moindre mesure le domaine .org (4,6 %), et plus rarement encore les sites des établissements d’enseignement (.edu) et gouvernementaux (.gov), autour de 1 %.

La multiplication du contenu généré par ou avec l’assistance de l’IA peut conduire à une baisse de qualité et à une augmentation du risque d’erreurs factuelles. Elle pourrait également créer un risque pour l’entraînement des futurs modèles d’intelligence artificielle.

Dans une étude publiée en 2024, Ilia Shumailov, Zakhar Shumaylov et d’autres chercheurs ont développé la théorie de « l’effondrement des modèles ».

• Selon celle-ci, lorsqu’un modèle d’IA est entraîné de manière récursive sur des données produites par d’autres modèles plutôt que sur des données créées par des humains, il perd progressivement en qualité et en diversité.
• Les erreurs et biais s’accumulent à chaque génération d’entraînement, ce qui provoque la disparition des informations rares ou atypiques, puis, à terme, une dégradation générale de la cohérence des résultats produits.

Jusqu’à récemment facilement détectables en raison de structures sémantiques similaires et de marqueurs stylistiques identifiés – phrases plus longues, tirets cadratins… –, les contenus générés par IA deviennent aujourd’hui de plus en plus difficiles à détecter à mesure que les modèles apprennent et s’adaptent au « style humain ».

• Claude est aujourd’hui le seul chatbot qui continue d’utiliser plus de tirets que les auteurs humains ².
• Dans une étude de l’Université de Californie, le modèle GPT-4o d’OpenAI a été pris pour un interlocuteur humain dans 77 % des échanges avec les participants ³.
• Les nouvelles générées par IA sont désormais jugées plus « captivantes » et de meilleure qualité que celles écrites par des humains, lorsque le lecteur ignore qui en est l’auteur ⁴.

L’AI Act impose depuis le 2 août aux fournisseurs opérant dans l’Union de rendre les contenus produits par leurs modèles détectables. Selon l’un des mathématiciens pionniers de la technologie du « watermarking », Scott Aaronson, ce type de marquage reste toutefois facilement contournable, mais pourrait servir justement un autre objectif : permettre aux laboratoires de reconnaître les textes générés par des LLM et ainsi s’entraîner leur modèle uniquement sur des écrits humains.