L’IA est-elle un virus cognitif ?

Pour préparer votre rentrée, testez le Grand Continent. Les idées et les analyses qu’on ne trouve nulle part. Mais que vous verrez bientôt partout. Dans votre boîte mail à partir de 8 euros par mois

La cognition humaine collective, que l’on pourrait définir succinctement comme le produit, à l’échelle d’une société, de la puissance de calcul et de l’ensemble des processus émotionnels et comportementaux inhérents à nos structures neurobiologiques, voit-elle ses mécanismes de régénération détruits par l’IA ? 

Dès 2021, un rapport de François du Cluzel ¹ présente la « guerre cognitive » comme une sixième dimension à part entière, au même titre que la terre, la mer, l’air, l’espace et l’espace cyber. En 2024, l’OTAN publie son premier agenda de développement dont la planification opérationnelle multi-domaines intègre la guerre cognitive aux côtés des cinq autres dimensions de la guerre ^2 3. Dans le même temps, la communauté mathématique traverse une crise existentielle concernant son rôle, son avenir et sa « valeur ajoutée » dans un monde où l’IA est désormais capable de résoudre seule des problèmes à la frontière de nos connaissances (comme la conjecture d’Erdős ⁴) et d’écrire des articles publiables dans les revues les plus prestigieuses ⁵. D’un côté, le médaillé Fields Terence Tao entrevoit un monde de « collaboration heureuse » entre humains et IA pour produire toujours plus de mathématiques. De l’autre, le fraîchement médaillé Fields Jacob Tsimerman voit en l’IA la fin des mathématiques (voire de l’humanité). Fataliste, il annonce quitter la recherche pour rejoindre OpenAI sitôt reçue cette récompense pourtant accordée à de jeunes chercheurs pour accélérer leur carrière : pour lui, le seul choix serait d’utiliser l’IA pour avoir un impact positif « de l’intérieur ».

Dans ce contexte, le chercheur américain Nolan Lovett a récemment publié un article dans lequel il réfléchit à la manière dont l’intelligence artificielle « vide » notre « cognition collective » ⁶. Il y formule une série de prédictions si la trajectoire actuelle se poursuit avec les mêmes mécanismes d’incitations et les mêmes réglementations. Selon lui, à court terme, l’IA donne l’impression d’augmenter la cognition et la productivité humaines mais c’est en réalité un leurre, car à moyen et long terme elle va dégrader notre cognition collective, empêcher sa régénération, et finalement faire régresser l’humanité. Le phénomène, explique-t-il, s’apparente à la surpêche : à court terme on a plus de poissons et l’illusion d’un progrès, mais à moyen et long terme on finit par ne plus en avoir du tout. À terme, prévient-il, nous ne disposerons plus de cerveaux capables de comprendre la loi de Poisson sans IA. Il dresse un parallèle entre la déplétion de cette « cognition collective » et celle des ressources naturelles théorisée en 1968 par Garrett Hardin dans sa « Tragédie des biens communs » ⁷. 

La cognition collective comme bien commun

Hardin décrit en effet la manière dont des individus rationnels agissant indépendamment, dans leur propre intérêt, finissent inévitablement par épuiser les ressources collectives dont nous dépendons tous. Il appelle cela « la tragédie des communs », définis comme des ressources accessibles à tous (non excluables) mais dont l’utilisation par une personne réduit d’autant la quantité disponible pour les autres et notamment les « rivaux » ou concurrents. Il distingue deux niveaux de « ressources communes » : la « capacité d’accueil de la planète », et les ressources naturelles. Avec un regard moderne on peut se montrer critique envers le premier niveau de communs qu’il propose. Sa hantise de la surpopulation et sa critique virulente des politiques natalistes qui font selon lui « porter le coût de la reproduction à toute la société » ont particulièrement mal vieilli.

Cependant, son second niveau de « communs », à savoir les ressources naturelles, retient davantage l’attention, et c’est à lui que Nolan Lovett rattache la « cognition collective ». La régénération de ce commun serait précisément mise en péril par l’IA, qui détruirait les lieux et les temps de friction cognitive dont elle procède. Elle supprime des emplois de début de carrière durant lesquels l’expertise s’affûte au contact parfois brutal avec la réalité de la pratique professionnelle en entreprise. Elle réduit également les temps d’apprentissage souvent douloureux d’une nouvelle compétence par l’essai-erreur et la friction intense durant le parcours scolaire et universitaire, en apportant une solution immédiate et sur mesure. L’IA serait donc responsable d’une « tragédie de la cognition commune ». Pour étayer l’idée que la cognition collective est un commun, l’auteur lui attribue trois caractéristiques clefs : elle dépend de tous, elle est non exclusive et elle s’épuise dès lors que ses capacités de régénération sont entamées. 

Premièrement, la cognition collective dépend de tous. Une organisation qui cherche à recruter s’appuie sur un vivier de talents constitué en commun. D’où le problème de passager clandestin : chaque organisation bénéficie du fait de recruter des experts dans cet ensemble de « talents » mais n’a aucune incitation à assumer elle-même le coût du développement de nouveaux « talents », car ses concurrents, qui n’auraient pas investi de ressources, en profiteraient également. Deuxièmement, la cognition collective n’est pas excluante. Aucune organisation ne peut aisément empêcher ses rivaux d’en bénéficier. La mobilité des experts et la multiplicité des canaux de transfert de connaissances, garantissent que ceux qui n’alimentent pas le vivier y puiseront malgré tout. En 1965, Olson montrait qu’une telle configuration récompense le passager clandestin. Enfin, troisièmement, la cognition collective s’épuise si l’on n’a plus la capacité de la régénérer. Il s’agit sans doute du point le plus important.

De la même manière que les ressources naturelles communes s’épuisent par une surexploitation et un prélèvement supérieur à leurs capacités de régénération, la cognition collective disparaît par la destruction pure et simple de ses mécanismes de régénération. L’arrivée de l’IA dans le monde du travail détruit aussi bien des emplois que des mécanismes de régénération de la cognition collective. Bien que l’inquiétude soit légitime, ne se concentrer que sur la destruction potentielle d’emplois au détriment de ces mécanismes revient à ne voir que la partie émergée de l’iceberg. Des travaux récents montrent une élimination systématique des postes de début de carrière, que beaucoup d’observateurs et de responsables politiques considèrent comme un simple « ajustement » du marché du travail, comparable à ceux qu’ont provoqués les vagues d’automatisation antérieures, sans tenir compte de l’impact sur la régénération de la cognition collective.

Guerre cognitive et horizontalité avec l’IA : le rôle de la cognition collective

Dans un monde post-IA, à quoi sert encore la cognition collective ? Pourquoi s’inquiéter de la « tragédie de la cognition commune » ? Parmi les très nombreuses raisons, deux méritent qu’on s’y arrête. La première concerne la « guerre cognitive », déjà évoquée et mise par l’OTAN sur le même plan que les autres dimensions de la conflictualité moderne. La guerre informationnelle cherche à entraver l’accès à une information fiable et à créer une représentation erronée du réel. La guerre psychologique cible un groupe de personnes précis et exploite ses vulnérabilités afin de remplir un objectif stratégique militaire. La guerre cognitive, quant à elle, s’attaque aux processus mentaux et comportementaux d’analyse et d’interprétation des informations, de prise de décision, et de gestion des émotions et des pulsions. À force de déléguer à l’IA une part croissante de nos processus cognitifs, aussi bien émotionnels qu’intellectuels (on peut notamment penser à la part croissante de personnes qui lui soumettent leurs dilemmes personnels, leurs tourments et leurs expériences les plus intimes), nous nous rendons vulnérables à sa manipulation. Nolan Lovett se concentre sur les volets « expertise » et « compétences intellectuelles » de la cognition collective, mais on peut étendre ce concept à un nouveau volet « empathie, gestion des émotions et compétences relationnelles humaines ». 

À l’instar de Lovett qui voit un péril pour la régénération de la cognition collective « experte » dans la répartition des postes juniors permettant aux jeunes professionnels de mûrir, nous pouvons redouter le même sort pour sa composante « émotionnelle » à mesure que se raréfie, chez les moins de 30 ans, les interactions humaines sans intermédiation de l’IA ou des réseaux sociaux. Outre les effets sur la santé mentale, cette situation les rend vulnérables à une potentielle altération délibérée d’algorithmes, dans le but explicite de provoquer un maximum de chaos émotionnel au sein d’une population, afin de la rendre incapable de réagir à une crise ou à une attaque.

Le second rôle clef de la cognition collective qu’explore Lovett concerne la nature des interactions avec l’IA et la capacité à interagir sur un pied d’égalité. Comment quelqu’un qui ne sait faire quelque chose qu’avec l’aide de l’IA pourrait-il porter un regard critique sur la production de la machine ? À l’échelle d’une société, que se passe-t-il si tout le monde cesse d’apprendre à effectuer une tâche sans l’aide de l’IA, le jour où l’IA tombe en panne ou nous est retirée, comme cela a été le cas pour la première version publique de Fable 5 sous l’administration Trump ? Pire encore, que se passerait-il le jour où l’IA commencerait à halluciner de façon modérée et subtile, suffisamment pour causer des dégâts, mais pas assez pour être remarquée par quelqu’un qui n’a jamais appris à faire sans l’IA ? Cette question est également au cœur des tiraillements actuels de la communauté mathématique : l’IA permet d’obtenir très vite énormément de résultats très précieux, mais ce sont précisément ces processus longs, fastidieux, douloureux et frustrants de lente recherche mathématique qui forgeaient toute la créativité des cerveaux les plus brillants. Comme pour beaucoup d’autres disciplines, ce qui est vrai en mathématiques l’est également dans beaucoup d’autres domaines. 

Elinor Ostrom et la gouvernance polycentrique

La tragédie de la cognition commune est-elle inévitable ? En 1990, Elinor Ostrom, lauréate du prix Nobel d’économie en 2009, répond que non et propose une approche fondée sur l’observation de communautés qui exploitent les ressources communes sans les épuiser. Elle en tire des enseignements sur lesquels repose une gouvernance polycentrique assurant la pérennité des communs. Cette gouvernance repose sur huit principes clefs :

1. Des limites claires : chacun sait quelles ressources il peut utiliser et jusqu’à quelles limites.
2. Une équivalence proportionnelle permettant de s’adapter aux différentes spécificités locales.
3. Des accords issus de choix collectifs : ceux qui sont affectés par les règles sont ceux qui peuvent les modifier.
4. Une surveillance active : la ressource et ses utilisateurs doivent être activement surveillés et les responsables de cette surveillance doivent rendre des comptes à la communauté dépendante de la ressource.
5. Des sanctions graduées : il faut des punitions adaptées aux différentes transgressions possibles concernant la ressource.
6. Des mécanismes de résolution des conflits : la communauté dépendant de la ressource doit disposer de lieux et de processus permettant d’arbitrer rapidement et à moindre coût les disputes afin de les résoudre avant qu’elles ne dégénèrent.
7. La reconnaissance minimale du droit de s’organiser : les autorités externes doivent reconnaître aux utilisateurs le droit de créer leurs propres institutions. 
8. Des échelons imbriqués : pour des ressources de grande taille, la gouvernance doit être organisée en différents niveaux imbriqués (local, régional, national). C’est la gouvernance polycentrique.

Nolan Lovett applique ces principes à la « tragédie de la cognition commune » et en dérive trois niveaux emboîtés d’action : 

1. Le niveau organisationnel : chaque organisation peut par exemple mettre en place des « espaces d’apprentissage sans IA », ou un processus d’intégration des nouvelles recrues incluant un accès graduel à l’ensemble des outils IA.
2. Le niveau des branches professionnelles (Ordre des médecins, barreau, chambre d’industrie, etc.) : par exemple, dans la formation continue ou la délivrance de certifications ou licences pour exercer, exigeant une période de pratique sans IA ou le passage de tests sans l’aide de l’IA.
3. Le niveau de la puissance publique : par exemple, dans le versement de subventions ou de crédits d’impôts aux entreprises qui maintiennent l’emploi.