La vassalisation cognitive est une menace existentielle

Testez le Grand Continent. Les idées et les analyses qu’on ne trouve nulle part. Mais que vous verrez bientôt partout. Dans votre boîte mail à partir de 8 euros par mois

Alors que les débats autour de la pertinence des investissements colossaux nécessaires pour que la France et l’Europe prennent part à la course à l’IA font rage, il convient d’élargir la perspective. La maîtrise de l’IA est en effet une question existentielle qui interroge la souveraineté cognitive française et européenne et qui va bien au-delà de la seule question économique. 

Qu’est-ce que la souveraineté cognitive ?

La réponse varie selon que l’on parle d’IA, d’interfaces cerveau-machine et d’analyse de l’activité cérébrale, ou des algorithmes des réseaux sociaux, des jeux en ligne et des paris sportifs calibrés pour capter l’attention. Si l’on s’en tient à l’IA et à sa gouvernance, la souveraineté cognitive peut être définie comme « le fait pour un État de disposer de ses propres structures productrices d’intelligence ainsi que de la capacité de protéger sa population de tout acte de guerre cognitive visant à dégrader sa rationalité ». 

Concrètement, la souveraineté cognitive suppose d’abord de disposer de modèles d’IA de frontière, de centres de données et de puces. Elle suppose également d’entraîner l’esprit de sa population, notamment son esprit critique, afin de l’émanciper de toute dépendance envers l’IA. Elle exige enfin d’être en mesure de surveiller, de détecter et d’enrayer tout acte de guerre cognitive ciblant la rationalité de la population, notamment par la manipulation d’algorithmes et de modèles d’IA. Ce n’est pas un hasard si le Commandement allié Transformation de l’OTAN a désigné la cognition comme la sixième dimension de la conflictualité moderne aux côtés de l’air, de la terre, de la mer, de l’espace et du cyber. 

Cette souveraineté a un prix considérable. Des initiatives comme l’opération Prométhée nécessitent des investissements d’une telle ampleur qu’il est légitime de se demander s’ils « en valent la peine ». Répondre autrement que par l’affirmative et ne pas s’engager, très rapidement dans cette voie, reviendrait pourtant à poursuivre la route actuelle, celle qui mène à la vassalité.

Quel est le coût économique de la vassalité cognitive ? 

Comme le notent les auteurs de l’opération Prométhée, « continuer à ne rien faire revient à shorter massivement tous les géants de la tech américains, tous les jours ». Si nous demeurons en état de vassalité, l’hypothèse plutôt conservatrice d’un remplacement ou d’une transformation profonde de 10 % de la masse salariale par l’IA nous conduirait, d’ici deux à trois ans, à verser durablement chaque année cinq points de PIB de rente pure aux États-Unis. Et ce n’est qu’un début car la vassalité cognitive c’est aussi renoncer à maîtriser la nature, l’ergonomie, l’interface et les fonctionnalités des modèles d’IA qui seront de toute façon utilisés toujours plus massivement par la population européenne.

Ne pas contrôler l’IA, c’est ne pas pouvoir agir sur ses effets très délétères qui commencent à être documentés, sur un certain nombre d’emplois dits juniors. C’est d’autant plus grave que ces emplois sont indispensables à la formation des experts : c’est là qu’ils se confrontent au monde réel et acquièrent l’expérience dont ils ont besoin. Or ces experts, qui jouent un rôle clef dans de nombreuses organisations et donc dans le fonctionnement de l’économie, sont précisément ceux sur lesquels nous devrons nous appuyer pour surveiller l’IA, puisqu’ils disposeront de l’expertise requise pour dialoguer avec elle d’égal à égal ¹.

Qui ne maîtrise pas la production de l’IA ne peut la façonner comme il le souhaite. Or l’IA est là pour de bon, non par fatalité, mais parce que les incitations à l’utiliser sont trop fortes et que s’en priver mettrait gravement en péril notre compétitivité, notre défense et notre sécurité. L’utiliser sans la produire, c’est donc subir les choix des autres. Et compte tenu de l’impact de ces choix de conception, de fonctionnement et de développement sur notre cognition, les subir revient à vivre en état de vassalité.

Le rôle que jouent la nature, l’ergonomie et l’interface des modèles d’IA dans le domaine de l’éducation se précise peu à peu ². Certains designs amèneraient les élèves et les étudiants à se « délester d’une partie de leur cognition ³ », jusqu’à devenir bien moins performants lorsque l’IA leur est retirée. De la même manière, certains designs rendraient parfois la collaboration entre humain et IA sous-optimale : sur certaines tâches, l’humain performerait mieux seul qu’avec l’IA, de même que celle-ci performerait mieux sans l’humain sur d’autres tâches ^4 5.

En simplifiant beaucoup, on peut considérer comme « délétères » les designs qui offrent à l’utilisateur une fluidité et un « confort » maximaux. Ils l’incitent en effet à se délester de sa cognition au profit de l’IA, à prendre l’habitude de ne plus réfléchir et, surtout, de ne plus faire d’efforts pour réfléchir. Cette notion d’effort est centrale : de même que l’effort physique est indispensable à la santé du corps – ce que l’arrivée du moteur thermique n’a pas changé –, l’effort cognitif est indispensable à la santé du cerveau. Les IA qui permettent d’obtenir le fruit d’un travail cognitif sans fournir le moindre effort tuent ainsi la cognition à petit feu.

À l’opposé, les « Cognitive Forcing Functions » désignent des designs qui réintroduisent de la friction cognitive au cœur de l’interaction avec l’IA : formuler sa propre réponse avant de pouvoir consulter celle de l’IA, répondre à des questions prouvant qu’on a réellement lu les documents soumis etc. Ces designs sont bénéfiques, car ils stimulent l’effort cognitif tout en tirant parti de l’apport de l’IA.

Mais les patrons américains de la tech, soumis à une énorme pression financière du fait de leurs investissements colossaux, opteront très majoritairement pour les designs « délétères », qui sont bien plus rentables commercialement que les designs bénéfiques mais générateurs de friction. Ils le feront pour la même raison que les chaînes de fast-food ont prospéré grâce à des menus hypercaloriques plutôt qu’à des salades diététiques.

Il est toutefois intéressant de noter que, lorsque le débat public s’est penché sur les effets très néfastes de cette « malbouffe » sur la santé, la perception du public a peu à peu évolué. Certains fast-foods ont alors dû modifier leur offre et mettre en avant sa qualité nutritionnelle, autrement dit, en un sens, sa « friction gustative ». La supériorité commerciale du « confort » sur la « friction » n’est donc pas une fatalité. Encore faut-il être en mesure de développer et de promouvoir des designs bénéfiques, qui assument la friction…

La vassalité cognitive, c’est l’assurance de devoir un jour payer pour tenter de contrebalancer les effets des designs délétères sur le système éducatif et universitaire, mais aussi de voir s’éroder la productivité et la compétitivité des organisations qui utiliseraient l’IA de manière sous-optimale.

L’Open Weight et la fronde des avocats américains

Aux États-Unis, l’extrême judiciarisation de la société et les sommes pharaoniques régulièrement en jeu ont rendu le métier d’avocat d’élite extrêmement compétitif et, dans certains cas, très rémunérateur.

C’est en partie ce qui a permis aux grands cabinets américains d’investir massivement dans leur souveraineté cognitive. Latham & Watkins, Kirkland & Ellis ⁶ (500 millions de dollars) ou encore Morgan & Morgan ⁷ (1 milliard de dollars) ont ainsi consacré des sommes considérables au développement de leurs propres plateformes d’IA juridique. Kirkland & Ellis et Morgan & Morgan conçoivent de bout en bout des plateformes agentiques propriétaires, tandis que Latham & Watkins a acquis des modèles dits « open weight » — c’est-à-dire dont les poids sont ouverts, ce qui donne accès à une architecture neuronale pré-entraînée —, qu’il a ensuite massivement affinés sur des corpus juridiques. Morgan & Morgan s’apprêterait non seulement à déployer sa plateforme « MX2 », mais aussi à la proposer sous licence à d’autres cabinets américains, afin de développer une offre commerciale de propriété intellectuelle logicielle tout en amortissant ses coûts de développement.

Fait notable, ces cabinets ont opéré ce choix alors même que les géants de la tech sont, comme eux, américains. Certes, leur démarche n’a rien de comparable avec l’entraînement par les Européens de nouveaux modèles de frontière, mais elle invite à s’interroger : comment des Européens, qui doivent, eux, tenir compte d’enjeux de défense, de sécurité, de culture et d’espionnage, peuvent-ils juger que de tels investissements n’en valent pas la peine ? Si des cabinets d’avocats américains estiment pertinent d’investir des milliards dans leur souveraineté cognitive, on mesure l’ordre de grandeur des investissements nécessaires à l’échelle d’un continent comme l’Europe.

Le vassal cognitif est-il condamné à parler la langue de son souverain cognitif ?

Comme l’écrivait Wittgenstein : « Les limites de mon langage sont les limites de mon monde ». La langue est intimement liée à la souveraineté. L’héroïne du film Premier Contact du réalisateur québécois Denis Villeneuve, linguiste de renom, dit d’ailleurs que « la langue est le fondement de toute civilisation et la première arme déployée lors d’un conflit ». On a longtemps cru en des hypothèses comme celle dite de « Sapir Whorf » qui attribuait aux propriétés de la langue maternelle un impact considérable sur la cognition qui se développe ensuite. Cette hypothèse, très déterministe, considérait que certaines langues préparaient particulièrement bien l’esprit à certains types de raisonnements complexes tandis que d’autres limitaient ces capacités.

Nous en sommes largement revenus : les neurosciences récentes parlent plutôt de « relativisme linguistique » et considèrent la langue maternelle comme un facteur qui façonne partiellement l’esprit, sans hiérarchie entre les langues ni idée que certaines « prépareraient mieux » aux raisonnements complexes. Ces recherches montrent néanmoins que la langue a un impact direct sur la cognition. Or les LLM sont, en un sens, une langue – une langue écrite non pas sous la Coupole de l’Académie française, mais dans les bureaux des patrons américains de la tech.

Lera Boroditsky a étudié la façon dont l’anglais recourt à des métaphores « horizontales » pour parler du temps (looking forward to the next game, moving the meeting back), quand le mandarin emploie des métaphores verticales (shàng, « au-dessus », pour les événements passés, et, « en dessous », pour les événements futurs). Selon elle, ces différences ne confèrent aucun « avantage », mais prédisposent les anglophones natifs à organiser un calendrier horizontalement, et les sinophones natifs à l’organiser verticalement.

Jonathan Winawer a pour sa part observé que le russe, dont le lexique distingue le bleu clair et le bleu foncé comme deux couleurs à part entière et non comme deux nuances d’une même couleur, prédispose ses locuteurs natifs à être plus sensibles aux nuances de bleu : ils les distinguent bien plus vite que les anglophones.

Enfin, Stephen C. Levinson, alors chercheur à l’Institut Max-Planck de psycholinguistique, a publié en 2003 un article puis un essai intitulés « L’espace dans le langage et la cognition : explorations de la diversité cognitive ». Il y étudie l’influence du lexique spatial d’une langue sur la perception de l’espace, ainsi que sur la façon dont les locuteurs natifs se le représentent et s’y repèrent.

Les concepteurs de LLM ont toute latitude pour y introduire des modifications susceptibles d’affecter la cognition des usagers. Et ces modifications sont d’autant plus pernicieuses qu’elles sont subtiles. Il ne s’agit pas de renommer le golfe du Mexique ou le lac Ontario, mais d’introduire dans un modèle des nuances qui modifient, de façon très localisée, la perception qu’ont les usagers d’un concept. Opter pour la vassalité cognitive, c’est donc aussi renoncer à exercer un contrôle sur la langue avec laquelle interagit une part sans cesse croissante de la population, et laisser celle-ci exposée à une forme de manipulation intrinsèquement difficile à détecter à temps.

Les langues européennes, autres que l’anglais et le chinois, pourraient en outre être directement attaquées. Rien de subtil ici : il s’agirait simplement d’exercer une domination en imposant la langue du dominant et en marginalisant celle des vassaux. L’IA n’est pas aussi performante dans toutes les langues ; elle l’est par exemple moins en polonais qu’en anglais ^8 9 10. Cet écart s’explique aujourd’hui essentiellement par des questions de sémantique, de structure des langues, de volume de données bien organisées disponibles en ligne dans une langue donnée, et de « tokenisation » – le découpage de chaque mot en unités de calcul par le modèle. Ce découpage étant optimisé pour l’anglais, une langue à déclinaisons complexes comme le polonais est découpée en un bien plus grand nombre de fragments pour dire la même chose, ce qui dégrade les performances.

L’administration Trump – qui a ordonné en juin 2026 à Anthropic de suspendre l’accès des non-Américains à ses derniers modèles, Fable et Mythos, avant de le rétablir – a récemment fait pression sur le Canada pour qu’il réduise fortement son soutien aux programmes audiovisuels francophones ¹¹. Les États-Unis n’avaient jusque-là pas de langue officielle : le 1er mars 2025, Donald Trump a signé un décret conférant ce statut à l’anglais. Pourquoi s’arrêter là ? Qu’est-ce qui empêchera une future administration d’ordonner, officiellement ou non, aux géants de la tech de rendre leurs modèles nettement moins performants dans les autres langues ? Sans même les rendre inutilisables, ils pourraient ainsi semer un doute qui pousserait beaucoup d’utilisateurs à ne s’exprimer qu’en anglais pour obtenir « la meilleure performance ».

Quel est le coût sécuritaire et humain de la vassalité cognitive ?

Contrairement aux avocats américains, les Européens doivent prendre très au sérieux les enjeux de sécurité, comme vient de le rappeler la cyberattaque du 12 octobre 2026 contre les installations frigorifiques de nombreuses enseignes de la grande distribution française. Si l’on n’en connaît pas encore les détails, on observe déjà des attaques iraniennes préparées à l’aide du modèle Fable d’Anthropic, et d’autres lancées de façon « autonome » par des agents d’IA. Le cyber, comme la cognition, est d’ailleurs l’une des dimensions de la conflictualité identifiées par l’OTAN : contrôler son cyberespace devient aussi essentiel que contrôler son espace aérien.

Que se passerait-il si, demain, un pays menait une cyberattaque massive à l’aide d’une IA américaine, non plus contre les frigos des supermarchés mais contre nos infrastructures critiques – centrales nucléaires, hôpitaux –, et que la Maison-Blanche ordonnait à l’entreprise qui développe cette IA, Anthropic par exemple, de suspendre l’accès de la France au modèle dont elle aurait besoin pour se défendre ?

Et si une administration américaine faisait de l’accès aux modèles de frontière, un levier de négociation, afin de contraindre la France ou un autre pays européen à acheter du matériel militaire américain ou à signer un traité très favorable aux États-Unis ? Personne n’a oublié les images d’Ursula von der Leyen se rendant sur le golf de Donald Trump en Écosse pour signer l’accord censé mettre fin à l’escalade tarifaire. Jusqu’où le président américain aurait-il poussé ses exigences si l’Europe avait eu un besoin vital des meilleures IA américaines pour se défendre ?

Enfin, comment ne pas tirer des enseignements de l’ensemble des découvertes récentes sur la manière dont Mark Zuckerberg effectue des arbitrages concernant les fonctionnalités, le design et l’ergonomie des plateformes de Meta telles que Facebook et Instagram ? Même après que ses propres chercheurs lui ont démontré, études internes à l’appui, que certains designs exposaient des mineurs à la prédation d’adultes inconnus et nuisaient gravement à la santé mentale de nombreux usagers, notamment des jeunes filles, il a catégoriquement refusé tout changement. La vassalité européenne à l’égard des réseaux sociaux américains a ainsi permis à un PDG de procéder, au seul nom de ses intérêts économiques, à des arbitrages qui ont directement altéré la santé de nombreux jeunes Européens.

À ces premiers coûts humains s’ajoute la brutalisation du débat public. Les procès intentés à Mark Zuckerberg ont également révélé que des chercheurs de Facebook avaient interrogé des responsables politiques européens qui se plaignaient d’être « forcés de se montrer de plus en plus violents et de plus en plus radicaux » pour se faire entendre des électeurs sur les réseaux sociaux. Ces élus avaient supplié en vain Facebook de modifier ses algorithmes pour qu’ils cessent de récompenser les discours haineux, afin de pouvoir offrir un débat public de qualité.

L’absence de choix est en réalité un choix

En quelques années, l’IA de frontière est passée de la résolution de problèmes de niveau olympiades de mathématiques pour lycéens à la production massive de résultats de recherche significatifs, au point que le médaillé Fields français Hugo Duminil-Copin a pu affirmer que « l’IA a annihilé son domaine de recherche ». Et ce, alors que certains mathématiciens de premier plan semblent à peine commencer à entrevoir ce qui se passe – non parce qu’ils sont mal informés, mais parce que tout est allé extrêmement vite.

Dans ce contexte, « prendre son temps » pour décider s’il faut reconquérir sa souveraineté cognitive revient à choisir la vassalité. Pendant que l’on délibère, les modèles continuent de progresser et la facture de s’alourdir. Les jeunes comme les entreprises européennes utilisent déjà massivement l’IA, et le marché du travail en ressent déjà les effets. La route prise par défaut mène à une dépendance totale envers l’hégémonie sino-américaine en matière d’IA – une dépendance dont le coût réel n’apparaîtra au grand jour qu’à la faveur d’une crise majeure.

De premiers pas ont pourtant été faits vers la souveraineté cognitive. Avec la sortie de Mistral Large 4, le 6 octobre 2026, qui place la France au troisième rang mondial de l’IA, Mistral montre que, dans cette course, tout reste possible.