La métamorphose

L’humanité se trouve à l’aube d’une révolution alimentée par l’intelligence artificielle. Cette révolution pourrait bien s’avérer l’une des plus importantes et profondes de l’Histoire. Pourtant, elle est née non d’un plan global mais d’efforts disparates visant à résoudre des problèmes pratiques spécifiques. Non sans ironie, cette résolution de problèmes au cas par cas pourrait avoir pour effet ultime de transformer le raisonnement humain et le processus de prise de décision.

Cette révolution est inéluctable. Toute tentative de l’enrayer ferait don de l’avenir à la partie de l’humanité qui se montre la plus courageuse face aux conséquences de sa propre ingéniosité. Nous gagnerions plutôt à accepter le fait que l’IA est appelée à devenir de plus en plus sophistiquée et omniprésente et à nous poser la question suivante : comment son évolution affectera-t-elle la perception, la connaissance et l’interaction humaines ? Quel sera son impact sur notre culture et, in fine, sur notre histoire ?

Ce sont des questions de cet ordre qui ont conduit les trois auteurs de cet article à se réunir : un historien et ancien décideur politique, l’ancien directeur général d’une grande entreprise du secteur des technologies et le doyen d’une institution universitaire à vocation technologique de premier rang. Nous nous retrouvons régulièrement depuis trois ans pour tenter de comprendre ces questions et les énigmes qui leur sont associées. Chacun de nous est convaincu de notre incapacité, dans les limites de nos domaines de compétence respectifs, à analyser pleinement un avenir dans lequel les machines contribuent à orienter leur propre évolution, s’améliorant pour mieux traiter les problèmes qu’elles ont été conçues pour résoudre. C’est pourquoi, en guise de point de départ – et, nous l’espérons, de tremplin vers un débat de plus grande ampleur – nous nous efforçons de formuler un ensemble de questions détaillées sur l’importance du développement de l’IA pour la civilisation humaine.

Le paradoxe AlphaZero

En décembre dernier, les développeurs d’AlphaZero ont publié une explication du processus par lequel le programme est parvenu à maîtriser les échecs – processus dont il s’avère qu’il fait entièrement fi des stratégies humaines développées au cours des siècles et des jeux classiques du passé. Après avoir appris les règles du jeu, AlphaZero s’est entraîné par lui-même et, en moins de 24 heures, est devenu le meilleur joueur d’échecs au monde – dépassant les grands maîtres et ce qui était jusqu’alors le programme informatique de jeu d’échecs le plus sophistiqué au monde. Il y est parvenu en ne jouant ni comme un grand maître ni comme un programme préexistant. Il a conçu et mis en oeuvre des coups que les humains et les machines formées par l’Homme jugeraient contre-intuitifs, voire simplement erronés. Le fondateur de la société qui a créé AlphaZero a qualifié sa performance d’« échecs d’une autre dimension » et y voit la preuve que l’IA sophistiquée « n’est plus entravée par les limites de la connaissance humaine ».

Aujourd’hui, des experts réputés des échecs étudient les coups d’AlphaZero, espérant incorporer ses connaissances à leur propre jeu. Si ces études sont d’ordre pratique, des questions philosophiques plus vastes émergent également. Parmi celles qui demeurent actuellement sans réponse : comment expliquer la capacité d’AlphaZero à inventer une nouvelle approche des échecs sur le fondement d’une période d’apprentissage très courte ? Quelle est la réalité qu’il a explorée ? L’IA va-t-elle conduire à une expansion encore inimaginable de la réalité qui nous est familière ?

Nous pouvons nous attendre à ce que l’IA effectue des découvertes comparables dans d’autres domaines. Certaines vont bouleverser les idées reçues et les pratiques établies, d’autres les modifieront de façon marginale uniquement. Presque toutes nous laisseront dans l’incapacité de comprendre. Pensez au comportement des voitures autonomes arrêtées à un feu de circulation. Lorsque des voitures conduites par des humains s’avancent quelque peu pour tenter de battre la circulation, certaines voitures autonomes les rejoignent parfois, bien que rien dans les règles de conduite qui leur sont données ne leur suggère de le faire. Si ce mouvement vers l’avant est bien le fruit d’un apprentissage, comment l’expliquer et quelles en sont les finalités ? En quoi diffère-t-il de ce que l’on enseigne aux humains concernant l’attente aux feux de circulation ? Qu’apprend l’IA sans nous le dire (l’IA n’étant pas capable d’explication) ? En ouvrant la voie à un processus d’auto-apprentissage chez les objets inanimés, nous ne savons pas encore ce que nous avons initié, mais il est urgent de le découvrir.

La nature de la révolution

Jusqu’ici, l’évolution numérique s’est appuyée sur les êtres humains, qui ont créé les logiciels et analysé les données qui affectent si profondément nos vies. Des progrès récents ont permis de remodeler ce processus. L’IA a rendu possible l’automatisation d’un extraordinaire éventail de tâches, et ce en permettant aux machines de jouer un rôle – de plus en plus décisif – dans l’identification d’enseignements tirés des données et la prise de décisions en conséquence. L’IA tire les leçons de sa propre expérience, contrairement aux logiciels traditionnels, qui ne peuvent que soutenir le raisonnement humain. Le transfert croissant du jugement des êtres humains vers les machines dénote l’aspect révolutionnaire de l’IA.

Pour autant, le mot « intelligence » peine à rendre compte de ce qui se passe, et il est déplacé d’attribuer à l’IA de quelconques qualités anthropomorphiques. L’IA n’est ni malveillante ni aimable ; elle n’a pas d’intentions ni d’objectifs développés de manière indépendante ; elle ne peut réfléchir à elle-même. Ce que l’IA peut faire, c’est accomplir des tâches spécifiées afin d’aider à découvrir des associations entre les données et les actions, en apportant ainsi des solutions à des dilemmes que les humains trouvent difficiles voire impossibles à résoudre. Ce processus crée de nouvelles formes d’automatisation et pourrait, avec le temps, donner naissance à des modes de pensée entièrement nouveaux.

Pourtant, les systèmes actuels d’IA éprouvent, de manière peut-être inhérente, des difficultés à enseigner ou à expliquer comment ils parviennent à leurs solutions ou pourquoi ces solutions sont supérieures aux autres. Il appartient aux êtres humains de déchiffrer la signification de ce que font les systèmes d’IA et d’en offrir des interprétations. Par certains égards, l’IA est comparable à l’oracle de Delphes, qui laissait aux êtres humains la tâche d’interpréter ses messages cryptiques sur la destinée humaine.

Si l’IA s’améliore constamment – et il n’y a aucune raison de penser le contraire – les changements qu’elle imposera à la vie humaine seront transformateurs. En voici deux exemples : un macro-exemple tiré du domaine de la sécurité mondiale et nationale et un micro-exemple traitant du rôle potentiel de l’IA dans les relations humaines.

L’IA, la stratégie et la sécurité

À l’ère nucléaire, la stratégie gravitait autour du concept de dissuasion. La dissuasion est fondée sur le postulat de la rationalité des parties et sur le principe selon lequel la stabilité peut être assurée par des déploiements nucléaires et militaires qui ne peuvent être neutralisés que par des actes délibérés conduisant à l’autodestruction ; la probabilité des représailles suffit à dissuader d’une attaque. Les accords de non-prolifération et systèmes de surveillance ont été développés en grande partie pour éviter les provocations d’États voyous ou de faux signaux susceptibles de déclencher une réaction catastrophique.

Presque aucune de ces vérités stratégiques ne trouve à s’appliquer à un monde dans lequel l’IA joue un rôle important en matière de sécurité nationale. Si l’IA en vient à développer de nouvelles armes, stratégies et tactiques par simulation et autres méthodes clandestines, son contrôle devient incertain, voire impossible. Les principes d’un contrôle de l’armement fondé sur la divulgation se modifieront : l’ignorance des adversaires quant aux configurations nées de l’IA deviendra un avantage stratégique – un avantage que sacrifierait un processus traditionnel de négociation, dans lequel la transparence sur les capacités est une condition sine qua non. L’opacité et la rapidité du cybermonde pourraient bouleverser les modèles actuels de prévision.

L’évolution du régime de contrôle des armements nous a appris que la stratégie globale exige une compréhension des capacités et déploiements militaires des adversaires potentiels. Mais si un nombre croissant de renseignements devient opaque, comment les décideurs politiques pourront-ils comprendre les points de vue et capacités de leurs adversaires voire de leurs alliés ? De nombreux internets distincts émergeront-ils ou, au total, un seul ? Quelles seront les conséquences en matière de coopération ? Et de confrontation ? À mesure que l’IA devient omniprésente, de nouveaux concepts doivent émerger pour ce qui concerne sa sécurité. L’un d’eux est la capacité de se déconnecter du réseau sur lequel elle opère.

Des questions plus pointues – et potentiellement plus inquiétantes – se profilent à l’horizon. L’existence d’armes à la puissance inconnaissable accroît-elle ou réduit-elle la probabilité d’un conflit futur ? Face à l’inconnu, la peur accentuera-t-elle la tendance à préempter ? L’opacité sera incitée, ce qui pourrait signifier une insécurité absolue. Dans ces circonstances, comment seront établies les normes et règles visant à guider et circonscrire la stratégie ? La nécessité d’élaborer des concepts stratégiques adaptés à cette nouvelle technologie désormais inévitable est devenue impérieuse.

Contact humain

Les assistants numériques Google Home et Alexa (Amazon) sont déjà installés dans des millions de foyers et conçus pour la conversation quotidienne : ils répondent à des questions et prodiguent des conseils qui peuvent sembler intelligents, voire sages aux enfants. Ils peuvent également offrir une solution face à la solitude chronique des personnes âgées, dont beaucoup interagissent avec ces appareils comme avec des amis.

Plus l’IA recueille et analyse de données, plus elle devient précise, de sorte que de tels appareils apprennent les préférences de leurs propriétaires et en tiennent compte dans l’élaboration de leurs réponses. Plus ils seront « intelligents », plus ils deviendront des compagnons intimes. Par conséquent, l’IA pourrait conduire les humains à éprouver à son égard des émotions qu’elle est incapable de ressentir.

Les gens considèrent d’ores et déjà que leur smartphone est leur bien le plus important. Ils donnent des noms à leurs Roombas et leur attribuent des intentions là où il n’en existe aucune. Que se passera-t-il lorsque ces appareils deviendront encore plus sophistiqués ? Les gens s’attacheront-ils autant à leurs animaux de compagnie numériques qu’à leurs chiens – ou peut-être même plus ?

Les sociétés adopteront ces appareils de la manière la plus compatible avec leurs cultures, accentuant dans certains cas les différences culturelles. Au Japon, par exemple, en raison à la fois du vieillissement de la population et du shintoïsme (pour lequel les objets inanimés ont un esprit proche de celui des humains), les compagnons à l’intelligence artificielle pourraient devenir encore plus répandus qu’en Occident.

Étant donné ces évolutions, il est possible que dans de nombreuses régions du monde, dès la petite enfance, les principales sources d’interaction et de connaissance ne soient pas les parents, membres de la famille, amis ou enseignants, mais plutôt les compagnons numériques, dont la disponibilité constante sera à la fois une aubaine pour l’apprentissage et un défi pour la vie privée. Les algorithmes de l’IA contribueront à repousser les frontières de la connaissance, tout en réduisant les choix possibles en matière d’information et en accroissant la capacité à supprimer des idées neuves ou complexes. L’IA est capable de lever les obstacles de la langue et les nombreuses inhibitions de la culture. Mais cette même technologie crée également une capacité sans précédent de limiter et d’influencer la diffusion de l’information. La capacité technologique des gouvernements à surveiller le comportement et les allers et venues de dizaines voire de centaines de millions de personnes est également sans précédent. Même en Occident, cette quête peut, au nom de l’harmonie, devenir une pente glissante. Trouver un équilibre entre les risques d’un comportement aberrant et les limites à la liberté individuelle – voire le processus même de définition de ce qui est aberrant ou non – sera un défi crucial de l’ère de l’IA.

L’avenir

De nombreuses projections du public en matière d’IA ont des airs de science-fiction. Mais il existe dans le monde réel de nombreuses tendances porteuses d’espoir. L’IA apportera des contributions positives fondamentales dans des domaines aussi cruciaux que la santé, la sécurité et la longévité.

Cependant, son impact demeure inquiétant dans d’autres domaines : la diminution de la curiosité alors que les humains confient à l’IA une part croissante de la quête de connaissances ; l’attrition de la confiance par le biais de vidéos et d’actualités falsifiées ; les nouvelles possibilités qu’elle ouvre au terrorisme ; l’affaiblissement des systèmes démocratiques dû à la manipulation de l’IA ; et peut-être la réduction des possibilités de travail humain en raison de l’automatisation.

Tandis que l’IA devient omniprésente, comment sera-t-elle réglementée et surveillée ? Alors que nous entrons dans un monde dans lequel l’IA apprend aux humains, y aura-t-il l’équivalent en IA de manuels scolaires « homologués » ?

Le défi qui consiste à intégrer cette nouvelle technologie aux valeurs et pratiques de la culture existante est sans précédent. L’événement qui s’en rapproche le plus est le passage de la période médiévale à la période moderne. À l’époque médiévale, l’univers était considéré comme une création du divin et ses manifestations comme des émanations de la volonté divine. Lorsque l’unité de l’Église chrétienne a été rompue s’est posée la question de savoir quel concept unificateur pourrait la remplacer. La réponse a finalement émergé au cours de ce que nous appelons aujourd’hui le siècle des Lumières ; de grands philosophes ont remplacé l’inspiration divine par la raison, l’expérimentation et l’approche pragmatique. D’autres interprétations ont suivi : la philosophie de l’histoire ; les interprétations sociologiques de la réalité. Mais le phénomène par lequel une machine assiste voire surpasse les humains dans le travail mental et les aide à prédire et façonner les événements est unique dans l’Histoire de l’humanité. Le philosophe des Lumières Emmanuel Kant voyait en l’impact de la structure de l’esprit humain sur la réalité observée une vérité. La vérité de l’IA est plus contingente et ambiguë ; elle se modifie au fur et à mesure qu’elle acquiert et analyse des données.

Comment répondre à l’évolution inéluctable qu’imposera l’IA à notre compréhension de la vérité et de la réalité ? Nous avons débattu ensemble de nombreuses idées : configurer les assistants numériques de sorte qu’ils refusent de répondre à des questions philosophiques, en particulier concernant les limites de la réalité ; exiger une intervention humaine dans la reconnaissance de modèles lorsque les enjeux sont importants, comme en matière d’interprétation de radiographies aux rayons X ; développer des simulations dans lesquelles l’IA peut s’entraîner à définir pour elle-même des valeurs humaines ambiguës – selon la situation, qu’est-ce qui est éthique et raisonnable, inoffensif ? ; « auditer » l’IA et la corriger lorsqu’elle imite de manière inexacte nos valeurs ; créer une nouvelle discipline, une « éthique de l’IA », pour faciliter la réflexion autour de son administration responsable, comme la bioéthique a facilité la réflexion autour de l’administration responsable de la biologie et de la médecine. Il est important d’entreprendre ces efforts en prenant en considération trois horizons temporels : ce que nous savons déjà, ce que nous sommes sûrs de découvrir dans un avenir proche et ce que nous sommes susceptibles de découvrir lorsque l’IA deviendra commune.

Si nos degrés d’optimisme divergent en ce qui concerne l’IA, nous sommes unanimes lorsqu’il s’agit de constater qu’elle change la connaissance et la perception humaines et donc la réalité – et, ce faisant, altère le cours de l’histoire humaine. Nous nous efforçons de la comprendre et d’en saisir les conséquences et encourageons les autres, quelles que soient leurs disciplines, à en faire de même.