L\u2019intelligence artificielle (IA) est entr\u00e9e dans une nouvelle \u00e8re caract\u00e9ris\u00e9e par quatre tendances : une homog\u00e9n\u00e9isation de ses techniques, une acc\u00e9l\u00e9ration massive de son adoption, une asym\u00e9trie d\u2019information croissante entre les secteurs priv\u00e9s et publics, et une cristallisation des tensions g\u00e9opolitiques.<\/p>\n\n\n\n
L\u2019histoire de l\u2019IA est r\u00e9cente (post-1950) mais d\u00e9j\u00e0 riche en ruptures technologiques qui ont transform\u00e9 significativement ses applications commerciales. La derni\u00e8re en date correspond \u00e0 l’\u00e9mergence de mod\u00e8les d\u2019IA de taille gigantesque permettant d\u2019am\u00e9liorer et de syst\u00e9matiser l\u2019\u00e9laboration des algorithmes pr\u00e9dictifs. Le domaine du traitement automatique du langage fournit un exemple particuli\u00e8rement \u00e9clairant de ce ph\u00e9nom\u00e8ne. Avant 2018, toute t\u00e2che sp\u00e9cifique (pr\u00e9diction de sentiment, d\u00e9tection de fake news<\/em>\u2026) n\u00e9cessitait un mod\u00e8le d\u2019IA sp\u00e9cifique, dont l\u2019\u00e9laboration \u00e9tait particuli\u00e8rement co\u00fbteuse. L\u2019introduction du mod\u00e8le BERT (Bidirectional Transformers for Language Understanding) en 2018 a chang\u00e9 la donne : ce dernier permet de dig\u00e9rer une information textuelle et de la transformer sous une forme plus synth\u00e9tique, directement exploitable par des algorithmes d\u2019apprentissage automatique traditionnels. Le nouveau paradigme de l\u2019IA proc\u00e8de ainsi d\u2019une homog\u00e9n\u00e9isation des techniques d\u2019apprentissage, \u00e0 travers un traitement de l\u2019information en deux temps : extraction-synth\u00e8se d\u2019abord, puis calibration pour une t\u00e2che sp\u00e9cifique. La phase d’extraction-synth\u00e8se, tr\u00e8s complexe, est pr\u00e9cis\u00e9ment rendue possible par l\u2019introduction des foundation models <\/em>selon la terminologie de l\u2019Universit\u00e9 de Stanford, dont BERT fait partie. Le passage \u00e0 l’\u00e9chelle de ces foundation models<\/em> offre de nombreuses promesses mais s\u2019accompagne d\u2019une nouvelle forme de risque syst\u00e9mique en ce que leurs d\u00e9faillances inh\u00e9rentes se r\u00e9percutent sur les nombreux algorithmes qu\u2019ils ont enfant\u00e9s. Ce ph\u00e9nom\u00e8ne d\u2019interm\u00e9diation complexifie la mesure de l\u2019impact soci\u00e9tal et \u00e9conomique de l\u2019IA pour les d\u00e9cideurs publics.<\/p>\n\n\n\n Le nouveau paradigme de l\u2019IA proc\u00e8de ainsi d\u2019une homog\u00e9n\u00e9isation des techniques d\u2019apprentissage, \u00e0 travers un traitement de l\u2019information en deux temps : extraction-synth\u00e8se d\u2019abord, puis calibration pour une t\u00e2che sp\u00e9cifique.<\/p>Victor Storchan et Nathan Noiry<\/cite><\/blockquote><\/figure>\n\n\n\n L\u2019intelligence artificielle passe du laboratoire aux usages commerciaux \u00e0 un rythme jamais atteint auparavant. Son adoption est massive : selon l\u2019entreprise californienne OpenAI, un des leader mondial du secteur, les mod\u00e8les GPT-3 (g\u00e9n\u00e9ration de texte), Dall-E (g\u00e9n\u00e9ration d\u2019image) ou encore GitHub Copilot (g\u00e9n\u00e9ration de code informatique) ont chacun d\u00e9pass\u00e9 la barre symbolique du million d\u2019utilisateurs. On assiste par ailleurs \u00e0 une acc\u00e9l\u00e9ration impressionnante de cette adoption : si GPT-3, introduit en 2020, a mis deux ans pour atteindre le million d\u2019utilisateurs, il n\u2019a fallu que deux mois \u00e0 Dall-E 2, introduit en 2022, pour atteindre cet objectif. Ces changements brutaux forcent les d\u00e9cideurs publics \u00e0 r\u00e9agir avec un sens de l\u2019urgence toujours plus marqu\u00e9.<\/p>\n\n\n\n Les ressources sp\u00e9cifiques n\u00e9cessaires \u00e0 l\u2019\u00e9laboration des nouveaux syst\u00e8mes d\u2019IA ont induit une pr\u00e9\u00e9minence de la recherche priv\u00e9e sur la recherche publique. \u00c0 titre d\u2019exemple, le d\u00e9veloppement des foundation models <\/em>requiert non seulement la collecte de jeux de donn\u00e9es \u00e0 tr\u00e8s grande \u00e9chelle, mais aussi des moyens de calculs exponentiels dont les co\u00fbts peuvent s\u2019\u00e9lever \u00e0 des dizaines de millions de dollars, ressources souvent inaccessibles pour le monde universitaire. En r\u00e9sulte une consid\u00e9rable asym\u00e9trie d\u2019information entre universit\u00e9s publiques et centre de recherche priv\u00e9s, avec un effet de r\u00e9troaction pernicieux : \u00e9tant les seuls \u00e0 pouvoir produire les mod\u00e8les les plus performants, les centre priv\u00e9s attirent les meilleurs talents et font la course seuls en t\u00eate. En particulier, l\u2019\u00e9cart entre la r\u00e9alit\u00e9 de la technologie d\u00e9ploy\u00e9e dans l\u2019industrie et la perception qu\u2019en ont les d\u00e9cideurs publics s\u2019est consid\u00e9rablement accru, au risque de concentrer le d\u00e9bat sur des chim\u00e8res technologiques d\u00e9tournant des v\u00e9ritables probl\u00e8mes soci\u00e9taux pos\u00e9s par l\u2019IA. Les entreprises priv\u00e9es entretiennent d\u2019ailleurs un flou technologique sur les capacit\u00e9s r\u00e9elles des mod\u00e8les qu\u2019elles d\u00e9veloppent : les publications scientifiques rigoureuses sont souvent concurrenc\u00e9es par de retentissants communiqu\u00e9s de presse, scientifiquement opaques. Le chercheur canadien Gary Marcus a introduit le n\u00e9ologisme demoware <\/em>pour rendre compte de ce ph\u00e9nom\u00e8ne d\u2019\u00e9ditorialisation de l\u2019IA, o\u00f9 l\u2019illusion d\u2019une pr\u00e9sentation simplifi\u00e9e masque parfois le manque de maturit\u00e9 d\u2019une technologie. Afin de r\u00e9\u00e9quilibrer le rapport de force, l\u2019universit\u00e9 de Stanford a pouss\u00e9 l\u2019id\u00e9e d\u2019un cloud national de recherche <\/span>1<\/sup><\/a><\/span><\/span> qui aurait vocation \u00e0 fournir les ressources ad\u00e9quates \u00e0 la recherche publique.<\/p>\n\n\n\n L\u2019\u00e9cart entre la r\u00e9alit\u00e9 de la technologie d\u00e9ploy\u00e9e dans l\u2019industrie et la perception qu\u2019en ont les d\u00e9cideurs publics s\u2019est consid\u00e9rablement accru, au risque de concentrer le d\u00e9bat sur des chim\u00e8res technologiques d\u00e9tournant des v\u00e9ritables probl\u00e8mes soci\u00e9taux pos\u00e9s par l\u2019IA<\/p>Victor Storchan et Nathan Noiry<\/cite><\/blockquote><\/figure>\n\n\n\n Sur la sc\u00e8ne internationale, les tensions g\u00e9opolitiques se cristallisent. Entre puissances d\u2019abord, o\u00f9 les concepts de techno-souverainisme et techno-nationalisme s\u2019illustrent dans les faits. Lorsque l\u2019entreprise Naver, concurrent cor\u00e9een de Google, annonce pouvoir r\u00e9pliquer des mod\u00e8les g\u00e9n\u00e9ratifs de texte aussi performants que leurs concurrents am\u00e9ricains, le communiqu\u00e9 de presse pr\u00e9cise que \u201ccontrairement au mod\u00e8le GPT-3 centr\u00e9 sur l’anglais, cela signifie \u00e9galement s\u00e9curiser la souverainet\u00e9 de l’IA en d\u00e9veloppant un mod\u00e8le linguistique optimis\u00e9 pour le cor\u00e9en\u201d. L\u2019exemple chinois est \u00e9galement embl\u00e9matique de ce nouveau techno-nationalisme : le minist\u00e8re des sciences et technologies a ainsi \u00e9tabli une liste d\u2019entreprises destin\u00e9es \u00e0 former une \u00ab \u00e9quipe nationale pour l\u2019IA \u00bb capable de projeter la puissance chinoise. Par ailleurs, une nouvelle forme de diplomatie \u00e9merge entre \u00c9tats et plateformes technologiques. D\u2019un c\u00f4t\u00e9, les \u00c9tats nomment des ambassadeurs du num\u00e9rique et aupr\u00e8s des GAFA, de l\u2019autre, les plateformes technologiques recrutent des experts charg\u00e9s d\u2019anticiper les r\u00e9actions g\u00e9opolitiques que leurs syst\u00e8mes d\u2019IA pourraient susciter <\/span>2<\/sup><\/a><\/span><\/span>. Cette accroissement de la g\u00e9opolitisation de l\u2019IA a \u00e9t\u00e9 per\u00e7ue d\u00e8s juillet 2021 par Antony Blinken : \u00ab les d\u00e9mocraties doivent passer ensemble le test technologique \u00bb et \u00ab la diplomatie, […] a un grand r\u00f4le \u00e0 jouer \u00e0 cet \u00e9gard \u00bb. En France, Emmanuel Macron a r\u00e9cemment soulign\u00e9 la n\u00e9cessit\u00e9 \u00ab d’agr\u00e9ger ce qu\u2019est le m\u00e9tier d\u2019\u00eatre diplomate avec des connaissances extr\u00eamement pointues dans les technologies \u00bb. <\/p>\n\n\n\n Les quatre tendances de la nouvelle \u00e8re dans laquelle est entr\u00e9e l\u2019IA en font une technologie difficile \u00e0 appr\u00e9hender. Face \u00e0 un flou technologique grandissant, les \u00c9tats s\u2019organisent pour prendre la mesure des transformations \u00e0 l’\u0153uvre, afin de d\u00e9celer les opportunit\u00e9s et les vuln\u00e9rabilit\u00e9s de l\u2019IA, enjeu majeur de la d\u00e9cennie \u00e0 venir.<\/p>\n\n\n\n Face \u00e0 un flou technologique grandissant, les \u00c9tats s\u2019organisent pour prendre la mesure des transformations \u00e0 l’\u0153uvre, afin de d\u00e9celer les opportunit\u00e9s et les vuln\u00e9rabilit\u00e9s de l\u2019IA, enjeu majeur de la d\u00e9cennie \u00e0 venir<\/p>Victor Storchan et Nathan Noiry<\/cite><\/blockquote><\/figure>\n\n\n\n Les \u00c9tats s\u2019organisent dans un cadre plurilat\u00e9ral, incluant industrie et soci\u00e9t\u00e9 civile, pour mieux \u00e9valuer et mesurer les impacts macro\u00e9conomiques de l\u2019IA (futur du travail, impact \u00e9conomique, in\u00e9galit\u00e9s, mutations industrielles \u2026). Mais les initiatives comme le PMIA (partenariat mondial pour l\u2019IA) restent tr\u00e8s acad\u00e9miques : rapports techniques sur l\u2019\u00e9tat d\u2019avanc\u00e9e de l\u2019IA ou meilleures pratiques entre pays, les livrables produits dressent des principes g\u00e9n\u00e9raux sans toutefois fournir de feuilles de routes actionnables. Les groupes de travail sont d\u00e9sempar\u00e9s car n’ont pas de capacit\u00e9 d’ex\u00e9cution technique directe pour, entre autres, prioriser des ressources ou planifier des financements de long terme. Afin d’\u00eatre en prise plus directe avec les derni\u00e8res avanc\u00e9es de l\u2019IA dans les entreprises et de mettre en place des strat\u00e9gies plurilat\u00e9rales plus op\u00e9rationnelles, le mode de gouvernance de ces partenariats reste \u00e0 repenser. La priorit\u00e9 est \u00e0 la diversification des expertises et \u00e0 l\u2019\u00e9laboration d\u2019outils d\u2019\u00e9valuation capables de faire remonter les points de vigilances concrets aux d\u00e9cideurs publics.<\/p>\n\n\n\n La mise au point d\u2019une r\u00e9gulation adapt\u00e9e aux syst\u00e8mes d\u2019IA devient incontournable : il s\u2019agit de prendre en compte les sp\u00e9cificit\u00e9s technologiques du domaine et de construire de nouveaux cadres l\u00e9gislatifs adapt\u00e9s, \u00e0 l\u2019image de l\u2019AI Act<\/em> en cours de n\u00e9gociation \u00e0 la Commission Europ\u00e9enne. De mani\u00e8re cruciale, tout corpus l\u00e9gislatif relatif \u00e0 l\u2019IA doit reposer sur le d\u00e9veloppement d\u2019outils idoines permettant d\u2019assurer l\u2019audit des syst\u00e8mes existants. \u00c0 cet \u00e9gard, le National Institute of Standards and Technology <\/em>(NIST) incorpore d\u2019ores et d\u00e9j\u00e0 des audit de syst\u00e8mes de reconnaissance faciale, non seulement du point de vue de leurs performances, mais aussi du point de vue de leurs biais d\u00e9mographiques (vis \u00e0 vis des femmes et des personnes racis\u00e9es, notamment). Afin d\u2019assurer un socle de comparaison commun, le NIST dispose de base de donn\u00e9es labellis\u00e9es et non-accessibles aux entreprises audit\u00e9es. Le d\u00e9veloppement de dispositifs d\u2019audit sp\u00e9cifiques aux foundation models<\/em>, qui irriguent tous les autres, est \u00e9galement d\u00e9terminant pour r\u00e9guler l\u2019IA de demain. L\u2019universit\u00e9 de Stanford entend stimuler cette piste de l\u2019inspection des foundation models<\/em> en organisant cette ann\u00e9e un concours r\u00e9compensant la mise au point d\u2019outils op\u00e9rationnels permettant de r\u00e9pondre, par exemple, aux questions suivantes : les d\u00e9cisions du mod\u00e8le sont-elles stables dans le temps ? les femmes sont-elles sous-repr\u00e9sent\u00e9es par le mod\u00e8le ? etc.<\/p>\n\n\n\nUne adoption massive qui s\u2019acc\u00e9l\u00e8re<\/strong><\/h2>\n\n\n\n
Une asym\u00e9trie d\u2019information entre le secteur priv\u00e9 et le secteur public<\/strong><\/h2>\n\n\n\n
L\u2019accroissement de la g\u00e9opolitisation de l\u2019IA<\/strong><\/h2>\n\n\n\n
Des initiatives multilat\u00e9rales pour mesurer les impacts \u00e0 grande \u00e9chelle de l’IA : un mode de gouvernance \u00e0 repenser<\/strong><\/h2>\n\n\n\n
La r\u00e9gulation des usages \u00e0 l’\u00e9chelle du syst\u00e8me d\u2019IA et des acteurs technologiques<\/strong><\/h2>\n\n\n\n