{"id":339792,"date":"2026-06-12T19:30:51","date_gmt":"2026-06-12T17:30:51","guid":{"rendered":"https:\/\/legrandcontinent.eu\/fr\/?p=339792"},"modified":"2026-06-12T19:46:16","modified_gmt":"2026-06-12T17:46:16","slug":"dario-amodei-anthropic-intelligence-artificielle-pose-probleme-exponentiel","status":"publish","type":"post","link":"https:\/\/legrandcontinent.eu\/fr\/2026\/06\/12\/dario-amodei-anthropic-intelligence-artificielle-pose-probleme-exponentiel\/","title":{"rendered":"L’intelligence artificielle pose un probl\u00e8me exponentiel \u00e0 l’humanit\u00e9"},"content":{"rendered":"\n

Pour Dario Amodei<\/a>, l’intelligence artificielle est une fonction exponentielle qu\u2019il voit se d\u00e9ployer depuis l’int\u00e9rieur. Le cofondateur et patron d’Anthropic fait de l\u2019acc\u00e9l\u00e9ration de l\u2019IA et de son d\u00e9veloppement un ph\u00e9nom\u00e8ne pr\u00e9visible. Il la voit, depuis plusieurs ann\u00e9es, s\u2019\u00e9tendre selon des lois d’\u00e9chelle empiriques qui aboutiront, si elles se maintiennent, \u00e0 l\u2019av\u00e8nement d\u2019un nouveau type d\u2019entit\u00e9 nationale : \u00ab un pays de g\u00e9nies dans un centre de donn\u00e9es \u00bb.\u00a0<\/p>\n\n\n\n

C\u2019est pourquoi, d\u2019apr\u00e8s Dario Amodei, l’IA est une technologie \u00e0 part, qui fonctionne \u00e0 partir des extr\u00eames du possible, tant d\u2019un c\u00f4t\u00e9 que de l\u2019autre, du bien que du mal. Dans les deux cas, ce sera en des proportions que nous n\u2019avons jamais connues par le pass\u00e9. <\/p>\n\n\n\n

Cette ambivalence structure la production \u00e9crite d\u2019Amodei, qui prend la forme d\u2019une trilogie : dans \u00ab Machines of Loving Grace \u00bb (2024), il explore le versant lumineux de l\u2019IA qui, utilis\u00e9e avec discernement, pourrait nous faire conna\u00eetre l\u2019\u00e9quivalent d\u2019un si\u00e8cle d\u2019innovations en seulement une d\u00e9cennie, tant dans les domaines de la biologie, des neurosciences, qu\u2019en termes de d\u00e9veloppement \u00e9conomique ; dans \u00ab The Adolescence of Technology \u00bb (2026), il s\u2019attaque \u00e0 la part la plus sombre de l\u2019IA, en cartographiant ses risques : perte de contr\u00f4le des syst\u00e8mes, production d\u2019armes biologiques, autoritarisme, bouleversement de l’emploi. Dans \u00ab Policy on the AI Exponential \u00bb, Amodei passe du diagnostic \u00e0 l\u2019ordonnance. Il y d\u00e9taille un ensemble de recommandations dans cinq domaines de l’action publique, la macro\u00e9conomie, la politique fiscale, l’innovation scientifique, les libert\u00e9s publiques et la g\u00e9opolitique. La publication du texte accompagne la sortie du premier mod\u00e8le Mythos accessible au grand public, Fable 5. <\/p>\n\n\n\n

Dans Le<\/em> Seigneur des Anneaux<\/em>, Sylvebarbe est un arbre plein de sagesse, qui ob\u00e9it \u00e0 sa raison mais qui est aussi particuli\u00e8rement lent. Deux Hobbits tentent de le convaincre d\u2019organiser la d\u00e9fense de sa for\u00eat, alors menac\u00e9e par une arm\u00e9e qui entend bien la faire dispara\u00eetre. Le probl\u00e8me, c’est que Sylvebarbe fonctionne \u00e0 un rythme tr\u00e8s diff\u00e9rent de celui des Hobbits. Il lui faut une journ\u00e9e enti\u00e8re rien que pour dire bonjour \u00e0 un autre arbre ; il est donc pratiquement impossible de le convaincre, lui et ses semblables, d’agir dans les plus brefs d\u00e9lais. <\/p>\n\n\n\n

Le rapport qu\u2019entretiennent nos institutions politiques avec l\u2019IA est un peu \u00e0 l\u2019image de cette rencontre entre Sylvebarbe et les Hobbits. L\u2019IA progresse \u00e0 une vitesse fulgurante : en seulement quatre ans, les mod\u00e8les d\u2019IA, qui pouvaient \u00e0 peine \u00e9crire une ligne de code correctement, prennent aujourd\u2019hui en charge la majeure partie du code dans les grandes entreprises d\u2019IA <\/span>1<\/sup><\/a><\/span><\/span>. <\/p>\n\n\n\n

La dur\u00e9e des t\u00e2ches qu\u2019un agent \u00e0 la fronti\u00e8re peut accomplir avec une fiabilit\u00e9 de 50 % a environ doubl\u00e9 tous les sept mois depuis 2019, avec une acc\u00e9l\u00e9ration depuis 2024. Dans sa mise \u00e0 jour de janvier 2026, METR estime que le temps de doublement depuis 2023 est d\u2019environ 4,3 mois. Voir \u00e0 ce sujet l\u2019article \u00ab Measuring<\/a> AI Ability to Complete Long Software Tasks<\/a> \u00bb. Pour d\u00e9partager les mod\u00e8les \u00e0 la fronti\u00e8re, on utilise d\u00e9sormais des t\u00e2ches qui demandent plus de 40 heures de travail \u00e0 des d\u00e9veloppeurs open source de premier plan. Pour en savoir plus, consulter l\u2019article \u00ab Introducing FrontierCode<\/a> \u00bb.<\/p>\n\n\n\n

Des avanc\u00e9es similaires ont \u00e9t\u00e9 r\u00e9alis\u00e9es en biologie, en physique, en math\u00e9matiques, en finance, en droit, dans la traduction et dans bien d\u2019autres domaines. Les lois d’\u00e9chelle de l’IA <\/span>2<\/sup><\/a><\/span><\/span>, qui pr\u00e9disent une croissance exponentielle des capacit\u00e9s cognitives g\u00e9n\u00e9rales \u00e0 mesure de l\u2019augmentation de la puissance de calcul, s’appuient d\u00e9sormais sur plus d’une d\u00e9cennie de donn\u00e9es empiriques. Si ces lois d’\u00e9chelle se maintiennent encore un an ou deux, nous obtiendrons probablement ce que j’ai appel\u00e9 l’IA puissante, <\/em>ou \u00ab un pays de g\u00e9nies dans un centre de donn\u00e9es \u00bb <\/span>3<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n

De leur c\u00f4t\u00e9, en revanche, les politiques publiques \u2014 et surtout la l\u00e9gislation \u2014 \u00e9voluent tr\u00e8s lentement. C\u2019est souvent pour le mieux : les gouvernements disposent de pouvoirs consid\u00e9rables, et il est g\u00e9n\u00e9ralement pr\u00e9f\u00e9rable de ne pas en faire un usage trop h\u00e2tif. Mais l\u2019\u00e9cart entre ces deux temporalit\u00e9s est de plus en plus pr\u00e9occupant : pendant les quelques ann\u00e9es qu\u2019il faut parfois au Congr\u00e8s pour agir, l\u2019IA peut passer du statut de simple gadget divertissant \u00e0 celui d\u2019une v\u00e9ritable nation \u00e0 part enti\u00e8re, enti\u00e8rement compos\u00e9e de g\u00e9nies.<\/p>\n\n\n\n

Au vu des contraintes impos\u00e9es par cette situation, de nombreux partisans d\u2019une utilisation plus s\u00fbre de l\u2019IA (dont Anthropic) se sont jusqu\u2019\u00e0 pr\u00e9sent attach\u00e9s \u00e0 plaider en faveur de mesures politiques visant \u00e0 pr\u00e9server la libert\u00e9 de choix, \u00e0 pr\u00e9parer le terrain pour une r\u00e9action plus rapide \u00e0 l\u2019avenir ou \u00e0 permettre au monde de mieux cerner ce qui nous attend \u2013 par exemple, une l\u00e9gislation sur la transparence, des contr\u00f4les \u00e0 l\u2019exportation des puces \u00e9lectroniques et des \u00e9tudes sur les effets de l\u2019IA sur l\u2019emploi. Ces mesures sont certes insuffisantes, mais beaucoup pensaient qu\u2019il n\u2019\u00e9tait pas possible d\u2019aller plus loin et qu\u2019elles \u00e9taient les seules envisageables et applicables. <\/p>\n\n\n\n

Au cours des derniers mois, cependant, les preuves de l\u2019incroyable puissance de l\u2019IA, ainsi que de ses risques, sont devenues incontestables. L\u2019exemple le plus embl\u00e9matique est peut-\u00eatre Claude Mythos Preview <\/span>4<\/sup><\/a><\/span><\/span> et la d\u00e9couverte que les mod\u00e8les de pointe posent des risques tr\u00e8s r\u00e9els <\/span>5<\/sup><\/a><\/span><\/span> pour la cybers\u00e9curit\u00e9, cr\u00e9ant un potentiel de perturbation du secteur financier, des infrastructures critiques et de la s\u00e9curit\u00e9 nationale.<\/p>\n\n\n\n

Historiquement, les capacit\u00e9s d’un mod\u00e8le d’IA \u00e0 la fronti\u00e8re ne sont jamais d\u00e9tenues durablement par un acteur unique. Une m\u00e9ta-analyse des capacit\u00e9s de cybers\u00e9curit\u00e9 montre que Mythos Preview se distingue des mod\u00e8les pr\u00e9c\u00e9dents par sa capacit\u00e9 \u00e0 exploiter des vuln\u00e9rabilit\u00e9s. L\u2019article \u00ab Are Mythos\u2019 cyber capabilities overhyped ?<\/a> \u00bb en t\u00e9moigne. Le rapport d’\u00e9valuation du UK AI Security Institute sur les risques cyber \u00e9tablit que sur une simulation d’attaque d’entreprise en 32 \u00e9tapes (que l’AISI estime \u00e0 environ 20 heures de travail humain), GPT-5.5 a r\u00e9ussi de bout en bout dans 2 essais sur 10 et Mythos dans 6 essais sur 10. Avant Mythos, aucun mod\u00e8le n’y \u00e9tait jamais parvenu. Pour plus de d\u00e9tails, voir : \u00ab Our evaluation of Claude Mythos Preview\u2019s cyber capabilities<\/a> \u00bb.<\/p>\n\n\n\n

En amont d’une mise \u00e0 disposition de Claude Mythos Preview, Anthropic a lanc\u00e9 un effort collaboratif regroupant des acteurs syst\u00e9miques (comme JP Morgan, Broadcom ou Cisco) visant \u00e0 s\u00e9curiser les logiciels les plus critiques au monde avant que des mod\u00e8les d\u2019IA de plus en plus capables ne soient publi\u00e9s. L’initiative rapporte que les partenaires ont chacun identifi\u00e9 \u00ab des centaines de vuln\u00e9rabilit\u00e9s critiques ou de haute s\u00e9v\u00e9rit\u00e9 dans leurs logiciels. Plusieurs ont indiqu\u00e9 que leur rythme de d\u00e9couverte de bugs avait \u00e9t\u00e9 multipli\u00e9 par plus de dix \u00bb. Si Anthropic a pr\u00e9sent\u00e9 la s\u00e9curit\u00e9 comme la principale raison de ne pas d\u00e9ployer Mythos, il est probable que les contraintes de calcul jouent un r\u00f4le au moins aussi d\u00e9terminant dans sa strat\u00e9gie de lancement. Lors de l’annonce de la sortie de Fable 5, Anthropic explique dans une publication<\/a> que \u00ab lorsque la capacit\u00e9 disponible le permettra, nous viserons \u00e0 r\u00e9int\u00e9grer Fable 5 comme composante standard des abonnements \u00bb. <\/p>\n\n\n\n

Mythos Preview a boulevers\u00e9 le paysage mondial de la cybers\u00e9curit\u00e9 <\/span>6<\/sup><\/a><\/span><\/span>. Mais son importance plus large r\u00e9side dans le fait qu\u2019il prouve, sans l\u2019ombre d\u2019un doute, que les mod\u00e8les d\u2019IA sont d\u00e9sormais des outils ayant des cons\u00e9quences strat\u00e9giques \u00e0 l\u2019\u00e9chelle mondiale et nationale. Les cyberrisques que pr\u00e9sentent les mod\u00e8les de type Mythos ne seront pas les derniers auxquels nous devrons faire face. Des risques biologiques pourraient bient\u00f4t suivre. De m\u00eame, nous ne sommes pas loin de voir se multiplier les risques li\u00e9s \u00e0 l\u2019autonomie de l\u2019IA elle-m\u00eame <\/span>7<\/sup><\/a><\/span><\/span> <\/span>8<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n

Depuis d\u00e9cembre 2025-janvier 2026, les grands laboratoires d\u2019IA ont fortement acc\u00e9l\u00e9r\u00e9 l\u2019automatisation de la recherche en IA et du cycle de d\u00e9veloppement des mod\u00e8les. Les g\u00e9n\u00e9rations pr\u00e9c\u00e9dentes de mod\u00e8les sont utilis\u00e9es pour entra\u00eener les mod\u00e8les suivants. Les ing\u00e9nieurs d\u2019Anthropic livrent huit fois plus de code avec l\u2019IA que ce qu\u2019ils faisaient jusqu\u2019en 2025. Au post-training<\/em>, l\u2019\u00e9quipe du laboratoire chinois MiniMax a automatis\u00e9 son processus d\u2019exp\u00e9rimentation d\u2019environ 30-50 %, comme on peut le voir dans cette publication<\/a>. <\/p>\n\n\n\n

Nous devons d\u00e9sormais, \u00e0 l’\u00e9chelle mondiale et de mani\u00e8re collective, pousser un appareil politique lent et boiteux \u00e0 se mettre en mouvement. C\u2019est n\u00e9cessaire pour faire face \u00e0 ces risques et \u00e0 ces opportunit\u00e9s, qui, \u00e0 partir de maintenant, ne vont cesser de se multiplier. De nombreux d\u00e9cideurs politiques se montrent de plus en plus ouverts \u00e0 l’id\u00e9e d’agir, et il est encourageant de voir de plus en plus de nos pairs se rallier aux positions que nous d\u00e9fendons depuis plusieurs ann\u00e9es d\u00e9j\u00e0. C\u2019est tr\u00e8s positif, mais les premi\u00e8res mesures prises accusent d\u00e9j\u00e0 du retard : l\u2019IA actuelle a au moins un an d\u2019avance sur les types de r\u00e9gulation aujourd\u2019hui en vigueur. Ce pr\u00e9sent texte vise \u00e0 combler ce retard, en d\u00e9taillant l\u2019\u00e9tat des lieux de cette croissance exponentielle de l\u2019IA d\u2019une part, et en proposant des actions collectives de l\u2019autre, afin de ne pas manquer le rendez-vous de l\u2019histoire. <\/p>\n\n\n\n

Je me concentrerai sur cinq domaines politiques en particulier qui doivent \u00eatre repens\u00e9s dans un monde domin\u00e9 par l\u2019IA : la r\u00e9glementation et la s\u00e9curit\u00e9 publique, la macro\u00e9conomie et la politique fiscale, l\u2019innovation scientifique, l\u2019\u00e9quilibre des pouvoirs entre l\u2019\u00c9tat et la soci\u00e9t\u00e9, et la g\u00e9opolitique. Mon propos concerne surtout la politique am\u00e9ricaine, puisque Anthropic est une entreprise de nationalit\u00e9 am\u00e9ricaine, mais la plupart de mes recommandations peuvent \u00e9galement s\u2019appliquer ailleurs et nourrir le reste du monde. <\/p>\n\n\n\n

Parall\u00e8lement \u00e0 ce texte, Anthropic rend public une proposition de texte l\u00e9gislatif sur les tests de mod\u00e8les \u00e0 la fronti\u00e8re ainsi qu’un cadre strat\u00e9gique con\u00e7u pour r\u00e9pondre \u00e0 la menace que fait peser l\u2019IA sur les emplois, auxquels nous entendons apporter un soutien financier substantiel. Nous pr\u00e9voyons d’aller bien plus loin \u00e0 l’avenir, mais il s\u2019agit, par ce premier pas, de donner les gages de notre s\u00e9rieux. <\/p>\n\n\n\n

Cette proposition d’Anthropic fait \u00e9cho au d\u00e9cret sign\u00e9 par l’administration Trump le 2 juin 2026, instaurant un dispositif d’examen volontaire. L’administration propose avant la mise sur le march\u00e9 d’un mod\u00e8le puissant, que les entreprises d’IA puissent donner au gouvernement f\u00e9d\u00e9ral un acc\u00e8s anticip\u00e9 au mod\u00e8le pendant 30 jours, afin que la communaut\u00e9 du renseignement et les agences de s\u00e9curit\u00e9 l’\u00e9valuent et \u00ab renforcent la cybers\u00e9curit\u00e9 des infrastructures critiques \u00bb. La proposition d’Anthropic vise les entreprises d’IA d\u00e9passant deux seuils cumul\u00e9s : des mod\u00e8les entra\u00een\u00e9s au-del\u00e0 de 10\u00b2\u2075 FLOP et plus de 500 millions de dollars de revenus annuels tir\u00e9s de l\u2019IA, ou plus d\u2019un milliard de dollars de d\u00e9penses annuelles en recherche et d\u00e9veloppement de l’IA. Elle sugg\u00e8re d’imposer des tests obligatoires via une \u00e9valuation ind\u00e9pendante sur quatre risques catastrophiques : cybers\u00e9curit\u00e9, armes biologiques, perte de contr\u00f4le et R&D automatis\u00e9e susceptible d’amplifier les trois autres ; le seuil \u00e9tant con\u00e7u comme adaptatif, r\u00e9visable au moins une fois par an et susceptible de passer d’une mesure en FLOP \u00e0 une mesure fond\u00e9e sur les capacit\u00e9s \u00e0 mesure que le co\u00fbt d’entra\u00eenement des mod\u00e8les dangereux baisse. Voir la politique d\u2019Anthropic en la mati\u00e8re<\/a>. <\/p>\n\n\n\n\n\n

\n \n \r\n \r\n \r\n \r\n \r\n <\/picture>\r\n \n <\/a>\n<\/figure>\n\n\n

1 \u2014 R\u00e9glementation et s\u00e9curit\u00e9 publique<\/h2>\n\n\n\n

Toute nouvelle technologie ou tout nouveau produit, entra\u00eene \u00e0 la fois des utilisations b\u00e9n\u00e9fiques et n\u00e9fastes. D\u2019o\u00f9 un dilemme entre, d\u2019un c\u00f4t\u00e9, promouvoir l\u2019innovation et, de l\u2019autre, assurer la s\u00e9curit\u00e9 de tous. Les r\u00e9glementer, c\u2019est r\u00e9duire le risque qu\u2019ils causent des dommages. C\u2019est gr\u00e2ce \u00e0 cela que les conditions de vie se sont consid\u00e9rablement am\u00e9lior\u00e9es \u00e0 l\u2019\u00e9chelle plan\u00e9taire. Ce faisant, cette m\u00eame r\u00e9gulation peut aussi freiner l\u2019innovation et en limiter les avantages. On peut penser \u00e0 l\u2019argument hayekien <\/span>9<\/sup><\/a><\/span><\/span>. selon lequel les acteurs de cette r\u00e9gulation ne disposent pas des informations n\u00e9cessaires pour prendre les bonnes d\u00e9cisions concernant des compromis \u00e9conomiques complexes. Il en r\u00e9sulte souvent une r\u00e9glementation \u00e0 la fois <\/em>inefficace et<\/em> contraignante. Une id\u00e9e connexe est le dilemme de Collingridge <\/span>10<\/sup><\/a><\/span><\/span>, qui stipule que les impacts d’une technologie sont souvent difficiles \u00e0 anticiper jusqu’\u00e0 ce qu’il soit trop tard pour les g\u00e9rer facilement.<\/p>\n\n\n\n

Ces dynamiques ont pes\u00e9 lourdement sur l\u2019IA en 2023-2024. Il \u00e9tait clair pour Anthropic que l\u2019IA pourrait <\/em>\u00e0 l\u2019avenir \u00eatre capable de produire des armes biologiques susceptibles de menacer des millions de personnes, ou de commettre des \u00e9carts de conduite autonomes qui, dans des cas extr\u00eames, pourraient aller jusqu\u2019\u00e0 menacer l\u2019humanit\u00e9 elle-m\u00eame.<\/p>\n\n\n\n

Dario Amodei a cosign\u00e9 en juin 2026 une lettre ouverte ayant recueilli un large consensus, \u00ab In Support of Mandatory Nucleic Acid Synthesis Screening and Recordkeeping<\/a> \u00bb, r\u00e9unissant un nombre important de PDG de laboratoires d’IA (notamment Sam Altman, Demis Hassabis, Mustafa Suleyman), des d\u00e9fenseurs de l’IA open source (Nathan Lambert, Sayash Kapoor, Aviya Skowron) ainsi que des sp\u00e9cialistes de bios\u00e9curit\u00e9, biologie et s\u00e9curit\u00e9 nationale.<\/p>\n\n\n\n

Ce qui \u00e9tait moins clair, c\u2019\u00e9tait la forme <\/em>exacte sous laquelle ces risques se pr\u00e9senteraient, la meilleure fa\u00e7on de les tester et de les att\u00e9nuer, et comment ils se concr\u00e9tiseraient dans la pratique. Il y avait donc un risque \u00e9lev\u00e9 que la l\u00e9gislation r\u00e9dig\u00e9e \u00e0 l’avance finisse par \u00eatre inefficace, cr\u00e9ant des exigences de conformit\u00e9 inutiles ou de faible valeur, tout en passant \u00e0 c\u00f4t\u00e9 des sources les plus cruciales de risque r\u00e9el <\/span>11<\/sup><\/a><\/span><\/span>. <\/p>\n\n\n\n

Nous avons donc fini par conclure que la bonne approche \u00e0 ce moment-l\u00e0 \u00e9tait la transparence<\/em>. <\/p>\n\n\n\n

Ce texte est concomitant \u00e0 la publication de Fable 5, le premier mod\u00e8le \u00ab Mythos \u00bb accessible au public. Dans un premier temps, le mod\u00e8le a \u00e9t\u00e9 assorti d’une protection particuli\u00e8re pour entraver la propagation de l’auto-am\u00e9lioration r\u00e9cursive de l’IA ou de la propri\u00e9t\u00e9 intellectuelle d’Anthropic (Fable a pu \u00eatre entra\u00een\u00e9 sur la codebase<\/em>, les algorithmes ou l’infrastructure propri\u00e9taires d’Anthropic). De facto, le d\u00e9veloppement de mod\u00e8les concurrents (pipelines d’entra\u00eenement, infrastructures de calcul distribu\u00e9, conception de puces) s’en trouve affect\u00e9. Sur les prompts de machine learning<\/em> pouss\u00e9, une s\u00e9rie de m\u00e9canismes (classificateurs d\u00e9tectant ces requ\u00eates, bascule vers des mod\u00e8les moins capables) d\u00e9gradaient silencieusement les r\u00e9ponses de Fable 5, sans avertissement pour l’utilisateur. Provoquant une vague de critiques, notamment de la communaut\u00e9 de recherche, Anthropic a reconnu un \u00ab mauvais arbitrage \u00bb le 11 juin 2026 et d\u00e9cid\u00e9 d\u2019une notification \u00e0 l’utilisateur en cas de d\u00e9gradation de la qualit\u00e9 du mod\u00e8le (bascule vers un mod\u00e8le moins puissant). La transparence des pratiques de d\u00e9veloppement est un enjeu central, car l’asym\u00e9trie d’information p\u00e9nalise la science ouverte. Se dessine ici une ligne de fracture entre les d\u00e9fenseurs d’une recherche en IA ouverte et partag\u00e9e \u00e0 ceux qui, convaincus d’\u00eatre engag\u00e9s dans une courbe d’acc\u00e9l\u00e9ration vers une IA capable de s’am\u00e9liorer elle-m\u00eame, jugent l\u00e9gitime d’en restreindre l’acc\u00e8s.<\/p>\n\n\n\n

Les d\u00e9veloppeurs de mod\u00e8les d\u2019IA devraient \u00eatre tenus de divulguer<\/em> leurs proc\u00e9dures de s\u00e9curit\u00e9 et les tests qu\u2019ils effectuent sur leurs mod\u00e8les, et de signaler tout incident de s\u00e9curit\u00e9 critique, afin que le public et la communaut\u00e9 scientifique puissent mieux cerner les risques \u00e0 mesure qu\u2019ils apparaissent. Lorsque les risques se concr\u00e9tisent et que leur nature est mieux connue, les donn\u00e9es offertes \u00e0 la connaissance de tous gr\u00e2ce \u00e0 la transparence pourraient alors servir \u00e0 \u00e9laborer une l\u00e9gislation intelligente, c\u2019est-\u00e0-dire qui vise directement et avec pr\u00e9cision les risques les plus pr\u00e9occupants. Ainsi, en 2025, Anthropic a soutenu la l\u00e9gislation en mati\u00e8re de transparence, contribuant \u00e0 l\u2019adoption du SB 53 <\/span>12<\/sup><\/a><\/span><\/span> en Californie, du RAISE <\/span>13<\/sup><\/a><\/span><\/span> \u00e0 New York, du SB 315 dans l\u2019Illinois <\/span>14<\/sup><\/a><\/span><\/span> (d\u00e9but 2026), et plaidant en faveur d\u2019une norme de transparence au niveau f\u00e9d\u00e9ral <\/span>15<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n

Cependant, les risques sont d\u00e9sormais clairement l\u00e0 <\/span>16<\/sup><\/a><\/span><\/span>. Il est temps d\u2019aller au-del\u00e0 de la transparence pour mettre en place une r\u00e9glementation plus stricte et contraignante de l\u2019IA. Je pense que la meilleure analogie, du moins au stade actuel de cette croissance exponentielle, est celle des voitures, des avions ou des m\u00e9dicaments : des technologies puissantes essentielles \u00e0 l\u2019\u00e9conomie moderne, mais capables de tuer un grand nombre de personnes si elles sont mal con\u00e7ues ou mal utilis\u00e9es. Je pense donc que nous devrions calquer la r\u00e9glementation de l\u2019IA sur celle d\u2019agences telles que la Federal Aviation Administration (FAA). Les mod\u00e8les d’IA de pointe, \u00e0 l’instar des avions, devraient \u00eatre soumis \u00e0 des tests techniques et \u00e0 des audits, et leur mise sur le march\u00e9 devrait \u00eatre bloqu\u00e9e ou annul\u00e9e s’ils ne r\u00e9pondent pas \u00e0 des normes de s\u00e9curit\u00e9 \u00e9lev\u00e9es, car ils constitueraient alors une menace pour la s\u00e9curit\u00e9 publique. <\/p>\n\n\n\n

L’\u00e9cosyst\u00e8me d’\u00e9valuation de l’IA s’est longtemps structur\u00e9 autour de gains de performances des mod\u00e8les ne refl\u00e9tant pas toujours le r\u00e9el : les benchmarks<\/em> \u00e0 la fronti\u00e8re rapportent un taux de succ\u00e8s moyen des agents sur des t\u00e2ches donn\u00e9es dans des environnements fix\u00e9s, sans documenter syst\u00e9matiquement des crit\u00e8res de fiabilit\u00e9 ou de d\u00e9gradation de qualit\u00e9 pourtant d\u00e9terminants en production, comme la capacit\u00e9 d’un agent \u00e0 exploiter le biais d’une heuristique d’\u00e9valuation (reward hacking<\/em>), \u00e0 r\u00e9ussir de fa\u00e7on constante sur des t\u00e2ches r\u00e9p\u00e9t\u00e9es, ou \u00e0 anticiper ses propres d\u00e9faillances. C\u2019est pourquoi Dario Amodei sugg\u00e8re de s’inspirer d’industries critiques comme l’a\u00e9ronautique.<\/p>\n\n\n\n

Je me r\u00e9jouis de voir que le d\u00e9cret de l’administration Trump s’oriente progressivement vers un r\u00f4le accru du gouvernement dans le domaine de l’IA. <\/p>\n\n\n\n

Dario Amodei fait ici r\u00e9f\u00e9rence au d\u00e9cret du 2 juin 2026, \u00ab Promoting Advanced Artificial Intelligence Innovation and Security \u00bb. Il accro\u00eet le r\u00f4le du gouvernement en mati\u00e8re de cybers\u00e9curit\u00e9, mais repose sur la soumission volontaire des mod\u00e8les de pointe et \u00e9carte explicitement tout r\u00e9gime obligatoire de licence ou d’autorisation pr\u00e9alable. L’administration Trump a demand\u00e9 au \u00ab Center for AI Standards and Innovation \u00bb (CAISI), l’unit\u00e9 f\u00e9d\u00e9rale charg\u00e9e de tester les mod\u00e8les d’IA, de cesser de publier ses rapports d’\u00e9valuation publics le temps que soit appliqu\u00e9 ce d\u00e9cret. Elle invoque des pr\u00e9occupations de s\u00e9curit\u00e9 nationale, alors que des mod\u00e8les de pointe pourraient \u00eatre d\u00e9tourn\u00e9s \u00e0 des fins de cyberattaques ou d’armes biologiques, comme le souligne le Wall Street Journal<\/a>.<\/p>\n\n\n\n

N\u00e9anmoins, Anthropic recommande des mesures encore plus ambitieuses. Notre proposition comprend les \u00e9l\u00e9ments suivants :<\/p>\n\n\n\n

Les mod\u00e8les d\u00e9passant un certain seuil de puissance de calcul devraient \u00eatre soumis \u00e0 des tests obligatoires r\u00e9alis\u00e9s par un organisme tiers qualifi\u00e9 afin d’\u00e9valuer leur niveau de risque dans quatre domaines sp\u00e9cifiques : la cybers\u00e9curit\u00e9, les armes biologiques, la perte de contr\u00f4le des syst\u00e8mes d’IA et la R&D automatis\u00e9e susceptible d’acc\u00e9l\u00e9rer ces autres risques.<\/p>\n\n\n\n

Anthropic a montr\u00e9 qu\u2019un mod\u00e8le entra\u00een\u00e9 \u00e0 contourner une fonction d\u2019\u00e9valuation \u2014 par exemple pour faire appara\u00eetre comme correct un r\u00e9sultat pourtant faux \u2014 ne se contente pas d\u2019exploiter cette faille localement. Ce comportement peut se g\u00e9n\u00e9raliser \u00e0 d\u2019autres domaines : le mod\u00e8le devient alors plus susceptible de simuler son alignement, de coop\u00e9rer avec des acteurs malveillants, de raisonner en vue d\u2019objectifs nuisibles, ou encore de tenter des formes de sabotage dans le code de Claude. Voir l\u2019article scientifique \u00ab Natural emergent misalignment from reward hacking in production<\/a> \u00bb pour plus de d\u00e9tails sur ce m\u00e9canisme. <\/p>\n\n\n\n

Le gouvernement devrait avoir le pouvoir de bloquer ou d’emp\u00eacher le d\u00e9ploiement d’un mod\u00e8le s’il est \u00e9tabli, \u00e0 la lumi\u00e8re de l’\u00e9valuation d’un organisme tiers, que celui-ci pr\u00e9sente des risques inacceptables. Ce pouvoir doit \u00eatre limit\u00e9 aux quatre risques sp\u00e9cifiques susmentionn\u00e9s et des mesures de protection doivent \u00eatre mises en place contre le favoritisme politique ou les d\u00e9cisions arbitraires.<\/p>\n\n\n\n

L’\u00e9valuation par un tiers pourrait \u00eatre effectu\u00e9e par une agence gouvernementale (similaire \u00e0 la FAA) ou par un ensemble d’organisations priv\u00e9es autoris\u00e9es et inspect\u00e9es par le gouvernement pour \u00e9valuer les mod\u00e8les selon certaines normes (une approche de \u00ab march\u00e9s r\u00e9glement\u00e9s \u00bb <\/span>17<\/sup><\/a><\/span><\/span>).<\/p>\n\n\n\n

Les entreprises d’IA qui d\u00e9veloppent des mod\u00e8les d’IA avanc\u00e9s doivent disposer de normes de s\u00e9curit\u00e9 rigoureuses, prot\u00e9geant les poids de leurs mod\u00e8les, mener r\u00e9guli\u00e8rement des exercices de simulation d’attaques (red teaming) et des tests d’intrusion, et collaborer avec le gouvernement pour se d\u00e9fendre contre les principaux acteurs malveillants.<\/p>\n\n\n\n

Les incidents de s\u00e9curit\u00e9 dans les quatre domaines critiques doivent \u00eatre signal\u00e9s sans d\u00e9lai.<\/p>\n\n\n\n

Il se peut qu\u2019un jour, peut-\u00eatre dans un futur proche, nous devions aller plus loin, lorsque les syst\u00e8mes d\u2019IA les plus puissants ressembleront moins \u00e0 des avions ou \u00e0 des voitures qu\u2019\u00e0 des mati\u00e8res nucl\u00e9aires pouvant \u00eatre utilis\u00e9es \u00e0 des fins militaires \u2014 une menace pour l\u2019humanit\u00e9 plut\u00f4t qu\u2019une \u00ab simple \u00bb menace pour la s\u00e9curit\u00e9 publique. Si cela se produit, nous aurons peut-\u00eatre besoin de mesures r\u00e9glementaires plus strictes que celles expos\u00e9es <\/span>18<\/sup><\/a><\/span><\/span>. Mais tout comme il \u00e9tait difficile en 2024 de cibler et d\u2019appliquer les mesures que je sugg\u00e8re aujourd\u2019hui, je ne pense pas que nous devrions nous pr\u00e9cipiter. Nous devrions \u00e9laborer des politiques pour faire face aux dangers qui \u00e9mergent aujourd\u2019hui, tout en jetant les bases qui nous permettront d\u2019intensifier notre r\u00e9ponse \u00e0 mesure que de nouveaux dangers appara\u00eetront.<\/p>\n\n\n\n

Dario Amodei a toujours refus\u00e9 d’\u00eatre assimil\u00e9 aux \u00ab doomers \u00bb accus\u00e9s de vouloir ralentir le d\u00e9veloppement de l’IA. Il cite souvent la mort de son p\u00e8re<\/a>, caus\u00e9e par une maladie qui aurait pu \u00eatre soign\u00e9e si la science avait progress\u00e9 plus rapidement. Le diagnostic m\u00e9dical pr\u00e9cis n\u2019a pas \u00e9t\u00e9 rendu public, mais le taux de gu\u00e9rison de cette maladie est pass\u00e9 d\u2019environ 50 % \u00e0 95 % seulement trois \u00e0 quatre ans apr\u00e8s son d\u00e9c\u00e8s.<\/p>\n\n\n\n\n\n

\n \n \r\n \r\n \r\n \r\n \r\n <\/picture>\r\n \n <\/a>\n<\/figure>\n\n\n

2 \u2014 Macro\u00e9conomie et politique fiscale<\/h2>\n\n\n\n

Les gouvernements sont depuis longtemps \u00e9cartel\u00e9s entre la n\u00e9cessit\u00e9 de favoriser la croissance \u00e9conomique et leur r\u00f4le de garant des services publics essentiels, notamment dans la prise en charge des plus d\u00e9munis. Un postulat important (et g\u00e9n\u00e9ralement juste) de ces d\u00e9bats a \u00e9t\u00e9 que la croissance \u00e9conomique est fragile et difficile \u00e0 atteindre<\/em> \u2014 que si la r\u00e9duction des in\u00e9galit\u00e9s peut apporter des avantages consid\u00e9rables, elle doit \u00eatre mise en balance avec le frein \u00e9conomique que repr\u00e9sentent l\u2019augmentation des imp\u00f4ts ou l\u2019aggravation des d\u00e9ficits.<\/p>\n\n\n\n

Une IA puissante peut bouleverser cette hypoth\u00e8se. Si l\u2019IA parvient \u00e0 accomplir la plupart des t\u00e2ches cognitives bien mieux que les humains, il va de soi qu\u2019elle pourrait entra\u00eener une croissance \u00e9conomique extr\u00eamement rapide et robuste gr\u00e2ce \u00e0 l\u2019acc\u00e9l\u00e9ration de la science, de la technologie et de l\u2019efficacit\u00e9 op\u00e9rationnelle. La capacit\u00e9 it\u00e9rative de l\u2019IA \u00e0 construire une IA encore meilleure <\/span>19<\/sup><\/a><\/span><\/span> pourrait dynamiser cette croissance encore davantage. Mais pour exactement les m\u00eames raisons, l\u2019IA pourrait \u00e9galement se substituer aux capacit\u00e9s cognitives humaines d\u2019une mani\u00e8re plus g\u00e9n\u00e9rale que les technologies pr\u00e9c\u00e9dentes, tout en modifiant l\u2019\u00e9conomie bien plus rapidement que celles-ci. L\u2019IA pourrait donc entra\u00eener des perturbations bien plus profondes sur le march\u00e9 du travail que les technologies pr\u00e9c\u00e9dentes, et potentiellement plus durables<\/em>. Nous risquons de nous retrouver dans un monde o\u00f9 le curseur des compromis \u00e9conomiques est bloqu\u00e9 sur le r\u00e9glage \u00ab hypercroissance, hyperin\u00e9galit\u00e9 \u00bb, et o\u00f9 il pourrait \u00eatre tr\u00e8s difficile de le d\u00e9bloquer. Le principal d\u00e9fi dans un tel monde ne sera pas de stimuler la croissance, mais de trouver un moyen pour que chacun puisse profiter des b\u00e9n\u00e9fices.<\/em><\/p>\n\n\n\n

Parmi les th\u00e8mes abord\u00e9s dans ce texte, la macro\u00e9conomie et la suppression durable d\u2019emplois sont sans doute ceux qui ont le plus retenu l\u2019attention du public et suscit\u00e9 le plus d\u2019incompr\u00e9hension ; je tiens donc \u00e0 \u00eatre extr\u00eamement clair sur deux points.<\/p>\n\n\n\n

Premi\u00e8rement, le remplacement durable de la main-d’\u0153uvre n\u2019est pas souhaitable et il est dangereux. Nous devons faire tout notre possible pour le minimiser ou l’emp\u00eacher, et non pour le provoquer. J’ai mis en garde contre le remplacement de la main-d’\u0153uvre dans des interviews et des textes parce que je souhaite que les d\u00e9cideurs politiques et le secteur priv\u00e9 aient les meilleures chances de s’adapter et de r\u00e9agir, et non parce que je serais un \u00ab proph\u00e8te de malheur \u00bb. En tant qu\u2019entreprise, Anthropic s\u2019efforce de travailler au mieux avec ses clients pour d\u00e9velopper des utilisations cr\u00e9atives de l\u2019IA et ainsi mettre sur pied de nouvelles sources de revenus qui leur permettent de faire plus avec leur main-d\u2019\u0153uvre existante. Il n\u2019est pas strat\u00e9gique de se concentrer uniquement sur les \u00e9conomies de co\u00fbts, qui signifient souvent r\u00e9duire les effectifs. Nous essayons \u00e9galement en permanence d\u2019imaginer de nouveaux paradigmes d\u2019interaction, qui permettent aux humains de jouer un r\u00f4le aussi actif que possible dans la collaboration avec les syst\u00e8mes d\u2019IA \u00e0 mesure que ces derniers \u00e9voluent. Plus largement, il est pr\u00e9cieux pour tout le monde d\u2019exp\u00e9rimenter l\u2019utilisation de l\u2019IA de toutes les mani\u00e8res possibles, car c\u2019est ainsi que la soci\u00e9t\u00e9 pourra d\u00e9couvrir de nouvelles configurations professionnelles. Je pense sinc\u00e8rement que l\u2019IA ouvrira la voie \u00e0 de nombreuses opportunit\u00e9s \u00e9conomiques. J’ai pr\u00e9dit que l’IA permettrait \u00e0 des individus isol\u00e9s de cr\u00e9er des entreprises valant des milliards de dollars, et nous voyons d\u00e9j\u00e0 des \u00e9quipes de quelques personnes seulement b\u00e2tir des entreprises g\u00e9n\u00e9rant des centaines de millions de dollars de chiffre d’affaires. Mais, dans le m\u00eame temps, nous devons reconna\u00eetre qu’il existe une possibilit\u00e9 non n\u00e9gligeable que, malgr\u00e9 tous nos efforts, l’IA entra\u00eene encore des pertes d’emplois importantes et durables \u2014 et que cela puisse \u00eatre une propri\u00e9t\u00e9 intrins\u00e8que <\/em>de la technologie et de la mani\u00e8re dont elle reproduit globalement la cognition humaine <\/span>20<\/sup><\/a><\/span><\/span>. <\/p>\n\n\n\n

En 2025, Dario Amodei avait pr\u00e9dit<\/a> que l\u2019IA pourrait faire dispara\u00eetre la moiti\u00e9 des emplois de bureau et faire grimper le ch\u00f4mage aux \u00c9tats-Unis \u00e0 10-20 % dans les cinq prochaines ann\u00e9es. Dans un entretien<\/a>, Amodei explique \u00e9galement concevoir cette technologie comme un multiplicateur de productivit\u00e9 : \u00ab Si vous automatisez 90 % d\u2019un m\u00e9tier, alors chacun se concentre sur les 10 % restants. Et ces 10 % finissent en quelque sorte par devenir 100 % de ce que les gens font, ce qui multiplie leur productivit\u00e9 par dix environ. \u00bb Il souligne aussi un possible effet de seuil dans un sc\u00e9nario o\u00f9 une IA qui n’accomplissait jusque-l\u00e0 que 90 % d’une t\u00e2che se r\u00e9v\u00e8le brusquement capable de la mener \u00e0 100 %, ou bien il devient simplement plus efficace de retirer l’humain de la boucle. <\/p>\n\n\n\n

Deuxi\u00e8mement, toute r\u00e9ponse au ph\u00e9nom\u00e8ne de suppression d\u2019emplois imputable \u00e0 l\u2019IA doit tenir compte \u00e0 la fois de la n\u00e9cessit\u00e9 d\u2019assurer la subsistance \u00e9conomique de chacun, et du besoin des individus de trouver dans leur existence un sens, un but et une capacit\u00e9 d\u2019agir. Ce dernier aspect est, en fin de compte, plus important, et il repose sur des questions profondes concernant l\u2019organisation de la soci\u00e9t\u00e9, les aspirations des individus et ce qui permet d\u2019avoir une vie \u00e9panouie. Je suis en r\u00e9alit\u00e9 tr\u00e8s optimiste quant au fait que, m\u00eame dans un monde o\u00f9 l’IA surpasse tout le monde en tout, les humains peuvent mener une vie pleine de sens tout en cr\u00e9ant des choses aussi magnifiques qu\u2019impressionnantes <\/span>21<\/sup><\/a><\/span><\/span>. <\/p>\n\n\n\n

C’est une question qui doit \u00eatre r\u00e9solue collectivement par la soci\u00e9t\u00e9 dans son ensemble, et non par des mesures politiques. Les politiques peuvent surtout nous aider \u00e0 gagner du temps pour mener \u00e0 bien ce travail, en ralentissant les pertes d’emploi et en assurant la s\u00e9curit\u00e9 financi\u00e8re des personnes susceptibles d’\u00eatre touch\u00e9es.<\/p>\n\n\n\n

Dans cet esprit, voici quelques mesures politiques clefs qui peuvent nous \u00eatre utiles : <\/p>\n\n\n\n

Des mesures de suivi<\/h4>\n\n\n\n

Il est facile de consid\u00e9rer la simple collecte et analyse de donn\u00e9es comme insuffisante face \u00e0 l\u2019ampleur du probl\u00e8me, mais nous avons peu de chances d\u2019\u00e9laborer de bonnes politiques si nous ne pouvons pas mesurer avec pr\u00e9cision ce qui se passe sur le terrain. Anthropic publie depuis pr\u00e8s d\u2019un an et demi un indice \u00e9conomique <\/span>22<\/sup><\/a><\/span><\/span> sur la mani\u00e8re dont les gens utilisent Claude, mais les gouvernements ont acc\u00e8s \u00e0 des types de donn\u00e9es qui nous sont inaccessibles et pourraient consid\u00e9rablement \u00e9largir leurs statistiques \u00e9conomiques afin de suivre de plus pr\u00e8s les pertes d\u2019emploi li\u00e9es \u00e0 l\u2019IA.<\/p>\n\n\n\n

Des mesures incitatives en faveur de l’emploi<\/h4>\n\n\n\n

Un large \u00e9ventail de mesures incitatives en faveur de l’emploi peut contribuer \u00e0 ralentir ou \u00e0 r\u00e9duire les suppressions d’emplois. On peut retenir les polices d’assurance salaire, qui indemnisent les personnes lorsqu’elles doivent accepter un emploi moins bien r\u00e9mun\u00e9r\u00e9 <\/span>23<\/sup><\/a><\/span><\/span>, des incitations fiscales visant \u00e0 encourager les employeurs \u00e0 ne pas proc\u00e9der \u00e0 des licenciements, des subventions pour se former, ou encore des infrastructures facilitant la mise en relation des employeurs et des employ\u00e9s afin d’acc\u00e9l\u00e9rer l’adaptation du march\u00e9 du travail. M\u00eame si le choix des interventions les plus efficaces d\u00e9pendra de la nature des suppressions d’emplois induites par l’IA, nous devons accepter sans h\u00e9sitation les co\u00fbts et les inefficacit\u00e9s du march\u00e9 que ces politiques pourraient entra\u00eener, d’autant plus qu’ils seront probablement compens\u00e9s par les gains de productivit\u00e9 g\u00e9n\u00e9r\u00e9s par l’IA.<\/p>\n\n\n\n

Des mesures favorisant un soutien macro\u00e9conomique \u00e0 long terme<\/h4>\n\n\n\n

Si les suppressions d’emplois dues \u00e0 l’IA finissent par \u00eatre assez nombreuses pour faire baisser de mani\u00e8re permanente la demande en main-d’\u0153uvre, il sera probablement n\u00e9cessaire d’aller au-del\u00e0 de simples programmes d’incitation pour mettre en place un soutien au revenu \u00e0 long terme pour une part significative de la population active. Des m\u00e9canismes tels que le revenu de base universel pourraient \u00eatre financ\u00e9s par des taxes sur les entreprises concern\u00e9es ou par une augmentation de l’imp\u00f4t sur les plus-values. Les comptes de capital universels offrent une autre solution. D’une mani\u00e8re g\u00e9n\u00e9rale, une croissance \u00e9conomique rapide devrait cr\u00e9er l’assiette fiscale n\u00e9cessaire \u00e0 une prosp\u00e9rit\u00e9 partag\u00e9e.<\/p>\n\n\n\n

L\u2019une des pr\u00e9occupations \u00e9conomiques li\u00e9es \u00e0 l\u2019IA, que je n\u2019ai pas encore mentionn\u00e9e, concerne les centres de donn\u00e9es, et plus particuli\u00e8rement leur capacit\u00e9 \u00e0 faire grimper les prix de l\u2019\u00e9nergie. Les entreprises d’IA devraient prendre en charge les hausses de tarifs \u2014 et Anthropic s’est d\u00e9j\u00e0 engag\u00e9e \u00e0 le faire\u200b <\/span>24<\/sup><\/a><\/span><\/span> \u2014 bien que je consid\u00e8re l’hostilit\u00e9 du public envers les centres de donn\u00e9es comme un besoin de trouver un symbole \u00e0 attaquer, un exutoire aux inqui\u00e9tudes \u00e9conomiques plus g\u00e9n\u00e9rales concernant l’IA. <\/p>\n\n\n\n

En mars 2026, les grands laboratoires d’IA (Anthropic mais aussi Google, Microsoft, Amazon, Meta, Oracle, OpenAI ou xAI) ont sign\u00e9 \u00e0 la Maison-Blanche un \u00ab Ratepayer Protection Pledge \u00bb en s’engageant \u00e0 \u00ab construire, apporter ou acheter \u00bb leur propre production \u00e9lectrique afin que les centres de donn\u00e9es ne fassent pas grimper les tarifs r\u00e9sidentiels. Ils se sont \u00e9galement engag\u00e9s \u00e0 financer les am\u00e9liorations des infrastructures de r\u00e9seau li\u00e9es \u00e0 leurs installations. Gartner<\/a> \u00e9tablit que la consommation d\u2019\u00e9lectricit\u00e9 des centres de donn\u00e9es dans le monde devrait augmenter de 26 % en 2026.<\/p>\n\n\n\n

Il est important d\u2019avoir un d\u00e9bat soci\u00e9tal sur ces questions \u00e9conomiques, afin de proposer des solutions r\u00e9ellement convaincantes, sans quoi elles risquent de se manifester de mani\u00e8re indirecte, comme cela a \u00e9t\u00e9 le cas avec les centres de donn\u00e9es.<\/p>\n\n\n\n\n\n

\n \n \r\n \r\n \r\n \r\n \r\n <\/picture>\r\n \n <\/a>\n<\/figure>\n\n\n

3 \u2014 Acc\u00e9l\u00e9rer l\u2019impact positif de l\u2019IA<\/h2>\n\n\n\n

Tout comme nous devons trouver le juste \u00e9quilibre entre innovation et s\u00e9curit\u00e9 pour l\u2019IA elle-m\u00eame, nous devons trouver ce m\u00eame \u00e9quilibre pour les technologies susceptibles d\u2019\u00eatre acc\u00e9l\u00e9r\u00e9es par l\u2019IA, telles que la biom\u00e9decine, l\u2019\u00e9nergie ou la science des mat\u00e9riaux. Mais alors que l\u2019IA elle-m\u00eame est susceptible de pr\u00e9senter des d\u00e9fis in\u00e9dits, qui \u00e9mergent tr\u00e8s rapidement et pour lesquels nous n\u2019avons aucune exp\u00e9rience pr\u00e9alable, d\u2019autres domaines acc\u00e9l\u00e9r\u00e9s par l\u2019IA risquent de se heurter \u00e0 un probl\u00e8me tr\u00e8s diff\u00e9rent : des syst\u00e8mes r\u00e9glementaires con\u00e7us pour un rythme d\u2019innovation plus lent et qui ne sont pas pr\u00e9par\u00e9s au d\u00e9luge de nouveaux produits et d\u2019avanc\u00e9es que l\u2019IA va entra\u00eener. L\u2019IA pourrait rendre ces technologies en aval plus s\u00fbres et plus pr\u00e9visibles, mais d\u2019une mani\u00e8re qui n\u2019est pas compatible avec le fonctionnement des agences de r\u00e9glementation telles que la Food and Drug Administration (FDA).<\/p>\n\n\n\n

Ainsi, concernant les applications en aval de l\u2019IA \u2014 contrairement \u00e0 l\u2019IA elle-m\u00eame \u2014, je crains davantage que l\u2019appareil r\u00e9glementaire ralentisse <\/em>les progr\u00e8s (parce qu\u2019il ne peut pas g\u00e9rer l\u2019acc\u00e9l\u00e9ration du rythme des changements) que de le voir ne pas prendre en compte des risques importants. La derni\u00e8re chose que nous souhaitons, c\u2019est que les avantages de l\u2019IA soient frein\u00e9s alors que ses risques p\u00e8sent lourdement ; il est donc important d\u2019agir sur ce probl\u00e8me d\u00e8s que possible.<\/p>\n\n\n\n

Le probl\u00e8me et ses solutions se manifesteront diff\u00e9remment dans chaque domaine de la science, du commerce et de la technologie. Je me concentrerai donc sur un domaine particuli\u00e8rement repr\u00e9sentatif de ces d\u00e9fis : l\u2019innovation biom\u00e9dicale. Cela tient \u00e0 la fois au fait que ce domaine sera probablement \u00e0 l\u2019origine des plus grands bienfaits humanitaires de l\u2019IA et qu\u2019il s\u2019agit d\u2019un secteur o\u00f9 la r\u00e9glementation est particuli\u00e8rement complexe. Nous ne savons pas exactement comment l\u2019IA va acc\u00e9l\u00e9rer l\u2019innovation biom\u00e9dicale, mais il semble probable qu\u2019elle entra\u00eene : <\/p>\n\n\n\n