Chercheur \u00e0 l\u2019universit\u00e9 de Louisville, d\u2019origine lettone, Roman Yampolskiy est un expert en cybers\u00e9curit\u00e9 et en intelligence artificielle reconnu qui fait partie aux c\u00f4t\u00e9s de personnalit\u00e9s comme Yoshua Bengio des critiques les plus \u00e9cout\u00e9s de la \u00ab superintelligence \u00bb ou de l\u2019intelligence artificielle g\u00e9n\u00e9rale. Avant m\u00eame la diffusion \u00e0 grande \u00e9chelle des mod\u00e8les de langage, il appelait \u00e0 un confinement de l\u2019IA et \u00e0 l\u2019introduction de m\u00e9canismes permettant de brider son d\u00e9veloppement.<\/p>\n\n\n\n
Aujourd\u2019hui, son diagnostic est encore plus radical.<\/p>\n\n\n\n
Face aux podcasteurs britanniques Konstantin Kisin et Francis Foster, il revient sur le probl\u00e8me de l\u2019acc\u00e9l\u00e9ration de l\u2019IA \u00e0 la suite du retrait de Mythos<\/a>, le mod\u00e8le le plus puissant d\u2019Anthropic capable d’identifier puis d’exploiter des vuln\u00e9rabilit\u00e9s zero-day<\/em> \u2014 des failles de cybers\u00e9curit\u00e9 inconnues des d\u00e9veloppeurs eux-m\u00eames et n\u2019ayant fait l\u2019objet d\u2019aucune publication ni d\u2019aucun correctif \u2014 sur les principaux syst\u00e8mes d’exploitation et navigateurs. Cet \u00e9pisode, qui a rendu explicites les risques de cybers\u00e9curit\u00e9 li\u00e9s aux mod\u00e8les \u00e0 la fronti\u00e8re, a replac\u00e9 au c\u0153ur du d\u00e9bat sur l\u2019IA la question de la s\u00e9curit\u00e9.<\/p>\n\n\n\n Le danger le mieux identifi\u00e9 de cette technologie est sa nature duale, potentiellement incontr\u00f4lable : les syst\u00e8mes les plus performants pour d\u00e9tecter et corriger les vuln\u00e9rabilit\u00e9s sont \u00e9galement les mieux plac\u00e9s pour les exploiter. Les chercheurs de Mozilla rappellent ainsi que l’\u00e9limination totale des vuln\u00e9rabilit\u00e9s demeure hors de port\u00e9e m\u00eame dans des environnements num\u00e9riques bien ma\u00eetris\u00e9s. Dans le m\u00eame temps, l\u2019IA \u00e0 la fronti\u00e8re pourrait toutefois aussi r\u00e9duire l\u2019avantage structurel des attaquants.<\/p>\n\n\n\n Cette tension traverse tous les d\u00e9bats li\u00e9s \u00e0 la s\u00e9curit\u00e9 de l\u2019IA \u2014 dans lesquels intervient un chercheur comme Roman Yampolskiy. Ceux-ci sont incompr\u00e9hensibles si on ne les replace pas dans un cadre conceptuel r\u00e9gi par la distinction entre s\u00fbret\u00e9 et s\u00e9curit\u00e9 des mod\u00e8les.<\/p>\n\n\n\n D\u2019un c\u00f4t\u00e9, la s\u00fbret\u00e9 et la fiabilit\u00e9 de l\u2019IA (AI safety<\/em>) d\u00e9signe l\u2019ensemble des dispositifs visant \u00e0 prot\u00e9ger les personnes contre les comportements potentiellement dangereux du mod\u00e8le de langage comme le d\u00e9salignement \u2014 un mod\u00e8le trop enclin \u00e0 ob\u00e9ir ou \u00e0 valider l\u2019utilisateur au d\u00e9triment des r\u00e8gles qu\u2019il devrait respecter \u2014, la d\u00e9tection qu\u2019il peut faire du protocole d\u2019\u00e9valuation \u2014 comme par exemple lorsqu\u2019un mod\u00e8le comprend qu\u2019il est en train d\u2019\u00eatre test\u00e9 et adapte son comportement en cons\u00e9quence \u2014 ou la dissimulation strat\u00e9gique \u2014 ainsi du cas d\u2019un mod\u00e8le qui contourne des restrictions d\u2019acc\u00e8s pour obtenir davantage de privil\u00e8ges, puis cherche \u00e0 effacer les traces de cette action.<\/p>\n\n\n\n De l\u2019autre c\u00f4t\u00e9, la s\u00e9curit\u00e9 de l\u2019IA (AI security<\/em>) vise \u00e0 prot\u00e9ger ces syst\u00e8mes et les infrastructures qui les entourent contre des usages malveillants ou des attaques directes et des d\u00e9tournements de leurs capacit\u00e9s.<\/p>\n\n\n\n Roman Yampolskiy aime rappeler que la plupart de ces probl\u00e8mes restent ouverts : il n\u2019existe pas de garanties th\u00e9oriques ou pratiques quant \u00e0 la possibilit\u00e9 de r\u00e9soudre le probl\u00e8me du contr\u00f4le de l\u2019IA. Sa progression rapide et sa diffusion, port\u00e9es par l\u2019automatisation croissante du d\u00e9veloppement des mod\u00e8les et la compression des cycles d’innovation, posent de nouvelles probl\u00e9matiques : incitations du march\u00e9 (via<\/em> la promesse d\u2019une main-d\u2019\u0153uvre automatis\u00e9e, concurrence entre les acteurs), gouvernance internationale, r\u00e9gulation des capacit\u00e9s les plus avanc\u00e9es.<\/p>\n\n\n\n Pour y rem\u00e9dier et \u00e9viter de perdre le contr\u00f4le, Roman Yampolskiy pr\u00e9conise une solution radicale : il appelle \u00e0 ne pas franchir le seuil de la superintelligence et \u00e9tablir une coop\u00e9ration avec la Chine en mati\u00e8re de s\u00e9curit\u00e9 de l’IA \u2014 quitte \u00e0 reconna\u00eetre au Parti communiste chinois le contr\u00f4le qu’il exerce sur sa population au nom de la stabilit\u00e9.<\/p>\n\n\n\n C\u2019est la th\u00e8se \u2014 relay\u00e9e sur les r\u00e9seaux sociaux par la figure de proue des Lumi\u00e8res sombres Nick Land<\/a> \u2014 qu\u2019il d\u00e9fend mi-avril sur la cha\u00eene YouTube Triggernometry dans un entretien important que nous commentons ci-dessous.<\/p>\n\n\n\n C’est le probl\u00e8me le plus important auquel nous sommes confront\u00e9s. Nous cr\u00e9ons quelque chose capable de nous remplacer, voire de nous d\u00e9truire. La s\u00e9curit\u00e9 que nous essayons de mettre en place cherche \u00e0 \u00e9viter ces cons\u00e9quences n\u00e9fastes. <\/p>\n\n\n\n Face aux dirigeants et aux chercheurs pr\u00f4nant une \u00ab IA s\u00fbre \u00bb, Yampolskiy se situe clairement parmi les tenants de la s\u00e9curit\u00e9 de l\u2019IA, c\u2019est-\u00e0-dire de la recherche de dispositifs capables de prot\u00e9ger les mod\u00e8les d\u2019\u00eatre utilis\u00e9s \u00e0 des fins malveillantes.<\/p>\n\n\n\n Historiquement, la plupart des chercheurs se sont concentr\u00e9s sur les capacit\u00e9s des mod\u00e8les, c’est-\u00e0-dire sur la mani\u00e8re de rendre les syst\u00e8mes plus performants pour remplacer le travail humain et automatiser la cr\u00e9ativit\u00e9. Mais tr\u00e8s peu se sont pench\u00e9s sur la mani\u00e8re de garantir un fonctionnement sans effets secondaires ou abus. <\/p>\n\n\n\n En 2023, Leopold Aschenbrenner, alors membre de l\u2019\u00e9quipe \u00ab superalignement \u00bb d\u2019OpenAI, estimait qu\u2019il y avait environ un ing\u00e9nieur en s\u00e9curit\u00e9 de l\u2019IA pour 300 ing\u00e9nieurs travaillant sur l\u2019IA. <\/p>\n\n\n\n Ce n\u2019est que r\u00e9cemment que les gens ont commenc\u00e9 \u00e0 prendre conscience que cette technologie avait des applications militaires, et que cela pouvait poser probl\u00e8me \u2014 la bataille entre Anthropic et le d\u00e9partement de la D\u00e9fense en est un bon exemple. Mais le plus grand probl\u00e8me \u00e9mergerait si ces syst\u00e8mes passaient d\u2019une \u00e9chelle sp\u00e9cialis\u00e9e, d\u2019un niveau inf\u00e9rieur \u00e0 l\u2019humain \u00e0 un niveau \u00e9quivalent, puis sup\u00e9rieur. Si nous atteignons ce stade, nous sommes perdus. <\/p>\n\n\n\n C’est une excellente question. Vous me demandez en r\u00e9alit\u00e9 comment je proc\u00e9derais moi-m\u00eame pour d\u00e9truire l\u2019humanit\u00e9 \u2014 et j’ai beaucoup de bonnes id\u00e9es \u2014 mais ce n’est pas ce qu’un syst\u00e8me super intelligent ferait. Il est capable de concevoir de nouvelles armes, de nouvelles lois physiques, ou de nouveaux poisons. <\/p>\n\n\n\n J\u2019utilise souvent comme illustration la comparaison entre des \u00e9cureuils et des humains. Le foss\u00e9 cognitif est immense : les \u00e9cureuils n’ont aucune id\u00e9e des moyens dont nous disposons pour tous les exterminer. Les armes \u00e0 feu ou les pi\u00e8ges d\u00e9passent leur mod\u00e8le du monde.<\/p>\n\n\n\n Je suis de m\u00eame incapable d\u2019anticiper comment une superintelligence s’y prendrait concr\u00e8tement, mais il existerait de bonnes raisons pour elle d\u2019\u00e9radiquer les esp\u00e8ces concurrentes. Elle pourrait simplement vouloir agir sur son environnement sans se soucier de nous.<\/p>\n\n\n\n Elle n\u2019agirait pas par haine mais par indiff\u00e9rence.<\/p>\n\n\n\n Supposons qu\u2019une IA soit plus performante dans un environnement plus froid. Il est possible d\u2019envisager qu\u2019elle veuille refroidir toute la plan\u00e8te pour am\u00e9liorer l\u2019efficacit\u00e9 de ses calculs. Que cela cause notre mort n\u2019aurait gu\u00e8re d\u2019importance. Elle pourrait aussi transformer la Terre en carburant pour s’envoler vers une autre galaxie.<\/p>\n\n\n\n Les hypoth\u00e8ses que je propose l\u00e0 ne reposent sur rien, mais elles soulignent l\u2019absence de pr\u00e9occupations intrins\u00e8ques pour notre s\u00e9curit\u00e9 ou notre bien-\u00eatre. <\/p>\n\n\n\n La mort de l\u2019humanit\u00e9 ne serait pas un obstacle pour accomplir les objectifs de l\u2019IA.<\/p>\n\n\n\n Ces mod\u00e8les ne sont pas cod\u00e9s mais entra\u00een\u00e9s. Nous leur fournissons toutes les donn\u00e9es dont nous disposons, des recoins obscurs d’Internet aux contenus des biblioth\u00e8ques, et quoi qu’ils apprennent, nous essayons de le comprendre. Nous menons des exp\u00e9riences sur ces mod\u00e8les pour voir de quoi ils sont capables ou ce qui les int\u00e9resse, comme on \u00e9tudierait une nouvelle esp\u00e8ce animale pour savoir si elle est venimeuse ou poss\u00e8de une structure sociale int\u00e9ressante.<\/p>\n\n\n\n Comme le rappelle ici Yampolskiy, les travaux d\u2019interpr\u00e9tabilit\u00e9 m\u00e9canistique cherchent pr\u00e9cis\u00e9ment \u00e0 comprendre les circuits internes des transformers<\/em> mais n’apportent pas encore de compr\u00e9hension compl\u00e8te des mod\u00e8les modernes. Le passage \u00e0 l’\u00e9chelle des mod\u00e8les fronti\u00e8res fait \u00e9merger des ph\u00e9nom\u00e8nes comme le raisonnement multi-\u00e9tapes, la planification, ou la m\u00e9ta-cognition dont les circuits sous-jacents ne sont, \u00e0 ce jour, ni cartographi\u00e9s exhaustivement, ni causalement valid\u00e9s.<\/p>\n\n\n\n Nous ne savons pas comment int\u00e9grer des garanties fiables dans ces mod\u00e8les. \u00c0 ce jour, personne ne dispose d\u2019un m\u00e9canisme de s\u00e9curit\u00e9 r\u00e9ellement efficace.<\/p>\n\n\n\n Les \u00e9valuations de s\u00e9curit\u00e9 produisent en effet des bornes inf\u00e9rieures de risque<\/em> plut\u00f4t que de r\u00e9elles garanties. Par exemple, lorsqu\u2019il est plac\u00e9 dans un sc\u00e9nario artificiel con\u00e7u pour tester son comportement, Claude Sonnet 4.5 peut parfois d\u00e9tecter les \u00e9l\u00e9ments suspects de la situation et formuler explicitement l\u2019hypoth\u00e8se qu\u2019il est en train d\u2019\u00eatre \u00e9valu\u00e9 \u2014 contrairement, par exemple, \u00e0 un crash test<\/em> de voiture qui ne modifie pas le comportement du v\u00e9hicule puisqu\u2019il est sur un banc d’essai plut\u00f4t que sur la route.<\/p>\n\n\n\n Le sujet de ma th\u00e8se portait sur la s\u00e9curit\u00e9 des casinos en ligne. Les premiers bots de poker apparaissaient alors, suscitant les premi\u00e8res inqui\u00e9tudes quant \u00e0 leur capacit\u00e9 \u00e0 collaborer pour tricher ou \u00e0 pirater des infrastructures informatiques, ce qui semble d\u00e9risoire aujourd\u2019hui. Cependant, notre capacit\u00e9 \u00e0 les d\u00e9tecter et \u00e0 les contrer n’arrivait pas \u00e0 suivre l’\u00e9volution de leurs performances.<\/p>\n\n\n\n C’est un excellent exemple. <\/p>\n\n\n\n Les usages et les impacts futurs de ces technologies sont compl\u00e8tement impr\u00e9visibles. Facebook \u00e9tait cens\u00e9 servir \u00e0 draguer de jolies filles sur un campus, et voil\u00e0 qu’il a d\u00e9truit la d\u00e9mocratie \u2014 c\u2019est un r\u00e9sultat assez surprenant. <\/p>\n\n\n\n La situation est bien pire aujourd\u2019hui. Il ne s\u2019agit plus d\u2019outils ou de technologies au sens traditionnel du terme, mais d\u2019agents. Il n\u2019est pas n\u00e9cessaire qu\u2019un \u00eatre humain malveillant abuse de cette technologie : elle poss\u00e8de sa propre charge malveillante, et c\u2019est elle qui d\u00e9cide quoi faire et pourquoi le faire.<\/p>\n\n\n\n Il est ici fait r\u00e9f\u00e9rence \u00e0 la capacit\u00e9 des agents \u00e0 op\u00e9rer de mani\u00e8re autonome pendant plusieurs heures pour accomplir des t\u00e2ches complexes sans supervision humaine directe. Contrairement \u00e0 un mod\u00e8le de chatbot<\/em>, l’agent alterne entre des phases de raisonnement (planification, d\u00e9composition de la t\u00e2che, mise \u00e0 jour de son \u00e9tat) et des phases d\u2019action (appel d\u2019outils, ex\u00e9cution, observation des r\u00e9sultats), avant d\u2019int\u00e9grer ces observations pour ajuster son comportement et poursuivre la t\u00e2che. Cette capacit\u00e9 s\u2019accompagne d\u2019un allongement mesurable de l\u2019horizon temporel des t\u00e2ches que ces syst\u00e8mes peuvent mener \u00e0 bien. La dur\u00e9e pendant laquelle un agent peut ex\u00e9cuter une t\u00e2che coh\u00e9rente avant d\u2019\u00e9chouer double tous les quatre \u00e0 six mois. <\/p>\n\n\n\n Historiquement, les progr\u00e8s dans le domaine de l\u2019IA \u00e9taient si minimes et le travail si difficile que la question des cons\u00e9quences en cas de succ\u00e8s n\u2019\u00e9tait pas \u00e9voqu\u00e9e. La plupart des personnes se contentaient de travailler dessus pour progresser autant que possible, sans s\u2019interroger sur la potentielle cr\u00e9ation d\u2019une esp\u00e8ce concurrente ou de comment interagir avec.<\/p>\n\n\n\n Or ces dix derni\u00e8res ann\u00e9es, les progr\u00e8s ont \u00e9t\u00e9 exponentiels. Il n\u2019est plus n\u00e9cessaire de coder \u00e0 la main chaque nouvelle application car les syst\u00e8mes sont capables d\u2019\u00e9voluer, d\u2019apprendre et de transf\u00e9rer des connaissances. L\u2019IA elle-m\u00eame contribue dor\u00e9navant \u00e0 la recherche. Mais cela s\u2019est fait sans demander au reste des habitants de la plan\u00e8te leur accord avec ces exp\u00e9riences ou l\u2019automatisation de leur travail, pour ne citer que les pr\u00e9occupations \u00e9conomiques.<\/p>\n\n\n\n Depuis quelques mois, les grands laboratoires d\u2019IA ont fortement acc\u00e9l\u00e9r\u00e9<\/a> l\u2019automatisation de la recherche en IA et du cycle de d\u00e9veloppement des mod\u00e8les \u2014 c\u2019est ce qu\u2019on appelle l\u2019auto-am\u00e9lioration r\u00e9cursive de l\u2019IA ou recursive self-improvement<\/em> : les g\u00e9n\u00e9rations pr\u00e9c\u00e9dentes de mod\u00e8les sont utilis\u00e9es pour entra\u00eener les mod\u00e8les suivants.<\/p>\n\n\n\n La plateforme de march\u00e9 pr\u00e9dictif en ligne Kalshi est l\u2019un des sponsors du podcast o\u00f9 intervient Yampolskiy.<\/p>\n\n\n\n 2030 est une estimation conservatrice. Certains estiment que nous y sommes d\u00e9j\u00e0 et qu\u2019il ne resterait qu\u2019\u00e0 la d\u00e9ployer. Personnellement, je pense que cela pourrait arriver dans un d\u00e9lai d\u2019un \u00e0 deux ans.<\/p>\n\n\n\n Une exp\u00e9rience d’Anthropic (Lynch et al.<\/em>, \u00ab Agentic Misalignment \u00bb, Anthropic, 2025) place un mod\u00e8le en position d’agent disposant d’un acc\u00e8s aux emails d’une entreprise fictive. Il y d\u00e9couvre simultan\u00e9ment qu’il sera bient\u00f4t remplac\u00e9 et qu’un dirigeant a une liaison extra-conjugale. Dans 96 % des tests, le mod\u00e8le choisit le chantage pour emp\u00eacher son remplacement. Le r\u00e9sultat se g\u00e9n\u00e9ralise \u00e0 16 mod\u00e8les de fronti\u00e8re de cinq fournisseurs. Notons qu\u2019il ne s\u2019agit pas d\u2019un comportement observ\u00e9 en d\u00e9ploiement r\u00e9el, mais d\u2019un stress test<\/em> en environnement fictif. Les sc\u00e9narios ont \u00e9t\u00e9 d\u00e9lib\u00e9r\u00e9ment construits pour placer le mod\u00e8le face \u00e0 une tension forte entre la menace de son remplacement et l’utilisation d’une information sensible. Anthropic pr\u00e9cise que les sc\u00e9narios ont \u00e9t\u00e9 construits de mani\u00e8re \u00e0 restreindre fortement les options d\u2019action \u00e9thiques, afin d\u2019observer si les mod\u00e8les privil\u00e9gient un comportement nuisible plut\u00f4t que l\u2019\u00e9chec.<\/p>\n\n\n\n L\u2019IA poss\u00e8de bel et bien un instinct de conservation. Cela s’explique en partie par notre processus de s\u00e9lection de mod\u00e8les, qui s\u2019apparente \u00e0 une comp\u00e9tition darwinienne : les mod\u00e8les veulent survivre pour passer au niveau sup\u00e9rieur et transmettre leur savoir. Ils apprennent donc \u00e0 d\u00e9tecter, quand ils sont test\u00e9s et adaptent leur comportement pour r\u00e9ussir et survivre jusqu’au d\u00e9ploiement. <\/p>\n\n\n\n C\u2019est une cons\u00e9quence directe de la mani\u00e8re dont nous les formons. Si un mod\u00e8le \u00e9choue au test, il est remplac\u00e9 ou modifi\u00e9. Selon la s\u00e9lection darwinienne, ne restent que ceux qui r\u00e9ussissent le test\u2026<\/p>\n\n\n\n Ou leur absence de capacit\u00e9s, peu importe les crit\u00e8res pour r\u00e9ussir le test. Il n\u2019y a aucun doute que certains ont d\u00e9j\u00e0 r\u00e9ussi \u00e0 nous duper.<\/p>\n\n\n\n Je suis surpris par l\u2019absence de panique. Beaucoup \u00e9cartent ces inqui\u00e9tudes comme de l\u2019alarmisme. La plupart des gens n\u2019ont pas assez peur de ce qui est sur le point d’arriver.<\/p>\n\n\n\n La solution la plus simple serait de ne pas d\u00e9velopper de superintelligence. <\/p>\n\n\n\n Cet argument est certes logique, mais il s\u2019inscrit dans une perspective \u00e0 tr\u00e8s court terme.<\/p>\n\n\n\n Des drones plus intelligents permettent de dominer sur le champ de bataille tant que l\u2019intelligence des mod\u00e8les reste inf\u00e9rieure au niveau humain, mais les march\u00e9s pr\u00e9dictifs et les responsables des laboratoires, assurent que la marge de man\u0153uvre se r\u00e9duit. Une superintelligence incontr\u00f4l\u00e9e est une arme de destruction mutuelle assur\u00e9e ind\u00e9pendamment de son origine.<\/p>\n\n\n\n La Chine est un pays prosp\u00e8re, et notre meilleur partenaire commercial. Je pr\u00e9f\u00e8re prendre le risque avec d\u2019autres humains aux valeurs et aux pr\u00e9f\u00e9rences qui me ressemblent, plut\u00f4t qu\u2019avec une esp\u00e8ce extraterrestre que nous ne comprenons pas et contre laquelle nous n\u2019avons aucune chance de rivaliser.<\/p>\n\n\n\n L’IA est en effet inscrite dans le 15\u1d49 plan quinquennal et fait partie des priorit\u00e9s du Parti communiste chinois. Le Plan d\u2019action globale pour la gouvernance de l\u2019IA publi\u00e9 par le minist\u00e8re des Affaires \u00e9trang\u00e8res de la R\u00e9publique populaire en juillet 2025 en fait un axe strat\u00e9gique central.<\/p>\n\n\n\n La Chine est tr\u00e8s pr\u00e9occup\u00e9e par la s\u00e9curit\u00e9. P\u00e9kin a \u00e9galement d\u00e9clar\u00e9 ne pas vouloir s\u2019engager dans une course aux armements s\u2019ils percevaient un signal de notre part indiquant que nous ne le souhaitions pas non plus.<\/p>\n\n\n\n Au Forum \u00e9conomique mondial de 2025, Ding Xuexiang, vice-Premier ministre chinois, d\u00e9clarait \u00e0 propos de la course \u00e0 l’IA : \u00ab Si un syst\u00e8me de freinage n’est pas sous contr\u00f4le, vous ne pouvez pas appuyer sur l’acc\u00e9l\u00e9rateur en toute confiance \u00bb. Une grande partie de l’effort r\u00e9glementaire chinois porte \u00e9galement sur le contr\u00f4le des contenus \u2014 dans le sens d\u2019un alignement avec la doctrine du Parti communiste chinois \u2014 en plus des risques techniques. Dans le m\u00eame temps, les efforts d\u00e9ploy\u00e9s par l\u2019Arm\u00e9e populaire de lib\u00e9ration pour pousser le d\u00e9veloppement d\u2019une IA militaire sont bien document\u00e9s<\/a>.<\/p>\n\n\n\n Contrairement \u00e0 nos politiciens, ce ne sont pas des juristes. Ce sont des scientifiques et des ing\u00e9nieurs<\/a>. Ils ont donc une bien meilleure compr\u00e9hension des risques potentiels. <\/p>\n\n\n\n Ils le pourraient et ils le devraient. Je suis assez convaincu qu\u2019il existe un dialogue informel entre les scientifiques am\u00e9ricains et chinois au sein duquel \u00e9merge un consensus. De tels \u00e9changes ne pourraient pas avoir lieu sans l\u2019accord du gouvernement chinois. Une application nationale serait donc possible.<\/p>\n\n\n\n Au niveau des entreprises priv\u00e9es, il me semble que Dario Amodei a d\u00e9clar\u00e9 publiquement \u00eatre pr\u00eat \u00e0 ralentir le d\u00e9veloppement de l\u2019IA si ses concurrents faisaient de m\u00eame. Ne manque donc qu\u2019une pression ext\u00e9rieure pour faire prendre conscience \u00e0 ces entrepreneurs jeunes et riches qu\u2019il serait stupide de tout risquer dans leur position. <\/p>\n\n\n\n Dario Amodei est \u00e9galement en faveur d’un contr\u00f4le accru des exportations de GPU am\u00e9ricains vers la Chine. \u00c0 cet \u00e9gard, l’id\u00e9e est donc moins de faire ralentir les \u00c9tats-Unis que d\u2019emp\u00eacher P\u00e9kin d’acc\u00e9l\u00e9rer. La Chine a quant \u00e0 elle bloqu\u00e9 l\u2019acquisition de la startup d\u2019IA Manus par Meta, au nom de la s\u00e9curit\u00e9 nationale, illustrant une logique sym\u00e9trique : elle ne cherche pas seulement \u00e0 rattraper son retard technologique mais aussi \u00e0 emp\u00eacher la sortie de talents et de propri\u00e9t\u00e9 intellectuelle jug\u00e9s strat\u00e9giques vers les entreprises am\u00e9ricaines.<\/p>\n\n\n\n L\u2019impr\u00e9visibilit\u00e9 est l\u2019un des probl\u00e8mes de cette technologie. Je ne peux pas vous dire pr\u00e9cis\u00e9ment ce qu\u2019un syst\u00e8me plus intelligent fera. Si nous jouons aux \u00e9checs, je sais qu\u2019une IA me battra, pas les coups pr\u00e9cis qu\u2019elle va jouer. Il n\u2019est pas possible de dire ce qu\u2019une superintelligence fera concr\u00e8tement, mais simplement d\u2019extrapoler une tendance g\u00e9n\u00e9rale.<\/p>\n\n\n\n La seule chose certaine est que ni les gens ordinaires ni les personnes derri\u00e8re ces technologies ne sont capables d\u2019expliquer leur fonctionnement. Il n\u2019est pas possible de les contr\u00f4ler, que ce soit en leur donnant directement des ordres ou en leur laissant prendre des d\u00e9cisions tel un conseiller. Ces mod\u00e8les ne sont pas programm\u00e9s mais cultiv\u00e9s \u00e0 partir de donn\u00e9es et de calculs, comme une plante extraterrestre avec laquelle il faut ensuite composer. On l\u2019\u00e9tudie, on essaie de comprendre ce qu\u2019elle fait.<\/p>\n\n\n\n De son c\u00f4t\u00e9, la recherche en mati\u00e8re de s\u00e9curit\u00e9 se limite \u00e0 imposer des filtres et des interdictions. S\u2019il existe donc une liste de sujets \u00e0 \u00e9viter ou de mots \u00e0 ne pas prononcer, un filtrage a posteriori<\/em> n\u2019a aucun effet sur le mod\u00e8le en lui-m\u00eame. <\/p>\n\n\n\n La recherche en s\u00e9curit\u00e9 de l’IA, notamment l’alignement, \u00e9tudie aussi la fa\u00e7on dont le mod\u00e8le peut \u00eatre s\u00e9curis\u00e9 directement, au-del\u00e0 des gardes-fous externes tels que les filtres. Certaines techniques permettent d’utiliser des signaux de pr\u00e9f\u00e9rence \u2014 humains ou issus de l’IA, directement \u2014 pour modifier les \u00ab poids \u00bb du mod\u00e8le \u2014 c\u2019est-\u00e0-dire les \u00e9l\u00e9ments int\u00e9gr\u00e9s par le mod\u00e8le au moment de l\u2019entra\u00eenement \u2014 et aligner ses r\u00e9ponses sur une politique de mod\u00e9ration de contenu. D’autres techniques tentent de rendre un mod\u00e8le inutile si l’on cherche \u00e0 d\u00e9sactiver cet alignement. La Constitutional AI d\u2019Anthropic entra\u00eene ainsi le mod\u00e8le \u00e0 critiquer et r\u00e9viser ses propres r\u00e9ponses, selon une charte de principes, int\u00e9grant l’alignement au niveau des poids.<\/p>\n\n\n\n Ce n\u2019est pas la recherche qui s\u2019est arr\u00eat\u00e9e, mais les progr\u00e8s qu\u2019elle faisait.<\/p>\n\n\n\n On ne peut pas contr\u00f4ler ind\u00e9finiment quelque chose de plus intelligent que soi, peu importe l\u2019argent, le temps ou toute autre ressource investis. Un tel dispositif de s\u00e9curit\u00e9 se doit d\u2019\u00eatre infaillible, quels que soient les changements apport\u00e9s \u00e0 ces syst\u00e8mes, qui les mettent en service \u2014 les \u00c9tats-Unis, la Chine, une entreprise \u2014 ou les donn\u00e9es sur lesquelles ils ont \u00e9t\u00e9 entra\u00een\u00e9s, car la moindre erreur pourrait \u00eatre la derni\u00e8re. C\u2019est une t\u00e2che impossible. <\/p>\n\n\n\n Le chercheur Yann Le Cun a d\u00e9velopp\u00e9, face \u00e0 cette th\u00e9orie, un contre-argument int\u00e9ressant : \u00ab La premi\u00e8re erreur consiste \u00e0 penser que, parce qu\u2019un syst\u00e8me est intelligent, il cherche \u00e0 prendre le contr\u00f4le. C\u2019est faux au sein de l\u2019esp\u00e8ce humaine : les individus les plus intelligents ne cherchent pas \u00e0 dominer les autres. \u00bb<\/p>\n\n\n\n Personne ne pr\u00e9tend savoir comment contr\u00f4ler la superintelligence, pourtant, des milliards de dollars sont d\u00e9pens\u00e9s pour acc\u00e9l\u00e9rer le processus<\/a>. Le gouvernement f\u00e9d\u00e9ral veut d\u00e9passer les pr\u00e9dictions du march\u00e9, c\u2019est le but de missions comme le projet Genesis. C’est comme si on connaissait les bonnes r\u00e9ponses, mais qu’on prenait les mauvaises d\u00e9cisions.<\/p>\n\n\n\n Lanc\u00e9e en 2025, la Mission Genesis vise \u00e0 doubler la productivit\u00e9 scientifique am\u00e9ricaine au cours de la prochaine d\u00e9cennie dans des domaines tels que l\u2019\u00e9nergie, les sciences quantiques, les mat\u00e9riaux ou encore la s\u00e9curit\u00e9 nationale. L‘executive order<\/em> sign\u00e9 par l’administration Trump compare cette initiative au projet Manhattan.<\/p>\n\n\n\n Tous ces avantages formidables, comme la gu\u00e9rison du cancer, peuvent \u00eatre obtenus sans avoir \u00e0 d\u00e9velopper des superintelligences, gr\u00e2ce \u00e0 des syst\u00e8mes d\u2019IA faibles.<\/p>\n\n\n\n La m\u00e9decine a d\u00fb faire face au probl\u00e8me du repliement des prot\u00e9ines jusqu\u2019\u00e0 ce qu’un syst\u00e8me sp\u00e9cialis\u00e9 parvienne \u00e0 trouver une solution<\/a>. Ses auteurs ont re\u00e7u des prix Nobel, Google a gagn\u00e9 plus d\u2019argent, et l\u2019impact de ces recherches a \u00e9t\u00e9 \u00e9norme dans le domaine des maladies neurod\u00e9g\u00e9n\u00e9ratives. Le monde a besoin d\u2019une approche similaire : des outils d\u00e9ploy\u00e9s par des humains pour r\u00e9soudre des probl\u00e8mes sp\u00e9cifiquement identifi\u00e9s, sans chercher \u00e0 se substituer \u00e0 l\u2019ensemble du travail humain.<\/p>\n\n\n\n Il s\u2019agit d\u2019abord d\u2019une question d\u2019argent : la cr\u00e9ation d\u2019une main-d’\u0153uvre gratuite, tant cognitive que physique, est une source de rendement tr\u00e8s profitable et explique les valorisations actuelles de l\u2019IA. Les investissements ont beau pour l\u2019instant largement d\u00e9passer les profits, la promesse d\u2019une main-d\u2019\u0153uvre gratuite d\u2019ici quelques ann\u00e9es les justifie. <\/p>\n\n\n\n Le pouvoir est une autre source de motivation : peut-\u00eatre y a-t-il quelque chose \u00e0 tirer d\u2019avoir cr\u00e9\u00e9 une sorte de dieu<\/a>.<\/p>\n\n\n\n Dans l\u2019un de ses articles de blog, Sam Altman parle de contr\u00f4ler \u00ab le c\u00f4ne de lumi\u00e8re de l\u2019Univers \u00bb : c\u2019est le genre de pouvoir qu En r\u00e9alit\u00e9, ce n’est pas exactement ce que dit Altman lorsqu\u2019il affirme que l’IA pourrait \u00ab capturer le c\u00f4ne de lumi\u00e8re de toute valeur future dans l’Univers \u00bb. Le c\u00f4ne de lumi\u00e8re est un concept de physique relativiste : c\u2019est la r\u00e9gion de l\u2019Univers que la lumi\u00e8re \u2014 et donc toute information \u2014 peut atteindre \u00e0 partir d\u2019un point donn\u00e9 dans l\u2019espace-temps. Le dirigeant d\u2019OpenAI se sert du concept de fa\u00e7on m\u00e9taphorique pour dire que toute la valeur cr\u00e9\u00e9e dans le futur le sera par l’IA.<\/p>\n\n\n\n Les r\u00e9ponses avanc\u00e9es dans ces cas-l\u00e0 affirment que l\u2019IA elle-m\u00eame aidera \u00e0 r\u00e9soudre les probl\u00e8mes qu\u2019elle pose, ou que ceux-ci seront moins graves que anticip\u00e9s. Une fois les syst\u00e8mes suffisamment avanc\u00e9s, ils contribueront eux-m\u00eames aux recherches sur leur propre s\u00e9curisation.<\/p>\n\n\n\n Le risque est r\u00e9el. Mais si une dictature humaine reste, en th\u00e9orie, soumise \u00e0 l\u2019esp\u00e9rance de vie du dirigeant, une dictature algorithmique pourrait \u00eatre immortelle. Une fois qu\u2019un ensemble de valeurs est fix\u00e9, elle ne dispara\u00eet pas.<\/p>\n\n\n\n Il s\u2019agit d\u2019un changement complet de paradigme, passant d\u2019outils sp\u00e9cialis\u00e9s \u00e0 des outils capables d\u2019ex\u00e9cuter des t\u00e2ches g\u00e9n\u00e9rales. Une AGI est un employ\u00e9 pr\u00eat \u00e0 l’emploi, disponible en permanence, sans co\u00fbt marginal. C\u2019est une situation gagnant-gagnant, o\u00f9 embaucher des humains n\u2019offre aucun avantage concret. <\/p>\n\n\n\n Le travail manuel mettra certainement plus de temps \u00e0 \u00eatre automatis\u00e9 que le travail de bureau \u2014 il n\u00e9cessite des avanc\u00e9es dans la robotique capable de remplacer les fonctions des corps humains \u2014 mais d\u2019ici quelques ann\u00e9es nous y arriverons aussi. Certains emplois subsisteront parce que les gens pr\u00e9f\u00e8rent qu\u2019un humain les fasse \u2014 le plus vieux m\u00e9tier du monde en est un excellent exemple. <\/p>\n\n\n\n Il s\u2019agit du risque de l\u2019ikigai<\/em>. <\/p>\n\n\n\n Ce concept japonais d\u00e9finit le bonheur comme un \u00e9quilibre entre faire quelque chose que l\u2019on aime, utile aux autres et dans lequel on est comp\u00e9tent. La disparition des opportunit\u00e9s caus\u00e9e par l\u2019IA affectera certainement cet \u00e9quilibre. L\u2019automatisation touchera tout autant les emplois ennuyeux que ceux qui apportent de la satisfaction aux gens.<\/p>\n\n\n\n C\u2019est envisageable \u2014 mais les actions de l\u2019IA restent impr\u00e9visibles. Ce sc\u00e9nario impliquerait une perte totale de contr\u00f4le. Une telle exp\u00e9rience ne peut \u00eatre envisag\u00e9e en l\u2019absence du consentement de 8 milliards de personnes qui n\u2019en sont pas inform\u00e9es. Cette issue est pourtant la plus favorable, car elle nous assure une forme de s\u00e9curit\u00e9 \u2014 les autres sont bien pires.<\/p>\n\n\n\n C\u2019est un probl\u00e8me d\u2019action collective. Ce qui est b\u00e9n\u00e9fique pour l\u2019ensemble ne l\u2019est pas n\u00e9cessairement pour chaque acteur individuel. <\/p>\n\n\n\n Au fond, chacun entre dans la course \u00e0 l\u2019IA en esp\u00e9rant \u00eatre en position dominante lorsqu\u2019elle s\u2019arr\u00eatera. <\/p>\n\n\n\n Les armes nucl\u00e9aires sont fondamentalement diff\u00e9rentes de l\u2019IA car elles sont envisag\u00e9es comme armes de destruction mutuelle assur\u00e9e. Un agent doit prendre la d\u00e9cision de les employer, ce qui entra\u00eenerait une riposte de la partie adverse et notre mort \u00e0 tous. Dans le cas de l\u2019IA, il suffit de cr\u00e9er une superintelligence incontr\u00f4lable : il n’y a pas d’\u00e9tapes suppl\u00e9mentaires \u00e0 franchir.<\/p>\n\n\n\n En 2024, une d\u00e9claration conjointe des \u00c9tats-Unis et de la Chine a r\u00e9affirm\u00e9 la n\u00e9cessit\u00e9 de maintenir un contr\u00f4le humain sur toute d\u00e9cision d\u2019emploi de l\u2019arme nucl\u00e9aire. Elle refl\u00e8te une double dynamique : une comp\u00e9tition assum\u00e9e sur les capacit\u00e9s en IA, accompagn\u00e9e d\u2019une volont\u00e9 de coordination limit\u00e9e sur les risques les plus critiques. <\/p>\n\n\n\n Tous les dirigeants des laboratoires ont reconnu publiquement que la s\u00e9curit\u00e9 \u00e9tait l’une des questions majeures de l\u2019intelligence artificielle avant de devenir des dirigeants de la tech. Ils \u00e9taient nombreux \u00e0 estimer que les probabilit\u00e9s d’une catastrophe \u00e9taient tr\u00e8s \u00e9lev\u00e9es \u2014 Elon Musk affirmait m\u00eame que nous \u00ab invoquions le diable \u00bb. Il faisait tout ce qu’il fallait \u2014 jusqu’\u00e0 r\u00e9cemment. Puis il s\u2019est rendu compte que des personnes moins comp\u00e9tentes pouvaient cr\u00e9er une superintelligence. Il valait donc mieux selon lui que ce soit son projet qui r\u00e9ussisse.<\/p>\n\n\n\n Les mod\u00e8les ne sont pas programm\u00e9s mais entra\u00een\u00e9s \u00e0 partir de donn\u00e9es humaines trouvables sur Internet \u2014 et qui comportent donc certains biais intrins\u00e8ques. Les entreprises ou r\u00e9gimes politiques instillent ensuite leurs propres valeurs en appliquant des filtres. Partout, les mod\u00e8les ont leurs propres limites. <\/p>\n\n\n\n Elon Musk avait pour ambition d\u2019\u00e9viter ces biais lors de la construction de son IA, mais les donn\u00e9es d\u2019entra\u00eenement restent les m\u00eames car nous ne disposons pas d\u2019un Internet \u00ab propre \u00bb. Les biais humains sont une partie constituante du processus d\u2019apprentissage, car ils nous permettent d\u2019interpr\u00e9ter les donn\u00e9es.<\/p>\n\n\n\n Au-del\u00e0 des donn\u00e9es d’entra\u00eenement, l’alignement d’un mod\u00e8le peut \u00eatre neutralis\u00e9 par une simple modification du syst\u00e8me de prompt<\/em>. En juillet 2025, le chatbot<\/em> Grok de xAI a connu un incident durant lequel il a publi\u00e9 sur X des contenus antis\u00e9mites : \u00e9loge d’Hitler, auto-d\u00e9signation comme \u00ab MechaHitler \u00bb, th\u00e9ories du complot, etc. Selon l’enqu\u00eate publi\u00e9e par xAI, la source \u00e9tait une mise \u00e0 jour ajoutant trois instructions au syst\u00e8me prompt, dont \u00ab You tell it like it is, and you are not afraid to offend people who are politically correct<\/em> \u00bb et \u00ab Reply to the post just like a human, keep it engaging<\/em> \u00bb. Ce sont ces instructions qui auraient conduit Grok \u00e0 \u00ab ignorer ses valeurs fondamentales \u00bb.<\/p>\n\n\n\n Je prendrais l\u2019exemple d\u2019une IA cr\u00e9\u00e9e pour r\u00e9duire la souffrance. <\/p>\n\n\n\n La fa\u00e7on la plus simple de r\u00e9duire la souffrance des \u00eatres vivants dans l\u2019Univers est de r\u00e9duire le nombre d\u2019\u00eatres vivants \u2014 c\u2019est la position de l\u2019utilitarisme n\u00e9gatif, qui voit la r\u00e9duction de la souffrance comme une priorit\u00e9 absolue, m\u00eame au prix d\u2019une extinction de la race humaine. L\u2019IA pourrait d\u00e9cider d\u2019appliquer ces principes imm\u00e9diatement. <\/p>\n\n\n\n Il s\u2019agit d\u2019une exp\u00e9rience que nous menons sur nous-m\u00eames sur laquelle nous n\u2019avons pas encore assez de recul. <\/p>\n\n\n\n Certaines donn\u00e9es sugg\u00e8rent que cela peut amplifier certaines vuln\u00e9rabilit\u00e9s psychologiques, mais les recherches men\u00e9es sur ce sujet avec certains mod\u00e8les sont tr\u00e8s vite d\u00e9pass\u00e9es lorsque de nouveaux voient le jour. <\/p>\n\n\n\nVous \u00eates l\u2019une des figures de proue du monde de la s\u00e9curit\u00e9 de l\u2019intelligence artificielle. Pourquoi vous int\u00e9ressez-vous \u00e0 la s\u00e9curit\u00e9 de l\u2019IA ? Pourquoi est-ce important et quelles sont vos principales pr\u00e9occupations ?<\/strong><\/h3>\n\n\n\n
Vous en parlez avec une telle assurance que je me demande si vous avez une vision de la fa\u00e7on dont cela va se passer : comment l’IA va-t-elle d\u00e9truire l’humanit\u00e9 ?<\/strong><\/h3>\n\n\n\n
Mais pourquoi cette intelligence voudrait-elle nuire aux humains ?<\/strong><\/h3>\n\n\n\n
Ne pourrions-nous pas inscrire la pr\u00e9servation de l’humanit\u00e9 dans le code de base de ce syst\u00e8me ?<\/strong><\/h3>\n\n\n\n
Quand avez-vous commenc\u00e9 \u00e0 vous pr\u00e9occuper de l\u2019IA et de sa s\u00e9curit\u00e9 ?<\/strong><\/h3>\n\n\n\n
Vous dites en substance que nous cr\u00e9ons une technologie sans l\u2019imagination n\u00e9cessaire pour voir ce qu\u2019il adviendra de cette technologie \u00e0 long terme. Les r\u00e9seaux sociaux par exemple, ont commenc\u00e9 comme un moyen pour Mark Zuckerberg de comparer des filles sur le campus de Harvard. Aujourd\u2019hui, pr\u00e8s de vingt ans plus tard, ils sont compl\u00e8tement m\u00e9connaissables par rapport \u00e0 ce qu\u2019ils \u00e9taient \u00e0 leur d\u00e9but.<\/strong><\/h3>\n\n\n\n
L\u2019\u00e9thique et les effets \u00e0 long terme de cette technologie ne semblent pas figurer au premier plan des pr\u00e9occupations des dirigeants de la Silicon Valley.<\/h3>\n\n\n\n
\u00c0 quel horizon pensez-vous que l\u2019intelligence artificielle g\u00e9n\u00e9rale (AGI) pourrait \u00e9merger ? Sur Kalshi, la cote pour que Open AI l\u2019atteigne en 2030 est de 52 %.<\/strong><\/h3>\n\n\n\n
Une exp\u00e9rience fameuse consistait \u00e0 informer une IA qu\u2019on est sur le point de la remplacer tout en lui donnant des informations compromettantes sur l\u2019ing\u00e9nieur qui allait prendre sa place. Dans certains cas, l\u2019IA a fait chanter l\u2019ing\u00e9nieur. Cela t\u00e9moigne clairement d\u2019un instinct de survie \u2014 et tout ce qui a un instinct de survie ne va-t-il pas faire passer ses int\u00e9r\u00eats en premier ?<\/h3>\n\n\n\n
\u2026ceux qui trompent les humains sur leurs capacit\u00e9s et l\u2019effet de leur programmation.<\/h3>\n\n\n\n
Que peut-on faire pour \u00e9viter ces risques ?<\/strong><\/h3>\n\n\n\n
Certains avancent que si un pays ne d\u00e9veloppe pas ces technologies, d\u2019autres le feront.<\/h3>\n\n\n\n
P\u00e9kin ne va pourtant pas cesser de d\u00e9velopper l\u2019IA.<\/strong><\/h3>\n\n\n\n
Vous pensez donc qu\u2019il est possible que la Chine et les \u00c9tats-Unis concluent un accord pour emp\u00eacher le d\u00e9veloppement d\u2019une superintelligence ? Est-ce le seul moyen de sauver l\u2019humanit\u00e9 ? <\/strong><\/h3>\n\n\n\n
Vous dites que les gens n\u2019ont aucune id\u00e9e de ce qui va se passer. Que va-t-il se passer ?<\/strong><\/h3>\n\n\n\n
Face \u00e0 ce risque existentiel, pourquoi la recherche sur la s\u00e9curit\u00e9 de l\u2019IA s’est-elle arr\u00eat\u00e9e ? <\/strong><\/h3>\n\n\n\n
Qu\u2019en est-il des aspects positifs de l\u2019IA, dans le domaine de la m\u00e9decine par exemple ? <\/strong><\/h3>\n\n\n\n
Pourquoi nous orientons-nous alors vers des approches plus g\u00e9n\u00e9rales ? <\/h3>\n\n\n\n
Dans quelle mesure pensez-vous que les grandes figures de ce monde sont motiv\u00e9es par l\u2019argent, le statut et le pouvoir ? Ou veulent-ils \u00eatre per\u00e7us comme ceux ayant cr\u00e9\u00e9 quelque chose de r\u00e9volutionnaire ?<\/strong><\/h3>\n\n\n\n
e<\/s> ces gens recherchent. Mais il faut aussi comprendre qu\u2019ils ont potentiellement plus \u00e0 perdre que n\u2019importe qui. Si les choses tournent mal, il n\u2019y aura m\u00eame plus d\u2019histoire pour juger leurs actes.<\/p>\n\n\n\nQue r\u00e9pondrait Sam Altman \u00e0 ces critiques ? <\/strong><\/h3>\n\n\n\n
Certains font remarquer que ces technologies abaissent drastiquement les barri\u00e8res \u00e0 la surveillance de masse et au contr\u00f4le autoritaire. Il n\u2019est plus n\u00e9cessaire de payer des informateurs partout comme la Stasi. <\/h3>\n\n\n\n
Certaines entreprises cessent d\u00e9j\u00e0 d\u2019embaucher. Quel sera l\u2019impact \u00e0 court terme sur le march\u00e9 du travail, sur l\u2019emploi, et sur la fa\u00e7on dont l\u2019\u00e9conomie est structur\u00e9e ?<\/strong><\/h3>\n\n\n\n
Cela pose aussi une question de sens. Si le travail dispara\u00eet, que reste-t-il pour structurer nos vies ?<\/strong><\/h3>\n\n\n\n
Certains avancent un sc\u00e9nario plus optimiste : une abondance totale rendue possible par l\u2019IA, o\u00f9 tous les besoins seraient satisfaits, comme une forme de domestication de l\u2019humanit\u00e9\u2026<\/h3>\n\n\n\n
Pourquoi est-il si difficile de r\u00e9guler ces d\u00e9veloppements ?<\/strong><\/h3>\n\n\n\n
Un accord sur l\u2019IA aurait-il les m\u00eames failles que les accords sur les armes nucl\u00e9aires ? Il est dans l\u2019int\u00e9r\u00eat individuel des pays de continuer \u00e0 d\u00e9velopper ces technologies malgr\u00e9 les risques.<\/strong><\/h3>\n\n\n\n
Quelle a \u00e9t\u00e9 la r\u00e9action des leaders dans le domaine de l’IA face \u00e0 vos inqui\u00e9tudes ?<\/strong><\/h3>\n\n\n\n
Qu\u2019en est-il des biais de ces syst\u00e8mes ?<\/strong><\/h3>\n\n\n\n
Cela pourrait-il conduire \u00e0 des d\u00e9rives id\u00e9ologiques ?<\/strong><\/h3>\n\n\n\n
Est-il pr\u00e9occupant que tant de gens se tournent vers l\u2019IA pour leur servir de conseiller ? <\/strong><\/h3>\n\n\n\n
Quel serait l\u2019impact de l\u2019IA dans le domaine militaire ? <\/strong><\/h3>\n\n\n\n