{"id":214374,"date":"2024-01-05T06:32:00","date_gmt":"2024-01-05T05:32:00","guid":{"rendered":"https:\/\/legrandcontinent.eu\/fr\/?p=214374"},"modified":"2024-01-05T09:33:02","modified_gmt":"2024-01-05T08:33:02","slug":"les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act","status":"publish","type":"post","link":"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/","title":{"rendered":"\u00ab&#160;Les mod\u00e8les les plus avanc\u00e9s d\u2019IA font peser un risque syst\u00e9mique&#160;\u00bb, une conversation avec Brando Benifei sur l\u2019AI Act"},"content":{"rendered":"\n<p><em>De <a href=\"https:\/\/legrandcontinent.eu\/fr\/2023\/04\/14\/sam-altman-la-loi-fondamentale-de-lia\/\">Sam Altman<\/a> \u00e0 <a href=\"https:\/\/legrandcontinent.eu\/fr\/2023\/03\/24\/bifurquer-le-parti-communiste-chinois-et-la-silicon-valley-travaillent-a-un-avenir-posthumain\/\">Giuliano da Empoli<\/a> en passant par <a href=\"https:\/\/legrandcontinent.eu\/fr\/2023\/12\/12\/dans-la-guerre-des-empires-numeriques-une-conversation-avec-anu-bradford\/\">Anu Bradford<\/a>, notre s\u00e9rie hebdomadaire \u00ab&#160;<a href=\"https:\/\/legrandcontinent.eu\/fr\/themes\/numerique\/puissances-de-lia\/\">Puissances de l&rsquo;IA<\/a>&#160;\u00bb explore les grandes questions pos\u00e9es par l&rsquo;intelligence artificielle. <a href=\"https:\/\/legrandcontinent.eu\/fr\/offre-legc\/\" target=\"_blank\" rel=\"noreferrer noopener\">Abonnez-vous \u00e0 la revue<\/a> pour lire et recevoir les nouveaux \u00e9pisodes.<\/em><\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>Nous r\u00e9alisons cet entretien <\/strong><a href=\"https:\/\/legrandcontinent.eu\/summit\/\"><strong>en marge du Sommet du Grand Continent<\/strong><\/a><strong> o\u00f9 les discussions rapprochent naturellement la transition num\u00e9rique de la transition g\u00e9opolitique. Le fait que l&rsquo;Union n&rsquo;ait pas la comp\u00e9tence strat\u00e9gique n\u00e9cessaire alors que les grandes puissances de l\u2019IA font converger les discussions commerciales et de s\u00e9curit\u00e9 nationale constitue-t-il un probl\u00e8me&#160;?&nbsp;<\/strong><\/h3>\n\n\n\n<p>C&rsquo;est en effet le principal probl\u00e8me pour l\u2019Union. Souvent, dans les d\u00e9bats que j\u2019entends, nous avons tendance \u00e0 penser que nous ne sommes pas comp\u00e9titif \u00e0 cause de notre r\u00e9gulation. Je n\u2019y crois pas vraiment&#160;: ces r\u00e8gles dont nous discutons, <a href=\"https:\/\/legrandcontinent.eu\/fr\/2023\/10\/20\/reguler-lia-une-conversation-avec-dragos-tudorache\/\">dont l\u2019AI Act<\/a>, ne sont pas r\u00e9serv\u00e9es aux entreprises europ\u00e9ennes, mais s&rsquo;appliquent \u00e0 toutes les entreprises et \u00e0 tous les utilisateurs qui exercent leur activit\u00e9 en Europe. Ainsi, ce d\u00e9bat sur la comp\u00e9titivit\u00e9 \u2014 qui est souvent ax\u00e9 sur le fait que nous r\u00e9glementons et que d&rsquo;autres ne le font pas \u2014 est \u00e0 mon avis un peu hors sujet.\u00a0<\/p>\n\n\n\n<p>Le probl\u00e8me que nous avons est celui de la r\u00e9partition des comp\u00e9tences. Pour l\u2019AI Act, nous avons d\u00fb avoir une lecture \u00e9largie de la comp\u00e9tence europ\u00e9enne du march\u00e9 qui est utilis\u00e9e comme base pour cette loi pour traiter de questions de s\u00e9curit\u00e9 ou de protection des travailleurs. Le fait que l\u2019\u00e9chelle europ\u00e9enne ne se voit pas attribuer la comp\u00e9tence n\u00e9cessaire pour prendre des d\u00e9cisions en mati\u00e8re de strat\u00e9gie industrielle est un probl\u00e8me&#160;; tout comme l\u2019est le manque d&rsquo;un r\u00e9el pouvoir budg\u00e9taire et d\u2019une r\u00e9elle marge de man\u0153uvre en mati\u00e8re fiscale. Car le d\u00e9bat sur l&rsquo;action budg\u00e9taire et fiscale au niveau europ\u00e9en ne devrait pas \u00eatre trait\u00e9 comme une question distincte du d\u00e9bat sur la r\u00e9glementation de l&rsquo;IA. Il en va de m\u00eame en ce qui concerne la s\u00e9curit\u00e9 nationale ou le fait que l\u2019Union ne soit pas comp\u00e9tente sur la r\u00e9glementation des cas d\u2019usages de d\u00e9fense. Cette fragmentation des comp\u00e9tences europ\u00e9ennes est \u00e0 mon avis notre grand d\u00e9savantage concurrentiel par rapport \u00e0 la Chine ou aux \u00c9tats-Unis.<\/p>\n\n\n\n<figure class=\"wp-block-pullquote\"><blockquote><p>Le probl\u00e8me que nous avons est celui de la r\u00e9partition des comp\u00e9tences. Cette fragmentation des comp\u00e9tences europ\u00e9ennes est \u00e0 mon avis notre grand d\u00e9savantage concurrentiel par rapport \u00e0 la Chine ou aux \u00c9tats-Unis.<\/p><cite>Brando Benifei<\/cite><\/blockquote><\/figure>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>Avec l\u2019AI Act, l&rsquo;Union envoie-t-elle de nouveau le signe qu\u2019elle r\u00e9glemente une technologie avant de cr\u00e9er les produits et les champions technologiques&#160;? Le premier livre blanc de la Commission europ\u00e9enne reposait sur un \u00e9quilibre entre r\u00e9gulation et propositions d&rsquo;investissement dans la politique industrielle&#160;: manquons-nous d&rsquo;une initiative europ\u00e9enne forte de la part de la Commission dans ce sens&#160;?<\/strong><\/h3>\n\n\n\n<p>Il est d\u2019abord important de rappeler qu\u2019il n\u2019y a pas de contradiction dans les termes entre la r\u00e9glementation et l&rsquo;innovation. Avec une bonne r\u00e9glementation, on peut mieux innover&#160;: le probl\u00e8me est de savoir ce qui nous manque \u2014&nbsp;ou ce dont nous avons besoin. Il y a \u00e9videmment des dimensions sur lesquelles nous avons encore beaucoup de lacunes. Je pense par exemple que nous devons encore progresser pour donner plus d&rsquo;opportunit\u00e9s \u00e0 nos d\u00e9veloppeurs d&rsquo;IA d&rsquo;utiliser plus de donn\u00e9es. Mais je consid\u00e8re toujours que le probl\u00e8me principal est l&rsquo;absence d&rsquo;un v\u00e9ritable march\u00e9 int\u00e9gr\u00e9 de capitaux ainsi que le manque d&rsquo;investissement \u00e0 l&rsquo;\u00e9chelle europ\u00e9enne sur la recherche et les infrastructures au niveau n\u00e9cessaire. Les investissements actuels ne sont pas comparables \u00e0 ce qui se fait dans d&rsquo;autres parties du monde. Une des causes \u00e0 cela est le manque d&rsquo;une v\u00e9ritable comp\u00e9tence strat\u00e9gique europ\u00e9enne. Actuellement, on assiste par exemple \u00e0 une concurrence entre \u00c9tats membres pour attirer les meilleurs chercheurs&#160;: cela nous emp\u00eache de nous concentrer sur l&rsquo;attraction de talents internationaux extra-communautaires pour travailler sur notre comp\u00e9titivit\u00e9. C&rsquo;est ce qui devrait \u00eatre le plus au centre de la discussion.&nbsp;<\/p>\n\n\n\n<p>Il n&rsquo;y a rien dans la r\u00e9glementation sur l\u2019IA que nous avons approuv\u00e9e qui emp\u00eachera le d\u00e9veloppement de mod\u00e8les de langage europ\u00e9ens. Aujourd&rsquo;hui, \u00eatre en mesure de rattraper&nbsp; l&rsquo;\u00e9cart de comp\u00e9titivit\u00e9 que nous avons avec les \u00c9tats-Unis ou la Chine sur certains aspects du d\u00e9veloppement de l&rsquo;IA, est davantage une question de priorisation politique au niveau europ\u00e9en et de gouvernance.<\/p>\n\n\n\n<figure class=\"wp-block-pullquote\"><blockquote><p>Actuellement, on assiste par exemple \u00e0 une concurrence entre \u00c9tats membres pour attirer les meilleurs chercheurs&#160;: cela nous emp\u00eache de nous concentrer sur l&rsquo;attraction de talents internationaux extra-communautaires pour travailler sur notre comp\u00e9titivit\u00e9.&nbsp;<\/p><cite>Brando Benifei<\/cite><\/blockquote><\/figure>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>L\u2019AI Act distingue les mod\u00e8les les plus avanc\u00e9s pour leur imposer des r\u00e8gles plus importantes. Cette approche par seuil n\u2019introduit-elle pas un double standard entre les entreprises en place \u2014 qui peuvent se d\u00e9velopper parce qu&rsquo;elles ont les moyens de faire face \u00e0 de lourdes exigences de conformit\u00e9 \u2014 et les nouveaux entrants \u2014 qui ne le peuvent pas parce qu&rsquo;ils n&rsquo;ont pas les arm\u00e9es de juristes et les ressources n\u00e9cessaires&#160;?<\/strong><\/h3>\n\n\n\n<p>Les obligations renforc\u00e9es pour les mod\u00e8les les plus avanc\u00e9s sont li\u00e9es \u00e0 une chose tr\u00e8s&nbsp; simple&#160;: nous consid\u00e9rons que ces mod\u00e8les pr\u00e9sentent un risque syst\u00e9mique. Leur polyvalence pr\u00e9sente des dangers sp\u00e9cifiques et notre premi\u00e8re pr\u00e9occupation concerne les entreprises qui utiliseront les mod\u00e8les les plus puissants. Les obligations de transparence s&rsquo;imposeront \u00e0 tous les mod\u00e8les mais nous voulons \u00eatre s\u00fbrs que, pour les plus puissants, des contr\u00f4les suppl\u00e9mentaires sur la s\u00e9curit\u00e9, la cybers\u00e9curit\u00e9, l&rsquo;impact environnemental ou la gouvernance des donn\u00e9es sont mis en place.<\/p>\n\n\n\n<p>Les mod\u00e8les les plus puissants doivent donc, ind\u00e9pendamment du cas d\u2019usage, se conformer \u00e0 certaines des obligations de la cat\u00e9gorisation \u00e0 haut risque.&nbsp; Aujourd&rsquo;hui, le seuil que nous avons fix\u00e9 pour identifier ces mod\u00e8les de niveau sup\u00e9rieur est relatif \u00e0 la capacit\u00e9 de calcul utilis\u00e9e pour entra\u00eener ces mod\u00e8les. Il est fix\u00e9 \u00e0 10^25 <em>flops<\/em>. Cela inclurait pour l\u2019instant GPT-4 et certainement Gemini. Nous avons \u00e9galement donn\u00e9 la possibilit\u00e9 \u00e0 un comit\u00e9 d\u2019experts \u2014 le Bureau de l\u2019IA \u2014 qui suivra l\u2019application du texte, de d\u00e9terminer d&rsquo;autres crit\u00e8res possibles. Pas seulement la puissance de calcul, mais une combinaison d&rsquo;autres crit\u00e8res, comme le nombre d&rsquo;utilisateurs ou la taille du mod\u00e8le. C&rsquo;est la partie la plus flexible du r\u00e8glement parce que c&rsquo;est la partie qui traite de la technologie la plus \u00e0 la fronti\u00e8re de l\u2019innovation. Nous avions donc besoin de garder de la flexibilit\u00e9 sur cette partie.<\/p>\n\n\n\n<figure class=\"wp-block-pullquote\"><blockquote><p>Les obligations renforc\u00e9es pour les mod\u00e8les les plus avanc\u00e9s sont li\u00e9es \u00e0 une chose tr\u00e8s&nbsp; simple&#160;: nous consid\u00e9rons que ces mod\u00e8les pr\u00e9sentent un risque syst\u00e9mique.<\/p><cite>Brando Benifei<\/cite><\/blockquote><\/figure>\n\n\n\n<p>Ces obligations ne devraient pas d\u00e9sinciter le d\u00e9veloppement des mod\u00e8les les plus avanc\u00e9s car cela s&rsquo;appliquera aux mod\u00e8les du monde entier. Ainsi, les mod\u00e8les am\u00e9ricains devront se conformer \u00e0 ces r\u00e9glementations lorsqu&rsquo;elles seront en place.\u00a0 Cette approche r\u00e9gulatoire est le fruit de nombreuses discussions avec le monde universitaire, avec les entreprises elles-m\u00eames, et entre les diff\u00e9rentes institutions. On peut discuter du bien-fond\u00e9 intrins\u00e8que de ces r\u00e8gles, mais je ne vois pas en quoi elles constitueraient une distorsion de concurrence entre les Europ\u00e9ens et les \u00c9tats-Unis. En outre, ces r\u00e8gles entreront en vigueur dans plus d\u2019un an. Entre-temps, l&rsquo;Europe aura eu le temps de d\u00e9velopper plus de mod\u00e8les avanc\u00e9s. Nous percevons un risque syst\u00e9mique pour ce type de mod\u00e8les d\u2019IA \u00e0 la fronti\u00e8re technologique. En ce sens, nous sommes fid\u00e8les \u00e0 l\u2019esprit originel du texte bas\u00e9 sur les niveaux de risques.\u00a0<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>Si l\u2019on consid\u00e8re l\u2019ensemble du parcours l\u00e9gislatif initi\u00e9 en 2020, avez-vous identifi\u00e9 des lacunes ou des am\u00e9liorations possibles dans le processus de fabrication de la r\u00e9glementation&#160;? Quelles le\u00e7ons tirer sur la mani\u00e8re de r\u00e9guler une technologie qui \u00e9volue rapidement&#160;?<\/strong><\/h3>\n\n\n\n<p>L&rsquo;\u00e9volution rapide de l&rsquo;IA nous oblige \u00e0 conserver autant que possible une approche bas\u00e9e sur les cas d\u2019usage r\u00e9els plut\u00f4t que de r\u00e9glementer la technologie, car le contexte des cas d\u2019usage ne changera pas.<\/p>\n\n\n\n<p>Que ce soit dans les \u00e9coles, sur le lieu de travail, dans les tribunaux, dans les h\u00f4pitaux, le contexte est ind\u00e9pendant de l\u2019\u00e9volution de la technologie. Nous devons reconna\u00eetre que lorsque ce travail a commenc\u00e9, c&rsquo;est-\u00e0-dire lorsque la proposition de la Commission a \u00e9t\u00e9 pr\u00e9sent\u00e9e, il n&rsquo;y a pas eu suffisamment d&rsquo;attention sur le r\u00f4le pr\u00e9\u00e9minent des grands mod\u00e8les de langage qui sont d\u00e9sormais des \u00e9l\u00e9ments constitutifs de l&rsquo;IA et de son passage \u00e0 l&rsquo;\u00e9chelle. L\u2019IA, via ces mod\u00e8les de langage, devient de plus en plus g\u00e9n\u00e9raliste alors que l&rsquo;esprit initial du r\u00e8glement \u00e9tait davantage organis\u00e9 en niveaux de risques, eux-m\u00eames d\u00e9pendants du cas d\u2019usage vis\u00e9. Nous avons donc ajout\u00e9 des modifications en cours de route mais je pense que le texte sera r\u00e9silient et restera pertinent \u00e0 l\u2019avenir parce qu&rsquo;il a maintenu un certain degr\u00e9 de flexibilit\u00e9 et d&rsquo;adaptation indispensable pour appr\u00e9hender l&rsquo;\u00e9volution rapide de l\u2019IA.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>Comment mieux d\u00e9velopper et partager les capacit\u00e9s de calcul n\u00e9cessaires \u00e0 l&rsquo;IA au sein de l&rsquo;Union&#160;? L\u2019in\u00e9gale r\u00e9partition actuelle des programmes de formation aux infrastructures <\/strong><strong><em>cloud<\/em><\/strong><strong> ne risque-t-elle pas de cr\u00e9er une fracture au sein de l&rsquo;Union&#160;?<\/strong><\/h3>\n\n\n\n<p>Il est essentiel que nous ayons plus de comp\u00e9tences partag\u00e9es pour travailler sur l\u2019accessibilit\u00e9 des capacit\u00e9s de calculs et le partage de la donn\u00e9e. Cela peut passer par plus de projets clairs au niveau europ\u00e9en qui rendent cette infrastructure accessible \u00e0 ceux qui en ont besoin. La pr\u00e9sidente von der Leyen en a \u00e9galement parl\u00e9 <a href=\"https:\/\/legrandcontinent.eu\/fr\/2023\/09\/13\/letat-de-lunion-dursula-von-der-leyen-un-appel-ou-un-accident-de-lhistoire\/\">lors de son dernier discours sur l\u2019\u00e9tat de l&rsquo;Union<\/a>. La puissance de calcul, l&rsquo;infrastructure, l&rsquo;acc\u00e8s aux donn\u00e9es et le talent sont essentiels.&nbsp;&nbsp;<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>L&rsquo;anxi\u00e9t\u00e9 augmente \u00e0 l&rsquo;\u00e9gard de l\u2019IA en g\u00e9n\u00e9ral<\/strong><strong>, mais la confiance dans cette technologie varie consid\u00e9rablement d&rsquo;une r\u00e9gion \u00e0 l&rsquo;autre. Elle est g\u00e9n\u00e9ralement beaucoup plus \u00e9lev\u00e9e dans les pays \u00e9mergents que dans les pays d\u00e9velopp\u00e9s. La confiance des citoyens dans la capacit\u00e9 des entreprises utilisant l\u2019IA \u00e0 prot\u00e9ger leurs donn\u00e9es personnelles varie de 72&#160;% en Tha\u00eflande \u00e0 seulement 32&#160;% en France. Quelle r\u00e9ponse politique peut-on apporter&#160;?<\/strong><\/h3>\n\n\n\n<p>La fa\u00e7on dont l\u2019AI Act est con\u00e7ue porte une partie de la r\u00e9ponse \u00e0 cette anxi\u00e9t\u00e9 puisque nous prot\u00e9geons les donn\u00e9es en nous concentrant sur les syst\u00e8mes d&rsquo;IA \u00e0 haut risque. Mais ce d\u00e9fi de p\u00e9dagogie et de sensibilisation n\u2019est pas seulement celui du r\u00e9gulateur&#160;: nous avons certes besoin des institutions mais l&rsquo;\u00e9ducation, la soci\u00e9t\u00e9 civile \u2014 \u00e0 travers notamment les organisations de consommateurs \u2014\u00a0ou les m\u00e9dias sont absolument clefs. Nous disposons du r\u00e9gime r\u00e9glementaire le plus avanc\u00e9 pour la protection des donn\u00e9es et pour la confiance en g\u00e9n\u00e9ral&#160;: il faut s\u2019en saisir.<\/p>\n\n\n\n<figure class=\"wp-block-pullquote\"><blockquote><p>Nous disposons du r\u00e9gime r\u00e9glementaire le plus avanc\u00e9 pour la protection des donn\u00e9es et pour la confiance en g\u00e9n\u00e9ral&#160;: il faut s\u2019en saisir.<\/p><cite>Brando Benifei<\/cite><\/blockquote><\/figure>\n\n\n\n<p>La raison pour laquelle nous avons construit cette r\u00e9glementation s\u2019inscrit pr\u00e9cis\u00e9ment dans cette id\u00e9e de construire un environnement propice au d\u00e9veloppement de la confiance. Celle des consommateurs est cruciale pour la diffusion de l\u2019IA dans notre \u00e9conomie et ainsi faire que l\u2019Europe b\u00e9n\u00e9ficie de la croissance qui en r\u00e9sulte. Cet effort est d\u2019autant plus exigeant dans nos d\u00e9mocraties ou, sans confiance, les gens rejetteront l&rsquo;utilisation de l\u2019IA. Par exemple, j&rsquo;ai moi-m\u00eame per\u00e7u une grande m\u00e9fiance de nombreux actifs \u00e0 l&rsquo;\u00e9gard de l&rsquo;utilisation de l&rsquo;IA sur le lieu de travail. Il nous faut la surmonter. C\u2019est pourquoi, \u00e0 cet \u00e9gard, l\u2019AI Act apporte des garanties suppl\u00e9mentaires pour les travailleurs.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>Alors que nous entrons dans un cycle \u00e9lectoral tr\u00e8s dense \u2014 la moiti\u00e9 de la plan\u00e8te est appel\u00e9e aux urnes en 2024 \u2014 il semblerait que nous assistions aussi \u00e0 l\u2019\u00e9mergence d\u2019un nouveau mode d\u2019utilisation massive de l\u2019IA g\u00e9n\u00e9rative \u00e0 des fins de d\u00e9sinformation. Comment pensez-vous que les d\u00e9veloppeurs en IA et les d\u00e9cideurs publics peuvent collaborer sur cette question&#160;?<\/strong><\/h3>\n\n\n\n<p>C\u2019est un sujet en effet important mais qui reste encore trop confidentiel&#160;: nous devons y travailler. Il est essentiel de coop\u00e9rer avec les d\u00e9veloppeurs et de trouver des solutions techniques pour poursuivre nos objectifs politiques de transparence et de lutte contre la d\u00e9sinformation, en v\u00e9rifiant la faisabilit\u00e9 technique de ce que nous proposons avec les scientifiques et les d\u00e9veloppeurs eux-m\u00eames. Ces sujets techniques, mais nous devons aussi les pousser dans le d\u00e9bat public avec l\u2019aide des acteurs de l\u2019IA. Par exemple, pour rendre compr\u00e9hensible notre effort sur le <em>watermarking<\/em> des contenus g\u00e9n\u00e9r\u00e9s par l&rsquo;IA, il est clair que nous avons besoin de formation et d&rsquo;apprentissage pour les candidats qui se pr\u00e9sentent aux \u00e9lections, mais aussi pour tous les d\u00e9cideurs publics aujourd\u2019hui en fonction.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>L\u2019IA constitue-t-elle un sujet clivant au sein du Parlement europ\u00e9en&#160;? Peut-on imaginer que l\u2019IA soit un sujet du d\u00e9bat des prochaines \u00e9lections europ\u00e9ennes&#160;?<\/strong><\/h3>\n\n\n\n<p>L\u2019AI Act a fait l&rsquo;objet d&rsquo;un large consensus au sein des partis politiques sur de nombreux points. N\u00e9anmoins, il existe quelques points sur lesquels les clivages politiques apparaissent clairement.\u00a0<\/p>\n\n\n\n<p>La question de l&rsquo;imposition de r\u00e8gles aux grandes entreprises, en particulier concernant la transparence sur les contenus g\u00e9n\u00e9r\u00e9s par l&rsquo;IA, a \u00e9t\u00e9 beaucoup d\u00e9battue. Concernant la libert\u00e9 d\u2019expression et la mod\u00e9ration de contenu, le d\u00e9bat n\u2019a pas lieu uniquement aux \u00c9tats-Unis, lorsqu\u2019on \u00e9coute Donald Trump. En Europe aussi, certaines forces politiques pensent que la n\u00e9cessit\u00e9 de soustraire certains types de contenus \u00e0 la libre circulation s\u2019apparente \u00e0 de la censure. Ce clivage influence nos \u00e9changes sur l&rsquo;IA.&nbsp;<\/p>\n\n\n\n<figure class=\"wp-block-pullquote\"><blockquote><p>En Europe aussi, certaines forces politiques pensent que la n\u00e9cessit\u00e9 de soustraire certains types de contenus \u00e0 la libre circulation s\u2019apparente \u00e0 de la censure.<\/p><cite>Brando Benifei<\/cite><\/blockquote><\/figure>\n\n\n\n<p>On pourrait aussi mentionner tout ce qui a trait aux questions de surveillance et \u00e0 la s\u00e9curit\u00e9 nationale. L&rsquo;utilisation de cam\u00e9ras biom\u00e9triques, de la police pr\u00e9dictive, ou du profilage biom\u00e9trique sont des sujets sur lesquels les clivages politiques entre la droite et la gauche sont de plus en plus marqu\u00e9s.<\/p>\n\n\n\n<h3 class=\"wp-block-heading\"><strong>Quels seraient vos trois v\u0153ux pour l&rsquo;\u00e9cosyst\u00e8me europ\u00e9en de l&rsquo;IA en 2024&#160;?<\/strong><\/h3>\n\n\n\n<p>Sans les hi\u00e9rarchiser, je m\u2019en tiendrais aux trois points suivants.<\/p>\n\n\n\n<p>D\u2019abord, je souhaite que nous commencions \u00e0 voir la construction d&rsquo;un corpus de droit international autour de l&rsquo;IA qui se concentrerait particuli\u00e8rement sur ses dangers syst\u00e9miques qui ne peuvent pas \u00eatre abord\u00e9s uniquement par une l\u00e9gislation nationale ou m\u00eame europ\u00e9enne. Je pense par exemple aux questions de s\u00e9curit\u00e9 globale ou aux usages militaires de l\u2019IA. J&rsquo;esp\u00e8re que nous verrons l&rsquo;ann\u00e9e prochaine une avanc\u00e9e sur ce point.<\/p>\n\n\n\n<p>Deuxi\u00e8mement, dans le contexte de l&rsquo;ONU, du G7 ou du G20, j&rsquo;esp\u00e8re qu&rsquo;il y aura plus d&rsquo;attention de la part des institutions sur la n\u00e9cessit\u00e9 de former les gens \u00e0 l&rsquo;intelligence artificielle, non seulement dans le cadre de la formation initiale, mais aussi pour la formation continue des travailleurs et des citoyens en g\u00e9n\u00e9ral \u2014&nbsp;car le risque d&rsquo;\u00eatre manipul\u00e9 par l&rsquo;IA existe si l\u2019on n\u2019est pas familiers de ses outils.<\/p>\n\n\n\n<p>Mon dernier point est que le nouveau cycle l\u00e9gislatif europ\u00e9en qui fera suite aux \u00e9lections verra la mise en \u0153uvre du texte que nous avons con\u00e7u. Il lui donnera vie car aujourd\u2019hui, bien que tout le monde en parle, nous n\u2019en voyons pas encore les effets. Il faudra \u00e9galement aller plus loin sur certains sujets notamment sur tous les aspects relatifs \u00e0 l&rsquo;impact de l&rsquo;IA sur le lieu de travail qui n&rsquo;ont pas \u00e9t\u00e9 assez abord\u00e9s par l&rsquo;AI Act en raison de son cadre juridique. Tout ceci est \u00e9galement li\u00e9 \u00e0 un souhait plus large, celui d\u2019avoir une Union europ\u00e9enne plus int\u00e9gr\u00e9e et, pour moi, une union f\u00e9d\u00e9rale afin que nous puissions \u00eatre plus efficaces dans la gestion de tous ces grands changements qui se produisent.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Que changera vraiment l&rsquo;AI Act&#160;&#160;?<\/p>\n<p>En marge du Sommet Grand Continent, son principal rapporteur, Brando Benifei, revient l&rsquo;exercice d&rsquo;\u00e9quilibriste qui consiste \u00e0 r\u00e9guler l&rsquo;IA tout en favorisant l&rsquo;innovation. Alors que la moiti\u00e9 du monde est appel\u00e9e aux urnes et que le risque de cette technologie pour les d\u00e9mocraties doit \u00eatre pris au s\u00e9rieux, 2024 sera le premier test grandeur nature pour cette l\u00e9gislation.<\/p>\n","protected":false},"author":10,"featured_media":214376,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"templates\/post-interviews.php","format":"standard","meta":{"_acf_changed":false,"_trash_the_other_posts":false,"footnotes":""},"categories":[3412,3687],"tags":[],"staff":[2457],"editorial_format":[],"serie":[],"audience":[],"geo":[1917],"class_list":["post-214374","post","type-post","status-publish","format-standard","hentry","category-puissances-de-lia","category-sommet-grand-continent","staff-victor-storchan","geo-europe"],"acf":{"open_in_webview":false,"accent":false},"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v26.1.1 - https:\/\/yoast.com\/wordpress\/plugins\/seo\/ -->\n<title>\u00abLes mod\u00e8les les plus avanc\u00e9s d\u2019IA font peser un risque syst\u00e9mique\u00bb, une conversation avec Brando Benifei sur l\u2019AI Act | Le Grand Continent<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/\" \/>\n<meta property=\"og:locale\" content=\"fr_FR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"\u00abLes mod\u00e8les les plus avanc\u00e9s d\u2019IA font peser un risque syst\u00e9mique\u00bb, une conversation avec Brando Benifei sur l\u2019AI Act | Le Grand Continent\" \/>\n<meta property=\"og:description\" content=\"Que changera vraiment l&#039;AI Act&#160;?  En marge du Sommet Grand Continent, son principal rapporteur, Brando Benifei, revient l&#039;exercice d&#039;\u00e9quilibriste qui consiste \u00e0 r\u00e9guler l&#039;IA tout en favorisant l&#039;innovation. Alors que la moiti\u00e9 du monde est appel\u00e9e aux urnes et que le risque de cette technologie pour les d\u00e9mocraties doit \u00eatre pris au s\u00e9rieux, 2024 sera le premier test grandeur nature pour cette l\u00e9gislation.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/\" \/>\n<meta property=\"og:site_name\" content=\"Le Grand Continent\" \/>\n<meta property=\"article:published_time\" content=\"2024-01-05T05:32:00+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-01-05T08:33:02+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2024\/01\/gc-brando-scaled.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"2560\" \/>\n\t<meta property=\"og:image:height\" content=\"1440\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Matheo Malik\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:image\" content=\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2024\/01\/gc-brando-scaled.jpg\" \/>\n<meta name=\"twitter:label1\" content=\"\u00c9crit par\" \/>\n\t<meta name=\"twitter:data1\" content=\"Matheo Malik\" \/>\n\t<meta name=\"twitter:label2\" content=\"Dur\u00e9e de lecture estim\u00e9e\" \/>\n\t<meta name=\"twitter:data2\" content=\"12 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/\",\"url\":\"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/\",\"name\":\"\u00abLes mod\u00e8les les plus avanc\u00e9s d\u2019IA font peser un risque syst\u00e9mique\u00bb, une conversation avec Brando Benifei sur l\u2019AI Act | Le Grand Continent\",\"isPartOf\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2024\/01\/SUMMIT_GRAND_CONTINENT_1231_Brando-Benifei_umbertocostamagnaA\u00a92023-scaled.jpg\",\"datePublished\":\"2024-01-05T05:32:00+00:00\",\"dateModified\":\"2024-01-05T08:33:02+00:00\",\"author\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/a1c2123a1ef5abd663fcde8f63063d45\"},\"breadcrumb\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/#breadcrumb\"},\"inLanguage\":\"fr-FR\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"fr-FR\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/#primaryimage\",\"url\":\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2024\/01\/SUMMIT_GRAND_CONTINENT_1231_Brando-Benifei_umbertocostamagnaA\u00a92023-scaled.jpg\",\"contentUrl\":\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2024\/01\/SUMMIT_GRAND_CONTINENT_1231_Brando-Benifei_umbertocostamagnaA\u00a92023-scaled.jpg\",\"width\":1919,\"height\":2560},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Accueil\",\"item\":\"https:\/\/legrandcontinent.eu\/fr\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"\u00ab&#160;Les mod\u00e8les les plus avanc\u00e9s d\u2019IA font peser un risque syst\u00e9mique&#160;\u00bb, une conversation avec Brando Benifei sur l\u2019AI Act\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#website\",\"url\":\"https:\/\/legrandcontinent.eu\/fr\/\",\"name\":\"Le Grand Continent\",\"description\":\"L&#039;\u00e9chelle pertinente\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/legrandcontinent.eu\/fr\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"fr-FR\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/a1c2123a1ef5abd663fcde8f63063d45\",\"name\":\"Matheo Malik\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"fr-FR\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/62cbadb9f7f0804282928747d8d2051d?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/62cbadb9f7f0804282928747d8d2051d?s=96&d=mm&r=g\",\"caption\":\"Matheo Malik\"}}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"\u00abLes mod\u00e8les les plus avanc\u00e9s d\u2019IA font peser un risque syst\u00e9mique\u00bb, une conversation avec Brando Benifei sur l\u2019AI Act | Le Grand Continent","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/","og_locale":"fr_FR","og_type":"article","og_title":"\u00abLes mod\u00e8les les plus avanc\u00e9s d\u2019IA font peser un risque syst\u00e9mique\u00bb, une conversation avec Brando Benifei sur l\u2019AI Act | Le Grand Continent","og_description":"Que changera vraiment l'AI Act&#160;?  En marge du Sommet Grand Continent, son principal rapporteur, Brando Benifei, revient l'exercice d'\u00e9quilibriste qui consiste \u00e0 r\u00e9guler l'IA tout en favorisant l'innovation. Alors que la moiti\u00e9 du monde est appel\u00e9e aux urnes et que le risque de cette technologie pour les d\u00e9mocraties doit \u00eatre pris au s\u00e9rieux, 2024 sera le premier test grandeur nature pour cette l\u00e9gislation.","og_url":"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/","og_site_name":"Le Grand Continent","article_published_time":"2024-01-05T05:32:00+00:00","article_modified_time":"2024-01-05T08:33:02+00:00","og_image":[{"width":2560,"height":1440,"url":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2024\/01\/gc-brando-scaled.jpg","type":"image\/jpeg"}],"author":"Matheo Malik","twitter_card":"summary_large_image","twitter_image":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2024\/01\/gc-brando-scaled.jpg","twitter_misc":{"\u00c9crit par":"Matheo Malik","Dur\u00e9e de lecture estim\u00e9e":"12 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/","url":"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/","name":"\u00abLes mod\u00e8les les plus avanc\u00e9s d\u2019IA font peser un risque syst\u00e9mique\u00bb, une conversation avec Brando Benifei sur l\u2019AI Act | Le Grand Continent","isPartOf":{"@id":"https:\/\/legrandcontinent.eu\/fr\/#website"},"primaryImageOfPage":{"@id":"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/#primaryimage"},"image":{"@id":"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/#primaryimage"},"thumbnailUrl":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2024\/01\/SUMMIT_GRAND_CONTINENT_1231_Brando-Benifei_umbertocostamagnaA\u00a92023-scaled.jpg","datePublished":"2024-01-05T05:32:00+00:00","dateModified":"2024-01-05T08:33:02+00:00","author":{"@id":"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/a1c2123a1ef5abd663fcde8f63063d45"},"breadcrumb":{"@id":"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/#breadcrumb"},"inLanguage":"fr-FR","potentialAction":[{"@type":"ReadAction","target":["https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/"]}]},{"@type":"ImageObject","inLanguage":"fr-FR","@id":"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/#primaryimage","url":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2024\/01\/SUMMIT_GRAND_CONTINENT_1231_Brando-Benifei_umbertocostamagnaA\u00a92023-scaled.jpg","contentUrl":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2024\/01\/SUMMIT_GRAND_CONTINENT_1231_Brando-Benifei_umbertocostamagnaA\u00a92023-scaled.jpg","width":1919,"height":2560},{"@type":"BreadcrumbList","@id":"https:\/\/legrandcontinent.eu\/fr\/2024\/01\/05\/les-modeles-les-plus-avances-dia-font-peser-un-risque-systemique-une-conversation-avec-brando-benifei-sur-lai-act\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Accueil","item":"https:\/\/legrandcontinent.eu\/fr\/"},{"@type":"ListItem","position":2,"name":"\u00ab&#160;Les mod\u00e8les les plus avanc\u00e9s d\u2019IA font peser un risque syst\u00e9mique&#160;\u00bb, une conversation avec Brando Benifei sur l\u2019AI Act"}]},{"@type":"WebSite","@id":"https:\/\/legrandcontinent.eu\/fr\/#website","url":"https:\/\/legrandcontinent.eu\/fr\/","name":"Le Grand Continent","description":"L&#039;\u00e9chelle pertinente","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/legrandcontinent.eu\/fr\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"fr-FR"},{"@type":"Person","@id":"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/a1c2123a1ef5abd663fcde8f63063d45","name":"Matheo Malik","image":{"@type":"ImageObject","inLanguage":"fr-FR","@id":"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/62cbadb9f7f0804282928747d8d2051d?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/62cbadb9f7f0804282928747d8d2051d?s=96&d=mm&r=g","caption":"Matheo Malik"}}]}},"term_position_data":null,"_links":{"self":[{"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/posts\/214374","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/users\/10"}],"replies":[{"embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/comments?post=214374"}],"version-history":[{"count":0,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/posts\/214374\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/media\/214376"}],"wp:attachment":[{"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/media?parent=214374"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/categories?post=214374"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/tags?post=214374"},{"taxonomy":"staff","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/staff?post=214374"},{"taxonomy":"editorial_format","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/editorial_format?post=214374"},{"taxonomy":"serie","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/serie?post=214374"},{"taxonomy":"audience","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/audience?post=214374"},{"taxonomy":"geo","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/geo?post=214374"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}