{"id":122558,"date":"2021-10-06T23:09:13","date_gmt":"2021-10-06T21:09:13","guid":{"rendered":"https:\/\/legrandcontinent.eu\/fr\/?p=122558"},"modified":"2021-10-07T17:57:28","modified_gmt":"2021-10-07T15:57:28","slug":"les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem","status":"publish","type":"post","link":"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/","title":{"rendered":"Les nouveaux oracles, une conversation avec Vincent Berthet et L\u00e9o Amsellem"},"content":{"rendered":"\n

De mani\u00e8re g\u00e9n\u00e9rale, vous identifiez que la question de l\u2019utilisation des techniques modernes d\u2019intelligence artificielle (IA) dans la soci\u00e9t\u00e9 installe de facto <\/em>un match algorithme vs<\/em> humain. Vous voulez en objectiver l\u2019\u00e9valuation en rejetant les impasses que constituent le solutionnisme technologique ou la posture technophobe et vous proposez une troisi\u00e8me voie : une approche de la pr\u00e9diction algorithmique \u00e0 la fois pragmatique et positive. Pouvez-vous nous d\u00e9crire en quoi consiste cette approche ?<\/strong><\/h3>\n\n\n\n

Vincent Berthet<\/strong><\/h4>\n\n\n\n

Nous d\u00e9fendons une approche pragmatique et positive de la technologie en mati\u00e8re de s\u00e9curit\u00e9. L\u2019approche pragmatique renvoie \u00e0 deux crit\u00e8res : l\u2019efficacit\u00e9 et l\u2019\u00e9quit\u00e9. Cela renvoie au fait de comparer de fa\u00e7on syst\u00e9matique et objective l\u2019approche humaine et l\u2019approche algorithmique. Le crit\u00e8re d\u2019efficacit\u00e9 c\u2019est la performance. Par exemple, dans le cas du logiciel COMPAS qui estime le risque de r\u00e9cidive, cela renvoie \u00e0 la question : est-ce l\u2019humain ou l\u2019algorithme qui est capable de mieux pr\u00e9dire le risque de r\u00e9cidive ? Donc dans ce cas on dispose d\u2019un crit\u00e8re objectif et on peut objectiver la performance. Le deuxi\u00e8me crit\u00e8re qui concerne le pragmatisme est l\u2019\u00e9quit\u00e9. Cela renvoie \u00e0 la question des biais algorithmiques. Il s\u2019agit de savoir si c\u2019est l\u2019humain ou l’algorithme qui est le plus biais\u00e9. Je viens des sciences cognitives qui ont \u00e9t\u00e9 ma voie d\u2019entr\u00e9e sur le sujet et beaucoup des travaux dans ce domaine gagnent \u00e0 \u00eatre connus. Sur ces deux aspects, nous citons dans le livre plusieurs \u00e9tudes qui ont r\u00e9alis\u00e9 ce travail de comparaison sur ces deux crit\u00e8res (efficacit\u00e9 et \u00e9quit\u00e9) : l\u2019\u00e9tude sur le logiciel COMPAS et l\u2019\u00e9tude de Kleinberg sur la mise en d\u00e9tention provisoire <\/span>1<\/sup><\/a><\/span><\/span>. Il montre dans une publication de Quaterly journal of economics<\/em> que l\u2019algorithme peut \u00eatre \u00e0 la fois plus efficace et plus \u00e9quitable que l\u2019humain et qu\u2019on \u00e9chappe ainsi au dilemme entre les deux. Pour nous ce genre de travail devrait \u00eatre men\u00e9 de mani\u00e8re plus syst\u00e9matique. L\u2019approche positive concerne le crit\u00e8re des libert\u00e9s car les technologies de s\u00e9curit\u00e9, par d\u00e9finition, peuvent \u00eatre attentatoires aux libert\u00e9s. Il faut ici comprendre le concept de \u00ab positif \u00bb dans le sens o\u00f9 l\u2019on cherche \u00e0 d\u00e9passer le compromis entre la s\u00e9curit\u00e9 et la libert\u00e9. Nous rejoignons sur ce point une analyse de Peter Thiel<\/a> en ce que si la technologie est bien con\u00e7ue, elle peut \u00e9chapper \u00e0 ce compromis. Nous ne sommes pas enferm\u00e9s dans le cadre \u00ab \u00e9thique mais peu efficace \u00bb versus \u00ab efficace mais peu \u00e9thique \u00bb.\u00a0<\/p>\n\n\n\n

D\u2019ailleurs le plan pour l\u2019IA de la\u00a0Commission europ\u00e9enne a pour ambition de faire advenir une \u00ab IA de confiance \u00bb. Le terme de \u00ab confiance \u00bb est choisi plut\u00f4t que \u00ab IA fiable \u00bb. Y voyez-vous une volont\u00e9 d\u2019inclure cette dimension psychologique ?<\/strong><\/h3>\n\n\n\n

La dimension de confiance r\u00e9v\u00e8le les craintes que g\u00e9n\u00e8rent les algorithmes. Mettre en avant la dimension de confiance c\u2019est s’attaquer aux craintes relatives \u00e0 l’\u00e9quit\u00e9 et aux biais. La confiance dans les algorithmes conditionne d\u2019ailleurs l\u2019efficacit\u00e9 des algorithmes. Par exemple pour StopCovid, la premi\u00e8re version, durant le premier confinement, n\u2019a \u00e9t\u00e9 que tr\u00e8s peu t\u00e9l\u00e9charg\u00e9e, ce qui a rendu l\u2019efficacit\u00e9 de StopCovid limit\u00e9e. Donc la question de la confiance conditionne en partie l\u2019efficacit\u00e9.\u00a0<\/p>\n\n\n\n

L\u00e9o Amsellem <\/strong><\/h4>\n\n\n\n

Effectivement, \u00ab fiable \u00bb ne fait que r\u00e9f\u00e9rence au crit\u00e8re d\u2019efficacit\u00e9. C\u2019est un \u00e9l\u00e9ment n\u00e9cessaire mais la confiance induit une \u00e9tape suppl\u00e9mentaire. Ce n\u2019est plus seulement une relation verticale mais c\u2019est la capacit\u00e9 \u00e0 faire accepter cette politique publique. \u00c0 titre d\u2019exemple, l\u2019utilisation de l\u2019IA dans la police ou l\u2019administration ne doit pas \u00eatre subie : il faut que les agents aient envie d\u2019utiliser cet outil. \u00c0 terme, pour que les nouvelles technologies am\u00e9liorent l\u2019action publique, il faut cr\u00e9er du consentement de la part des agents de l\u2019\u00c9tat et donc de la confiance.<\/p>\n\n\n\n

Vous rappelez que depuis 1830 et la \u00ab physique sociale \u00bb d\u2019Adolphe Qu\u00e9telet, les scientifiques tentent d\u2019extraire des r\u00e9gularit\u00e9s statistiques des \u00e9v\u00e9nements et des comportements sociaux. L\u2019introduction de l\u2019IA dans la sph\u00e8re r\u00e9galienne s\u2019inscrit-elle dans cette continuit\u00e9 historique comme un simple prolongement de tendance ou est-elle le signe d\u2019une acc\u00e9l\u00e9ration radicale et in\u00e9dite de l\u2019utilisation de la technique dans la vie de la cit\u00e9 ?<\/strong><\/h3>\n\n\n\n

V<\/strong>incent Berthet<\/h4>\n\n\n\n

C\u2019est toute la question de savoir s’il y a un changement de degr\u00e9 ou de nature. En l\u2019\u00e9tat actuel des choses, cela reste un changement de degr\u00e9 : l\u2019IA prolonge cette tendance ancienne \u00e0 s’appuyer sur les nombres et la statistique. Cependant, elle a un potentiel disruptif par rapport \u00e0 ces m\u00e9thodes classiques.\u00a0<\/p>\n\n\n\n

L\u00e9o Amsellem<\/strong><\/h4>\n\n\n\n

Nous n’en sommes pas encore au changement de nature. Les outils de police pr\u00e9dictive mobilisant de l\u2019IA sont des am\u00e9liorations incr\u00e9mentales utilisant encore des cartes de chaleur. C\u2019est un prolongement et une acc\u00e9l\u00e9ration notamment par la masse de donn\u00e9es que l\u2019on peut accumuler et la capacit\u00e9 de calcul que l\u2019on peut mobiliser.<\/p>\n\n\n\n

Les algorithmes pr\u00e9dictifs au service de la Justice<\/strong><\/h2>\n\n\n\n

Au cours des trente derni\u00e8res ann\u00e9es, la justice p\u00e9nale am\u00e9ricaine a accru son utilisation des outils statistiques s\u2019appuyant sur des bases de donn\u00e9es historiques pour estimer le risque de r\u00e9cidive par exemple <\/span>2<\/sup><\/a><\/span><\/span>. Pourtant ces risques sont depuis les ann\u00e9es 1920 un objet d\u2019\u00e9tudes pour les criminologues et psychologues. Quels attraits ces solutions pr\u00e9sentent-elles pour justifier une telle adoption de ces outils ? <\/strong><\/h3>\n\n\n\n

Vincent Berthet <\/strong><\/h4>\n\n\n\n

Ces tendances \u00e0 la quantification du risque et \u00e0 l’utilisation de la statistique dans la justice p\u00e9nale remontent au d\u00e9but du XX\u00e8me si\u00e8cle notamment avec les travaux de l\u2019\u00e9cole de Chicago. Aux \u00c9tats-Unis, il y a une coh\u00e9rence de long terme d\u2019utilisation de ces outils et les outils modernes d\u2019IA ne font que prolonger cette tendance. L’int\u00e9r\u00eat pour la justice am\u00e9ricaine, c\u2019est la ma\u00eetrise de l’al\u00e9a judiciaire qui dans leur syst\u00e8me de common law<\/em> fait vraiment sens. Un jalon important de ce processus est le Sentencing Reform Act<\/em> vot\u00e9 en 1984 qui fixe des lignes directrices dans la d\u00e9termination de la peine. Lib\u00e9raux et conservateurs s\u2019accordent sur le fait qu\u2019il y a trop d\u2019al\u00e9a dans la d\u00e9termination de la peine et que plus d\u2019encadrement est n\u00e9cessaire. Les outils de quantification et d\u2019objectivation du risque, c’est-\u00e0-dire du niveau de dangerosit\u00e9 des pr\u00e9venus permettent de poursuivre cette finalit\u00e9 tr\u00e8s pragmatique : en donnant la possibilit\u00e9 de mieux \u00e9valuer le niveau de dangerosit\u00e9 d\u2019un individu, ils permettent \u00e0 la fois d\u2019am\u00e9liorer la s\u00e9curit\u00e9 publique et de d\u00e9sengorger les prisons (en am\u00e9nageant les peines des individus les moins dangereux). Au Canada, des rapports montrent ces effets : le taux d\u2019incarc\u00e9ration est nettement moindre que dans les autres pays comparables de l\u2019OCDE.\u00a0<\/p>\n\n\n\n

Quel est l\u2019\u00e9tat de la justice pr\u00e9dictive en France ? Quels sont les principaux facteurs permettant d\u2019expliquer la diff\u00e9rence entre les approches fran\u00e7aises et am\u00e9ricaines ? Est-ce le fait de diff\u00e9rences de syst\u00e8mes juridiques (la common law<\/em> favorise l\u2019approche statistique contrairement au droit codifi\u00e9 de la civil law<\/em>), de diff\u00e9rences de culture juridique ou de maturit\u00e9 de l’\u00e9cosyst\u00e8me technologique (open data<\/em> notamment) ?<\/strong><\/h3>\n\n\n\n

La justice pr\u00e9dictive poss\u00e8de ceci de paradoxal qu\u2019elle a pour ambition de r\u00e9duire l’al\u00e9a judiciaire <\/span>4<\/sup><\/a><\/span><\/span> (surestimation du risque, subjectivit\u00e9, biais et bruit de la d\u00e9cision humaine telle que d\u00e9crite par Daniel Kahneman) mais semble \u00e0 la fois compromettre l\u2019ind\u00e9pendance des juges et leur libert\u00e9 d\u2019appr\u00e9ciation. Peut-on r\u00e9soudre ce conflit ?<\/strong><\/h3>\n\n\n\n

Nous avons en quelque sorte deux extr\u00eames th\u00e9oriques : nous aurions, d\u2019un c\u00f4t\u00e9, le juge dans les pays de civil law<\/em> qui a un pouvoir d\u2019appr\u00e9ciation et de discr\u00e9tion tr\u00e8s important pour prendre sa d\u00e9cision et de l\u2019autre une justice enti\u00e8rement automatis\u00e9e o\u00f9 les d\u00e9cisions de justice seraient prises par des algorithmes. Entre ces deux extr\u00eames, il y a des interm\u00e9diaires. Concr\u00e8tement, aux \u00c9tats-Unis, la recommandation de l\u2019algorithme est fournie au juge. La subjectivit\u00e9 du juge reste donc toujours importante car il a la possibilit\u00e9 de prendre en compte ou non cette recommandation de l\u2019algorithme. Ce qui est certain, c\u2019est que la d\u00e9cision judiciaire doit rester humaine. Cela rejoint un peu la question sur la confiance \u00e9voqu\u00e9e plus haut. Peu de justiciables accepteraient d’\u00eatre jug\u00e9 par un algorithme. Quand bien m\u00eame l’al\u00e9a judiciaire existe, on pr\u00e9f\u00e8re subir cette erreur lorsqu\u2019elle provient d\u2019un humain plut\u00f4t que quand elle provient de la machine.<\/p>\n\n\n\n

Les algorithmes pr\u00e9dictifs au service de la police<\/strong><\/h2>\n\n\n\n

Par essence, l\u2019action de la police est une action ex post<\/em>, principalement orient\u00e9e vers la r\u00e9pression des crimes et des d\u00e9lits. En quoi le changement de paradigme qu\u2019introduit la justice pr\u00e9dictive compromet-elle cette approche en la faisant glisser vers une action ex ante<\/em>, que vous qualifiez de \u00ab philosophie Minority Report<\/em>\u00ab ? <\/strong> <\/h3>\n\n\n\n

L<\/strong>\u00e9o Amsellem<\/h4>\n\n\n\n

La police a effectivement un r\u00f4le r\u00e9pressif m\u00eame si elle a aussi vocation \u00e0 pr\u00e9venir certains comportements. Ainsi, un radar va sanctionner un automobiliste qui roule trop vite mais va aussi en dissuader d\u2019autres d\u2019adopter ce comportement. Avec ces nouvelles technologies, on observe un basculement vers l\u2019action ex ante<\/em>, c\u2019est la promesse d\u2019actions pr\u00e9ventives voire vers une philosophie Minority Report<\/em> c’est-\u00e0-dire une action r\u00e9pressive ex ante<\/em> : l\u2019arrestation d\u2019un criminel avant qu\u2019il ne commette un acte. Dans le cas d’esp\u00e8ce, ce n\u2019est pas ce qu\u2019on fait. Les principaux logiciels de police pr\u00e9dictive sont plus port\u00e9s sur de la pr\u00e9diction de lieux o\u00f9 la criminalit\u00e9 ou les d\u00e9lits les plus courants vont \u00eatre commis. La philosophie Minority Report<\/em> reste \u00e0 l’heure actuelle une promesse marketing. Nous pouvons la d\u00e9crire comme un cocktail californien : la combinaison entre la science-fiction hollywoodienne et la pr\u00e9tention pr\u00e9dictive de la Silicon Valley li\u00e9e \u00e0 sa capacit\u00e9 technique. Dans les faits, on ne dispose pas d’\u00e9l\u00e9ments permettant de d\u00e9montrer qu\u2019il y aurait l\u2019\u00e9mergence d\u2019une police pr\u00e9dictive. En se basant sur l\u2019audit de mars 2019 de l\u2019inspecteur g\u00e9n\u00e9ral du LAPD et sur les travaux en France d’Isma\u00ebl Benslimane qui montrent que nous sommes plut\u00f4t dans le cadre d’une am\u00e9lioration de syst\u00e8mes d\u00e9j\u00e0 existants que dans l\u2019\u00e9mergence d\u2019une v\u00e9ritable police pr\u00e9dictive. Il faut ainsi distinguer l\u2019aspect marketing de la r\u00e9alit\u00e9 de ces outils de gestion classique, am\u00e9lior\u00e9s. Ce d\u00e9bat gagnerait \u00e0 se recentrer sur ce que sont r\u00e9ellement ces outils pour ne pas duper les forces de police qui vont l\u2019utiliser ni les citoyens qui vont en b\u00e9n\u00e9ficier ou le subir. L\u2019exemple fran\u00e7ais que l\u2019on a de cela, c\u2019est notamment une exp\u00e9rimentation dans l\u2019Oise par la gendarmerie de PredVol, un logiciel qui devait anticiper les vols de voitures avec une forte ambition pr\u00e9dictive. Apr\u00e8s une exp\u00e9rience peu concluante, les forces de gendarmerie ont pr\u00e9f\u00e9r\u00e9 un outil plus standard de visualisation de donn\u00e9es, Paved.\u00a0<\/p>\n\n\n\n

Dans l\u2019approche pragmatique que vous promouvez, une \u00e9valuation scientifique et transparente de l\u2019efficacit\u00e9 des outils est essentielle. Or vous notez que ces m\u00e9thodes au service de la police rev\u00eatent des r\u00e9alit\u00e9s tr\u00e8s diff\u00e9rentes selon les conditions de leur utilisation ou de l\u2019enregistrement des donn\u00e9es d’entra\u00eenement des mod\u00e8les d\u2019IA ce qui complexifie leur l\u2019\u00e9valuation. Concevoir un audit pertinent <\/span>5<\/sup><\/a><\/span><\/span> ne reviendrait-il pas \u00e0 devoir comprendre avec pr\u00e9cision la cha\u00eene causale de ph\u00e9nom\u00e8nes sociaux complexes ou de facteurs organisationnels dans la police pour pr\u00e9dire la d\u00e9linquance ?  <\/strong><\/h3>\n\n\n\n

La question de l’\u00e9valuation dans la perspective pragmatique qu\u2019on essaye de d\u00e9velopper est effectivement cruciale. Pour r\u00e9aliser le calcul co\u00fbt-efficacit\u00e9, il faut pouvoir estimer l\u2019efficacit\u00e9. Or cette estimation est soumise \u00e0 plusieurs limitations : d\u2019abord, l\u2019aspect d\u2019auto\u00e9valuation c\u2019est-\u00e0-dire le fait que le code ne soit pas public pour une majorit\u00e9 de ces syst\u00e8mes d\u00e9velopp\u00e9s par le secteur priv\u00e9 limite la recherche sur ces outils. De plus, ce sont les forces de police elles-m\u00eames qui fournissent au logiciel leur estimation de l\u2019efficacit\u00e9  qu\u2019elles pensent avoir obtenu gr\u00e2ce \u00e0 son utilisation. Or comme on le disait, il y a deux \u00e9l\u00e9ments. Il y a a la fois le fait de r\u00e9primer un flagrant d\u00e9lit et le fait de le pr\u00e9venir. Or en envoyant les forces de police dans les zones tr\u00e8s criminog\u00e8nes, elles peuvent souvent valider la pr\u00e9diction du logiciel en pensant qu\u2019elles ont emp\u00each\u00e9 un crime de se produire. Le succ\u00e8s est donc garanti \u00e0 tous les coups pour le logiciel. Un second obstacle \u00e0 l’\u00e9valuation r\u00e9side dans le fait que l\u2019algorithme de machine learning<\/em> ne peut estimer une cha\u00eene causale entre diff\u00e9rents \u00e9l\u00e9ments sociaux en exploitant uniquement de grandes bases de donn\u00e9es pour r\u00e9gulariser des statistiques. On essaye de pr\u00e9dire le dernier maillon de la cha\u00eene et donc l\u2019\u00e9valuation ne porte pas tant sur la pr\u00e9diction de l\u2019algorithme que sur le r\u00e9sultat final. Enfin, il faut \u00eatre au clair sur le crit\u00e8re d\u2019efficacit\u00e9 : appr\u00e9hender davantage de d\u00e9linquants ou rassurer la population et pr\u00e9venir les crimes par exemple. Cela rel\u00e8ve davantage d\u2019une question politique que technique qui n’est pas assez pos\u00e9e. Enfin, le probl\u00e8me de la qualit\u00e9 de l\u2019enregistrement des donn\u00e9es par les forces de police constitue aussi en lui-m\u00eame un obstacle. En France, nous avons un probl\u00e8me profond relatif aux statistiques de la d\u00e9linquance : l\u2019outil que l\u2019on utilise, l’\u00e9tat 4001<\/em>, est tr\u00e8s critiquable en lui m\u00eame et extr\u00eamement biais\u00e9 et nous avons un probl\u00e8me de culture statistique illustr\u00e9 r\u00e9cemment par la suppression de l\u2019Observatoire National de la D\u00e9linquance et des R\u00e9ponses P\u00e9nales (ONDRP) qui faisait de la statistique pour les forces de s\u00e9curit\u00e9 int\u00e9rieure. Nous ne sommes donc pas en capacit\u00e9 de mettre en \u0153uvre et d\u2019\u00e9valuer ces logiciels pour l\u2019instant.<\/p>\n\n\n\n

Si vous rappelez que la puissance publique n\u2019a pas attendu l’av\u00e8nement de l\u2019IA pour prendre des dispositions de contr\u00f4le ex ante<\/em> en mati\u00e8re de s\u00e9curit\u00e9 (Children Act<\/em> adopt\u00e9 au Royaume-Uni en 1989 ou loi fran\u00e7aise du 25 f\u00e9vrier 2008 sur la r\u00e9tention de s\u00fbret\u00e9, ou fichier S), vous identifiez un danger suppl\u00e9mentaire dans l\u2019utilisation d\u2019une technologie guidant les actions de police et qui aurait \u00e9t\u00e9 entra\u00een\u00e9e sur des donn\u00e9es historiques : celui de la proph\u00e9ties autor\u00e9alisatrice, de l\u2019effet de r\u00e9troaction ou encore de \u00ab l’effet de cliquet \u00bb.  Quels en sont les ressorts et les cons\u00e9quences pour la soci\u00e9t\u00e9 ?<\/strong><\/h3>\n\n\n\n

La logique pr\u00e9dictive pr\u00e9existe \u00e0 ces technologies. Ce risque est donc presque contre-intuitif dans le sens o\u00f9 on s’attendait \u00e0 ce que l\u2019utilisation d\u2019outils math\u00e9matiques permette une plus grande neutralit\u00e9, une absence de biais mais ce n\u2019est pas ce que l\u2019on constate dans les faits. Le ciblage des zones criminog\u00e8nes par ces outils est souvent corr\u00e9l\u00e9 avec les lieux de vie des populations les plus d\u00e9favoris\u00e9es. En particulier, comme le montre la recherche, aux \u00c9tats-unis l\u2019action de la police se concentre sur les minorit\u00e9s surrepr\u00e9sent\u00e9es dans les faits de d\u00e9linquance constat\u00e9s. Or en concentrant l\u2019action de police sur une minorit\u00e9 de la population surrepr\u00e9sent\u00e9e dans les faits de d\u00e9linquance, on finit par incarc\u00e9rer cette population dans une proportion elle-m\u00eame surrepr\u00e9sent\u00e9e par rapport \u00e0 la criminalit\u00e9 r\u00e9elle de cette sous-cat\u00e9gorie de population dans le total. C\u2019est la conclusion de travaux de Bernard Harcourt<\/a>, qui th\u00e9orise les effets de cliquet (Cathy O\u2019Neil parle d\u2019effet de r\u00e9troaction pour \u00e9voquer le m\u00eame processus). L\u2019effet de cliquet ou de r\u00e9troaction signifie qu\u2019il n\u2019y a ensuite plus de retour possible et on enferme ces populations dans un processus s\u00e9curitaire et r\u00e9pressif. Nous pouvons compl\u00e9ter cette analyse avec des travaux de sociologie, notamment ceux de Tracey Meares de Yale law school, qui montrent que la prison n\u2019a pas de vertu r\u00e9habilitative. En cons\u00e9quence, en concentrant l\u2019action de police sur ces quartiers, r\u00e9duit-on vraiment la d\u00e9linquance ou appr\u00e9hende-t-on davantage de d\u00e9linquants qui ressortent, et r\u00e9cidivent, contribuant ainsi \u00e0 la paup\u00e9risation, \u00e0 la pr\u00e9carisation dans ces quartiers ? D\u00e8s lors, ce cercle vicieux constitue un effet performatif, autor\u00e9alisateur \u00e9voqu\u00e9 dans la question et qui a un c\u00f4t\u00e9 d\u00e9terministe car assigne un \u00e9tiquetage social dont il est difficile de se d\u00e9partir \u00e0 la fois pour les individus et pour les quartiers en question. Soulignons toutefois que ce ph\u00e9nom\u00e8ne est ant\u00e9rieur \u00e0 l’utilisation de l\u2019IA. Ce risque peut cependant \u00eatre renforc\u00e9 par ces outils. Pour Bilel Benbouzid, un chercheur fran\u00e7ais qui s\u2019int\u00e9resse \u00e0 ce sujet, l\u2019utilisation de ces outils est politiquement marqu\u00e9e.<\/p>\n\n\n\n

Les algorithmes pr\u00e9dictifs au service du renseignement<\/strong><\/h2>\n\n\n\n

Le renseignement repr\u00e9sente un exemple typique pour illustrer le concept de management scientifique<\/em> o\u00f9 les outils algorithmiques sont con\u00e7us pour compl\u00e9ter l\u2019expert humain afin d\u2019optimiser le temps disponible des \u00e9quipes et l\u2019action des services. Cependant, le cadre restreint dans lequel les pr\u00e9dictions des mod\u00e8les d\u2019IA sont valides ne suffit pas pour prendre une d\u00e9cision qui d\u00e9coule d\u2019une strat\u00e9gie multifactorielle. Quelle est l\u2019approche des services de renseignements pour r\u00e9soudre cette question et b\u00e9n\u00e9ficier de la puissance pr\u00e9dictive de l\u2019IA ?<\/strong><\/h3>\n\n\n\n

Les services de renseignement sont effectivement pionniers dans l\u2019utilisation de ces techniques mais \u00e0 nouveau il faut noter que ces outils restent des outils d\u2019aide \u00e0 la d\u00e9cision. Par exemple, l’analyse d\u2019image pour chercher un suspect n\u00e9cessite de visionner des centaines d\u2019heures de vid\u00e9os de cam\u00e9ras de surveillance pour retracer son itin\u00e9raire. On peut soit mettre des dizaines d\u2019agents qui vont travailler laborieusement sur plusieurs jours soit utiliser les syst\u00e8mes de reconnaissance faciale et s\u00e9lectionner pour les enqu\u00eateurs les segments qui seront int\u00e9ressants. Il y a donc davantage une certaine compl\u00e9mentarit\u00e9 plus qu\u2019une opposition entre l\u2019humain et l\u2019algorithme. De la m\u00eame fa\u00e7on, pour l\u2019analyse des m\u00e9tadonn\u00e9es, il ne faut pas opposer le renseignement technique et le renseignement humain. En quelque sorte, le \u00ab Big Data \u00bb rend possible la citation du g\u00e9n\u00e9ral Keith Alexander qui dit que le plus simple pour trouver l’aiguille dans la botte de foin c\u2019est de contr\u00f4ler toute la botte de foin. Ceci serait impossible avec un renseignement uniquement humain. L\u2019algorithme fait remonter les informations pertinentes et fait gagner du temps aux enqu\u00eateurs. Ces informations sont ensuite pass\u00e9es au peigne fin de l\u2019expertise humaine par du profilage classique.<\/p>\n\n\n\n

Il faut toutefois reconna\u00eetre que nous ne disposons pas de chiffres ou d\u2019\u00e9l\u00e9ments statistiques, eu \u00e9gard \u00e0 la mission de souverainet\u00e9 de ces services, pour trancher d\u00e9finitivement la question. Finalement, il faut s\u2019en remettre, pour trouver cet \u00e9quilibre, \u00e0 des institutions sp\u00e9cialis\u00e9es qui doivent avoir un meilleur acc\u00e8s aux chiffres et aux m\u00e9thodes des services, comme la d\u00e9l\u00e9gation parlementaire au renseignement (DPR) ou l\u2019inspection des services de renseignements (ISR). <\/p>\n\n\n\n

En France, vous soulignez qu’il a \u00e9t\u00e9 confi\u00e9 \u00e0 Palantir, une entreprise am\u00e9ricaine financ\u00e9e par la CIA, l\u2019analyse de m\u00e9tadonn\u00e9es issues d\u2019op\u00e9rateurs de t\u00e9l\u00e9communication, dont d\u00e9pendraient la souverainet\u00e9 de la France et la s\u00e9curit\u00e9 de ses citoyens faute d’une solution fran\u00e7aise comp\u00e9titive. De m\u00eame, la collaboration sur la vid\u00e9oprotection entre la Mairie de Nice et une startup isra\u00e9lienne illustre l\u2019absence de leader mondial fran\u00e7ais sur la reconnaissance faciale. Quels sont les enjeux que l\u2019irruption d\u2019une technologie telle que l\u2019IA dans les domaines r\u00e9galiens fait peser sur le d\u00e9veloppement de champions industriels fran\u00e7ais et europ\u00e9ens ?\u00a0<\/strong><\/h3>\n\n\n\n

Ce constat, qui est le bon, est li\u00e9 \u00e0 deux \u00e9l\u00e9ments : d\u2019une part une position principielle  en France qui regardait avec beaucoup de circonspection l\u2019utilisation de ces outils d\u2019analyse de la donn\u00e9e et d\u2019autre part \u00e0 un d\u00e9ficit d\u2019innovation et de culture strat\u00e9gique. Ces syst\u00e8mes se d\u00e9veloppent sur le temps long a partir de bases de donn\u00e9es qu\u2019il faut constituer. De plus, il y a du capital humain \u00e0 former. Une fois ces \u00e9tapes pr\u00e9liminaires pass\u00e9es, il y a un vrai avantage comparatif. En 2015, Palantir est la meilleure sur le march\u00e9. La France, subissant de plein fouet la vague d\u2019attentats terroristes brutalement a besoin d\u2019analyse des m\u00e9tadonn\u00e9es. Deux choix s\u2019offrent alors aux d\u00e9cideurs : soit d\u00e9velopper une solution interne et dire aux fran\u00e7ais que les capacit\u00e9s de d\u00e9fense fran\u00e7aises vont mettre dix ans \u00e0 \u00eatre v\u00e9ritablement effectives ou alors signer avec Palantir, ce que la France a fait.<\/p>\n\n\n\n

Cette solution devait \u00eatre \u00ab transitoire \u00bb selon Nicolas Lerner, le patron de la DGSI. Cependant les choses \u00e9voluent dans le bon sens. On observe un r\u00e9veil sur les questions de souverainet\u00e9. Cet \u00e9t\u00e9, nous nous sommes retrouv\u00e9s deux fois confront\u00e9s \u00e0 ce probl\u00e8me de souverainet\u00e9 avec les affaires P\u00e9gasus et AUKUS qui illustrent la n\u00e9cessit\u00e9 de d\u00e9velopper davantage l\u2019autonomie strat\u00e9gique \u00e0 la fois fran\u00e7aise et europ\u00e9enne. Ce mouvement \u00e9tait d\u00e9j\u00e0 en cours depuis l\u2019\u00e9lection de Donald Trump. Le r\u00e9sultat, c\u2019est tr\u00e8s concr\u00e8tement la collaboration entre Thales et Athos pour d\u00e9velopper Ath\u00e9a qui doit remplacer \u00e0 terme Palantir. L\u2019innovation constitue \u00e9galement un d\u00e9fi majeur. Depuis 2013, l’\u00e9cosyst\u00e8me fran\u00e7ais se d\u00e9veloppe grace aux politiques d\u2019innovations radicales qui commencent \u00e0 porter leurs fruits. Dans le domaine de la d\u00e9fense, le minist\u00e8re des arm\u00e9s et la BPI collaborent sur un fond de capital risque, Definvest, pour investir dans des solutions souveraines. On retrouve le sch\u00e9ma de In-Q-Tel, le fond de capital risque de la CIA qui a financ\u00e9 Palantir. Definvest a par exemple investi dans la startup Preligens qui produit de l\u2019analyse d\u2019images satellitaires pour l\u2019arm\u00e9e. Ils vendent leur solution aux \u00c9tats-Unis et au Royaume-Uni notamment. La perspective peut donc se retourner mais il faut laisser du temps \u00e0 l’\u00e9cosyst\u00e8me pour qu\u2019il arrive \u00e0 maturit\u00e9.<\/p>\n\n\n\n

La d\u00e9fense nationale ne rel\u00e8ve pas du champ d\u2019application du droit communautaire d\u2019apr\u00e8s le Trait\u00e9 sur l\u2019Union europ\u00e9enne. Ainsi le RGPD ou l’arr\u00eat de la Cour de Justice de l\u2019Union Europ\u00e9enne d\u2019octobre 2020 qui s\u2019oppose \u00e0 la collecte et la conservation indiscrimin\u00e9es et g\u00e9n\u00e9ralis\u00e9es de m\u00e9tadonn\u00e9es ne s\u2019appliquent pas aux dispositions  issues de la loi SILT de 2017 et du renseignement int\u00e9rieur de 2015 qui permettent \u00e0 la DGSE d\u2019utiliser des mod\u00e8les d\u2019IA \u00ab bo\u00eetes noires \u00bb dont le processus de d\u00e9cision issu de l’entra\u00eenement des mod\u00e8les demeure opaque pour l\u2019op\u00e9rateur humain. Quels principes de gouvernance et de supervision de ces technologies duales peut-on n\u00e9anmoins mettre en \u0153uvre pour garantir un \u00e9quilibre entre la libert\u00e9 et la s\u00e9curit\u00e9 ?<\/strong><\/h3>\n\n\n\n

Nous avons identifi\u00e9 trois \u00e9l\u00e9ments que nous appelons la triple garantie. Premi\u00e8rement, la garantie juridictionnelle, celle de l\u2019\u00e9tat de droit. La loi est contr\u00f4l\u00e9e par le conseil constitutionnel qui s\u2019appuie sur un principe de proportionnalit\u00e9 : une mesure qui restreint un droit fondamental doit \u00eatre ad\u00e9quat (susceptible de permettre ou de faciliter la r\u00e9alisation d\u2019un but recherch\u00e9), elle est n\u00e9cessaire (elle n’exc\u00e8de pas le but poursuivi) et elle est proportionn\u00e9e (permet de concilier les libert\u00e9s et les int\u00e9r\u00eats fondamentaux de la nation et l\u2019ordre public). En plus du conseil constitutionnel, il y a aussi le contr\u00f4le par le juge administratif. La deuxi\u00e8me garantie est la garantie administrative : pour la reconnaissance faciale, c\u2019est la CNIL qui op\u00e8re comme une administration ind\u00e9pendante. Les services d’inspection peuvent aussi jouer ce r\u00f4le de contr\u00f4le pourvu qu\u2019il y ait cette garantie d\u2019ind\u00e9pendance, ainsi que la Commission nationale de contr\u00f4le des techniques de renseignement (CNCTR). La troisi\u00e8me garantie est la garantie politique. Elle d\u00e9pend de la d\u00e9l\u00e9gation parlementaire au renseignement (DPR) et nous serions favorables \u00e0 renforcer son pouvoir d’enqu\u00eate voire de publication de la DPR. Nous avons \u00e9t\u00e9 tr\u00e8s int\u00e9ress\u00e9s par l\u2019exemple de la commission du renseignement du S\u00e9nat am\u00e9ricain, qui est sensiblement plus puissante et dont on pourrait s\u2019inspirer.<\/p>\n\n\n\n

En s\u2019opposant sur des choix technologiques antagonistes, les puissances s\u2019affrontent sur leur mod\u00e8le de soci\u00e9t\u00e9 et leurs strat\u00e9gies d\u2019influence. Vous d\u00e9crivez la soci\u00e9t\u00e9 panoptique chinoise et la politique de pers\u00e9cution des ou\u00efghours, d\u00e9ployable \u00e0 une \u00e9chelle jamais atteinte, pr\u00e9cis\u00e9ment gr\u00e2ce \u00e0 la technologie. Ces nouvelles armes g\u00e9opolitiques et de surveillance interne dessinent les contours de ce que vous nommez \u00ab un nouveau d\u00e9fi civilisationnel \u00bb. Une innovation \u00e0 l’europ\u00e9enne garantissant un \u00e9quilibre permanent entre la libert\u00e9 et la s\u00e9curit\u00e9 et l\u2019attachement \u00e0 la r\u00e8gle de droit peut-elle aider les d\u00e9mocraties \u00e0 faire la preuve de leurs d\u2019efficacit\u00e9 face \u00e0 aux visions int\u00e9gr\u00e9es et de long terme des puissances autoritaires ? <\/strong><\/h3>\n\n\n\n

On constate effectivement que plusieurs mod\u00e8les, qui r\u00e9sultent de l\u2019histoire de chaque pays et des caract\u00e9ristiques civilisationnelles s\u2019affrontent. Tout l\u2019enjeu pour nous est d\u2019absorber ce qui nous convient sans se laisser vassaliser d\u2019un point de vue de la technique. Il faut un encadrement par la r\u00e8gle de droit. On a l\u2019exemple de la Chine d\u2019un mod\u00e8le panoptique d\u00e9velopp\u00e9 \u00e0 l’\u00e9chelle continentale et qui ne cache pas son souhait d\u2019exporter ce mod\u00e8le. Ce mod\u00e8le a 25 si\u00e8cles d\u2019anciennet\u00e9 et vient du l\u00e9gisme. C\u2019est l’id\u00e9e qu\u2019il faut appliquer durement la r\u00e8gle car les comportements individuels divergent de l’int\u00e9r\u00eat collectif. Les 200 millions de cam\u00e9ras en Chine sont dans la lign\u00e9e de cette philosophie que le p\u00e8re du syst\u00e8me, Lin Junyue d\u00e9crit comme \u00ab le meilleur moyen de g\u00e9rer efficacement une soci\u00e9t\u00e9 \u00bb. Le compromis efficacit\u00e9-libert\u00e9 est tr\u00e8s simple ici car seule l\u2019efficacit\u00e9 importe. Les droits humains passent apr\u00e8s la paix et la stabilit\u00e9. D\u2019un autre c\u00f4t\u00e9, on a la vision libertarienne des GAFAM am\u00e9ricains et l\u2019Europe se trouve entre les deux. La proposition de cadre juridique sur l\u2019IA du 21 avril 2021 exclue d\u2019ailleurs la notation sociale ou l\u2019utilisation de l\u2019IA \u00e0 des fins de gestion de la libert\u00e9. L\u2019Europe, qui s\u2019est fond\u00e9e sur le droit et par le soft power normatif, doit trouver une voie m\u00e9diane entre la dystopie totalitaire chinoise et sa vassalisation par les GAFAM. Il lui faut trouver un \u00e9quilibre car elle ne peut pas non plus faire l\u2019\u00e9conomie de l\u2019efficacit\u00e9 sous peine d\u2019impuissance publique.<\/p>\n","protected":false},"excerpt":{"rendered":"

Dans Les nouveaux oracles<\/em>, Vincent Berthet et L\u00e9o Amsellem dressent un panorama des exp\u00e9rimentations et des usages des algorithmes pr\u00e9dictifs au service de la justice p\u00e9nale, de la police, de la s\u00e9curit\u00e9 et du renseignement. Au cours de cet entretien, ils analysent la pertinence de l\u2019approche algorithmique lorsqu\u2019elle s\u2019applique aux grands domaines r\u00e9galiens et proposent une voie d’\u00e9quilibre face \u00e0 ce \u00ab nouveau d\u00e9fi civilisationnel \u00bb.<\/p>\n","protected":false},"author":1782,"featured_media":122559,"comment_status":"open","ping_status":"open","sticky":false,"template":"templates\/post-reviews.php","format":"standard","meta":{"_acf_changed":false,"_trash_the_other_posts":false,"_yoast_wpseo_estimated-reading-time-minutes":19,"footnotes":""},"categories":[1729],"tags":[],"staff":[2457],"editorial_format":[4868],"serie":[],"audience":[],"geo":[2163],"class_list":["post-122558","post","type-post","status-publish","format-standard","hentry","category-numerique","staff-victor-storchan","editorial_format-comptes-rendus","geo-monde"],"acf":{"open_in_webview":false,"accent":false,"_thumbnail_id":122559,"excerpt":"Dans Les nouveaux oracles<\/em>, Vincent Berthet et L\u00e9o Amsellem dressent un panorama des exp\u00e9rimentations et des usages des algorithmes pr\u00e9dictifs au service de la justice p\u00e9nale, de la police, de la s\u00e9curit\u00e9 et du renseignement. Au cours de cet entretien, ils analysent la pertinence de l\u2019approche algorithmique lorsqu\u2019elle s\u2019applique aux grands domaines r\u00e9galiens et proposent une voie d'\u00e9quilibre face \u00e0 ce \u00ab\u00a0nouveau d\u00e9fi civilisationnel \u00bb.","display_date":"","new_abstract":true},"yoast_head":"\nLes nouveaux oracles, une conversation avec Vincent Berthet et L\u00e9o Amsellem | Le Grand Continent<\/title>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/\" \/>\n<meta property=\"og:locale\" content=\"fr_FR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Les nouveaux oracles, une conversation avec Vincent Berthet et L\u00e9o Amsellem | Le Grand Continent\" \/>\n<meta property=\"og:description\" content=\"Dans Les nouveaux oracles, Vincent Berthet et L\u00e9o Amsellem dressent un panorama des exp\u00e9rimentations et des usages des algorithmes pr\u00e9dictifs au service de la justice p\u00e9nale, de la police, de la s\u00e9curit\u00e9 et du renseignement. Au cours de cet entretien, ils analysent la pertinence de l\u2019approche algorithmique lorsqu\u2019elle s\u2019applique aux grands domaines r\u00e9galiens et proposent une voie d'\u00e9quilibre face \u00e0 ce \u00ab nouveau d\u00e9fi civilisationnel \u00bb.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/\" \/>\n<meta property=\"og:site_name\" content=\"Le Grand Continent\" \/>\n<meta property=\"article:published_time\" content=\"2021-10-06T21:09:13+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2021-10-07T15:57:28+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2021\/10\/gc-algorithmesreseaux.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1200\" \/>\n\t<meta property=\"og:image:height\" content=\"693\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"clementf\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:image\" content=\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2021\/10\/gc-algorithmesreseaux.jpg\" \/>\n<meta name=\"twitter:label1\" content=\"\u00c9crit par\" \/>\n\t<meta name=\"twitter:data1\" content=\"clementf\" \/>\n\t<meta name=\"twitter:label2\" content=\"Dur\u00e9e de lecture estim\u00e9e\" \/>\n\t<meta name=\"twitter:data2\" content=\"19 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/\",\"url\":\"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/\",\"name\":\"Les nouveaux oracles, une conversation avec Vincent Berthet et L\u00e9o Amsellem | Le Grand Continent\",\"isPartOf\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2021\/10\/gc-algorithmes.jpg\",\"datePublished\":\"2021-10-06T21:09:13+00:00\",\"dateModified\":\"2021-10-07T15:57:28+00:00\",\"author\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/b22879caf2a074c0786f019573977c84\"},\"breadcrumb\":{\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/#breadcrumb\"},\"inLanguage\":\"fr-FR\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"fr-FR\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/#primaryimage\",\"url\":\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2021\/10\/gc-algorithmes.jpg\",\"contentUrl\":\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2021\/10\/gc-algorithmes.jpg\",\"width\":600,\"height\":943},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Accueil\",\"item\":\"https:\/\/legrandcontinent.eu\/fr\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Les nouveaux oracles, une conversation avec Vincent Berthet et L\u00e9o Amsellem\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#website\",\"url\":\"https:\/\/legrandcontinent.eu\/fr\/\",\"name\":\"Le Grand Continent\",\"description\":\"L'\u00e9chelle pertinente\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/legrandcontinent.eu\/fr\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"fr-FR\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/b22879caf2a074c0786f019573977c84\",\"name\":\"clementf\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"fr-FR\",\"@id\":\"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/41f278c3339276cfdaa0b30a33819066?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/41f278c3339276cfdaa0b30a33819066?s=96&d=mm&r=g\",\"caption\":\"clementf\"}}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Les nouveaux oracles, une conversation avec Vincent Berthet et L\u00e9o Amsellem | Le Grand Continent","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/","og_locale":"fr_FR","og_type":"article","og_title":"Les nouveaux oracles, une conversation avec Vincent Berthet et L\u00e9o Amsellem | Le Grand Continent","og_description":"Dans Les nouveaux oracles, Vincent Berthet et L\u00e9o Amsellem dressent un panorama des exp\u00e9rimentations et des usages des algorithmes pr\u00e9dictifs au service de la justice p\u00e9nale, de la police, de la s\u00e9curit\u00e9 et du renseignement. Au cours de cet entretien, ils analysent la pertinence de l\u2019approche algorithmique lorsqu\u2019elle s\u2019applique aux grands domaines r\u00e9galiens et proposent une voie d'\u00e9quilibre face \u00e0 ce \u00ab nouveau d\u00e9fi civilisationnel \u00bb.","og_url":"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/","og_site_name":"Le Grand Continent","article_published_time":"2021-10-06T21:09:13+00:00","article_modified_time":"2021-10-07T15:57:28+00:00","og_image":[{"width":1200,"height":693,"url":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2021\/10\/gc-algorithmesreseaux.jpg","type":"image\/jpeg"}],"author":"clementf","twitter_card":"summary_large_image","twitter_image":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2021\/10\/gc-algorithmesreseaux.jpg","twitter_misc":{"\u00c9crit par":"clementf","Dur\u00e9e de lecture estim\u00e9e":"19 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/","url":"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/","name":"Les nouveaux oracles, une conversation avec Vincent Berthet et L\u00e9o Amsellem | Le Grand Continent","isPartOf":{"@id":"https:\/\/legrandcontinent.eu\/fr\/#website"},"primaryImageOfPage":{"@id":"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/#primaryimage"},"image":{"@id":"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/#primaryimage"},"thumbnailUrl":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2021\/10\/gc-algorithmes.jpg","datePublished":"2021-10-06T21:09:13+00:00","dateModified":"2021-10-07T15:57:28+00:00","author":{"@id":"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/b22879caf2a074c0786f019573977c84"},"breadcrumb":{"@id":"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/#breadcrumb"},"inLanguage":"fr-FR","potentialAction":[{"@type":"ReadAction","target":["https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/"]}]},{"@type":"ImageObject","inLanguage":"fr-FR","@id":"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/#primaryimage","url":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2021\/10\/gc-algorithmes.jpg","contentUrl":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2021\/10\/gc-algorithmes.jpg","width":600,"height":943},{"@type":"BreadcrumbList","@id":"https:\/\/legrandcontinent.eu\/fr\/2021\/10\/06\/les-nouveaux-oracles-une-conversation-avec-vincent-berthet-et-leo-amsellem\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Accueil","item":"https:\/\/legrandcontinent.eu\/fr\/"},{"@type":"ListItem","position":2,"name":"Les nouveaux oracles, une conversation avec Vincent Berthet et L\u00e9o Amsellem"}]},{"@type":"WebSite","@id":"https:\/\/legrandcontinent.eu\/fr\/#website","url":"https:\/\/legrandcontinent.eu\/fr\/","name":"Le Grand Continent","description":"L'\u00e9chelle pertinente","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/legrandcontinent.eu\/fr\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"fr-FR"},{"@type":"Person","@id":"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/b22879caf2a074c0786f019573977c84","name":"clementf","image":{"@type":"ImageObject","inLanguage":"fr-FR","@id":"https:\/\/legrandcontinent.eu\/fr\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/41f278c3339276cfdaa0b30a33819066?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/41f278c3339276cfdaa0b30a33819066?s=96&d=mm&r=g","caption":"clementf"}}]}},"lgc_categories":[{"id":1729,"name":"Num\u00e9rique","slug":"numerique"}],"lgc_author":{"id":2457,"name":"Victor Storchan","slug":"victor-storchan","description":"Victor Storchan est directeur scientifique de la s\u00e9rie \u00ab<a href=\"https:\/\/legrandcontinent.eu\/fr\/2023\/03\/20\/puissances-de-lia-une-introduction-en-10-points-clefs\/\">Puissances de l\u2019IA<\/a> \u00bb dans nos pages, CEO et co-founder d'Althica, il a \u00e9t\u00e9 ing\u00e9nieur en machine learning et vice-pr\u00e9sident de l'IA et du machine learning chez JP Morgan Chase aux \u00c9tats-Unis. Il est dipl\u00f4m\u00e9 en math\u00e9matiques de l'ENS Lyon et titulaire d'un master de Stanford University, o\u00f9 il a \u00e9tudi\u00e9 \u00e0 l'Institute for Computational and Mathematical Engineering.","first_name":null,"last_name":null,"picture":{"url":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2023\/03\/Capture-de\u0301cran-2023-03-20-a\u0300-07.09.44.png","width":586,"height":592,"alt":""}},"feature_image_summary":{"url":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2021\/10\/gc-algorithmes.jpg","width":600,"height":943,"alt":""},"feature_image_cover":{"url":"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2021\/10\/gc-algorithmes.jpg","width":600,"height":943,"alt":""},"term_position_data":null,"_links":{"self":[{"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/posts\/122558","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/users\/1782"}],"replies":[{"embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/comments?post=122558"}],"version-history":[{"count":0,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/posts\/122558\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/media\/122559"}],"wp:attachment":[{"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/media?parent=122558"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/categories?post=122558"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/tags?post=122558"},{"taxonomy":"staff","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/staff?post=122558"},{"taxonomy":"editorial_format","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/editorial_format?post=122558"},{"taxonomy":"serie","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/serie?post=122558"},{"taxonomy":"audience","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/audience?post=122558"},{"taxonomy":"geo","embeddable":true,"href":"https:\/\/legrandcontinent.eu\/fr\/wp-json\/wp\/v2\/geo?post=122558"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}

Tous ces facteurs sont importants pour expliquer les diff\u00e9rences de pratique entre la France et les \u00c9tats-Unis en mati\u00e8re d\u2019utilisation des outils de justice pr\u00e9dictive. Il y a \u00e0 la fois des diff\u00e9rences de fond entre les pays de common law<\/em> et les pays de civil law<\/em>. Dans les pays de common law<\/em>, le droit est jurisprudentiel et le pouvoir d\u2019appr\u00e9ciation du juge est nettement moindre compar\u00e9 aux pays de civil law<\/em>. En France, le juge a un pouvoir d\u2019appr\u00e9ciation \u00e0 la fois sur les faits, sur les \u00e9l\u00e9ments de preuves et sur la peine donc il a un pouvoir discr\u00e9tionnaire tr\u00e8s important. Ainsi, l\u2019utilisation des outils de justice pr\u00e9dictive est beaucoup moins soluble dans les pays de civil law<\/em>. En cons\u00e9quence, ou du moins en corollaire, l’\u00e9cosyst\u00e8me et l’ouverture des donn\u00e9es des d\u00e9cisions de justice est moins avanc\u00e9 en France qu\u2019au \u00c9tats-Unis. En France, cette question \u00e9tait historiquement d\u00e9licate. L\u2019ouverture des donn\u00e9es est inscrite dans la loi depuis la Loi Lemaire de 2016 mais dans le cas des d\u00e9cisions de justice cela a pris beaucoup plus de temps pour un ensemble de raisons pratiques et politiques <\/span>3<\/sup><\/a><\/span><\/span>. La voie est trac\u00e9e depuis un d\u00e9cret de 2020 et un arr\u00eat\u00e9 tr\u00e8s r\u00e9cent d\u2019avril 2021 qui fixe notamment la date d\u2019ouverture des d\u00e9cisions de justice des diff\u00e9rentes juridictions.\u00a0<\/p>\n\n\n\n