{"id":182835,"date":"2023-04-21T09:57:51","date_gmt":"2023-04-21T07:57:51","guid":{"rendered":"https:\/\/legrandcontinent.eu\/fr\/?p=182835"},"modified":"2023-06-29T15:12:55","modified_gmt":"2023-06-29T13:12:55","slug":"pourquoi-litalie-a-t-elle-bloque-chatgpt","status":"publish","type":"post","link":"https:\/\/legrandcontinent.eu\/fr\/2023\/04\/21\/pourquoi-litalie-a-t-elle-bloque-chatgpt\/","title":{"rendered":"Pourquoi l\u2019Italie a-t-elle bloqu\u00e9 ChatGPT ?"},"content":{"rendered":"\n

La mesure d’urgence du 30 mars dernier, par laquelle l’autorit\u00e9 italienne de protection des donn\u00e9es (Garante Privacy<\/em>) a ordonn\u00e9 la \u00ab restriction provisoire du traitement des donn\u00e9es personnelles des personnes concern\u00e9es \u00e9tablies sur le territoire italien \u00bb par OpenAI L.L.C., une soci\u00e9t\u00e9 am\u00e9ricaine qui d\u00e9veloppe et exploite ChatGPT, a suscit\u00e9 une grande attention, non seulement en Italie, mais aussi dans toute l’Europe <\/span>1<\/sup><\/a><\/span><\/span>. La mesure, ordonn\u00e9e par l’autorit\u00e9 italienne en vertu de l’article 58, paragraphe 2, point f) du r\u00e8glement europ\u00e9en sur la protection des donn\u00e9es (RGPD), a suscit\u00e9 une r\u00e9flexion sur l’impact de ce syst\u00e8me sur les donn\u00e9es personnelles, sur la port\u00e9e de l’intervention de l’autorit\u00e9 \u00e9tatique et sur l’ad\u00e9quation du RGPD \u00e0 l’\u00e9volution technologique. Une reconnaissance des diff\u00e9rentes \u00e9tapes de l’affaire peut s’av\u00e9rer utile, accompagn\u00e9e de quelques consid\u00e9rations sur les points les plus controvers\u00e9s.<\/p>\n\n\n\n

La mesure d’urgence du <\/strong>Garante<\/em><\/strong><\/h2>\n\n\n\n

Le Garante<\/em> a mis en cause OpenAI, tout d’abord, pour l’absence d’information sur le traitement des donn\u00e9es via<\/em> ChatGPT, c’est-\u00e0-dire l’absence de communication sur les finalit\u00e9s et les modalit\u00e9s du traitement lui-m\u00eame. Ce qui manque, selon l’autorit\u00e9 italienne, c’est un syst\u00e8me permettant d’assurer la transparence en vue d’un \u00e9ventuel consentement. Deuxi\u00e8mement, la Garante pointe l’absence de base juridique appropri\u00e9e, c’est-\u00e0-dire celle qui rend licite l’utilisation des donn\u00e9es \u00e0 caract\u00e8re personnel (article 6 du RGPD), au niveau de la la collecte des donn\u00e9es et de leur traitement pour entra\u00eener les algorithmes qui sous-tendent le fonctionnement de ChatGPT. Le troisi\u00e8me grief concerne l’inexactitude du traitement des donn\u00e9es, \u00ab puisque les informations fournies par ChatGPT ne correspondent pas toujours aux donn\u00e9es r\u00e9elles \u00bb, comme s’en plaignent de nombreux int\u00e9ress\u00e9s ; enfin, l’absence de \u00ab toute v\u00e9rification de l’\u00e2ge des utilisateurs \u00bb est relev\u00e9e \u2014 alors que, selon les termes publi\u00e9s par OpenAI, le service ChatGPT est r\u00e9serv\u00e9 aux personnes \u00e2g\u00e9es d’au moins 13 ans \u2014 ce qui expose les mineurs en de\u00e7\u00e0 de l’\u00e2ge pr\u00e9vu \u00e0 des r\u00e9ponses \u00ab inadapt\u00e9es \u00e0 leur degr\u00e9 de d\u00e9veloppement et de conscience de soi \u00bb.<\/p>\n\n\n\n

Ce qui manque, selon l’autorit\u00e9 italienne, c’est un syst\u00e8me permettant d’assurer la transparence en vue d’un \u00e9ventuel consentement.<\/p>Vitalba Azzollini<\/cite><\/blockquote><\/figure>\n\n\n\n

L’Autorit\u00e9 a invit\u00e9 OpenAI \u00e0 communiquer les initiatives \u00ab prises pour mettre en \u0153uvre les dispositions prescrites \u00bb et \u00e0 \u00ab fournir tout \u00e9l\u00e9ment jug\u00e9 utile pour justifier les violations soulign\u00e9es ci-dessus \u00bb, dans un d\u00e9lai de vingt jours. \u00c0 la suite de cette mesure, le jour m\u00eame de la d\u00e9cision du Garante<\/em>, la soci\u00e9t\u00e9 a bloqu\u00e9 l’utilisation du service depuis l’Italie, bien que l’autorit\u00e9 n’ait ordonn\u00e9 que la limitation provisoire du traitement des donn\u00e9es des personnes situ\u00e9es en Italie. La limitation consiste, entre autres, \u00e0 rendre certaines donn\u00e9es \u00e0 caract\u00e8re personnel inaccessibles aux utilisateurs ou \u00e0 supprimer temporairement les donn\u00e9es publi\u00e9es par un site afin qu’elles \u00ab ne fassent pas l’objet d’un traitement ult\u00e9rieur \u00bb (consid\u00e9rant 67 du RGPD).<\/p>\n\n\n\n

Suite \u00e0 la mesure urgente \u2014 ratifi\u00e9e par le Coll\u00e8ge le 8 avril \u2014 une r\u00e9union entre le Garante<\/em> et la soci\u00e9t\u00e9 a eu lieu par t\u00e9l\u00e9conf\u00e9rence le 5 avril 2023. Dans des notes envoy\u00e9es \u00e0 l\u2019autorit\u00e9 ind\u00e9pendante les 6 et 7 avril, OpenAI a exprim\u00e9 sa volont\u00e9 de coop\u00e9rer et a \u00e9galement demand\u00e9 la lev\u00e9e de la mesure provisoire de restriction. Compte tenu des informations obtenues et de la volont\u00e9 manifest\u00e9e par l’entreprise de \u00ab mettre en place une s\u00e9rie de mesures concr\u00e8tes pour prot\u00e9ger les droits et libert\u00e9s des personnes concern\u00e9es, dont les donn\u00e9es ont \u00e9t\u00e9 trait\u00e9es pour l’entra\u00eenement des algorithmes utilis\u00e9s pour la fourniture du service ChatGPT, et des utilisateurs du service lui-m\u00eame \u00bb, le 11 avril, le Garante<\/em> a adopt\u00e9 une nouvelle mesure (conform\u00e9ment \u00e0 l’article 58, paragraphe 2, point d), du r\u00e8glement RGPD) <\/span>2<\/sup><\/a><\/span><\/span>. Elle contient un certain nombre de mesures et de prescriptions auxquelles OpenAI devra se conformer afin de rendre le traitement des donn\u00e9es personnelles conforme au r\u00e8glement de l’Union.<\/p>\n\n\n\n

Un grief concerne l’inexactitude du traitement des donn\u00e9es, \u00ab puisque les informations fournies par ChatGPT ne correspondent pas toujours aux donn\u00e9es r\u00e9elles \u00bb, comme s’en plaignent de nombreux int\u00e9ress\u00e9s<\/p>Vitalba Azzollini<\/cite><\/blockquote><\/figure>\n\n\n\n

Les conditions de la suspension de la restriction provisoire<\/strong><\/h2>\n\n\n\n

Afin d’obtenir la suspension de la limitation provisoire, OpenAI doit tout d’abord, d’ici le 30 avril prochain, mettre au point une notice d’information adress\u00e9e aux personnes concern\u00e9es, m\u00eame si elles ne sont pas des utilisateurs du service, dont les donn\u00e9es ont \u00e9t\u00e9 trait\u00e9es pour entra\u00eener l’algorithme, expliquant \u00ab les modalit\u00e9s du traitement, la logique sous-jacente au traitement n\u00e9cessaire au fonctionnement du service, leurs droits en tant que personnes concern\u00e9es et toute autre information requise par le r\u00e8glement de l’Union \u00bb. En outre, \u00ab pour les utilisateurs se connectant depuis l’Italie, la notice d’information devra \u00eatre pr\u00e9sent\u00e9e avant de proc\u00e9der \u00e0 l’enregistrement ; toujours avant de proc\u00e9der \u00e0 l’enregistrement, il sera demand\u00e9 aux utilisateurs de d\u00e9clarer qu’ils sont majeurs. Pour ceux qui sont d\u00e9j\u00e0 enregistr\u00e9s, la notice d’information doit \u00eatre pr\u00e9sent\u00e9e lors du premier acc\u00e8s suivant la r\u00e9activation du service et, \u00e0 cette occasion, il devra leur \u00eatre demand\u00e9 de passer un portique d’\u00e2ge qui exclut, sur la base de l’\u00e2ge d\u00e9clar\u00e9, les utilisateurs mineurs \u00bb.<\/p>\n\n\n\n

En outre, OpenAI devra mettre \u00e0 la disposition des parties int\u00e9ress\u00e9es, y compris celles qui ne sont pas des utilisateurs du service et qui se connectent depuis l’Italie, \u00ab un outil leur permettant de demander et d’obtenir la correction des donn\u00e9es \u00e0 caract\u00e8re personnel les concernant qui ont \u00e9t\u00e9 trait\u00e9es de mani\u00e8re inexacte lors de la g\u00e9n\u00e9ration du contenu ou, si cela est impossible en raison de l’\u00e9tat de la technique, la suppression de leurs donn\u00e9es \u00e0 caract\u00e8re personnel \u00bb. OpenAI devra \u00e9galement modifier la base juridique du traitement aux fins de la formation des algorithmes, en rempla\u00e7ant le contrat par le consentement ou l’int\u00e9r\u00eat l\u00e9gitime. Il convient de noter que ce dernier peut constituer une base juridique valable si, apr\u00e8s mise en balance avec les int\u00e9r\u00eats ou les droits et libert\u00e9s de la personne concern\u00e9e, il est jug\u00e9 pr\u00e9pond\u00e9rant par le responsable du traitement \u2014 en l’occurrence OpenAI \u2014 en vertu du principe de responsabilit\u00e9. OpenAI devra \u00e9galement permettre aux personnes concern\u00e9es non utilisatrices d’exercer, de mani\u00e8re simple et accessible, leur droit d’opposition au traitement de leurs donn\u00e9es personnelles utilis\u00e9es pour la formation des algorithmes, et reconna\u00eetre un droit similaire aux utilisateurs, si elle identifie l’int\u00e9r\u00eat l\u00e9gitime comme la base juridique du traitement.<\/p>\n\n\n\n

OpenAI devra modifier la base juridique du traitement aux fins de la formation des algorithmes, en rempla\u00e7ant le contrat par le consentement ou l’int\u00e9r\u00eat l\u00e9gitime.<\/p>Vitalba Azzollini<\/cite><\/blockquote><\/figure>\n\n\n\n

Telles sont les conditions qui doivent \u00eatre remplies d’ici \u00e0 la fin du mois d’avril pour que la restriction soit lev\u00e9e. Mais ce n’est pas tout. D’ici le 15 mai 2023, OpenAI devra pr\u00e9senter \u00ab une campagne d’information, de nature non promotionnelle, sur tous les principaux m\u00e9dias italiens (radio, t\u00e9l\u00e9vision, journaux et Internet), dont le contenu devra \u00eatre convenu avec le Garante<\/em> afin d’informer les personnes que leurs donn\u00e9es personnelles sont susceptibles d’\u00eatre collect\u00e9es \u00e0 des fins de formation d’algorithmes, qu’un avis d’information d\u00e9taill\u00e9 a \u00e9t\u00e9 publi\u00e9 sur le site Web de la soci\u00e9t\u00e9 et qu’un outil sera mis \u00e0 disposition, toujours sur le site Web de la soci\u00e9t\u00e9, gr\u00e2ce auquel toutes les personnes concern\u00e9es pourront demander et obtenir l’effacement de leurs donn\u00e9es personnelles \u00bb. En outre, avant le 31 mai 2023, un plan doit \u00eatre soumis \u00e0 l’Autorit\u00e9 pour l’adoption d’outils de v\u00e9rification de l’\u00e2ge qui excluront de l’acc\u00e8s au service les utilisateurs de moins de 13 ans et les mineurs en l’absence d’une manifestation expresse de volont\u00e9 de la part de ceux qui exercent la responsabilit\u00e9 parentale. Le plan doit \u00eatre mis en \u0153uvre au plus tard le 30 septembre 2023.<\/p>\n\n\n\n\n\n

\n \n \r\n \r\n \r\n \r\n \r\n <\/picture>\r\n \n
Repr\u00e9sentation num\u00e9ris\u00e9e des figures de la frise d’anges portant les Arma Christi qui aur\u00e9ole le visage de J\u00e9sus sur le tableau de Sandro Boticelli Le Christ en tant qu’homme de douleurs<\/em>, pr\u00e9sent\u00e9 \u00e0 Sotheby’s, New York, le 21 janvier 2022 \u00a9 Anthony Behar\/Sipa USA<\/figcaption>\n <\/a>\n<\/figure>\n\n\n

Critique de la mesure d’urgence du <\/strong>Garante<\/em><\/strong><\/h2>\n\n\n\n

Dans la mesure d’urgence, le Garante a ordonn\u00e9 que les donn\u00e9es faisant l’objet de la limitation provisoire soient identifi\u00e9es et exclues du traitement. L’entreprise aurait pu continuer \u00e0 offrir son service en isolant les donn\u00e9es des utilisateurs concern\u00e9s et en fournissant les \u00e9claircissements demand\u00e9s. Manifestement, elle ne l’a pas fait parce que le mode de fonctionnement de ChatGPT, avec l’entra\u00eenement du syst\u00e8me \u00e0 l’aide de quantit\u00e9s importantes et indistinctes de donn\u00e9es, ne permet pas d’exclure les utilisateurs en Italie. L’une des critiques adress\u00e9es au Garante<\/em> concerne pr\u00e9cis\u00e9ment l’impossibilit\u00e9 de proc\u00e9der \u00e0 la limitation du traitement, qui a conduit au blocage in\u00e9vitable et cons\u00e9quent du service en Italie : cela d\u00e9montrerait l’inad\u00e9quation de la mesure adopt\u00e9e, puisqu’elle demande une op\u00e9ration qui ne peut \u00eatre accomplie.<\/p>\n\n\n\n

En effet, l’impossibilit\u00e9 d’isoler les donn\u00e9es des utilisateurs serait la reconnaissance d’une violation du RGPD. Si OpenAI n’est pas en mesure de r\u00e9pondre aux demandes de l’autorit\u00e9, \u00e9tant donn\u00e9 que le m\u00e9canisme mis en \u0153uvre par l’intelligence artificielle ne permet pas d’exclure du syst\u00e8me les donn\u00e9es d’utilisateurs sp\u00e9cifiques, cela signifie que ces donn\u00e9es ne peuvent pas \u00eatre isol\u00e9es par l’entreprise, m\u00eame si les utilisateurs individuels demandent \u00e0 ce qu’elles soient mises \u00e0 jour, corrig\u00e9es ou supprim\u00e9es, ou souhaitent que leur utilisation soit restreinte \u2014 et c\u2019est pr\u00e9cis\u00e9ment ce que le Garante<\/em> a demand\u00e9. Il s’agit l\u00e0 de droits que le RGPD conf\u00e8re aux personnes concern\u00e9es (articles 15 \u00e0 22), et ceux qui traitent leurs donn\u00e9es doivent \u00eatre en mesure de leur permettre de les exercer.<\/p>\n\n\n\n

Si le m\u00e9canisme mis en \u0153uvre par l’intelligence artificielle ne permet pas d’exclure du syst\u00e8me les donn\u00e9es d’utilisateurs sp\u00e9cifiques, cela signifie que ces donn\u00e9es ne peuvent pas \u00eatre isol\u00e9es par l’entreprise, m\u00eame si les utilisateurs individuels demandent \u00e0 ce qu’elles soient mises \u00e0 jour, corrig\u00e9es ou supprim\u00e9es, ou souhaitent que leur utilisation soit restreinte.<\/p>Vitalba Azzollini<\/cite><\/blockquote><\/figure>\n\n\n\n

C’est la principale diff\u00e9rence entre un moteur de recherche \u2014 o\u00f9 c’est l’utilisateur qui doit \u00e9valuer les r\u00e9sultats propos\u00e9s et d\u00e9cider quelles sources utiliser \u2014 et ChatGPT, qui fournit un r\u00e9sultat \u00ab pr\u00e9-packag\u00e9 \u00bb, dont la source est perdue dans le processus d’entra\u00eenement : les donn\u00e9es fournies par n’importe quel moteur de recherche peuvent toujours \u00eatre isol\u00e9es, afin de les corriger, de les modifier ou de les supprimer \u00e0 la demande des parties int\u00e9ress\u00e9es, ce qui n’est pas possible pour ChatGPT. De plus, les donn\u00e9es trait\u00e9es par OpenAI ne sont pas seulement celles utilis\u00e9es pour entra\u00eener la machine \u00e0 fournir des r\u00e9ponses, mais aussi celles que l’utilisateur g\u00e9n\u00e8re et partage en formulant ses propres questions. Ces derni\u00e8res sont d’ailleurs pos\u00e9es au chatbot<\/em> de mani\u00e8re plus \u00e9labor\u00e9e et personnalis\u00e9e que la mani\u00e8re dont elles sont exprim\u00e9es \u00e0 un moteur de recherche, ce qui implique \u00e9galement la divulgation possible de donn\u00e9es sensibles qui contribuent \u00e0 \u00e9tayer les actifs informationnels utilis\u00e9s par le syst\u00e8me.<\/p>\n\n\n\n

Une autre critique formul\u00e9e \u00e0 l’encontre du Garante concerne l’insuffisance de la motivation de sa mesure, d’autant plus qu’aucune urgence ni gravit\u00e9 r\u00e9elle de la situation n’a pu \u00eatre d\u00e9cel\u00e9e. En substance, il est object\u00e9 que le pouvoir de l’autorit\u00e9 de prendre des mesures conservatoires coercitives doit \u00eatre proportionnel \u00e0 l’urgence de bloquer des situations de traitement illicite de donn\u00e9es qui causent un pr\u00e9judice grave et r\u00e9el aux droits des personnes concern\u00e9es \u2014 comme dans le cas de la publication de photos et de vid\u00e9os relatives au revenge porn<\/em> par exemple, \u00e0 la violence envers les mineurs, ou de vid\u00e9os ou \u00e0 des enregistrements sonores publi\u00e9s ill\u00e9galement en ligne. Dans ces cas, la gravit\u00e9 et l’urgence du blocage du traitement seraient \u00e9videntes, ce qui ne serait pas le cas de l’injonction contre ChatGPT.<\/p>\n\n\n\n

Les donn\u00e9es trait\u00e9es par OpenAI ne sont pas seulement celles utilis\u00e9es pour entra\u00eener la machine \u00e0 fournir des r\u00e9ponses, mais aussi celles que l’utilisateur g\u00e9n\u00e8re et partage en formulant ses propres questions.<\/p>Vitalba Azzollini<\/cite><\/blockquote><\/figure>\n\n\n\n

Cette critique s’accompagne de remarques sur l’inad\u00e9quation du RGPD aux utilisations de l’intelligence artificielle, une inad\u00e9quation qui aurait d\u00fb sugg\u00e9rer au Garante Privacy<\/em> une application moins s\u00e9v\u00e8re du r\u00e8glement. Pour cette raison, certains observent que l’autorit\u00e9 italienne aurait mieux fait de se coordonner avec les autres garants europ\u00e9ens et avec le Conseil europ\u00e9en de la protection des donn\u00e9es (CEPD) dans le cas de ChatGPT. \u00c0 cet \u00e9gard, il convient de noter qu\u2019avec OpenAI, la proc\u00e9dure coordonn\u00e9e pr\u00e9vue par le RGPD pour l’intervention des diff\u00e9rentes autorit\u00e9s europ\u00e9ennes \u2014 le principe du guichet unique (Art. 60 RGPD) \u2014 n’a pas pu \u00eatre appliqu\u00e9e puisque la soci\u00e9t\u00e9 n’est pas bas\u00e9e en Europe (seul un repr\u00e9sentant l\u00e9gal est bas\u00e9 en Irlande). Dans ce cas, chaque autorit\u00e9 peut agir de mani\u00e8re ind\u00e9pendante. En d’autres termes, l’autorit\u00e9 \u2014 celle du pays o\u00f9 l’entreprise est bas\u00e9e, si elle est bas\u00e9e dans l’Union, ou celle qui d\u00e9tecte en premier une infraction \u2014 peut toujours agir rapidement pour y mettre fin, dans l’attente d’une enqu\u00eate plus approfondie. La coordination pr\u00e9alable de 27 autorit\u00e9s, dont chacune a des sensibilit\u00e9s et des priorit\u00e9s diff\u00e9rentes, prendrait du temps.<\/p>\n\n\n\n

Ces points sur le travail du Garante<\/em> doivent \u00eatre d\u00fbment pris en consid\u00e9ration. Toutefois, il convient de garder \u00e0 l’esprit un \u00e9l\u00e9ment essentiel : il n’est jamais facile de concilier l’\u00e9volution technologique avec les r\u00e8gles en vigueur \u2014 qui sont de toute fa\u00e7on toujours en retard sur le progr\u00e8s technique, en raison de leur nature m\u00eame et du calendrier des processus l\u00e9gislatifs. L’autorit\u00e9 dispose d’une bo\u00eete \u00e0 outils avec laquelle elle doit intervenir lorsqu’elle constate \u2014 sur la base de sa propre \u00e9valuation, en tant que responsable de la protection des donn\u00e9es \u00e0 caract\u00e8re personnel \u2014 le risque d’une violation grave des droits des utilisateurs, afin que tout traitement pr\u00e9judiciable ne se poursuive pas et que les droits soient prot\u00e9g\u00e9s. En ce qui concerne la critique des modalit\u00e9s utilis\u00e9es, \u00e0 savoir une mesure adopt\u00e9e dans l’urgence, il convient de noter que ces m\u00eames modalit\u00e9s ont constitu\u00e9 une sorte de pav\u00e9 dans la mare, rendant visible le probl\u00e8me li\u00e9 au traitement des donn\u00e9es \u00e0 caract\u00e8re personnel dans le cadre d’un syst\u00e8me d’intelligence artificielle,  non seulement au niveau europ\u00e9en, mais aussi au niveau mondial.<\/p>\n\n\n\n

Certains observent que l’autorit\u00e9 italienne aurait mieux fait de se coordonner avec les autres garants europ\u00e9ens et avec le Conseil europ\u00e9en de la protection des donn\u00e9es (CEPD) dans le cas de ChatGPT.<\/p>Vitalba Azzollini<\/cite><\/blockquote><\/figure>\n\n\n\n

Les interventions sur ChatGPT<\/strong><\/h2>\n\n\n\n

Or l’Italie n’est pas seule. Le 30 mars, le Center for AI and Digital Policy (CAIDP) a demand\u00e9 \u00e0 la Federal Trade Commission (FTC) des \u00c9tats-Unis d’enqu\u00eater sur OpenAI concernant ChatGPT <\/span>3<\/sup><\/a><\/span><\/span>, accusant l’entreprise de violer la section 5 du Federal Trade Commission Act, qui interdit les \u00ab actes d\u00e9loyaux ou trompeurs li\u00e9s au commerce \u00bb. La plainte indique que l’utilisation de l’intelligence artificielle doit \u00eatre \u00ab transparente, explicable, juste et empiriquement valide, tout en promouvant la responsabilit\u00e9 \u00bb, alors que ChatGPT d’OpenAI \u00ab ne r\u00e9pond \u00e0 aucune de ces exigences \u00bb, est \u00ab biais\u00e9, trompeur et constitue un risque pour la vie priv\u00e9e et la s\u00e9curit\u00e9 publique \u00bb. Par la suite, le BEUC (Bureau europ\u00e9en des unions de consommateurs), une organisation europ\u00e9enne regroupant 46 associations europ\u00e9ennes de consommateurs de 32 pays (Altroconsumo<\/em> pour l’Italie), a demand\u00e9 aux autorit\u00e9s charg\u00e9es de la protection de la vie priv\u00e9e d’\u00e9valuer le traitement des donn\u00e9es par ChatGPT <\/span>4<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n

\n\t
\n\t\t