![\"\"](\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2020\/09\/Capture-decran-2020-09-14-a-00.02.21.png\")
<\/a>T\u00e9l\u00e9charger<\/a><\/div>\n\n\n\nPeu \u00e0 peu, nous nous sommes \u00e9quip\u00e9s de profils et d\u2019identit\u00e9s diverses. Chaque jour, nous nouons plus de relations, qu\u2019elles soient amicales ou non, par int\u00e9r\u00eat partag\u00e9, quand ce n\u2019est pas par amour. Nous restons en contact, nous publions, nous nous suivons, nous likons<\/em>, nous commentons, nous r\u00e9agissons, jusqu\u2019\u00e0 n\u2019en plus pouvoir, jusqu\u2019\u00e0 la naus\u00e9e qui peut nous conduire parfois \u00e0 vouloir tout arr\u00eater. Mais, le plus souvent, nous nous plongeons avec d\u00e9lectation dans cette exub\u00e9rance de liens sociaux.<\/p>\n\n\n\n Par le jeu des effets de r\u00e9seau, ces services attirent de plus en plus de monde. Il se passe quelque chose d\u2019int\u00e9ressant dans notre sph\u00e8re sociale, dans un cercle bien plus large, nos \u00ab contacts \u00bb s\u2019y rendent, l\u2019information se propage de mani\u00e8re virale, nous ressentons le besoin nous aussi d\u2019y aller. Nous aussi voulons en \u00eatre. Nous enrichissons nos liens sociaux traditionnels avec ces services, nous tissons de nouveaux liens. C\u2019est l\u00e0 que nous apprenons souvent ce qui fait r\u00e9agir notre communaut\u00e9, notre quartier, notre pays. L\u2019information fournie par les usagers eux-m\u00eames nous ouvre de nouveaux horizons du plus local au plus g\u00e9n\u00e9ral, des horizons plus larges que ceux des m\u00e9dias traditionnels.<\/p>\n\n\n\n Les r\u00e9seaux sociaux deviennent une structure d\u2019\u00e9changes essentielle, la nouvelle fronti\u00e8re de notre espace public <\/span>3<\/sup><\/a><\/span><\/span>. Et comme toute architecture, les r\u00e9seaux sociaux deviennent normatifs. Du Baron Haussmann \u00e0 Lawrence Lessig, qu\u2019elle soit r\u00e9elle ou virtuelle, qu\u2019il s\u2019agisse de boulevards ou de code informatique, l\u2019architecture fait loi, code is law<\/em> <\/span>4<\/sup><\/a><\/span><\/span>. Les r\u00e9seaux sociaux participent \u00e0 la d\u00e9finition des contenus que nous \u00e9changeons. Cela saute aux yeux quand nous devons \u00e9crire en 280 caract\u00e8res ou quand nos messages disparaissent presque instantan\u00e9ment. Nous ne nous exprimons pas de la m\u00eame mani\u00e8re. Des formes d\u2019art naissent de ces contraintes, mais pas seulement.<\/p>\n\n\n\n Gide disait \u00ab l\u2019art na\u00eet de contraintes, vit de luttes et meurt de libert\u00e9 \u00bb <\/span>5<\/sup><\/a><\/span><\/span>. Les r\u00e9seaux sociaux tels que nous les connaissons soul\u00e8vent des conflits entre diff\u00e9rentes libert\u00e9s. Ils tirent leur essence de la libert\u00e9 d\u2019expression, le droit d\u2019\u00eatre entendu pour nombre de personnes qui n\u2019avaient pas la parole avant, la militante d\u2019une association de banlieue, l\u2019adolescent d\u2019un territoire perdu\u2026 Ils peuvent mourir de conflits avec d\u2019autres droits fondamentaux : comment concilier la libert\u00e9 d\u2019expression avec le droit d\u2019\u00eatre prot\u00e9g\u00e9 contre la d\u00e9sinformation, le droit de ne pas \u00eatre diffam\u00e9, insult\u00e9 ou harcel\u00e9 sur ces m\u00eames r\u00e9seaux ?<\/p>\n\n\n\n Qu\u2019elle soit r\u00e9elle ou virtuelle, qu\u2019il s\u2019agisse de boulevards ou de code informatique, l\u2019architecture fait loi, code is law<\/em>.<\/p>Serge abiteboul, Jean cattan<\/cite><\/blockquote><\/figure>\n\n\n\n Au-del\u00e0 des param\u00e8tres qui d\u00e9finissent directement le contenu et la forme de nos messages, la plupart des r\u00e9seaux sociaux d\u00e9finissent aussi ce qui est massivement lu, vu ou vou\u00e9 \u00e0 tomber dans les oubliettes du cyberespace. Ils choisissent les contenus qu\u2019ils vont pousser vers vous, et ce pour maximiser leurs profits. Certains diront \u00ab C\u2019est leur business model, idiot !<\/em> \u00bb <\/span>6<\/sup><\/a><\/span><\/span>. Les r\u00e9seaux sociaux ne sont pas tous vou\u00e9s au bien de l\u2019humanit\u00e9, ce n\u2019est pas leur objectif (principal). Par essence, une entreprise recherche la profitabilit\u00e9 et les r\u00e9seaux sociaux demeurent le plus souvent des entreprises ne d\u00e9rogeant pas \u00e0 la r\u00e8gle. Ce n\u2019est pas un jugement, seulement un constat.<\/p>\n\n\n\n Le mod\u00e8le d\u2019affaire des r\u00e9seaux sociaux est essentiellement fond\u00e9 sur la publicit\u00e9. Que cela soit justifi\u00e9 ou non, un tel mod\u00e8le incite \u00e0 une exploitation forte de nos donn\u00e9es personnelles et un profilage toujours plus important <\/span>7<\/sup><\/a><\/span><\/span>. Plus le r\u00e9seau social nous conna\u00eet, plus il peut valoriser ses espaces publicitaires.<\/p>\n\n\n\n Mais, pour \u00eatre mieux valoris\u00e9es, les publicit\u00e9s doivent non seulement \u00eatre cibl\u00e9es, elles doivent aussi \u00eatre vues. Pour que nous restions plus longtemps, les r\u00e9seaux sociaux valorisent les contenus qui suscitent l\u2019engagement des utilisateurs, ce qui nous fait r\u00e9agir, nous attire et nous fait rester. En retour, nous sommes plus expos\u00e9s \u00e0 la publicit\u00e9, aux contenus sponsoris\u00e9s, aux contenus qui r\u00e9mun\u00e8rent la plateforme. Notre attention est devenue un vaste march\u00e9. Comme le dit Reed Hastings, cofondateur et CEO de Netflix : \u00ab we actually compete with sleep (\u2026) and we\u2019re winning !<\/em> \u00bb <\/span>8<\/sup><\/a><\/span><\/span>, version contemporaine du \u00ab temps de cerveau disponible \u00bb qui r\u00e9gnait fut un temps sur la t\u00e9l\u00e9vision cathodique. Ce qui est vrai pour les services audiovisuels l\u2019est aussi pour les r\u00e9seaux sociaux : nous passons de plus en plus de temps sur nos \u00e9crans, et l\u2019engagement se transforme en addiction <\/span>9<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n Comme toute personne d\u00e9pendante, \u00ab accro \u00bb, il nous en faut toujours plus. Des formats plus courts, des slogans, des phrases choc, des images qui percutent. Ce qui nous fait r\u00e9agir tend souvent vers les extr\u00eames, du petit chaton aux propos outranciers. Et comme souvent cela ne suffit pas, nous sommes oblig\u00e9s de nous inventer des histoires, des ragots, des bobards, de faire \u00e9merger des complots. Nous risquerions de nous ennuyer sinon.<\/p>\n\n\n\n Heureusement, sur les r\u00e9seaux sociaux, l\u2019engagement pour des causes nobles, les vrais sentiments, l\u2019humour, la po\u00e9sie, l\u2019art, nous sauvent de tout \u00e7a. De belles id\u00e9es y circulent, des innovations intellectuelles aussi. Ils nous rappellent combien la cr\u00e9ativit\u00e9 humaine est infinie. Nous adorons voir les foules se mobiliser pour de justes causes. Nous adorons d\u00e9couvrir de nouveaux aspects de nos quartiers. Nous restons en admiration devant la jeunesse qui, par de nouveaux moyens de communications, s\u2019approprie des luttes que leurs a\u00een\u00e9s n\u2019ont pas pu ou n\u2019ont pas su saisir. Nous en profitons chaque jour et nous nous en r\u00e9jouissons. En bref, nous constatons chaque jour que les r\u00e9seaux sociaux peuvent \u00eatre un instrument au service de notre \u00e9panouissement, si ce n\u2019est de la lib\u00e9ration des peuples et des individus. Car apr\u00e8s tout, ne s\u2019agit-il pas de mettre des humains en relation, de faire soci\u00e9t\u00e9 ?<\/p>\n\n\n\n Le risque n\u00e9anmoins, si nous laissons les r\u00e9seaux sociaux \u00e9voluer sans rien faire, est que leur c\u00f4t\u00e9 obscur l\u2019emporte, que l\u2019on ait \u00e0 payer tous un jour le prix de n\u2019avoir su maitriser l\u2019expression d\u00e9brid\u00e9e de nos d\u00e9sirs, de nos pulsions, en abandonnant la sph\u00e8re publique \u00e0 un business model<\/em> faisant de l\u2019humain une marchandise.<\/p>\n\n\n\n Abusant des r\u00e9seaux sociaux, les contenus toxiques sont prot\u00e9iformes : propagande terroriste ou p\u00e9dopornographique, messages de haine, fausses nouvelles (les fameuses fake news<\/em>) et d\u00e9sinformation, cyberharc\u00e8lement, violation de la vie priv\u00e9e, etc. La soci\u00e9t\u00e9 s\u2019inqui\u00e8te, exige des mesures pour les combattre. L\u2019affaire Cambridge Analytica a \u00e9t\u00e9 le premier r\u00e9v\u00e9lateur de ce ph\u00e9nom\u00e8ne par lequel une d\u00e9cision collective majeure peut \u00eatre influenc\u00e9e par l\u2019usage des r\u00e9seaux sociaux et tout particuli\u00e8rement de la publicit\u00e9 politique qui peut y \u00eatre faite <\/span>10<\/sup><\/a><\/span><\/span>. Notre exposition \u00e0 la haine ne cesserait quant \u00e0 elle de cro\u00eetre, avec la crainte qu\u2019elle se transforme en une violence physique malheureusement bien tangible.<\/p>\n\n\n\n Si nous ne voulons pas clouer les r\u00e9seaux sociaux au pilori, il nous faut montrer qu\u2019il est possible de faire autrement. Cela passe par l\u2019\u00e9ducation et l\u2019engagement citoyen d\u2019internautes. Certaines organisations proposent des mod\u00e8les alternatifs. C\u2019est le cas par exemple de WT Social, le r\u00e9seau social centr\u00e9 sur l\u2019information d\u00e9velopp\u00e9 par Jimmy Wales en 2019. La proposition est de s\u2019inspirer des modes de financement, de pr\u00e9sentation et de mod\u00e9ration de Wikip\u00e9dia pour \u00e9viter la propagation de fausses nouvelles.<\/p>\n\n\n\n Si de telles initiatives sont bonnes \u00e0 prendre, arriveront-elles \u00e0 pr\u00e9server dans des r\u00e9seaux sociaux r\u00e9invent\u00e9s cette vivacit\u00e9 qui nous rend accros ? Peut-\u00eatre, mais il est peu vraisemblable qu\u2019elles arriveront seules dans un futur envisageable \u00e0 se substituer aux grandes plateformes dont certaines ont d\u00e9j\u00e0 des milliards d\u2019utilisateurs et savent parfaitement jouer de l\u2019effet de r\u00e9seau et de ressources financi\u00e8res gigantesques. Il y a fort \u00e0 parier qu\u2019il faille s\u2019en remettre \u00e0 une forme d\u2019intervention \u00e9tatique pour obliger les g\u00e9ants que nous<\/em> avons nourri de notre adh\u00e9sion \u00e0 \u0153uvrer pour le bien collectif. M\u00eame si le march\u00e9 venait \u00e0 fournir des solutions en ce sens, la propagation de fausses informations ou la diffusion de la haine ne sont pas des questions que l\u2019on peut renvoyer uniquement \u00e0 la sagesse de la foule et \u00e0 une relation entre l\u2019offre et la demande.<\/p>\n\n\n\n Il y a fort \u00e0 parier qu\u2019il faille s\u2019en remettre \u00e0 une forme d\u2019intervention \u00e9tatique pour obliger les g\u00e9ants que nous <\/em>avons nourri de notre adh\u00e9sion \u00e0 \u0153uvrer pour le bien collectif.<\/p>Serge abiteboul, jean cattan<\/cite><\/blockquote><\/figure>\n\n\n\n Dans notre syst\u00e8me de d\u00e9mocratie repr\u00e9sentative, les institutions dot\u00e9es d\u2019une l\u00e9gitimit\u00e9 d\u00e9mocratique ont voix au chapitre. Mais la t\u00e2che est ardue entre garantir la libert\u00e9 de chacun de pouvoir s\u2019exprimer et dans le m\u00eame temps prot\u00e9ger des d\u00e9rives des r\u00e9seaux sociaux. La marge est \u00e9troite, par exemple, entre contrecarrer la d\u00e9sinformation et instituer une information \u00e9tatique. Les institutions doivent intervenir dans un cadre ouvert sous le regard et le contr\u00f4le d\u2019une soci\u00e9t\u00e9 responsable. Afin d\u2019atteindre les \u00e9quilibres n\u00e9cessaires dans chaque sph\u00e8re, r\u00e9gionale, nationale, culturelle et linguistique, il est primordial d\u2019assurer la participation de l\u2019ensemble des communaut\u00e9s int\u00e9ress\u00e9es, chercheurs, soci\u00e9t\u00e9 civile, utilisateurs, repr\u00e9sentants de l\u2019\u00c9tat. Tous doivent pouvoir participer \u00e0 l\u2019identification des probl\u00e8mes rencontr\u00e9s par les plateformes, \u00e0 la d\u00e9finition des solutions propos\u00e9es, et au contr\u00f4le des actions entreprises.<\/p>\n\n\n\n Face \u00e0 la propagation annonc\u00e9e des mensonges, de la marchandisation et de la haine, dire que rien n\u2019est fait est faux. La soci\u00e9t\u00e9 et les politiques se sont empar\u00e9s du sujet. Une urgence s\u2019est install\u00e9e comme si ces sujets, la d\u00e9sinformation, le harc\u00e8lement, etc., \u00e9taient nouveaux. Des propositions sont faites, des d\u00e9cisions prises du c\u00f4t\u00e9 des r\u00e9seaux sociaux eux-m\u00eames comme des autorit\u00e9s publiques. Les \u00c9tats r\u00e9agissent, les parlements l\u00e9gif\u00e8rent, parfois sous la pression de l\u2019actualit\u00e9, des \u00e9motions. Cela se fait dans le d\u00e9sordre, sans vision d\u2019ensemble, en essayant de trouver des parades souvent s\u00e9par\u00e9ment aux diff\u00e9rentes facettes d\u2019un m\u00eame probl\u00e8me. De fait les r\u00e9ponses demeurent insatisfaisantes.<\/p>\n\n\n\n Dans ce d\u00e9sordre ambiant, des lignes forces peuvent toutefois \u00eatre identifi\u00e9es. Pour d\u00e9crire la situation lors de l\u2019\u00e9dition 2018 de l\u2019Internet Governance Forum<\/em>, sommet onusien qui se tenait cette ann\u00e9e-l\u00e0 \u00e0 Paris, Emmanuel Macron a dessin\u00e9 trois voies, correspondant chacune \u00e0 un mod\u00e8le de r\u00e9gulation des r\u00e9seaux sociaux :<\/p>\n\n\n\n Cette troisi\u00e8me voie est plus complexe, mais potentiellement plus efficace et plus respectueuse des droits de chacun. Nous croyons qu\u2019elle pourra associer de nombreuses initiatives \u00e9mergeant de la soci\u00e9t\u00e9 dans son ensemble, en susciter de nouvelles. Nous croyons qu\u2019elle peut \u00eatre dessin\u00e9e en Europe et servir de mod\u00e8le \u00e0 l\u2019\u00e9chelle mondiale.<\/p>\n\n\n\n Cette voie est plus complexe, mais potentiellement plus efficace et plus respectueuse des droits de chacun. Nous croyons qu’elle peut \u00eatre dessin\u00e9e en Europe et servir de mod\u00e8le \u00e0 l’\u00e9chelle mondiale.<\/p>serge abiteboul, jean cattan<\/cite><\/blockquote><\/figure>\n\n\n\n Qu\u2019en est-il des contenus publi\u00e9s qui peuvent avoir un effet nocif ? Tant aux \u00c9tats-Unis qu\u2019en Europe, ils sont r\u00e9gis par un r\u00e9gime de responsabilit\u00e9 limit\u00e9e des r\u00e9seaux sociaux. C\u2019est ce r\u00e9gime qui a permis les succ\u00e8s de services dont le contenu est aliment\u00e9 par les utilisateurs. Pour ses opposants, c\u2019est un r\u00e9gime lacunaire auquel on doit l\u2019apparition des pires d\u00e9rives rencontr\u00e9es sur le web.<\/p>\n\n\n\n Aux \u00c9tats-Unis, c\u2019est en 1996 qu\u2019un tel r\u00e9gime a \u00e9t\u00e9 institu\u00e9 par la Section 230 du Communications Decency Act<\/em> : \u00ab No provider or user of an interactive computer service shall be treated as the publisher or speaker of any information provided by another information content provider <\/em> \u00bb <\/span>12<\/sup><\/a><\/span><\/span>. Selon les motifs qui la pr\u00e9c\u00e8dent, cette mesure est vou\u00e9e \u00e0 pr\u00e9server le foisonnement d\u2019internet, la libert\u00e9 du march\u00e9 et \u00e0 renforcer le contr\u00f4le des utilisateurs sur leurs activit\u00e9s en ligne, y compris en responsabilisant les parents dans la protection de leurs enfants face \u00e0 des contenus pouvant leur porter atteinte. La d\u00e9responsabilisation des fournisseurs de services allait de pair avec la responsabilisation des adultes.<\/p>\n\n\n\n Si l\u2019on consid\u00e8re que l\u2019essentiel des r\u00e9seaux sociaux que nous utilisons sont \u00e9tablis aux \u00c9tats-Unis, avoir \u00e0 l\u2019esprit ce r\u00e9gime de responsabilit\u00e9 limit\u00e9e est important en ce qu\u2019il renseigne sur la culture juridique dont ils sont empreints : le principe est que les r\u00e9seaux sociaux ne sont pas responsables des contenus propag\u00e9s sur leur plateforme s\u2019ils n\u2019ont pas de contr\u00f4le \u00e9ditorial dessus.<\/p>\n\n\n\n En Europe, c\u2019est en 2001 que fut adopt\u00e9e la directive eCommerce 2000\/31 et son article 14. Cet article, venant s\u2019ajouter au r\u00e9gime am\u00e9ricain, en limite, tr\u00e8s relativement, la port\u00e9e. Dans sa transposition en France, l\u2019article 6 de la loi pour la confiance dans l\u2019\u00e9conomie num\u00e9rique du 21 juin 2004 tel qu\u2019interpr\u00e9t\u00e9 par le Conseil constitutionnel \u00e9tablit les premi\u00e8res briques du droit de la responsabilit\u00e9 des \u00ab h\u00e9bergeurs \u00bb <\/span>13<\/sup><\/a><\/span><\/span>. L\u2019h\u00e9bergeur, entendre ici le r\u00e9seau social, est responsable s\u2019il a effectivement connaissance du caract\u00e8re manifestement illicite du contenu en cause ou s\u2019il n\u2019a pas agi promptement pour retirer ces donn\u00e9es ou en rendre l’acc\u00e8s impossible lorsqu\u2019il en a eu connaissance. C\u2019est-\u00e0-dire que concr\u00e8tement et tr\u00e8s sommairement, un r\u00e9seau social, o\u00f9 qu\u2019il soit \u00e9tabli dans le monde, est oblig\u00e9 de retirer un contenu manifestement illicite dont il a eu connaissance soit parce qu\u2019un tel contenu lui a \u00e9t\u00e9 signal\u00e9 soit parce qu\u2019il a \u00e9t\u00e9 jug\u00e9 comme tel par un juge.<\/p>\n\n\n\n On notera que ces textes \u00e9tats-uniens et europ\u00e9ens ont \u00e9t\u00e9 \u00e9labor\u00e9s avant <\/em>les d\u00e9buts des r\u00e9seaux sociaux tels que nous les connaissons ; par exemple, Facebook nait en 2004, YouTube en 2005, Twitter en 2006. Des tensions naissent des diff\u00e9rences d’appr\u00e9ciation du principe de libert\u00e9 d\u2019expression de part et d\u2019autre de l\u2019Atlantique : lecture quasi-religieuse outre-Atlantique du 1er<\/sup> amendement de la Constitution am\u00e9ricaine, interpr\u00e9tation plus souple en Europe de l\u2019article 10 de la Convention europ\u00e9enne des droits de l\u2019homme, auquel peuvent \u00eatre apport\u00e9es des limites \u00ab n\u00e9cessaires dans une soci\u00e9t\u00e9 d\u00e9mocratique \u00bb <\/span>14<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n Il n\u2019en demeure pas moins qu\u2019en Europe, et notamment en France, l\u2019intervention du juge demeure importante. La loi pour la confiance dans l\u2019\u00e9conomie num\u00e9rique a ouvert la voie \u00e0 toute une s\u00e9rie de r\u00e9f\u00e9r\u00e9s, par lesquels un juge peut enjoindre en urgence aux plateformes de retirer des contenus. Si les d\u00e9lais sont souvent consid\u00e9r\u00e9s comme trop longs par les plaignants, les proc\u00e9dures et la jurisprudence existent.<\/p>\n\n\n\n Dans ce cadre, la premi\u00e8re question qui se pose est de savoir ce qu\u2019est un contenu illicite. Entre les contenus manifestement ill\u00e9gaux et les contenus licites, toute une gamme de contenus \u00ab gris \u00bb doit faire l\u2019objet d\u2019une appr\u00e9ciation par la plateforme. La qualification de ces contenus n\u2019est pas simple pour un mod\u00e9rateur de r\u00e9seau social, et peut m\u00eame diviser des magistrats <\/span>15<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n Pour encadrer les pratiques, un r\u00e9seau social se livre \u00e0 l\u2019\u00e9laboration d\u2019un code d\u00e9finissant \u00e0 travers des \u00ab standards communautaires \u00bb les contenus qu\u2019il est pr\u00eat ou non \u00e0 accepter. Cela n\u2019est d\u2019ailleurs pas sans poser la question de savoir quelle est sa l\u00e9gitimit\u00e9 ou encore son autorit\u00e9, comme acteur priv\u00e9, pour d\u00e9finir ce qui peut ou non \u00eatre accept\u00e9 sur des services, certes priv\u00e9s, mais qui se sont mus en autant d\u2019espaces publics. Le r\u00e9seau social traite ensuite les contenus pour d\u00e9cider s\u2019ils correspondent \u00e0 ses standards communautaires. Pour ce faire, diff\u00e9rents moyens sont mis en \u0153uvre.<\/p>\n\n\n\n Des moyens humains extr\u00eamement variables selon les plateformes sont affect\u00e9s \u00e0 la mod\u00e9ration des contenus rapport\u00e9s comme potentiellement nocifs par des utilisateurs de la plateforme, ou d\u00e9tect\u00e9s automatiquement comme tels.<\/p>\n\n\n\n Entre autres questions, la mod\u00e9ration humaine de masse sur les r\u00e9seaux sociaux soul\u00e8ve un probl\u00e8me qui est celui du traitement des mod\u00e9rateurs eux-m\u00eames. De plus en plus d\u2019\u00e9tudes, reportages, articles, mettent en \u00e9vidence la souffrance des mod\u00e9rateurs devant visionner des contenus violents ou pornographiques \u00e0 longueur de temps, passant des heures dans les poubelles du web. Des personnes avec peu de qualifications professionnelles, souvent dans des pays lointains, ont \u00e0 r\u00e9pondre \u00e0 des questions parfois complexes juridiquement, pouvant \u00e9galement faire appel \u00e0 des connaissances pointues de la culture si ce n\u2019est l\u2019actualit\u00e9 la plus vive du pays o\u00f9 les faits se d\u00e9roulent.<\/p>\n\n\n\n De fait, les humains se montrent assez m\u00e9diocres dans la notification de contenus ill\u00e9gaux ou contrevenant aux standards du r\u00e9seau. Sous le coup des \u00e9motions, leurs notifications sont largement erron\u00e9es. Les mod\u00e9rateurs humains, malgr\u00e9 leur manque de connaissances, de comp\u00e9tence, font mieux parce que form\u00e9s \u00e0 cela et moins directement impliqu\u00e9s. Mais eux aussi ont leurs biais culturels, personnels. Leur t\u00e2che n\u2019est pas simple en particulier pour les messages de haine, et peut-\u00eatre encore plus pour les fausses nouvelles.<\/p>\n\n\n\n Une alternative est de d\u00e9l\u00e9guer \u00e0 des algorithmes ce travail de mod\u00e9ration difficile \u00e0 supporter par des humains. Comment un logiciel peut-il d\u00e9tecter des contenus nocifs ? Typiquement, on utilise des techniques d\u2019apprentissage automatique (machine learning<\/em>). Le logiciel est d\u2019abord entrain\u00e9 sur un corpus de contenus annot\u00e9s par des humains qui les ont qualifi\u00e9s comme acceptable<\/em>, message de haine<\/em>, violence<\/em>, etc. Mis en pr\u00e9sence d\u2019un nouveau contenu, le logiciel va chercher \u00e0 d\u00e9terminer la qualification des messages auxquels ce contenu ressemble le plus.<\/p>\n\n\n\n Les algorithmes participent d\u00e9j\u00e0 beaucoup \u00e0 la d\u00e9tection de contenus illicites, en particulier pour ce qui est du terrorisme et de la p\u00e9dopornographie. Ils seraient d\u00e9j\u00e0 \u00ab moins mauvais \u00bb que les mod\u00e9rateurs humains, m\u00eame s\u2019ils restent largement perfectibles : le probl\u00e8me est complexe avec l\u2019ambigu\u00eft\u00e9 du langages, l\u2019ironie… et il leur manque surtout le contexte. Pour cela, en d\u00e9pit des progr\u00e8s r\u00e9alis\u00e9s dans cette direction, l\u2019ultime d\u00e9cision, de retirer ou pas un contenu, est r\u00e9alis\u00e9e par un humain (\u00e0 des exceptions pr\u00e8s comme certains contenus terroristes ou p\u00e9dopornographiques). Un jour se posera la question de savoir si nous acceptons de d\u00e9l\u00e9guer de telles d\u00e9cisions \u00e0 des logiciels ? Cette question m\u00e9ritera d\u2019\u00eatre d\u00e9battue.<\/p>\n\n\n\n Un jour se posera la question de savoir si nous acceptons de d\u00e9l\u00e9guer de telles d\u00e9cisions \u00e0 des logiciels ? Cette question m\u00e9ritera d\u2019\u00eatre d\u00e9battue.<\/p>serge abiteboul, jean cattan<\/cite><\/blockquote><\/figure>\n\n\n\n Les r\u00e9seaux sociaux mettent donc des ressources humaines et techniques au service de la mod\u00e9ration. Hormis les difficult\u00e9s pratiques rencontr\u00e9es, leur choix d\u2019internaliser compl\u00e8tement les probl\u00e8mes pos\u00e9s par les r\u00e9seaux sociaux questionne sur le plan des principes :<\/p>\n\n\n\n Comment, en restant dans les jalons du droit europ\u00e9en, r\u00e9pondre \u00e0 ces questions ?<\/p>\n\n\n\n Dans l\u2019attente d\u2019un v\u00e9ritable d\u00e9bat de fond sur ces questions, les plateformes demeurent dans un environnement de droit souple et disposent d\u2019une tr\u00e8s large marge d\u2019autor\u00e9gulation. C\u2019est ce qui leur permet de s\u2019arroger le vocabulaire de l\u2019\u00c9tat pour mettre en place par exemple des \u00ab cours supr\u00eames \u00bb qui, \u00e0 l\u2019instar de celle envisag\u00e9e par Facebook <\/span>16<\/sup><\/a><\/span><\/span>, permettrait de contester les choix faits par la plateforme quant au retrait ou non de contenus. L\u2019espace public s\u2019est tellement d\u00e9port\u00e9 sur les plateformes et l\u2019espace laiss\u00e9 vacant par l\u2019\u00c9tat est si grand que les plateformes peuvent se permettre de tels comportements, \u00e0 l\u2019esprit r\u00e9galien.<\/p>\n\n\n\n Que l\u2019on soit d\u00e9fenseurs de la libert\u00e9 d\u2019expression ou repr\u00e9sentants de l\u2019ordre public, cela ne fonctionne pas. Le r\u00e9gime d\u2019autor\u00e9gulation laisse bien trop d\u2019espace aux plateformes. Selon leur bon vouloir, selon leurs moyens, elles seront soit trop, soit insuffisamment diligentes <\/span>17<\/sup><\/a><\/span><\/span>. Mais plus encore, quelle est la l\u00e9gitimit\u00e9 de ces plateformes priv\u00e9es de r\u00e9soudre seules cette vari\u00e9t\u00e9 de probl\u00e8mes avec la seule intervention a posteriori<\/em> des autorit\u00e9s agissant au nom du peuple ? Quelle est leur l\u00e9gitimit\u00e9 de d\u00e9cider ce qui peut, ou pas, \u00eatre dit dans l\u2019espace public, de d\u00e9finir cet espace public ?<\/p>\n\n\n\n In fine<\/em>, il s\u2019agit de d\u00e9finir un point d\u2019\u00e9quilibre et de r\u00e9soudre des questions dont l\u2019importance soci\u00e9tale est majeure : des questions m\u00e9morielles, de rapport au corps, aux discriminations, au rapport entre les citoyens et leurs repr\u00e9sentants etc. Ce ne peut \u00eatre aux plateformes seules de d\u00e9finir ce point d\u2019\u00e9quilibre. C\u2019est \u00e0 elles de participer \u00e0 sa mise en \u0153uvre oui, mais c\u2019est \u00e0 la collectivit\u00e9 de le d\u00e9finir. C\u2019est pourquoi, \u00e0 un moment donn\u00e9, une intervention de l\u2019\u00c9tat et de la soci\u00e9t\u00e9 est requise. La question est de savoir comment, et \u00e0 quelle fin ?<\/p>\n\n\n\n L\u2019espace public s\u2019est tellement d\u00e9port\u00e9 sur les plateformes et l\u2019espace laiss\u00e9 vacant par l\u2019\u00c9tat est si grand que les plateformes peuvent se permettre de tels comportements, \u00e0 l\u2019esprit r\u00e9galien.<\/p>serge abiteboul, jean cattan<\/cite><\/blockquote><\/figure>\n\n\n\n En compl\u00e9ment du r\u00e9gime \u00e9tabli au niveau europ\u00e9en, diff\u00e9rents niveaux de r\u00e9ponse ont \u00e9t\u00e9 avanc\u00e9s dans les \u00c9tats membres pour r\u00e9pondre aux probl\u00e8mes pos\u00e9s par la publication et la propagation des contenus, qu\u2019ils soient manifestement ill\u00e9gaux ou qu\u2019ils se situent dans une zone grise.<\/p>\n\n\n\n Un premier cas concerne la lutte contre la d\u00e9sinformation. Sommairement, la loi fran\u00e7aise du 22 d\u00e9cembre 2018 relative \u00e0 la manipulation de l\u2019information a ouvert la possibilit\u00e9, en p\u00e9riode \u00e9lectorale, de saisir le juge des r\u00e9f\u00e9r\u00e9s pour qu\u2019il se prononce en quarante-huit heures sur le retrait de contenus \u00ab all\u00e9gations ou imputations inexactes ou trompeuses d’un fait de nature \u00e0 alt\u00e9rer la sinc\u00e9rit\u00e9 du scrutin \u00e0 venir sont diffus\u00e9es de mani\u00e8re d\u00e9lib\u00e9r\u00e9e, artificielle ou automatis\u00e9e et massive<\/em> \u00bb. A c\u00f4t\u00e9 de quoi, les plateformes doivent rendre des comptes sur les mesures adopt\u00e9es pour endiguer la propagation des fausses nouvelles ou encore fournir une information transparente sur les r\u00e9mun\u00e9rations \u00ab re\u00e7ues en contrepartie de la promotion de […] contenus d’information [se rattachant \u00e0 un d\u00e9bat d\u2019int\u00e9r\u00eat g\u00e9n\u00e9ral]<\/em> \u00bb.<\/p>\n\n\n\n Un autre cas concerne le traitement des propos haineux. L\u2019initiative nous vient d\u2019Allemagne. Depuis 2018, la loi dite NetzDG impose notamment aux r\u00e9seaux sociaux de retirer en vingt-quatre heures les contenus dont le caract\u00e8re haineux est manifeste, renvoyant de fait \u00e0 la plateforme d\u2019appr\u00e9cier ce qu\u2019il en est. La loi pr\u00e9voit une sanction jusqu\u2019\u00e0 50 millions d\u2019euros en cas de non-respect de cette obligation par la plateforme. Aux derni\u00e8res nouvelles, le gouvernement allemand souhaitait renforcer plus encore son dispositif.<\/p>\n\n\n\n Il est difficile de dire \u00e0 l\u2019heure actuelle ce que sera le r\u00e9gime de la r\u00e9gulation des contenus haineux en France <\/span>18<\/sup><\/a><\/span><\/span>. La proposition de loi de lutte contre la haine sur internet d\u00e9pos\u00e9e par Laetitia Avia en mars 2019 a fait na\u00eetre des r\u00e9actions vives. En l\u2019\u00e9tat du texte et \u00e0 gros traits, il impose une obligation de retrait en 24 heures des contenus illicites \u00e0 de tr\u00e8s nombreux titres. Dans la loi vot\u00e9e par l\u2019Assembl\u00e9e en deuxi\u00e8me lecture, un d\u00e9lai d\u2019une heure a aussi \u00e9t\u00e9 institu\u00e9 pour les contenus notifi\u00e9s par les autorit\u00e9s comme de nature terroriste \u00e0 n\u2019importe quelle plateforme. Le montant des sanctions pourrait atteindre les 4 % du chiffre d\u2019affaires. Une mesure de blocage visant les contenus miroirs est aussi pr\u00e9vue.<\/p>\n\n\n\n Parmi les critiques les plus retentissantes figurent celles de la Commission europ\u00e9enne consign\u00e9es dans un avis du 22 novembre 2019. Selon la Commission, les mesures restreignent de mani\u00e8re disproportionn\u00e9e la libre prestation de services ; la port\u00e9e du but poursuivi, la dignit\u00e9 humaine, sur l’identification des contenus vis\u00e9s reste impr\u00e9cise ; les mesures propos\u00e9es ne sont pas cibl\u00e9es et portent sur un trop large champ de plateformes en ligne ; les conditions de notification ne sont pas assez pr\u00e9cises ; il existe un risque de suppression excessive des contenus compte tenu du d\u00e9lai imparti et du montant de la sanction ; il n\u2019y a pas de garantie contre la surveillance g\u00e9n\u00e9ralis\u00e9e des contenus par les plateformes ; et pour finir la France ne devrait pas faire cavalier seul alors que la Commission pourrait l\u00e9gif\u00e9rer sur la question dans le cadre du Digital Services Act<\/em> attendu pour 2020. \u00c9tant pr\u00e9cis\u00e9 que si l\u2019actuelle Commission a annonc\u00e9 vouloir agir, aucun plan pr\u00e9cis n\u2019a \u00e9t\u00e9 publi\u00e9 jusqu\u2019\u00e0 pr\u00e9sent.<\/p>\n\n\n\n Plus g\u00e9n\u00e9ralement et quand bien m\u00eame nous entendons pleinement le besoin de protection du public, il est possible de se demander si des initiatives l\u00e9gislatives comme celles pouss\u00e9es en France et en Allemagne ne prennent pas le probl\u00e8me par le mauvais bout.<\/p>\n\n\n\n Paradoxalement, en haussant le montant des sanctions et en renfor\u00e7ant les m\u00e9canismes de r\u00e9pression dont les r\u00e9seaux sociaux pourraient faire l\u2019objet, les gouvernements risquent d\u2019accentuer le pouvoir de ces plateformes. Si aucun contr\u00f4le n\u2019est exerc\u00e9 sur les modalit\u00e9s de propagation et de retrait des contenus en dehors de la question de savoir si un contenu est demeur\u00e9 une ou vingt-quatre heures sur la plateforme, alors l\u2019\u00c9tat restera aveugle aux choix op\u00e9r\u00e9s par la plateforme, tant dans sa fa\u00e7on de mettre en avant certains contenus que dans sa politique de retrait. D\u2019autant que les petites plateformes qui n\u2019ont pas les moyens de mettre en \u0153uvre un dispositif de suppression des contenus compatible avec la loi sont condamn\u00e9es \u00e0 d\u00e9pendre compl\u00e8tement des grandes plateformes pour la mod\u00e9ration, limiter consid\u00e9\u00adrablement la parole des internautes, ou \u00e0 \u00eatre sanctionn\u00e9es.<\/p>\n\n\n\n Paradoxalement, en haussant le montant des sanctions et en renfor\u00e7ant les m\u00e9canismes de r\u00e9pression, les gouvernements risquent d\u2019accentuer le pouvoir de ces plateformes.<\/p>serge abiteboul, jean cattan<\/cite><\/blockquote><\/figure>\n\n\n\n Pour souligner les difficult\u00e9s rencontr\u00e9es, mention doit \u00eatre faite du cas o\u00f9, un contenu notifi\u00e9 par le juge et retir\u00e9, r\u00e9appara\u00eet ailleurs, sous la m\u00eame forme ou une forme l\u00e9g\u00e8rement alt\u00e9r\u00e9e. Ce probl\u00e8me a trouv\u00e9 une premi\u00e8re r\u00e9ponse dans un arr\u00eat du 3 octobre 2019 de la Cour de justice de l\u2019Union europ\u00e9enne (aff. C-18\/18) dans un cas de diffamation sur Facebook. Il ressort de cet arr\u00eat qu\u2019une juridiction est en droit d\u2019enjoindre \u00e0 un r\u00e9seau social comme Facebook de retirer des informations identiques \u00e0 celles d\u00e9j\u00e0 retir\u00e9es mais aussi des informations jug\u00e9es \u00ab \u00e9quivalentes<\/em> \u00bb. Un contenu est qualifi\u00e9 d\u2019\u00e9quivalent par la Cour s\u2019il demeure \u00ab en substance, inchang\u00e9 par rapport \u00e0 celui ayant donn\u00e9 lieu au constat d\u2019illic\u00e9it\u00e9 et comportant les \u00e9l\u00e9ments sp\u00e9cifi\u00e9s dans l\u2019injonction et que les diff\u00e9rences dans la formulation de ce contenu \u00e9quivalent par rapport \u00e0 celle caract\u00e9risant l\u2019information d\u00e9clar\u00e9e illicite pr\u00e9c\u00e9demment ne sont pas de nature \u00e0 contraindre l\u2019h\u00e9bergeur \u00e0 proc\u00e9der \u00e0 une appr\u00e9ciation autonome de ce contenu<\/em> \u00bb.<\/p>\n\n\n\n La situation du contenu jug\u00e9 illicite, apr\u00e8s une proc\u00e9dure potentiellement longue, r\u00e9apparaissant quasi instantan\u00e9ment ailleurs \u00e9tait clairement probl\u00e9matique. N\u00e9anmoins, cette injonction de retrait pouvant se faire \u00ab au niveau mondial, dans le cadre du droit international pertinent<\/em> \u00bb, la marge de man\u0153uvre et l\u2019impact de la d\u00e9cision sur les r\u00e9seaux sociaux s\u2019av\u00e8rent potentiellement consid\u00e9rables. Tous les contenus sont-ils tenus d\u2019\u00eatre confront\u00e9s aux contenus retir\u00e9s pour d\u00e9terminer s\u2019ils sont \u00e9quivalents ? Qui peut juger de cette \u00e9quivalence ?<\/p>\n\n\n\n Aussi, en adoptant des r\u00e8gles particuli\u00e8res, les diff\u00e9rents \u00c9tats europ\u00e9ens introduisent des divergences l\u00e9gales au pr\u00e9judice de la coh\u00e9rence du march\u00e9 int\u00e9rieur. Afin d\u2019homog\u00e9n\u00e9iser le tout et avant m\u00eame la loi NetzDG, l\u2019Union europ\u00e9enne avait adopt\u00e9 en 2016 un code de conduite et en 2018 une s\u00e9rie de recommandations \u00e0 destination des plateformes <\/span>19<\/sup><\/a><\/span><\/span>. Ces recommandations d\u00e9finissent certaines modalit\u00e9s de la notification de contenus illicites, dans quelle mesure les h\u00e9bergeurs peuvent prendre des mesures proactives ou user de modes de d\u00e9tection automatis\u00e9s, quelles sont les voies de recours ouvertes aux \u00e9diteurs de contenus, comment traiter le cas particulier des contenus terroristes, etc. Mais l\u2019ensemble reste tr\u00e8s g\u00e9n\u00e9ral et peu contraignant : les \u00c9tats membres doivent seulement en tenir d\u00fbment compte.<\/p>\n\n\n\n En confiant \u00e0 une autorit\u00e9 administrative le soin d\u2019appr\u00e9cier la diligence d\u2019une plateforme dans le retrait de contenus, l\u2019\u00c9tat met enfin \u00e0 l\u2019\u00e9cart tout le reste des institutions, \u00e0 commencer par la justice et la soci\u00e9t\u00e9, de l\u2019appr\u00e9ciation des propos qui peuvent \u00eatre tenus dans un espace public. In fine<\/em>, l\u2019administration se trouve dans un r\u00f4le de contr\u00f4le direct des contenus par la sanction de l\u2019absence de retrait et nos d\u00e9mocraties promeuvent ainsi (s\u2019il \u00e9tait n\u00e9cessaire) un mod\u00e8le qui ne peut que satisfaire des pays bien moins d\u00e9mocratiques.<\/p>\n\n\n\n Les ph\u00e9nom\u00e8nes auxquels nous faisons face sont effroyablement complexes. Ils jouent sur notre psychologie, nos dynamiques individuelles et collectives dans les r\u00e9seaux sociaux num\u00e9riques mais aussi dans la vie r\u00e9elle. Nous devons ouvrir au maximum la r\u00e9gulation des r\u00e9seaux sociaux sur la soci\u00e9t\u00e9 elle-m\u00eame. La supervision des r\u00e9seaux sociaux peut nous ouvrir vers cette alternative, non pas tant en ce qu\u2019elle donnera des missions particuli\u00e8res \u00e0 une autorit\u00e9 administrative mais en ce qu\u2019elle permettra \u00e0 la soci\u00e9t\u00e9 de s\u2019emparer du probl\u00e8me pour apporter des solutions humaines et r\u00e9elles.<\/p>\n\n\n\n In fine<\/em>, l\u2019administration se trouve dans un r\u00f4le de contr\u00f4le direct des contenus.<\/p>serge abiteboul, jean cattan<\/cite><\/blockquote><\/figure>\n\n\n\n Lors de son discours \u00e0 l\u2019Internet Governance Forum <\/em>en novembre 2018 o\u00f9 il annon\u00e7ait la n\u00e9cessit\u00e9 de s\u2019inscrire dans une troisi\u00e8me voie, Emmanuel Macron annon\u00e7ait aussi un partenariat entre l\u2019\u00c9tat fran\u00e7ais et Facebook dont la vocation \u00e9tait pr\u00e9cis\u00e9ment d\u2019alimenter la r\u00e9flexion sur cette troisi\u00e8me voie.<\/p>\n\n\n\n Pendant six mois, dix membres de l\u2019administration fran\u00e7aise et trois rapporteurs ont eu acc\u00e8s aux locaux et au personnel de Facebook pour observer, \u00e9changer et questionner les modalit\u00e9s de mod\u00e9ration des contenus haineux par le r\u00e9seau social. Au sein de cette mission, se sont c\u00f4toy\u00e9s des juges, des experts de l\u2019informatique, des t\u00e9l\u00e9coms, de la r\u00e9gulation, des repr\u00e9sentants des forces de l\u2019ordre en charge de la cybercriminalit\u00e9 ou encore des personnes charg\u00e9es de la lutte contre le racisme et les discriminations. La question qui leur \u00e9tait pos\u00e9e \u00e9tait la r\u00e9gulation des messages de haine sur Facebook, en France. Le but \u00e9tant de consid\u00e9rer des solutions qui puissent s\u2019\u00e9tendre (I) \u00e0 d\u2019autres plateformes, (II) \u00e0 d\u2019autres nature de contenus comme les fausses nouvelles, et (III) \u00e0 un cadre europ\u00e9en.<\/p>\n\n\n\n Au cours de cette mission, Facebook a ainsi permis \u00e0 des observateurs de l\u2019\u00c9tat fran\u00e7ais d\u2019\u00e9tudier le fonctionnement de sa mod\u00e9ration, et notamment, de visiter certains de ses centres de mod\u00e9ration en Europe. Du fait de la limitation dans le temps, au cours des trois mois d\u2019observation in situ<\/em>, les membres du groupe n\u2019ont pas eu acc\u00e8s au code informatique du r\u00e9seau social. Ils ont par contre eu l\u2019occasion de se faire exposer les grandes orientations de ce code. S\u2019ils ont pu s\u2019entretenir avec des ing\u00e9nieurs et des mod\u00e9rateurs de la plateforme, cela s\u2019est fait en pr\u00e9sence de responsables de l\u2019entreprise. Si les discussions \u00e9taient directes et si les sujets controvers\u00e9s n\u2019\u00e9taient pas \u00e9vit\u00e9s, les membres du groupe ont \u00e9t\u00e9 expos\u00e9 \u00e0 la r\u00e9alit\u00e9 que voulait leur pr\u00e9senter Facebook qui n\u2019est bien s\u00fbr qu\u2019une part de la r\u00e9alit\u00e9.<\/p>\n\n\n\n De cette mission, il est sorti un rapport faisant \u00e9tat de plusieurs \u00e9l\u00e9ments de constats et des propositions <\/span>20<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n Le rapport indique tout d\u2019abord que l\u2019entreprise Facebook est soucieuse de s\u2019attaquer s\u00e9rieusement aux probl\u00e8mes rencontr\u00e9s par les r\u00e9seaux sociaux, et qu\u2019elle investit dans cette direction des moyens humains et techniques importants. Cela est bien s\u00fbr \u00e0 contraster avec les efforts plus r\u00e9duits d\u2019autres plateformes qui n\u2019ont ni les moyens, ni peut-\u00eatre l\u2019envie de confronter ces vrais probl\u00e8mes. Le rapport constate \u00e9galement que, m\u00eame avec de la bonne volont\u00e9 et des moyens, le r\u00e9seau social est \u00e0 la peine pour r\u00e9soudre les probl\u00e8mes pos\u00e9s \u00e0 la soci\u00e9t\u00e9 par ses services.<\/p>\n\n\n\n Un constat crucial est que les r\u00e9seaux sociaux jouent un r\u00f4le d\u2019\u00ab \u00e9ditorialisation de fait \u00bb. En structurant les contenus publi\u00e9s par leurs utilisateurs, en choisissant lesquels \u00ab pousser \u00bb, ils sortent de la position de simple h\u00e9bergeur d\u2019information. Des algorithmes d\u00e9finis par les concepteurs du r\u00e9seau social acc\u00e9l\u00e8rent la propagation de certains contenus les mettent en avant et les rendent visibles \u00e0 un nombre massif de personnes <\/span>21<\/sup><\/a><\/span><\/span>. L\u2019exposition du public \u00e0 des contenus probl\u00e9matiques trouve son origine dans ces choix. La non-exposition (une moindre exposition) doit donc \u00e9galement r\u00e9sulter de choix \u00e9ditoriaux du r\u00e9seau social. Ce constat est le point de d\u00e9part de toute d\u00e9marche de r\u00e9gulation des r\u00e9seaux sociaux se voulant efficace.<\/p>\n\n\n\n Un constat crucial est que les r\u00e9seaux sociaux jouent un r\u00f4le d\u2019\u00ab \u00e9ditorialisation de fait \u00bb.<\/p>Serge abiteboul, jean cattan<\/cite><\/blockquote><\/figure>\n\n\n\n En cons\u00e9quence de quoi, les auteurs du rapport proposent que le r\u00e9seau social \u00ab internalise \u00bb les objectifs qui lui sont assign\u00e9s par les pouvoirs publics dans la lutte contre, par exemple, les contenus haineux. L\u2019angle adopt\u00e9 est en rupture avec celui adopt\u00e9 par le l\u00e9gislateur jusque-l\u00e0. Il s\u2019agirait non pas de d\u00e9cider ce qui serait supprim\u00e9, mais de superviser les moyens mis en \u0153uvre pour s\u2019assurer que les r\u00e9seaux sociaux mettent bien en place les moyens n\u00e9cessaires \u00e0 la non-propagation des contenus haineux selon des crit\u00e8res qui ne seraient pas purement internes au r\u00e9seau social.<\/p>\n\n\n\n Ces objectifs et crit\u00e8res d\u00e9pendent par nature des cultures, langues et sujets de soci\u00e9t\u00e9 touchant chaque \u00c9tat et doivent tenir dument compte de la diversit\u00e9 des \u00c9tats et peuples europ\u00e9ens. La mise en \u0153uvre de la r\u00e9gulation ne peut donc se faire efficacement qu\u2019\u00e0 un niveau national. Pour cela, le rapport pr\u00f4ne de substituer la logique du pays de \u00ab destination \u00bb (le pays de r\u00e9sidence de la victime) \u00e0 celle du pays d\u2019\u00ab installation \u00bb de la plateforme (souvent l\u2019Irlande). Cela dit, selon ce mod\u00e8le, les r\u00e9gulateurs doivent se coordonner \u00e0 travers un r\u00e9gulateur europ\u00e9en qui aura un poids suffisant pour dialoguer en position de force avec les grands r\u00e9seaux sociaux, et pourra d\u00e9finir les r\u00e8gles du jeu et \u00e9viter des exc\u00e8s de r\u00e9gulateurs nationaux sous la pression d\u2019\u00e9v\u00e8nements nationaux.<\/p>\n\n\n\n La r\u00e9gulation est ensuite b\u00e2tie autour de la responsabilisation des r\u00e9seaux sociaux qui sont tenus \u00e0 un \u00ab devoir de diligence<\/em> \u00bb vis-\u00e0-vis de leurs utilisateurs : par ce biais \u00ab les r\u00e9seaux sociaux s\u2019engageraient \u00e0 assumer une responsabilit\u00e9 vis-\u00e0-vis de leurs utilisateurs concernant des abus d\u2019autres membres et des tentatives de manipulation de la plateforme par des tiers<\/em>. \u00bb<\/p>\n\n\n\n Un aspect important du rapport est que toutes les plateformes ne sont pas soumises au m\u00eame r\u00e9gime. Seules les plus importantes, les \u00ab plateformes syst\u00e9miques \u00bb sont soumises \u00e0 une telle r\u00e9gulation ex ante<\/em>, pour \u00e9viter que la r\u00e9gulation ne limite l\u2019\u00e9mergence de nouvelles entreprises innovantes. Comme propos\u00e9 par le rapport, il pourrait \u00eatre imagin\u00e9 que soient consid\u00e9r\u00e9es comme telles les plateformes dont le nombre d\u2019utilisateurs atteint les 10-20 % de la population d\u2019un \u00c9tat membre.<\/p>\n\n\n\n Les plateformes de tailles moyennes ne sont pas a priori concern\u00e9es. Si l\u2019une d\u2019entre elles se r\u00e9v\u00e9lait poser des probl\u00e8mes particuliers, avoir des effets particuli\u00e8rement n\u00e9gatifs, elle pourrait \u00eatre promue dans la cour des grands et tomber sous le coup du r\u00e9gulateur. Il faut insister sur le fait que les petites plateformes et les plateformes de taille moyenne non soumises \u00e0 un tel r\u00e9gime ne sont pas exon\u00e9r\u00e9es de toute mod\u00e9ration : elles restent \u00e9videmment tenues d\u2019appliquer les lois.<\/p>\n\n\n\n Au niveau national, le r\u00e9gulateur doit quant \u00e0 lui disposer des moyens d\u2019\u00e9valuer les r\u00e9sultats des moyens mis en \u0153uvre par les r\u00e9seaux sociaux qu\u2019il r\u00e9gule. Pour cela, les r\u00e9seaux sociaux sont soumis \u00e0 une tr\u00e8s grande transparence. Cette transparence est un \u00e9l\u00e9ment essentiel car elle seule permet une \u00e9valuation s\u00e9rieuse et significative du travail de mod\u00e9ration. A ce titre, les plateformes doivent par exemple fournir des informations sur leurs modalit\u00e9s de mod\u00e9ration, leurs statistiques li\u00e9es \u00e0 la mod\u00e9ration dont les faux positifs et faux n\u00e9gatifs \u2013 contenus injustement retir\u00e9s ou autoris\u00e9s \u00e0 tort. La transparence concerne aussi les fonctions d\u2019ordonnancement des contenus : quels sont les contenus qui sont pouss\u00e9s, pourquoi, avec ou sans r\u00e9mun\u00e9ration ?<\/p>\n\n\n\n Il s\u2019agirait non pas de d\u00e9cider ce qui serait supprim\u00e9, mais de superviser les moyens mis en \u0153uvre, selon des crit\u00e8res qui ne seraient pas purement internes au r\u00e9seau social.<\/p>serge abiteboul, jean cattan<\/cite><\/blockquote><\/figure>\n\n\n\n Les plateformes doivent aussi faciliter les signalements des contenus probl\u00e9matiques. Les internautes impliqu\u00e9s par ces contenus, qu\u2019ils les aient publi\u00e9s ou signal\u00e9s, sont notifi\u00e9s des r\u00e9sultats des proc\u00e9dures, et ont le moyen de faire appel des d\u00e9cisions.<\/p>\n\n\n\n En somme, le r\u00e9gulateur national \u00ab agile \u00bb s\u2019int\u00e9resse aux dynamiques globales sans se focaliser sur les cas particuliers qui en creux demeurent trait\u00e9s par voie judiciaire. Le focus est d\u00e9plac\u00e9 d\u2019une obligation de r\u00e9sultat \u00e0 une obligation de moyens, m\u00eame si, en dernier ressort, l\u2019obligation de r\u00e9sultat persiste dans le cadre de la loi. Pour assurer le respect des objectifs publics fix\u00e9s aux r\u00e9seaux sociaux, le r\u00e9gulateur peut leur infliger des amendes lourdes s\u2019ils ne mettent pas en place les obligations de moyen qui leur sont impos\u00e9es.<\/p>\n\n\n\n Le d\u00e9fi le plus s\u00e9rieux auquel toute mod\u00e9ration est confront\u00e9e est son acceptation par la soci\u00e9t\u00e9 : qu\u2019elle n\u2019en fasse pas assez, elle est supp\u00f4t de Satan, qu\u2019elle en fasse trop, elle est censure. C\u2019est l\u2019\u00e9cueil sur lequel se sont \u00e9chou\u00e9es, \u00e0 notre avis, l\u2019autor\u00e9gulation et la mod\u00e9ration directe de l\u2019\u00c9tat. Une r\u00e9gulation supervision qui consisterait en un t\u00eate-\u00e0-t\u00eate entre l\u2019\u00c9tat et le r\u00e9seau social ne serait pas \u00e0 l\u2019abri d\u2019un rejet de la soci\u00e9t\u00e9. Le rapport propose que les r\u00e9seaux sociaux entrent dans un dialogue politique inform\u00e9 avec toutes les parties prenantes : le r\u00e9gulateur bien s\u00fbr, mais aussi le gouvernement et ses services, le l\u00e9gislateur, la justice et la soci\u00e9t\u00e9 civile (en particulier les associations et les laboratoires de recherche). Tous participent \u00e0 la d\u00e9finition des objectifs, \u00e0 l\u2019\u00e9valuation, au suivi des recours, \u00e0 la construction de bases de donn\u00e9es d\u2019apprentissage.<\/p>\n\n\n\n Le r\u00e9gulateur national en charge de la supervision des r\u00e9seaux sociaux a pour mission d\u2019assurer cette ouverture sur l\u2019ext\u00e9rieur, d\u2019organiser les d\u00e9bats autour de la d\u00e9finition des objectifs, et de mani\u00e8re g\u00e9n\u00e9rale d\u2019impliquer l\u2019ensemble de la soci\u00e9t\u00e9 dans le processus de supervision. Il joue un r\u00f4le central dans la mise en partage des informations qui d\u00e9crivent les services des r\u00e9seaux sociaux, notamment de celles qui expliquent leurs choix algorithmiques. Enfin, \u00e0 partir des objectifs fix\u00e9s par le pouvoir politique, le r\u00e9gulateur est charg\u00e9 de la r\u00e9solution de probl\u00e8mes g\u00e9n\u00e9raux comme particuliers, et du r\u00e8glement diligent des diff\u00e9rends.<\/p>\n\n\n\n Tout l\u2019\u00e9difice repose sur un \u00e9quilibre d\u00e9licat. Les juges sont les seuls \u00e0 pouvoir d\u00e9cider de la l\u00e9galit\u00e9 ou pas d\u2019un contenu. Le r\u00e9gulateur supervise le fonctionnement des plateformes syst\u00e9miques. Le syst\u00e8me tire son efficacit\u00e9 de la compl\u00e9mentarit\u00e9 de leurs r\u00f4les.<\/p>\n\n\n\n Le r\u00e9gulateur national \u00ab agile \u00bb s\u2019int\u00e9resse aux dynamiques globales sans se focaliser sur les cas particuliers qui en creux demeurent trait\u00e9s par voie judiciaire.<\/p>serge abiteboul, jean cattan<\/cite><\/blockquote><\/figure>\n\n\n\n La soci\u00e9t\u00e9 a pris conscience des probl\u00e8mes pos\u00e9s par les r\u00e9seaux sociaux. Cela a conduit les r\u00e9seaux sociaux \u00e0 agir pour essayer de \u00ab se pacifier \u00bb, mais en restant dans le cadre de la 1\u00e8re<\/sup> voie. Ces probl\u00e8mes ont aussi pris place dans les agendas politiques. Des mesures tenant de la 2\u00e8me<\/sup> voie, comme la loi NetzDG, ont contribu\u00e9 \u00e0 faire r\u00e9aliser aux plateformes syst\u00e9miques que leur business<\/em> ne pouvait se perp\u00e9tuer sans changements profonds.<\/p>\n\n\n\n L\u2019app\u00e9tence des internautes pour ces r\u00e9seaux montre bien qu\u2019ils m\u00e9ritent d\u2019\u00eatre sauvegard\u00e9s. Dans cet article, nous avons insist\u00e9 sur la r\u00e9gulation supervision comme moyen d\u2019adresser le probl\u00e8me sans nuire aux apports essentiels des r\u00e9seaux sociaux pour la soci\u00e9t\u00e9, pour permettre \u00e0 chacun de s\u2019exprimer, de s\u2019informer, d\u2019\u00e9changer avec les autres, en bref la 3\u00e8me<\/sup> voie. Mais, ce n\u2019est qu\u2019une facette de la question.<\/p>\n\n\n\n L\u2019\u00e9ducation.<\/strong> Il nous faut aussi apprendre \u00e0 utiliser les r\u00e9seaux sociaux, \u00e0 bien nous y comporter, \u00e0 apprendre \u00e0 respecter l\u2019autre. Cela place l\u2019\u00e9ducation au c\u0153ur du dispositif. Aujourd\u2019hui, l\u2019article L. 312-15 du Code de l\u2019\u00e9ducation dispose par exemple que \u00ab l’enseignement moral et civique vise notamment \u00e0 amener les \u00e9l\u00e8ves \u00e0 devenir des citoyens responsables et libres, \u00e0 se forger un sens critique et \u00e0 adopter un comportement r\u00e9fl\u00e9chi, y compris dans leur usage de l’internet et des services de communication au public en ligne. \u00bb Le regard critique peut \u00eatre d\u00e9velopp\u00e9, par exemple, \u00e0 travers un encouragement \u00e0 l\u2019\u00e9dition et la mod\u00e9ration de contenus en ligne de mani\u00e8re communautaire, comme sur Wikip\u00e9dia par exemple. Les r\u00e9seaux sociaux sont les fruits de r\u00e9volutions scientifiques et techniques. Un tel enseignement doit donc aussi tenir compte de cette dimension. En particulier, une \u00e9ducation \u00e0 l\u2019informatique est indispensable pour comprendre le fonctionnement de ces r\u00e9seaux. Si nous voulons \u00eatre ma\u00eetres de notre environnement, nous devons comprendre de quoi il est fait. Cette \u00e9ducation \u00e0 la pens\u00e9e critique et \u00e0 la pens\u00e9e algorithmique \u00e0 l\u2019heure des r\u00e9seaux sociaux ne peut se limiter \u00e0 un public jeune. Elle doit concerner l\u2019ensemble des tranches d\u2019\u00e2ge. Nous sommes tous concern\u00e9s !<\/p>\n\n\n\n Les donn\u00e9es et les algorithmes. <\/strong>Les algorithmes de d\u00e9tection de contenus \u00e0 \u00e9carter s\u2019appuient sur des corpus de donn\u00e9es annot\u00e9es. Avec ces donn\u00e9es, l\u2019algorithme \u00ab apprend \u00bb \u00e0 s\u00e9parer le bon grain de l\u2019ivraie. Ces corpus participent \u00e0 d\u00e9finir ce qui rel\u00e8ve de l\u2019information ou de la d\u00e9sinformation, d\u2019un message de haine ou juste un peu caustique, etc. Ils doivent donc \u00eatre mis au service de la soci\u00e9t\u00e9 au-del\u00e0 des seules grandes plateformes qui ont les moyens de les construire. Les petites entreprises doivent y avoir acc\u00e8s, au risque sinon du renforcement des oligopoles. Cela milite pour que ces corpus soient consid\u00e9r\u00e9s un bien commun, des \u00ab donn\u00e9es d\u2019int\u00e9r\u00eat g\u00e9n\u00e9ral \u00bb. \u00c9videmment, le partage de donn\u00e9es doit \u00eatre r\u00e9alis\u00e9 dans le respect de la protection de la vie priv\u00e9e et du secret des affaires, \u00e9ventuellement apr\u00e8s anonymisation et\/ou consolidation. Le monde de la recherche et la soci\u00e9t\u00e9 civile ont toute leur place dans la constitution de ces corpus qui doivent \u00eatre r\u00e9alis\u00e9s dans un dialogue permanent entre toutes les parties concern\u00e9es. Au-del\u00e0 de la question des donn\u00e9es, les chercheurs doivent \u00eatre encourag\u00e9s \u00e0 explorer de nouvelles pistes pour d\u00e9tecter algorithmiquement les contenus nocifs. Par exemple, des travaux sur le cyberharc\u00e8lement ont montr\u00e9 que ces situations pouvaient \u00eatre d\u00e9cel\u00e9es parfois plus efficacement en observant les graphes propres aux attaques (des grappes allant vers une personne) qu\u2019en se fondant sur l\u2019analyse des propos prof\u00e9r\u00e9s <\/span>22<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n L\u2019engagement citoyen.<\/strong> Des extr\u00e9mismes violents de toutes natures ont investi les r\u00e9seaux sociaux. Des organisations ont choisi de les combattre sur ce m\u00eame terrain. C\u2019est le travail r\u00e9alis\u00e9 par Moonshot CVE qui, \u00e0 partir des donn\u00e9es issues des r\u00e9seaux sociaux, parvient \u00e0 \u00e9tablir une analyse d\u00e9mographique et g\u00e9ographique de ces publics La 1\u00e8re<\/sup> voie : l\u2019autor\u00e9gulation et une intervention a posteriori<\/em><\/h2>\n\n\n\n
La 2e<\/sup> voie : le contr\u00f4le direct des contenus par l\u2019\u00c9tat<\/h2>\n\n\n\n
La 3e <\/sup>voie : la r\u00e9gulation supervision agile<\/h2>\n\n\n\n
Conclusion : La supervision, porte ouverte vers la soci\u00e9t\u00e9<\/h2>\n\n\n\n