Le vrai prédateur

Pour préparer votre rentrée, testez le Grand Continent. Les idées et les analyses qu’on ne trouve nulle part. Mais que vous verrez bientôt partout. Dans votre boîte mail à partir de 8 euros par mois

Comme le faisait remarquer le statisticien de Yale Edward Tufte : « Il n’y a que deux industries qui qualifient leurs clients ‘d’usagers’ (users) : les dealers de drogue et les fabricants de logiciels. » Le 27 août 2026, Meta a signé un accord « à l’amiable » avec 47 États américains ¹ qui le poursuivaient en justice pour avoir « délibérément mis en danger les plus jeunes » avec ses plateformes de réseaux sociaux ². Pour comprendre ce qu’il a précisément été reproché à Meta et ce qui se cache de si nocif au cœur de sa machinerie algorithmique, il faut faire un détour qui n’a pas souvent été proposé depuis, non pas par le droit, mais par les neurosciences.

Qu’est-il reproché à Meta ?

Tout d’abord, un double discours. Meta savait que ses produits étaient dangereux grâce à des études internes mais n’a jamais publiquement mentionné ce risque, assurant au contraire ses usagers qu’ils ne couraient aucun danger. On peut ainsi dresser un parallèle avec les fabricants de cigarettes qui, grâce à leurs études internes, savaient que leurs produits étaient nocifs mais ont longtemps prétendu qu’ils étaient au contraire bons pour la santé ou même avec le fabricant d’airbags Takata qui lui aussi savait que ses produits étaient dangereux mais n’en a rien dit et a continué de les vendre sans informer des dangers.

Meta n’a pas agi par sadisme ou par amour du mal. Comme l’a noté la lanceuse d’alerte Frances Haugen a l’origine des Facebook Papers ³ : « Ce qui était bon pour ses affaires était mauvais pour ses usagers et Mark Zuckerberg a systématiquement arbitré en faveur de ses affaires tout en sachant que cela se ferait au détriment de la santé mentale de ses usagers ».

De la crainte existentielle à la prédation cognitive

On sait que Mark Zuckerberg était obsédé par un cauchemar : MSN Messenger et Myspace. Il n’a pas délibérément nui à la santé mentale de ses usagers parce qu’il aime provoquer le chaos mais parce qu’il était absolument terrorisé à l’idée que les gens, et en particulier les plus jeunes, quittent peu à peu son application pour aller passer plus de temps sur des applications concurrentes. Il vivait dans la crainte permanente de subir le même sort que Myspace ou MSN Messenger, les premiers réseaux sociaux qui ont été pendant un temps le lieu absolu de socialisation numérique des plus jeunes, avant d’être peu à peu délaissés au profit de Facebook.

Mark Zuckerberg a donc agi à deux niveaux. D’une part, il a fait preuve de ce que l’on pourrait qualifier de « prédation passive » en s’opposant à toutes les mesures de sécurité que lui ont fortement suggérées ses propres équipes de chercheurs. Il s’agissait notamment de mesures générant de la friction afin de réduire le temps passé et « l’engagement ». Mark Zuckerberg les a catégoriquement refusées par crainte de voir ses usagers simplement partir chez la concurrence, accélérant ainsi un déclin comparable à celui de Myspace. 

Il a également fait preuve de « prédation active » en ayant recours aux neurosciences pour optimiser la réponse dopaminergique que génère l’utilisation de ses plateformes dans le cerveau de ses plus jeunes utilisateurs. En clair, Mark Zuckerberg a délibérément eu recours à l’apprentissage par renforcement pour surcharger leurs cerveaux de dopamine et diminuer très fortement leur capacité à résister à l’envie de revenir encore et encore sur ses plateformes. 

Utiliser la neuroscience pour exploiter délibérément les vulnérabilités des cerveaux des plus jeunes

On doit rappeler que le terme « addiction » au sens strict utilisé pour décrire un rapport aux réseaux sociaux et aux écrans dans un sens équivalent à celui utilisé pour décrire un rapport aux drogues chimiques ou aux paris sportifs fait encore l’objet de débats au sein de la communauté médicale et ne fait pas consensus à ce jour. 

Pourtant les neurosciences nous révèlent un élément décisif. 

Mark Zuckerberg et ses équipes de chercheurs savaient que les adolescents présentent un certain différentiel dans la vitesse à laquelle se développent les différentes zones de leur cerveau. En simplifiant beaucoup on peut considérer que la zone du cerveau qui reçoit et prend en charge les « récompenses » est le nucleus accumbens et que la zone qui permet d’évaluer les risques à long terme d’un comportement et de contrôler ses impulsions est le cortex préfrontal. 

Or, il s’avère que chez les jeunes le nucleus accumbens se développe bien plus rapidement que le cortex préfrontal, créant une susceptibilité toute particulière aux récompenses et une bien plus grande difficulté à contrôler les comportements impulsifs et les envies soudaines. Mark Zuckerberg a donc « logiquement » misé sur un design de prédation basé sur l’optimisation du pattern de récompenses qui exploite cette faiblesse.

Notre compréhension de l’impact des mécanismes de récompense sur le cerveau humain s’appuie notamment sur les travaux de recherche en sciences du comportement et en neurosciences de B.F. Skinner, professeur de psychologie à Harvard qui publia en 1957 avec Charles Ferster le livre Protocoles d’apprentissage par renforcement ⁴ ainsi que sur ceux de Wolfram Schultz, professeur de neurosciences à Cambridge qui publia en 1998 un article clef intitulé « Neurones dopaminergiques et signaux de récompense prédictive » ⁵. 

Ensemble ils établissent que contrairement à beaucoup d’idées reçues la dopamine n’est pas un neurotransmetteur dont la présence signale le plaisir ou la récompense en elle-même. Les neurones dopaminergiques, c’est-à-dire ceux qui sécrètent de la dopamine, sont activés ou bloqués par l’association d’une prédiction concernant l’arrivée ou non d’une récompense et par la réalisation ou non de cette prédiction. Il s’agit d’un point contre-intuitif mais absolument essentiel pour comprendre la stratégie de Meta. La prédiction de la récompense est aussi importante pour le cerveau que la récompense elle-même.

On entend parfois dire qu’« un euro gagné en faisant des paris sportifs a bien plus de valeur que trois euros gagnés en travaillant ». On sait maintenant qu’il y a une base neuroscientifique claire derrière ce phénomène réel. Si le cerveau prédit l’arrivée certaine d’une récompense et qu’il la reçoit, les neurones dopaminergiques finissent par ne plus réagir. On peut extrapoler ce résultat et expliquer ainsi de nombreuses caractéristiques propres à l’espèce humaine qui cesse d’apprécier pleinement une récompense dès lors que son arrivée était une certitude. Le cerveau est bien moins réactif à ce qu’il a « pris pour acquis ». Les neurones dopaminergiques s’activent précisément lorsque l’on sait qu’une récompense est possible mais pas certaine. Les fameuses « poussées de dopamine » sont ainsi maximales lorsque l’on est dans l’anticipation et dans l’incertitude.

Les circuits de la récompense dopaminergiques sont ainsi étroitement liés au concept d’apprentissage par renforcement, celui-là même utilisé pour entraîner de nombreuses IA qui sont après tout à la base des « réseaux de neurones ». La dopamine et l’amplitude de la récompense sont ainsi maximales quand le cerveau sait que la récompense peut venir à tout moment mais qu’il ne dispose d’aucun modèle clair lui permettant de l’anticiper. Si la récompense est par exemple délivrée avec régularité toutes les heures, au bout de quelques heures les neurones dopaminergiques cessent de réagir. En revanche, si la récompense est délivrée tantôt au bout de dix minutes, tantôt au bout de deux heures, tantôt au bout de 40 minutes, les neurones dopaminergiques sont suractivés par chaque récompense.

Structure du design prédateur actif

Pleinement au courant de l’ensemble de ces découvertes scientifiques, Mark Zuckerberg a ainsi délibérément introduit dans ses algorithmes une « philosophie de prédation » visant à maximiser l’impact de chaque « récompense » sur les neurones dopaminergiques, et donc sur le nucleus accumbens, la partie du cerveau qui les reçoit. 

Puisque chez les jeunes, le nucleus accumbens est plus développé que le cortex préfrontal qui permet de contrôler ses impulsions et de « tempérer les choses » ces poussées de dopamine peuvent être assimilées à un apprentissage par renforcement intermittent. Mark Zuckerberg a ainsi introduit dans ses algorithmes une philosophie de prédation visant à jouer avec le cerveau des jeunes comme des chercheurs le font avec le cerveau des souris. On peut raisonnablement parler de « prédation active » car il ne s’agit pas simplement, comme nous le verrons ensuite, de s’opposer à l’ajout de mesures de sécurité mais d’orienter son design dans le but de cibler délibérément le cerveau encore en formation des plus jeunes et des plus vulnérables.

Concrètement, qu’a-t-il fait ? On peut se concentrer sur trois aspects clefs : le timing des notifications d’une part, le scroll infini et son effet « machine à sous » d’autre part, et enfin la volonté de provoquer des « school blasts » afin de maximiser l’usage pendant les cours.

Les algorithmes de Meta retardent volontairement les notifications afin de rendre leur arrivée plus difficile à prévoir et donc de maximiser leur impact sur le cerveau ⁶. Imaginons une adolescente qui s’appellerait Elie et qui posterait une photo sur Instagram. Elie recevrait des likes sur cette photo à un rythme régulier d’environ un toutes les 5 minutes. L’algorithme d’Instagram ne va pas lui envoyer de notification toutes les 5, 10 ou 15 minutes car ce rythme régulier faciliterait la prédiction de l’arrivée future de cette récompense qui n’aurait alors plus d’effet sur ses neurones dopaminergiques. L’algorithme va donc envoyer une notification au bout de 5 minutes, puis au bout d’une heure, puis au bout de 27 minutes, etc…

Le cerveau comprend alors qu’une récompense peut arriver à tout moment, sans qu’il soit possible de prévoir exactement quand. C’est précisément cette incertitude qui maintient en éveil le circuit de la récompense et renforce la réponse : une immense sécrétion de dopamine. L’irrégularité des notifications reproduit le principe de l’apprentissage par renforcement intermittent, selon lequel une récompense imprévisible incite davantage à répéter un comportement. Mais imprévisible ne signifie pas aléatoire. Le moment où apparaît la notification peut être calculé afin de maximiser les chances que l’utilisateur revienne sur la plateforme.

L’algorithme analyse l’ensemble des données concernant l’utilisation du réseau social par l’utilisateur afin d’optimiser l’envoi des notifications ⁷. Reprenons l’exemple d’Elie. L’algorithme calcule le temps moyen de ses sessions sur l’application, et prédit le moment où elle est le plus susceptible de partir. Si elle reçoit beaucoup de likes sur sa photo, l’application ne le lui indiquera pas et attendra précisément le moment où elle est le plus susceptible de partir pour lui envoyer la notification et donc la « récompense ».

Le second aspect de cette « philosophie de prédation active » concerne le scroll infini et plus particulièrement le geste qui consiste à tirer physiquement le flux vers le bas pour le rafraîchir. Des chercheurs de Meta ont eux-mêmes comparé ce mécanisme à celui d’une machine à sous : l’utilisateur actionne quelque chose sans savoir ce qui va apparaître, mais anticipe la possibilité d’un déclenchement de dopamine. 

Meta n’a pas inventé le scroll infini, conçu par Aza Raskin en 2006, ni le pull-to-refresh, cette mécanique de rafraîchissement en « swipant » vers le bas qui a été développé par Loren Brichter en 2009. L’entreprise de Marck Zuckerberg a en revanche adopté et optimisé ces technologies pour renforcer leur effet sur le circuit de la récompense neurologique. 

D’une part, ils ont ajouté une flèche circulaire qui tourne pendant le rafraîchissement du flux même lorsque le réseau est excellent et qu’il n’y a aucun temps de chargement afin d’imiter la rotation d’une machine à sous qui est essentielle pour mobiliser les neurones dopaminergiques. En effet, la sécrétion de dopamine est maximale lorsque cette roue tourne et que le cerveau anticipe une potentielle récompense mais sans avoir la certitude qu’elle arrivera. Cette roue qui tourne pendant que le flux se rafraîchit est ainsi ajoutée et prolongée artificiellement quel que soit l’état du réseau dans le seul but de mobiliser les neurones dopaminergiques. 

Dans le cadre de cet « effet machine à sous » l’algorithme va également faire exprès de délivrer des « récompenses » de façon intermittente et imprévisible : tantôt vous aurez un flux médiocre composé de publicités peu enthousiasmantes, « pas de récompense », tantôt vous aurez un flux avec une vidéo virale, dans vos centres d’intérêt, « petite récompense », tantôt vous aurez un flux avec une fake news à laquelle vous serez ravi de croire car elle confirme ce en quoi vous croyez et qui constituera donc une « grande récompense ».

Enfin, on peut parler de la poursuite agressive d’une utilisation plus intensive des réseaux sociaux par les adolescents pendant leurs heures de cours. En 2017, Mark Zuckerberg se montre on ne peut plus clair : « notre objectif clef pour 2017 est que les adolescents passent un maximum de temps sur nos plateformes. » ⁸ C’est ainsi que les équipes de Meta se sont mises à concevoir ce qu’elles ont appelé les « school blasts » : des vagues de notifications envoyées aux jeunes dont les données de localisation indiquent qu’ils se trouvent à l’intérieur d’un établissement scolaire afin de jouer sur la pression des pairs et la « peur de passer à côté de quelque chose » pour provoquer une utilisation groupée des réseaux sociaux au milieu des heures de cours. Un responsable de Meta va même jusqu’à écrire dans un e-mail interne : « Nous devons optimiser notre design pour que chaque jeune ne puisse plus passer un cours de chimie sans jeter un coup d’œil à son téléphone. » 

Design prédateur passif rien ne doit entraver le temps passé en ligne

On peut ensuite s’intéresser à ce que l’on pourrait qualifier de « prédation passive », qui consiste à refuser de manière délibérée de mettre en place des éléments améliorant la sécurité de ses usagers. On peut ainsi citer l’exemple de la Ford Pinto : une voiture que Ford savait dangereuse. Il n’aurait coûté à Ford que 11 dollars par voiture pour sauver des vies, mais une étude interne a calculé que ne rien faire coûterait moins cher à l’entreprise. De la même manière Mark Zuckerberg n’a rien fait et a laissé la santé mentale de nombreux adolescents et adolescentes se détériorer, parfois de façon critique.

Cette « prédation passive » ne doit pas être considérée comme moins grave, car elle constitue un refus catégorique de prendre en compte la sécurité et le bien-être des utilisateurs. Presque toutes les mesures de sécurité proposées à Mark Zuckerberg par ses chercheurs l’ont été à la suite d’études internes démontrant les effets néfastes très sérieux des plateformes de Meta sur les jeunes usagers. 

Le premier aspect de la prédation passive concerne la manipulation de mineurs par des adultes. Dès 2019, Meta savait que des adultes entraient en contact avec des adolescents et des enfants qu’ils ne connaissaient pas sur Instagram et a été sommé d’agir. Mais sa propre version de l’étude interne sur la Ford Pinto, à savoir ses calculs internes concernant le « coût pour l’entreprise d’améliorer la sécurité de ses usagers », ont estimé que mettre les comptes d’adolescents en « privé » par défaut, éliminant la possibilité pour des adultes inconnus d’aller leur parler, aurait supprimé 5,4 millions d’interactions indésirables par jour ce qui aurait été très mauvais pour l’entreprise car « cela aurait fortement réduit la croissance et l’engagement ». Cela n’a donc été mis en œuvre qu’en 2024, laissant des milliards d’interactions entre adultes et enfants ou adolescents se produire ⁹.

Le second aspect de la prédation passive de Meta concerne la propagation de fake news, de la désinformation, et des discours de haine. Les propres équipes de chercheurs de Meta ont suggéré divers mécanismes permettant de lutter contre ce phénomène, regroupés sous le terme « frictionner la viralité ».

L’idée est de ralentir la propagation virale de contenu car celui-ci contient une surreprésentation des fake news et du contenu haineux. Par exemple, en limitant le nombre de fois qu’un contenu peut être partagé ou en requérant que l’utilisateur commente avant de repartager. Même devant une étude interne montrant que ces mécanismes pouvaient significativement réduire la proportion de fake news, Mark Zuckerberg s’est personnellement opposé à toute forme de friction qui réduirait l’engagement et ferait courir le risque de voir ses usagers partir chez la concurrence ¹⁰. 

On notera ici que les équipes de Meta ont interviewé des politiques européens qui leur ont expressément avoué se sentir obligés de poster du contenu toxique, voire haineux, pour pouvoir bénéficier d’un minimum de visibilité. Certains ont expressément demandé à Meta de modifier ses algorithmes, notamment pour réduire la mise en avant des contenus générant des réactions de colère afin de ne plus avoir à produire un discours haineux. 

Le troisième aspect de la prédation passive de Meta concerne le temps passé sur l’application et le refus délibéré d’introduire la moindre friction. La recherche en psychologie a analysé et mis en avant les bénéfices des « incitations à l’arrêt » dans les médias consommés. Le psychologue de l’Université de New York Adam Alter, qui a beaucoup étudié les mécanismes « d’addiction » à la tech, ayant notamment publié en 2017 le livre Irresistible : The Rise of Addictive Technology and the Business of Keeping Us Hooked, a mis en avant l’importance des « incitations à l’arrêt » dans la lutte contre l’addiction ¹¹. Il fait notamment une distinction entre les médias du XXe siècle qui possédaient ces incitations (la fin du chapitre d’un livre, le bas de la page d’un magazine, la fin d’un programme de télévision ou bien une coupure publicitaire, etc.) et l’UX de la tech qui les omet délibérément en normalisant le « scroll infini ». Les études internes de Meta ont de façon répétée établi un lien clair entre ce système et un usage compulsif, des troubles du sommeil et de l’image de soi chez les adolescents.

Comment sait-on tout cela ?

Tout cela est connu grâce à la lanceuse d’alerte Frances Haugen ¹² qui a quitté Meta en emportant des dizaines de milliers de documents compromettants qu’elle a fait publier, notamment via les Facebook Papers ¹³ de 2021 et grâce aux commissions d’enquête parlementaires lancées par le Congrès ¹⁴. Les législateurs ont entendu de nombreux responsables et anciens responsables de l’entreprise. Puis, les actions en justice lancées par les États américains contre Meta ^15 16 ont déclenché des enquêtes ¹⁷ et permis l’obtention de nombreux mandats de perquisition et injonctions à produire des documents.

Où s’arrête l’UX et où commence la prédation ?

Ce qui est reproché à Meta, c’est le design et l’expérience utilisateur de ses plateformes de réseaux sociaux, notamment Facebook et Instagram. Mais n’y a-t-il pas quelque part un paradoxe à reprocher à une entreprise dont le cœur de métier est précisément de créer les réseaux sociaux les plus agréables à utiliser possibles d’être « trop efficace » à cela ? Reproche-t-on à un fabricant de voitures de les créer « trop agréables à conduire » ? Après tout n’a-t-on pas créé un terme et tout un champ d’analyse pour décrire l’optimisation du design afin de rendre l’expérience la plus agréable possible : l’UX soit User Expérience ? Alors quelle différence entre une excellente UX dont on doit applaudir le design et un design relevant de la « prédation » ?

On pourrait comparer une plateforme de réseau social dotée d’une « excellente expérience utilisateur » (UX) et d’un design optimisé qui donne envie d’y passer du temps à un cycliste qui gagne le Tour de France. Meta, dont le design est qualifié de « prédateur », se rapprocherait davantage d’un cycliste totalement dopé qui ne gagne le Tour de France que par des abus répétés mettant en danger sa santé. Dans un cas, la compétition est gagnée « à la loyale » : en ciblant des adultes au cerveau déjà pleinement formé grâce à un contenu de qualité. Dans l’autre, on a gagné en trichant et en usant d’un avantage déloyal : on a ciblé des jeunes particulièrement vulnérables en exploitant le fait que leur cerveau est encore en développement, grâce aux neurosciences.

Faut-il absolument choisir entre sûreté et compétitivité ?

Les preuves démontrent l’absence fondamentale d’éthique sociale et épistémologique de Mark Zuckerberg, son refus délibéré d’accepter la moindre responsabilité concernant la santé de ses utilisateurs, et sa volonté de leur faire autant de mal que nécessaire dès lors que c’est bon pour les affaires. 

Mark Zuckerberg s’est opposé à presque toutes les mesures de sécurité qui lui ont été suggérées par ses équipes de recherche au nom de la compétitivité de son entreprise. Comme nous l’avons déjà noté, son raisonnement était simple : « si nous introduisons de la friction sur nos plateformes, nos usagers choisiront le chemin de moindre résistance et iront simplement chez nos concurrents. » On retrouve le même argumentaire déployé par les agriculteurs pour s’opposer à l’interdiction des pesticides et pour demander leur réintroduction : « Si nous ne le faisons pas les autres le feront, seront plus compétitifs que nous et ainsi le public subira de toute façon les effets néfastes sur sa santé mais il n’y a que nous qui subirons les effets néfastes économiques. »

Ce sont aussi précisément les mêmes arguments qui sont aujourd’hui utilisés par les géants de la tech pour s’opposer à une régulation trop forte de l’IA : « Si nous faisons cela, la Chine ne le fera pas et nous passera devant. » Ce sont des arguments que nous pouvons facilement combattre à condition de replacer la santé publique au cœur de nos stratégies et de nos pensées politiques.