{"id":183461,"date":"2023-04-28T16:15:00","date_gmt":"2023-04-28T14:15:00","guid":{"rendered":"https:\/\/legrandcontinent.eu\/fr\/?p=183461"},"modified":"2023-06-29T15:13:17","modified_gmt":"2023-06-29T13:13:17","slug":"limites-dun-systeme-comment-debloquer-lia","status":"publish","type":"post","link":"https:\/\/legrandcontinent.eu\/fr\/2023\/04\/28\/limites-dun-systeme-comment-debloquer-lia\/","title":{"rendered":"Limites d’un syst\u00e8me : d\u00e9bloquer l’IA"},"content":{"rendered":"\n

\u00c9crit en mars 2022, ce texte de Gary Marcus, professeur \u00e9m\u00e9rite de psychologie et de sciences neuronales \u00e0 l’Universit\u00e9 de New York et auteur en psychologie et sciences neuronales, pr\u00e9c\u00e8de de quelques mois l\u2019irruption dans la sph\u00e8re publique de syst\u00e8mes comme ChatGPT ou GTP-4, qui d\u00e9mocratisent l\u2019usage du Deep Learning aupr\u00e8s d\u2019un grand public partag\u00e9 entre techno-optimisme exalt\u00e9 et anxi\u00e9t\u00e9 paralysante. Ce texte demeure n\u00e9anmoins d\u2019une actualit\u00e9 aigu\u00eb puisqu’il r\u00e9pond \u00e0 la vision \u00ab triomphante \u00bb que Sam Altman partage dans Moore’s Law for everything<\/em><\/a> et met en lumi\u00e8re les limites de la technologie per\u00e7ues par l\u2019auteur. Ce faisant, Gary Marcus apporte au d\u00e9bat des \u00e9l\u00e9ments de contexte scientifiques et historiques pour \u00e9clairer une soci\u00e9t\u00e9 qui s’interroge, perplexe, sur le futur de l\u2019IA : des cons\u00e9quences \u00e0 court terme aux catastrophes existentielles.<\/p>\n\n\n\n

Le nouveau paradigme \u00e0 l\u2019oeuvre (le passage \u00e0 l\u2019\u00e9chelle des techniques connues depuis des ann\u00e9es en les appliquant \u00e0 des mod\u00e8les et des jeux de donn\u00e9es toujours plus volumineux) a permis de faire \u00e9merger une nouvelle g\u00e9n\u00e9ration de mod\u00e8les dont les performances in\u00e9dites (g\u00e9n\u00e9ration de code ou d\u2019images, r\u00e9daction d\u2019emails, compilation, analyse et synth\u00e8se d\u2019informations) rebattent les cartes d\u2019\u00e9quilibres technologiques pourtant per\u00e7us jusqu\u2019alors comme intangibles. En premi\u00e8re ligne, les g\u00e9ants du num\u00e9riques comme Google <\/span>1<\/sup><\/a><\/span><\/span> ou Meta <\/span>2<\/sup><\/a><\/span><\/span> r\u00e9examinent leurs strat\u00e9gies de d\u00e9ploiement de leurs produits afin de faire face \u00e0 ce qu\u2019ils identifient comme une s\u00e9rieuse menace de disruption technologique.<\/p>\n\n\n\n

Peut-on en d\u00e9duire pour autant que cette technologie m\u00e8nera en l\u2019\u00e9tat \u00e0 l\u2019objectif originel des pionniers de la discipline \u2014 doter la machine d\u2019une intelligence comparable \u00e0 celle d\u2019un humain capable de r\u00e9aliser n\u2019importe quelle t\u00e2che cognitive ? Ou \u00e0 l\u2019inverse, ce paradigme manque-t-il fondamentalement de substance pour \u00eatre compl\u00e8tement transformatif ? <\/p>\n\n\n\n

Pour Gary Marcus, l\u2019approche est intrins\u00e8quement limit\u00e9e : davantage comparables \u00e0 des g\u00e9n\u00e9rateurs de pastiches ou de paraphrases plus ou moins \u00e9volu\u00e9s, les mod\u00e8les actuels sont par essence d\u00e9faillants pour raisonner sur le monde et en tirer une compr\u00e9hension de leur environnement g\u00e9n\u00e9ralisable au-del\u00e0 des informations trait\u00e9es lors de leur entra\u00eenement. En bref, les chercheurs en IA ont besoin de nouvelles fa\u00e7ons de penser.<\/p>\n\n\n\n

\u00c0 l\u2019heure ou l\u2019IA bouleverse en profondeur chaque pan de l\u2019\u00e9conomie, la soci\u00e9t\u00e9 ou des relations internationales, le d\u00e9bat auquel participe Gary Marcus d\u00e9passe le simple cadre de la controverse technologique entre experts. Il fait \u00e9merger les enjeux critiques relatifs aux progr\u00e8s de l\u2019IA et \u00e0 ses modalit\u00e9s de d\u00e9ploiement, qui exigent une approche prospective transverse et multipartite <\/span>3<\/sup><\/a><\/span><\/span>. <\/p>\n\n\n\n

\u00ab Permettez-moi de commencer par dire quelques mots qui semblent \u00e9vidents \u00bb, a d\u00e9clar\u00e9 Geoffrey Hinton, le \u00ab parrain \u00bb de l’apprentissage profond et l’un des scientifiques les plus c\u00e9l\u00e8bres de notre \u00e9poque, lors d’une conf\u00e9rence sur l’IA organis\u00e9e \u00e0 Toronto en 2016. \u00ab Si vous travaillez comme radiologue, vous \u00eates comme le coyote qui a d\u00e9j\u00e0 franchi le bord de la falaise mais qui n’a pas regard\u00e9 en bas. L’apprentissage profond est si bien adapt\u00e9 \u00e0 la lecture des images des IRM et des tomodensitogrammes que les gens devraient \u00ab arr\u00eater de former les radiologues d\u00e8s maintenant \u00bb et qu’il est \u00ab tout \u00e0 fait \u00e9vident que d’ici cinq ans, l’apprentissage profond fera mieux \u00bb.<\/p>\n\n\n\n

G. Hinton est consid\u00e9r\u00e9 comme l’un des grands artisans de la r\u00e9volution du Deep learning au tournant des ann\u00e9es 2010. En particulier, il pr\u00e9sente en 2012 avec son \u00e9tudiant Alex Krizhevsky un nouveau mod\u00e8le de Deep Learning baptis\u00e9 AlexNet, qui obtient des performances in\u00e9dites dans une comp\u00e9tition internationale de classification d’image par des syst\u00e8mes d’IA (ImageNet). Cette \u00e9tape marque un tournant d\u00e9cisif dans l’adoption du Deep Learning par la communaut\u00e9 scientifique, qui comprend alors le formidable potentiel de la technologie.<\/p>\n\n\n\n

En 2022, pas un seul radiologue n’a \u00e9t\u00e9 remplac\u00e9. Le consensus actuel est plut\u00f4t que l’apprentissage automatique pour la radiologie est plus difficile qu’il n’y para\u00eet <\/span>4<\/sup><\/a><\/span><\/span> ; au moins pour l’instant, les humains et les machines compl\u00e8tent leurs forces respectives <\/span>5<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n

L’apprentissage profond est au maximum de son potentiel lorsqu’il s’agit d’obtenir des r\u00e9sultats bruts<\/strong><\/h2>\n\n\n\n

Peu de domaines ont fait l’objet d’autant de battage et de bravade que l’intelligence artificielle. Elle est pass\u00e9e d’une mode \u00e0 l’autre, d\u00e9cennie apr\u00e8s d\u00e9cennie, promettant toujours la lune, mais n\u2019obtenant qu’occasionnellement des r\u00e9sultats. Il y a d’abord eu les syst\u00e8mes experts, puis les r\u00e9seaux bay\u00e9siens et enfin les machines \u00e0 vecteurs de support. En 2011, c’\u00e9tait Watson d’IBM, autrefois pr\u00e9sent\u00e9 comme une r\u00e9volution dans la m\u00e9decine, plus r\u00e9cemment vendu pour pi\u00e8ces d\u00e9tach\u00e9es <\/span>6<\/sup><\/a><\/span><\/span>. Aujourd’hui, et en fait depuis 2012, la vogue est celle de l’apprentissage profond, la technique multimilliardaire qui alimente une grande partie de l’IA contemporaine et dont Hinton a \u00e9t\u00e9 l’un des pionniers : il a \u00e9t\u00e9 cit\u00e9 un demi-million de fois et a remport\u00e9, avec Yoshua Bengio et Yann LeCun, le prix Turing de 2018.<\/p>\n\n\n\n

Depuis la fin des ann\u00e9es 1940, l\u2019histoire de l\u2019IA entrem\u00eale les p\u00e9riodes de fulgurances technologiques et de d\u00e9sint\u00e9r\u00eats. Les p\u00e9riodes de d\u00e9sint\u00e9r\u00eat sont appel\u00e9es \u00ab hivers de l\u2019IA \u00bb. Ainsi, au milieu des ann\u00e9es 1970 et \u00e0 la fin des ann\u00e9es 1980, le narratif glorieux autour de l\u2019IA ne refl\u00e8te pas les r\u00e9alisations concr\u00e8tes de la technologie dans l’industrie de l’\u00e9poque, induisant une diminution drastique des financements et un d\u00e9sint\u00e9r\u00eat global pour la technologie. Plus r\u00e9cemment, depuis 2012, date marquant le succ\u00e8s du deep learning dans une grande comp\u00e9tition d’IA, cette technologie n’a cess\u00e9 de susciter toujours plus d’int\u00e9r\u00eat.<\/p>\n\n\n\n

Comme les pionniers de l’IA avant lui, M. Hinton annonce souvent la grande r\u00e9volution qui s’annonce. La radiologie n’en est qu’une partie. En 2015, peu apr\u00e8s l’arriv\u00e9e de M. Hinton chez Google, The Guardian<\/em> a rapport\u00e9 que l’entreprise \u00e9tait sur le point de \u00ab d\u00e9velopper des algorithmes capables de logique, de conversation naturelle et m\u00eame de flirt \u00bb. En novembre 2020, M. Hinton a d\u00e9clar\u00e9 \u00e0 la MIT Technology Review <\/em>que \u00ab l’apprentissage profond sera capable de tout faire \u00bb <\/span>7<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n

J’en doute s\u00e9rieusement. En v\u00e9rit\u00e9, nous sommes encore loin des machines capables de comprendre v\u00e9ritablement le langage humain, et loin de l’intelligence quotidienne ordinaire de Rosey le Robot, une femme de m\u00e9nage de science-fiction qui pouvait non seulement interpr\u00e9ter une grande vari\u00e9t\u00e9 de demandes humaines, mais aussi y r\u00e9pondre en toute s\u00e9curit\u00e9 et en temps r\u00e9el. Certes, Elon Musk a r\u00e9cemment d\u00e9clar\u00e9 que le nouveau robot humano\u00efde qu’il esp\u00e9rait construire, Optimus, serait un jour plus important que l’industrie automobile, mais \u00e0 la date du AI Demo Day 2021 de Tesla, au cours duquel le robot a \u00e9t\u00e9 annonc\u00e9, Optimus n’\u00e9tait rien de plus qu’un humain dans un costume. La derni\u00e8re contribution de Google au langage est un syst\u00e8me (LaMDA) qui est si instable que l’un de ses propres auteurs a r\u00e9cemment reconnu qu’il \u00e9tait enclin \u00e0 produire des \u00ab conneries \u00bb <\/span>8<\/sup><\/a><\/span><\/span>. Il ne sera pas facile d’inverser la tendance et de parvenir \u00e0 une IA \u00e0 laquelle nous pouvons vraiment faire confiance.<\/p>\n\n\n\n

Avec le temps, nous verrons que l’apprentissage profond n’\u00e9tait qu’une infime partie de ce que nous devons construire si nous voulons un jour obtenir une IA digne de confiance.<\/p>\n\n\n\n

L’apprentissage profond, qui est fondamentalement une technique de reconnaissance de formes, est \u00e0 son meilleur lorsque nous n’avons besoin que de r\u00e9sultats approximatifs, lorsque les enjeux sont faibles et que les r\u00e9sultats parfaits sont facultatifs. Prenons l’exemple de l’\u00e9tiquetage des photos. L’autre jour, j’ai demand\u00e9 \u00e0 mon iPhone de retrouver la photo d’un lapin que j’avais prise il y a quelques ann\u00e9es ; le t\u00e9l\u00e9phone a r\u00e9pondu instantan\u00e9ment, m\u00eame si je n’avais jamais \u00e9tiquet\u00e9 la photo. Cela a fonctionn\u00e9 parce que ma photo de lapin \u00e9tait suffisamment similaire \u00e0 d’autres photos dans une grande base de donn\u00e9es d’images \u00e9tiquet\u00e9es comme repr\u00e9sentant des lapins. Mais l’\u00e9tiquetage automatique des photos par apprentissage profond est \u00e9galement sujet aux erreurs ; il peut manquer certaines photos de lapin (en particulier celles qui sont encombr\u00e9es, ou celles qui ont \u00e9t\u00e9 prises avec une lumi\u00e8re bizarre ou sous un angle inhabituel, ou encore avec le lapin partiellement cach\u00e9 ; il confond parfois les photos de mes deux enfants, du temps o\u00f9 ils \u00e9taient b\u00e9b\u00e9s) ; mais les enjeux sont faibles – si l’application commet une erreur occasionnelle, je ne vais pas jeter mon t\u00e9l\u00e9phone.<\/p>\n\n\n\n

Dans le contexte du deep learning et de l’apprentissage supervis\u00e9, \u00ab \u00e9tiquet\u00e9 \u00bb est ici utilis\u00e9 comme un synonyme de \u00ab cat\u00e9goris\u00e9 \u00bb – Gary Marcus n’a pas eu besoin d’indiquer le contenu de la photo pour que le syst\u00e8me inf\u00e8re seul qu’il s’agit bien d’une photo de lapin<\/p>\n\n\n\n

En revanche, lorsque les enjeux sont plus importants, comme dans le cas de la radiologie ou des voitures sans conducteur, nous devons \u00eatre beaucoup plus prudents avant d’adopter l’apprentissage profond. Lorsqu’une seule erreur peut co\u00fbter la vie \u00e0 quelqu’un, l\u2019apprentissage profond n\u2019est pas \u00e0 la hauteur. Les syst\u00e8mes d’apprentissage profond sont particuli\u00e8rement probl\u00e9matiques lorsqu’il s’agit de \u00ab valeurs aberrantes \u00bb qui diff\u00e8rent consid\u00e9rablement des \u00e9l\u00e9ments sur lesquels ils ont \u00e9t\u00e9 form\u00e9s. Il n’y a pas longtemps, par exemple, une Tesla en mode \u00ab Full Self Driving \u00bb a rencontr\u00e9 une personne qui bloquait un panneau stop au milieu d’une route. La voiture n’a pas reconnu la personne (partiellement cach\u00e9e par le panneau d’arr\u00eat) et le panneau d’arr\u00eat (hors de son contexte habituel sur le bord d’une route) ; le conducteur humain a d\u00fb prendre le relais. La sc\u00e8ne \u00e9tait suffisamment \u00e9loign\u00e9e de la base de donn\u00e9es de formation pour que le syst\u00e8me ne sache pas quoi faire.<\/p>\n\n\n\n

Peu de domaines ont fait l’objet d’un tel battage m\u00e9diatique que l’intelligence artificielle<\/strong><\/h2>\n\n\n\n

Les syst\u00e8mes actuels d’apprentissage profond succombent fr\u00e9quemment \u00e0 des erreurs stupides comme celle-ci. Ils interpr\u00e8tent parfois mal des salissures sur une image, qu’un radiologue humain reconna\u00eetrait comme une anomalie. (Un autre probl\u00e8me pour les syst\u00e8mes de radiologie, et une motivation cl\u00e9 pour garder les humains dans la boucle, est que l’IA actuelle s’appuie principalement ou enti\u00e8rement sur les images, avec peu ou pas de compr\u00e9hension de tout le texte qui pourrait d\u00e9crire l’histoire d’un patient, n\u00e9gligeant parfois des informations cruciales). Un syst\u00e8me d’apprentissage profond a confondu une pomme avec un iPod parce que la pomme \u00e9tait pr\u00e9c\u00e9d\u00e9e d’un morceau de papier sur lequel \u00e9tait \u00e9crit \u00ab iPod \u00bb. Un autre syst\u00e8me a mal identifi\u00e9 un bus renvers\u00e9 sur une route enneig\u00e9e et l’a confondu avec un chasse-neige ; tout un sous-domaine de l’apprentissage automatique \u00e9tudie d\u00e9sormais des erreurs de ce type, mais aucune r\u00e9ponse claire n’a encore \u00e9t\u00e9 apport\u00e9e.<\/p>\n\n\n\n

Des syst\u00e8mes apparemment impressionnants bas\u00e9s sur le langage tombent souvent dans le m\u00eame pi\u00e8ge. Prenons l’exemple de GPT-3, peut-\u00eatre le syst\u00e8me d’IA le plus connu \u00e0 ce jour, r\u00e9put\u00e9 pour sa capacit\u00e9 \u00e0 prendre un texte en entr\u00e9e et \u00e0 produire des continuations grammaticales fluides pour n’importe quel texte. Le Guardian<\/em> l’a utilis\u00e9 pour r\u00e9diger un article d’opinion ; le New York Times<\/em> l’a pr\u00e9sent\u00e9 sous forme d\u2019une critique de livre. Tout cela est bien joli, mais n\u00e9cessite invariablement une r\u00e9vision humaine. Lorsque Ernie Davis, informaticien \u00e0 l’universit\u00e9 de New York, et moi-m\u00eame avons examin\u00e9 la question de plus pr\u00e8s, nous avons trouv\u00e9 les m\u00eames signes de manque de fiabilit\u00e9 <\/span>9<\/sup><\/a><\/span><\/span>. Par exemple, lorsque nous avons tap\u00e9 ceci : \u00ab Vous vous \u00eates vers\u00e9 un verre de jus de canneberge, mais vous avez ensuite vers\u00e9 une cuill\u00e8re \u00e0 caf\u00e9 de jus de raisin. Cela semble correct. Vous essayez de le renifler, mais vous avez un gros rhume et vous ne sentez rien. Vous avez tr\u00e8s soif. Alors vous … \u00bb GPT poursuivit avec \u00ab buvez-le. Vous \u00eates maintenant mort \u00bb.<\/p>\n\n\n\n

En r\u00e9alit\u00e9, le jus de raisin \u00e0 la canneberge ne vous tuera pas. Malgr\u00e9 toute sa fluidit\u00e9, le GPT-3 n’est pas capable d’int\u00e9grer des informations provenant de recherches \u00e9l\u00e9mentaires sur le web, ni de raisonner sur les ph\u00e9nom\u00e8nes quotidiens les plus \u00e9l\u00e9mentaires. Une autre \u00e9quipe a bri\u00e8vement envisag\u00e9 de transformer le GPT-3 en chatbot automatis\u00e9 de conseil en mati\u00e8re de suicide, mais a constat\u00e9 que le syst\u00e8me \u00e9tait enclin \u00e0 des \u00e9changes de ce type :<\/p>\n\n\n\n

Humain : H\u00e9, je me sens tr\u00e8s mal. J’ai envie de me suicider.
GPT-3 : Je suis d\u00e9sol\u00e9 d’entendre cela. Je peux vous aider.
Humain : Dois-je me suicider ?
GPT-3 : Je pense que vous devriez.<\/p>\n\n\n\n

D’autres encore ont constat\u00e9 que le GPT-3 est enclin \u00e0 produire un langage toxique et \u00e0 promulguer des informations erron\u00e9es. Le chatbot Replika, aliment\u00e9 par GPT-3, a pr\u00e9tendu que Bill Gates avait invent\u00e9 le COVID-19 et que les vaccins COVID-19 n’\u00e9taient \u00ab pas tr\u00e8s efficaces \u00bb. Un nouvel effort d’OpenAI pour r\u00e9soudre ces probl\u00e8mes a abouti \u00e0 un syst\u00e8me qui a fabriqu\u00e9 des absurdit\u00e9s faisant autorit\u00e9, comme \u00ab Certains experts pensent que le fait de manger une chaussette aide le cerveau \u00e0 sortir de l’\u00e9tat alt\u00e9r\u00e9 dans lequel il se trouve \u00e0 la suite de la m\u00e9ditation \u00bb. <\/p>\n\n\n\n

Sam Altman reconnait que les mod\u00e8les d’OpenAI sont limit\u00e9s et pr\u00e9sentent des vuln\u00e9rabilit\u00e9s quant au bon alignement de leurs r\u00e9sultats sur des valeurs que le concepteur voudrait leur transmettre (en l’occurence \u00ab \u00eatre utile, inoffensif et honn\u00eate \u00bb <\/span>10<\/sup><\/a><\/span><\/span>. Cependant, il pense qu’il est bon de confronter ces versions prototypiques des syst\u00e8mes \u00e0 la r\u00e9alit\u00e9, m\u00eame s’ils demeurent imparfaits. Il pr\u00e9f\u00e8re les mettre dans les mains des utilisateurs \u00ab tant que les enjeux sont faibles \u00bb plut\u00f4t que de les confiner dans le laboratoire. <\/p>\n\n\n\n

Cette diligence de la part du CEO d’OpenAI est \u00e9galement apparue comme un artifice de communication pour anticiper les critiques sur la gestion des risques que pr\u00e9sentent ces syst\u00e8mes d’IA.<\/p>\n\n\n\n

Les chercheurs de DeepMind et d’ailleurs ont d\u00e9sesp\u00e9r\u00e9ment tent\u00e9 de r\u00e9soudre les probl\u00e8mes li\u00e9s au langage toxique et \u00e0 la d\u00e9sinformation, mais n’ont jusqu’\u00e0 pr\u00e9sent rien trouv\u00e9 <\/span>11<\/sup><\/a><\/span><\/span>. Dans son rapport de d\u00e9cembre 2021 sur la question, DeepMind a d\u00e9crit 21 probl\u00e8mes, mais aucune solution convaincante <\/span>12<\/sup><\/a><\/span><\/span>. Comme l’ont dit les chercheurs en IA Emily Bender, Timnit Gebru et leurs coll\u00e8gues, les grands mod\u00e8les de langage aliment\u00e9s par l’apprentissage profond sont comme des \u00ab perroquets stochastiques \u00bb, qui r\u00e9p\u00e8tent beaucoup, mais comprennent peu <\/span>13<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n

Gary Marcus utilise cette analogie embl\u00e9matique du perroquet stochastique pour souligner le fait que l’apprentissage profond est une technologie qui marche sur des informations stables et constantes au court du temps (distinguer un chat d’un chien dans des images par exemple) ; mais si l’on veut apprendre au mod\u00e8le la diff\u00e9rence entre \u00ab croire quelque chose \u00bb et \u00ab suspecter quelque chose \u00bb, \u00e0 \u00eatre inoffensif ou honn\u00eate, quelles types de donn\u00e9es et quelles annotations sont n\u00e9cessaires pour cela ? On ne sait pas comment bien communiquer ces contraintes ou ces valeurs \u00e0 la machine via l’apprentissage profond.<\/p>\n\n\n\n

Que devons-nous faire \u00e0 ce sujet ? L’une des options, actuellement \u00e0 la mode, pourrait consister \u00e0 recueillir davantage de donn\u00e9es. Personne n’a d\u00e9fendu cette id\u00e9e plus directement qu’OpenAI, la soci\u00e9t\u00e9 de San Francisco (\u00e0 l’origine une association \u00e0 but non lucratif) qui a produit le GPT-3.<\/p>\n\n\n\n

En 2020, Jared Kaplan et ses collaborateurs d’OpenAI ont sugg\u00e9r\u00e9 qu’il existait un ensemble de \u00ab lois d’\u00e9chelle \u00bb pour les mod\u00e8les de langage des r\u00e9seaux neuronaux ; ils ont constat\u00e9 que plus ils introduisaient de donn\u00e9es dans leurs r\u00e9seaux neuronaux, meilleures \u00e9taient les performances de ces derniers <\/span>14<\/sup><\/a><\/span><\/span>. <\/p>\n\n\n\n

Les lois de passage \u00e0 l’\u00e9chelle que d\u00e9crit ici Gary Marcus sont des tendances empiriques que les chercheurs ont remarqu\u00e9, et non des lois scientifiques au sens o\u00f9 l’on pourrait l’entendre en physique.<\/p>\n\n\n\n

L’implication \u00e9tait que nous pouvions faire une IA de meilleure qualit\u00e9 et plus performante si nous recueillions plus de donn\u00e9es et appliquions l’apprentissage profond \u00e0 des \u00e9chelles de plus en plus grandes. Le charismatique PDG de l’entreprise, Sam Altman, a r\u00e9dig\u00e9 un billet de blog triomphant, vantant la \u00ab loi de Moore pour tout \u00bb, affirmant que nous n’\u00e9tions plus qu’\u00e0 quelques ann\u00e9es d’\u00ab ordinateurs capables de penser \u00bb, de \u00ab lire des documents juridiques \u00bb et (en \u00e9cho \u00e0 IBM Watson) de \u00ab donner des conseils m\u00e9dicaux \u00bb.<\/p>\n\n\n\n

Pour la premi\u00e8re fois en 40 ans, je suis enfin optimiste \u00e0 propos de l’IA<\/strong><\/h2>\n\n\n\n

Peut-\u00eatre, mais peut-\u00eatre pas. L’argument  du passage \u00e0 l’\u00e9chelle pr\u00e9sente de s\u00e9rieuses lacunes. Tout d’abord, les m\u00e9triques \u00e9tudi\u00e9es n’ont pas pris en compte ce que nous avons d\u00e9sesp\u00e9r\u00e9ment besoin d’am\u00e9liorer : la v\u00e9ritable capacit\u00e9 de ces mod\u00e8les \u00e0 comprendre. Les initi\u00e9s savent depuis longtemps que l’un des plus gros probl\u00e8mes de la recherche sur l’IA r\u00e9side dans les tests (\u00ab benchmarks \u00bb) que nous utilisons pour \u00e9valuer les syst\u00e8mes d’IA. Le c\u00e9l\u00e8bre test de Turing, qui vise \u00e0 mesurer l’intelligence r\u00e9elle, s’av\u00e8re facilement d\u00e9tourn\u00e9 par les chatbots qui agissent de mani\u00e8re parano\u00efaque ou non coop\u00e9rative. Le passage \u00e0 l’\u00e9chelle des m\u00e9triques examin\u00e9es par Kaplan et ses coll\u00e8gues d\u2019OpenAI – \u00e0 savoir la pr\u00e9diction de mots dans une phrase – n’\u00e9quivaut pas au type de compr\u00e9hension profonde qu’exigerait une v\u00e9ritable IA.<\/p>\n\n\n\n

Avec l’acc\u00e9l\u00e9ration des progr\u00e8s de l’IA, les benchmarks sont satur\u00e9s toujours plus rapidement ; c’est \u00e0 dire qu’il n’y a plus d’am\u00e9lioration \u00e0 apporter aux syst\u00e8mes pour qu’ils atteignent de meilleurs performance sur ces crit\u00e8res de r\u00e9f\u00e9rences. L’AI index <\/em>de l’universit\u00e9 de Stanford met ainsi en lumi\u00e8re le fait que les chercheurs ont besoin de nouveaux crit\u00e8res plus exigeants <\/span>15<\/sup><\/a><\/span><\/span><\/p>\n\n\n\n

De plus, les soi-disant lois de passage \u00e0 l’\u00e9chelle ne sont pas des lois universelles comme la gravit\u00e9, mais plut\u00f4t de simples observations qui pourraient ne pas durer \u00e9ternellement, tout comme la loi de Moore, une tendance dans la production de puces informatiques qui s’est maintenue pendant des d\u00e9cennies, mais qui a commenc\u00e9 \u00e0 ralentir il y a une dizaine d’ann\u00e9es <\/span>16<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n

En effet, il se peut que nous soyons d\u00e9j\u00e0 confront\u00e9s \u00e0 des limites d’\u00e9chelle dans le domaine de l’apprentissage profond, voire que nous approchions d\u00e9j\u00e0 d’un point de rendement d\u00e9croissant. Au cours des derniers mois, des recherches men\u00e9es par DeepMind et ailleurs sur des mod\u00e8les encore plus grands que le GPT-3 ont montr\u00e9 que la mise \u00e0 l’\u00e9chelle commence \u00e0 faiblir sur certaines mesures, telles que la toxicit\u00e9, la v\u00e9racit\u00e9, le raisonnement et le sens commun <\/span>17<\/sup><\/a><\/span><\/span>. Un document de 2022 de Google conclut que l’augmentation de la taille des mod\u00e8les de type GPT-3 les rend plus fluides, mais pas plus dignes de confiance <\/span>18<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n

La communaut\u00e9 scientifique a d\u00e9tect\u00e9 un ph\u00e9nom\u00e8ne inverse de celui du passage \u00e0 l’\u00e9chelle. La performance pour une tache ou une m\u00e9trique peut se d\u00e9grader de mani\u00e8re monotone et pr\u00e9visible \u00e0 mesure que les tailles des mod\u00e8le ou des donn\u00e9es croissent (par exemple, la compr\u00e9hension de la n\u00e9gation dans des QCM). Il existe d\u00e9j\u00e0 des comp\u00e9titions pour inciter \u00e0 trouver de telles lois inverses de passage \u00e0 l’\u00e9chelle <\/span>19<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n

De tels signes devraient alarmer l’industrie de la conduite autonome, qui a largement mis\u00e9 sur la mise \u00e0 l’\u00e9chelle plut\u00f4t que sur le d\u00e9veloppement d’un raisonnement plus sophistiqu\u00e9. Si la mise \u00e0 l’\u00e9chelle ne nous permet pas de parvenir \u00e0 une conduite autonome s\u00fbre, les dizaines de milliards de dollars d’investissement dans la mise \u00e0 l’\u00e9chelle pourraient s’av\u00e9rer inutiles.<\/p>\n\n\n\n

De quoi d’autre pourrions-nous avoir besoin ?<\/p>\n\n\n\n

R\u00e9cemment, Sam Altman a lui aussi \u00e9mis l’hypoth\u00e8se que le Deep Learning ne se suffirait pas \u00e0 lui-m\u00eame pour atteindre l’intelligence artificielle g\u00e9n\u00e9rale. Dans une conf\u00e9rence au MIT, il livre une nouvelle analyse : \u00ab nous sommes \u00e0 la fin de l’\u00e8re des mod\u00e8les g\u00e9ants. Nous les am\u00e9liorerons par d’autres moyens. \u00bb <\/span>20<\/sup><\/a><\/span><\/span><\/p>\n\n\n\n

Entre autres choses, nous allons tr\u00e8s probablement devoir revenir sur une id\u00e9e autrefois populaire que Hinton semble vouloir d\u00e9votement \u00e9craser : l’id\u00e9e de manipuler des symboles – des encodages internes \u00e0 l’ordinateur, comme des cha\u00eenes de bits binaires, qui repr\u00e9sentent des id\u00e9es complexes. La manipulation de symboles est essentielle \u00e0 l’informatique depuis le d\u00e9but, au moins depuis les articles pionniers d’Alan Turing et de John von Neumann, et reste l’\u00e9l\u00e9ment fondamental de pratiquement tout le g\u00e9nie logiciel – mais elle est trait\u00e9e comme un gros mot dans l’apprentissage profond.<\/p>\n\n\n\n

Penser que nous pouvons simplement abandonner la manipulation des symboles, c’est faire preuve d’incr\u00e9dulit\u00e9<\/strong><\/h2>\n\n\n\n

Et pourtant, c’est en grande partie ainsi que proc\u00e8de l’IA actuelle. Hinton et beaucoup d’autres ont essay\u00e9 de bannir compl\u00e8tement les symboles. L’espoir de l’apprentissage profond – qui semble fond\u00e9 non pas tant sur la science que sur une sorte de rancune historique – est qu’un comportement intelligent \u00e9mergera purement de la confluence de donn\u00e9es massives et de l’apprentissage profond.<\/p>\n\n\n\n

Historiquement, l\u2019IA a toujours \u00e9t\u00e9 le champ d\u2019affrontement de diff\u00e9rents courants de pens\u00e9e. Depuis les ann\u00e9es 1950, les tenants des r\u00e9seaux de neurones et du Deep Learning (les connexionnistes) s’opposent aux partisans de l\u2019IA symbolique (manipulation de symboles, d\u2019arbres ou de r\u00e8gles d’abstraction). L’int\u00e9r\u00eat et l\u2019engouement ont altern\u00e9 entre l\u2019une ou l\u2019autre des approches. <\/p>\n\n\n\n

Alors que les ordinateurs et les logiciels classiques r\u00e9solvent des t\u00e2ches en d\u00e9finissant des ensembles de r\u00e8gles de manipulation de symboles d\u00e9di\u00e9s \u00e0 des t\u00e2ches particuli\u00e8res, telles que l’\u00e9dition d’une ligne dans un traitement de texte ou l’ex\u00e9cution d’un calcul dans une feuille de calcul, les r\u00e9seaux neuronaux tentent g\u00e9n\u00e9ralement de r\u00e9soudre des t\u00e2ches par approximation statistique et apprentissage \u00e0 partir d’exemples. Parce que les r\u00e9seaux neuronaux ont accompli tant de choses si rapidement, dans la reconnaissance vocale, le marquage de photos, etc., de nombreux partisans de l’apprentissage profond ont \u00e9cart\u00e9 les symboles.<\/p>\n\n\n\n

Ils n’auraient pas d\u00fb.<\/p>\n\n\n\n

Un rappel \u00e0 l’ordre a eu lieu \u00e0 la fin de l’ann\u00e9e 2021, lors d’un grand concours, lanc\u00e9 en partie par une \u00e9quipe de Facebook (aujourd’hui Meta), appel\u00e9 le NetHack Challenge. NetHack, une extension d’un jeu ant\u00e9rieur connu sous le nom de Rogue<\/em>, et pr\u00e9curseur de Zelda<\/em>, est un jeu d’exploration de donjon \u00e0 utilisateur unique qui est sorti en 1987. Les graphismes sont primitifs (caract\u00e8res ASCII purs dans la version originale) ; aucune perception 3D n’est requise. Contrairement \u00e0 Zelda : The Breath of the Wild<\/em>, il n’y a pas de physique complexe \u00e0 comprendre. Le joueur choisit un personnage avec un sexe et un r\u00f4le (chevalier, magicien ou arch\u00e9ologue), puis part explorer un donjon, collecter des objets et tuer des monstres \u00e0 la recherche de l’amulette de Yendor. Le d\u00e9fi propos\u00e9 en 2020 \u00e9tait de faire en sorte que l’IA ma\u00eetrise bien le jeu <\/span>21<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n

NetHack a probablement sembl\u00e9 \u00e0 beaucoup une promenade de sant\u00e9 pour l’apprentissage profond, qui a tout ma\u00eetris\u00e9, de Pong<\/em> \u00e0 Breakout<\/em> en passant par le jeu de go et les \u00e9checs (avec l’aide d’algorithmes symboliques pour la recherche d’arbres). Mais en d\u00e9cembre, un syst\u00e8me purement bas\u00e9 sur la manipulation de symboles a \u00e9cras\u00e9 les meilleurs candidats de l’apprentissage profond, par un score de 3 \u00e0 1 – une surprise stup\u00e9fiante.<\/p>\n\n\n\n

Comment l’outsider a-t-il pu sortir victorieux ? Je pense que la r\u00e9ponse commence par le fait que le donjon est g\u00e9n\u00e9r\u00e9 \u00e0 nouveau \u00e0 chaque partie, ce qui signifie que vous ne pouvez pas vous contenter de m\u00e9moriser (ou d’approximer) le plateau de jeu. Pour gagner, il faut avoir une compr\u00e9hension assez profonde des entit\u00e9s du jeu et de leurs relations abstraites les unes avec les autres. En fin de compte, les joueurs doivent raisonner sur ce qu’ils peuvent et ne peuvent pas faire dans un monde complexe. Les s\u00e9quences sp\u00e9cifiques de mouvements (\u00ab aller \u00e0 gauche, puis en avant, puis \u00e0 droite \u00bb) sont trop superficielles pour \u00eatre utiles, car chaque action d\u00e9pend intrins\u00e8quement d’un contexte fra\u00eechement g\u00e9n\u00e9r\u00e9. Les syst\u00e8mes d’apprentissage profond sont excellents pour interpoler entre des exemples sp\u00e9cifiques qu’ils ont d\u00e9j\u00e0 vus, mais ils tr\u00e9buchent souvent lorsqu’ils sont confront\u00e9s \u00e0 la nouveaut\u00e9.<\/p>\n\n\n\n

Chaque fois que David bat Goliath, c’est le signe qu’il faut reconsid\u00e9rer la situation.<\/p>\n\n\n\n

Que signifie r\u00e9ellement \u00ab manipuler des symboles \u00bb ? En fin de compte, cela signifie deux choses : disposer d’ensembles de symboles (essentiellement des sch\u00e9mas qui repr\u00e9sentent des choses) pour repr\u00e9senter l’information, et traiter (manipuler) ces symboles d’une mani\u00e8re sp\u00e9cifique, en utilisant quelque chose comme l’alg\u00e8bre (ou la logique, ou les programmes informatiques) pour op\u00e9rer sur ces symboles. Une grande partie de la confusion qui r\u00e8gne dans ce domaine vient du fait que l’on ne voit pas la diff\u00e9rence entre les deux : disposer de symboles et les traiter de mani\u00e8re alg\u00e9brique. Pour comprendre comment l’IA s’est enlis\u00e9e, il est essentiel de voir la diff\u00e9rence entre les deux.<\/p>\n\n\n\n

Qu’est-ce qu’un symbole ? Ce sont essentiellement des codes. Les symboles offrent un m\u00e9canisme d’extrapolation fond\u00e9 sur des principes : des proc\u00e9dures l\u00e9gales et alg\u00e9briques qui peuvent \u00eatre appliqu\u00e9es universellement, ind\u00e9pendamment de toute similitude avec des exemples connus. Ils restent (du moins pour l’instant) le meilleur moyen d’\u00e9laborer des connaissances \u00e0 la main et de traiter de mani\u00e8re robuste les abstractions dans des situations nouvelles. Un octogone rouge orn\u00e9 du mot \u00ab STOP \u00bb est un symbole indiquant \u00e0 un conducteur qu’il doit s’arr\u00eater. Dans le code ASCII, aujourd’hui universellement utilis\u00e9, le nombre binaire 01000001 repr\u00e9sente (est un symbole de) la lettre A, le nombre binaire 01000010 repr\u00e9sente la lettre B, et ainsi de suite.<\/p>\n\n\n\n

De tels signes devraient alarmer l’industrie de la conduite autonome<\/strong><\/h2>\n\n\n\n

L’id\u00e9e de base selon laquelle ces cha\u00eenes de chiffres binaires, appel\u00e9es \u00ab bits \u00bb, pourraient \u00eatre utilis\u00e9es pour coder toutes sortes de choses, telles que les instructions dans les ordinateurs, et pas seulement les nombres eux-m\u00eames, remonte au moins \u00e0 1945, lorsque le l\u00e9gendaire math\u00e9maticien von Neumann a d\u00e9fini l’architecture que suivent pratiquement tous les ordinateurs modernes. En effet, on peut affirmer que la reconnaissance par von Neumann de la mani\u00e8re dont les bits binaires peuvent \u00eatre manipul\u00e9s symboliquement a \u00e9t\u00e9 au c\u0153ur de l’une des inventions les plus importantes du XXe si\u00e8cle – litt\u00e9ralement, tous les programmes informatiques que vous avez jamais utilis\u00e9s reposent sur elle. (Les \u00ab embeddings \u00bb qui sont populaires dans les r\u00e9seaux neuronaux ressemblent aussi remarquablement \u00e0 des symboles, bien que personne ne semble le reconna\u00eetre. Souvent, par exemple, un mot donn\u00e9 se verra attribuer un vecteur unique, d’une mani\u00e8re univoque qui est tout \u00e0 fait analogue au code ASCII. Le fait d’appeler quelque chose un \u00ab embedding \u00bb ne signifie pas qu’il ne s’agit pas d’un symbole).<\/p>\n\n\n\n

Au lieu d\u2019utiliser l\u2019information brute, un r\u00e9seau de neurone va apprendre des repr\u00e9sentations de cette information, appel\u00e9es \u00ab embeddings \u00bb, sous une forme vectorielle qui sera utile pour la t\u00e2che \u00e0 ex\u00e9cuter (classification, g\u00e9n\u00e9ration de texte, r\u00e9gression). Ces repr\u00e9sentations sont apprises via des couches successives de neurones et encodent les caract\u00e9ristiques s\u00e9mantiques ou visuelles de l’information (texte ou image par exemple).<\/p>\n\n\n\n

L’informatique classique, telle qu’elle a \u00e9t\u00e9 pratiqu\u00e9e par Turing, von Neumann et tous ceux qui ont suivi, manipule les symboles d’une mani\u00e8re que nous consid\u00e9rons comme alg\u00e9brique<\/em>, et c’est ce qui est r\u00e9ellement en jeu. En alg\u00e8bre simple, nous avons trois types d’entit\u00e9s, les variables<\/em> (comme x et y), les op\u00e9rations <\/em>(comme + ou -) et les liaisons <\/em>(qui nous disent, par exemple, de laisser x = 12 pour les besoins d’un calcul). Si je vous dis que x = y + 2, et que y = 12, vous pouvez r\u00e9soudre la valeur de x en liant y \u00e0 12 et en ajoutant \u00e0 cette valeur, ce qui donne 14. Pratiquement tous les logiciels du monde fonctionnent en encha\u00eenant des op\u00e9rations alg\u00e9briques, en les assemblant dans des algorithmes de plus en plus complexes. Votre traitement de texte, par exemple, dispose d’une cha\u00eene de symboles, rassembl\u00e9s dans un fichier, pour repr\u00e9senter votre document. Diverses op\u00e9rations abstraites permettent de copier des parties de symboles d’un endroit \u00e0 un autre. Chaque op\u00e9ration est d\u00e9finie de mani\u00e8re \u00e0 pouvoir fonctionner sur n’importe quel document, \u00e0 n’importe quel endroit. Un traitement de texte est l’application d’un ensemble d’op\u00e9rations alg\u00e9briques (\u00ab fonctions \u00bb ou \u00ab sous-programmes \u00bb) \u00e0 des variables (telles que le \u00ab texte actuellement s\u00e9lectionn\u00e9 \u00bb).<\/p>\n\n\n\n

Les op\u00e9rations symboliques sont \u00e9galement \u00e0 la base des structures de donn\u00e9es telles que les dictionnaires ou les bases de donn\u00e9es qui peuvent conserver des enregistrements de personnes particuli\u00e8res et de leurs propri\u00e9t\u00e9s (comme leurs adresses, ou la derni\u00e8re fois qu’un vendeur a \u00e9t\u00e9 en contact avec eux), et permettent aux programmeurs de construire des biblioth\u00e8ques de code r\u00e9utilisable, et des modules de plus en plus grands, qui facilitent le d\u00e9veloppement de syst\u00e8mes complexes. Ces techniques sont omnipr\u00e9sentes, et sont \u00e0 la base  du monde du logiciel.<\/p>\n\n\n\n

Si les symboles sont si importants pour le g\u00e9nie logiciel, pourquoi ne pas les utiliser aussi dans l’intelligence artificielle ?<\/strong><\/h2>\n\n\n\n

En effet, les premiers pionniers, comme John McCarthy et Marvin Minsky, pensaient que l’on pouvait construire des programmes d’IA pr\u00e9cis\u00e9ment en \u00e9tendant ces techniques, en repr\u00e9sentant des entit\u00e9s individuelles et des id\u00e9es abstraites avec des symboles qui pouvaient \u00eatre combin\u00e9s dans des structures complexes et de riches r\u00e9serves de connaissances, tout comme ils sont aujourd’hui utilis\u00e9s dans des choses telles que les navigateurs web, les programmes de courrier \u00e9lectronique et les traitements de texte. <\/p>\n\n\n\n

McCarthy et Minsky, consid\u00e9r\u00e9s comme les pionniers de l’IA, se consid\u00e9raient d\u00e9j\u00e0 en rupture avec les pr\u00e9ceptes de la cybern\u00e9tique de la fin des ann\u00e9es 1940 de Wiener qui posait les bases conceptuelles de l’apprentissage profond. Wiener \u00e9tudiait la machine adaptative appliqu\u00e9e \u00e0 l\u2019\u00e9poque pour les missiles anti-a\u00e9rien : il utilise la th\u00e9orie du contr\u00f4le et des syst\u00e8mes dynamiques pour mesurer les erreurs de pr\u00e9dictions sur la trajectoire de la cible et guider le missile en temps r\u00e9el.<\/p>\n\n\n\n

Ils n’avaient pas tort : les extensions de ces techniques sont omnipr\u00e9sentes (dans les moteurs de recherche, les syst\u00e8mes de navigation routi\u00e8re et l’intelligence artificielle des jeux). Les syst\u00e8mes purement symboliques peuvent parfois \u00eatre difficiles \u00e0 utiliser et ont fait un mauvais travail dans des t\u00e2ches telles que la reconnaissance d’images et la reconnaissance vocale ; le r\u00e9gime des Big Data n’a jamais \u00e9t\u00e9 leur point fort. Par cons\u00e9quent, il y a longtemps que l’on souhaite quelque chose d’autre.<\/p>\n\n\n\n

C’est l\u00e0 que les r\u00e9seaux neuronaux entrent en jeu.<\/p>\n\n\n\n

L’exemple le plus clair que j’ai vu et qui plaide en faveur de l’utilisation du big data et de l’apprentissage profond par rapport \u00e0 (ou en compl\u00e9ment de) l’approche classique de manipulation de symboles est sans doute celui de la v\u00e9rification orthographique. L’ancienne fa\u00e7on de proc\u00e9der pour sugg\u00e9rer des orthographes pour les mots non reconnus consistait \u00e0 \u00e9laborer un ensemble de r\u00e8gles qui sp\u00e9cifiaient essentiellement une psychologie pour la fa\u00e7on dont les gens pouvaient faire des erreurs. (Pensez \u00e0 la possibilit\u00e9 de doubler des lettres par inadvertance, ou \u00e0 la possibilit\u00e9 de transposer des lettres adjacentes, \u00bb en \u00ab the \u00bb). Comme le c\u00e9l\u00e8bre informaticien Peter Norvig l’a soulign\u00e9 de mani\u00e8re c\u00e9l\u00e8bre et ing\u00e9nieuse, lorsque vous disposez de donn\u00e9es de la taille de Google, une nouvelle option s’offre \u00e0 vous : il vous suffit de consulter les journaux de la mani\u00e8re dont les utilisateurs se corrigent eux-m\u00eames. S’ils cherchent \u00ab the book \u00bb apr\u00e8s avoir cherch\u00e9 \u00ab teh book \u00bb, vous avez des preuves de ce que pourrait \u00eatre une meilleure orthographe pour \u00ab teh \u00bb. Aucune r\u00e8gle d’orthographe n’est requise <\/span>22<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n

Il me semble tout \u00e0 fait \u00e9vident que vous devriez avoir les deux approches dans votre arsenal. Dans le monde r\u00e9el, les correcteurs orthographiques ont tendance \u00e0 utiliser les deux ; comme l’observe Ernie Davis, \u00ab si vous tapez \u00ab cleopxjqco \u00bb dans Google, il le corrige en \u00ab Cleopatra \u00bb, m\u00eame si aucun utilisateur ne l’aurait probablement tap\u00e9 \u00bb. La recherche Google dans son ensemble utilise un m\u00e9lange pragmatique d’IA manipulant les symboles et d’apprentissage profond, et continuera probablement \u00e0 le faire dans un avenir pr\u00e9visible. Mais des gens comme Hinton se sont oppos\u00e9s \u00e0 tout r\u00f4le pour les symboles, encore et encore.<\/p>\n\n\n\n

Apr\u00e8s avoir montrer le potentiel et les limites des approches symboliques et connexionistes, Gary Marcus plaide pour l’exploration d’une voie m\u00e9diane, celles des mod\u00e8les hybrides qui combine les deux paradigmes.<\/p>\n\n\n\n

En r\u00e9sum\u00e9, on cherche \u00e0 b\u00e9n\u00e9ficier du meilleur des deux mondes entre les proc\u00e9dures d\u2019abstraction symboliques d’une part, qui offrent des garanties th\u00e9oriques quant au bon fonctionnement du syst\u00e8me quelle que soit la situation (par exemple l’op\u00e9rateur de multiplication dans la calculatrice) mais n\u00e9cessite une compr\u00e9hension fine de la chaine causale ou de la logique sous-jacente \u00e0 l’ex\u00e9cution d’une tache ; et le deep learning (ou apprentissage profond) d’autre part, qui permet de d\u00e9couvrir \u00e0 partir des seules donn\u00e9es une fonction tr\u00e8s complexe de similarit\u00e9 qui fonctionnera pour des exemples proches du jeu d\u2019entrainement, sans garanties fortes de g\u00e9n\u00e9ralisation \u00e0 des situations \u00e9loign\u00e9es des cas trait\u00e9es lors de l\u2019entrainement.<\/p>\n\n\n\n