L’hubris de Citrini : quand l’IA devient la nouvelle cocaïne des traders

Mardi 20 octobre, les traders de la firme américaine de recherche en investissement Citrini ont publié un article dans lequel ils annoncent avoir conçu, avec un modèle de recherche interne d’Anthropic, des protéines capables de se lier aux neurotoxines du venin de scorpion ¹.

Ces derniers précisent ne rien connaître à la biologie – et aux sciences de manière générale.

• Le même jour, Anthropic a publié un rapport technique sur cette expérience, menée sur son réseau et ses machines. Les garde-fous de biosécurité du Claude commercialisé avaient en effet bloqué les traders dès leur première requête.
• En 64 heures, celui-ci a généré plus de 318 000 designs de protéines et en a retenu 180. Avec 31 ajouts ultérieurs, 211 ont été testés en laboratoire et 17 ont rempli les critères de liaison fixés.
• Le projet, qui a duré trois mois, a coûté à Citrini environ 200 000 dollars, dont 50 000 en puissance de calcul.

L’équipe de Citrini revendique avoir fait, en trois mois et à cinq, ce que le développement classique d’un antivenin demande d’ordinaire à des laboratoires spécialisés. Les traders reconnaissent n’avoir mis aucun médicament sur le marché et n’avoir rien publié de scientifiquement significatif, mais estiment toutefois que « la frontière a bougé ».

Comment expliquer ce prodige ? 

• Comme pour Anthropic, qui avait annoncé fin septembre la découverte par Claude d’un système enzymatique inédit à répétitions de type CRISPR, l’objectif principal de Citrini semble être de faire de la publicité.
• À la fin de l’article, en accès ouvert, ils présentent un autre article, payant, où ils expliquent tout ce que cette « expérience » leur a appris et prodiguent les conseils en investissement que cela leur inspire.

La phrase la plus révélatrice de cette expérience est celle où les traders se félicitent que « leur invention digitale va désormais créer du travail pour des scientifiques humains ». On ne peut pas exclure que quelque chose émerge de ces travaux, puisque certaines découvertes majeures ont été faites de façon iconoclaste.

• Il est cependant très probable que les « scientifiques » pour lesquels ces traders ont « créé du travail » eussent fait un bien meilleur usage des 200 000 dollars que Citrini a engagés dans cette « expérience ».
• Et étant donné l’état du financement de la recherche, si Citrini y met le prix, il est probable que des chercheurs compétents finissent par travailler sur ses résultats.

L’IA aspire déjà une part démesurée du capital disponible, au détriment d’autres projets potentiellement aussi prometteurs. Ce type « d’expériences » fait peser le même risque sur l’allocation des ressources scientifiques.

• Pendant la pandémie de Covid-19, la controverse sur l’hydroxychloroquine a ainsi poussé soignants et chercheurs à multiplier les protocoles d’essais.
• Il est assez rapidement apparu que la molécule était probablement efficace in vitro mais inefficace in vivo.
• La pression populaire a pourtant conduit à continuer à la tester, au détriment d’autres pistes de traitement.

Que se passerait-il si demain ce n’étaient plus des traders mais Barron Trump, le fils du président américain, qui annonce la découverte « d’une nouvelle molécule révolutionnaire » grâce à l’IA ? Trump pourrait alors contraindre des chercheurs financés par le gouvernement fédéral à consacrer leur temps et leurs ressources à « investiguer » cette molécule – au détriment d’autres travaux bien plus pertinents.