L’arroganza di Citrini: quando l’IA diventa la nuova cocaina dei trader

Martedì 20 ottobre, gli analisti della società americana di ricerca sugli investimenti Citrini hanno pubblicato un articolo in cui annunciano di aver progettato, utilizzando un modello di ricerca interno di Anthropic, delle proteine in grado di legarsi alle neurotossine presenti nel veleno dello scorpione ¹.

Questi ultimi precisano di non sapere nulla di biologia – e delle scienze in generale.

• Lo stesso giorno, Anthropic ha pubblicato un rapporto tecnico su questo esperimento, condotto sulla propria rete e sui propri server. Le misure di sicurezza biologica del modello Claude commercializzato avevano infatti bloccato i trader sin dalla loro prima richiesta.
• In 64 ore, il sistema ha generato oltre 318.000 progetti di proteine, selezionandone 180. Con 31 aggiunte successive, 211 sono stati testati in laboratorio e 17 hanno soddisfatto i criteri di legame stabiliti.
• Il progetto, durato tre mesi, è costato a Citrini circa 200.000 dollari, di cui 50.000 per la potenza di calcolo.

Il team di Citrini sostiene di aver realizzato, in tre mesi e in cinque persone, ciò che lo sviluppo tradizionale di un antidoto richiede solitamente a laboratori specializzati. I ricercatori ammettono di non aver immesso alcun farmaco sul mercato e di non aver pubblicato nulla di scientificamente significativo, ma ritengono comunque che «i confini si siano spostati».

Come si spiega questo fenomeno straordinario? 

• Come nel caso di Anthropic, che alla fine di settembre aveva annunciato la scoperta da parte di Claude di un sistema enzimatico inedito con ripetizioni di tipo CRISPR, l’obiettivo principale di Citrini sembra essere quello di farsi pubblicità.
• Alla fine dell’articolo, disponibile in accesso libero, presentano un altro articolo, a pagamento, in cui spiegano tutto ciò che questa «esperienza» ha insegnato loro e forniscono i consigli di investimento che ne traggono ispirazione.

La frase più rivelatrice di questa esperienza è quella in cui i trader si congratulano tra loro affermando che «la loro invenzione digitale d’ora in poi creerà lavoro per gli scienziati in carne e ossa». Non si può escludere che da questi lavori possa emergere qualcosa, dato che alcune scoperte importanti sono state fatte in modo iconoclastico.

• È tuttavia molto probabile che gli “scienziati” per i quali questi trader hanno “creato posti di lavoro” avrebbero fatto un uso ben migliore dei 200.000 dollari che Citrini ha investito in questo “esperimento”.
• E, vista la situazione dei finanziamenti alla ricerca, se Citrini è disposto a investire le risorse necessarie, è probabile che alla fine alcuni ricercatori competenti finiscano per lavorare sui suoi risultati.

L’intelligenza artificiale assorbe già una quota sproporzionata del capitale disponibile, a scapito di altri progetti potenzialmente altrettanto promettenti. Questo tipo di «esperimenti» comporta lo stesso rischio per l’allocazione delle risorse scientifiche.

• Durante la pandemia di Covid-19, la controversia sull’idrossiclorochina ha quindi spinto operatori sanitari e ricercatori a moltiplicare i protocolli di sperimentazione.
• È emerso abbastanza rapidamente che la molecola era probabilmente efficace in vitro ma inefficace in vivo.
• La pressione dell’opinione pubblica ha tuttavia portato a continuare a sperimentarla, a scapito di altre opzioni terapeutiche.

Cosa succederebbe se domani non fossero più i trader, ma Barron Trump, il figlio del presidente americano, ad annunciare la scoperta di «una nuova molecola rivoluzionaria» grazie all’intelligenza artificiale? Trump potrebbe allora costringere i ricercatori finanziati dal governo federale a dedicare il loro tempo e le loro risorse a «indagare» su questa molecola – a scapito di altri lavori ben più rilevanti.