«Il potere geopolitico di Elon Musk deve essere tenuto sotto controllo», una conversazione con Fabio Chiusi

Perché ritiene necessaria una critica ideologica di Elon Musk?

Penso che le vicende degli ultimi giorni lo dimostrino abbastanza bene. Giovedì c’è stata una due giorni sull’intelligenza artificiale in Gran Bretagna, un evento di altissimo livello organizzato da Rishi Sunak: in quella circostanza abbiamo visto il Primo ministro del Regno Unito sedere al tavolo con l’uomo più ricco del mondo, appunto Elon Musk, per intervistarlo. Abbiamo un primo ministro che si spinge fino a intervistare un CEO – con delle domande peraltro piuttosto morbide – e a chiedergli come si dovrebbe procedere per regolamentare il futuro dell’intelligenza artificiale e quali sono i suoi rischi e le opportunità. 

Questa persona ha raggiunto, da un lato, un livello di potere economico enorme, perché è riuscito ad accumulare una cifra senza precedenti come patrimonio e valore personale, arrivando a trecento miliardi di dollari. Dall’altro lato, come questo caso dimostra, è anche una persona che viene di fatto trattata come un capo di Stato, il cui Stato però non ha confini. È un imprenditore, fa molte cose, ma è considerato un guru, un visionario. E questo, naturalmente, rende estremamente importante capire cos’abbia in mente quest’uomo. È importante per noi, per il nostro futuro, per il futuro dell’istruzione, della tecnologia.

Quindi questo libro cerca di porre una domanda, non tanto sull’imprenditore Elon Musk, non tanto sull’ingegnere o sul «genio» – quello che è raccontato un po’ ovunque – ma sul pensatore. Che tipo di futuro ha in mente per noi quest’uomo, che dice di averlo tanto a cuore? Abbiamo cercato di capire che tipo di radici culturali, ideologiche, politiche e sociali abbia e come si riverbereranno, molto probabilmente, su tutti noi.

Abbiamo visto sempre di più, che sia in questi anni o in questi giorni con il Summit sull’IA, come Musk condizioni l’immaginario e gli eventi. In che misura possiamo considerarlo un attore geopolitico? 

È un attore geopolitico assoluto. Lo è assolutamente per il ruolo in Ucraina, basta pensare alla decisione di fornire o meno la connettività, scena che si è riproposta anche a Gaza. Il fatto stesso che la conferenza sull’IA fosse tutta incentrata sui rischi esistenziali provenienti dall’IA è significativo. Questo è un discorso estremamente delicato e importante, che va fatto con attenzione: l’intelligenza artificiale presenta dei rischi concreti, tutti i giorni, nel campo dell’immigrazione, nel campo della sanità, nel campo del welfare, del lavoro, cose concrete.

Ma questi temi sono passati in secondo piano perché c’è stata un’enorme spinta di lobbying, di immagine e di public relations, da parte di Musk e di miliardari come lui, a sostituire questi problemi reali con problemi ipotetici. «Cosa succede se l’intelligenza artificiale diventa generale e superintelligente? Cosa succede se abbiamo Terminator che circola tra di noi?» Qualche giorno fa Musk diceva in un podcast che gli ambientalisti estinzionisti potrebbero programmare una super intelligenza che annienti l’umanità per salvare l’ambiente. È una cosa che non ha nessun senso quando sappiamo che dall’altra parte c’è un’intelligenza artificiale che sta erroneamente arrestando persone di colore perché è buggata.

Questo è molto pericoloso, perché nei grandi forum internazionali, dove circolano i soldi che possono indirizzare il policy making, e dove circolano le idee che formano proprio il modo in cui concepiamo l’intelligenza artificiale nel dibattito pubblico, stanno prevalendo le idee di Musk.

È la dimostrazione che il potere geopolitico e politico di quest’uomo deve essere tenuto sotto controllo. La cosa che fa più paura di tutte è che, mentre nel precedente stadio del capitalismo digitale queste persone, i CEO o i capitani d’industria, erano quotidianamente messi in croce per cose infinitamente minori, oggi si tace su problemi di gran lunga più rilevanti. Abbiamo il CEO di un social network come Twitter che fa politica attiva, che fa propaganda politica ogni singolo giorno e non c’è adeguato livello di scrutinio democratico e giornalistico su questa persona. Questo è un altro modo di dimostrare il suo potere. 

È talmente potente che si fa perfino fatica, in molti casi, a riconoscere la problematicità della sua posizione. Com’è possibile che una persona di questo tipo possa indistintamente atteggiarsi a capo di Stato, o quasi, in tutto il mondo? Com’è possibile che possa dialogare con dittatori, leader autoritari e leader democratici su qualunque tema ed essere interpellato non per assumersi le responsabilità di quello che fa, ma perché gli si chieda cosa dovremmo fare noi come genere umano e come governi? Questo è molto pericoloso. Quindi il mio invito è, se non altro, a problematizzare tutto questo.

Il mondo di Elon Musk sembra un amalgama di fantascienza, filosofi contemporanei e pensatori ossessionati dall’idea delle civiltà e del loro declinare, Spengler, Gibbon, Toynbee. Come interagiscono i riferimenti culturali di Musk?

Sono riferimenti complessi e interessanti. Da un certo punto di vista sono anche molto coerenti. Hanno tutti una visione di ampio raggio e ampio respiro: sono visioni che tendono a parlare, più che di questa o quella singola circostanza, dell’umanità in quanto tale, come genere. 

Passiamo attraverso cicli di fantascienza epica, come il Ciclo delle fondazioni di Asimov o i libri di Iain Banks del Ciclo della Cultura. Passiamo poi per filosofi morali che si occupano di questioni che riguardano il genere umano in quanto tale nel suo futuro remoto, i longtermisti. Passiamo per persone che, da un punto di vista gnoseologico ed epistemologico si rifanno al positivismo, un positivismo abbastanza radicale, in cui le scienze dure tendono ad avere il primo posto nel comprendere il mondo e quindi, in una qualche maniera, anche nel anche poterlo prevedere.

C’è un tentativo abbastanza condiviso nella Silicon Valley, o comunque tra i tecnologi – tra i guru – di ridurre la politica a una questione tecnica, a tecnocrazia o addirittura tecnologia – o comunque a trasformare la politica in qualcosa che non richiede più la mediazione dei partiti, dei grandi giornali e dei media che infatti Musk avversa in quanto tali. Siamo di fronte a una serie composita di bagagli culturali che purtroppo hanno poco a che vedere, quando si fa a farne la tara, con l’idea di democrazia liberale che abbiamo imparato a conoscere come il male minore – la forma sbagliata, ma la meno sbagliata di tutte, come si diceva, di governo delle cose.

E questo naturalmente accompagna alla fascinazione per Musk anche un senso di inquietudine e di pericolo. Era questo che volevo evidenziare. Bisognerebbe discutere le conseguenze di questo bagaglio culturale.

Parafrasando Asimov, lei espone la legge zero di Elon Musk, «Elon Musk deve agire nell’interesse di lungo termine dell’umanità nel suo complesso e può rigettare tutte le altre leggi ogni volta che gli sembri necessario per quel bene ultimo». Può spiegarci meglio questa sua parafrasi?

È fondamentalmente l’idea di un uomo che sente di avere una missione, non di un semplice imprenditore che sicuramente ha la passione per se stesso, per restare al centro dell’attenzione, per la bella vita. 

Ma non è questa la lente per comprendere Musk. Per comprenderlo bisogna guardare a una persona guidata da questo istinto salvifico, da questa convinzione – molto potente in lui – di dover in qualche misura salvare il mondo. La parafrasi della legge zero era il risultato di un ragionamento in cui cercavo di dimostrare che, tutto sommato, la visione di Musk non è molto diversa dal modo in cui Asimov dipinge i suoi robot: degli esseri perfettamente razionali, degli esseri utilitaristici in senso stretto, cui viene programmato all’interno del codice genetico l’idea che non possano fare del male all’umanità, ma che debbano anzi violare tutte quelle regole che sembrano costume, tradizione o senso comune, ma che ostacolano la salvezza dell’umanità in quanto tale.

Questo si vede molto bene in Musk passando dalla fantascienza a qualcosa di più concreto, la sua crociata contro il wokismo. Questa «ideologia woke», secondo lui, sarebbe uno di questi freni che, nel nome del politicamente corretto, del buon senso, starebbe ostacolando lo sviluppo razionale, felice e sano della civiltà umana, addirittura mettendo a repentaglio la sua sussistenza. Questo tema assurge per lui a rischio esistenziale.

Musk parla a nome dell’umanità ma le sue preoccupazioni per il futuro – il calo demografico nei paesi ricchi, l’idea di una super intelligenza artificiale o il problema della cancel culture – a quale umanità si riferiscono?

È un’umanità vista ideologicamente. C’è questo forte sostrato sempre più evidente in Musk, negli ultimi mesi in particolare, e sempre più riconducibile a una visione ideologica del mondo che viene da ambienti conservatori, nazionalisti, sovranisti o estremisti, per non usare eufemismi.

Si sta facendo megafono di una visione ideologica di estrema destra: la libertà di espressione assoluta, la guerra al politicamente corretto e le preoccupazioni demografiche sono tutte battaglie congruenti con una certa parte politica

Musk è sempre molto attento a dipingersi come un uomo avulso dalla politica, come un terzo che cerca solo di capire le cose come stanno e di fare il meglio per l’umanità – e naturalmente per se stesso. Questo meglio però continua a coincidere con visioni di quella natura. Quindi, qualunque sia il suo intimo intento psicologico, il risultato è che si sta facendo megafono di progetti estremisti. E questo è un problema quando siamo davanti a una persona che può dialogare col primo ministro della Gran Bretagna da pari, se non da superiore.

Un problema che lei sottolinea in Musk è quello della conoscenza. Come fa Musk a conoscere? Se vuole fare il bene dell’umanità astratta, cosa gli consente di misurare, individuare, calibrare il bene?

Vedo un misto di positivismo e di longtermismo. Da un punto di vista gnoseologico, di come si conosce il mondo, è convinto che le scienze dure siano la forma in cui si conosce il mondo, e diano comunque il metodo per conoscere ogni cosa. Lo chiama metodo dei principi primi – o almeno così viene raccontato dai suoi biografi o intervistatori, sempre piuttosto teneri con lui.

L’idea è ridurre il mondo a principi elementari e testare questi principi sul campo, mischiando quindi le due scienze che sono per lui sovrane, la fisica e soprattutto l’ingegneria, che è quella che consente davvero di «sporcarsi le mani». 

Musk dice di non voler essere uno dei fiori nel giardino, ma il giardiniere che consente ai fiori di sbocciare, presentandosi così come l’abilitatore del progresso umano. Se da un lato c’è questo aspetto positivista, nel cercare la funzione di utilità e capire come massimizzare il bene dell’umanità tutta, Musk tende invece a rifarsi – da quanto si capisce o si vede dai suoi comportamenti – a una filosofia morale chiamata longtermismo, che è di fatto una branca molto estrema dell’utilitarismo mischiata a forme di futurismo e sviluppata principalmente da intellettuali di Oxford come Nick Bostrom o Toby Ord.

Questi pensatori dicono che il vero oggetto da mettere al centro della nostra funzione di utilità, e quindi l’obiettivo ultimo, è massimizzare il benessere dell’umanità in quanto tale, l’intera umanità, non solamente quella esistente, ma anche quella che esisterà. Musk ne fa un potente argomento per giustificare le sue mire di colonizzare lo spazio, di creare colonie su Marte, di ampliare la civiltà umana.

Questo consentirà, per lui, la nascita di miliardi e miliardi di miliardi di individui del cui benessere dobbiamo prenderci cura da oggi. La ragione sarebbe, seguendo questi filosofi morali, che siamo sull’orlo di un precipizio esistenziale che rischia di impedire all’umanità di produrre tutti questi miliardi di individui. E questo risulterebbe in una perdita netta, un net negative, che impedirebbe appunto il loro benessere. 

Questo presenta da un lato una grande visione umanitarista, se si vuole vederla così, perché si sta dicendo che bisogna prendersi cura del fatto che l’umanità debba sopravvivere. Dall’altro lato però, come potete immaginare, il calcolo utilitarista, che di per sé è già problematico, diventa qui estremamente problematico, perché nel nome del benessere di un numero infinito di individui, qualunque numero finito di individui diventa sacrificabile.

Abbiamo delle radici culturali problematiche, una visione parziale dell’umanità e un metodo conoscitivo positivista. Quale visione politica emerge, consciamente o meno, da tutto questo? Cosa emerge dai laboratori che Musk già possiede, le sue aziende, Twitter, il progetto Astra, le ipotesi di future leggi per Marte?

È una visione politica ingenua da un lato e contraddittoria dall’altro. Ingenua, perché non mi risulta che Musk abbia profonde conoscenze di filosofia politica, di scienza politica, che frequenti la politica come arte del compromesso. Qui la politica sembra semplicemente vista nella sua versione soluzionista, la politica come migliore soluzione tecnica per garantire il risultato ottimale dal punto di vista razionale. La politica, purtroppo o per fortuna, è anche qualcosa di altro e di superiore. E dall’altro lato, è una visione politica contraddittoria, perché è stata tutto e il contrario di tutto. Musk si è definito anarchico, socialista, libertario e, anche se non si definisce tale, è chiaramente un conservatore reazionario su molti temi. 

È molto complicato decifrarlo: parla talvolta di tecnocrazia, talvolta di democrazia diretta. Su Twitter aveva cominciato a fare i sondaggi, poi rapidamente spariti, in cui chiedeva come gestire la piattaforma, come gestire oggetti e contenuti, addirittura chi dovesse essere il CEO. Dall’altra, quando gli viene chiesto che forma di governo immagini per Marte, Musk risponde con la tecnocrazia, con l’immagine di un governo razionale nel mondo, in fondo molto coerente con la sua visione positivista dal punto di vista gnoseologico. È molto complicato da definire, ma ovunque rimane questo sostrato culturale e filosofico di cui parlavamo prima, che si può di fatto applicare universalmente. 

Pensate, per esempio, alla gestione di una tecnocrazia, come potrebbe essere quella marziana. Il limite tra una tecnocrazia e una democrazia diretta non è molto labile? Musk immagina che, su Marte, probabilmente ci sarà bisogno di una politica diversa. Ci sarà bisogno di forme di democrazia diretta. Ma chi sarà a fare le scelte e votare in queste forme di democrazia diretta? I primi coloni, che con ogni probabilità, saranno scienziati, ingegneri e fisici che vengono inviati tra i primi esploratori. Non c’è una grandissima differenza nei fatti tra la tecnocrazia e la democrazia diretta per Musk.

Di fatto, tutte le forme di democrazia diretta che noi abbiamo conosciuto nella contemporaneità, pensate a Casaleggio o al Movimento 5 Stelle, si sono tradotte in una forma di tecnocrazia ignorante: a decidere sono quelli che definiscono il quesito, cioè coloro che scelgono quali quesiti si pongono, come si pongono, come si conta, per quanto tempo si può votare, quando si può votare… Tutti elementi che il Movimento 5 Stelle ha manipolato ad arte per ottenere i risultati che voleva. Dall’altro, anche chi partecipa rappresenta solo uno zoccolo duro di persone. Si è visto anche nella storia dei 5 Stelle, con quel nucleo di venti o trentamila: sono molto pochi quelli che hanno tempo di commentare e intervenire in maniera sostanziale.

Di nuovo sembra di essere in una sorta di tecnocrazia. Su Twitter lo vediamo nelle community notes, che decidono cosa è vero o falso sulla piattaforma. Il tutto viene spacciato come una forma di democrazia diretta, ma di fatto, come sappiamo dalla storia di Wikipedia o di qualunque forma di collaborazione umana, si creano delle gerarchie spontanee sulla base del tempo e delle competenze.

La risposta è molto complicata, ma il problema vero è che non c’è niente in tutte queste radici politiche che ci faccia pensare che a Musk interessi la democrazia come la conosciamo noi.

Per modus operandi, formazione culturale e stile di vita Musk è parte della Silicon Valley, insieme a personaggi come Mark Zuckerberg, Dustin Moskovitz o Saul Bankman Fried. Come è riuscito negli ultimi anni, direi dopo il Covid, a distinguersi da quella sua provenienza? Come ha fatto un miliardario tech agnostico a presentarsi come anti-establishment e diventare una figura di riferimento dell’ultradestra? 

Penso che un fattore lo giochi il tipo di interessi di Musk, a capo di una serie di imprese che vanno a colpire parti estremamente vivide dell’immaginario dell’umanità.

Un CEO di Amazon deve occuparsi di cose abbastanza noiose come la logistica e far arrivare dei prodotti in una casa nel minor tempo possibile; un CEO di Facebook deve capire come gestire i gruppi di un social network o come permetterci di postare le stories o i reel. Sono cose interessanti, ma non non stuzzicano l’immaginazione delle persone. Un chip nel cervello, dei robot senzienti, l’intelligenza artificiale generalizzata, macchine che si guidano da sole, razzi che vanno su Marte… queste invece sono visioni che catturano l’immaginario di un qualunque bambino appassionato di fantascienza, di qualunque persona che guarda al cosmo con ammirazione e paura, interesse e curiosità. Vanno a toccare dei tasti che sono secondo me pre-politici, pre-ideologici, vanno a suscitare delle emozioni e delle sensazioni che catturano e creano un senso di identità. È uno dei motivi per cui, secondo me, si è creato un culto attorno a quest’uomo. È difficile mettere in questione una persona che ti dà senso nel mondo e dice delle cose che sembrano provenire da un bel romanzo di fantascienza, di Asimov o di chi per lui.

Secondo me esiste questo aspetto, oltre, naturalmente, al suo documentato successo nel porsi come il leader di una certa comunità di nerd, di «memificatori», che sembrano usciti da 4chan e dalle community di Discord. Queste persone lo adorano perché lui è un «gamer», uno che conosce i videogiochi, che conosce quell’ambiente, che conosce la tecnologia. È uno che è entrato e uscito nei set cinematografici dei film di fantascienza, delle serie di riferimento come «Big bang theory» e via dicendo.

È un personaggio che ha saputo sicuramente, volontariamente o involontariamente, rappresentarsi come uno di noi. Come si faccia a legare questa cosa a ambienti politicamente reazionari, conservatori o di estrema destra si spiega, purtroppo, ancora una volta con le sue convinzioni ideologiche di fondo. 

Ma bisogna aggiungere che, in questo momento, Musk ha il vento in poppa. È lui il CEO, il capitano d’industria, l’uomo che più di tutti rappresenta lo Zeitgeist, lo spirito del tempo, un tempo che odia i giornalisti, considera i media venduti, sostiene che le democrazie siano impotenti e ipocrite, cerca di guardare alla contrinformazione come vera informazione. Sono tutti elementi che segnalano una profonda crisi di fiducia nelle istituzioni, ma anche un profondo bisogno di appartenenza. E tutte queste persone si riconoscono e si validano e condividono tra loro. Musk condivide sempre gli stessi account – guarda caso, quasi tutti estremisti di destra – i meme e provengono dagli stessi ambienti e gli appartenenti a queste comunità utilizzano linguaggi simbolici simili.

È un modo di riconoscersi, un modo orgoglioso di riconoscersi, anche perché è un modo di distinguersi da una maniera di pensare e da un mondo che ritengono non solo sbagliato, ma direttamente nocivo per la civiltà. È un ritorno alla barbarie – dicono queste comunità – quello da cui dobbiamo salvarci. Naturalmente questo ci riporta ad Asimov: come si esce dalla barbarie? Con la ragione, con una scienza esatta che magari riesca a essere usata anche nella politica, anche nella storia, anche nel predire il suo corso futuro.

Se Musk rilancia tutti i grandi miti della destra americana, sembra piuttosto silenzioso sulla Cina, non la problematizza e non si espone troppo. Anzi, è stato spesso ospite di giornali e istituzioni cinesi per i suoi interventi. Come si situa Musk nella geografia politica della tecnologia tra Cina e Stati Uniti? 

Musk è molto attento che la Cina rimanga un attore internazionale di primo piano nella questione dell’intelligenza artificiale. Lo ha dimostrato anche in questi giorni, quando si è congratulato con Sunak per aver coinvolto la Cina all’interno di questa iniziativa, e in generale all’interno delle iniziative multipolari in corso, che sono tantissime, all’ONU e in altre sedi, in cui la Cina figura come un attore di primo piano. Musk si dice contento e penso che una giustificazione possa anche esserci, dal momento che la Cina è un attore che ha una quota di mercato tale, delle produzioni tali, che è difficile pensare di regolamentare l’intelligenza artificiale a livello globale senza la Cina.

Però, dall’altro lato, Musk ha un rapporto abbastanza stretto, a mio avviso, con la Cina. In parte per interessi economici naturalmente, in parte perché grazie alla Cina ha potuto anche esprimere alcune idee che qui in Occidente sono un più difficili da esternare. Penso a un documento che ha scritto per la rivista dell’agenzia della cybersecurity cinese: in quell’occasione si è lasciato andare molto più liberamente su come immagina il futuro dei suoi robot senzienti rispetto a quanto faccia di solito in Occidente. Lì ha parlato esplicitamente di sostituzione di attività umane, prospettando dei robot capaci di fare tutto.

C’è anche una sorta di consonanza ribellista, che consiste nel pensare che in Occidente non si possano dire certe cose e che in Cina ci sia invece una visione completamente diversa. La visione cinese probabilmente non è la sua – non credo Musk sia un sostenitore di quel modello totalitario e autoritario  – ma, speculando, potrebbe presentare anche dei vantaggi all’interno del mondo di un libertario del mercato delle idee come è Musk, che potrebbe considerare un bene l’esistenza della posizione che rappresentano i cinesi nei dibattiti sull’intelligenza artificiale. Dopotutto, i cinesi sono stati, nel loro modo ipocrita e politicamente insostenibile, dei precursori della regolamentazione dell’intelligenza artificiale, anche se solo per gli usi privati, non per quelli governativi chiaramente. La Cina è comunque una sorta di contrappeso alla visione europea, che invece Musk detesta, la visione del DSA, la visione dell’IA Act, la visione di cui non parla mai. Quelle sono visioni che lui considera censorie, e lo ha detto apertamente. Penso invece che, nell’ottica di una democrazia liberale, siano visioni che servono a permettere l’esercizio degli altri diritti, qualcosa di molto diverso dalla censura.