L’asservimento cognitivo è una minaccia esistenziale

Scopri “Il Grand Continent”. Idee e analisi che non troverai da nessun’altra parte. Ma che presto vedrai ovunque. Nella tua casella di posta a partire da 8 euro al mese

Mentre infuriano i dibattiti sull’opportunità degli ingenti investimenti necessari affinché la Francia e l’Europa possano partecipare alla corsa all’IA, è opportuno ampliare la prospettiva. La padronanza dell’IA è infatti una questione esistenziale che mette in discussione la sovranità cognitiva francese ed europea e che va ben oltre la mera questione economica. 

Che cos’è la sovranità cognitiva?

La risposta varia a seconda che si parli di IA, interfacce cervello-macchina e analisi dell’attività cerebrale, oppure di algoritmi dei social network, dei giochi online e delle scommesse sportive studiati per catturare l’attenzione. Se ci si limita all’IA e alla sua governance, la sovranità cognitiva può essere definita come «il fatto che uno Stato disponga delle proprie strutture produttrici di intelligenza, nonché della capacità di proteggere la propria popolazione da qualsiasi atto di guerra cognitiva volto a minarne la razionalità». 

In concreto, la sovranità cognitiva presuppone innanzitutto di disporre di modelli di IA all’avanguardia, di centri dati e di chip. Presuppone inoltre di formare la mente della propria popolazione, in particolare il suo spirito critico, al fine di emanciparla da ogni dipendenza dall’IA. Richiede infine di essere in grado di monitorare, individuare e contrastare qualsiasi atto di guerra cognitiva che miri alla razionalità della popolazione, in particolare attraverso la manipolazione di algoritmi e modelli di IA. Non è un caso che il Comando Alleato per la Trasformazione della NATO abbia definito la cognizione come la sesta dimensione del conflitto moderno, insieme all’aria, alla terra, al mare, allo spazio e al cyberspazio. 

Questa sovranità ha un costo considerevole. Iniziative come l’operazione Prometeo richiedono investimenti di tale portata che è legittimo chiedersi se «ne valga la pena». Rispondere in modo diverso dall’affermativo e non impegnarsi, molto rapidamente, in questa direzione equivarrebbe tuttavia a proseguire sulla strada attuale, quella che conduce alla vassallaggio.

Qual è il costo economico della vassallità cognitiva? 

Come sottolineano gli autori dell’operazione Prometeo, «continuare a non fare nulla equivale a vendere allo scoperto in modo massiccio tutti i giganti tecnologici americani, ogni giorno». Se rimaniamo in uno stato di vassallaggio, l’ipotesi piuttosto prudente di una sostituzione o di una profonda trasformazione del 10% della massa salariale da parte dell’IA ci porterebbe, entro due o tre anni, a versare ogni anno, in modo duraturo, cinque punti di PIL di rendita pura agli Stati Uniti. E questo è solo l’inizio, perché la vassallità cognitiva significa anche rinunciare a controllare la natura, l’ergonomia, l’interfaccia e le funzionalità dei modelli di IA che, in ogni caso, saranno utilizzati in modo sempre più massiccio dalla popolazione europea.

Non controllare l’IA significa non poter intervenire sui suoi effetti estremamente deleteri, che stanno iniziando a essere documentati, su una serie di posti di lavoro cosiddetti “junior”. La questione è tanto più grave in quanto questi lavori sono indispensabili per la formazione degli esperti: è proprio lì che essi si confrontano con il mondo reale e acquisiscono l’esperienza di cui hanno bisogno. Eppure questi esperti, che svolgono un ruolo chiave in numerose organizzazioni e quindi nel funzionamento dell’economia, sono proprio coloro su cui dovremo fare affidamento per monitorare l’IA, poiché disporranno delle competenze necessarie per dialogare con essa da pari a pari ¹.

Chi non controlla la produzione dell’IA non può plasmarla come desidera. Eppure l’IA è qui per restare, non per fatalità, ma perché gli incentivi al suo utilizzo sono troppo forti e rinunciarvi metterebbe gravemente a rischio la nostra competitività, la nostra difesa e la nostra sicurezza. Utilizzarla senza produrla significa quindi subire le scelte altrui. E, tenuto conto dell’impatto che tali scelte di progettazione, funzionamento e sviluppo hanno sulla nostra cognizione, subirle equivale a vivere in uno stato di vassallaggio.

Il ruolo che la natura, l’ergonomia e l’interfaccia dei modelli di IA svolgono nel campo dell’istruzione sta gradualmente diventando più chiaro ². Alcuni modelli sembrerebbero indurre gli alunni e gli studenti a «delegare parte delle loro funzioni cognitive ³», al punto da diventare molto meno efficienti quando l’IA viene loro sottratta. Allo stesso modo, alcuni modelli renderebbero talvolta subottimale la collaborazione tra uomo e IA: in determinati compiti, l’uomo otterrebbe risultati migliori da solo piuttosto che con l’IA, così come quest’ultima otterrebbe risultati migliori senza l’uomo in altri compiti ^4 5.

Semplificando molto, si possono considerare “deleteri” quei progetti che offrono all’utente la massima fluidità e il massimo “comfort”. Essi lo inducono infatti ad affidare le proprie capacità cognitive all’intelligenza artificiale, ad abituarsi a non riflettere più e, soprattutto, a non fare più alcuno sforzo per pensare. Questo concetto di sforzo è fondamentale: proprio come lo sforzo fisico è indispensabile per la salute del corpo – cosa che l’avvento del motore termico non ha cambiato –, lo sforzo cognitivo è indispensabile per la salute del cervello. Le IA che consentono di ottenere il frutto di un lavoro cognitivo senza compiere il minimo sforzo uccidono così la cognizione a fuoco lento.

Al contrario, le “Cognitive Forcing Functions” indicano progetti che reintroducono un attrito cognitivo al centro dell’interazione con l’IA: formulare la propria risposta prima di poter consultare quella dell’IA, rispondere a domande che dimostrino di aver effettivamente letto i documenti presentati, ecc. Questi modelli sono vantaggiosi, poiché stimolano lo sforzo cognitivo sfruttando al contempo il contributo dell’IA.

Ma i dirigenti americani del settore tecnologico, sottoposti a un’enorme pressione finanziaria a causa dei loro investimenti colossali, opteranno in stragrande maggioranza per i modelli “deleteri”, che sono molto più redditizi dal punto di vista commerciale rispetto a quelli benefici ma fonte di attrito. Lo faranno per lo stesso motivo per cui le catene di fast food hanno prosperato grazie a menu ipercalorici piuttosto che a insalate dietetiche.

È tuttavia interessante notare che, quando il dibattito pubblico si è concentrato sugli effetti estremamente dannosi di questo “cibo spazzatura” sulla salute, la percezione dell’opinione pubblica è gradualmente cambiata. Alcuni fast food hanno quindi dovuto modificare la propria offerta e mettere in risalto il suo valore nutrizionale, in altre parole, in un certo senso, la sua «frizione gustativa». La superiorità commerciale del «comfort» rispetto alla «frizione» non è quindi una fatalità. Occorre però essere in grado di sviluppare e promuovere design benefici, che facciano propria la frizione…

La vassallità cognitiva è la certezza di dover un giorno pagare per cercare di controbilanciare gli effetti deleteri di tali progetti sul sistema educativo e universitario, ma anche di assistere all’erosione della produttività e della competitività delle organizzazioni che utilizzerebbero l’IA in modo non ottimale.

L’Open Weight e la rivolta degli avvocati statunitensi

Negli Stati Uniti, l’estrema judicializzazione della società e le somme astronomiche regolarmente in gioco hanno reso la professione di avvocato d’élite estremamente competitiva e, in alcuni casi, molto redditizia.

È in parte ciò che ha permesso ai grandi studi legali statunitensi di investire massicciamente nella propria sovranità cognitiva. Latham & Watkins, Kirkland & Ellis ⁶ (500 milioni di dollari) o ancora Morgan & Morgan ⁷ (1 miliardo di dollari) hanno così stanziato somme considerevoli per lo sviluppo delle proprie piattaforme di IA giuridica. Kirkland & Ellis e Morgan & Morgan progettano da zero piattaforme proprietarie basate su agenti, mentre Latham & Watkins ha acquisito modelli cosiddetti «open weight » — ovvero con i pesi aperti, il che consente l’accesso a un’architettura neurale pre-addestrata —, che ha poi perfezionato in modo massiccio su corpus giuridici. Morgan & Morgan si appresterebbe non solo a implementare la propria piattaforma «MX2», ma anche a offrirla in licenza ad altri studi legali statunitensi, al fine di sviluppare un’offerta commerciale nel settore della proprietà intellettuale software, ammortizzando al contempo i propri costi di sviluppo.

È degno di nota il fatto che questi studi abbiano operato questa scelta proprio mentre i giganti della tecnologia sono, come loro, americani. Certo, il loro approccio non è affatto paragonabile alla sperimentazione da parte degli europei di nuovi modelli di frontiera, ma induce a chiedersi: come possono gli europei, che devono tenere conto di questioni relative alla difesa, alla sicurezza, alla cultura e allo spionaggio, ritenere che tali investimenti non ne valgano la pena? Se gli studi legali americani ritengono opportuno investire miliardi nella loro sovranità cognitiva, si può ben immaginare l’ordine di grandezza degli investimenti necessari su scala continentale, come nel caso dell’Europa.

Il vassallo cognitivo è condannato a parlare la lingua del suo sovrano cognitivo?

Come scriveva Wittgenstein: «I limiti del mio linguaggio sono i limiti del mio mondo». La lingua è intimamente legata alla sovranità. L’eroina del film «Arrival» del regista del Québec Denis Villeneuve, linguista di fama, afferma del resto che «la lingua è il fondamento di ogni civiltà e la prima arma impiegata in caso di conflitto». Per molto tempo si è creduto in ipotesi come quella cosiddetta «di Sapir-Whorf», che attribuiva alle proprietà della lingua madre un impatto considerevole sulla cognizione che si sviluppa in seguito. Questa ipotesi, di natura fortemente deterministica, riteneva che alcune lingue preparassero particolarmente bene la mente a determinati tipi di ragionamenti complessi, mentre altre limitassero tali capacità.

Ormai ci siamo in gran parte allontanati da questa visione: le neuroscienze più recenti parlano piuttosto di “relativismo linguistico” e considerano la lingua madre come un fattore che modella parzialmente la mente, senza alcuna gerarchia tra le lingue né l’idea che alcune “preparino meglio” ai ragionamenti complessi. Queste ricerche dimostrano tuttavia che la lingua ha un impatto diretto sulla cognizione. Ebbene, i modelli di linguaggio di grandi dimensioni (LLM) sono, in un certo senso, una lingua – una lingua scritta non sotto la Cupola dell’Académie française, ma negli uffici dei magnati americani del settore tecnologico.

Lera Boroditsky ha studiato il modo in cui l’inglese ricorre a metafore «orizzontali» per parlare del tempo (looking forward to the next game, moving the meeting back), mentre il mandarino utilizza metafore verticali (shàng, «sopra», per gli eventi passati, e «sotto», per quelli futuri). Secondo lei, queste differenze non conferiscono alcun «vantaggio», ma predispongono i madrelingua inglesi a organizzare il calendario in senso orizzontale, mentre i madrelingua cinesi lo organizzano in senso verticale.

Jonathan Winawer ha osservato, dal canto suo, che il russo, il cui lessico distingue il blu chiaro e il blu scuro come due colori a sé stanti e non come due sfumature dello stesso colore, predispone i suoi madrelingua a essere più sensibili alle sfumature del blu: le distinguono molto più rapidamente rispetto agli anglofoni.

Infine, Stephen C. Levinson, all’epoca ricercatore presso l’Istituto Max Planck di psicolinguistica, ha pubblicato nel 2003 un articolo e successivamente un saggio intitolati «Lo spazio nel linguaggio e nella cognizione: esplorazioni della diversità cognitiva». In essi studia l’influenza del lessico spaziale di una lingua sulla percezione dello spazio, nonché sul modo in cui i madrelingua lo rappresentano e vi si orientano.

I progettisti dei modelli di linguaggio di grandi dimensioni (LLM) hanno piena libertà di introdurvi modifiche che potrebbero influenzare la cognizione degli utenti. E tali modifiche sono tanto più dannose quanto più sono sottili. Non si tratta di rinominare il Golfo del Messico o il Lago Ontario, ma di introdurre in un modello delle sfumature che modificano, in modo molto localizzato, la percezione che gli utenti hanno di un concetto. Optare per la vassallità cognitiva significa quindi anche rinunciare a esercitare un controllo sulla lingua con cui interagisce una parte sempre più ampia della popolazione, lasciandola esposta a una forma di manipolazione intrinsecamente difficile da individuare in tempo.

Le lingue europee, ad eccezione dell’inglese e del cinese, potrebbero inoltre essere oggetto di attacchi diretti. Non c’è nulla di sottile in questo: si tratterebbe semplicemente di esercitare un dominio imponendo la lingua del dominante ed emarginando quella dei vassalli. L’intelligenza artificiale non è altrettanto efficace in tutte le lingue; ad esempio, lo è meno in polacco che in inglese ^8 9 10. Questo divario è oggi dovuto essenzialmente a questioni di semantica, struttura delle lingue, volume di dati ben organizzati disponibili online in una determinata lingua e «tokenizzazione» – ovvero la suddivisione di ogni parola in unità di calcolo da parte del modello. Poiché tale suddivisione è ottimizzata per l’inglese, una lingua con declinazioni complesse come il polacco viene suddivisa in un numero molto maggiore di frammenti per esprimere lo stesso concetto, il che ne compromette le prestazioni.

L’amministrazione Trump – che nel giugno 2026 ha ordinato ad Anthropic di sospendere l’accesso dei non statunitensi ai suoi ultimi modelli, Fable e Mythos, per poi ripristinarlo – ha recentemente esercitato pressioni sul Canada affinché riducesse drasticamente il proprio sostegno ai programmi audiovisivi francofoni ¹¹. Fino ad allora gli Stati Uniti non avevano una lingua ufficiale: il 1° marzo 2025, Donald Trump ha firmato un decreto che conferiva tale status all’inglese. Perché fermarsi qui? Cosa impedirà a una futura amministrazione di ordinare, ufficialmente o meno, ai giganti della tecnologia di rendere i loro modelli nettamente meno performanti nelle altre lingue? Senza nemmeno renderli inutilizzabili, potrebbero così seminare un dubbio che spingerebbe molti utenti a esprimersi solo in inglese per ottenere «le migliori prestazioni».

Qual è il costo in termini di sicurezza e di vite umane della vassallità cognitiva?

A differenza degli avvocati statunitensi, quelli europei devono prendere molto sul serio le questioni relative alla sicurezza, come ha appena ricordato l’attacco informatico del 12 ottobre 2026 contro gli impianti di refrigerazione di numerose catene della grande distribuzione francese. Sebbene non se ne conoscano ancora i dettagli, si osservano già attacchi iraniani preparati con l’ausilio del modello Fable di Anthropic e altri lanciati in modo «autonomo» da agenti di intelligenza artificiale. Il cyberspazio, come la cognizione, è del resto una delle dimensioni di conflitto individuate dalla NATO: controllare il proprio cyberspazio diventa essenziale quanto controllare il proprio spazio aereo.

Cosa succederebbe se, domani, un paese sferrasse un attacco informatico su vasta scala utilizzando un’intelligenza artificiale americana, non più contro i frigoriferi dei supermercati ma contro le nostre infrastrutture critiche – centrali nucleari, ospedali – e la Casa Bianca ordinasse all’azienda che sviluppa tale IA, ad esempio Anthropic, di sospendere l’accesso della Francia al modello di cui avrebbe bisogno per difendersi?

E se un’amministrazione americana utilizzasse l’accesso ai modelli di frontiera come leva negoziale, al fine di costringere la Francia o un altro paese europeo ad acquistare materiale militare americano o a firmare un trattato molto favorevole agli Stati Uniti? Nessuno ha dimenticato le immagini di Ursula von der Leyen che si recava al campo da golf di Donald Trump in Scozia per firmare l’accordo che avrebbe dovuto porre fine all’escalation tariffaria. Fino a che punto il presidente americano avrebbe spinto le sue richieste se l’Europa avesse avuto un bisogno vitale delle migliori IA americane per difendersi?

Infine, come non trarre insegnamenti dall’insieme delle recenti scoperte sul modo in cui Mark Zuckerberg prende decisioni in merito alle funzionalità, al design e all’ergonomia delle piattaforme di Meta, come Facebook e Instagram? Anche dopo che i suoi stessi ricercatori gli hanno dimostrato, sulla base di studi interni, che alcuni design esponevano i minori alla predazione da parte di adulti sconosciuti e danneggiavano gravemente la salute mentale di molti utenti, in particolare delle ragazze, egli ha categoricamente rifiutato qualsiasi cambiamento. La sudditanza europea nei confronti dei social network americani ha così permesso a un amministratore delegato di prendere decisioni, nel solo nome dei propri interessi economici, che hanno direttamente compromesso la salute di molti giovani europei.

A questi primi costi umani si aggiunge l’inasprimento del dibattito pubblico. Le cause intentate contro Mark Zuckerberg hanno inoltre rivelato che alcuni ricercatori di Facebook avevano intervistato esponenti politici europei che si lamentavano di essere «costretti a mostrarsi sempre più violenti e sempre più radicali» per farsi ascoltare dagli elettori sui social network. Questi rappresentanti politici avevano supplicato invano Facebook di modificare i propri algoritmi affinché smettessero di premiare i discorsi di incitamento all’odio, al fine di poter garantire un dibattito pubblico di qualità.

La mancanza di scelta è in realtà una scelta

Nel giro di pochi anni, l’IA di frontiera è passata dalla risoluzione di problemi di livello olimpiadico di matematica per liceali alla produzione massiccia di risultati di ricerca significativi, al punto che il vincitore francese del Premio Fields Hugo Duminil-Copin ha potuto affermare che «l’IA ha annientato il suo campo di ricerca». E questo mentre alcuni matematici di primo piano sembrano appena cominciare a intuire cosa stia accadendo – non perché siano male informati, ma perché tutto è avvenuto con estrema rapidità.

In questo contesto, «prendersi il tempo necessario» per decidere se riconquistare la propria sovranità cognitiva equivale a scegliere la vassallaggio. Mentre si discute, i modelli continuano a progredire e il conto a lievitare. Sia i giovani che le imprese europee utilizzano già in modo massiccio l’IA, e il mercato del lavoro ne risente già gli effetti. La strada intrapresa per default conduce a una dipendenza totale dall’egemonia sino-americana in materia di IA – una dipendenza il cui costo reale verrà alla luce solo in occasione di una grave crisi.

Sono stati tuttavia compiuti i primi passi verso la sovranità cognitiva. Con il lancio di Mistral Large 4, il 6 ottobre 2026, che colloca la Francia al terzo posto a livello mondiale nel campo dell’intelligenza artificiale, Mistral dimostra che, in questa corsa, tutto è ancora possibile.