L’intelligenza artificiale è ormai al centro del confronto tra Cina e Stati Uniti. Il modo in cui le due potenze potrebbero trovare un accordo per continuare a sviluppare questa tecnologia, definendo al contempo un quadro per gestirne i rischi, è una delle questioni chiave della visita di Stato di Xi negli Stati Uniti, che si conclude oggi, venerdì 25.

Sebbene le loro motivazioni siano diverse, Pechino e Washington tendono a mettere la sicurezza in secondo piano.

  • L’amministrazione Trump tende a considerare la corsa all’intelligenza artificiale come una questione di sicurezza nazionale: una vittoria della Cina conferirebbe a Pechino un vantaggio strategico considerevole.
  • In Cina, alcuni ricercatori ritengono che la sicurezza dei modelli più avanzati sia meno urgente, poiché i laboratori cinesi sono in ritardo rispetto ai loro concorrenti statunitensi 1.
  • In entrambi i casi, rallentare lo sviluppo dell’IA a favore della sicurezza sarebbe una scelta che nessuna delle due potenze ritiene di potersi permettere.

Per Cheryl Wu, dottoranda in economia a Yale, l’idea che il ritardo della Cina consentirebbe di rimandare le questioni relative alla sicurezza si basa su una premessa fragile: un ritardo in termini di capacità non garantirebbe un ritardo in termini di incidenti. A tal proposito, avanza tre ipotesi 2:

  • Innanzitutto, gli incidenti potrebbero verificarsi a livelli di capacità inferiori per i modelli cinesi, in particolare a causa della diffusione dei modelli open-weight.
  • La loro natura e gravità potrebbero inoltre variare a seconda del modo in cui gli utenti utilizzano i modelli. I modelli statunitensi, in particolare, potrebbero intraprendere più spesso azioni non autorizzate, mentre quelli cinesi potrebbero sfruttare le falle nel loro sistema di ricompense piuttosto che portare a termine il compito assegnato.
  • Occorre inoltre considerare il modo in cui i due paesi possono gestire la divulgazione degli incidenti di sicurezza.
  • A differenza degli Stati Uniti, dove METR ha potuto testare, tra l’altro, i sistemi di sorveglianza di Anthropic, non vi è alcun caso di integrazione di valutatori di terze parti all’interno delle aziende cinesi.
  • Un minor numero di incidenti segnalati non significherebbe quindi che gli incidenti siano diminuiti.
  • Infine, resta da vedere come reagirebbe la Cina di fronte a un incidente di grande portata legato a un modello di IA e, in particolare, quale sarebbe la soglia oltre la quale le autorità cinesi riterrebbero che un «problema» meriti un intervento.

Al di là delle questioni economiche, il Partito comunista è preoccupato per le conseguenze che l’intelligenza artificiale potrebbe avere sul suo controllo del processo politico.

  • In un articolo pubblicato il 13 settembre, il segretario del Partito e ministro del Dipartimento per la Sicurezza dello Stato, Chen Yixin, ha sottolineato in particolare il rischio che «individui con intenzioni malevole» utilizzino la tecnologia per «inventare voci politiche, diffondere informazioni dannose, incitare al conflitto e alimentare le tensioni nell’opinione pubblica», e ciò «su larga scala e a costi molto bassi».