L’Oracle de l’Empire : Larry Ellison et le visage caché du projet Stargate

Le 12 septembre dernier, lors du Financial Analyst Meeting annuel du géant technologique Oracle, son fondateur Larry Ellison — dont la fortune est estimée à plus de 200 milliards de dollars, en faisant l’un des hommes les plus riches du monde — présentait les nombreux avantages que les outils de surveillance propulsés par Oracle pouvaient apporter à la société.

Des caméras ultra précises et impossibles à éteindre ; des centaines de millions d’images renvoyées en temps réel depuis tout le pays au « quartier général » ; un mur d’écran où elles sont traitées en permanence par de une intelligence artificielle ; une société qui se sait surveillée en permanence, qui se tient à carreau. La description de ce Big Brother boosté à l’IA pourrait sembler tirée d’une dystopie, ou d’un reportage sur la Chine de Xi Jinping. Elle est pourtant l’un des arguments de vente mis en avant par Ellison — qui aura 81 ans cette année et se présente comme un fervent défenseur du transhumanisme — pour valoriser les mérites des dernières avancées d’Oracle.

La finalité de celles-ci est résumée par une formule lapidaire : « les citoyens se comporteront mieux car nous enregistrons et rapportons tout ce qui se passe ». En d’autres termes : un mécanisme de surveillance et de domination à grande échelle pour réguler les comportements de la population. Comme le montrait Giuliano da Empoli dans la revue : « le Parti communiste chinois et la Silicon Valley travaillent à un avenir posthumain ».

Contrairement à Musk, Ellison s’intéresse depuis longtemps à la politique. Il est historiquement un donateur républicain : après Rand Paul et Marco Rubio, sa propriété de Porcupine Creek à Rancho Mirage en Californie avait accueilli une levée de fonds de Trump en 2016. Il entretient également des relations étroites et privilégiées avec Benjamin Netanyahou et a financé certains projets d’annexions de terres à Jérusalem, depuis contestés pour leur illégalité.

Toujours président du conseil d’administration et directeur de la technologie d’Oracle, Ellison n’en est plus le PDG. Si la société est principalement connue pour le système JavaScript et d’autres solutions de logiciels utilisées sur pratiquement tous les ordinateurs du monde, ses liens avec l’écosystème de la défense et de la surveillance sont anciens. Lorsqu’Ellison et ses associés lancent l’entreprise en 1977 pour proposer des services de gestion de bases de données, Oracle est le nom de code d’un projet de la CIA opéré la même année. L’agence de contre-espionnage américaine sera d’ailleurs leur premier client. Avant même d’être intégrées aux grandes entreprises, les solutions proposées par Oracle deviennent assez vite incontournables pour les institutions publiques ; petit à petit, les systèmes mis au point s’insèrent partout, à toutes les échelles de l’État.

Le 31 janvier 2002, quelques mois après le choc du 11 septembre, Larry Ellison plaidait pour la création d’une base de données unique sur la sécurité nationale dans une tribune au New York Times : « la mesure la plus importante que les Américains pourraient prendre pour rendre la vie plus dure aux terroristes serait de veiller à ce que toutes les informations contenues dans les myriades de bases de données gouvernementales soient copiées dans une base de données de sécurité nationale unique et complète. » 

En d’autres termes, une base de données combinée à des données biométriques — empreintes du pouce, de la main, de l’iris, etc. — utilisée pour détecter, par exemple, les fausses identités. On voit aisément comment un tel modèle peut être détourné pour contrôler voire infléchir le comportement social de la population — on en connaît d’ailleurs des exemples dans une autocratie comme la Chine de Xi ou dans une démocratie autoritaire comme l’Inde de Modi.

Dès le lendemain de son investiture, le 21 janvier, Donald Trump a fait une annonce fracassante. Aux côtés de Sam Altman, Masayoshi Son et Larry Ellison, il révèle un plan massif : 500 milliards de dollars d’investissements, une dérégulation massique et objectif — ouvrir aux États-Unis un « Âge d’or de l’IA ».  Le « projet Stargate » consiste en une coentreprise formée par OpenAI, SoftBank, Oracle et MGX, un investisseur dans le domaine de l’IA soutenu par les Émirats arabes unis. Les entreprises américaines Nvidia et Microsoft ainsi que le britannique ARM devraient eux aussi être impliqués pour la partie technique. Qualifié par Trump de « plus grand projet d’infrastructure de l’IA de l’histoire », Stargate utilisera ces investissements pour bâtir massivement des centres de données, dont 10 sont déjà en construction au Texas — le principal producteur d’électricité aux États-Unis et un État disposant des réserves d’hydrocarbures les plus importantes.

Avec l’annonce du projet Stargate, Ellison pourrait mettre son plan à exécution. Dans ses réponses aux investisseurs au mois de septembre, il déclarait également : « L’IA est une course de Formule 1. Tout le monde veut être premier dans un des domaines d’application de l’IA. À votre avis, combien faut-il pour entrer dans la course et créer un modèle d’IA compétitif ? 10 milliards ? 100 milliards ? Oui, 100 milliards et vous pouvez rejoindre la course. Peu d’entreprises, peu de pays peuvent entrer dans la course. Mais ça c’est plutôt bon pour nous ! »

Giuliano da Empoli remarquait dans nos pages : « La Silicon Valley et le Parti communiste chinois œuvrent d’une manière convergente à un avenir posthumain. La plupart des ingénieurs qui travaillent dans les entreprises technologiques de la Silicon Valley ont une fâcheuse tendance à penser que leur priorité n’est pas de servir les humains d’aujourd’hui, mais de construire les intelligences artificielles qui hériteront demain de la Terre. La surveillance constante et les tests de modification du comportement de multitudes d’humains sont censés permettre de recueillir des données qui nourriront « l’intelligence » des futures intelligences artificielles. De son côté, le régime chinois, tout comme les grandes entreprises technologiques, s’est engagé publiquement dans une « course à l’IA » qu’il place souvent au-dessus de tout. On ne peut que remarquer une convergence inquiétante entre cette course et les expériences entreprises dans le domaine des biotechnologies, particulièrement agressives dans les laboratoires chinois. » 

Nous pensons pourvoir sécuriser entièrement les écoles et réduire le risque que des personnes non autorisées s’y trouvent.

À la seconde où quelqu’un sort une arme, les caméras le reconnaissent immédiatement : nous avons complètement repensé les caméras corporelles. Les nôtres coûtent 70 dollars. Une caméra corporelle normale coûte plutôt autour de 7 000 dollars. Nos caméras, ce sont simplement deux objectifs fixés à votre veste et liés à votre smartphone, le tout directement sur votre corps.

La caméra est toujours allumée.

Vous ne pouvez pas l’éteindre.

Lorsque vous dites à Oracle : « j’ai besoin de deux minutes pour aller aux toilettes » et que nous l’éteignons, en fait, nous ne l’éteignons pas vraiment. Ce que nous faisons, c’est que nous continuons à enregistrer — mais de telle sorte que personne ne puisse y accéder sans l’ordre d’un juge.

On protège votre vie privée, donc. Mais si la justice le demande, nous examinerons ce que vous appelez une « pause pour aller aux toilettes ». Si vous nous dites « je vais déjeuner avec mes amis pendant une heure, j’ai besoin de confidentialité » — Dieu vous bénisse ! nous ne vous écouterons pas. À moins qu’un juge ne l’ordonne.

Nous transmettrons la vidéo au siège de la police, pour qu’elle puisse être surveillée constamment à l’aide de l’IA.

Vous souvenez-vous de ce terrible cas à Memphis où cinq officiers de police avaient lynché un citoyen ? Eh bien, cela ne pourrait pas se produire, car ce serait diffusé en direct au siège de la police. Tout le monde le verrait. Les caméras corporelles transmettraient l’image.

La police se comportera mieux parce que nous enregistrons et surveillons constamment tout ce qui se passe.

Les citoyens aussi se comporteront mieux car nous enregistrons et rapportons tout ce qui se passe. Et c’est inévitable. Les voitures ont aussi des caméras.

Nous utilisons également l’IA dans le traitement et l’analyse de la vidéo. En ce qui concerne l’altercation survenue à Memphis, le chef de la police aurait été immédiatement averti. Ce ne sont pas des personnes qui regardent ces caméras : l’IA regarde la caméra et dit : « non, non, non, vous ne pouvez pas faire cela ». En cas de tir, une alarme se serait immédiatement déclenchée. 

Tous les officiers de police seront constamment supervisés.

S’il y a un problème, l’IA le signalera à la bonne personne — que ce soit le shérif, le chef ou quiconque doit prendre le contrôle de la situation.

Nous avons également des drones. S’il se passe quelque chose dans un centre commercial, un drone s’y rendra. Il sera beaucoup plus rapide qu’une voiture de police. Il n’y a aucune raison pour qu’il y ait des courses poursuites à grande vitesse. Il serait beaucoup plus logique de traquer une voiture avec un drone. C’est très simple.

La nouvelle génération de drones autonomes repèrera les incendies de forêt par la chaleur. Le drone détecte un incendie de forêt, puis se pose et inspecte pour repérer s’il y a un être humain près de cette source de chaleur, un feu de camp non surveillé qui s’est embrasé ou un incendie criminel. Nous pouvons détecter tout cela. Tout cela se fera de manière autonome avec l’IA. Car toutes ces applications tournent avec de l’IA.

Un dernier exemple : nous pouvons, à l’aide d’images satellites, identifier toutes les fermes au Maroc ou au Kenya par exemple. À partir de ces données traitées par l’IA, nous pouvons savoir si, dans un champ, la partie nord ou sud a besoin de plus d’eau ou de plus d’engrais. Nous pouvons anticiper des pénuries de céréales à la suite d’une sécheresse, prévoir des avertissements anticipés auprès des autorités agricoles, etc. Le monde sera meilleur à mesure que nous utilisons les opportunités ouvertes par l’IA. 

(…)

Oracle veut avoir ses propres centres de données dans chaque grande ville du monde, dans chaque pays du monde. Nous voulons aussi créer des clouds dans des avions — dans des sous-marins aussi. Pour les sous-marins, c’est plus compliqué. Mais pour les avions, il n’y a pas de problème.

(…)

Sans travail humain, pas de malveillance humaine, pas d’erreur humaine — et pas de coût humain.