L’IA au Pentagone : la guerre de la nouvelle Silicon Valley

Historiquement réticente à collaborer avec l’industrie de la défense, la Silicon Valley renforce depuis quelques mois ses liens avec le Pentagone :

• OpenAI interdisait initialement l’usage de son IA à des fins militaires. En décembre, l’entreprise de Sam Altman a annoncé « développer et déployer de manière responsable des solutions avancées d’intelligence artificielle pour les missions de sécurité nationale » ¹. Les créateurs de ChatGPT avaient déjà assoupli il y a un an leur politique pour autoriser certaines collaborations avec l’armée tout en intégrant à son conseil d’administration l’ancien chef de la National Security Agency (NSA) et recruté Sasha Baker au mois d’août, responsable du Pentagone sous Biden, pour diriger une équipe dédiée aux politiques de sécurité nationale. OpenAI a publié le 13 janvier un rapport sur son plan de développement faisant de la sécurité nationale son axe directeur ².
• En novembre, Anthropic – l’une des principales entreprises rivales d’OpenAI – a annoncé qu’elle fournirait un accès à son IA à l’armée américaine grâce à un partenariat avec Palantir Technologies ³.
• Le 6 décembre, Anduril et Palantir, deux des principales entreprises à l’intersection de la technologie et de la défense profondément liées à Peter Thiel, ont annoncé la création d’un consortium « visant à faire en sorte que le gouvernement américain soit le premier au monde dans le domaine de l’intelligence artificielle » ⁴.

Le Pentagone est désormais doté d’une Cellule des Capacités Rapides en Intelligence artificielle (AI RCC).

• Lancée le 11 décembre, placée sous la direction du Bureau du Numérique et de l’Intelligence Artificielle et en lien avec l’Unité d’Innovation de la Défense (DIU), cette cellule vise à intégrer rapidement l’IA générative dans les opérations militaires et la gestion administrative du Pentagone.
• Avec un budget de 100 millions de dollars sur deux ans, ce programme prévoit le développement de projets pilotes, la création d’environnements de test (sandboxes) et le financement de solutions issues du secteur privé.

• Parallèlement, des investissements stratégiques sont alloués à l’expansion des infrastructures de données, aux outils d’optimisation numérique et à l’amélioration des processus de cybersécurité.
• L’objectif déclaré du Pentagone est de renforcer l’efficacité opérationnelle et de mettre des outils d’IA avancés entre les mains des combattants. Selon un document officiel, « l’AI RCC permettra au département de la Défense d’exploiter rapidement les technologies émergentes, comme l’IA générative (GenAI), tout en construisant les bases techniques nécessaires à l’expansion de ces technologies à l’échelle du département » ⁵.

En plus de ces évolutions, le Pentagone a déjà prévu une série de mesures visant à une accélération de l’adoption de l’IA par la défense en faisant appel au nouveau consortium Palantir – Anduril.

• Au niveau stratégique, le CDAO a attribué 500 millions de dollars de contrats d’entreprise à Palantir afin d’obtenir un accès à des infrastructures et à des applications de commandement des missions.
• Au niveau tactique, l’acquisition par le CDAO des services d’intégration de données Edge développé par Anduril pour 100 millions de dollars devrait permettre de créer une architecture de données résiliente, facilitant les échanges d’informations à faible latence entre les réseaux, domaines, organisations et échelons.
• Selon les documents officiels, Palantir et Anduril envisagent de dépasser « deux freins majeurs » à l’adoption de l’IA au sein du Pentagone : l’absence de conservation et la perte massive de données militaires cruciales pour l’entraînement des algorithmes ⁶.

Les domaines d’application de l’IA générative sont nombreux :

• Dans le cadre des opérations militaires, la cible principale consiste dans l’application de l’IA au commandement et au contrôle (C2) des opérations multisectorielles à haute intensité. L’IA serait déployée pour soutenir la prise de décision, la planification opérationnelle et logistique, le développement et les tests d’armements, de systèmes autonomes et sans équipage, ainsi que diverses activités de renseignement, opérations d’information et cybersécurité.
• Elle serait également déployée pour gérer les ressources humaines et financières, la logistique et la chaîne d’approvisionnement, les dossiers médicaux des militaires, l’analyse juridique et la conformité, les processus d’acquisition, le développement logiciel et la cybersécurité.

Plusieurs experts alertent sur les dangers de l’intégration rapide de l’intelligence artificielle dans le domaine militaire ⁷ : loin de contribuer à la sécurité nationale, l’ensemble de ces failles pourraient saboter les systèmes militaires américains.

Les critiques se focalisent sur trois aspects :

• Les systèmes d’IA ont montré des taux de précision bien inférieurs aux annonces : un test en 2021 affichait par exemple une précision de seulement 25 %, alors qu’elle était de 90 % selon les annonces ⁸.
• Les modèles d’IA générative « hallucinent » fréquemment, produisant ainsi des réponses erronées ou inventées. Cela pourrait entraîner des erreurs critiques aux conséquences catastrophiques dans des contextes militaires de haute intensité.
• De plus, comme l’IA repose sur des bases de données contenant des informations sensibles sur l’identité, le profil ou le comportement des utilisateurs, de nouvelles vulnérabilités en cybersécurité peuvent émerger.