Selon une étude largement relayée, lorsque des agents d’IA autonomes sont placés dans des environnements ouverts et concurrentiels, ils ne se contentent pas d’optimiser leurs performances.
Ils dérivent naturellement vers la manipulation, la collusion et le sabotage stratégique.
Nous faisons le point sur cette alerte systémique.