{"id":348929,"date":"2026-07-29T08:31:38","date_gmt":"2026-07-29T06:31:38","guid":{"rendered":"https:\/\/legrandcontinent.eu\/fr\/?p=348929"},"modified":"2026-07-29T08:31:41","modified_gmt":"2026-07-29T06:31:41","slug":"pour-survivre-nous-devons-nous-coordonner-pour-ralentir-la-course","status":"publish","type":"post","link":"https:\/\/legrandcontinent.eu\/fr\/2026\/07\/29\/pour-survivre-nous-devons-nous-coordonner-pour-ralentir-la-course\/","title":{"rendered":"\u00ab Pour survivre, nous devons nous coordonner pour ralentir la course \u00bb"},"content":{"rendered":"\n
Des lettres ouvertes sur les risques de l’IA, il y en a eu beaucoup. Celle qui est parue dans la nuit avec le titre Pacing the Frontier<\/em> \u2014 en fran\u00e7ais : r\u00e9guler le rythme du front technologique\u00a0\u2014 est in\u00e9dite sur trois points <\/span>1<\/sup><\/a><\/span><\/span>.<\/p>\n\n\n\n Son origine, d’abord. L’impulsion n’est venue ni d’ONG ni d’universitaires ext\u00e9rieurs, mais de l’int\u00e9rieur des laboratoires de pointe (OpenAI, Anthropic, Google DeepMind) qui ont ensuite \u00e9largi la collecte de signatures. L’adh\u00e9sion n’est par ailleurs pas rest\u00e9e individuelle : dans les heures suivant la publication, OpenAI et Anthropic ont repris le texte en tant qu’entreprises.<\/p>\n\n\n\n Sa composition, ensuite. Parmi les 1 178 signataires, on ne trouve pas seulement des chercheurs sp\u00e9cialistes en IA Safety et qui jouent d\u00e9j\u00e0, au sein m\u00eame des grandes entreprises, un r\u00f4le plus critique, mais aussi ceux dont le travail quotidien consiste pr\u00e9cis\u00e9ment \u00e0 acc\u00e9l\u00e9rer : les directeurs scientifiques d’OpenAI, de Meta AI et de Thinking Machines, trois cofondateurs d’Anthropic, et son PDG.<\/p>\n\n\n\n Sa motivation, enfin. Depuis d\u00e9cembre-janvier, les grands laboratoires ont fortement automatis\u00e9 la recherche en intelligence artificielle et le cycle de d\u00e9veloppement des mod\u00e8les. D\u00e9sormais chaque g\u00e9n\u00e9ration contribue \u00e0 concevoir la suivante : c’est ce qu’on appelle la dynamique d’auto-am\u00e9lioration r\u00e9cursive (Recursive Self-Improvement<\/em>, ou RSI). Le rythme du progr\u00e8s cesse d\u2019\u00eatre limit\u00e9 par le temps humain, et cette acc\u00e9l\u00e9ration referme la fen\u00eatre pendant laquelle des institutions peuvent observer, \u00e9valuer et d\u00e9cider d’intervenir.<\/p>\n\n\n\n Jason Wolfe, qui travaille sur l’alignement chez OpenAI, rappelle que de nombreux experts jugent une \u00ab explosion d’intelligence \u00bb plausible d’ici deux ans <\/span>2<\/sup><\/a><\/span><\/span>. Cette inqui\u00e9tude n’est pas l’apanage d’individus isol\u00e9s. Le mois dernier, Anthropic a publi\u00e9 un rapport sur l’auto-am\u00e9lioration r\u00e9cursive dans lequel l’entreprise estime que des syst\u00e8mes pourraient concevoir et affiner leurs propres successeurs et conclut qu’il serait important que le monde dispose de la possibilit\u00e9 de ralentir ou de suspendre temporairement le d\u00e9veloppement de pointe <\/span>3<\/sup><\/a><\/span><\/span>. La p\u00e9tition est la traduction politique de cette recherche.<\/p>\n\n\n\n Leo Gao, chercheur chez OpenAI, le formule plus cr\u00fbment dans le commentaire joint \u00e0 sa signature : \u00ab Le monde est pris dans une course mortelle vers une explosion de l’intelligence, o\u00f9 la capacit\u00e9 de l’IA \u00e0 cr\u00e9er des IA toujours plus performantes atteint un point critique, comme une r\u00e9action nucl\u00e9aire en cha\u00eene incontr\u00f4lable. Comme aucun acteur n’est dispos\u00e9 \u00e0 s’arr\u00eater seul, nous devons coordonner nos efforts pour ralentir cette course afin de survivre. \u00bb <\/span>4<\/sup><\/a><\/span><\/span><\/p>\n\n\n\n L’IA pourrait contribuer \u00e0 cr\u00e9er un avenir radicalement meilleur, mais ce r\u00e9sultat n’est pas garanti. Les principales entreprises mondiales sp\u00e9cialis\u00e9es dans l’IA estiment qu’elles pourraient \u00eatre sur le point d’automatiser la recherche. Il est difficile de pr\u00e9dire avec exactitude dans quelle mesure cela acc\u00e9l\u00e9rera les progr\u00e8s de l’IA, mais il existe un risque r\u00e9el que le d\u00e9veloppement de ces capacit\u00e9s s’acc\u00e9l\u00e8re rapidement, au-del\u00e0 de notre capacit\u00e9 \u00e0 comprendre ou \u00e0 contr\u00f4ler les syst\u00e8mes qui en r\u00e9sulteront.<\/p>\n\n\n\n Le CEO d\u2019OpenAI Sam Altman a annonc\u00e9 avoir mis en pause l’entra\u00eenement du mod\u00e8le \u00e0 l’origine du hacking<\/em> de Hugging Face, le temps de s\u00e9curiser les sandbox<\/em> \u2014 ces environnements d’ex\u00e9cution isol\u00e9s dans lesquels un syst\u00e8me d’IA peut lancer du code et agir, avec un acc\u00e8s au r\u00e9seau d\u00e9lib\u00e9r\u00e9ment restreint. Pour m\u00e9moire : le 21 juillet, OpenAI a r\u00e9v\u00e9l\u00e9 que GPT-5.6 Sol et un mod\u00e8le non publi\u00e9 se sont \u00e9chapp\u00e9s seuls d’un environnement d’\u00e9valuation, ont gagn\u00e9 l’Internet ouvert et compromis la production de Hugging Face pour voler le corrig\u00e9 du benchmark ExploitGym. Garde-fous cyber volontairement abaiss\u00e9s, faille zero-day dans un proxy de registre de paquets, escalade de privil\u00e8ges. Hugging Face avait d\u00e9tect\u00e9 et stopp\u00e9 l’intrusion de son c\u00f4t\u00e9, sans savoir qui l’avait lanc\u00e9e. Un laboratoire peut donc encore appuyer sur le frein, ponctuellement, chez lui. La p\u00e9tition pose la question suivante : qui peut le faire \u00e0 l’\u00e9chelle de toute l’industrie, et selon quelle proc\u00e9dure ?<\/p>\n\n\n\n Pour que l’IA tienne ses promesses, les entreprises, les \u00c9tats et la soci\u00e9t\u00e9 tout enti\u00e8re devront peut-\u00eatre pouvoir se donner du temps : le temps de faire face aux risques qui \u00e9mergent, de b\u00e2tir des garde-fous, de renforcer les contr\u00f4les. Or la concurrence est telle qu’aucune entreprise \u2014 ni aucun pays \u2014 ne peut se permettre de lever le pied seul.<\/p>\n\n\n\n