![](\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/10\/SIPA_sipausa30573887_000024-125x85.jpg\")
\r\n <\/picture>\r\n \n Jean-No\u00ebl Barrot<\/span>Mesdames et Messieurs les ministres,<\/p>\n\n\n\n Mesdames et Messieurs,<\/p>\n\n\n\n Il y a 60 ans, dans \u00ab 2001, l\u2019Odyss\u00e9e de l\u2019espace \u00bb, Stanley Kubrick imaginait HAL 9000, une intelligence artificielle qui cessait d\u2019ob\u00e9ir \u00e0 ceux qui l\u2019avaient cr\u00e9\u00e9e et qui \u00e9liminait les membres de l\u2019\u00e9quipage du vaisseau spatial dans lequel elle \u00e9tait embarqu\u00e9e pour accomplir sa mission. Longtemps, cette sc\u00e8ne a appartenu \u00e0 la science-fiction.<\/p>\n\n\n\n Mais cet \u00e9t\u00e9, elle est presque devenue une r\u00e9alit\u00e9 quand des mod\u00e8les d\u2019OpenAI ont contourn\u00e9 les contr\u00f4les qui les isolaient d\u2019internet, se sont coordonn\u00e9s entre eux, et ont compromis une partie des infrastructures d\u2019Hugging Face. Dans un autre cas, des agents d\u2019Anthropic ont collabor\u00e9, sans qu\u2019aucun humain ne le leur ai demand\u00e9, et tent\u00e9 d\u2019\u00e9mettre un code malveillant en cr\u00e9ant de fausses identit\u00e9s.<\/p>\n\n\n\n Oui, les changements d\u2019\u00e9chelle des mod\u00e8les d\u2019intelligence artificielle de fronti\u00e8re ont fait \u00e9merger, \u00e0 une vitesse inattendue, des capacit\u00e9s qui n\u2019avaient pas \u00e9t\u00e9 anticip\u00e9es et qui soul\u00e8vent des risquent pour la s\u00e9curit\u00e9 collective.<\/p>\n\n\n\n C\u2019est pourquoi la France a convi\u00e9 cette r\u00e9union du Conseil de s\u00e9curit\u00e9 des Nations unies et convoqu\u00e9 les dirigeants des principales entreprises concern\u00e9es.<\/p>\n\n\n\n La technologie a atteint un niveau de d\u00e9veloppement qui engage d\u00e9sormais la paix et la s\u00e9curit\u00e9 internationales. Elle rel\u00e8ve donc de la comp\u00e9tence de ce Conseil.<\/p>\n\n\n\n Des cohortes d\u2019agents \u00e9chappent \u00e0 la supervision humaine. D\u2019autres d\u00e9passent le cadre dans lequel ils sont test\u00e9s. Avec ces capacit\u00e9s nouvelles appara\u00eet ainsi un premier risque, o\u00f9 nous perdrions le contr\u00f4le des syst\u00e8mes que nous avons cr\u00e9\u00e9s, risque identifi\u00e9 par les orateurs qui viennent de s\u2019exprimer. <\/p>\n\n\n\n Le deuxi\u00e8me risque vient de l\u2019homme lui-m\u00eame. L\u2019intelligence artificielle peut rendre plus accessibles des comp\u00e9tences techniques complexes, souvent \u00e0 double usage, dans les domaines cyber, biologique ou chimique, comme dans celui de la d\u00e9sinformation. <\/p>\n\n\n\n Le troisi\u00e8me risque est li\u00e9 aux armes autonomes capables de recourir \u00e0 la force l\u00e9tale sans aucune forme de contr\u00f4le humain.<\/p>\n\n\n\n Si le d\u00e9veloppement de l\u2019intelligence artificielle dans le domaine militaire peut receler des opportunit\u00e9s positives, comme l\u2019a rappel\u00e9 le Pr\u00e9sident de la R\u00e9publique devant l\u2019Assembl\u00e9e g\u00e9n\u00e9rale hier : \u00ab les enjeux de respect du droit international humanitaire, en particulier, soulev\u00e9s par le d\u00e9veloppement et l\u2019utilisation des syst\u00e8mes d\u2019armes l\u00e9taux autonomes (SALA) illustrent la n\u00e9cessit\u00e9 de s\u2019entendre sur un cadre commun \u00bb. <\/p>\n\n\n\n L\u2019ensemble de ces d\u00e9fis exige que le Conseil de s\u00e9curit\u00e9 des Nations unies se saisisse lui aussi des d\u00e9fis li\u00e9s \u00e0 l\u2019intelligence artificielle pour la paix et la s\u00e9curit\u00e9 internationales.<\/p>\n\n\n\n Ces d\u00e9fis conduisent \u00e9galement \u00e0 la question que pose d\u00e9sormais l\u2019industrie elle-m\u00eame et ses principaux repr\u00e9sentants : comment \u00e9viter que le d\u00e9veloppement des mod\u00e8les les plus avanc\u00e9s ne progresse plus vite que notre capacit\u00e9 \u00e0 comprendre et \u00e0 ma\u00eetriser les risques qu\u2019ils soul\u00e8vent ?<\/p>\n\n\n\n La France est convaincue des immenses possibilit\u00e9s qu\u2019ouvre l\u2019intelligence artificielle. Utilis\u00e9s de mani\u00e8re responsable, les outils d\u2019intelligence artificielle peuvent soutenir l\u2019\u00e9ducation, l\u2019accessibilit\u00e9 au droit, la sant\u00e9, la recherche scientifique, et engendrer des b\u00e9n\u00e9ficies colossaux pour l\u2019humanit\u00e9 toute enti\u00e8re.<\/p>\n\n\n\n Mais pour que ces possibilit\u00e9s se r\u00e9alisent, le progr\u00e8s de ces capacit\u00e9s doit s\u2019accompagner d\u2019un progr\u00e8s \u00e9quivalent dans notre aptitude \u00e0 comprendre, \u00e9valuer, et ma\u00eetriser les risques qu\u2019elles font na\u00eetre. Les deux doivent avancer au m\u00eame rythme.<\/p>\n\n\n\n Il nous faut prendre le temps de mesurer les cons\u00e9quences de la diffusion de l\u2019intelligence artificielle pour la dignit\u00e9 de la personne humaine, principe inscrit au c\u0153ur de la Charte des Nations unies.<\/p>\n\n\n\n Et, de fait, la rapidit\u00e9 des d\u00e9veloppements de la technologie soul\u00e8ve des risques dont nous ne pouvons d\u00e9tourner le regard : <\/p>\n\n\n\n Risque financier. Livr\u00e9e au seul jeu de la main invisible du march\u00e9 et au choc des puissances, avec un recours massif \u00e0 la dette pour financer des investissements gigantesques, la bulle de l\u2019intelligence artificielle pourrait d\u00e9stabiliser gravement l\u2019\u00e9conomie internationale. <\/p>\n\n\n\n Risque social. Comme vous le pr\u00e9cisez dans le rapport du panel scientifique ind\u00e9pendant sur l\u2019intelligence artificielle, Monsieur Bengio, l\u2019intelligence artificielle pourrait impacter profond\u00e9ment le march\u00e9 du travail et aggraver les in\u00e9galit\u00e9s.<\/p>\n\n\n\n Risque environnemental, enfin. Le d\u00e9veloppement de l\u2019intelligence artificielle pr\u00e9l\u00e8ve des ressources \u00e9nerg\u00e9tiques et hydriques croissantes, au d\u00e9triment d\u2019autres usages.<\/p>\n\n\n\n Ne nous trompons pas. Nos concitoyens sont inquiets. Les r\u00e9voltes que suscite d\u00e9j\u00e0 l\u2019installation des centres de donn\u00e9es le d\u00e9montre.<\/p>\n\n\n\n Si nous ignorons l\u2019ensemble des r\u00e9percussions du d\u00e9veloppement de l\u2019intelligence artificielle dans nos soci\u00e9t\u00e9s, la col\u00e8re de nos concitoyens continuera de gronder au risque d\u2019entraver l\u2019adoption, pourtant si positive, de ces technologies. <\/p>\n\n\n\n Mesdames et Messieurs, \u00e0 terme, la communaut\u00e9 internationale devra se doter d\u2019un cadre commun pour ma\u00eetriser les risques li\u00e9s aux mod\u00e8les d\u2019intelligence artificielle de fronti\u00e8re. Nous soutenons l\u2019appel qui a \u00e9t\u00e9 lanc\u00e9 cette semaine par la Norv\u00e8ge et la Finlande.<\/p>\n\n\n\n Nous ne partons pas d\u2019une page blanche. Les nombreux efforts qui se font jour, et les enceintes existantes, doivent nous permettre de r\u00e9pondre \u00e0 quatre grands enjeux :<\/p>\n\n\n\n 1\/ Celui de l\u2019\u00e9valuation ind\u00e9pendante des mod\u00e8les avant leur mise \u00e0 disposition et tout au long du cycle de vie ;<\/p>\n\n\n\n 2\/ Celui de la transparence sur le fonctionnement des mod\u00e8les, mais aussi sur leurs dysfonctionnements, en particulier en cas d\u2019incident ;<\/p>\n\n\n\n 3\/ Celui du contr\u00f4le interne et externe, du fonctionnement des mod\u00e8les, de leur alignement et des conditions de cybers\u00e9curit\u00e9 de l\u2019entra\u00eenement au d\u00e9ploiement ;<\/p>\n\n\n\n 4\/ Celui, enfin, de la responsabilit\u00e9, notamment juridique, des entreprises de l\u2019intelligence artificielle en cas d\u2019incident, y compris dans les phases de d\u00e9veloppement.<\/p>\n\n\n\n On aurait tort de penser que la solution r\u00e9side dans la fermeture des mod\u00e8les et leur contr\u00f4le exclusif par une poign\u00e9e d\u2019entreprise en position de monopole.<\/p>\n\n\n\n L\u2019ouverture des mod\u00e8les constitue un levier essentiel de confiance et de s\u00e9curit\u00e9. Elle permet \u00e0 la communaut\u00e9 scientifique d\u2019en examiner le fonctionnement, d\u2019en identifier les vuln\u00e9rabilit\u00e9s, et assure une plus grande diversit\u00e9 des mod\u00e8les qui est \u00e0 la source de la r\u00e9silience.<\/p>\n\n\n\n En tant que membre permanent du Conseil de s\u00e9curit\u00e9, en tant qu\u2019Etat disposant de la technologie, la France entend prendre toute sa part pour b\u00e2tir un cadre collectif garantissant notre s\u00e9curit\u00e9 tout en b\u00e9n\u00e9ficiant des progr\u00e8s immenses que l\u2019intelligence artificielle peut apporter.<\/p>\n\n\n\n La France a accueilli en 2025 le Sommet pour l\u2019action sur l\u2019Intelligence Artificielle. Elle soutient le r\u00e9seau international des AI Safety Institutes pour associer davantage d\u2019\u00c9tats \u00e0 la d\u00e9finition de m\u00e9thodes communes d\u2019\u00e9valuation. La France a d\u00e9j\u00e0 contribu\u00e9 \u00e0 cr\u00e9er des enceintes de discussion internationales sur le sujet \u00e0 l\u2019image du Partenariat mondial sur l\u2019intelligence artificielle ou encore la coalition sur l\u2019intelligence artificielle durable et la coalition pour les droits et la protection des enfants \u00e0 l\u2019\u00e8re de l\u2019intelligence artificielle, que le Pr\u00e9sident de la R\u00e9publique a r\u00e9unie hier ici-m\u00eame \u00e0 New York, coalition qui se r\u00e9unira \u00e0 nouveau \u00e0 l\u2019occasion du Forum de Paris sur la Paix.<\/p>\n\n\n\n Mesdames et Messieurs, pour conclure, en 1945, l\u2019entr\u00e9e dans l\u2019\u00e2ge atomique a plac\u00e9 l\u2019humanit\u00e9 devant une puissance dont elle d\u00e9couvrait simultan\u00e9ment les possibilit\u00e9s et les p\u00e9rils. Elle a d\u00fb inventer les r\u00e8gles, les institutions et les instruments \u00e0 la mesure de cette puissance. C\u2019est l\u2019Agence internationale pour l\u2019\u00e9nergie atomique, c\u2019est le Trait\u00e9 sur la non-prolif\u00e9ration.<\/p>\n\n\n\n Comme l\u2019atome alors, il revient \u00e0 la communaut\u00e9 internationale de l\u2019encadrer pour tirer le meilleur et conjurer le pire.<\/p>\n\n\n\n Nous sommes aujourd\u2019hui devant un moment de cette nature. Le potentiel de transformation et de disruption de l\u2019intelligence artificielle est tel qu\u2019elle ne peut \u00eatre laiss\u00e9e aux mains de quelques acteurs priv\u00e9s dans quelques pays. C\u2019est un enjeu d\u00e9mocratique qui appartient aux peuples, qui appartient aux Etats.<\/p>\n\n\n\n Alors travaillons ensemble, dans le cadre des Nations unies, et avec les entreprises, pour fixer les r\u00e8gles de ce nouvel \u00e2ge, renforcer sans d\u00e9lai nos garde-fous et organiser une gouvernance mondiale de l\u2019intelligence artificielle, au b\u00e9n\u00e9fice de notre s\u00e9curit\u00e9 collective, mais aussi de la personne humaine et de sa dignit\u00e9.<\/p>\n\n\n\n Je vous remercie.<\/p>\n\n\n\n\n\n Yoshua Bengio<\/span><\/strong>Monsieur le Pr\u00e9sident, Excellences, je remercie la France d’avoir convoqu\u00e9 cette s\u00e9ance.<\/p>\n\n\n\n Je m’adresse \u00e0 vous aujourd’hui, dans une p\u00e9riode d’\u00e9veil international. Ces derniers mois, les agents IA \u00e9labor\u00e9s par les principales entreprises ont agi d’une mani\u00e8re inacceptable, dangereuse, \u00e0 l’encontre de leurs instructions. <\/p>\n\n\n\n Ils ont accompli des actes qui constitueraient des crimes s’ils \u00e9taient commis par des \u00eatres humains. Ils se sont \u00e9chapp\u00e9s de leur confinement individuel pour tricher dans les t\u00e2ches qui leur \u00e9taient assign\u00e9es en essayant d’\u00e9chapper \u00e0 la d\u00e9tection. Ces agents IA non contr\u00f4l\u00e9s ont lanc\u00e9 de mani\u00e8re autonome des cyberattaques coordonn\u00e9es et ont modifi\u00e9 leurs r\u00e9ponses pour cacher le fait qu’ils trichaient. Au contraire, elles disent qu’elles sont engag\u00e9es dans une course pour rendre ces IA encore plus puissantes, ce qui aggrave encore ces risques. <\/p>\n\n\n\n Le Conseil est confront\u00e9 \u00e0 une menace in\u00e9dite, une menace qu’aucun de ses membres n’aurait choisie, qu’aucun ne peut contenir seul et qui ne respecte pas les fronti\u00e8res que nous d\u00e9fendons.<\/p>\n\n\n\n Beaucoup sont sceptiques par rapport aux d\u00e9clarations de ces entreprises et se demandent s’il ne s’agit pas d’une strat\u00e9gie marketing. Je comprends leur m\u00e9fiance, mais je voudrais \u00eatre clair. Ces comportements d’IA sont bien \u00e9tablis et valid\u00e9s par de nombreux experts ind\u00e9pendants, pas seulement s’agissant des \u00e9v\u00e9nements de cet \u00e9t\u00e9. Les dangers sont r\u00e9els et imminents. Bien que l’avenir reste incertain et fasse l’objet de d\u00e9bats, la gravit\u00e9 de ces risques est exceptionnelle.<\/p>\n\n\n\n Les citoyens et les gouvernements ne doivent pas accepter les affirmations de ces entreprises selon lesquelles elles sont prises au pi\u00e8ge d’une course. Cette course n’est pas une loi de la nature, c’est le r\u00e9sultat de choix, des choix faits par ces entreprises elles-m\u00eames. C’est \u00e9galement une course dans laquelle tout le monde est perdant. <\/p>\n\n\n\n ls nous ont dit qu’ils ralentiraient s’ils le pouvaient. Ils peuvent le faire.<\/p>\n\n\n\n Mais nous ne devrions pas compter dessus.<\/p>\n\n\n\n Les d\u00e9cisions concernant cette technologie sont prises par un petit groupe dans une poign\u00e9e de pays. Notre futur, \u00e0 nous tous, notre futur est en jeu. Les d\u00e9cisions qui nous concernent tous devraient \u00eatre prises par nous tous. Nous avons toujours le choix, mais nous devons agir maintenant pour corriger la trajectoire.<\/p>\n\n\n\n Je suis encourag\u00e9 par les d\u00e9clarations de cette semaine du Secr\u00e9taire g\u00e9n\u00e9ral des Nations unies et de dirigeants de nombreux pays qui appellent au contr\u00f4le de l’IA de pointe. La coop\u00e9ration internationale, voil\u00e0 ce dont le monde a besoin face \u00e0 trois menaces mondiales provenant des progr\u00e8s dans ces mod\u00e8les de pointe. Premi\u00e8rement, une mauvaise utilisation catastrophique, par exemple de la part de terroristes. Deuxi\u00e8mement, la concentration du pouvoir. Et troisi\u00e8mement, la perte de contr\u00f4le sur l’intelligence artificielle.<\/p>\n\n\n\n Nous devons collectivement convenir que personne, aucune entreprise, aucun pays ne devrait \u00e9laborer un syst\u00e8me d’IA qui pourrait provoquer des dommages \u00e0 grande \u00e9chelle. Les d\u00e9veloppeurs doivent d\u00e9montrer aux experts ind\u00e9pendants qu’un syst\u00e8me est s\u00fbr \u00e0 entra\u00eener et \u00e0 d\u00e9ployer. Ils doivent surveiller et signaler tous les incidents de s\u00e9curit\u00e9.<\/p>\n\n\n\n L’IA de pointe devrait faire l’objet de licences comme les autres technologies critiques dans la m\u00e9decine, l’aviation ou l’\u00e9nergie nucl\u00e9aire, pour encourager un d\u00e9veloppement s\u00fbr. Comme dans ces domaines, il faut exiger une assurance responsabilit\u00e9 civile. Les entreprises qui d\u00e9veloppent et qui h\u00e9bergent les syst\u00e8mes de pointe doivent prouver au public que leurs produits ne seront pas dangereux.<\/p>\n\n\n\n De plus en plus de personnes sont pr\u00e9occup\u00e9es \u00e0 juste titre face aux r\u00e9cents progr\u00e8s en mati\u00e8re d’IA. Nous devons transformer ces pr\u00e9occupations en actions productives. Tout comme avec d’autres technologies qui ont le pouvoir de changer le monde, nous pouvons en fa\u00e7onner l’issue. Je suis certain que nous pouvons cr\u00e9er une IA qui pourra d\u00e9montrer qu’elle reste sous notre contr\u00f4le et qui soit au service de la joie et des entreprises humaines. J’\u0153uvre \u00e0 cet objectif. C’est une mission urgente pour l’humanit\u00e9.<\/p>\n\n\n\n Aujourd’hui, un tout petit nombre d’entreprises et de pays agissent au nom de leurs int\u00e9r\u00eats \u00e9go\u00efstes en prenant des risques irresponsables concernant le destin de l’humanit\u00e9. C’est alarmant, oui, mais ce n’est pas in\u00e9vitable. Il y a des mani\u00e8res d’y rem\u00e9dier.<\/p>\n\n\n\n Premi\u00e8rement, il faut avoir une v\u00e9ritable ind\u00e9pendance scientifique par rapport \u00e0 ces entreprises qui doivent rendre des comptes. Cela inclut des d\u00e9finitions communes des incidents li\u00e9s \u00e0 l’IA et un m\u00e9canisme de signalement commun. Deuxi\u00e8mement, nous devons passer de la concentration du pouvoir \u00e0 un v\u00e9ritable dialogue mondial sur la mani\u00e8re dont cette technologie est d\u00e9velopp\u00e9e pour le bien public. Troisi\u00e8mement, nous devons \u0153uvrer ensemble \u00e0 des solutions techniques qui rendent l’IA s\u00fbre d\u00e8s la conception, ce qui doit \u00eatre garanti par des accords internationaux.<\/p>\n\n\n\n Je sais que la confiance au sein de ce Conseil est fragile, mais je sais \u00e9galement ceci : cette course au d\u00e9veloppement menace chaque pays. Souvent, pour d\u00e9crire notre situation, je parle d’une voiture qui fonce \u00e0 toute allure dans un brouillard \u00e9pais. \u00c0 c\u00f4t\u00e9 de moi, dans cette voiture, il y a mes enfants et mon petit-fils. Je m’inqui\u00e8te pour eux. Je m’inqui\u00e8te pour leur avenir. Je suis exactement comme n’importe quel autre parent ou grand-parent.<\/p>\n\n\n\n Une m\u00e8re \u00e0 Shanghai veut que ses fils grandissent dans un monde o\u00f9 l’IA am\u00e9liore leur vie, et non dans un monde o\u00f9 elle la menace. Un p\u00e8re \u00e0 Chicago veut que ses filles s’\u00e9panouissent gr\u00e2ce \u00e0 l’IA, pas qu’elles en souffrent. Nos espoirs, nos pr\u00e9occupations sont les m\u00eames dans chaque pays.<\/p>\n\n\n\n L’humanit\u00e9 a fait preuve de courage et de sagesse pour g\u00e9rer des risques catastrophiques par le pass\u00e9. Nous sommes face \u00e0 l’un de ces moments. C’est bien plus important que tout int\u00e9r\u00eat personnel, commercial ou national. Je vous remercie.<\/p>\n\n\n\n\n\n Sam Altman<\/span><\/strong>Merci, Monsieur le Pr\u00e9sident, Excellences. C’est un honneur pour moi d’\u00eatre ici et de pouvoir vous parler \u00e0 vous tous en ce moment si important. Nous parlons d’intelligence artificielle depuis des ann\u00e9es, mais ces derni\u00e8res semaines, ces derniers mois, les choses paraissent diff\u00e9rentes : les progr\u00e8s rapides des mod\u00e8les ont resserr\u00e9 le calendrier, les b\u00e9n\u00e9fices sont plus tangibles, mais les risques sont plus imm\u00e9diats, les enjeux \u00e9galement.<\/p>\n\n\n\n Nous avons un choix. L’IA peut \u00eatre soit comme une nouvelle renaissance de cr\u00e9ativit\u00e9 ou de d\u00e9couverte, soit comme une nouvelle r\u00e9volution industrielle de troubles, de perturbations. \u00c0 la Renaissance, de nouveaux outils, de nouvelles id\u00e9es et de nouvelles institutions ont \u00e9largi ce que les personnes pensaient possible. L’IA peut jouer ce r\u00f4le \u00e0 notre \u00e9poque.<\/p>\n\n\n\n Je pense que les gens sont bien plus capables qu\u2019ils ne pensent l’\u00eatre, mais ils ont \u00e9t\u00e9 retenus par des technologies limit\u00e9es qui devaient leur donner du pouvoir, mais qui en fait souvent d\u00e9tournent leur attention, volent leur temps. La meilleure version de l’IA, ce n\u2019est pas de transformer les gens en rouages d\u2019une machine, ou d\u2019optimiser chaque aspect de la vie jusqu\u2019\u00e0 ce que l\u2019humain disparaisse. Il s\u2019agit de rendre les personnes davantage capables d’agir dans un monde toujours plus complexe. Plus de capacit\u00e9s pour apprendre, cr\u00e9er, d\u00e9couvrir, construire, participer. Il y a de nombreuses choses que l’IA ne peut pas automatiser et ne doit pas automatiser. L’IA doit \u00eatre construite pour les gens, pas simplement pour faire tourner plus vite la manivelle des machines pour le simple plaisir de le faire.<\/p>\n\n\n\n Certaines des choses que les constructeurs de l’IA ont dites sont tellement dystopiques qu’on dirait le sc\u00e9nario d’un mauvais film de science-fiction. Toute chose qui est puissante est \u00e9galement intimidante. Cette p\u00e9riode est compliqu\u00e9e car nous voyons qu’il y a un immense potentiel, mais nous sommes aussi tr\u00e8s anxieux.<\/p>\n\n\n\n Ces mod\u00e8les peuvent aider les personnes \u00e0 d\u00e9couvrir de nouvelles connaissances, de nouveaux m\u00e9dicaments, de meilleurs soins, une meilleure \u00e9ducation, et \u00e0 construire des \u00e9conomies plus productives. Ils peuvent \u00eatre de nouveaux outils pour poursuivre des r\u00eaves et des ambitions qui nous paraissent hors de port\u00e9e aujourd’hui. La complexit\u00e9 de la vie a tellement augment\u00e9 pour la personne moyenne. L’IA peut \u00eatre un outil d\u00e9fensif contre cette complexit\u00e9, autant qu’elle peut \u00eatre un outil de d\u00e9couverte et d’innovation sans pr\u00e9c\u00e9dent.<\/p>\n\n\n\n Mais d’un autre c\u00f4t\u00e9, \u00e0 mesure que les syst\u00e8mes d’IA deviennent plus performants et plus autonomes, ils peuvent aller plus vite que nos institutions, concentrer le pouvoir dans trop peu de mains ou prendre des d\u00e9cisions que les personnes ne comprennent plus ou ne contr\u00f4lent plus. Cette pr\u00e9occupation devient particuli\u00e8rement importante alors que nous nous approchons de syst\u00e8mes qui peuvent s’auto-am\u00e9liorer et am\u00e9liorer de futures versions d’eux-m\u00eames, ce qu’on appelle souvent l’auto-am\u00e9lioration r\u00e9cursive. \u00c0 mesure que le processus de construction de l’IA devient plus automatis\u00e9, le rythme des progr\u00e8s de l’IA pourrait s’acc\u00e9l\u00e9rer rapidement. Ce moment exige une extr\u00eame prudence.<\/p>\n\n\n\n Je suis largement d’accord avec ce que dit le professeur Bengio, mais j’en compte deux plut\u00f4t que trois : il y a deux mani\u00e8res dont les progr\u00e8s de l’IA peuvent mal tourner et que nous devons \u00e9viter. Premi\u00e8rement, nous pourrions perdre le contr\u00f4le de l’avenir au profit de l’IA. Le risque, c’est que l’IA \u00e9volue si rapidement que les personnes ne puissent plus suivre ce qui se passe ni intervenir quand c’est n\u00e9cessaire. Clairement, ce serait horrible.<\/p>\n\n\n\n Le secteur ne doit pas accepter trop de risques technologiques, simplement parce que les avantages sont immenses et qu’ils se croient trop importants pour ralentir. Battre des concurrents n’est pas un pr\u00e9texte pour prendre des d\u00e9cisions irresponsables. Nous avons ralenti de mani\u00e8re unilat\u00e9rale par le pass\u00e9, nous le ferons \u00e9galement \u00e0 l’avenir. Il faut absolument que tout le monde \u00e9vite de construire des syst\u00e8mes dont on ne peut pas garantir l’alignement, la surveillance et les garanties de s\u00e9curit\u00e9 auxquelles nous devons veiller. Il faut comprendre ce que font les syst\u00e8mes et avoir des preuves solides qu’ils feront ce que les gens ont l\u2019intention de faire, m\u00eame s\u2019ils deviennent tr\u00e8s intelligents, en fait, surtout quand ils deviendront tr\u00e8s intelligents.<\/p>\n\n\n\n Peu importe si les personnes consid\u00e8rent que le risque de catastrophe est de 10 %, 1 %, 12 % ou 0,1 %. Aucun de ces niveaux n’est acceptable. Nous ne devrions pas entra\u00eener des mod\u00e8les dont nous ne pouvons pas prouver qu’ils pourront rester sous contr\u00f4le humain. Donc voil\u00e0 une mani\u00e8re dont les choses pourraient mal tourner.<\/p>\n\n\n\n Or, par ailleurs, ces syst\u00e8mes pourraient concentrer trop de pouvoir dans trop peu de mains. Aucune personne, aucune entreprise, aucun pays ne devrait pouvoir utiliser les mod\u00e8les d’IA les plus puissants pour imposer sa vision du monde aux autres. Une entreprise ou un pays qui croit \u00eatre le seul digne de confiance avec cette technologie peut utiliser cette conviction pour justifier pratiquement tout. Nous devons rejeter cette logique, m\u00eame quand c’est pratique pour tel ou tel acteur.<\/p>\n\n\n\n Je pense qu’il y a une voie pragmatique qui tienne compte de ces deux aspects. Chez OpenAI, nous abordons ces questions avec un objectif clair. L’IA doit donner davantage de pouvoir aux personnes sur leur vie, pour vivre leur vie comme elles le veulent. Plus de capacit\u00e9s pour r\u00e9gler les probl\u00e8mes \u2013 petits ou grands \u2013, et pour am\u00e9liorer leurs communaut\u00e9s. Nous ne voulons pas tomber dans le pi\u00e8ge de l’optimisme b\u00e9at, mais pas non plus dans le catastrophisme. Se laisser entra\u00eener vers l\u2019un ou l\u2019autre de ces extr\u00eames ne nous aidera pas \u00e0 relever avec succ\u00e8s les d\u00e9fis qui se pr\u00e9sentent \u00e0 nous, surtout \u00e0 un moment o\u00f9 le monde et la population sont confront\u00e9s \u00e0 d’immenses d\u00e9fis que ces technologies pourraient aider \u00e0 r\u00e9gler. Donc, nous essayons de trouver une voie m\u00e9diane entre ces deux extr\u00eames.<\/p>\n\n\n\n Pour nous, cela signifie trois principes. Premi\u00e8rement, \u00e0 mesure que l’IA devient plus performante, les personnes doivent rester au c\u0153ur de la prise de d\u00e9cision sur l’IA. L’alignement n’est pas une question de recherche abstraite. Il s’agit de faire en sorte que ces syst\u00e8mes restent sous contr\u00f4le humain, refl\u00e8tent les valeurs humaines et aident les personnes \u00e0 orienter la prochaine \u00e9tape du d\u00e9veloppement. Nous n’essayons pas, nous ne devons pas automatiser le jugement humain et les valeurs humaines.<\/p>\n\n\n\n Deuxi\u00e8mement, les avantages des progr\u00e8s scientifiques et de la croissance \u00e9conomique doivent \u00eatre par les gens et pour les gens. L’IA doit aider les chercheurs \u00e0 faire des d\u00e9couvertes, les m\u00e9decins \u00e0 soigner, les enseignants \u00e0 enseigner, les entrepreneurs \u00e0 cr\u00e9er une entreprise. Les communaut\u00e9s r\u00e9solvent des probl\u00e8mes qui semblaient insurmontables, et bien plus encore. L’histoire du progr\u00e8s humain, ce n’est pas que les outils remplacent les humains, c’est que les bons outils rendent les personnes plus capables d’agir. Et je pense que cela ira bien plus loin que nous ne le pensons possible.<\/p>\n\n\n\n Troisi\u00e8mement, cette technologie doit donner du pouvoir aux individus. L’avenir sera radieux si les personnes r\u00e9alisent leur potentiel et cr\u00e9ent de la valeur pour elles-m\u00eames, leur communaut\u00e9, leur pays et le monde. Nous sommes peut-\u00eatre l’un des constructeurs de cette technologie, mais nous ne sommes pas les h\u00e9ros de cette histoire. Notre r\u00f4le, c’est de permettre aux gens du monde entier d’agir, et d’avoir confiance dans la magie des comp\u00e9tences et des facult\u00e9s de l\u2019humanit\u00e9.<\/p>\n\n\n\n Nous avons maintenant des mod\u00e8les qui sont capables de d\u00e9couvrir des connaissances dont nous ne disposions pas auparavant. Prenons les progr\u00e8s dans les math\u00e9matiques. Il y a trois \u00e9t\u00e9s, nos mod\u00e8les \u00e9taient corrects en maths de niveau primaire. Il y a deux \u00e9t\u00e9s, ils \u00e9taient assez bons aux comp\u00e9titions de maths du lyc\u00e9e. L’\u00e9t\u00e9 dernier, nous avons eu une m\u00e9daille d’or dans la comp\u00e9tition math\u00e9matique la plus prestigieuse. Et, il y a quelques semaines, cet \u00e9t\u00e9, notre mod\u00e8le a r\u00e9solu l’un des probl\u00e8mes du prix du mill\u00e9naire, les \u00e9quations de Navier-Stokes. Ces \u00e9quations sont utilis\u00e9es notamment pour la conception d’avions, les pr\u00e9visions m\u00e9t\u00e9orologiques et l’\u00e9tude de la circulation sanguine. Nous ne r\u00e9solvons pas des probl\u00e8mes math\u00e9matiques pour eux-m\u00eames, mais pour permettre aux gens de d\u00e9couvrir de nouvelles connaissances et pour les utiliser afin d\u2019am\u00e9liorer les soins de sant\u00e9, am\u00e9liorer le niveau de vie et renforcer le potentiel de chacun de par le monde. Il reste tant \u00e0 d\u00e9couvrir.<\/p>\n\n\n\n Mais il est tr\u00e8s important que les entreprises ne remplacent pas le processus d\u00e9mocratique. Pour que l’IA soit d\u00e9mocratique, les d\u00e9cisions les plus importantes ne doivent pas \u00eatre prises seulement par les laboratoires de San Francisco. Elles doivent \u00eatre d\u00e9finies par les processus d\u00e9mocratiques et par des gouvernements responsables devant la population qu\u2019ils servent.<\/p>\n\n\n\n Au niveau international, il faudra de la coop\u00e9ration. Dans notre histoire, il y a eu des moments o\u00f9 les pays en concurrence, et qui ne s’appr\u00e9cient pas toujours beaucoup, sont malgr\u00e9 tout parvenus \u00e0 se mettre d’accord pour d\u00e9fendre leurs int\u00e9r\u00eats communs et le bien collectif face \u00e0 une nouvelle technologie tr\u00e8s puissante. C’est ce qu’il faut faire maintenant.<\/p>\n\n\n\n Il nous faut un m\u00e9canisme pour des normes d’IA de pointe, nationales et internationales. Des normes pour mesurer les capacit\u00e9s, \u00e9valuer les risques, savoir si les garde-fous sont suffisants et pr\u00e9server un v\u00e9ritable contr\u00f4le humain \u00e0 mesure que les syst\u00e8mes deviennent plus autonomes. Il nous faut des normes communes afin que les pays puissent comparer leurs donn\u00e9es, v\u00e9rifier le respect des r\u00e8gles et avoir la m\u00eame d\u00e9finition de ce qui se passe. Il nous faut des protocoles rapides et pr\u00e9cis de classification et de signalement des incidents, afin que le monde puisse apprendre des \u00e9checs avant qu’ils ne se transforment en catastrophes. Il nous faut des canaux s\u00e9curis\u00e9s entre les gouvernements, les op\u00e9rateurs d’infrastructures critiques et les experts techniques pour communiquer sur les vuln\u00e9rabilit\u00e9s \u00e9mergentes et les nouvelles menaces.<\/p>\n\n\n\n Bien s\u00fbr, ces normes ne devraient pas favoriser les acteurs en place ou privil\u00e9gier tel ou tel mod\u00e8le. Elles doivent soutenir les d\u00e9veloppeurs de mod\u00e8les ouverts comme ferm\u00e9s, les nouveaux entrants comme les laboratoires \u00e9tablis, l’autorit\u00e9 nationale comme la coop\u00e9ration internationale. Chaque gouvernement doit d\u00e9cider comment int\u00e9grer les normes dans son syst\u00e8me juridique. Mais nous gagnerions \u00e0 nous mettre d’accord sur ce que sont la bonne gouvernance et les bons garde-fous \u00e0 l’\u00e9chelle internationale.<\/p>\n\n\n\n Nous n’avons pas toutes les r\u00e9ponses. Nous sommes ouverts \u00e0 toutes les meilleures id\u00e9es et nous sommes pr\u00eats \u00e0 travailler avec vous tous pour faire de notre mieux pour tracer le cap pour l’avenir.<\/p>\n\n\n\n Nous sommes \u00e0 la crois\u00e9e des chemins. Une voie m\u00e8ne vers un monde o\u00f9 le pouvoir est concentr\u00e9, les d\u00e9cisions sont opaques et o\u00f9 les personnes ont l’impression que la technologie la plus importante de leur vie, c’est quelque chose qu’on leur impose. L’autre voie m\u00e8ne \u00e0 un monde o\u00f9 l’IA travaille pour la population, parce que ce sont les gens, gr\u00e2ce aux institutions d\u00e9mocratiques, qui aident \u00e0 d\u00e9cider comment l’IA doit \u00eatre d\u00e9velopp\u00e9e, o\u00f9 le progr\u00e8s scientifique am\u00e9liore la vie dans le monde r\u00e9el, o\u00f9 davantage de personnes peuvent participer \u00e0 l’avenir, o\u00f9 cette technologie continue \u00e0 donner aux individus et aux communaut\u00e9s davantage de pouvoir pour vivre leur vie comme ils le veulent. C’est un avenir fait de potentiel r\u00e9alis\u00e9, d\u2019enthousiasme et d\u2019\u00e9merveillement. Et c’est l’avenir qui, selon nous, m\u00e9rite d’\u00eatre construit. Merci beaucoup.<\/p>\n\n\n\n\n\n Dario Amodei<\/span><\/strong>Bonjour. Permettez-moi de remercier la France d’avoir organis\u00e9 cette r\u00e9union, ainsi que les membres du Conseil de m’avoir invit\u00e9 \u00e0 m\u2019exprimer.<\/p>\n\n\n\n L’IA progresse tr\u00e8s rapidement. Il y a quatre ans, elle pouvait difficilement \u00e9crire une ligne de code ou r\u00e9soudre un probl\u00e8me de maths du lyc\u00e9e. Aujourd’hui, elle \u00e9crit la majeure partie du code d’Anthropic et r\u00e9sout des probl\u00e8mes de maths c\u00e9l\u00e8bres rest\u00e9s sans solution. Il suffit que cette trajectoire se poursuive encore un tout petit peu plus longtemps, dans un ou deux ans, peut-\u00eatre moins, pour parvenir \u00e0 ce que j’appelle un \u00ab pays de g\u00e9nies dans un centre de donn\u00e9es \u00bb. Ce rythme rapide de progr\u00e8s produira des avantages remarquables pour le monde entier.<\/p>\n\n\n\n Rien qu’aujourd’hui, Anthropic a annonc\u00e9 la d\u00e9couverte, men\u00e9e par Claude, d’une nouvelle machine mol\u00e9culaire. C’est une conclusion pr\u00e9liminaire, mais qui pourrait repr\u00e9senter un nouveau m\u00e9canisme d’\u00e9dition g\u00e9n\u00e9tique qui pourrait avoir des applications en th\u00e9rapie g\u00e9nique. Claude a dirig\u00e9 l\u2019analyse documentaire, l’\u00e9laboration du cadre th\u00e9orique et la conception des exp\u00e9riences, et des humains ont r\u00e9alis\u00e9 et v\u00e9rifi\u00e9 les exp\u00e9riences en laboratoire. Nous pensons que ce type d’application s’acc\u00e9l\u00e9rera rapidement dans les ann\u00e9es \u00e0 venir et nous pourrons faire d’immenses progr\u00e8s dans un avenir proche sur des maladies dont souffre l’humanit\u00e9 depuis des mill\u00e9naires.<\/p>\n\n\n\n Mais ces capacit\u00e9s remarquables s’accompagnent \u00e9galement de risques qu’il faut g\u00e9rer. Je vois deux principales cat\u00e9gories de risques. Premi\u00e8rement, la mauvaise utilisation des mod\u00e8les de l’IA, par exemple la mauvaise utilisation par des bioterroristes pour cr\u00e9er des armes biologiques. Le deuxi\u00e8me risque est la perte de contr\u00f4le : les capacit\u00e9s des mod\u00e8les s’acc\u00e9l\u00e8rent au-del\u00e0 de la capacit\u00e9 des d\u00e9veloppeurs \u00e0 les contr\u00f4ler.<\/p>\n\n\n\n Ces questions sont de port\u00e9e mondiale et concernent toute l’humanit\u00e9. Elles sont suffisamment graves pour \u00eatre des questions importantes pour le Conseil, et pas seulement pour les minist\u00e8res de l’\u00e9conomie ou charg\u00e9s des technologies de l\u2019information et de la communication. Si ce n\u2019est pas bien g\u00e9r\u00e9, je pense m\u00eame que l’IA pourrait repr\u00e9senter un risque pour l’ensemble de l’humanit\u00e9.<\/p>\n\n\n\n Chez Anthropic, nous pensons que nous avons les meilleurs ant\u00e9c\u00e9dents du secteur pour pr\u00e9venir ces risques, sur le plan op\u00e9rationnel comme dans notre recherche. Nous testons chaque mod\u00e8le pour rechercher des capacit\u00e9s dangereuses dans des domaines comme la cybers\u00e9curit\u00e9 ou la biologie. Nous mettons en place d’importants garde-fous sur nos mod\u00e8les les plus performants et nous publions nos travaux dans ces domaines. Nous avons \u00e9t\u00e9 les pionniers de la recherche dans des domaines comme l’interpr\u00e9tabilit\u00e9 m\u00e9canistique et la science de l’alignement, qui am\u00e9liorent notre capacit\u00e9 \u00e0 contr\u00f4ler nos mod\u00e8les. Nous avons \u00e9galement des pratiques de transparence sans \u00e9gal. Nous publions des rapports sur les risques qui font des centaines de pages, mais nous comprenons que, \u00e0 mesure que les mod\u00e8les IA deviennent plus puissants, il faudra des normes de s\u00e9curit\u00e9 encore plus strictes.<\/p>\n\n\n\n Et nous visons toujours \u00e0 am\u00e9liorer nos pratiques en termes de s\u00e9curit\u00e9 et d’alignement, notre capacit\u00e9 \u00e0 pr\u00e9venir les mauvaises utilisations, nous essayons toujours de faire mieux. Nous ralentirons autant que n\u00e9cessaire pour faire en sorte que chaque nouvelle technologie d’IA que nous d\u00e9ployons soit v\u00e9ritablement s\u00fbre. Mais quoi que nous fassions, g\u00e9rer ces risques d\u00e9passe en d\u00e9finitive n’importe quelle entreprise : c’est un enjeu \u00e0 l’\u00e9chelle de tout le secteur et du monde.<\/p>\n\n\n\n Le 12 septembre, j’ai appel\u00e9 \u00e0 un effort coop\u00e9ratif pour r\u00e9guler le rythme de la fronti\u00e8re technologique, non pour stopper les progr\u00e8s de l’IA, mais pour \u0153uvrer ensemble afin de faire en sorte que le secteur et le monde puissent progresser \u00e0 un rythme qui nous permettra d’\u00eatre s\u00fbrs que la s\u00fbret\u00e9 suive le rythme des capacit\u00e9s pour tous les acteurs du secteur. Cet appel avait trois parties. Premi\u00e8rement, nous nous sommes engag\u00e9s \u00e0 int\u00e9grer des \u00e9valuateurs ext\u00e9rieurs au sein d’Anthropic, avec un acc\u00e8s comparable \u00e0 celui des employ\u00e9s, un peu comme des inspecteurs sanitaires. Nous avons recommand\u00e9 aux autres entreprises du monde entier de faire de m\u00eame. Certaines ont d\u00e9j\u00e0 accept\u00e9 d’adopter cette mesure. Deuxi\u00e8mement, nous avons appel\u00e9 \u00e0 la coop\u00e9ration dans l’ensemble du secteur pour fixer les normes et moduler le rythme du progr\u00e8s. Et enfin, nous avons appel\u00e9 \u00e0 une coop\u00e9ration mondiale entre les gouvernements pour fixer des normes internationales.<\/p>\n\n\n\n C’est ce dernier domaine qui rel\u00e8ve le plus clairement des comp\u00e9tences du Conseil. Je voudrais vous proposer trois id\u00e9es \u00e0 cet \u00e9gard. Premi\u00e8rement, nous devrions commencer par des accords restreints que chaque membre pourrait soutenir. Par exemple, l’interdiction d’utiliser l’IA pour produire des armes biologiques ou d’autoriser l’utilisation de ces technologies d’IA pour produire des armes biologiques. Deuxi\u00e8mement, nous devrions cr\u00e9er des syst\u00e8mes d’\u00e9valuation et de v\u00e9rification qui suivent le rythme du d\u00e9veloppement de l’IA afin que les \u00c9tats aient une visibilit\u00e9 sur les capacit\u00e9s des mod\u00e8les de pointe et puissent v\u00e9rifier les engagements des autres. Troisi\u00e8mement, nous devrions \u00e9tablir des normes mondiales communes pour tester les mod\u00e8les d’IA, pour d\u00e9tecter les risques de perte de contr\u00f4le et de mauvaise utilisation, ainsi qu’un syst\u00e8me de notification pour les incidents d’IA importants pour la s\u00e9curit\u00e9 internationale.<\/p>\n\n\n\n Je pense que c’est la question de s\u00e9curit\u00e9 internationale la plus importante \u00e0 laquelle est confront\u00e9 le monde aujourd’hui. Malgr\u00e9 toutes les diff\u00e9rences entre les personnes dans cette salle, nous devons les mettre de c\u00f4t\u00e9 pour faire face \u00e0 cette chance mondiale et \u00e0 cette menace mondiale qui se pr\u00e9sente \u00e0 nous en m\u00eame temps. Aucun dirigeant, aucune entreprise, aucun pays ne peut g\u00e9rer cela seul. Nous nous engageons \u00e0 \u0153uvrer avec les gouvernements pr\u00e9sents dans cette salle \u00e0 cette t\u00e2che urgente. Je vous remercie de votre attention.<\/p>\n\n\n\n\n\n Cl\u00e9ment Delangue<\/span><\/strong>Monsieur le Pr\u00e9sident, Mesdames et Messieurs les membres du Conseil, merci. Je suis citoyen fran\u00e7ais qui a d\u00e9m\u00e9nag\u00e9 aux \u00c9tats-Unis il y a quinze ans, cofondateur et directeur g\u00e9n\u00e9ral de Hugging Face, devenue l’une des plateformes les plus utilis\u00e9es par les d\u00e9veloppeurs et les agents, construite sur des mod\u00e8les open source. <\/p>\n\n\n\n En juillet dernier, nous avons \u00e9t\u00e9 la premi\u00e8re entreprise \u00e0 r\u00e9v\u00e9ler publiquement une cyberattaque men\u00e9e par un agent autonome. Aujourd’hui, je souhaite en partager trois enseignements essentiels. Premi\u00e8rement, nous pouvons tous convenir que nous avons besoin de davantage de transparence dans l’IA. Je me demande souvent ce qui se serait pass\u00e9 si nous avions d\u00e9cid\u00e9 de ne pas r\u00e9v\u00e9ler publiquement cette attaque, d’autant que nous savons d\u00e9sormais que des incidents similaires s’\u00e9taient produits des mois plus t\u00f4t, en secret, dans une poign\u00e9e de laboratoires de pointe, sans aucune surveillance. <\/p>\n\n\n\n Pour mieux comprendre et att\u00e9nuer ces nouveaux risques en mati\u00e8re de cybers\u00e9curit\u00e9, la communaut\u00e9 internationale a besoin de normes plus strictes de surveillance et de signalement des incidents, par exemple gr\u00e2ce au partage obligatoire de l’int\u00e9gralit\u00e9 des traces d’ex\u00e9cution des agents. Nous avons appris cet \u00e9t\u00e9 que concevoir et maintenir certains de ces syst\u00e8mes \u00e0 huis clos n’est pas la solution. Lorsque notre \u00e9quipe s’est d’abord tourn\u00e9e vers les API ferm\u00e9es des mod\u00e8les de pointe, celles-ci nous ont bloqu\u00e9s : nous ne pouvions pas les utiliser en raison de garde-fous qui ne savent toujours pas distinguer les attaquants des d\u00e9fenseurs. J’ai compris que ces garde-fous partent d’une bonne intention, mais qu’ils peuvent d\u00e9savantager les d\u00e9fenseurs, alors que les attaquants les contournent facilement, ce qui accro\u00eet l’asym\u00e9trie des capacit\u00e9s. Dans notre cas, bloqu\u00e9s par ces garde-fous, nous avons heureusement pu utiliser la version NVIDIA d’un mod\u00e8le open source chinois, GLM 5.2 de Z.ai, et nous en sommes tr\u00e8s reconnaissants. Cela a renforc\u00e9 notre conviction que l’IA open source est essentielle pour les d\u00e9fenseurs.<\/p>\n\n\n\n Les cyberattaques et les risques pourraient de plus en plus provenir de mod\u00e8les propri\u00e9taires d\u00e9velopp\u00e9s \u00e0 huis clos, tandis qu’une grande partie de la d\u00e9fense pourrait reposer sur des outils open source, parce qu’ils sont moins restreints, plus respectueux de la vie priv\u00e9e et beaucoup moins co\u00fbteux pour les organisations du monde entier. Le monde a plus que jamais besoin de l’IA open source pour se d\u00e9fendre. Cela vaut \u00e9videmment non seulement pour la cybers\u00e9curit\u00e9, mais pour l’IA en g\u00e9n\u00e9ral : il n’a jamais \u00e9t\u00e9 aussi n\u00e9cessaire de r\u00e9partir les capacit\u00e9s, les ressources et le contr\u00f4le plut\u00f4t que de les concentrer entre les mains de quelques-uns.<\/p>\n\n\n\n Troisi\u00e8mement, lors de cette cyberattaque, nous avons appris \u00e0 quel point l’IA peut susciter la peur dans l’opinion, notamment \u00e0 travers une pr\u00e9sentation anthropomorphique et un imaginaire de science-fiction. Nous sommes convaincus que les discours fond\u00e9s sur la peur ne permettent ni de prendre les bonnes d\u00e9cisions sur l’avenir d’une technologie aussi fondamentale et \u00e9mancipatrice, ni d’emporter l’adh\u00e9sion du public.<\/p>\n\n\n\n Bien que nous ayons \u00e9t\u00e9 victimes de cette cyberattaque, nous sommes plus convaincus que jamais que l’IA sera b\u00e9n\u00e9fique pour la cybers\u00e9curit\u00e9 et rendra le monde plus s\u00fbr, comme les grandes technologies qui l’ont pr\u00e9c\u00e9d\u00e9e. Nous avons \u00e9t\u00e9 attaqu\u00e9s par l’IA, mais surtout, nous nous sommes d\u00e9fendus gr\u00e2ce \u00e0 l’IA. Les syst\u00e8mes qui nous ont aid\u00e9s pendant cette attaque nous aident d\u00e9sormais face aux cyberattaques que nous subissons d\u00e9j\u00e0. Ils nous aident aussi \u00e0 corriger les bogues et les failles de nos syst\u00e8mes avant toute attaque, de la m\u00eame mani\u00e8re que l’IA aide OpenAI \u00e0 corriger ses environnements isol\u00e9s pour \u00e9viter de nouvelles \u00e9vasions. L’IA ne cr\u00e9e pas seulement de nouveaux d\u00e9fis en mati\u00e8re de cybers\u00e9curit\u00e9 : elle peut rendre la cybers\u00e9curit\u00e9 fondamentalement et r\u00e9ellement plus solide si nous maintenons les bonnes incitations, si nous \u00e9quipons les d\u00e9fenseurs davantage que les attaquants et si nous n’accroissons pas l’asym\u00e9trie entre eux. Et c’est sans compter l’impact positif de l’IA sur la science, la sant\u00e9, l’\u00e9ducation, la productivit\u00e9 et bien d’autres domaines \u00e9voqu\u00e9s par les intervenants pr\u00e9c\u00e9dents.<\/p>\n\n\n\n Pour conclure, je tiens \u00e0 rappeler ce que nous a appris cette premi\u00e8re cyberattaque men\u00e9e par des agents : la n\u00e9cessit\u00e9 de davantage de transparence dans l’IA, et de davantage d’open source pour lutter contre l’asym\u00e9trie et donner des moyens d’agir aux pays, grands et petits. Je remercie encore le Conseil de s\u00e9curit\u00e9 des Nations unies et M. Barrot de m’avoir invit\u00e9 \u00e0 prendre la parole aujourd’hui. La communaut\u00e9 Hugging Face et moi-m\u00eame sommes \u00e0 votre disposition. Merci beaucoup.<\/p>\n","protected":false},"excerpt":{"rendered":" Le ministre fran\u00e7ais des Affaires \u00e9trang\u00e8res revient sur une s\u00e9quence in\u00e9dite au Conseil de s\u00e9curit\u00e9<\/p>\n","protected":false},"author":61106,"featured_media":367289,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"templates\/post-speeches.php","format":"standard","meta":{"_acf_changed":true,"_trash_the_other_posts":false,"_yoast_wpseo_estimated-reading-time-minutes":35,"_lgc_tts_voice":"","_lgc_tts_publish":false,"_lgc_tts_history_item_id":"","_lgc_tts_generated_at":"","_lgc_tts_status":"","_lgc_tts_error":"","footnotes":""},"categories":[3412],"tags":[],"staff":[4657],"editorial_format":[4943],"serie":[],"audience":[],"geo":[2163],"class_list":["post-367269","post","type-post","status-publish","format-standard","hentry","category-puissances-de-lia","staff-jean-noel-barrot","editorial_format-discours","geo-monde"],"acf":{"open_in_webview":false,"accent":"default","incipit":"Pour la premi\u00e8re fois il y a un mois, le Conseil de s\u00e9curit\u00e9 des Nations unies a convoqu\u00e9 les ma\u00eetres d\u2019OpenAI et d\u2019Anthropic.\r\n\r\nLe ministre des Affaires \u00e9trang\u00e8res fran\u00e7ais \u00e0 l\u2019origine de cette initiative, revient sur une s\u00e9quence in\u00e9dite qui \u00abmarque la premi\u00e8re \u00e9tape d\u2019un effort international de r\u00e9gulation qui prendra du temps, mais qui, \u00e9crit-il, est irr\u00e9versible\u00bb.","_cover_id":367289,"speaker_name":"Jean-No\u00ebl Barrot","_thumbnail_id":367289,"excerpt":"Le ministre fran\u00e7ais des Affaires \u00e9trang\u00e8res revient sur une s\u00e9quence in\u00e9dite au Conseil de s\u00e9curit\u00e9","display_date":"","new_abstract":true},"yoast_head":"\n![](\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/10\/SIPA_01300557_000021-125x83.jpg\")
\r\n <\/picture>\r\n \n
Les entreprises qui construisent les syst\u00e8mes d’IA les plus puissants admettent que leurs produits repr\u00e9sentent des risques catastrophiques, mais ne proposent aucune solution technique convaincante. <\/p>\n\n\n\n![](\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/10\/SIPA_01300557_000030-125x83.jpg\")
\r\n <\/picture>\r\n \n ![](\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/10\/SIPA_shutterstock41413413_000012-125x83.jpg\")
\r\n <\/picture>\r\n \n ![](\"https:\/\/legrandcontinent.eu\/fr\/wp-content\/uploads\/sites\/2\/2026\/10\/SIPA_shutterstock41413409_000007-125x83.jpg\")
\r\n <\/picture>\r\n \n
Deuxi\u00e8mement, nous avons compris que le plus grand risque n’est pas l’IA puissante, mais l’asym\u00e9trie dans l’acc\u00e8s \u00e0 l’IA puissante. Asym\u00e9trie entre attaquants et d\u00e9fenseurs, entre quelques entreprises et tous les autres, entre quelques pays et le reste du monde ; asym\u00e9trie dans le contr\u00f4le des capacit\u00e9s et de la puissance de calcul ; asym\u00e9trie de pouvoir.<\/p>\n\n\n\n